量化模型导出onnx，模型失效

[CtSTS]

请将下面信息填写完整，便于我们快速解决问题，谢谢！

问题描述
PaddleOCR rec_ppocr_v3 模型进行PTQ量化，导出inference.pdiparams .pdmodel 进行测试是正确的
推理命令
python tools/infer/predict_rec.py --use_gpu=False --use_onnx=True --rec_model_dir=./inference/inference_rec_ppocr_v3_20240326_ptq/traffic_spot_rec_svtr_v1.0_20240326_ptq.onnx --image_dir=./02_spot.jpg --rec_image_shape "3, 48, 96" --rec_char_dict_path ./ppocr/utils/ppocr_keys_v1_spot.txt
结果
[2024/03/27 18:24:20] ppocr INFO: In PP-OCRv3, rec_image_shape parameter defaults to '3, 48, 320', if you are using recognition model with PP-OCRv2 or an older version, please set --rec_image_shape='3,32,320
[2024/03/27 18:24:20] ppocr INFO: Predicts of ./02_spot.jpg:('5', 0.9968405961990356)

但是使用这两个模型文件导出onnx + calibration cache 放在 TensorRT 上进行推理时，几乎所有结果都不对

paddle2onnx --model_dir ./inference/inference_rec_ppocr_v3_20240326_ptq/ --model_filename inference.pdmodel --params_filename inference.pdiparams --deploy_backend tensorrt --save_file ./inference/inference_rec_ppocr_v3_20240326_ptq/ptq.onnx --save_calibration_file ./inference/inference_rec_ppocr_v3_20240326_ptq/ptq_calib.cache --opset_version 13 --enable_onnx_checker True

更多信息 :

• 用于部署的推理引擎:
• 为什么需要转换为ONNX格式：
• Paddle2ONNX版本:
• 你的联系方式(Email/Wechat/Phone):

报错截图

其他信息

[Zheng-Bicheng]

有用ONNXRuntime验证过吗？