[Question]: uiex抽取速度问题

[xiongboying]

请提出你的问题

用v100部署uiex，跑单个营业执照识别抽取需要6秒左右，耗时是否不正常，是否有提高预测效率的方法

[putdoor]

1.感觉第一次推理的时候需要加载模型，有个冷启动时间，后续单张抽取时间会下降；
2.也发现图片尺寸越小、分辨率越低，抽取越快；
3.部署的时候，看看是否使用gpu，如果使用了gpu，看下显存占用情况，是否这块卡上有其他任务；
4.试试批量推理，用并行的方式去处理多张图片。以上是我的使用经验，希望对你有所帮助。