python 接口没有提供使用GPU的入参

[sithrxpeng]

pythonAPI是否可以增加入参,支持将3个模型的onnxruntime能够使用以下的入参来调用gpu
因为用CPU真的好慢,改成GPU快十几倍

self.session = ort.InferenceSession(onnx_path, providers=['CUDAExecutionProvider'])

[tunmx]

感谢提醒，我下次更新会添加它，谢谢

[zhouenxian]

建议直接出个tensorrt推理的版本吧，onnx 指定 providers=CUDAExecutionProvider推理速度并不具有优势，还是转为为tensorrt的.engine模型,然后用pycuda或者cudart推理才能真正发挥nvidai显卡的优势。