- 确保cuda10、cudnn7、opencv已经安装了
#查看cuda版本
cat /usr/local/cuda/version.txt
#查看cudnn版本
nvcc -V
#查看opencv版本
pkg-config --modversion opencv
如果没装,自己百度安装好上面三个。
- 安装onnxruntime
sh ./onnx_install/onnxruntime_install.sh
onnxruntime安装完毕请将./local/lib/目录下的libonnxruntime.so拷贝到此目录下
- 编译predict.cpp
mkdir build && cd build
cmake ..
make install predict
编译成功会在build目录下生成predict文件
- 开始推理
./predict your_model_path//your_model.onnx your_img_path//your_img.jpg
[注] 样例资源在some_resource处下载