English | 简体中文
本目录下提供infer_xxx.cs
来调用C# API快速完成PaddleDetection模型PPYOLOE在CPU/GPU上部署的示例。
在部署前,需确认以下两个步骤
-
- 软硬件环境满足要求,参考FastDeploy环境要求
-
- 根据开发环境,下载预编译部署库和samples代码,参考FastDeploy预编译库
在Windows下执行如下操作完成编译测试,支持此模型需保证FastDeploy版本1.0.4以上(x.x.x>=1.0.4)
下载完成后将该程序添加到环境变量PATH中
https://bj.bcebos.com/paddlehub/fastdeploy/ppyoloe_crn_l_300e_coco.tgz # (下载后解压缩) https://gitee.com/paddlepaddle/PaddleDetection/raw/release/2.4/demo/000000014439.jpg
本文档编译的示例代码可在解压的库中找到,编译工具依赖VS 2019的安装,Windows打开x64 Native Tools Command Prompt for VS 2019命令工具,通过如下命令开始编译
cd D:\Download\fastdeploy-win-x64-gpu-x.x.x\examples\vision\detection\paddledetection\csharp
mkdir build && cd build
cmake .. -G "Visual Studio 16 2019" -A x64 -DFASTDEPLOY_INSTALL_DIR=D:\Download\fastdeploy-win-x64-gpu-x.x.x -DCUDA_DIRECTORY="C:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/v11.2"
nuget restore
msbuild infer_demo.sln /m:4 /p:Configuration=Release /p:Platform=x64
关于使用Visual Studio 2019创建sln工程,或者CMake工程等方式编译的更详细信息,可参考如下文档
注意Windows上运行时,需要将FastDeploy依赖的库拷贝至可执行程序所在目录, 或者配置环境变量。FastDeploy提供了工具帮助我们快速将所有依赖库拷贝至可执行程序所在目录,通过如下命令将所有依赖的dll文件拷贝至可执行程序所在的目录(可能生成的可执行文件在Release下还有一层目录,这里假设生成的可执行文件在Release处)
cd D:\Download\fastdeploy-win-x64-gpu-x.x.x
fastdeploy_init.bat install %cd% D:\Download\fastdeploy-win-x64-gpu-x.x.x\examples\vision\detection\paddledetection\csharp\build\Release
将dll拷贝到当前路径后,准备好模型和图片,使用如下命令运行可执行程序即可
cd Release
infer_ppyoloe_demo.exe ppyoloe_crn_l_300e_coco 000000014439.jpg 0 # CPU
infer_ppyoloe_demo.exe ppyoloe_crn_l_300e_coco 000000014439.jpg 1 # GPU
fastdeploy.vision.detection.PPYOLOE(
string model_file,
string params_file,
string config_file
fastdeploy.RuntimeOption runtime_option = null,
fastdeploy.ModelFormat model_format = ModelFormat.PADDLE)
PaddleDetection PPYOLOE模型加载和初始化。
参数
- model_file(str): 模型文件路径
- params_file(str): 参数文件路径
- config_file(str): 配置文件路径,即PaddleDetection导出的部署yaml文件
- runtime_option(RuntimeOption): 后端推理配置,默认为null,即采用默认配置
- model_format(ModelFormat): 模型格式,默认为PADDLE格式
fastdeploy.DetectionResult Predict(OpenCvSharp.Mat im)
模型预测接口,输入图像直接输出检测结果。
参数
- im(Mat): 输入图像,注意需为HWC,BGR格式
返回值
- result(DetectionResult): 检测结果,包括检测框,各个框的置信度, DetectionResult说明参考视觉模型预测结果