Skip to content

yolov5的onnx构建tensorrt部署,主要内容为:①、yolov5转onnx教程;②使用C++构建onnx转engine教程;③、使用C++构建engine部署tensorrt教程;

Notifications You must be signed in to change notification settings

tangjunjun966/yolov5-tensorrt-onnx-master

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

6 Commits
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

onnx实现yolov5的tensorrt部署

工程目的

基于C++环境,yolov5模型采用onnx方式实现tensorrt部署

工程缺陷

模型前后处理采用cpu的C++方式实现,速度较慢,后期我有一份基于cuda编码处理数据代码, 链接:https://blog.csdn.net/weixin_38252409/category_12383040.html

文件说明

deploy_yolo_cpp:部署文件样列,已提供cmaklist.txt文件 yolo_cpp:主文件,最新优化部署文件,优化内存分配方式 yolo_cpp_v1:第一个版本文件,未做内存优化 yolov5-master:下载他人文件,yolov5官网转onnx出现问题时,使用此文件转换

本代码详细细节我将记录CSDN的cuda教程专栏中,链接:http://t.csdn.cn/J4KZj

测试结果对比

cpu的2个版本对比

cuda与cpu版本对比

对比可发现基于cuda编写速度提升约10倍!!

我将更新,预计2023年8月底完成,可在博客中第十三章中获得代码链接及相关内容具体解释。

相关测试文件链接

yolov5测试视频,测试结果,转换onnx文件等内容 链接:https://pan.baidu.com/s/1Fk74cj0gDomGLcS0hhGbgA 提取码:yolo 或扫码提取:

我已收到网友相关需求,此代码可自习琢磨研究,该代码是cuda教程部分代码,具体代码解读或系列理论内容在我链接中。基于创造不易,内容查看或小部分代码学习需少量补偿。望理解,也帮忙顺手点赞点赞

CSDN教程链接地址:http://t.csdn.cn/J4KZj

About

yolov5的onnx构建tensorrt部署,主要内容为:①、yolov5转onnx教程;②使用C++构建onnx转engine教程;③、使用C++构建engine部署tensorrt教程;

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages