【Hackathon 4th No.180】在FastDeploy中集成集成地平线推理引擎 #410
Conversation
|
|
|
@Zheng-Bicheng 麻烦必城帮忙Review下 |
|
|
||
| 4. 将backends集成进FastDeploy | ||
|
|
||
| 5. 分类模型验证正确性 |
There was a problem hiding this comment.
这里为什么要有一个分类模型验证准确性啊，是说先移植分类模型再移植PPYOLO-E吗？
There was a problem hiding this comment.
分类模型一般情况下是可以直接通过网络输出结果的，因此，为了验证模型推理部分的正确性，所以先移植分类模型，之后再移植PPYOLO-E
There was a problem hiding this comment.
那你的意思是先在FastDeploy上移植Clas模型随后移植PPYOLOE是吗？
There was a problem hiding this comment.
那你需要在你的RFC中提到你需要移植哪一个Clas模型哦。
|
|
||
| 5. 分类模型验证正确性 | ||
|
|
||
| 6. 编写PP-YOLOE前后处理 |
There was a problem hiding this comment.
为什么需要修改preprocess?这里是有什么不能用的算子导致需要修改后处理吗？
There was a problem hiding this comment.
模型推理部分不能直接得到框的位置，以yolo系列为例，需要后处理部分计算框的偏置等信息，诸如NMS部分也是不能在芯片上直接计算的，所以，需要修改后处理部分。也有可能FastDeploy之前已经实现了，若已经实现的话可不实现这部分。
There was a problem hiding this comment.
- FastDeploy编写了对应的可视化代码，详情可以看一下PaddleDetection的demo，能够直接得到可视化后的图片。
- 如果只是NMS不支持，可以裁剪掉NMS后的部分。这部分我已经实现了，你无需修改后处理代码，可以参考PaddleDetection下RKNPU2 Demo的实现。
There was a problem hiding this comment.
这里应该是不需要移植前后处理的，把相关部分删除一下吧
| [https://github.com/PaddlePaddle/Paddle/issues/50631#task180](https://github.com/PaddlePaddle/Paddle/issues/50631#task180) | ||
|
|
||
| ## 2、功能目标 | ||
| 将地平线推理引擎接入FastDeploy，开发HorizonBackends部分，同时针对PP-YOLOE开发对应的前后处理部分。 |
|
|
||
| | 领域 | 飞桨文档体验方案 | | ||
| |----------------------------------------------------------|-------------------------------------------| | ||
| | 提交作者<input type="checkbox" class="rowselector hidden"> | 晴天 | |
| ## 2、功能目标 | ||
| 将地平线推理引擎接入FastDeploy，开发HorizonBackends部分，同时针对PP-YOLOE开发对应的前后处理部分。 | ||
| ## 3、意义 | ||
| 为地平线芯片模型推理提供成熟API，提高开发者开发效率。 |
There was a problem hiding this comment.
这里可以改为为FastDeploy增添地平线推理引擎，提高开发者开发效率。开发者基本上是接触不到你写的backend的，因此并没有提供成熟API一说。
There was a problem hiding this comment.
@Zheng-Bicheng 辛苦大佬再帮忙review下吧
| [https://github.com/PaddlePaddle/Paddle/issues/50631#task180](https://github.com/PaddlePaddle/Paddle/issues/50631#task180) | ||
|
|
||
| ## 2、功能目标 | ||
| 将地平线推理引擎接入FastDeploy，开发HorizonBackends部分，同时针对PP-YOLOE开发对应的前后处理部分。 |
|
|
||
| 4. 将backends集成进FastDeploy | ||
|
|
||
| 5. 分类模型验证正确性 |
There was a problem hiding this comment.
那你需要在你的RFC中提到你需要移植哪一个Clas模型哦。
| * 测试PP-YOLOE模型的正确性，检查有无内存泄露（2023-3-23至2023-3-30） | ||
| * 提交PR(2023-3-30) | ||
|
|
||
| # 名词解释 |
There was a problem hiding this comment.
这里如果没有名词解释和参考资料可以直接删除
There was a problem hiding this comment.
@Zheng-Bicheng 大佬有空再帮忙review下吧
|
@jiangjiajun 我这边没啥问题了。 |
No description provided.