Skip to content

FastDeploy 0.4.0

Compare
Choose a tag to compare
@jiangjiajun jiangjiajun released this 23 Oct 06:24
· 1493 commits to develop since this release
9bc5b11

0.4.0版本新增Android移动端部署支持!

What's Changed

移动端部署

  • 增加FastDeploy Android C++预测库,支持arm64-v8a和armeabi-v7a架构,详见 预编译库下载
  • 增加目标检测模型PicoDet的Android部署,详见示例
  • 增加图像分类PaddleClas系列模型的Android部署,详见示例

模型

  • 优化YOLOv5/6/7 GPU部署端到端性能,通过YOLOv5::UseCudaPreprocessing()启用GPU前处理后,T4 GPU(TensorRT)上性能提升30%~50%,详见PR说明 #370
  • 增加7个Web端js部署案例,详见js部署示例
  • 增加TinyPose以及PicoDet+TinyPose串联Pipeline部署支持,详见示例
  • 增加Torch Vision ResNet系列模型的部署支持,详见示例
  • PPOCRSystemv2 & PPOCRSystemv3重命名为PPOCRv2 & PPOCRv3
  • 优化PaddleSeg & PaddleOCR中部分模型警告信息

服务化部署

  • 增加语义模型TTS服务化部署,详见示例
  • 增加ERNIE 3.0服务化部署,详见示例
  • 修复服务化CPU部署镜像中的core问题

推理后端

  • GPU部署增加EnablePinedMemory接口,支持Paddle Inference和TensorRT推理时,使用Pinned Memory,提升数据从GPU拷贝至CPU的传输生能,详见PR #403

文档(仍在完善中)

New Contributors

Full Changelog: release/0.3.0...release/0.4.0