Skip to content

SimdYolo 0.11.3

Choose a tag to compare

@github-actions github-actions released this 11 Nov 10:14
· 5 commits to main since this release

SimdYolo 0.11.3

本版包含 CPU 最近邻上采样和最大池化优化,以及 Vulkan 张量拼接的批量传输优化。推理库和训练库统一使用版本 0.11.3,目标框架为 .NET 10。

  • CPU 的 2 倍最近邻上采样沿用连续行写入,省去未使用的列映射分配。最大池化预先计算窗口的有效边界,减少内层边界判断。
  • Vulkan 在拼接前集中上传输入,一次同步后按源缓冲区批量提交拷贝区域。以 4 批次、3 个非空输入为例,拷贝调用由 12 次降至 3 次。测试覆盖主机和设备输入、空输入、不同批次及重复输入。
  • 包含本版本此前的启动改进,包括 PT 模型解析与 BN 融合、ONNX 路由与工作区复用,以及进程内 Vulkan 实例复用。启动验证与复现

安装

dotnet add package SimdYolo --version 0.11.3
dotnet add package SimdYolo.Training --version 0.11.3

训练包会传递引入同版推理包。模型的来源、校验值和许可证见模型清单。

稳态推理实测

Windows、Core i7-12700、RTX 3060,FP32、640×640、batch 1,CPU 12 线程。使用仓库中的公交车样图,对比改动前后同为 0.11.3 的程序集。每组运行两轮 ABBA 顺序,每个版本共四个独立进程窗口,每窗口在稳态计时前执行 70 帧。下表为各窗口中位耗时的中位数,包含原始输出回读。

同机单线程测试中,[1,256,20,20] 的 5×5 最大池化由 431.0 µs 降至 379.5 µs,约减少 12%。[1,128,40,40] 的 2 倍上采样每次减少 488 字节托管分配。单算子测试复用输出池并关闭 .NET 分层编译。

模型 后端 改动前 改动后
YOLOv8n PT CPU 40.70 ms 40.23 ms
YOLOv8n PT Vulkan 6.42 ms 5.94 ms
YOLO11n 动态 ONNX CPU 37.57 ms 29.04 ms
YOLO11n 动态 ONNX Vulkan 6.15 ms 6.88 ms
YOLO11n 动态 ONNX,仅运行 Vulkan 复测 Vulkan 6.16 ms 5.71 ms

PT 的 CPU 耗时接近,Vulkan 下降约 7.5%。动态 ONNX 的 Vulkan 两轮结果方向不同,端到端收益仍不确定。测量脚本和口径见对照工具。

本轮首帧和稳态输出对照中,PT 的 CPU/Vulkan 与动态 ONNX 的 Vulkan 输出逐字节一致。动态 ONNX 的 CPU 最大归一化绝对误差为 1.25e-5,按 |新值 - 基线| / max(1, |基线|) 计算。

发布流程

GitHub Actions 的 nuget-release.yml 可手动运行构建、测试和打包验证。推送与两个项目版本一致的正式版标签后,流水线通过 NuGet Trusted Publishing 上传同一批产物,回读 NuGet 上的包内容,然后发布 GitHub Release 与 SHA-256 清单。

首次发布前,在 GitHub 的 nuget-release 环境中配置变量 NUGET_USER,值为拥有两个包的 NuGet 个人或组织账户名。在 NuGet 的 Trusted Publishing 中授权仓库 donet-org-cn/SimdYolo、工作流 nuget-release.yml、环境 nuget-release,包名限定为 SimdYolo 和 SimdYolo.Training。NuGet 官方配置说明