Repository navigation
SimdYolo 0.11.3
SimdYolo 0.11.3
本版包含 CPU 最近邻上采样和最大池化优化,以及 Vulkan 张量拼接的批量传输优化。推理库和训练库统一使用版本 0.11.3,目标框架为 .NET 10。
- CPU 的 2 倍最近邻上采样沿用连续行写入,省去未使用的列映射分配。最大池化预先计算窗口的有效边界,减少内层边界判断。
- Vulkan 在拼接前集中上传输入,一次同步后按源缓冲区批量提交拷贝区域。以 4 批次、3 个非空输入为例,拷贝调用由 12 次降至 3 次。测试覆盖主机和设备输入、空输入、不同批次及重复输入。
- 包含本版本此前的启动改进,包括 PT 模型解析与 BN 融合、ONNX 路由与工作区复用,以及进程内 Vulkan 实例复用。启动验证与复现
安装
dotnet add package SimdYolo --version 0.11.3
dotnet add package SimdYolo.Training --version 0.11.3训练包会传递引入同版推理包。模型的来源、校验值和许可证见模型清单。
稳态推理实测
Windows、Core i7-12700、RTX 3060,FP32、640×640、batch 1,CPU 12 线程。使用仓库中的公交车样图,对比改动前后同为 0.11.3 的程序集。每组运行两轮 ABBA 顺序,每个版本共四个独立进程窗口,每窗口在稳态计时前执行 70 帧。下表为各窗口中位耗时的中位数,包含原始输出回读。
同机单线程测试中,[1,256,20,20] 的 5×5 最大池化由 431.0 µs 降至 379.5 µs,约减少 12%。[1,128,40,40] 的 2 倍上采样每次减少 488 字节托管分配。单算子测试复用输出池并关闭 .NET 分层编译。
| 模型 | 后端 | 改动前 | 改动后 |
|---|---|---|---|
| YOLOv8n PT | CPU | 40.70 ms | 40.23 ms |
| YOLOv8n PT | Vulkan | 6.42 ms | 5.94 ms |
| YOLO11n 动态 ONNX | CPU | 37.57 ms | 29.04 ms |
| YOLO11n 动态 ONNX | Vulkan | 6.15 ms | 6.88 ms |
| YOLO11n 动态 ONNX,仅运行 Vulkan 复测 | Vulkan | 6.16 ms | 5.71 ms |
PT 的 CPU 耗时接近,Vulkan 下降约 7.5%。动态 ONNX 的 Vulkan 两轮结果方向不同,端到端收益仍不确定。测量脚本和口径见对照工具。
本轮首帧和稳态输出对照中,PT 的 CPU/Vulkan 与动态 ONNX 的 Vulkan 输出逐字节一致。动态 ONNX 的 CPU 最大归一化绝对误差为 1.25e-5,按 |新值 - 基线| / max(1, |基线|) 计算。
发布流程
GitHub Actions 的 nuget-release.yml 可手动运行构建、测试和打包验证。推送与两个项目版本一致的正式版标签后,流水线通过 NuGet Trusted Publishing 上传同一批产物,回读 NuGet 上的包内容,然后发布 GitHub Release 与 SHA-256 清单。
首次发布前,在 GitHub 的 nuget-release 环境中配置变量 NUGET_USER,值为拥有两个包的 NuGet 个人或组织账户名。在 NuGet 的 Trusted Publishing 中授权仓库 donet-org-cn/SimdYolo、工作流 nuget-release.yml、环境 nuget-release,包名限定为 SimdYolo 和 SimdYolo.Training。NuGet 官方配置说明