[犀牛鸟 2026 #6789] Youtu-VL-4B-Instruct ncnn_llm 独立 PR 与 Windows/Linux 可审计回归

[March-77]

Issue 要求逐项核对

对应任务：Tencent/ncnn#6789。实现位于共享 ncnn_llm 仓库的独立 Youtu-VL 分支，不另建模型专用 GitHub 仓库。

Issue 要求	状态	实现与证据
使用 pnnx 转换 Youtu-VL	已完成	convert.py 与分离式 40 层 decoder/pnnx 流程
C++ 实现解码并尽量减少依赖	已完成	src/youtu/；运行时不加载 Python、PyTorch、Transformers 或原始 safetensors
相同输入下最终文本与 PyTorch 一致	已完成固定回归	PyTorch、Linux ncnn、Windows ncnn 的 IDs 均为 [10392, 5240, 1896]，文本均为 Two tabby
CMake 至少两个平台编译运行	已完成	Linux 与原生 Windows 均完成构建、CTest 3/3、vision boundary 与真实 E2E
Discussion 技术总结与 repo URL	本文	repo、分支、PR、命令、日志和截图均列于下文
可选：向 ncnn_llm 提交 PR	已创建 Draft	nihui/ncnn_llm#8；运行包尚未完成公开验证，因此保持 Draft

仓库、分支与模型版本

• Repo：March-77/ncnn_llm
• 独立分支：model/youtu-vl
• Upstream PR：nihui/ncnn_llm#8（Draft）
• Checkpoint：tencent/Youtu-VL-4B-Instruct@8d30a0e49662a1d628a472b12df264dbcd768753
• 运行包目标：helloworldzzr/Youtu-VL-4B-Instruct-ncnn
• 当前包状态：截至本次更新，匿名 Hub API 仅能看到 .gitattributes；22 个 payload 尚未完成公开验证，因此本文不声称运行包已可用

构建与复现

Linux：

cmake -S . -B build/youtu -G Ninja -DCMAKE_BUILD_TYPE=Release \
  -DNCNN_SOURCE_DIR=/path/to/ncnn -DNCNN_LLM_FETCH_DEPS=ON \
  -DNCNN_LLM_ENABLE_VULKAN=OFF
cmake --build build/youtu -j
ctest --test-dir build/youtu --output-on-failure
build/youtu/youtu_vl_main \
  --root /path/to/Youtu-VL-4B-Instruct-ncnn --precision fp16 \
  --image models/youtu-vl/testdata/coco_cats.jpg \
  --prompt "Describe this image in one sentence." \
  --full-decoder-ncnn --max-new-tokens 3 --output actual.txt
python models/youtu-vl/verify_text.py --actual actual.txt

原生 Windows 使用相同输入和 CMake 项目，证据工具链为 LLVM-MinGW UCRT / Clang 22.1.8：

cmake -S . -B build/youtu-win -G Ninja -DCMAKE_BUILD_TYPE=Release `
  -DNCNN_SOURCE_DIR=C:/path/to/ncnn -DNCNN_LLM_FETCH_DEPS=ON `
  -DNCNN_LLM_ENABLE_VULKAN=OFF
cmake --build build/youtu-win
ctest --test-dir build/youtu-win --output-on-failure
build/youtu-win/youtu_vl_main.exe --root C:/path/to/Youtu-VL-4B-Instruct-ncnn `
  --precision fp16 --image models/youtu-vl/testdata/coco_cats.jpg `
  --prompt "Describe this image in one sentence." --full-decoder-ncnn `
  --max-new-tokens 3 --output actual.txt

同输入比较结果

固定图片 SHA-256：dea9e7ef97386345f7cff32f9055da4982da5471c48d575146c796ab4563b04e。

后端	Generated IDs	最终文本	Vision boundary
PyTorch	[10392, 5240, 1896]	Two tabby	baseline
Linux ncnn	[10392, 5240, 1896]	Two tabby	max_abs 0.0132732，mean_abs 9.59808e-05
Windows ncnn	[10392, 5240, 1896]	Two tabby	max_abs 0.0132427，mean_abs 9.60921e-05

Linux E2E 为 108.45 s，peak RSS 22,908,812 KiB；Windows direct run 约 94.0/104.0 s，记录到的 peak working set 为 23,206,891,520 bytes。

原始日志、比较结果与截图

证据	Linux	原生 Windows
Configure / build	configure / build	configure / build
CTest	ctest.log	ctest.log
Vision / E2E	vision-only.log / e2e.log	vision-only.log / e2e.log

• PyTorch 原始参考：pytorch-reference.log
• 机器可读三端结果：reference.json
• 运行包本地 manifest 审计：package.log，22 payload、12,177,556,868 字节、逐文件大小与 SHA-256 均 PASS
• 原生 Windows 终端截图：windows-e2e-terminal.png

转换保护与限制

• 约 17 GB decoder trace 与 pnnx 分进程运行，避免同时常驻 PyTorch checkpoint。
• BF16 Embed 先经 FP32 trace 再存为 pnnx FP16，并校验 payload 大小，防止成功退出却产生半尺寸 embedding。
• 没有单独的大型 dynamic prefill graph；136-token prompt 使用 decode graph 逐 token prefill，约需 81 至 90 秒。
• top-10 诊断有一个近边界候选变化，因此只声称 greedy top-1 与最终 IDs/text 精确，不声称完整 top-10 一致。