v0.0.9

v0.0.9 — 2026-10-23

新功能

• 崩溃诊断：崩溃报告、Windows minidump、飞行记录、系统/驱动/事件日志诊断包；托盘可一键导出，详见 CRASHDIAG.md。
• DFlash2 投机解码：新增 drafter 2，支持 greedy 和采样，单槽。
• KV 快照增强：新会话在系统提示中段分叉时，下一次从分叉点恢复；RAM/SSD 按耗时选层、两段淘汰、暂停点落盘；网络盘文件多时不再卡推理。
• PLE n-gram 大表可选 bf16 无损版：dtype 0，引擎按行宽自动识别。
• GGUF：专家权重支持 IQ3_XXS / IQ2_S / Q2_0；dense 权重保留原格式（decode 不再读 q8g32 重量化）；新增 GGUF → i4r 专家补丁生成器和启动器开关 GGUF_I4R_PATCH；down f16 pairs 和 LUT prefill 合并 tile 默认开。
• API：新增 /v1/tokenize、/v1/detokenize；按请求生成 ZIP 日志（REQLOG）；用量统计改为全历史小时聚合；请求体上限提升到 128 MiB。
• 控制台/设置：新增"构成主义"界面风格；用量柱状图悬浮显示当天请求/token/缓存命中；单请求上限新增 64K–512K 预设，超过 256K 自动开 YaRN。
• Benchmark：新增增量 prefill 测试段（KV 延续阶梯，BENCH_INCREMENT_*）；Summary 去重；正确转发 MOE_A4。
• Windows：设置面板/托盘改 PerMonitorV2 + 全量 DPI 缩放；新增 release_win.sh / release_win.bat 发行打包脚本。

性能

• Windows 128K prefill：PLE 两 chunk 预取（逐 bit 不变，稳态 +0.4%，6 s 级磁盘停顿从第 3 块起完全隐藏）+ paged KV 恒等页表快路径（逐 bit 不变，稳态 +0.86%，qsa:flash −5.5%）。
• Windows PLE gather 默认 8 路多泵（QWENOX_PLE_RINGS 可调）。
• decode 融合减少 kernel 启动；采样草稿接入合批草稿池（默认开）；采样 MTP 轮按草稿置信度逐轮定长（QWENOX_SPEC_CONF，默认 0.9）。
• GGUF prefill MoE 尾部优化；dense 原格式减少 decode 重量化；LUT 合并 tile 默认开。
• hipBLASLt 算法按 P 分桶（A1），改善 agent 短增量 prefill。
• KVSNAP 按耗时选层，减少快照开销。

修复

• Windows 崩溃诊断实机修正：访问冲突报告、C++ 异常原因、PDB 链接参数、engine 链接 advapi32。
• 客户端文本里的字面控制串按普通文本编码，避免 F1 特殊 token 注入。
• 未声明可调用工具的请求禁止输出 <tool_call>。
• 客户端断连立即中断 prompt 预填。
• 修复 GCC dangling-reference 误报；托盘版本与状态标题合并。
• 修正 kprof 的 PLE 归属（ple_wait/ple_dev 分段）。
• gfx1151 只采信整封装功耗，残桩传感器不再上报。

其他

• NPU 卸载移出主线存档到 attic/；Linux NPU 路径因 amdxdna 强制 IOMMU SVA 与 prefill 带宽需求冲突而封死。
• QWENOX_GG_A4 标记为废弃、禁止使用，仅留档。
• README 正文标点统一为中文全角；Linux prefill 实测数据更新为 hgn v2、MOE_A4=3。
• 版本号 0.0.9。

v0.0.8

下载与使用

下载下方的 qwenox-v0.0.8-windows.zip，解压后得到 qwenox 文件夹。

要求：Ryzen AI Max（gfx1151）这类 128 GB 统一内存机器，Windows 11，BIOS 里给 GPU 划分 96 GiB 显存。运行只需要 AMD 显卡驱动，不用装 ROCm、Git 或编译工具。

1. 按 README「支持的权重」一节下载模型权重，放到 qwenox\models\。压缩包里不含权重，只带了词表 models\tokenizer\。
2. 双击 start_win.exe，任务栏右下角会出现托盘图标。
3. 双击托盘图标打开控制台，在 #/engine 页选择权重并启动引擎。也可以先用 settings_win.exe 配置好再启动。
4. 启动后，OpenAI 兼容接口在 http://127.0.0.1:8731/v1。

已经在用旧版的话，可以只用新包里的 build\、start_win.exe、settings_win.exe 覆盖旧文件，你自己的 service.conf 和 models\ 保持不动。

新功能

• Anthropic Messages 接口：新增 /v1/messages 与 /v1/messages/count_tokens，Anthropic 官方 SDK 和走这套协议的客户端可以直接连。
• 支持 Unsloth UD-IQ4_XS GGUF：纯 GGUF 权重可在 Windows 上启动，带 MTP 投机解码。
• 默认权重改为 V2 HGN。
• KV 快照目录可自选：KVSNAP_DIR，设置面板里可以选，支持放在网络盘上。
• 运行时可视化：控制台可打开实时视图 /viz-live，以及 3D 模型结构视图 /viz-model（随解码过程变化，带数据流箭头）。
• 控制台：可切换界面风格（卡带 / 打孔机）；总览页新增温度卡（CPU / GPU / 热点 / SoC）和版本号。
• 托盘：新增"开机自启"和"系统提示"两个开关；菜单第一行显示版本号。
• prefill 4-bit 加速（MOE_A4）：可选开关，默认关，在设置面板 V2 权重页勾选。长文本 prefill 更快，64K 以内的实测输出质量感知不到差别。
• 网页可在磁盘上覆盖：项目根目录 web/（或 WEB_DIR）下有同名文件时优先使用，改前端页面不用重新编译。
• 版本号：新增 VERSION 文件，/health 返回 version / build，引擎支持 --version。

性能

• 多路并发解码：多个请求同时生成时合批执行投机验证和草稿，并按当前并发路数选择 MTP 步长，并发吞吐明显提升。
• dense 层 WMMA 默认开启（QWENOX_DENSE_WMMA=0 可关）。
• 两路长 prompt 同时 prefill 时，剩余少的先跑，只为轻量任务让出算力；2×64K 的首字时间约 100 s → 87 s。
• v2 权重的 dense 反量化提速，MoE 采用混合 tiling（输出逐位不变）。
• Windows 上加载 GGUF 后，引擎常驻的主机内存从 8.0 GiB 降到 2.9 GiB。
• Windows 默认 prefill 分块从 8192 改为 6144。

修复

• Windows 并发服务崩溃（PLE 预读与解码共用同一个完成端口，互相抢完成包）。
• 投机验证的 graph 捕获后，事件句柄悬空导致的随机崩溃。
• 并发时输出与单独运行的结果不一致。
• 两路长 prefill 同时进行时 PLE 预取串号。
• API 比引擎先启动时，首个请求崩溃，以及并发槽位恒为 1。
• 偶发"只有思维链、没有正文"的空回复。
• 设置面板：切换权重版本时提示文字叠在一起；脚本转换出的 MTP 头被误判为错误文件；显存估算按 Windows 实测校准。
• 托盘探测引擎是否存活时不再刷屏引擎日志。
• 控制台动效不再被 Windows 的"减少动画效果"设置关掉。
• 删除从未实现、调用恒返回 500 的 /cache 端点。

其他

• 项目统一更名为 Qwenox；Linux 下引擎产物名为 build/qwenox-engine。

v0.0.7-fix-2

相比v0.0.7-fix修复了最大图片数量不生效的问题。

傻逼KKK，这玩意最近大概率在他妈的降智，大把小任务给我搞出BUG。

v0.0.7-fix

修复v0.0.7的setting_win面板BUG，前端布局优化。

v0.0.7

修复了最近提到的一些BUG，ROCm改为10.1，据说修复了Windows的显存分配问题。大改了很多UI逻辑，如果用不惯可以继续用v0.0.6，性能没有变化。

v0.0.6

优化一点prefill性能，但不多；修复图片限制16张、特殊字符等BUG

v0.0.5

支持hgn v2格式权重，windows可以设置service.cof里的PREFILL_CHUNK为4096，节省3.5G显存。

v0.0.4

增加YaRN，给Windows优化PLE，给Windows增加PREFILL_CHUNK选项，可选较低的值降低显存占用，引擎也可以选择监听的host，修复一些BUG。

v0.0.3

Windows预编译程序包，Linux请自动编译。

v0.0.2

只包含Windows预编译包，Linux请自行编译。