Repository navigation
CCCP Launcher 0.9.11 Full Offline
CCCP Launcher 0.9.11
这是 Windows x64 完整离线版,内置 CPU、CUDA 13、AMD/HIP、Miniconda、便携编译工具链和所需 Python 依赖;不包含模型权重。请下载 Release 中的安装器、分卷清单和全部分卷到同一目录,然后双击 CCCP-Launcher-0.9.11-Offline-Setup.exe。
本版重点
- 冻结当前已验证的公共 VQ 推理双路线:Decode 使用 packed VQ 融合执行器,Prefill 按批量与设备能力自动选择短批 packed VQ 或长批 Native8/FP8 分组矩阵乘。
- DSV4、Qwen、GLM、Kimi 通过模型清单接入公共算子、显存规划和缓存层;不按模型目录名写死分支,也不减少专家。
- 清理实验性 resident-tile 与失效探针,防止以后误回退到逐 token/逐专家慢路径。
- 修复 Kimi/MTP Prefill 工作区生命周期,以及中文安装路径下 NVIDIA 算子编译失败的问题。
- CPU、CUDA、AMD 三套环境均随包提供并在封装时独立校验;NVIDIA 预编译算子覆盖 SM75、SM86、SM89、SM90、SM120。
验证范围
- H20 单卡、32 GiB 显存:DeepSeek-V4、Qwen3.5、GLM-5.2、Kimi K3 均完成真实模型加载和生成;Qwen 另完成 CPU 实模生成。
- DSV4 本轮实测 4096-token Prefill 为 1772.51 token/s,稳态 Decode 中位 40.10 token/s;Qwen GPU Decode 为 52.10 token/s。实际速度受模型配置、显存、内存带宽和并发负载影响。
- 自动化回归:409 passed、11 skipped;另通过五架构算子审计、离线 EXE/API 冒烟和逐文件 SHA-256 校验。
源码边界
GitHub 仓库开放 engine/CCCP-Engine 推理运行时源码,便于审阅和贡献。启动器工程源码、模型权重和 CCCP 量化框架不在公开发行范围内。