Skip to content

CCCP Launcher 0.9.12 Full Offline

Choose a tag to compare

@Value99 Value99 released this 27 Aug 12:55
· 9 commits to main since this release

CCCP Launcher 0.9.12

这是 Windows x64 完整离线版,内置 CPU、CUDA 13、AMD/HIP、Miniconda、便携编译工具链和所需 Python 依赖;不包含模型权重。请下载 Release 中的安装器、分卷清单和全部分卷到同一目录,然后双击 CCCP-Launcher-0.9.12-Offline-Setup.exe。

本版重点

  • DSV4、Qwen、GLM、Kimi 统一通过模型清单接入公共码本能力层,不按模型目录名维护私有数学实现,也不减少专家。
  • 紧凑 CUDA Decode 冻结为 packed-index + Q8 码本 + DP4A;长批 Prefill 使用公共 E4M3/FP8 分组矩阵乘。
  • 删除旧单 token E4M3 MoE Decode、Kimi 私有专家池/TP Hybrid 和旧 dense_vq.py 入口,防止后续误回退。
  • Windows JIT 只使用随包 CUDA 13、便携 MSVC/Windows SDK;NVIDIA 预编译算子覆盖 SM75、SM86、SM89、SM90、SM120。

实测范围

公共硬件基线为单张 NVIDIA H20-3e(SM90,139.81 GiB),CUDA_VISIBLE_DEVICES=2,随包 PyTorch 2.13.0+cu130 / CUDA 13.0:

模型 设置 Prefill Decode
Qwen3.5 27B 15.65 GiB 常驻档,512-token 长批 / 64-token Decode 2908 token/s 53.76 token/s
DSV4 32 GiB 进程上限,4096-token 长批 / 128-token Decode 1772.51 token/s 34.18 token/s
GLM-5.3 Flash S 全驻留,4096-token 长批参考 / 本轮 Decode 1500.41 token/s 10.05 token/s
GLM-5.3 Flash M 120 GiB 上限,本轮短提示 2.2 token/s 9.47 token/s
Kimi K3 470B 120 GiB 上限、82432 专家,本轮短提示 1.4 token/s 3.73 token/s

性能目标继续保留,但不是本次发行的硬门槛。除 Qwen GPU Decode 外,本轮 DSV4、GLM Flash S/M 和 Kimi 仍低于预定性能红线;功能和真实生成通过不等同于全部达速。自动化回归为 500 passed、11 skipped;五档随包 CUDA 算子均重新编译并通过审计。

源码边界

GitHub 仓库开放 engine/CCCP-Engine 推理运行时源码,便于审阅和贡献。启动器工程源码、模型权重和 CCCP 量化框架不在公开发行范围内。