Repository navigation
CCCP Launcher 0.9.12 Full Offline
CCCP Launcher 0.9.12
这是 Windows x64 完整离线版,内置 CPU、CUDA 13、AMD/HIP、Miniconda、便携编译工具链和所需 Python 依赖;不包含模型权重。请下载 Release 中的安装器、分卷清单和全部分卷到同一目录,然后双击 CCCP-Launcher-0.9.12-Offline-Setup.exe。
本版重点
- DSV4、Qwen、GLM、Kimi 统一通过模型清单接入公共码本能力层,不按模型目录名维护私有数学实现,也不减少专家。
- 紧凑 CUDA Decode 冻结为 packed-index + Q8 码本 + DP4A;长批 Prefill 使用公共 E4M3/FP8 分组矩阵乘。
- 删除旧单 token E4M3 MoE Decode、Kimi 私有专家池/TP Hybrid 和旧
dense_vq.py入口,防止后续误回退。 - Windows JIT 只使用随包 CUDA 13、便携 MSVC/Windows SDK;NVIDIA 预编译算子覆盖 SM75、SM86、SM89、SM90、SM120。
实测范围
公共硬件基线为单张 NVIDIA H20-3e(SM90,139.81 GiB),CUDA_VISIBLE_DEVICES=2,随包 PyTorch 2.13.0+cu130 / CUDA 13.0:
| 模型 | 设置 | Prefill | Decode |
|---|---|---|---|
| Qwen3.5 27B | 15.65 GiB 常驻档,512-token 长批 / 64-token Decode | 2908 token/s | 53.76 token/s |
| DSV4 | 32 GiB 进程上限,4096-token 长批 / 128-token Decode | 1772.51 token/s | 34.18 token/s |
| GLM-5.3 Flash S | 全驻留,4096-token 长批参考 / 本轮 Decode | 1500.41 token/s | 10.05 token/s |
| GLM-5.3 Flash M | 120 GiB 上限,本轮短提示 | 2.2 token/s | 9.47 token/s |
| Kimi K3 470B | 120 GiB 上限、82432 专家,本轮短提示 | 1.4 token/s | 3.73 token/s |
性能目标继续保留,但不是本次发行的硬门槛。除 Qwen GPU Decode 外,本轮 DSV4、GLM Flash S/M 和 Kimi 仍低于预定性能红线;功能和真实生成通过不等同于全部达速。自动化回归为 500 passed、11 skipped;五档随包 CUDA 算子均重新编译并通过审计。
源码边界
GitHub 仓库开放 engine/CCCP-Engine 推理运行时源码,便于审阅和贡献。启动器工程源码、模型权重和 CCCP 量化框架不在公开发行范围内。