CCCP Launcher 0.9.16 Full Offline

CCCP Launcher 0.9.16

让普通电脑也能运行原本需要服务器的超大模型。 例如，64GB 内存就能运行 DeepSeek V4 Flash。角色扮演可以加载角色扮演特调专家，代码任务也可以使用对应的代码专家，让有限内存优先用于当前任务真正需要的专家。没有显卡也可以使用 CPU；完整离线包已经包含 Python、推理环境和加速算子，下载后双击即可运行。

0.9.16 修复 RTX 3090 等消费级 NVIDIA 显卡上的 Qwen Dense VQ 紧凑执行和包内 NVCC 工具链识别，并把常见 CUDA 架构的公共融合算子全部预编译进完整离线包。

下载

第一次安装请把以下文件全部下载到同一目录，然后双击安装器：

• CCCP-Launcher-0.9.16-Offline-Setup.exe
• CCCP-Launcher-v0.9.16-offline.parts.json
• 所有 CCCP-Launcher-v0.9.16-win-x64-offline.zip.001、.002……分卷

安装器会显示进度并自动校验、合并、解压和启动。发行包内置 Python、Miniconda、CPU、NVIDIA CUDA 13、AMD ROCm/HIP 环境和离线编译工具链；不包含模型权重、模型专用预设或 CCCP 量化框架源码。

主要变化

• Qwen Dense VQ 的紧凑 GPU 路线仅保存 packed VQ 索引和 Q8 小码本，不再在 MTP 多 token 校验时完整反量化 Dense 权重。
• 公共 Q8 CUDA 算子支持 D=2/4/8/16 和 [N,C] 批输入，修复 Qwen lm_head 元数据不匹配及多 token 显存暴涨。
• 便携 MSVC 自动补齐 NVCC 所需的 Visual Studio 目录契约，始终使用包内 CUDA 13、MSVC 与 Windows SDK。
• NVIDIA 随包算子覆盖 SM75、SM80、SM86、SM89、SM90、SM100、SM120；RTX 20/30/40/50、A100、H20/H100 和 Blackwell 数据中心显卡无需首次现场编译。
• RTX 3090 / SM86 已通过用户实机加载与生成验证；不匹配的新架构仍会使用随包工具链自动编译并缓存。

H20-3e / 随包 CUDA 13 基线

下表沿用同一公共推理分支在 0.9.15 发布门禁中取得的 4096-token Prefill、4096 上下文 Decode 有限值成绩；0.9.16 的变更重点是 Windows 紧凑 Q8 兼容性和预编译覆盖。

完整模型名	并行	Prefill	Decode
Qwen3.8 27B CCCP-L	TP1	2462.68	56.94
DeepSeek V4 CCCP-S	TP1	2786.87	46.23
GLM-5.2 CCCP	TP4	932.36	25.48
GLM-5.3-Flash CCCP-S	TP1	1504.67	30.02
GLM-5.3-Flash CCCP-M	TP2	1282.44	20.22
Kimi K3 CCCP-470	TP4	672.04	15.69

使用你自己的 AI 优化本机推理

遇到速度或兼容性问题时，把启动器终端日志和下面提示词交给 Codex、DeepSeek Harness 或其他代码 AI：

Maintain CCCP Launcher 0.9.16. Use only the bundled CPU/CUDA/AMD runtimes and portable toolchain. Reproduce the issue from the launcher terminal log, keep model differences configuration-driven through cccp.json, fix the shared VQ/Attention/MoE/memory-planning layer rather than adding model-name branches or silent slow fallbacks, and require finite logits, actual generation, clean shutdown, and no regression against the published H20-3e baselines. Report exact commands, logs, throughput, changed files, and package verification.