Skip to content

CookLLM v0.3.6

Choose a tag to compare

@github-actions github-actions released this 14 Oct 07:54
· 23 commits to master since this release

v0.3.6

🛠️ NInfer / KVMem 引擎底层对齐与深度调优

  • 环境与目录对齐:工作目录对齐引擎根路径,注入环境变量跳过 Qwen 非必需 Prefill 重排。
  • 长思考防截断:智能适配 --default-max-tokens,彻底解决 8192 token 处长思维链被截断中断的问题。
  • 模板与内核直连:自动识别官方 Jinja 对话模板与 67 条 SM120 调优路线,实现开箱秒启。