Repository navigation
CookLLM v0.3.6
v0.3.6
🛠️ NInfer / KVMem 引擎底层对齐与深度调优
- 环境与目录对齐:工作目录对齐引擎根路径,注入环境变量跳过 Qwen 非必需 Prefill 重排。
- 长思考防截断:智能适配
--default-max-tokens,彻底解决 8192 token 处长思维链被截断中断的问题。 - 模板与内核直连:自动识别官方 Jinja 对话模板与 67 条 SM120 调优路线,实现开箱秒启。
--default-max-tokens,彻底解决 8192 token 处长思维链被截断中断的问题。