Skip to content

CookLLM v0.4.2

Choose a tag to compare

@github-actions github-actions released this 26 Oct 09:24
· 2 commits to master since this release

v0.4.2

🚀 新增图表与卡片优化

  • 分析页新增图表:新增 实时 Decode / Prefill 图表, TTFT首字token延迟、MTP 接受率卡片(未开 MTP 自动隐藏)
  • 优化卡片动画:模型卡片启动中统一琥珀呼吸态;修复启动按钮不跟手,就绪判定改为 HTTP 探针。

🛠️ 分析采样修复及调优

  • 采样修复:补齐采样间隔内结束的尾部突发,Prefill 回显限定 60 秒窗口。
  • Prefill 计数:llama.cpp的Prefill计数 改用 n_prompt_tokens_processed。