Skip to content

v0.1.12

Choose a tag to compare

@github-actions github-actions released this 18 Oct 17:04
· 7 commits to main since this release

cell 0.1.12

修正

  • 上下文窗口改为按模型:providers[].model_context_windows(模型名 → tokens)。同一 provider 下不同模型的窗口可能差别很大(4k gemma 与 128k qwen 并存),不再共用一个 provider 级值。/context N 只设置当前模型,/context auto 只清除当前模型。
  • 旧配置迁移:0.1.11 及更早的 provider 级 context_window 在加载时迁移到当时的 current_model,下次保存写成 model_context_windows;不会再套用到该 provider 的所有模型。
  • 压缩阈值透传:compact_threshold = 窗口 × 75% 现在经 do_chat 传入三个 client(openai-chat / responses / anthropic),空完成与截断判定不再用固定 3072。32k 窗口下 4k prompt 的空完成(含 finish_reason=length)不再自动压缩,而是明确报 prompt_tokens 并失败;没有 usage 时(Ollama)finish_reason=length 仍按上下文压力保守处理。

测试

  • selftest:per-model round-trip、未列模型无覆盖、32k 窗口 4k prompt 不触发、length + 小 prompt 视为 output limit、length + 无 usage 保守处理。
  • e2e:32k 窗口 + finish_reason=length + prompt_tokens=4000,必须只发 1 次请求、不压缩、明确失败。
  • 真 CLI:model-a=8k → 切到 model-b 未继承(unknown)→ model-b=2k → 切回 model-a=8k;旧 context_window 迁移正确。

文档

  • README.md / README_zh.md 的配置表补充 model_context_windows 与 /context 语义。

提交

  • 9a57cc7 fix: key context windows by model and pass the window's compact threshold to the clients
  • 903bd45 test: cover per-model windows and the large-window no-compact path
  • b510ea0 docs: document per-model context windows in the config tables