Releases
v0.1.12
Compare
Sorry, something went wrong.
No results found
cell 0.1.12
修正
上下文窗口改为按模型 :providers[].model_context_windows(模型名 → tokens)。同一 provider 下不同模型的窗口可能差别很大(4k gemma 与 128k qwen 并存),不再共用一个 provider 级值。/context N 只设置当前模型,/context auto 只清除当前模型。
旧配置迁移 :0.1.11 及更早的 provider 级 context_window 在加载时迁移到当时的 current_model,下次保存写成 model_context_windows;不会再套用到该 provider 的所有模型。
压缩阈值透传 :compact_threshold = 窗口 × 75% 现在经 do_chat 传入三个 client(openai-chat / responses / anthropic),空完成与截断判定不再用固定 3072。32k 窗口下 4k prompt 的空完成(含 finish_reason=length)不再自动压缩,而是明确报 prompt_tokens 并失败;没有 usage 时(Ollama)finish_reason=length 仍按上下文压力保守处理。
测试
selftest:per-model round-trip、未列模型无覆盖、32k 窗口 4k prompt 不触发、length + 小 prompt 视为 output limit、length + 无 usage 保守处理。
e2e:32k 窗口 + finish_reason=length + prompt_tokens=4000,必须只发 1 次请求、不压缩、明确失败。
真 CLI:model-a=8k → 切到 model-b 未继承(unknown)→ model-b=2k → 切回 model-a=8k;旧 context_window 迁移正确。
文档
README.md / README_zh.md 的配置表补充 model_context_windows 与 /context 语义。
提交
9a57cc7 fix: key context windows by model and pass the window's compact threshold to the clients
903bd45 test: cover per-model windows and the large-window no-compact path
b510ea0 docs: document per-model context windows in the config tables
You can’t perform that action at this time.