Skip to content

v1.24.6

Choose a tag to compare

@github-actions github-actions released this 07 Nov 10:25
· 44 commits to main since this release

更新说明

修复

  • 11134「provider 过载」回归「不罚号、不轮转」:上一版把它单独归为 ErrProviderUnavailable
    并短退避换号——方向对、做法错。生产实测该错误在 15 分钟内跨 6 个不同账号同时出现,
    说明是供应商侧过载:换号撞的是同一个后端,白耗在途名额;更贵的是会打断账号级
    prompt 前缀缓存(同号命中 97–99%,换号后 0–12%),一段 74.9k 前缀重算的费用远超等这几十秒。
    现在与 6020/6021 同族归入 ErrUpstreamBusy:不罚号、不轮转,并按上游 body 里的
    retry_policy.retry_after(实测 40s)返回 429 + Retry-After,不再硬编码 5 秒。
    上一版临时新增的 ErrProviderUnavailable 已删除。
  • ErrUpstreamBusy 只释放租约,不再解绑会话粘性:排队 / 过载是上游容量信号,账号本身
    没有过错。解绑会让客户端重试时落到新号并重建整段前缀缓存;保留绑定则按 Retry-After
    重试仍回到同一个号。真换号并成功时,成功分支会用 Bind 覆盖旧绑定,粘性照样跟随。
    6020 / 6021 一并受益。
  • 兜底 system 不再声明身份:ensureConsoleSystem 与桌面端兜底注入原先写
    You are a helpful assistant.。上游只校验「首条必须是 system」,正文写身份等于网关自己
    往对话里插一句人设声明,与客户端 harness 自带的并列时,模型会把它当成外部注入而拒绝执行。
    改为只声明行为与语言(Follow the user's instructions and respond in the user's language.)。

其他

  • 慢上传可见性:读请求体耗时 ≥5s 打一条 WARN(含字节数与客户端 UA)。弱网或大 body 时,
    上传耗时会伪装成「TTFB 很长」,把排障引到上游;只观测、不拦截(网关仍不设请求体上限)。

镜像

多架构镜像(linux/amd64、linux/arm64)已随本次发布构建。