Repository navigation
v1.24.6
更新说明
修复
- 11134「provider 过载」回归「不罚号、不轮转」:上一版把它单独归为
ErrProviderUnavailable
并短退避换号——方向对、做法错。生产实测该错误在 15 分钟内跨 6 个不同账号同时出现,
说明是供应商侧过载:换号撞的是同一个后端,白耗在途名额;更贵的是会打断账号级
prompt 前缀缓存(同号命中 97–99%,换号后 0–12%),一段 74.9k 前缀重算的费用远超等这几十秒。
现在与 6020/6021 同族归入ErrUpstreamBusy:不罚号、不轮转,并按上游 body 里的
retry_policy.retry_after(实测 40s)返回429+Retry-After,不再硬编码 5 秒。
上一版临时新增的ErrProviderUnavailable已删除。 ErrUpstreamBusy只释放租约,不再解绑会话粘性:排队 / 过载是上游容量信号,账号本身
没有过错。解绑会让客户端重试时落到新号并重建整段前缀缓存;保留绑定则按Retry-After
重试仍回到同一个号。真换号并成功时,成功分支会用Bind覆盖旧绑定,粘性照样跟随。
6020 / 6021 一并受益。- 兜底 system 不再声明身份:
ensureConsoleSystem与桌面端兜底注入原先写
You are a helpful assistant.。上游只校验「首条必须是 system」,正文写身份等于网关自己
往对话里插一句人设声明,与客户端 harness 自带的并列时,模型会把它当成外部注入而拒绝执行。
改为只声明行为与语言(Follow the user's instructions and respond in the user's language.)。
其他
- 慢上传可见性:读请求体耗时 ≥5s 打一条 WARN(含字节数与客户端 UA)。弱网或大 body 时,
上传耗时会伪装成「TTFB 很长」,把排障引到上游;只观测、不拦截(网关仍不设请求体上限)。
镜像
多架构镜像(linux/amd64、linux/arm64)已随本次发布构建。