Skip to content

v1.16.4 — 上游说「排队中」,插件却报「连不上上游」,等待时长还放大了 60 倍

Choose a tag to compare

@dingminhua dingminhua released this 30 Oct 19:32
· 42 commits to main since this release

上游说「排队中」,插件却报「连不上上游」

一条 403 响应,上游逐字说的是「服务是好的,你排在第 1027 位,30 秒后再来」:

{"code":"403","message":"{\"code\":\"10605\",\"message\":{\"isQueued\":true,
  \"modelKey\":\"dfmodel\",\"queueCount\":1027,\"queueType\":\"p3\",
  \"retryAfterSeconds\":30,\"serviceAvailable\":true,
  \"subCode\":\"CALL_COUNT_LIMIT\",\"waitTime\":119}}"}

插件把它读成了「✗ 连不上上游——上游没有给出可用答复」,顶部徽标变成「当前没有可用的账号」,账号被踢出池 30 分钟 —— 上游申报的 30 秒与实际的 30 分钟,差 60 倍。而同一时刻,同一个 PAT 在六个模型上实测全部可用。

修法不是调整措辞,而是把被丢掉的证据一路接回来。


一、剥信封停在第二层

上游的响应信封有两种「往里包」的方式:message 是字符串,以及 message 是对象。issue 里这种是后者。

retryAfterMsOf 与 deepestBusinessCode 此前都要求 message 是字符串才继续往里走,于是这种形状下双双读不到:retryAfterSeconds 读不出 ⇒ 30 秒被当成「上游没说」⇒ 30 分钟兜底;内层业务码 10605 也读不出 ⇒ 403 回落成 auth。

剥信封收成一处实现 envelopeRecords(),两种形态都往下走,三个读者共用。deepestBusinessCode 一并受益。

二、申报值在探针门口被丢掉

上游客户端从 1.16.0 起就已经解析出 retryAfterSeconds 并挂在 QoderUpstreamError.retryAfterMs 上,但 probeChat 的返回里没有这一项,probeError 里也没有 —— 值在门口被丢掉。

现在探针客户端把 retryAfterMs 与 queue 一并带出,cooldownOf 新增第 0 条来源 upstream-reported,优先于从报文里刮出来的重置句子:上游明说的数字,是它能做出的最具体的陈述。

三、排队有了自己的结论

10605 原先归到 transient ⇒ unavailable ⇒「连不上上游」。

新增 queued 结论。上游自己说了在排队时(isQueued: true),那是比 kind 更具体的事实,优先于 kind。

文案单独一档,色调是 warn 而不是 bad:

✗ 上游排队中 · 03:04 之后可再用 · 前面还有 1027 个

红色会让用户以为账号坏了、去换 PAT,而账号完全正常。排队人数与队列分档由上游给出,本地不编 —— 上游没提排队时,一个字的排队信息都不会出现。

换号提示同理,从「上游暂时异常」改成「上游排队中」。

四、「自动」不再永远钉在最热门的那一个

pickFreeModel 只按「上下文窗口最大」挑,于是 1M 上下文的 dfmodel 永远是探测目标 —— 一次排队之后,每一次探测都撞同一个队列。

「自动 —— 挑一个免费模型」改为:最近测成功过的优先 → 跳过刚被排过队的 → 上下文最大的。

用户手选的模型永远优先,绝不因为它排队就被偷偷换人测 —— 那会与卡片上显示的「测试用模型」对不上。


测试

新增 40 例(1076 总例):

  • tests/upstream.spec.ts:issue 里的原样信封(message 是对象的那种)能读出 retryAfterSeconds / 内层码 10605 / 排队人数;queueOf 在上游没提排队时返回 undefined;字符串形态的信封没有被改坏。
  • tests/probe.spec.ts:queued 结论(不是 unavailable);上游申报 30 秒 ⇒ 冷却 30 秒;申报值优先于报文重置句子;上游没申报时不编倒计时;probeModel 把排队与等待时刻一起带出;探针自己抛错但带排队证据时也照实说排队。
  • tests/account-pool.spec.ts:排队是独立的排除档;冷却用上游申报的那个数;「自动」跳过排队模型、优先成功过的模型、用户手选永远优先。
  • tests/account-pool-store.spec.ts:排队信息落盘往返;形状不对就整个丢掉。
  • tests/probe-label.spec.ts(新文件):排队用自己那组 key,不复用 probeUnavailable;色调是 warn;中文文案里说的是「排队」而不是「连不上」。
  • tests/index.spec.ts:真实请求撞到排队时,池里的那条测量记成 queued,冷却用上游申报的 30 秒。
  • tests/shim.spec.ts:shim 把排队证据递给宿主;没有证据时不编。
  • tests/failover-notice.spec.ts:排队的换号提示说「上游排队中」。

三处新逻辑都做过变异验证:退回丢弃申报值 / 把排队并回 unavailable / 剥信封只认字符串 message,对应用例立刻变红。

Full Changelog:v1.16.3...v1.16.4