Skip to content

v1.6.0 — 幽灵连接全链路有界化 + 付费/免费模型分层调度

Latest

Choose a tag to compare

@HengXin666 HengXin666 released this 18 Aug 14:06

v1.6.0 — 幽灵连接全链路有界化 + 付费/免费模型分层调度

🐛 幽灵连接(一条链卡死 → 其他连接全部超时)全链路修复

网络波动导致连接一直卡死、前端显示仍占用连接、新请求全部超时——根因是请求链路存在多处无限等待,现全部有界化:

  • 下游背压缺口:客户端"活着但不再读"(网络波动/卡顿)时,等待 drain 不再裸挂,受 idle 超时约束自动掐断释放账号锁
  • chat 兜底锁不再无限排队:预算耗尽后的锁等待设上界,超时返回 account_busy 可重试,绝不无限挂起
  • chat 响应头等待 600s → 120s:上游/代理网络波动(TCP 黑洞)时账号锁尽快释放,不再占死 10 分钟
  • 会话切换等在途请求有上界(2×idle+60s),超时放弃该账号换下一个
  • 代理池单代理挂起自动回落:连接成功但永不响应的代理 ≤20s 即视为失败,落到池内下一个

✨ 付费/免费模型分层调度

  • 付费模型(premium)恒走热 session 复用,绝不暴力分散:每次 admit 都是计费会话,分散 = 每个账号各 admit 一次(烧钱 + 抖动)。spreadFreeModels 开关只对免费模型生效
  • 免费模型会话剩余 <5 分钟不再调度:新配置 session.free_model_re_admit_lead_sec(默认 300s),提前 re-admit 换新会话,避免请求发到马上过期的免费会话上中途被掐断/白占额度;付费模型沿用 re_admit_lead_sec(默认 60s)用到接近过期
  • spread 模式下临近过期且正被在途流占用的账号自动降优先级

📦 镜像

ghcr.io/hengxin666/freebuff-proxy:latest / :1.6.0 / :1.6(GitHub Actions 自动构建推送)

升级:git pull && docker compose pull && docker compose up -d