Skip to content

UpstreamOps v0.0.7

Choose a tag to compare

@bejix bejix released this 21 Jul 12:26
· 2 commits to main since this release

UpstreamOps v0.0.7

主要变化

  • 新增请求网关,将已监控的 NewAPI / Sub2API 渠道与直连 Provider 聚合为统一 API 入口。
    • 兼容 OpenAI Chat Completions、Anthropic Messages、OpenAI Responses,并支持 /v1/*、Codex、Gemini 等常用兼容路径。
    • 支持网关组、网关密钥、路由、直连 Provider 的完整管理;密钥可配置额度及 IP 白名单、黑名单。
    • 路由支持权重、计费倍率换算、模型映射、路由级 User-Agent 和上游协议选择。
    • 支持 OpenAI、Anthropic、Responses 协议互转,覆盖普通请求和 SSE 流式响应。
    • 支持按倍率与权重调度,多路由自动故障切换;网络错误、无响应、429 和 5xx 默认可切换到下一条路由。
    • 支持组级重试次数、最大切换次数和冷却时间配置;可选开启 4xx 故障切换。
    • 路由请求失败后可自动进入临时暂停期,暂停时长可按网关默认值或组级策略配置。
    • 支持首字超时;流式响应已写入有效 SSE 数据后不再切换路由。
    • 所有候选路由失败时,返回最后一次上游错误,并记录失败原因、延迟和错误摘要。
    • 支持 automanualhybrid 模型列表模式,可同步、预览和探测上游模型。
    • 新增网关用量与费用统计,记录请求 ID、Token、缓存 Token、延迟、首字延迟、错误摘要及实际成本。
    • 新增内置模型价格表和可覆盖的价格配置,支持按上游账号计费倍率计算实际费用。
    • 新增 /gateway 管理页面及网关运行时配置,可在线调整转发超时、模型缓存、故障暂停和批量并发等参数。

镜像

docker pull ghcr.io/bejix/upstream-ops:v0.0.7
docker pull ghcr.io/bejix/upstream-ops:latest

生产环境建议锁定:

IMAGE_TAG=v0.0.7

## 升级方式

docker compose pull
docker compose up -d

备注

  • 请求网关管理入口为 /gateway,客户端接口使用 /v1/*。
  • 网关运行时参数可在系统设置的 gateway 配置段中调整。