Skip to content

v0.4.0 — TypeSafe System One 与 Responses API

Latest

Choose a tag to compare

@github-actions github-actions released this 24 Sep 08:07

新功能

  • TypeSafe System One:新增 POST /v1/systemone,支持 noul、choice、score 结构化评估;通过 MCP 配置 typesafe_base_url,支持模型别名、团队用量与协议隔离。
  • Responses API:新增面向 Codex 的 /v1/responses 桥接,支持工具调用与流式输出;修复并行工具调用、流中断和 reasoning token 统计等边界情况。
  • 缓存计费和用量汇总:增加缓存命中 token 计费,以及按周/月查询日用量汇总的 MCP 工具。
  • MCP 管理:增加团队删除工具;改善健康探测鉴权、OpenAI base URL 路径处理与 SSE 用量解析内存占用。

升级说明

  • 数据库在首次启动时自动升级至 schema v13。升级前请备份 SQLite 数据库、配置、加密密钥材料及旧二进制;活动数据库请使用 SQLite 一致性备份,勿仅复制可能仍有 WAL 写入的主文件。
  • 替换二进制后需重启 gateway 服务和已有 MCP stdio 子进程。launchctl 用户需确认服务实际使用的二进制路径,并检查新 PID 和 /healthz。
  • TypeSafe 需要自行配置 API key;建议添加独立 provider 和 evaluate → jev-latest 别名,保留已有聊天默认 provider。TypeSafe 不支持聊天或流式请求。
  • 本版本包含 release 方案文档,但安装脚本、CLI 自更新与自动 launchctl 部署工具尚未实现。当前发布资产沿用既有归档和 SHA-256 校验和格式。
  • 若回滚,先停止写库进程,恢复匹配的旧二进制、迁移前数据库和密钥配置;恢复旧数据库会丢弃备份之后的写入。

验证

  • 本地 go test ./...、go vet ./... 通过。
  • TypeSafe mock 测试覆盖鉴权、别名与大整数保真、用量、错误、故障切换及数据库迁移;真实 API key 联调尚未执行。
  • 发布资产的交叉编译不代表已在每个目标系统完成运行验收。

接入文档:https://github.com/shiftu/llm-gateway/blob/v0.4.0/docs/typesafe.md

完整变更:v0.3.0...v0.4.0