Repository navigation
新功能
- TypeSafe System One:新增
POST /v1/systemone,支持noul、choice、score结构化评估;通过 MCP 配置typesafe_base_url,支持模型别名、团队用量与协议隔离。 - Responses API:新增面向 Codex 的
/v1/responses桥接,支持工具调用与流式输出;修复并行工具调用、流中断和 reasoning token 统计等边界情况。 - 缓存计费和用量汇总:增加缓存命中 token 计费,以及按周/月查询日用量汇总的 MCP 工具。
- MCP 管理:增加团队删除工具;改善健康探测鉴权、OpenAI base URL 路径处理与 SSE 用量解析内存占用。
升级说明
- 数据库在首次启动时自动升级至 schema v13。升级前请备份 SQLite 数据库、配置、加密密钥材料及旧二进制;活动数据库请使用 SQLite 一致性备份,勿仅复制可能仍有 WAL 写入的主文件。
- 替换二进制后需重启 gateway 服务和已有 MCP stdio 子进程。launchctl 用户需确认服务实际使用的二进制路径,并检查新 PID 和
/healthz。 - TypeSafe 需要自行配置 API key;建议添加独立 provider 和
evaluate → jev-latest别名,保留已有聊天默认 provider。TypeSafe 不支持聊天或流式请求。 - 本版本包含 release 方案文档,但安装脚本、CLI 自更新与自动 launchctl 部署工具尚未实现。当前发布资产沿用既有归档和 SHA-256 校验和格式。
- 若回滚,先停止写库进程,恢复匹配的旧二进制、迁移前数据库和密钥配置;恢复旧数据库会丢弃备份之后的写入。
验证
- 本地
go test ./...、go vet ./...通过。 - TypeSafe mock 测试覆盖鉴权、别名与大整数保真、用量、错误、故障切换及数据库迁移;真实 API key 联调尚未执行。
- 发布资产的交叉编译不代表已在每个目标系统完成运行验收。
接入文档:https://github.com/shiftu/llm-gateway/blob/v0.4.0/docs/typesafe.md
完整变更:v0.3.0...v0.4.0