Skip to content

v2.9.37 - Anthropic API 路由与性能可靠性升级

Choose a tag to compare

View all tags
@jerrydong1988 jerrydong1988 released this 31 Jul 21:59
v2.9.37
f3e317a
This commit was created on GitHub.com and signed with GitHub’s verified signature.
GPG key ID: B5690EEEBB952194
Verified
Learn about vigilant mode.

更新方式

  • 已安装 v2.9.36 的用户可以通过应用内 Tauri Updater 直接更新到本版本。
  • v2.9.35 及更早版本尚未内置更新器，需要从本发布页手动下载安装 v2.9.37。
  • 更新清单继续由 https://updates.cnzone.net/latest.json 提供，版本化载荷托管于 Cloudflare R2，并在安装前执行项目专用 Tauri 签名校验。

Anthropic API 与 Claude Code 兼容

  • 现有模型路由监听器现在同时支持 OpenAI 与 Anthropic API 格式，无需部署两套代理。
  • 新增 Anthropic POST /v1/messages 与 POST /v1/messages/count_tokens，覆盖同步消息、流式 SSE、图片输入、thinking、工具调用、工具结果和 token 统计。
  • 模型发现接口兼容 OpenAI 客户端、Anthropic SDK 与 Claude Code，并支持按模型 ID 查询。
  • 支持 Bearer 与 x-api-key 两种客户端鉴权；公开代理凭据不会转发到内部 llama-server，目标实例继续使用自身凭据。
  • 路由别名会在同步 JSON 与 Anthropic message_start 流事件中保持一致，同时不会错误改写工具参数中同名的 model 字段。
  • Anthropic 请求失败会返回标准错误结构和 request-id，旧版或自定义 llama-server 缺少 Messages 端点时也会给出明确错误。
  • 路由遥测新增 api_format 字段，可以区分 OpenAI 与 Anthropic 请求。
  • Claude Code 配置、--jinja 工具调用要求、32 MiB 请求上限和云端专属能力边界已写入路由页面与兼容说明。

性能、资源占用与可靠性

  • 路由请求不再为每次调用复制完整运行时映射或重复排序规则，并通过明确的 64 MiB 全局请求上限避免意外的小请求体限制。
  • 遥测写入改为批量事务，向量事件去重增加索引；实例监控锁相互隔离，降低并发请求下的数据库与锁竞争。
  • GGUF 元数据解析移出异步执行器，减少大模型目录扫描对运行任务的阻塞。
  • 全局最近日志改为有界增量维护，路由轮询避免重叠，大屏计算结果复用，重量级页面按需加载。
  • 自动启动改为单次、错峰执行，避免重复拉起实例；Updater 增加手动重试、周期检查和并发保护，安装失败后仍可恢复操作。
  • 修复暂停下载恢复、集群节点刷新及部分退出/后台运行流程中的时序问题，并新增对应浏览器回归场景。

llama.cpp 兼容性

  • 发布前将权威稳定版基线从 b10199 同步到 b10215（eb41d503ba9496b816ff4180a34780bc13a4f4b8）。
  • 稳定版与 master canary 均保持 248 个参数；参数快照、别名、用法、说明和默认值没有变化。
  • Anthropic Messages 依赖受支持 llama.cpp 的原生实现；工具调用仍要求目标实例启用 --jinja。本项目不模拟 prompt caching、服务端工具等 Anthropic 云端专属能力。

平台与签名说明

  • Windows x64：提供 NSIS 与 MSI；未配置操作系统发行者证书时，文件名继续明确标注 unsigned。
  • macOS Apple Silicon：提供 DMG 与应用内更新载荷；未配置 Apple 发行证书时，DMG 继续标注 adhoc。
  • Linux x64 / ARM64：提供 AppImage 与 DEB；AppImage 支持应用内更新，DEB 继续手动安装。
  • unsigned / adhoc 仅表示缺少操作系统发行者证书；所有应用内更新载荷仍由 Tauri Updater 项目密钥独立签名和校验。

发布验证

  • 完整本地发布门禁、生产构建、锁定依赖 Rust 测试、严格 Clippy 与依赖审计通过。
  • 29/29 Playwright 浏览器场景和全部回归测试通过。
  • 269/269 Rust 测试通过，包括官方 Anthropic SDK 端到端代理测试。
  • GitHub Actions 的 quality、Windows、macOS、Linux x64、Linux ARM64 构建全部通过。
  • 正式 llama.cpp Upstream Watch 通过，Cloudflare R2 latest.json 与 GitHub Release 资产完成独立校验。

完整变更：v2.9.36...v2.9.37

Assets 20
Loading