Skip to content

v2.7.0: 概率性用量采样,大幅降低 KV 写入频率

Choose a tag to compare

@agent-bingge agent-bingge released this 29 May 01:53
· 220 commits to main since this release

✨ 新功能

  • 概率性用量采样:实现 RELAY_KV_USAGE_SAMPLE_RATE 采样机制,支持按概率写入用量统计,大幅降低 KV 写入频率(采样率 0.1 时约 10% 写入),配合批量写入可将请求与 KV 读写比降至 ~1:1。
  • 选择性禁用全局计数器:支持通过配置禁用全局计数器更新,进一步减少 KV 写入。

⚡ 优化改进

  • Provider 添加 UX 优化:改进 Admin 后台 Provider 添加流程的用户交互体验。

📚 文档更新

  • README 描述优化:补充 KV 读写比例说明和 Upstash 免费层信息(每月 50 万次 KV 操作)。

Upstash 免费层每月 50 万次 KV 操作,开启采样 + 批量写入后基本够用!