Skip to content

Releases: monkeyz6/streambench

StreamBench v1.0.0

Choose a tag to compare

@monkeyz6 monkeyz6 released this 08 Aug 13:37

大模型 API 压测与对比分析工具首个开源版本(macOS,Tauri 2 + Rust + React)。

亮点

  • 三协议压测:OpenAI / Claude / Gemini 原生 SSE 流式解析,endpoint 覆盖、自定义 Headers、自定义请求体全支持,中转平台与官方渠道通用
  • 负载模式:固定请求数 / 固定时长 / 匀速 RPM,并发上限 + 令牌桶限速 + 抖动
  • 流式指标:TTFT / TPOT / E2E、实际 RPM / RPS、token 吞吐、延迟分位数(P50/90/95/99);usage 缺失时本地估算兜底
  • 控制与保护:暂停 / 恢复 / 停止、自动熔断、token / 费用上限、预热段
  • 实时监控:500ms 快照指标卡片、RPM 曲线、逐请求日志
  • 自包含 HTML 报告:单报告 8 图表(内联 ECharts,断网可开、可转发);对比报告带参数差异高亮与自动结论
  • 渠道预设与历史管理:Key 掩码存储、测试连接、筛选 / 克隆 / 修正标签、CSV / JSONL 导出

安装

下载 StreamBench_1.0.0_aarch64.dmg(Apple Silicon)双击安装。

Changelog