v1.33.4
Bug Fixes
- fix(proxy): 保留 499 context canceled 场景下已消耗的 token 统计 (f823b39)
问题
流式响应中途取消时(用户点"停止"),已消耗的 token 统计被丢弃
修复
handleNetworkError添加res和reqCtx参数- 当
res包含已消耗的 token 时调用updateTokenStatsAsync - 新增
hasConsumedTokens辅助函数 - 添加
Test_HandleNetworkError_499_PreservesTokenStats测试
Full Changelog: v1.33.3...v1.33.4