Skip to content

v0.2.6 - CCR Virtual Tool Interception Engine, xAI Grok Support & Storage Lean

Latest
Latest

Choose a tag to compare

View all tags
@255308153 255308153 released this 18 Sep 16:36
· 4 commits to main since this release
v0.2.6
fab2fbd

Highlights

  • CCR 虚拟工具网关层自闭环拦截与递归续写 — 网关在响应层直接截断 ctx_expand 虚拟工具调用，本地从指纹库毫秒级提取原文并后台自动发起续写（最大 3 轮熔断），对下游客户端 100% 零侵入。
  • xAI Grok 全链路接入 — 新增 xai / grok Provider，路由、/v1/models、SSE 缓存字段解析、云端 TTL 策略与思考链生命周期全面对齐。
  • 存储瘦身与折叠铁律 — 指纹库文本从 ~48.7 MB 降至 0.99 MB，物理库 88.32 MB → 21.39 MB。

Added

虚拟工具网关层自闭环拦截与递归续写 (CCR Response Interception Engine)

  • 新增 VirtualToolResponseHandler 与 StreamingVirtualToolHandler（ctxguard/proxy/virtual_tool_handler.py）；
  • 在网关响应拦截层截断大模型发出的 tool_calls: ctx_expand / tool_use: ctx_expand（原生支持 OpenAI 与 Anthropic 协议）；
  • 网关本地直接从 FingerprintRepository 毫秒级提取原文（0 API Tokens，0.1ms），并后台自动发起第 2 轮续写请求（Continuation Request，最大 3 轮深度熔断保护）；
  • 对下游客户端（Cline、RooCode、Claude Code、Cursor、Codex 等）彻底屏蔽虚拟工具调用过程，真正做到 100% 零侵入、零崩溃、无感可逆；
  • 实现 RESIDUAL_CCR_SKIPPED_MIXED 混合工具安全避让：当大模型同时输出客户端工具（如 read_file）与 ctx_expand 时，网关自动放行给客户端处理；
  • 实现流式前置探测（0-TTFT）：前 256 字节普通文本或 stop 时极速 flush 直通，首字延迟零劣化；检测到 ctx_expand 时无缝拦截并启动后台 continuation stream 实时转发。

xAI Grok 全链路接入 (xAI Grok 4.6 Provider Support)

  • ctxguard.yaml / ctxguard.yaml.example 新增 xai / grok Provider，上游指向 https://api.x.ai/v1，凭据读取 XAI_API_KEY；
  • router.resolve_provider() 新增 grok 名称识别分支，grok-* 系列模型不再静默回退至 api.anthropic.com；
  • GET /v1/models 新增暴露 grok-4.6（owned_by: xai）；
  • 非流式 parse_cache_stats() 与流式 sse.py 同步新增 Grok / xAI / vLLM 缓存字段解析（cache_type: grok_cache）；
  • CacheGuard 新增 grok 维度云端缓存 TTL 表项；
  • ThinkingManager 覆盖 Grok 3 Think 思考链生命周期，跨轮次精准修剪历史 reasoning 块。

发布文档与物料同步

  • README 更新 Dashboard 截图与真实生产环境累计实测数据（10,868 请求 / 1,742,154,963 原始 Tokens / 65.97% 压缩率）与测试徽章（224 passed）；
  • 系统架构图新增 xAI Grok 上游席位（采用官方 xAI 标志）；
  • 对齐 tests/test_context_tracker.py 中 3 个陈旧用例，并修正 ContextTracker.format_proactive_expansion 与调用方之间 workspace_key 参数名漂移。

Fixed

  • xAI / Grok 通道 Cloudflare 400 修复（重复 Authorization 请求头）：upstream.build_headers() 透传客户端鉴权头时与 Provider 侧注入的 Authorization 并存产生重复头，Cloudflare 边缘节点直接返回 400；现改为确定性去重。
  • 全压缩器纯净占位符清洗（No-Deception Placeholder Cleanup）：tool_injection.enabled: false 时彻底清洗 5 个压缩模块（tool_delta、git_diff、ast_code、log_truncator、dedup）中的折叠占位符，严禁输出任何 Use ctx_expand 诱导文本。
  • 单会话指纹去重铁律与消除跨会话致盲（Storage Invariant 2）：废除 DedupCompressor 跨会话全局查库去重，去重判断严格锁定当前会话作用域；确保新会话首读 100% 全量放行原文。
  • 跨会话内容指纹库深度瘦身与全压缩器单写治理（Storage Lean & Fold-Only Persistence）：
    • 修复 5 大压缩算子同时写入 64-char sha 与 12-char short_sha 的双重写入 Bug，重构为仅单写 12 位 short_sha；
    • 确立"仅折叠入库"铁律（Storage Invariant 3）；
    • FingerprintRepository 默认容量上限 10,000 → 1,000，淘汰批次 250 → 50，原生支持长短哈希双向智能前缀检索；
    • 新增 purge_and_vacuum(keep_limit=1000)，指纹库文本 ~48.7 MB → 0.99 MB，物理库 88.32 MB → 21.39 MB。

Upgrade Notes

  • dedup.max_records 默认值下调为 1000；老库可执行一次 purge_and_vacuum() 完成瘦身。
  • 使用 xAI Grok 需配置环境变量 XAI_API_KEY。

完整变更见 CHANGELOG.md。

Assets 2
Loading