简体中文 | English

CLIProxyAPI 插件，检测并修复可配置模型（默认 gpt-5.5、gpt-5.6-luna 和 gpt-5.6-terra）流式请求中的推理截断，以减少偶发的模型降智，支持 OpenAI Responses API、OpenAI Chat Completions API 和 Anthropic Messages API 三种客户端协议

gpt-5.5 在 agent 场景下推理 token 会精确停在 518n−2（516、1034、1552……），这个截断会导致意料之外的降智问题。使用插件检测到该种截断后，通过 encrypted_content 重放自动续写推理，并将多轮折叠为单个响应，对下游客户端完全透明。

如果你使用 AI agent（自动化代理，如 Codex、Claude Code 等），把下面这段提示词发给它：

请帮我安装 CPA 插件 codexcomp。安装说明在 https://github.com/uf-hy/cpa-plugin-codexcomp/blob/master/SETUP.md ，请先读取这个文档再执行安装。

人类手动安装请见 安装章节。

插件通过 CPA 的 C ABI 插件系统拦截配置列表中的模型（默认 gpt-5.5、gpt-5.6-luna 和 gpt-5.6-terra）流式请求，内部以 codex 格式与上游通信，每当上游完成后检查 reasoning_tokens 是否匹配 518n−2 模式。若匹配且存在 encrypted_content，则触发续写

续写轮重放原始 input 加上之前所有思考内容和一条提示消息使得模型从截断点继续而非重来

默认情况设定为最多 3 轮续写, 以通过可能的更多耗时来换取相对提升的思考长度和时间进而提升模型智力

gpt-5.5 high reasoning effort 模式下，模型可能需要 25-30 秒才产生第一个 SSE 事件。很多客户端（包括 Codex CLI）会在 10 秒时超时。插件使用 CPA 的异步流式模式：响应头立即返回，由 goroutine 处理折叠逻辑。上游事件一到就转发给客户端，简单问题首字节实测低于 500ms，复杂推理也会在上游产出第一个事件后立即转发。

插件只拦截同时满足以下条件的请求：

• 模型位于 models 配置列表中（默认 gpt-5.5、gpt-5.6-luna 和 gpt-5.6-terra）
• 客户端协议为 openai-response（Responses API）、openai（Chat Completions API）或 claude（Anthropic Messages API）
• 流式请求（stream: true）
• 不含 previous_response_id
• input 为数组格式（仅 openai-response 协议要求；字符串格式的 input 会直接透传，不触发续写）

插件内部统一以 codex 格式与上游通信，由 CPA 的适配层自动完成客户端协议与 codex 之间的双向翻译，对下游客户端完全透明。其他请求全部透传给 CPA 正常处理。

CodexCont 是最初的续写机制。codexcomp 将其改进为传输无关的折叠。本插件将折叠逻辑移植到 Go 并直接集成到 CPA 插件系统中，无需独立代理进程。

CodexComp 已收录进 CLIProxyAPI 官方插件商店：

1. 打开 配置面板 → 可视化编辑 → 完整 → 高级与实验 → 插件
2. 确保插件系统为开启
3. 在插件商店页面搜索 CodexComp，点击安装
4. 如果暂时看不到条目，刷新插件商店或升级 CPA；也可以把下面的地址添加为第三方插件源：

https://raw.githubusercontent.com/uf-hy/cpa-plugin-codexcomp/master/registry.json

CPA 会自动下载对应系统和架构的动态库、校验 SHA256、热重载，通常无需再次重启。Enjoy it!

从 Releases 下载对应平台的 zip 包，解压后放到 plugins/ 目录：

FreeBSD arm64 的 CPA 官方成品是 no-plugin 构建，不支持动态库插件，因此没有对应插件资产。

# Linux、macOS 或 FreeBSD：确认系统和架构后下载对应 zip
mkdir -p <CPA_DIR>/plugins
unzip -o "codexcomp_<version>_<goos>_<arch>.zip" -d <CPA_DIR>/plugins/

Windows 原生部署提供 amd64 和 arm64 成品，可在 PowerShell 中解压：

New-Item -ItemType Directory -Force -Path '<CPA_DIR>\plugins' | Out-Null
Expand-Archive -LiteralPath 'codexcomp_<version>_windows_<arch>.zip' -DestinationPath '<CPA_DIR>\plugins' -Force

在 config.yaml 中启用插件：

plugins:
  enabled: true
  dir: plugins
  configs:
    codexcomp:
      enabled: true
      priority: 1

如果使用 Docker，在 docker-compose.yml 中挂载插件目录：

volumes:
  - ./plugins:/CLIProxyAPI/plugins

重启 CPA。

更适合 AI agent（自动化代理）的完整步骤见 SETUP.md。

go.mod 中有 replace 指令指向相邻目录的 CLIProxyAPI，需要先 clone 依赖仓库。完整的目标平台工具链与验证步骤以 Release workflow 为准：

git clone https://github.com/router-for-me/CLIProxyAPI.git ../CLIProxyAPI
# Linux 或 FreeBSD
go build -buildmode=c-shared -o codexcomp.so .

# macOS
go build -buildmode=c-shared -o codexcomp.dylib .

Windows 原生编译需要启用 CGO 并安装与目标架构匹配的 C 工具链：amd64 使用 MSYS2 UCRT64/GCC，arm64 使用 MSYS2 CLANGARM64/Clang。

git clone 'https://github.com/router-for-me/CLIProxyAPI.git' '..\CLIProxyAPI'
$env:CGO_ENABLED = '1'
go build -buildmode=c-shared -o codexcomp.dll .

默认无需额外配置。插件通过 C ABI 自注册，自动路由。需要做 A/B 测试或排障时，可以打开下面这些参数。

plugins:
  configs:
    codexcomp:
      models:
        - gpt-5.5
        - gpt-5.6-luna
        - gpt-5.6-terra
      marker_text: "Continue thinking..."
      max_continue: 3
      max_tier_n: 6
      debug_log: false

marker_text 是检测到截断后插入的续写提示，默认值是 Continue thinking...。

max_continue 是最多续写轮数，默认 3；设为 0 可以临时禁用续写，只保留接管和元数据路径，方便对比。

max_tier_n 是允许续写的最大截断层级，默认 6；设为 0 表示不限制上限。

debug_log 会通过 CPA 的 host log（宿主日志）输出配置和续写轮次信息，默认关闭，排障时再开。

models 是要拦截的模型标识符列表，默认接管 gpt-5.5、gpt-5.6-luna 和 gpt-5.6-terra。Luna 和 Terra 均已观测到 518n−2 截断现象，因此加入默认列表；Sol 暂未观测到相同问题，不默认接管。配置该列表会完全覆盖默认值（非追加），如需追加模型请同时写出默认模型：

plugins:
  configs:
    codexcomp:
      models:
        - gpt-5.5
        - gpt-5.6-luna
        - gpt-5.6-terra
        - gpt-5.6-sol

关于 Terra 的已知限制： Terra 除标准 516 截断外，偶发其他非 518n−2 序列的推理截断（如 342、428、477 等 token 数）。这类截断无规律、不集中，且部分属模型自身在简单问题上低思考的正常行为。插件暂不对非标准截断做特殊处理，以避免对正常低思考请求一视同仁地续写、白白浪费时间和 token。如遇到持续复现可反馈。

实验功能，不建议使用：实际测试中效果不理想，续写轮经常只增加很少甚至 0 个推理 token。 min_reasoning_tokens 是可选的每模型最小推理 token 阈值配置，默认不启用、没有默认阈值。配置后会作用于该模型的所有被接管请求，不区分请求中的 reasoning effort（推理强度）；所有已折叠轮次的推理 token 总数低于配置值时，插件会尝试触发续写。键为精确模型标识符（如 gpt-5.6-luna），值为非负整数阈值。例如：

plugins:
  configs:
    codexcomp:
      min_reasoning_tokens:
        gpt-5.6-luna: 1200

这会使 gpt-5.6-luna 在总推理 token 少于 1200 时尝试续写，直到达到阈值、达到 max_continue 限制，或上游不再返回 encrypted_content。它不能保证最终达到阈值；此触发条件与原有的 518n-2 截断触发条件是或（OR）关系。

如果客户端直接调用 CPA 的 OpenAI 兼容接口（/v1/chat/completions 或 /v1/responses），建议每个会话都带上稳定的 X-CPA-Session-Id 请求头：

X-CPA-Session-Id: your-stable-session-id

这个值用于生成上游 prompt_cache_key，让同一会话里的多轮请求稳定命中提示缓存。插件也兼容 X-CodexComp-Session-Id 和旧的 X-Claude-Code-Session-Id，但新接入建议使用 X-CPA-Session-Id。

如果想尝试更强的续写提示，可以参考 openai/codex#30364 的相关讨论，把 marker_text 换成 Spend time on thinking; you do not need to use the commentary channel to report progress to me.。它更明确地要求模型把时间花在 thinking（思考）上，不要把 commentary channel（进度汇报通道）用于报告进度。不同客户端和任务里的效果可能不同，建议按自己的场景测试后再启用。

最终 response.completed 事件包含：

• metadata.proxy_rounds — 每轮信息（轮次号、推理 token 数、截断层级 n；触发续写的轮次会额外包含 continue_reason，例如 truncation 或 low_reasoning_tokens）
• metadata.proxy_billed_usage — 所有轮次的合计用量
• metadata.proxy_stopped_reason — 非自然停止时非空（no_encrypted_content、max_continue、tier_out_of_window）

注意：以上 metadata 字段仅在 openai-response（Responses API）协议下保证可见。对于 openai（Chat Completions API）和 claude（Anthropic Messages API）协议，CPA 的协议翻译层不会传递 response.completed 中的 metadata，因此客户端无法获取 proxy_rounds 等字段。续写功能本身在所有协议下均正常工作，只是诊断信息仅在 Responses API 中可观测。

使用 codex-candy-eval 的糖果问题——一个触发 gpt-5.5 截断的推理深度测试。正确答案为 21。

仓库内置了多协议测试脚本 scripts/candy_eval.py，支持 openai-response、openai-chat、anthropic 三种客户端协议，可并发测试：

命令：

python3 scripts/candy_eval.py \
  --url http://your-cpa:port --key YOUR_KEY \
  --protocol openai-response --rounds 5 -r high

准确率：2/5 (40%) — 5 个响应中有 3 个在 516 token 处截断（n=1），导致答错。

准确率：5/5 (100%) — 所有截断均被检测并续写，答案全部正确。

本插件依赖非契约的模型行为（518n−2 截断模式和 encrypted_content 字段）。如果 OpenAI 改变截断模式或移除 encrypted_content，插件将不再触发，变为透明透传。续写轮消耗真实 token，总量记录在 metadata.proxy_billed_usage 中。

• CodexCont（MIT）— 最初的续写机制，识别了 518n−2 截断模式并开创了 encrypted_content 重放方案
• codexcomp（MIT）— 改进的传输无关折叠算法；本插件直接移植自其 fold.py
• codex-candy-eval — 本 README 使用的推理深度基准测试
• CLIProxyAPI — 插件宿主框架，使进程内拦截成为可能
• LINUX DO 社区 — gpt-5.5 “516” 推理截断/降智问题的主要讨论、定位与验证现场；感谢社区成员提供复现样例、部署反馈和测试验证

MIT。本插件包含来自 CodexCont 和 codexcomp 的派生代码，详见 THIRD_PARTY_NOTICES.md。