【BUG反馈】pi-ai DeepSeek 路由在回传跨 provider 历史消息时丢失 reasoning_content

[StartLee]

Bug Report: pi-ai DeepSeek 路由在回传跨 provider 历史消息时丢失 reasoning_content，后端返回 400

本文档是完整的 bug 上报材料
附带的修复代码已在本机验证通过（单测 + wire 级测试）。

1. 环境

• deepseek-harness（本仓库），dsh-llm-pi-ai 适配器
• @earendil-works/pi-ai 0.82.1（dist/api/transform-messages.js）
• 网关：nginx/1.24.0 反代到 DeepSeek thinking 模式（OpenAI Chat Completions 兼容）后端，模型 deepseek-v4-flash
• 会话历史中混有由 deepseek-official（dsh-llm-deepseek 适配器）产生的 assistant 消息（带 reasoning 内容块）

2. 症状

• 通过 pi-ai deepseek 路由发消息，harness 侧报 TRANSPORT "Connection error."（约 330ms、0 token）
• nginx access.log：POST /deepseek/chat/completions → 400 0（空响应体）
• 手动用最小请求（同 endpoint、同 model、同 key、无历史）直接 curl：200 正常返回；服务端本身没有问题
• 一个带工具往返消息结构的最小请求（assistant 含 tool_calls、无 reasoning_content）复现 400，后端错误体：

{"error":{"message":"The `reasoning_content` in the thinking mode must be passed back to the API.","type":"invalid_request_error","param":null,"code":"invalid_request_error"}}

3. 根因（两层）

3.1 harness 侧：packages/llm/llm-pi-ai/src/replay.ts 的 foreignAssistant

把 harness 的 reasoning 内容块转成 pi-ai thinking 块时没有携带 thinkingSignature：

case 'reasoning': content.push({ type: 'thinking', thinking: block.text }); break

pi-ai 只有在 thinking 块带 thinkingSignature 时才会在 OpenAI Chat Completions 线上发出 reasoning_content（dist/api/openai-completions.js 第 869-875 行）。

3.2 pi-ai 侧：dist/api/transform-messages.js 的 transformMessages

对跨模型（foreign） assistant 消息，thinking 块一律被转成普通文本并入 content（第 87-90 行）：

if (isSameModel) return block;
return { type: "text", text: block.thinking };   // foreign: thinking → 文本

于是线上 assistant 消息变成 content: "思考+回复文本"、reasoning_content 缺失；随后 requiresReasoningContentOnAssistantMessages 兜底（openai-completions.js 第 924-928 行）只补空字符串 reasoning_content: ""，DeepSeek thinking 模式后端拒绝空值 → 400。

同一模型重放（deepseek → deepseek）不受影响：transformMessages 对 isSameModel 保留 thinking 块，序列化正常发出 reasoning_content。问题只在跨 provider 历史（如本会话里 deepseek-official 的旧消息进入 pi-ai deepseek 路由）时触发——即 LlmRuntime.forAdapter 剥离 replayState 后走 foreignAssistant 的消息。

4. 证据

六变体对照探测（同 endpoint/model/key，逐项隔离差异，三次一致）：

变体	结果
baseline（最小「你好」，非流式）	200 ✅
streaming（stream: true）	200 ✅
reasoning-effort（reasoning_effort: high）	200 ✅
tools（一个工具 schema）	200 ✅
large-body（~1MB）	200 ✅（请求被接受，仅响应读取超时）
tool-roundtrip（assistant 带 tool_calls、无 reasoning_content）	400 ❌（reasoning_content 必须回传）

harness 请求消息统计（439 条）：192 条 assistant 消息中 110 条同时含 reasoning 块与 tool-call 块，全部来自跨 provider 历史。

5. 修复（已实现并验证）

5.1 harness：packages/llm/llm-pi-ai/src/replay.ts

foreignAssistant 的 reasoning 分支：

case 'reasoning': content.push({
  type: 'thinking',
  thinking: block.text,
  // 默认 OpenAI-completions 标准字段名，pi-ai 据此发出 reasoning_content
  thinkingSignature: 'reasoning_content',
}); break

replayedAssistant 的 reasoning 分支：replay 未记录字段名时同样默认：

...replay.type === 'reasoning'
  ? { thinkingSignature: replay.thinkingSignature ?? 'reasoning_content' }
  : {},

5.2 pi-ai：dist/api/transform-messages.js（上游对应 src/api/transform-messages.ts）

foreign thinking 块带 signature 且目标模型要求回传 reasoning_content 时保留块，不再转文本：

if (model.compat?.requiresReasoningContentOnAssistantMessages && block.thinkingSignature) {
  return block;
}
return { type: "text", text: block.thinking };

5.3 测试

• tests/convert.spec.ts：更新两处 thinking 块断言（thinkingSignature: 'reasoning_content'）
• tests/adapter.spec.ts：新增 wire 级测试 passes foreign assistant reasoning back as reasoning_content on the wire，断言真实请求体 messages[0] 为 { role: 'assistant', content: 'answer', reasoning_content: 'think hard' }
• 结果：convert.spec.ts（68）+ adapter.spec.ts（46）全部通过

6. 复现步骤

1. 配置 pi-ai deepseek 路由（OpenAI-completions、DeepSeek thinking 模式后端）
2. 用另一适配器（如 deepseek-official）产生带 reasoning 的 assistant 历史
3. 同一会话切到 pi-ai deepseek 路由发消息 → TRANSPORT "Connection error."；网关侧 400，后端报 reasoning_content 必须回传

[weijiafu14]

针对你定位的 transform 层，我们做了一组可复核的测量，结果对你的根因描述是一个有价值的收窄：

测量 A（transform 纯函数 A/B）：给 convertMessages() 喂一条携带 Pi 规范 thinking 块的跨 provider 助手历史（provider: deepseek-official 署名、thinking + text 两块），在 pi-ai 0.82.1（@deepseek-ai/dsh@0.1.1-rc.2 的 dsh-llm-pi-ai 实际内嵌的版本，也是你诊断的版本）和 0.84.1 上各跑一遍：

• 两个版本行为一致：thinking 文本没有被丢——被内联进 content 上线（"REASONING_MARKER…The answer is 4."）；
• 两个版本都不产出独立的 reasoning_content 字段（助手消息键只有 content/role）。

测量 B（0.84.1 真实端到端）：同一 context 走真 stream() 到真 api.deepseek.com（options.fetch 只复制请求体后原样转发，响应是上游自己的）：内联后的历史被上游接受，200 完轮。

装置与判决：reasoning-history-experiment.mjs / reasoning-history-results.json。

对你根因的收窄含义：以 Pi 规范 thinking 块进入 transform 的 reasoning 不会丢（0.82.1 亦然）。所以你抓到的"丢失"更可能发生在上一层——dsh-llm-deepseek 写下的 DSH 原生历史被转换成 pi-ai context 时，reasoning 没有被规范化成 thinking 块，于是 transform 面前根本没有可保留的东西。如果你的修复补丁是让这一段落到 thinking 块（或直接透传 reasoning_content），那与我们的测量完全相容。

另一个对你网关重要的事实：即使转换修好，pi-ai 两个版本的 wire 形态都是内联进 content，不是独立 reasoning_content 字段——你的 thinking 后端若严格要求历史里带该字段，可能仍会 400，这一半需要在网关侧放宽或在适配层补字段。

边界说明：我们没有复现你的 nginx/thinking 后端组合；上面是 transform 层与官方端点上的测量，不是对你环境的定论。