Replies: 3 comments
|
我也遇到了 场景:自定义 OpenAI-compatible 网关 newapi,上游是 Opencode Go。模型声明 reasoningEfforts 后(reasoning: true),system prompt 被 pi-ai 以 developer role 发送,上游 400: 我让dsv4f查的原因(已验证):
临时本地修复方法( const thinkingFormat = entry.compat?.thinkingFormat ?? route?.thinkingFormat;
const supportsReasoningEffort = entry.compat?.supportsReasoningEffort ?? route?.supportsReasoningEffort;
+ const supportsDeveloperRole = entry.compat?.supportsDeveloperRole;
- if (thinkingFormat === void 0 && supportsReasoningEffort === void 0) return {};
+ if (thinkingFormat === void 0 && supportsReasoningEffort === void 0 && supportsDeveloperRole === void 0) return {};
return { compat: {
...base?.api === api ? base.compat : void 0,
...thinkingFormat === void 0 ? {} : { thinkingFormat },
- ...supportsReasoningEffort === void 0 ? {} : { supportsReasoningEffort }
+ ...supportsReasoningEffort === void 0 ? {} : { supportsReasoningEffort },
+ ...supportsDeveloperRole === void 0 ? {} : { supportsDeveloperRole }
} };
const compatProfile = z.object({
thinkingFormat: z.union(SUPPORTED_THINKING_FORMATS),
- supportsReasoningEffort: z.boolean()
+ supportsReasoningEffort: z.boolean(),
+ supportsDeveloperRole: z.boolean()
});修复后在settings.yaml的对应位置填入supportsDeveloperRole: false即可 希望deepseek harness尽快支持supportsDeveloperRole字段 |
|
补充一个场景:DashScope(百炼)官方 OpenAI 兼容端点同样受此影响,不只是第三方网关。 复现: 已排除 API 侧:直接 curl 该端点带 版本:dsh 0.1.0-rc.6(npm latest)。 补充一个修复线索:pi-ai 内置 catalog 里同一端点族的条目( 影响面:任何把 Qwen thinking 模型挂在 DashScope 兼容端点上的 dsh 用户,当前版本完全没有配置路径开启推理模式(只能本地代理重写 role)。 |
|
目前较为干净的办法就是起一个api gateway, 去patch里面的 |
Uh oh!
There was an error while loading. Please reload this page.
Uh oh!
There was an error while loading. Please reload this page.
在我使用自定义
OpenAI-compatible网关时,reasoning模型会将system prompt自动发送为developer role;但部分LLM网关只支持
system/assistant/user/tool。比如: 火山
Coding Plan/Agent Plan:pi-ai已支持:但
DSH的llm-pi-ai配置目前只暴露:希望增加:
从而支持「
reasoning+system role」而不必禁用reasoning~All reactions