为第三方provider的模型设置添加推理等级

[Preference-cmd]

如题

[liyangbing]

如果目标是给第三方 provider 的模型增加“推理等级”选择，建议先把 UI 选择、catalog 能力声明和实际 wire request 分成三层；仅显示一个下拉框不能证明 provider/model 真正支持该等级。

我维护的独立 DeepSeek Harness 社区手册中，model provider boundary 与 reasoning-effort guide 建议对每个精确 route 记录：

• provider、model、API dialect 和版本/commit；
• catalog 声明的 supported effort IDs 与配置字段；
• 保存配置后的 resolved profile，以及新 Session 实际选择的 effort；
• 脱敏 outbound request key、provider response/error 和 token/latency evidence。

回归时至少覆盖：支持等级的第三方模型、未声明等级的模型、同一 provider 下不同模型，以及从 on 到 off、off 到 on 的旧 Session/cold reload。若 provider 拒绝该字段，应明确显示 capability error 并保留原配置；不要为了让 UI 可选而强行注入另一个 API 的 reasoning 字段。

这样可以区分“catalog 没声明”“profile 没保存”“adapter 没序列化”和“provider 不支持”四类问题。该手册为独立社区资料，不代表官方 DeepSeek AI 项目。

[Preference-cmd]

这个Discussion并不是为了发布新插件，而是为了让DSH官方添加推理等级的支持——更具体的来说，是对不在pi-ai包内的providers的支持，这就是为什么这里没有任何repo的链接。

图片展示的内容是我在本地的一种实现，它并不是一个下拉框，而是DSH默认的为单一模型展开的界面，原本用于填写模型的上下文限制，为其添加了勾选推理等级的功能。需要明确的是，由于并没有一个canonical catalog可以收集所有providers的所有models的支持推理等级信息，具体勾选的推理等级以及该provider的推理服务是否支持应该交由用户判断而不是DSH代替他们判断。

[weijiafu14]

声明面今天就支持，给已验证的写法（截图里这个 UI 确实没露出来，但底层字段在）：

settings.yaml 的 llm-pi-ai: 段（或 provider 声明）里，给该模型条目写 reasoningEfforts（声明这个模型有哪些档）和 thinkingLevelMap（把 DSH 档位映射到端点认的值，null = 该档关思考）。映射是每个模型各配各的。实测证据：透传录制代理抓请求体，声明 xhigh: 'high' 后线上真的发 reasoning_effort: "high"（examples/gateway-compat）；完整声明写法：examples/custom-gateways。

UI 侧确实该补编辑入口（#4071/#3566 在提 discovery 丢 reasoningEfforts 的另一半），你这贴可以与它们互链推进。

[maiziman]

我针对这个问题做了一个独立 Bundle 形式的概念验证：

https://github.com/maiziman/cedardsh-model-probe

它不会修改官方适配器，也不是单纯增加一个下拉框，而是尝试解决“怎样确认某个精确 provider/model 真正支持哪些能力”的问题。

目前的处理方式是：

• 用户手动声明的能力始终优先
• 优先读取 OpenRouter、Ollama 等端点提供的元数据
• 默认只对 localhost 和局域网端点执行主动验证
• 每个推理等级必须独立返回推理证据
• 在候选等级探测前后使用无效等级作为负对照，避免把“服务端忽略参数”误判为支持
• 图像能力使用生成的小尺寸颜色图片验证，不读取用户文件
• 公网端点默认不执行主动探测

在一个 OpenAI-compatible 本地 DeepSeek 服务上，插件能够自动发现 low、high、max，并让 DSH 现有的“推理等级”界面正常出现。

我认为自动发现不应该替代这里讨论的手动配置 UI，两者可以互补：

1. 手动声明是最终权威。
2. 元数据可以作为首选自动来源。
3. 受限制的探测可以作为本地模型缺少元数据时的可选后备方案。
4. 上游可以提供标准的 capability discovery 扩展点，让不同插件贡献发现方式，而不需要修改官方适配器。