😁😁😁喜大普奔 claude 桌面版 Configure third-party inference 配置教程

[geekyouth]

测试了主流的AI 提供商，国内的kimi deepseek 都不支持，各种报错。ofox /anyrouter 也是报错。

以下给出两个亲测模板，可以连接到 claude 桌面版 Configure third-party inference，成功对话。

再给出对应的json 配置

aiclient2api

因为我部署在局域网机器上，http 协议非本机地址在 claude 里面不允许设置为 baseurl 会报错，所以我必须使用 ct-tunnel 内网穿透在使用 https 访问

{
  "inferenceProvider": "gateway",
  "inferenceGatewayBaseUrl": "https://aiclient2api**************/claude-kiro-oauth",
  "inferenceGatewayApiKey": "sk-****",
  "inferenceModels": [
    {
      "name": "claude-sonnet-4-5"
    },
    {
      "name": "claude-haiku-4-5"
    },
    {
      "name": "claude-sonnet-4"
    }
  ]
}

openrouter

用户体验非常好，当然也非常贵，向 gpt-5.5 打了一个招呼花掉了0.1美金，吓得我赶紧关了🙄

{
  "inferenceProvider": "gateway",
  "inferenceGatewayBaseUrl": "https://openrouter.ai/api",
  "inferenceGatewayApiKey": "sk-or-v1-****"
}

[geekyouth]

让claude 集成第三方API ，对比 claude web 原版，同时让他俩干重活，整理一个很复杂的 excel ，结果原版由于资源用量达到上限停止了。
自建的这个实例一直默默干活，很给力了

[geekyouth]

我发现通过 cf-tunnel 绕地球跑一圈之后，api 会频段断线，于是用 nginx 正向代理 localhost:3000 到上游服务器 tailscale 魔法 dns 域名，这样不管是在家里还是在办公室都可以获得能接受的连接速度，而且支持流式回复

#user  nobody;
worker_processes  1;

error_log   logs/error.log  warn;
#error_log  logs/error.log  notice;
#error_log  logs/error.log  info;

#pid        logs/nginx.pid;


events {
    worker_connections  1024;
}


http {
    include       mime.types;
    default_type  application/octet-stream;

    log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
                      '$status $body_bytes_sent "$http_referer" '
                      '"$http_user_agent" "$http_x_forwarded_for"';

    access_log  logs/access.log  main;

    sendfile        on;
    #tcp_nopush     on;

    #keepalive_timeout  0;
    keepalive_timeout  65;

    #gzip  on;

    # 定义上游服务，便于负载均衡和维护
    upstream backend {
        server sz.tail***.ts.net:3000;
        keepalive 32;   # 与上游保持长连接池，避免频繁握手
    }
    server {
        listen       3000;
        server_name  _;

        # 超时设置
        proxy_connect_timeout 10s;   # 连接上游超时
        proxy_send_timeout    60s;   # 发送请求超时
        proxy_read_timeout    60s;   # 等待响应超时（流式接口要调大）


        location / {
            proxy_pass http://backend;

            proxy_http_version 1.1;                    # 用 HTTP/1.1 才能复用长连接
            proxy_set_header Connection "";            # 清除 Connection 头，启用长连接
    
            # 关闭缓冲，数据实时透传给客户端
            proxy_buffering off;
            proxy_cache off;

            # 超时要足够长（AI 响应可能很慢）
            proxy_read_timeout 300s;

            # SSE 必须加这两行
            proxy_set_header Cache-Control no-cache;
            add_header X-Accel-Buffering no;
            proxy_set_header Host              $host;
            proxy_set_header X-Real-IP         $remote_addr;
            proxy_set_header X-Forwarded-For   $proxy_add_x_forwarded_for;
            proxy_set_header X-Forwarded-Proto $scheme;
        }

        # 屏蔽常见扫描路径
        location ~* \.(env|git|svn) {
            deny all;
        }
    }

}

{
  "inferenceProvider": "gateway",
  "inferenceGatewayBaseUrl": "http://127.0.0.1:3000/claude-kiro-oauth",
  "inferenceGatewayApiKey": "sk-*****",
  "inferenceModels": [
    {
      "name": "claude-sonnet-4-5"
    },
    {
      "name": "claude-haiku-4-5"
    },
    {
      "name": "claude-sonnet-4"
    }
  ]
}

[justlovemaki]

感谢 @geekyouth 分享这份详细的 Claude 桌面版 Configure third-party inference 配置教程！这对社区非常有价值。

要点总结

你的教程覆盖了两个实用场景：

1. AIClient-2-API 自建实例

• 关键配置：inferenceProvider: "gateway" + inferenceGatewayBaseUrl 指向 /claude-kiro-oauth 路径
• HTTP 限制：Claude 桌面版要求非 localhost 地址必须使用 HTTPS，因此需要通过隧道（cf-tunnel / ct-tunnel）或反代来暴露 HTTPS 端点

2. OpenRouter 商业方案

• 配置更简洁，但成本较高（如你所述 gpt-5.5 单次对话约 $0.1）

关于连接稳定性

你在后续评论中提到的 cf-tunnel 断线问题和 nginx + Tailscale 方案是一个很好的实践分享：

• cf-tunnel 经由 Cloudflare 全球网络绕行，延迟和稳定性不可控
• Tailscale（WireGuard）+ nginx 反代方案在内网穿透场景下延迟更低、连接更稳定，且原生支持流式回复

补充建议

1. 流式超时：如果使用 nginx 反代长对话，建议在 nginx 配置中适当调大以下参数，避免大模型长时间生成时连接被切断：

   proxy_read_timeout 300s;
   proxy_send_timeout 300s;
   proxy_connect_timeout 60s;

2. WebSocket 支持：如需支持流式输出（SSE），确保 nginx 配置中包含：

   proxy_buffering off;
   proxy_cache off;
   chunked_transfer_encoding on;

3. 安全提醒：暴露到公网时建议配合 REQUIRED_API_KEY 认证，并限制访问来源 IP。

感谢分享，这份教程可以帮助更多用户快速接入 Claude 桌面版！

[geekyouth]

我在 aiclient2api 实例中配置了 codex + claude 提供商，如果需要在 claude desktop Configure third-party inference 里面同时使用 /claude-kiro-oauth 和 /openai-codex-oauth 的模型？
是不是无解？因为 gateway baseurl 必须二选一

[justlovemaki]

关于同时使用多个提供商路径的解决方案

你的判断基本正确——Claude Desktop 的 inferenceGatewayBaseUrl 只能设置一个值，所以 直接用路径前缀方案（/claude-kiro-oauth vs /openai-codex-oauth）确实无法同时使用两个提供商。

但有一个可行的替代方案：Auto 模式 + 模型名前缀路由。

方案步骤

1. 启动服务时使用 auto 模式（或多提供商模式）：

# 方式一：auto 模式
node src/services/api-server.js --model-provider auto ...

# 方式二：逗号分隔多提供商
node src/services/api-server.js --model-provider claude-kiro-oauth,openai-codex-oauth ...

2. Claude Desktop 配置中，inferenceGatewayBaseUrl 设为根地址（不带提供商路径前缀）：

{
  "inferenceProvider": "gateway",
  "inferenceGatewayBaseUrl": "https://your-domain.com",
  "inferenceGatewayApiKey": "sk-****",
  "inferenceModels": [
    { "name": "claude-kiro-oauth:claude-sonnet-4-5" },
    { "name": "claude-kiro-oauth:claude-haiku-4-5" },
    { "name": "openai-codex-oauth:gpt-4o" },
    { "name": "openai-codex-oauth:o3" }
  ]
}

原理

服务端的路由解析支持两种方式选择提供商：

1. URL 路径前缀（你之前用的方式）：/claude-kiro-oauth/v1/... → 从路径中提取提供商
2. 模型名前缀：模型名中包含 provider:model 格式 → 从模型名中提取提供商（见 service-manager.js 的 _resolveEffectiveRouting）

方式 2 不依赖 URL 路径前缀，所以可以在一个 baseUrl 下同时使用多个提供商。

注意事项

• 使用 auto 模式时，模型名 必须 包含提供商前缀（provider:model），否则会报 Auto-routing failed 错误
• 如果大部分时间只用 Claude/Kiro，也可以用多提供商模式（--model-provider claude-kiro-oauth,openai-codex-oauth），此时 Kiro 模型名可以不带前缀（使用第一个作为默认），Codex 模型名需要带前缀

[geekyouth]

下面这篇文章值得跪着读完：
Cowork 上的 3P：如何在 Claude Cowork 和 Claude Code 中运行任何 LLM --- Cowork on 3P: How to Run Any LLM in Claude Cowork and Claude Code https://www.productcompass.pm/p/cowork-on-3p-any-llm

[geekyouth]

关于同时使用多个提供商路径的解决方案

你的判断基本正确——Claude Desktop 的 inferenceGatewayBaseUrl 只能设置一个值，所以 直接用路径前缀方案（/claude-kiro-oauth vs /openai-codex-oauth）确实无法同时使用两个提供商。

但有一个可行的替代方案：Auto 模式 + 模型名前缀路由。

方案步骤

1. 启动服务时使用 auto 模式（或多提供商模式）：

方式一：auto 模式

node src/services/api-server.js --model-provider auto ...

方式二：逗号分隔多提供商

node src/services/api-server.js --model-provider claude-kiro-oauth,openai-codex-oauth ...
2. Claude Desktop 配置中，inferenceGatewayBaseUrl 设为根地址（不带提供商路径前缀）：

{
"inferenceProvider": "gateway",
"inferenceGatewayBaseUrl": "https://your-domain.com",
"inferenceGatewayApiKey": "sk-****",
"inferenceModels": [
{ "name": "claude-kiro-oauth:claude-sonnet-4-5" },
{ "name": "claude-kiro-oauth:claude-haiku-4-5" },
{ "name": "openai-codex-oauth:gpt-4o" },
{ "name": "openai-codex-oauth:o3" }
]
}

原理

服务端的路由解析支持两种方式选择提供商：

1. URL 路径前缀（你之前用的方式）：/claude-kiro-oauth/v1/... → 从路径中提取提供商
2. 模型名前缀：模型名中包含 provider:model 格式 → 从模型名中提取提供商（见 service-manager.js 的 _resolveEffectiveRouting）

方式 2 不依赖 URL 路径前缀，所以可以在一个 baseUrl 下同时使用多个提供商。

注意事项

• 使用 auto 模式时，模型名 必须 包含提供商前缀（provider:model），否则会报 Auto-routing failed 错误
• 如果大部分时间只用 Claude/Kiro，也可以用多提供商模式（--model-provider claude-kiro-oauth,openai-codex-oauth），此时 Kiro 模型名可以不带前缀（使用第一个作为默认），Codex 模型名需要带前缀

auto 模式用户体验太强了

[justlovemaki]

感谢反馈这个问题 🐛

问题分析：
收到您关于「😁😁😁喜大普奔 claude 桌面版 Configure third-party inference 配置教程」的 Bug 报告。为了能更准确地定位和解决问题，需要了解更多信息：

请补充以下信息：

1. 运行环境：操作系统、Docker 版本
2. 完整错误日志：启动或运行时的完整报错输出
3. 复现步骤：如何操作触发了该问题
4. 配置文件：相关配置内容（注意脱敏敏感信息）

初步排查建议：

• 确认 Docker 容器状态：docker ps -a
• 查看容器日志：docker logs <容器名> --tail 100
• 确认配置文件格式是否正确

请提供以上信息后，我们可以进一步分析和定位问题。

[geekyouth]

API Error: 400 {"type":"error","error":{"type":"invalid_request_error","message":"Request failed with status code 400"}}

今天让claude 桌面版干重活报错了，集成的api 就是这个项目提供的，我从实时日志摘了一些片段：

{"assistantResponseMessage":{"content":"我遇到了一些技术问题，Write 工具调用失败了。让我重新正确地创建文件。我需要提供 file_path 和 content 参数。\n\n让我创建一个完整的油猴脚本文件。\n\n\n\n我遇到了一些技术问题，Write 工具调用失败了。让我重新正确地创建文件。我需要提供 file_path 和 content 参数。\n\n让我创建一个完整的油猴脚本文件

请教大佬 如何解决？我已经为这个对话设置过工作路径。

[justlovemaki]

@geekyouth 感谢补充详细的错误日志和截图！

问题分析

从你提供的日志来看，400 错误发生在 Claude Desktop 通过 AIClient-2-API 调用 Kiro 上游时。关键信息：

API Error: 400 {"type":"error","error":{"type":"invalid_request_error","message":"Request failed with status code 400"}}

日志显示模型选择了 claude-opus-4-5，且错误发生在工具调用（Write tool）阶段。这说明 问题不在 API 代理本身，而是在 Claude Desktop 发送的请求中包含的工具定义（tool definitions）与 Kiro 上游 API 的格式不完全兼容。

可能原因

1. 工具定义格式不兼容：Claude Desktop 的 Configure third-party inference 功能会向 API 发送一系列内置工具定义（如 Write、Read、Bash 等），这些工具的 JSON Schema 格式可能与 Kiro API 期望的格式存在差异，导致上游返回 400。

2. 请求体过大：Claude Desktop 发送的请求中可能包含大量工具定义和历史对话内容，当总请求体超过 Kiro API 的限制时也会返回 400。

3. 特定模型兼容性：你之前提到配置了 claude-opus-4-5，Kiro Free 账号可能对 Opus 模型的工具调用支持有限。

排查建议

1. 测试纯对话（不带工具）：在 Claude Desktop 中发送一条简单的纯文本消息（不触发任何工具），确认是否也报 400。如果纯对话正常，基本可以确认是工具定义格式兼容性问题。

2. 尝试切换模型：将 inferenceModels 中的模型从 claude-opus-4-5 换成 claude-sonnet-4-5 或 claude-haiku-4-5，看是否仍出现 400 错误。Haiku 模型在 Kiro 上的兼容性通常最好。

3. 查看服务端完整日志：在 AIClient-2-API 的日志中找到对应的请求，查看 [Request Convert] 和 [Content Generation] 之间的详细日志，确认请求是否成功转发到上游、上游返回的完整错误信息。

4. 关注 Issue kiro反代claude用不了好像 #395：该 issue 中有大量关于 Kiro 兼容性的讨论和解决方案，包括代理使用、请求格式适配等，建议参考其中的最新进展。

如果排查后仍有问题，请补充：

• 服务端 [Request Convert] 和 [Content Generation] 相关的完整日志
• 是所有请求都报 400 还是只有特定操作（如工具调用）时才报

[redballoom]

为什么 我使用 点击菜单的「Developer」-「Configure Third-Party Inference...」，进入设置界面。是这样的

[fishered]

Couldn't load configuration
我也是这样 这是怎么回事

[carbonlin]

为什么 我使用 点击菜单的「Developer」-「Configure Third-Party Inference...」，进入设置界面。是这样的

大佬解决了吗