Skip to content

渠道开启“透传请求体”功能后,Responses 接口调用模型,支持重定向功能 #3492

Description

@Zeta-ZhaoLi

提交前必读(请勿删除本节)

您当前的 newapi 版本

0.4.27-merge.1

提交确认

  • 我已确认目前没有类似 issue
  • 我已完整查看过文档 https://docs.newapi.ai/ 和项目 README,已确定现有版本无法满足需求
  • 我未删除此模板中的任何引导内容或小节标题,并会按要求完整填写
  • 我理解项目维护者精力有限,不遵循模板要求的 issue 可能会被无视或直接关闭

功能描述

当前版本已支持在开启 透传请求体 功能后,使用 /v1/chat/completions 接口调用模型实现重定向,但是 /v1/responses 接口依旧不行(渠道测试里可以成功,实际调用会报错)

Image Image Image

应用场景

Azure AI Foundry 部署模型时,如果要把配额最大化利用,每个模型只能部署一个模型名,需要用到重定向功能。

示例:

Image

Metadata

Metadata

Assignees

No one assigned

    Labels

    enhancementNew feature or request

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions