Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

4.6.8版本知识库Embedding API 404 #937

Closed
6 of 7 tasks
Mr-IT007 opened this issue Mar 6, 2024 · 16 comments
Closed
6 of 7 tasks

4.6.8版本知识库Embedding API 404 #937

Mr-IT007 opened this issue Mar 6, 2024 · 16 comments
Labels
bug Something isn't working

Comments

@Mr-IT007
Copy link

Mr-IT007 commented Mar 6, 2024

例行检查

  • 我已确认目前没有类似 issue
  • 我已完整查看过项目 README,以及项目文档
  • 我使用了自己的 key,并确认我的 key 是可正常使用的
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

你的版本

  • 公有云版本
  • 私有部署版本

问题描述
4.6.8版本 fastgpt 模型对话功能正常,但是知识库模块上提示 Embedding API 404。
大模型对话功能正常,但是向量模型one-api上测试正常,curl命令测试正常,fastgpt页面上提示Embedding API 404

复现步骤

预期结果

相关截图
da6d989ee4cce7401b0c400307c04ab

e0fff38560b6516ec1ebef6ecc28d96

902bef845329d0a154138d0b4975995

@Mr-IT007 Mr-IT007 added the bug Something isn't working label Mar 6, 2024
@JerryMoon
Copy link

上午刚部署完,建好知识库也出现了这问题。刚刚又试了下,好了。。不知道发生了啥,这个错误给的信息太少了:
Embedding Error Embedding API 404
[ERROR] 2024-03-06 03:14:36 sse error: Embedding API 404
{ message: 'Embedding API 404', stack: undefined }

@yongxinzhang18810492456
Copy link

我还在学习训练中,就报了这个错:
image
image

@c121914yu
Copy link
Collaborator

404就是模型地址不对

@Mr-IT007
Copy link
Author

Mr-IT007 commented Mar 7, 2024

404就是模型地址不对

但是one-api配置的url是对的,测试也正常

@xianniduanqun
Copy link

同问同求,上传文档后只会有一组或者2组数据,看oneapi也是请求通了的,但是后续就始终卡住,手动添加数据就会提示:Embedding API 404。

只有特别偶尔的情况下,才可以手动添加成功,成功概率大概5%左右,其余情况都是报Embedding API 404

@xianniduanqun
Copy link

我的已经解决掉了:
我用的是文心一言的Embedding-V1,最大长度限制1000,需要在配置文件里改一下vectorModels中的maxToken。然后录入新数据的时候需要拆小一点,我自定义500,就好很多了,只有一小部分数据一直卡着,大部分数据都索引完成了。

@tom6q6
Copy link

tom6q6 commented Mar 7, 2024

我的已经解决掉了: 我用的是文心一言的Embedding-V1,最大长度限制1000,需要在配置文件里改一下vectorModels中的maxToken。然后录入新数据的时候需要拆小一点,我自定义500,就好很多了,只有一小部分数据一直卡着,大部分数据都索引完成了。

能否发一下你的配置文件我看下,我也遇到这样的问题了

@Cordy27
Copy link

Cordy27 commented Mar 8, 2024

我的已经解决掉了: 我用的是文心一言的Embedding-V1,最大长度限制1000,需要在配置文件里改一下vectorModels中的maxToken。然后录入新数据的时候需要拆小一点,我自定义500,就好很多了,只有一小部分数据一直卡着,大部分数据都索引完成了。

使用了这个方法但仍然报错,我也用的文心一言的Embedding-V1

@dytinux
Copy link

dytinux commented Mar 10, 2024

chatglm在线的embedding-2也同样错误

@sx272194952
Copy link

前置:智谱好像现在只支持embedding-2
问题:chatglm embedding-2报错
(1)在oneapi配置如下图
image
(2)fastgpt持续搜索text-embedding-ada-02,日志报错未找到text-embedding-ada-002模型
可能的原因:
packages/global/core/ai/model.ts packages/service/core/dataset/schema.ts 这两个文件下有默认向量模型text-embedding-ada-002
待确认。。。

@tom54007
Copy link

智谱的embedding-2和openai的text-embedding-ada-02请求与响应基本一致,但是用不了智谱

@ivanberry
Copy link

使用one-api中转azure的text-embedding-ada-02,一直报错Post "text-embedding-ada-002/openai/deployments/Embedding-V1/embeddings?api-version=2023-06-01-preview": unsupported protocol scheme

image

不管是否做这个映射都是一样的报错

@Cordy27
Copy link

Cordy27 commented Mar 13, 2024

前置:智谱好像现在只支持embedding-2 问题:chatglm embedding-2报错 (1)在oneapi配置如下图 image (2)fastgpt持续搜索text-embedding-ada-02,日志报错未找到text-embedding-ada-002模型 可能的原因: packages/global/core/ai/model.ts packages/service/core/dataset/schema.ts 这两个文件下有默认向量模型text-embedding-ada-002 待确认。。。

请问是否确认问题(2),one api似乎也无法通过自定义方式接入text-embedding-ada-002,直接导致知识库功能不可用了

@oopono
Copy link

oopono commented Mar 26, 2024

我用阿里千问text-embedding-v1 这个模型就不报错,智谱的embedding-2/Embedding-2(大小写我都试过)就报 Embedding API 404,one-api日志 respErr is not nil: &{Error:{Message:prompt 参数非法。请检查文档。 Type:zhipu_error Param: Code:1214} StatusCode:200}, 智谱官网 提示 1214 | ${field} 参数非法。fastgpt 日志看不到任何东西

@mxdlzg
Copy link

mxdlzg commented Apr 10, 2024

我用阿里千问text-embedding-v1 这个模型就不报错,智谱的embedding-2/Embedding-2(大小写我都试过)就报 Embedding API 404,one-api日志 respErr is not nil: &{Error:{Message:prompt 参数非法。请检查文档。 Type:zhipu_error Param: Code:1214} StatusCode:200}, 智谱官网 提示 1214 | ${field} 参数非法。fastgpt 日志看不到任何东西

看起来是one-api的问题,我直接用url调智谱的embedding是没问题的,用one-api传数组的情况会跟你错误一样,非数组正常。具体情况看这个问题:
songquanpeng/one-api#1291 (comment)

@ShinChven
Copy link
Contributor

  "vectorModels": [
    {
      "model": "text-embedding-3-large",
      "name": "Embedding-3-large",
      "avatar": "/imgs/model/openai.svg",
      "charsPointsPrice": 0,
      "defaultToken": 512,
      "maxToken": 3000,
      "weight": 100,
      "dbConfig": {},
      "queryConfig": {},
      "defaultConfig": {
        "dimensions": 1024
      }
    },
    {
      "model": "text-embedding-3-small",
      "name": "Embedding-3-large",
      "avatar": "/imgs/model/openai.svg",
      "charsPointsPrice": 0,
      "defaultToken": 512,
      "maxToken": 3000,
      "weight": 100,
      "dbConfig": {},
      "queryConfig": {}
    },
    {
      "model": "text-embedding-ada-002",
      "name": "Embedding-2",
      "avatar": "/imgs/model/openai.svg",
      "charsPointsPrice": 0,
      "defaultToken": 512,
      "maxToken": 3000,
      "weight": 100,
      "dbConfig": {},
      "queryConfig": {}
    }
  ],

默认配置文件的锅

把name改一下

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
bug Something isn't working
Projects
None yet
Development

No branches or pull requests