调用zhipu-api和qwen-api等在线模型时报错TypeError: Caught exception: object of type 'NoneType' has no len()

[61-113]

问题描述 / Problem Description
1、调用zhipu-api和qwen-api等在线模型时报错TypeError: Caught exception: object of type 'NoneType' has no len()；
2、来回切换模型报错streamlit.errors.DuplicateWidgetID: There are multiple widgets with the same key=''.

复现问题的步骤 / Steps to Reproduce
1、在本地试了多个在线模型，配置了正确key（可以确保正确，使用官方demo都能正常对话），只有xinghuo-api可正常对话，其他的比如zhipu-api和qwen-api对话后都报错：
utils.py[line:25] - ERROR: TypeError: Caught exception: object of type 'NoneType' has no len()

2、来回切换在线模型后对话，抛出错误：

预期的结果 / Expected Result
正常对话

实际结果 / Actual Result

环境信息 / Environment Information

• langchain-ChatGLM 版本/commit 号：v0.2.7
• 是否使用 Docker 部署（是/否）：否
• 使用的模型（ChatGLM2-6B / Qwen-7B 等）：xinghuo-api / zhipu-api / qwen-api
• 使用的 Embedding 模型（moka-ai/m3e-base 等）： moka-ai/m3e-base
• 使用的向量库类型 (faiss / milvus / pg_vector 等)： faiss
• 操作系统及版本 / Operating system and version: Ubuntu
• Python 版本 / Python version: python3.10
• 其他相关环境信息 / Other relevant environment information:

附加信息 / Additional Information
添加与问题相关的任何其他信息 / Add any other information related to the issue.

[amusir]

我也是相关错误，可以看#2051

[amusir]

我也是相关错误，可以看#2051

你的第二个问题我也遇到过几次

[61-113]

qwen-api修复：
1、修改model_workers/qwen.py文件，把import dashscope移到外面来，这时在启动会报错：
ModuleNotFoundError: No module named 'dashscope'
直接安装即可：pip install dashscope
避免一直为TypeError: Caught exception: object of type 'NoneType' has no len()这个错误困扰。

2、修改端口，与configs/server_config.py中保持一致：

[61-113]

zhipu-api修复方法，同上面qwen-api：
1、修改model_workers/zhipu.py文件，把import zhipuai移到外面来，这时在启动会报错：
ModuleNotFoundError: No module named 'zhipuai'
直接安装即可：pip install zhipuai
避免一直为TypeError: Caught exception: object of type 'NoneType' has no len()这个错误困扰。

[61-113]

问题描述 / Problem Description 1、调用zhipu-api和qwen-api等在线模型时报错TypeError: Caught exception: object of type 'NoneType' has no len()； 2、来回切换模型报错streamlit.errors.DuplicateWidgetID: There are multiple widgets with the same key=''.

复现问题的步骤 / Steps to Reproduce 1、在本地试了多个在线模型，配置了正确key（可以确保正确，使用官方demo都能正常对话），只有xinghuo-api可正常对话，其他的比如zhipu-api和qwen-api对话后都报错： utils.py[line:25] - ERROR: TypeError: Caught exception: object of type 'NoneType' has no len()

2、来回切换在线模型后对话，抛出错误：

预期的结果 / Expected Result 正常对话

实际结果 / Actual Result

环境信息 / Environment Information

• langchain-ChatGLM 版本/commit 号：v0.2.7
• 是否使用 Docker 部署（是/否）：否
• 使用的模型（ChatGLM2-6B / Qwen-7B 等）：xinghuo-api / zhipu-api / qwen-api
• 使用的 Embedding 模型（moka-ai/m3e-base 等）： moka-ai/m3e-base
• 使用的向量库类型 (faiss / milvus / pg_vector 等)： faiss
• 操作系统及版本 / Operating system and version: Ubuntu
• Python 版本 / Python version: python3.10
• 其他相关环境信息 / Other relevant environment information:

附加信息 / Additional Information 添加与问题相关的任何其他信息 / Add any other information related to the issue.

当每个模型对话都正常时，来回切换模型在对话就没有报错了，即第2个问题也不存在了

[Leweibo]

问题解决了吗？
怎么Closed了？

[61-113]

问题解决了吗？ 怎么Closed了？

按照上面的方法来，试了可以正常用

[zdhmd5]

我在本地使用的chatglm2-6b，也有相同的问题。

[GAllllong]

追问一下，调用千帆api在线模型遇到TypeError: Caught exception: object of type 'NoneType' has no len()，应该如何解决呀，使用的是chatchat027版本

[61-113]

追问一下，调用千帆api在线模型遇到TypeError: Caught exception: object of type 'NoneType' has no len()，应该如何解决呀，使用的是chatchat027版本

千帆的我没试过，但是解决思路类似，你把下面这一行放到外面来，然后安装一下这个模块，重启一下在看看

[GAllllong]

@61-113 谢谢您，这边已经调通了，chatchat027版本貌似需要安装qianfan==0.1.0，就可以了，之前我的依赖库不兼容。

[JustDoItToo]

@61-113 我按照这个方法修改了，还是会报这个错，请问还可能是什么原因导致的呀？我这边智谱的没问题，千问和百川的会报这个错误

qwen-api修复： 1、修改model_workers/qwen.py文件，把import dashscope移到外面来，这时在启动会报错： ModuleNotFoundError: No module named 'dashscope' 直接安装即可：pip install dashscope 避免一直为TypeError: Caught exception: object of type 'NoneType' has no len()这个错误困扰。

2、修改端口，与configs/server_config.py中保持一致：

[supersoulsoul]

@61-113 我按照这个方法修改了，还是会报这个错，请问还可能是什么原因导致的呀？我这边智谱的没问题，千问和百川的会报这个错误

qwen-api修复： 1、修改model_workers/qwen.py文件，把import dashscope移到外面来，这时在启动会报错： ModuleNotFoundError: No module named 'dashscope' 直接安装即可：pip install dashscope 避免一直为TypeError: Caught exception: object of type 'NoneType' has no len()这个错误困扰。
2、修改端口，与configs/server_config.py中保持一致：

请问你这个问题解决了吗？我遇到同样的问题，是0.2.6版本的。

[JerryYao80]

我在 0.2.9的 chatglm3版本上也出现了这个问题

[ZhichaoOuyang]

我在本地使用的chatglm2-6b，也有相同的问题。

解决了吗，我也是一样的问题

[ZhichaoOuyang]

我在 0.2.9的 chatglm3版本上也出现了这个问题

请问怎么解决

[xzx879886595]

修改model_workers/zhipu.py文件，把import zhipuai移到外面来.我看了一下zhipu.py这个文件，没找到import zhipuai在哪里？

[codermama]

我也没看 到 我把zhipu.py stream 设置成 了true 就是报这个 错 但是false 就是正常运行

[QuanSir07]

上面的都试了一遍，也没把zhipu跑通，依旧报这个错。。。。

[hosea7456]

上面的都试了一遍，也没把zhipu跑通，依旧报这个错。。。。

我也是，不起作用