-
Notifications
You must be signed in to change notification settings - Fork 5k
New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
TypeError: 'NoneType' object is not iterable(本地部署) #2314
Comments
model_path 改成绝对路径试试。如果不行,需要贴出完整的报错信息。 |
已经修改成对应的绝对路径
但是依旧是同样的问题
没有升成0.28的原因是那个通信问题我也会碰到,改成开发版也会有其他错误出现,就保持0.27的版本了,看看这个问题能不能找到 |
这个127.0.0.1可以修改成0.0.0.0吗,因为服务器和我本地之间隔了个跳板机,本地没办法直接访问服务器7861端口,上面的8080端口是修改成0.0.0.0之后利用隧道映射做的。想把这个localhost改成0.0.0.0的,通过下面的修改行不通
|
The same error occurred |
解决了吗 |
可以改成0.0.0.0 |
可以指点一下具体要修改哪儿吗?我目前做了一些修改,是失败的
输出信息显示没有修改成功,顺便,后续执行还是和上面的一样的报错
|
@black-fruit 还没有解决,或者你可以试试 @liunux4odoo 上面的建议,我目前卡在了访问7861端口这,如果你能访问7861,可以看看http://127.0.0.1:7861/docs 里手动调用/list_running_models,看看报啥错。 |
相同的报错,默认不是调用chatglm就会出这个问题 |
也是同样的问题,模型都调成了绝对路径 |
解决了,但不知道是怎么解决的 |
我调用glm才会是这个问题 |
好神奇,我改成openai api就解决了,但是我要的是glm |
目前测试mps会卡在torch这一步。。。。。。 |
挂个悬赏可以从根本解决问题 |
好久不用 ubuntu下又装了一版 遇到同样的问题 |
太神奇了 |
开发者没想过自己程序有问题 |
这个项目bug太多了,而且代码有些乱不好调试,还是继续用wenda吧 |
mps没有人能测试,我们使用的设备已经在 wiki中写了,确保你的系统环境符合要求 |
我的这个问题解决了,应该是服务器代理的问题 |
这个问题有大佬解决了么?我重装了http==0.25,结果还是报错 |
有大佬解决了吗?我也这个问题。。。 |
有人解决没有啊?????????这个问题很明显啊,就按官方走,配置文件里改个chatglm3-6b的模型地址,其余保持不变,会爆这个错 |
和楼主一样的现象,琢磨了两天,最后发现我 |
怎么解决的啊?我用的是chatglm2-6b,改成相对路径和绝对路径都试了还是报错TypeError: 'NoneType' object is not iterable,web界面能打开 |
改网络设置发自我的手机-------- 原始邮件 --------发件人: CC ***@***.***>日期: 2024年3月19日周二 15:22收件人: chatchat-space/Langchain-Chatchat ***@***.***>抄送: lidong10 ***@***.***>, Comment ***@***.***>主 题: Re: [chatchat-space/Langchain-Chatchat] TypeError: 'NoneType' object is not iterable(本地部署) (Issue #2314)
解决了,但是不知道怎么解决的
怎么解决的啊?我用的是chatglm2-6b,改成相对路径和绝对路径都试了还是报错TypeError: 'NoneType' object is not iterable,web界面能打开
—Reply to this email directly, view it on GitHub, or unsubscribe.You are receiving this because you commented.Message ID: ***@***.***>
|
电脑的网络设置,我挂梯子,梯子自动会改我的网络设置,你是win11还Ubuntu?你只要看系统中的网络设置发自我的手机-------- 原始邮件 --------发件人: CC ***@***.***>日期: 2024年3月19日周二 15:22收件人: chatchat-space/Langchain-Chatchat ***@***.***>抄送: lidong10 ***@***.***>, Comment ***@***.***>主 题: Re: [chatchat-space/Langchain-Chatchat] TypeError: 'NoneType' object is not iterable(本地部署) (Issue #2314)
解决了,但是不知道怎么解决的
怎么解决的啊?我用的是chatglm2-6b,改成相对路径和绝对路径都试了还是报错TypeError: 'NoneType' object is not iterable,web界面能打开
—Reply to this email directly, view it on GitHub, or unsubscribe.You are receiving this because you commented.Message ID: ***@***.***>
|
|
回复500,感觉是挂梯子的问题 |
电脑的网络设置,我挂梯子,梯子自动会改我的网络设置,你是win11还Ubuntu?你只要看系统中的网络设置发自我的手机-------- 原始邮件 --------发件人: CC @.>日期: 2024年3月19日周二 15:22收件人: chatchat-space/Langchain-Chatchat @.>抄送: lidong10 @.>, Comment @.>主 题: Re: [chatchat-space/Langchain-Chatchat] TypeError: 'NoneType' object is not iterable(本地部署) (Issue #2314) 解决了,但是不知道怎么解决的 怎么解决的啊?我用的是chatglm2-6b,改成相对路径和绝对路径都试了还是报错TypeError: 'NoneType' object is not iterable,web界面能打开 —Reply to this email directly, view it on GitHub, or unsubscribe.You are receiving this because you commented.Message ID: @.***> 如何修改这个网络设置呢? |
问题描述
本地部署时,
python startup.py --all -webui
,启动后打开web页面,后台和页面就会报错,报错信息为复现问题的步骤
正常安装依赖
修改config中的文件内容,所有修改内容如下
server_config.py,修改端口和GPU使用
环境信息
实现方式:远程服务器拉的pytorch2.1镜像,部署此项目
==============================Langchain-Chatchat Configuration==============================
操作系统:Linux-5.15.0-46-generic-x86_64-with-glibc2.31.
python版本:3.10.13 (main, Sep 11 2023, 13:44:35) [GCC 11.2.0]
项目版本:v0.2.7
langchain版本:0.0.340. fastchat版本:0.2.33
当前使用的分词器:ChineseRecursiveTextSplitter
当前启动的LLM模型:['chatglm3-6b'] @ cuda
{'device': 'cuda',
'gpus': '0,1',
'host': '0.0.0.0',
'infer_turbo': False,
'model_path': '../THUDM/chatglm3-6b',
'num_gpus': 2,
'port': 20002}
当前Embbedings模型: m3e-base @ cuda
附加信息
在其他issue中有看到类似问题,但是没看到解决方法,包括 #2122 #2094
有回复说是openai的bug,建议完全按照wiki的方式实现本地部署,但已经尽量按照wiki的方式实现本地部署,好像是没有完全注释掉openai相关内容带来上述错误,所以请教一下,还需要修改哪些
The text was updated successfully, but these errors were encountered: