webUI导出模型问题

[hellokid200]

作者您好，我遇到了问题：

lora微调成功后，
使用过webUI中的chat标签，使用适配器加载微调内容是成成功的。
但是，使用webUI和命令行导出lora微调的glm3-chat模型里没有包含微调的内容只有原始模型。

我使用的demo命令是
python3 src/cli_demo.py
--model_name_or_path ChatGLM3_chat
--adapter_name_or_path ChatGLM2-6B-Chat/lora/train_2024-05-02-17-03-39
--template chatglm3
--finetuning_type lora
可以正常运行，但是和webUI下的chat标签内加载后的内容不同，命令行加载的模型没有lora微调的部分，只有原始模型的内容 。
请帮忙解答，感谢。

[hiyouga]

我没看懂你把 chatglm2 的 lora 加载到 chatglm3 上是什么用意

[hiyouga]

会影响，要重新训练

[hellokid200]

好的谢谢

[zhaohai7206]

我也有同样的问题，

用python脚本调用，结果就是跟没有训练是一样的，我的脚本是下面截图

[zhaohai7206]

@hiyouga 抽空帮忙解答下哈

[hellokid200]

我是在图形界面下生成训练所需的参数，然后使用单机多卡的方式在命令行训练的，训练后的模型都是正常的。
下面是我调用训练后模型的代码部分，我用的是FastAPI