ChatGLM3的lora微调问题

[zhangmaohong]

1、loss下降过快，但是没有定位到原因，训练结束也没有生成新的模型文件

2、前面都能泡通，模型推理会抱错，但估计也是模型文件没有真正生成的原因导致的

[Hongru0306]

请问用的是repo里面的数据吗？还是自己的数据？

[zhangmaohong]

用的repo嬛嬛那个数据集

[Hongru0306]

您好，我这边刚拉下来跑完，没有出现问题:

LoRa微调本身就是不保存权重的，它只保存lora微调的部分，加载的时候需要peft进行二者一起加载，细节可参考同目录下的md文件:

[zhangmaohong]

我之前都是在notebook里面跑的 现在跑的py文件还是一样呢

[KMnO4-zx]

你应该是前面的某一步搞错了，我们这边复现的结果loss是逐步下降的。请检查你之前的步骤。

[sjy]

我也遇到了一样的问题，按照文档跑的，loss 没有下降

[rxy1212]

我出现了跟楼主一样的问题，也是loss变成了0.0，也没有生成模型文件

[rxy1212]

将 peft 降级至 0.6.2 可以解决问题

[zjk000]

你好请问一下你训练完之后是如何保存lora的权重到本地的？

llm = AutoModelForCausalLM.from_pretrained("THUDM/chatglm3-6b", trust_remote_code=True).cuda()
model = get_peft_model(llm, lora_config).cuda()
model.save_pretrained("trained_lora_weights")

请问是使用类似上述的代码保存的吗？我这么写有问题吗？为什么无法保存lora权重到本地？