local-LORA-train-llm-script_v04

Данный скрипт позволит вам обучить/дообучить LLM локально на вашем пк совершенно бесплатно.

Плюсы скрипта:
он загружает все библиотеки в свою папку не засоряя пк ненужными библиотеками и файлами,
способен полностью обучить и подготовить к использованию llm абсолютно локально,
максимально оптимизированный алгоритм обучения для запуска на чистом процессоре без видеокарты или на старых пк.
открытый код на python позволит вам что редактировать самостоятельно.
там еще плюсы есть но печатать все лень)) Все что вам нужно знать для использования указано в инструкции к программе: файл: "Инструкция.docx"

Patch-notes
1 - Больше вам не нужно скачивать файлы с гугл диска или сторонних источников в ручную, я смог добиться того чтобы скрипт докачал и собрал папку llama.cpp автоматически в месте с загрузкой библиотек!!!!
(да я очень этому рад, и что вы мне сделаете?)
2 - исправлена ошибка в передаче параметров для обучения, а именно:
- не передавался параметр dropout из за моей ошибки.
- остался не используемы параметр с прошлых алгоритмов обучения: grad_acc
3 - незначительные изменения в визуальной составляющей скрипта.
4 - Обновлены версии библиотек Lora и обучение стало чуть стабильнее. не моя заслуга но все хо упомянул))))