Этот проект представляет собой чат-бот, который предоставляет информацию поступающим в Финансовый Университет. Бот использует методы обработки естественного языка (NLP) для анализа вопросов и поиска соответствующих ответов в базе знаний.
- Ответы на вопросы поступающих в Финансовый Университет
- Использование локальной модели LLM через Ollama
- Поддержка чат-истории (сохранение диалога)
- Интеграция с базой знаний (документами в форматах: txt, pdf, md)
Тестовая версия бота @fin_enroll_bot
.
├── main.py # Основной файл запуска чат-бота
├── rag.py # Определение RAG-конвейера
├── preprocessor.py # Предобработка документов
├── data_files/ # Директория с документами для обработки
└── README.md # Этот файл- Python 3.12
- Установленные библиотеки из
requirements.txt - Запущенный Ollama с моделью (например,
gemma3) - Документы в директории
data_files/
-
Установите зависимости:
pip install -r requirements.txt
-
Запустите Ollama и загрузите модель:
ollama pull gemma3
-
Поместите документы в директорию
data_files/
- Запустите чат-бот:
python main.py- Введите ваш вопрос
- Получите ответ от чат-бота
- Для выхода введите "Q"
Проект использует архитектуру RAG (Retrieval-Augmented Generation):
- Вопрос поступающего преобразуется в эмбеддинг
- Система ищет релевантные документы в базе знаний
- Контекст и вопрос передаются в LLM
- LLM генерирует ответ
- Чат-история сохраняется для последующих вопросов
Этот проект является примером и может быть использован для образовательных целей.