Чат-бот на основе haystack.
С помощью RAG предоставляет специальную информацию, например, для поступающих в Финансовый Университет.
Тестовая версия бота: https://findatalab.ru
- Python 3.12
- Установленные библиотеки из
requirements.txt - Запущенный Ollama с моделью (например,
gemma3) - Документы в директории
data_files/
-
Установите зависимости:
pip install -r requirements.txt
-
Запустите Ollama и загрузите модель:
ollama pull gemma3
-
Поместите документы в директорию
data_files/
- Запустите чат-бот:
python main.py- Введите ваш вопрос
- Получите ответ от чат-бота
- Для выхода введите "Q"
Для запуска веб приложения debug
flask --app appchat --debug runProduction
gunicorn --bind=0.0.0.0:8000 "appchat:create_app()" --daemonПроект использует архитектуру RAG (Retrieval-Augmented Generation):
- Вопрос поступающего преобразуется в эмбеддинг
- Система ищет релевантные документы в базе знаний
- Контекст и вопрос передаются в LLM
- LLM генерирует ответ
- Чат-история сохраняется для последующих вопросов
Этот проект является примером и может быть использован для образовательных целей.