Skip to content

Latest commit

 

History

4 Commits

Folders and files

NameName
Last commit message
Last commit date
 
 
 
 
 
 
 
 

Repository files navigation

Монорепозиторий с двумя сервисами: платформа бенчмарков диалогов и HTTP-сервис эмбеддингов.

Состав

Каталог Назначение
benchmark_service/ Streamlit-приложение: разметка JSONL, генерация диалогов, бенчмарки ассистента, LLM-судья, аналитика и фоновые прогоны (Postgres + MinIO + RabbitMQ)
embedder_gemma/ FastAPI-сервис эмбеддингов на базе google/embeddinggemma-300m

Быстрый старт

Benchmark Service

cd benchmark_service
cp .env.template .env
docker compose up -d --build

UI: http://localhost:8504

Подробности: benchmark_service/README.md

Embedder Gemma

cd embedder_gemma
cp .env.templates .env
docker compose -f docker-compose.dev.yml up --build

Подробности: embedder_gemma/README.md

Ограничения публичной версии

В benchmark_service интеграции с Dialog Manager и ClickHouse заменены NDA-заглушками: загрузка логов из внутренней БД и прогон сценариев через DM в этой копии репозитория недоступны. Остаются рабочими разметка/бенчмарк по JSONL, LiteLLM, внешний URL ассистента, LLM-судья и инфраструктура фоновых запусков.

Структура репозитория

itmo/
├── benchmark_service/     # Streamlit + worker + tests
│   ├── config/            # runtime-конфиги (RabbitMQ)
│   ├── src/
│   └── tests/
├── embedder_gemma/        # FastAPI embedder
│   ├── src/rag_embedder/
│   └── tests/
└── README.md              # этот файл

About

Сценарий.Метрика - цикл оценки и анализа диалоговых сценариев

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages