Repository navigation
v0.1.0
Primera versión que funciona de principio a fin: make up levanta el
gateway, la inferencia, el escalado y la observabilidad, todo por GitOps y a
coste 0.
Incluye: gateway con presupuestos por equipo (LiteLLM), inferencia local
con Ollama, autoescalado por RPS con KEDA, observabilidad GenAI (TTFT,
tokens/s, VRAM), guardrails de PII, cloud mockeada con LocalStack, y
Checkov/Trivy/Gitleaks en el pipeline.
Falta: UI de chat (usa el endpoint OpenAI-compatible), y con una sola
GPU no escalan réplicas : detalles en el README. #5
:)