Skip to content

v0.1.0

Choose a tag to compare

@DavidNull DavidNull released this 07 Sep 11:32
· 43 commits to main since this release
5031ffc

Primera versión que funciona de principio a fin: make up levanta el
gateway, la inferencia, el escalado y la observabilidad, todo por GitOps y a
coste 0.

Incluye: gateway con presupuestos por equipo (LiteLLM), inferencia local
con Ollama, autoescalado por RPS con KEDA, observabilidad GenAI (TTFT,
tokens/s, VRAM), guardrails de PII, cloud mockeada con LocalStack, y
Checkov/Trivy/Gitleaks en el pipeline.

Falta: UI de chat (usa el endpoint OpenAI-compatible), y con una sola
GPU no escalan réplicas : detalles en el README. #5

:)