Damocles Cluster

Damocles Cluster es una plataforma SaaS de inferencia que orquesta un clúster de modelos de IA open source self-hosted para ejecutar flujos agénticos sin depender de proveedores externos. Expone una API compatible con OpenAI, de modo que cualquier agente —LangGraph, asistentes o clientes compatibles con OpenAI— puede consumir los modelos del clúster de forma transparente y sin cambios de código. La plataforma gestiona multi-tenancy con API keys, autenticación y rate limiting por organización; configura de forma centralizada los chat templates correctos para cada modelo —eliminando una de las causas más comunes de fallos en modelos GGUF—; y persiste el tracking de uso (tokens y latencia) para observabilidad y control de costos. Incluye soporte para tool calling y "thinking mode", traduciendo las respuestas de los modelos al formato estándar de OpenAI. Construida con Python y FastAPI sobre PostgreSQL y Redis, y desplegada con Docker, Damocles Cluster está pensada como el backbone de inferencia que alimenta a los agentes y asistentes del ecosistema.