Diseñado para escalar
EDDI se ejecuta sobre Java 25 con Quarkus, aprovechando los hilos virtuales (Project Loom) para una concurrencia masiva en E/S. A diferencia de los bucles de eventos de Node.js, los hilos virtuales ofrecen verdadero paralelismo multihilo con una sobrecarga mínima.
Por qué los hilos virtuales importan para agentes de IA
Los agentes de IA modernos están fundamentalmente limitados por I/O.
Los hilos virtuales de Java resuelven esto con elegancia.
Aspectos destacados de rendimiento
- Hilos virtuales: Millones de hilos ligeros para llamadas LLM concurrentes
- Runtime Quarkus: Java nativo para la nube con recarga en caliente en modo dev, optimizado para contenedores. Quarkus ofrece un rendimiento claramente superior y un arranque más rápido que los stacks JVM tradicionales, con una huella de memoria menor
- Pools de conexión compatibles con Loom: El pool de conexiones Agroal evita los cuellos de botella ThreadLocal que pueden afectar a los pools tradicionales bajo cargas de hilos virtuales
- NATS JetStream: Escalabilidad horizontal con arquitectura basada en eventos
- Base de datos dual: MongoDB o PostgreSQL, cambio con una variable de entorno. Una imagen Docker para ambas
- Streaming SSE: Respuestas de chat en tiempo real, feeds de discusiones grupales y streaming de logs en vivo a través de Server-Sent Events
- Instalación con un comando: Asistente interactivo que despliega EDDI + base de datos + agente inicial vía Docker Compose
- Red Hat Certificado: Certificación de contenedores con verificaciones preflight automatizadas en CI/CD
Rendimiento en contexto
Ningún runtime gana en todos los escenarios. Node.js puede superar a Java en escenarios muy específicos de enrutamiento de E/S pura, mientras que Java lidera de forma consistente en cargas de trabajo con tareas intensivas en CPU, que es exactamente lo que requieren los agentes de IA. Los agentes modernos ejecutan una combinación compleja de E/S masiva (llamadas a APIs de LLM, consultas vectoriales) y computación intensiva (transformación de datos, lógica de enrutamiento, procesamiento de embeddings, evaluación de confianza). Este perfil de carga mixta es donde los hilos virtuales sobre Quarkus ofrecen su mayor ventaja.
La arquitectura de EDDI está optimizada intencionadamente para esta realidad: Quarkus con hilos virtuales para la capa de orquestación de agentes intensiva en E/S, combinado con pools de conexiones compatibles con Loom (Agroal) que evitan los problemas de contención de ThreadLocal observados en las bibliotecas de pooling tradicionales bajo alta concurrencia de hilos virtuales.