Construído para Escala
O EDDI roda em Java 25 com Quarkus, aproveitando Virtual Threads (Project Loom) para concorrência massiva em operações de I/O. Ao contrário dos event loops do Node.js, Virtual Threads fornecem paralelismo multi-thread genuíno com overhead mínimo.
Por que as threads virtuais importam para agentes de IA
Os agentes de IA modernos são fundamentalmente I/O-bound.
As Virtual Threads do Java resolvem isso com elegância.
Destaques de Desempenho
- Virtual Threads, Milhões de threads leves para chamadas LLM concorrentes
- Runtime Quarkus, Java cloud-native com hot reload em modo de desenvolvimento, otimizado para containers. O Quarkus oferece throughput significativamente maior e inicialização mais rápida do que stacks JVM legadas, com menor consumo de memória
- Pools de conexão compatíveis com Loom, O pool de conexões Agroal evita os gargalos ThreadLocal que podem afetar pools tradicionais sob cargas de threads virtuais
- NATS JetStream, Escalabilidade horizontal com arquitetura orientada a eventos
- Banco de Dados Duplo, MongoDB ou PostgreSQL, alterne com uma variável de ambiente. Uma única imagem Docker suporta ambos
- SSE Streaming, Respostas de chat em tempo real, feeds de discussão em grupo e streaming de logs ao vivo via Server-Sent Events, com saída token a token mesmo enquanto as ferramentas estão em execução
- Instalação com Um Comando, Assistente interativo para implantar EDDI + banco de dados via Docker Compose e gerar uma chave do vault
- Certificado Red Hat, Imagem UBI 10 publicada no catálogo certificado da Red Hat, com verificações preflight automáticas no CI/CD
Desempenho em contexto
Nenhum runtime vence em todos os cenários. O Node.js pode superar o Java em cenários muito específicos de roteamento puramente I/O, enquanto o Java lidera consistentemente em cargas de trabalho que envolvem tarefas intensivas em CPU, exatamente o que os agentes de IA exigem. Agentes modernos executam uma combinação complexa de I/O massivo (chamadas de API de LLM, consultas vetoriais) e computação intensiva (transformação de dados, lógica de roteamento, processamento de embeddings, avaliação de confiança). É nesse perfil de carga de trabalho mista que as threads virtuais no Quarkus oferecem sua maior vantagem.
A arquitetura do EDDI é intencionalmente otimizada para essa realidade: Quarkus com threads virtuais para a camada de orquestração de agentes com I/O intensivo, combinado com pools de conexão compatíveis com Loom (Agroal) que evitam os problemas de contenção de ThreadLocal observados em bibliotecas de pooling tradicionais sob alta concorrência de threads virtuais.