Skip to content
🏆 UNIDO 认可

LABS.AI 被选为 UNIDO 工业 AI 信赖合作伙伴 了解更多

立即开始

企业级性能

Java 25虚拟线程运行在Quarkus上,数百万轻量级线程处理IO密集型LLM工作负载,亚秒级启动时间。

企业级性能

为规模而建

EDDI运行在Java 25和Quarkus上,利用虚拟线程(Project Loom)实现IO密集型操作的大规模并发。与Node.js事件循环不同,虚拟线程以最小开销提供真正的多线程并行。

为什么虚拟线程对AI代理很重要

现代AI代理从根本上说受限于I/O

Java虚拟线程优雅地解决了这个问题。

性能亮点

上下文中的性能

没有任何运行时能在所有场景中胜出。Node.js在高度特定的纯I/O路由场景中可能优于Java,而Java在涉及CPU密集型任务的工作负载中始终保持领先,这正是AI代理所需要的。现代代理执行的是海量I/O(LLM API调用、向量查询)与密集计算(数据转换、路由逻辑、嵌入处理、置信度评估)的复杂组合。这种混合工作负载特征正是Quarkus虚拟线程发挥最大优势的场景。

EDDI的架构正是针对这一现实而优化:I/O密集的代理编排层采用带虚拟线程的Quarkus,并结合Loom友好的连接池(Agroal),避免传统连接池库在高虚拟线程并发下出现的ThreadLocal争用问题。