엔터프라이즈 AI의 공백
엔터프라이즈 Java에는 비주얼 AI 오케스트레이션 미들웨어가 없습니다.
EDDI가 이 공백을 채웁니다
EDDI는 배포 가능한 미들웨어 플랫폼이며 라이브러리가 아닙니다:
- 비주얼 관리 UI, 에이전트 구축과 모니터링을 위한 EDDI 매니저
- Configuration-as-Code, 에이전트 로직은 JSON, 컴파일된 Java가 아님
- 65개 MCP 도구, Model Context Protocol을 통한 완전한 AI 네이티브 제어
- 엔터프라이즈 보안, OIDC, Vault, 감사 추적, eval() 없음
- 프로덕션 인프라, REST API, 대화 상태 관리, Prometheus 메트릭
- 수평 확장, 분산 아키텍처를 위한 NATS JetStream
누가 EDDI를 사용해야 하나요?
- 엔터프라이즈 Java 팀, JVM을 벗어나지 않고 AI 오케스트레이션이 필요
- 프롬프트 엔지니어, Java 재컴파일 없이 반복하고 싶은
- 규제 산업, 감사 추적과 EU AI법 준수가 필요한
- 플랫폼 팀, 여러 부서를 위한 내부 AI 서비스를 구축하는
EDDI vs. 일반적인 에이전트 프레임워크
| 차원 | Python/Node 프레임워크 | EDDI |
|---|---|---|
| 동시성 | GIL 또는 단일 스레드 이벤트 루프 | Java 25 가상 스레드, 진정한 OS 수준 병렬 처리 |
| 에이전트 로직 | 애플리케이션 코드에 내장 | 버전 관리되는 JSON 구성, 재배포 없이 동작 업데이트 |
| 보안 모델 | 샌드박스 코드 실행에 의존 | 동적 코드 실행 없음, 봉투 암호화 Vault, SSRF 보호 |
| 컴플라이언스 | 커스텀 구현 필요 | GDPR, HIPAA, EU AI법 인프라 내장 |
| 감사 추적 | 애플리케이션 수준 로깅 | 암호화 에이전트 서명이 포함된 HMAC-SHA256 불변 원장 |
| 배포 | pip/npm + 수동 인프라 | 원커맨드 Docker 설치, Kubernetes/OpenShift 대응 |
12개 LLM 제공업체 지원
주요 LLM 제공업체에 연결, 또는 OpenAI 호환 엔드포인트를 통해 자체 제공업체 사용.
| 카테고리 | 프로바이더 |
|---|---|
| 클라우드 API | OpenAI · Anthropic Claude · Google Gemini · Mistral AI |
| 엔터프라이즈 클라우드 | Azure OpenAI · Amazon Bedrock · Oracle GenAI · Google Vertex AI |
| 셀프 호스팅 | Ollama · Jlama · Hugging Face |
| 호환 | OpenAI 호환 엔드포인트 (DeepSeek, Cohere 등) baseUrl 사용 |
모든 CIO가 물어야 할 8가지 질문
AI 에이전트 오케스트레이션 플랫폼을 평가할 때, 프로덕션급 인프라와 취약한 프로토타입을 가르는 질문은 다음과 같습니다:
아키텍처
플랫폼이 런타임에 사용자 제공 코드를 실행하나요?
EDDI: 아니요. EDDI는 선언적 JSON 구성만 사용합니다, eval() 제로, 코드 실행 블록 제로.
성능
수천 건의 동시 에이전트 대화를 어떻게 처리하나요?
EDDI: Java 25 가상 스레드가 수백만 건의 동시 I/O 바운드 작업에 진정한 OS 수준 병렬 처리를 제공합니다.
통합
에이전트가 오픈 표준을 통해 외부 도구와 서비스를 사용할 수 있나요?
EDDI: 65개 MCP 도구, A2A 프로토콜, OpenAPI 3.1 생성/소비, OAuth 2.0/OIDC, 모두 오픈 표준입니다.
데이터 프라이버시
데이터 주체 권리(삭제, 내보내기, 제한)는 어떻게 구현되나요?
EDDI: 통합 REST API가 5개 데이터 저장소 전체에 캐스케이드됩니다. GDPR, CCPA, LGPD, PIPEDA 및 15개 이상의 프레임워크를 위한 단일 엔드포인트.
보안
플랫폼의 CVE 이력과 아키텍처 보안 태세는 어떤가요?
EDDI: 동적 코드 실행이 없어 취약점 클래스 전체가 제거됩니다. OIDC/Keycloak, AES-256-GCM Vault, HMAC-SHA256 감사 추적.
컴플라이언스
불변의 암호화 서명된 감사 추적을 제공하나요?
EDDI: 에이전트별 암호화 서명이 포함된 HMAC-SHA256 변조 방지 원장. 모든 의사결정에 대한 완전한 파이프라인 트레이싱.
운영
비개발자(프롬프트 엔지니어, 컴플라이언스 담당자)도 플랫폼을 사용할 수 있나요?
EDDI: EDDI 매니저는 비주얼 에이전트 빌딩, 라이브 채팅 디버깅, 감사 대시보드를 갖춘 프로덕션 대응 React UI입니다.
이식성
온프레미스, 모든 클라우드, 에어갭 환경에서 실행할 수 있나요?
EDDI: Docker 네이티브 아키텍처로 어디서나 실행됩니다. 12개 LLM 프로바이더와 모든 OpenAI 호환 엔드포인트 지원. Ollama를 통한 완전한 에어갭 지원.
총 소유 비용: 구축 vs. 배포
AI 라이브러리 사용의 숨겨진 비용은 라이브러리 자체가 아니라, 팀이 그 주변에 구축하고 유지하며 보호해야 하는 보이지 않는 인프라입니다:
라이브러리로 구축
- 커스텀 REST API 레이어 (2~4주)
- 인증 & RBAC 시스템 (2~3주)
- 대화 상태 영속화 (1~2주)
- 감사 추적 & 컴플라이언스 로깅 (2~4주)
- 비개발자용 관리 UI (4~8주)
- 시크릿 관리 통합 (1~2주)
- 수평 확장 & 코디네이션 (2~4주)
- 지속적인 유지보수 & 보안 패치
EDDI 배포
- 원커맨드 설치 (5분)
- 위의 모든 것이 기본 제공
- 팀은 인프라가 아닌 비즈니스 로직에 집중
- 2006년부터 지속적으로 관리, 2018년부터 오픈소스
비즈니스 케이스
EDDI의 가치는 팀이 구축하지 않아도 되는 것으로 측정됩니다: REST API, 인증 시스템, 감사 인프라, 관리 UI, 컴플라이언스 도구 등 수개월의 엔지니어링 시간을 소모할 요소들입니다. 모델 캐스케이딩만으로도 간단한 쿼리를 저렴한 모델로 라우팅하고 신뢰도가 낮을 때만 강력한 모델로 에스컬레이션하여, 일반적인 멀티 모델 워크로드에서 LLM 비용을 최대 60~80%까지 절감할 수 있습니다.
규제가 심한 산업의 경우 비용 방정식은 더욱 명확해집니다: EDDI의 내장 컴플라이언스 인프라에 대한 대안은 GDPR, EU AI법, HIPAA를 비롯해 잠재적으로 15개 이상의 추가 규제 프레임워크를 포괄하는 맞춤형 구현이며, 각각 자체적인 데이터 주체 권리 구현, 감사 추적, 거버넌스 도구를 필요로 합니다.