제공되는 기능
- Ollama 서버와 통신하는
ollama유형의 LLM 태스크 - 공급자 API 키가 필요 없고 호스팅 모델로 데이터를 보내지 않음
- EDDI 옆에서 Ollama를 시작하는 compose 오버레이
- 작은 양자화 모델을 위한 대안으로 프로세스 내 Jlama 제공
EDDI에서의 동작 방식
- Ollama compose 오버레이로 EDDI를 시작하거나, Ollama를 직접 실행하고 URL을 메모해 둡니다.
- Ollama에 모델을 pull합니다. 모델 태그는
ollama list에 표시되는 그대로 사용하세요. - 태스크의
type을ollama로 설정하고baseUrl과model을 지정합니다. - 컨테이너 안에서
localhost는 그 컨테이너 자신을 가리킵니다. compose 서비스 이름이나host.docker.internal을 사용하세요.
설정
EDDI 문서를 기준으로 합니다. your-agent-id 같은 플레이스홀더는 직접 바꿔서 사용하세요.
docker compose -f docker-compose.yml -f docker-compose.ollama.yml up -d{
"tasks": [
{
"actions": ["send_message"],
"id": "ollamaChat",
"type": "ollama",
"description": "Ollama local model chat",
"parameters": {
"baseUrl": "http://ollama:11434",
"model": "llama3.2:3b",
"timeout": "120000",
"think": "false",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}거버넌스
- 프롬프트, 검색된 컨텍스트, 답변이 사용자의 네트워크 안에 머뭅니다. 이것이 로컬 모델을 쓰는 이유입니다.
- 승인, behavior rules, 감사 원장은 호스팅 모델을 쓸 때와 똑같이 적용됩니다.
- 자격 증명이 필요 없으므로 모델 자체를 위해 볼트에 넣을 것이 없습니다.
알아 두면 좋은 점
- 완전한 폐쇄망 환경에는 로컬 Ollama나 미리 채워 둔 Jlama 캐시가 필요합니다. 네트워크가 없으면 EDDI가 모델을 내려받을 수 없기 때문입니다.
- 로컬 모델은 도구 호출과 JSON 신뢰도가 제각각입니다. 의존하는 동작은 직접 테스트하세요.
구축과 운영을 맡기고 싶으신가요?
EDDI Solutions는 커넥터를 구축하고 유지 관리하며, EDDI를 관리형 또는 공동 운영 인스턴스로 운영하고, 고객사의 클라우드나 온프레미스 환경도 지원합니다.
EDDI Solutions에 문의하기 ↗관련 통합
이 페이지의 설정과 동작은 2026-10-14에 확인한 EDDI 문서를 따릅니다. 필드 이름과 기본값은 릴리스마다 달라질 수 있으므로, 사용 중인 버전의 문서에서 확인하세요.