강점
- 8개 언어
- 도구 사용
- 128K 컨텍스트
적합한 용도
- 셀프 호스팅 범용 채팅
- 다국어 어시스턴트
- 합성 데이터 생성
EDDI에서 실행하기
가장 빠른 방법은 EDDI 매니저입니다: 에이전트 위저드나 Platform Operator를 열고 프로바이더와 모델을 선택하세요. 직접 구성하려면 원하는 프로바이더에 대해 아래 단계를 따르세요.
Ollama (local) · type: "ollama"
모델 ID: llama3.3:70b
1. 자격 증명 저장
이 프로바이더는 API 키를 사용하지 않습니다: Ollama는 키가 필요 없습니다. baseUrl을 Ollama 서버로 지정하세요. EDDI의 Ollama 오버레이를 사용하면 http://ollama:11434입니다.
2. LLM 태스크 구성
이것을 에이전트 워크플로우의 langchain.json으로 사용하거나, EDDI 매니저의 LLM 편집기에 파라미터를 붙여 넣으세요.
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "ollama",
"parameters": {
"baseUrl": "http://ollama:11434",
"model": "llama3.3:70b",
"timeout": "120000",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}Oracle OCI Generative AI · type: "oracle-genai"
모델 ID: meta.llama-3.3-70b-instruct
1. 자격 증명 저장
이 프로바이더는 API 키를 사용하지 않습니다: OCI Generative AI는 ~/.oci/config의 OCI 구성 프로필로 인증합니다. 테넌시에 맞게 compartmentId를 설정하세요.
2. LLM 태스크 구성
이것을 에이전트 워크플로우의 langchain.json으로 사용하거나, EDDI 매니저의 LLM 편집기에 파라미터를 붙여 넣으세요.
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "oracle-genai",
"parameters": {
"modelName": "meta.llama-3.3-70b-instruct",
"compartmentId": "ocid1.compartment.oc1..your-compartment",
"configProfile": "DEFAULT",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}EDDI 사용 시 참고 사항
- 모델을 다운로드한 뒤에는 완전히 오프라인으로 실행되므로 에어갭 배포에 적합합니다.
관련 모델
출처
이 페이지의 정보는 벤더 문서를 바탕으로 2026-09-30에 확인한 것입니다. 모델은 빠르게 바뀌므로 한도에 의존하기 전에 벤더에게 확인하세요. 가격은 여기에 표시하지 않습니다: 벤더의 가격 페이지를 참조하세요.