สิ่งที่คุณได้รับ
- งาน LLM ประเภท
ollamaที่คุยกับเซิร์ฟเวอร์ Ollama ของคุณ - ไม่ต้องใช้ API key ของผู้ให้บริการ และไม่ส่งข้อมูลไปยังโมเดลแบบโฮสต์
- compose overlay ที่เริ่ม Ollama ควบคู่กับ EDDI
- Jlama ภายในโพรเซสเป็นทางเลือกสำหรับโมเดลขนาดเล็กที่ทำ quantization
ทำงานอย่างไรใน EDDI
- เริ่ม EDDI ด้วย compose overlay ของ Ollama หรือรัน Ollama เองแล้วจด URL
- ดึงโมเดลเข้า Ollama ใช้แท็กของโมเดลตรงตามที่
ollama listแสดง - ตั้ง
typeของงานเป็นollamaพร้อมbaseUrlและmodel - ภายในคอนเทนเนอร์
localhostหมายถึงตัวคอนเทนเนอร์เอง ให้ใช้ชื่อ service ใน compose หรือhost.docker.internal
การตั้งค่า
นำมาจากเอกสารของ EDDI ค่าตัวอย่างเช่น your-agent-id ให้คุณแทนที่ด้วยค่าของคุณเอง
docker compose -f docker-compose.yml -f docker-compose.ollama.yml up -d{
"tasks": [
{
"actions": ["send_message"],
"id": "ollamaChat",
"type": "ollama",
"description": "Ollama local model chat",
"parameters": {
"baseUrl": "http://ollama:11434",
"model": "llama3.2:3b",
"timeout": "120000",
"think": "false",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}การกำกับดูแล
- พรอมต์ บริบทที่ค้นคืนมา และคำตอบอยู่ในเครือข่ายของคุณ ซึ่งเป็นจุดประสงค์ของโมเดลในเครื่อง
- การอนุมัติ กฎพฤติกรรม และบัญชีตรวจสอบใช้เหมือนกับโมเดลแบบโฮสต์
- ไม่มีข้อมูลรับรองเกี่ยวข้อง จึงไม่มีอะไรต้องใส่ในคลังความลับสำหรับตัวโมเดลเอง
ควรรู้
- การติดตั้งแบบ air-gapped เต็มรูปแบบต้องมี Ollama ในเครื่องหรือแคช Jlama ที่เตรียมไว้ล่วงหน้า เพราะ EDDI ดาวน์โหลดโมเดลเองไม่ได้เมื่อไม่มีเครือข่าย
- โมเดลในเครื่องมีความน่าเชื่อถือด้านการเรียกเครื่องมือและ JSON ไม่เท่ากัน ควรทดสอบพฤติกรรมที่คุณต้องพึ่งพา
ต้องการให้มีคนสร้างและดูแลให้หรือไม่?
EDDI Solutions สร้างและดูแลตัวเชื่อมต่อ รัน EDDI แบบมีผู้ดูแลหรือดูแลร่วมกัน และสนับสนุนคุณบนคลาวด์ของคุณเองหรือแบบ on-premises
คุยกับ EDDI Solutions ↗การเชื่อมต่อที่เกี่ยวข้อง
การตั้งค่าและพฤติกรรมในหน้านี้อ้างอิงเอกสารของ EDDI ตรวจสอบเมื่อ 2026-10-14 ชื่อฟิลด์และค่าเริ่มต้นอาจเปลี่ยนไประหว่างรุ่น โปรดยืนยันในเอกสารของรุ่นที่คุณใช้