你将获得
- 类型为
ollama的 LLM 任务,与你的 Ollama 服务器通信 - 无需提供方 API 密钥,也不会向托管模型发送数据
- 一个 compose overlay,可在 EDDI 旁边启动 Ollama
- 进程内的 Jlama,可作为小型量化模型的替代方案
在 EDDI 中如何工作
- 使用 Ollama compose overlay 启动 EDDI,或自行运行 Ollama 并记下它的 URL。
- 把模型拉取到 Ollama 中。模型标签请完全按
ollama list显示的内容填写。 - 把任务的
type设为ollama,并填写baseUrl和model。 - 在容器内,
localhost指的是容器自身。请使用 compose 服务名称或host.docker.internal。
配置
摘自 EDDI 文档。诸如 your-agent-id 之类的占位符需要你自行替换。
docker compose -f docker-compose.yml -f docker-compose.ollama.yml up -d{
"tasks": [
{
"actions": ["send_message"],
"id": "ollamaChat",
"type": "ollama",
"description": "Ollama local model chat",
"parameters": {
"baseUrl": "http://ollama:11434",
"model": "llama3.2:3b",
"timeout": "120000",
"think": "false",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}治理
- 提示词、检索到的上下文和回答都留在你的网络内,这正是本地模型的意义所在。
- 审批、行为规则和审计账本的适用方式与托管模型相同。
- 不涉及任何凭据,因此模型本身没有需要放进保管库的内容。
须知
- 完全气隙的环境需要本地 Ollama 或预先填充的 Jlama 缓存,因为 EDDI 在没有网络时无法下载模型。
- 本地模型在工具调用和 JSON 的可靠性上各不相同。请测试你所依赖的行为。
相关集成
本页的配置和行为依据 EDDI 文档,核对日期为 2026-10-14。字段名称和默认值可能随版本变化,请在所用版本的文档中确认。