Skip to content
🚀 EDDI 6.5.0

19个LLM提供商、可抓取网站并读取文件的知识库,以及沿用兼容代理版本的对话新功能

托管云 立即开始
所有集成
基础设施type: ollama

Ollama

使用 Ollama 在本地运行模型,让提示词和文档保留在你自己的硬件上,适用于本地部署和气隙环境。

你将获得

  • 类型为 ollama 的 LLM 任务,与你的 Ollama 服务器通信
  • 无需提供方 API 密钥,也不会向托管模型发送数据
  • 一个 compose overlay,可在 EDDI 旁边启动 Ollama
  • 进程内的 Jlama,可作为小型量化模型的替代方案

在 EDDI 中如何工作

  1. 使用 Ollama compose overlay 启动 EDDI,或自行运行 Ollama 并记下它的 URL。
  2. 把模型拉取到 Ollama 中。模型标签请完全按 ollama list 显示的内容填写。
  3. 把任务的 type 设为 ollama,并填写 baseUrl 和 model。
  4. 在容器内,localhost 指的是容器自身。请使用 compose 服务名称或 host.docker.internal。

配置

摘自 EDDI 文档。诸如 your-agent-id 之类的占位符需要你自行替换。

Start EDDI with Ollama on the same network让 Ollama 在同一网络中启动,地址为 http://ollama:11434。
docker compose -f docker-compose.yml -f docker-compose.ollama.yml up -d
langchain.json摘自 EDDI 文档的 Ollama 任务。
{
  "tasks": [
    {
      "actions": ["send_message"],
      "id": "ollamaChat",
      "type": "ollama",
      "description": "Ollama local model chat",
      "parameters": {
        "baseUrl": "http://ollama:11434",
        "model": "llama3.2:3b",
        "timeout": "120000",
        "think": "false",
        "systemMessage": "You are a helpful assistant",
        "addToOutput": "true"
      }
    }
  ]
}

治理

  • 提示词、检索到的上下文和回答都留在你的网络内,这正是本地模型的意义所在。
  • 审批、行为规则和审计账本的适用方式与托管模型相同。
  • 不涉及任何凭据,因此模型本身没有需要放进保管库的内容。

须知

  • 完全气隙的环境需要本地 Ollama 或预先填充的 Jlama 缓存,因为 EDDI 在没有网络时无法下载模型。
  • 本地模型在工具调用和 JSON 的可靠性上各不相同。请测试你所依赖的行为。

需要有人为你构建并运行吗?

EDDI Solutions 负责构建和维护连接器,以托管或联合运维的方式运行 EDDI,并支持你在自有云或本地环境中部署。

联系 EDDI Solutions ↗

相关集成

本页的配置和行为依据 EDDI 文档,核对日期为 2026-10-14。字段名称和默认值可能随版本变化,请在所用版本的文档中确认。