🚀 EDDI 6.5.0

19 proveedores LLM, bases de conocimiento que rastrean su sitio y leen sus archivos, y conversaciones que siguen las versiones compatibles del agenteNovedades

Cloud Gestionada Empezar
Todas las integraciones
Infraestructuratype: ollama

Ollama

Ejecuta modelos en local con Ollama y mantén los prompts y los documentos en tu propio hardware, para entornos locales y aislados de la red (air-gapped).

ConfiguraciónDocumentación ↗

Qué obtienes

  • Una tarea de LLM de tipo ollama que habla con tu servidor Ollama
  • Sin clave de API de proveedor y sin enviar datos a un modelo alojado
  • Un overlay de compose que inicia Ollama junto a EDDI
  • Jlama en proceso como alternativa para modelos pequeños cuantizados

Cómo funciona en EDDI

  1. Inicia EDDI con el overlay de compose de Ollama, o ejecuta Ollama por tu cuenta y anota su URL.
  2. Descarga un modelo en Ollama. Usa la etiqueta del modelo exactamente como la muestra ollama list.
  3. Define el type de la tarea como ollama con el baseUrl y el model.
  4. Dentro de un contenedor, localhost es el propio contenedor. Usa el nombre del servicio de compose o host.docker.internal.

Configuración

Extraída de la documentación de EDDI. Los marcadores como your-agent-id deben sustituirse por tus propios valores.

Start EDDI with Ollama on the same networkLevanta Ollama en la misma red como http://ollama:11434.
docker compose -f docker-compose.yml -f docker-compose.ollama.yml up -d
langchain.jsonUna tarea de Ollama, tomada de la documentación de EDDI.
{
  "tasks": [
    {
      "actions": ["send_message"],
      "id": "ollamaChat",
      "type": "ollama",
      "description": "Ollama local model chat",
      "parameters": {
        "baseUrl": "http://ollama:11434",
        "model": "llama3.2:3b",
        "timeout": "120000",
        "think": "false",
        "systemMessage": "You are a helpful assistant",
        "addToOutput": "true"
      }
    }
  ]
}

Gobernanza

  • Los prompts, el contexto recuperado y las respuestas permanecen en tu red, que es el objetivo de un modelo local.
  • Las aprobaciones, las Behavior Rules y el registro de auditoría se aplican igual que con un modelo alojado.
  • No interviene ninguna credencial, así que no hay nada que poner en la bóveda para el modelo en sí.

Conviene saber

  • Una configuración totalmente aislada de la red necesita un Ollama local o una caché de Jlama precargada, porque EDDI no puede descargar un modelo sin red.
  • Los modelos locales varían en fiabilidad de llamadas a herramientas y de JSON. Prueba el comportamiento del que dependes.
EmpezarDocumentación ↗

¿Necesitas que lo construyan y lo operen por ti?

EDDI Solutions construye y mantiene conectores, opera EDDI como instancia gestionada o co-operada, y te da soporte en tu propia nube o en local.

Hablar con EDDI Solutions ↗

Integraciones relacionadas

Datos y RAGChromaChroma como almacén vectorial de una base de conocimiento de EDDI. La opción de menor fricción cuando no tienes infraestructura existente que reutilizar.InfraestructuraKubernetes and HelmEjecuta EDDI en cualquier clúster de Kubernetes conforme con un quickstart de un solo archivo, un chart de Helm u overlays de Kustomize, con MongoDB o PostgreSQL.CanalesOpen WebUIEDDI ofrece una API /v1 compatible con OpenAI que presenta los agentes desplegados como modelos, de modo que Open WebUI, los SDK de OpenAI, LangChain y LiteLLM pueden hablar con ellos.

La configuración y el comportamiento de esta página siguen la documentación de EDDI, comprobada el 2026-10-14. Los nombres de campo y los valores por defecto pueden cambiar entre versiones, así que confírmalos en la documentación de tu versión.