🚀 EDDI 6.5.0

19 provedores LLM, bases de conhecimento que rastreiam o seu site e leem os seus arquivos, e conversas que acompanham as versões compatíveis do agenteNovidades

Cloud Gerenciada Começar
Todas as integrações
Infraestruturatype: ollama

Ollama

Execute modelos localmente com o Ollama e mantenha prompts e documentos no seu próprio hardware, para ambientes on-premises e isolados da rede (air-gapped).

ConfiguraçãoDocumentação ↗

O que você recebe

  • Uma tarefa de LLM do tipo ollama que conversa com o seu servidor Ollama
  • Nenhuma chave de API de provedor e nenhum dado enviado a um modelo hospedado
  • Um overlay de compose que inicia o Ollama junto ao EDDI
  • O Jlama em processo como alternativa para modelos pequenos quantizados

Como funciona no EDDI

  1. Inicie o EDDI com o overlay de compose do Ollama, ou execute o Ollama por conta própria e anote sua URL.
  2. Baixe um modelo no Ollama. Use a tag do modelo exatamente como o ollama list mostra.
  3. Defina o type da tarefa como ollama com o baseUrl e o model.
  4. Dentro de um contêiner, localhost é o próprio contêiner. Use o nome do serviço do compose ou host.docker.internal.

Configuração

Extraída da documentação do EDDI. Marcadores como your-agent-id devem ser substituídos pelos seus próprios valores.

Start EDDI with Ollama on the same networkSobe o Ollama na mesma rede como http://ollama:11434.
docker compose -f docker-compose.yml -f docker-compose.ollama.yml up -d
langchain.jsonUma tarefa Ollama, da documentação do EDDI.
{
  "tasks": [
    {
      "actions": ["send_message"],
      "id": "ollamaChat",
      "type": "ollama",
      "description": "Ollama local model chat",
      "parameters": {
        "baseUrl": "http://ollama:11434",
        "model": "llama3.2:3b",
        "timeout": "120000",
        "think": "false",
        "systemMessage": "You are a helpful assistant",
        "addToOutput": "true"
      }
    }
  ]
}

Governança

  • Prompts, contexto recuperado e respostas permanecem na sua rede, que é o objetivo de um modelo local.
  • As aprovações, as Behavior Rules e o registro de auditoria se aplicam da mesma forma que com um modelo hospedado.
  • Nenhuma credencial está envolvida, então não há nada para colocar no cofre para o modelo em si.

Bom saber

  • Uma configuração totalmente isolada da rede precisa de um Ollama local ou de um cache do Jlama pré-carregado, porque o EDDI não consegue baixar um modelo sem rede.
  • Modelos locais variam em confiabilidade de chamada de ferramentas e de JSON. Teste o comportamento do qual você depende.
ComeçarDocumentação ↗

Precisa que construam e operem isso para você?

A EDDI Solutions constrói e mantém conectores, opera o EDDI como instância gerenciada ou co-operada e oferece suporte na sua própria nuvem ou on-premises.

Fale com a EDDI Solutions ↗

Integrações relacionadas

Dados e RAGChromaChroma como armazenamento vetorial de uma base de conhecimento do EDDI. A opção de menor atrito quando você não tem infraestrutura existente para reaproveitar.InfraestruturaKubernetes and HelmExecute o EDDI em qualquer cluster Kubernetes em conformidade, com um quickstart de arquivo único, um chart Helm ou overlays Kustomize, com MongoDB ou PostgreSQL.CanaisOpen WebUIO EDDI oferece uma API /v1 compatível com a OpenAI que apresenta os agentes implantados como modelos, de modo que Open WebUI, os SDKs da OpenAI, LangChain e LiteLLM podem conversar com eles.

A configuração e o comportamento desta página seguem a documentação do EDDI, verificada em 2026-10-14. Nomes de campos e valores padrão podem mudar entre versões, portanto confirme-os na documentação da sua versão.