🚀 EDDI 6.5.0

19 fournisseurs LLM, des bases de connaissances qui explorent votre site et lisent vos fichiers, et des conversations qui suivent les versions compatibles des agentsNouveautés

Cloud Géré Démarrer
Toutes les intégrations
Infrastructuretype: ollama

Ollama

Exécuter des modèles en local avec Ollama et garder les prompts et les documents sur votre propre matériel, pour les environnements sur site et isolés du réseau (air-gapped).

ConfigurationDoc ↗

Ce que vous obtenez

  • Une tâche LLM de type ollama qui parle à votre serveur Ollama
  • Aucune clé d'API de fournisseur et aucune donnée envoyée à un modèle hébergé
  • Un overlay compose qui démarre Ollama à côté d'EDDI
  • Jlama en processus comme alternative pour de petits modèles quantifiés

Fonctionnement dans EDDI

  1. Démarrer EDDI avec l'overlay compose Ollama, ou exécuter Ollama vous-même et noter son URL.
  2. Télécharger un modèle dans Ollama. Utiliser le tag du modèle exactement tel qu'affiché par ollama list.
  3. Définir le type de la tâche sur ollama avec la baseUrl et le model.
  4. Dans un conteneur, localhost désigne le conteneur lui-même. Utiliser le nom du service compose ou host.docker.internal.

Configuration

Tirée de la documentation d'EDDI. Les espaces réservés comme your-agent-id sont à remplacer par vos propres valeurs.

Start EDDI with Ollama on the same networkDémarre Ollama sur le même réseau, accessible à http://ollama:11434.
docker compose -f docker-compose.yml -f docker-compose.ollama.yml up -d
langchain.jsonUne tâche Ollama tirée de la doc d'EDDI.
{
  "tasks": [
    {
      "actions": ["send_message"],
      "id": "ollamaChat",
      "type": "ollama",
      "description": "Ollama local model chat",
      "parameters": {
        "baseUrl": "http://ollama:11434",
        "model": "llama3.2:3b",
        "timeout": "120000",
        "think": "false",
        "systemMessage": "You are a helpful assistant",
        "addToOutput": "true"
      }
    }
  ]
}

Gouvernance

  • Les prompts, le contexte récupéré et les réponses restent sur votre réseau, ce qui est tout l'intérêt d'un modèle local.
  • Les validations, les Behavior Rules et le journal d'audit s'appliquent de la même manière qu'avec un modèle hébergé.
  • Aucun identifiant n'est en jeu : il n'y a donc rien à placer dans le coffre pour le modèle lui-même.

Bon à savoir

  • Une installation totalement isolée du réseau nécessite un Ollama local ou un cache Jlama pré-alimenté, car EDDI ne peut pas télécharger de modèle sans réseau.
  • Les modèles locaux varient en fiabilité pour l'appel d'outils et le JSON. Testez le comportement dont vous dépendez.
CommencerDoc ↗

Vous voulez qu'on le construise et l'exploite pour vous ?

EDDI Solutions construit et maintient des connecteurs, exploite EDDI en instance managée ou co-exploitée, et vous accompagne dans votre propre cloud ou sur site.

Contacter EDDI Solutions ↗

Intégrations associées

Données et RAGChromaChroma comme base vectorielle pour une base de connaissances EDDI. L'option la plus simple à mettre en place lorsque vous n'avez pas d'infrastructure existante à réutiliser.InfrastructureKubernetes and HelmExécuter EDDI sur tout cluster Kubernetes conforme, avec un démarrage rapide en un seul fichier, un chart Helm ou des overlays Kustomize, avec MongoDB ou PostgreSQL.CanauxOpen WebUIEDDI expose une API /v1 compatible OpenAI qui présente les agents déployés comme des modèles, afin que Open WebUI, les SDK OpenAI, LangChain et LiteLLM puissent leur parler.

La configuration et le comportement décrits sur cette page suivent la documentation d'EDDI, vérifiée le 2026-10-14. Les noms de champs et les valeurs par défaut peuvent changer d'une version à l'autre : confirmez-les dans la documentation de votre version.