Skip to content
🚀 EDDI 6.5.0

19 LLM-Anbieter, Wissensdatenbanken, die Ihre Website crawlen und Ihre Dateien lesen, und Konversationen, die kompatiblen Agentenversionen folgenNeuigkeiten

Managed Cloud Jetzt Starten
Alle Modelle
OpenAIOffene Gewichte

gpt-oss (120b, 20b)

Die Open-Weight-Reasoning-Modelle von OpenAI mit Mixture-of-Experts-Architektur unter Apache 2.0: 120b passt auf eine 80-GB-GPU, 20b läuft auf Geräten mit 16 GB.

Stärken

  • Apache-2.0-Lizenz
  • Function Calling und strukturierte Ausgaben
  • Einstellbarer Reasoning-Aufwand
  • Fine-Tuning möglich

Ideal für

  • Selbst gehosteter und On-Premises-Betrieb
  • Schnelle Inferenz auf Groq
  • Agenten mit Tool-Nutzung

In EDDI betreiben

Der schnellste Weg führt über den Manager: Öffnen Sie den Agent-Assistenten oder den Platform Operator und wählen Sie Anbieter und Modell. Wenn Sie es selbst konfigurieren möchten, folgen Sie diesen Schritten für den gewünschten Anbieter.

Groq · type: "groq"

Modell-IDs: openai/gpt-oss-120b, openai/gpt-oss-20b

1. Zugangsdaten hinterlegen

Legen Sie den API-Key des Anbieters im Secrets Vault des Managers ab, oder mit PUT /secretstore/secrets/default/groq-key, unter dem unten verwendeten Namen. Konfigurationen referenzieren ihn als ${vault:…}, sodass der Schlüssel nie im Klartext erscheint.

${vault:groq-key}

2. Den LLM-Task konfigurieren

Verwenden Sie dies als langchain.json im Workflow des Agenten, oder fügen Sie die Parameter in den LLM-Editor des Managers ein.

{
  "tasks": [
    {
      "actions": [
        "send_message"
      ],
      "id": "chat",
      "type": "groq",
      "parameters": {
        "apiKey": "${vault:groq-key}",
        "modelName": "openai/gpt-oss-120b",
        "systemMessage": "You are a helpful assistant",
        "addToOutput": "true"
      }
    }
  ]
}

Oder den ganzen Agenten mit einem Aufruf erstellen

setup_agent schreibt die Regeln, die LLM-Konfiguration und den Workflow und deployt anschließend den Agenten. Rufen Sie es über MCP oder POST /administration/agents/setup auf.

setup_agent(
  agentName: "My openai/gpt-oss-120b agent",
  systemPrompt: "You are a helpful assistant.",
  provider: "groq",
  model: "openai/gpt-oss-120b",
  apiKey: "${vault:groq-key}"
)

Amazon Bedrock · type: "bedrock"

Modell-IDs: openai.gpt-oss-120b-1:0

1. Zugangsdaten hinterlegen

Dieser Anbieter verwendet keinen API-Key: Amazon Bedrock authentifiziert über die AWS-Credential-Chain: Umgebungsvariablen, eine IAM-Rolle oder ~/.aws/credentials.

2. Den LLM-Task konfigurieren

Verwenden Sie dies als langchain.json im Workflow des Agenten, oder fügen Sie die Parameter in den LLM-Editor des Managers ein.

{
  "tasks": [
    {
      "actions": [
        "send_message"
      ],
      "id": "chat",
      "type": "bedrock",
      "parameters": {
        "modelId": "openai.gpt-oss-120b-1:0",
        "region": "us-east-1",
        "maxTokens": "16384",
        "systemMessage": "You are a helpful assistant",
        "addToOutput": "true"
      }
    }
  ]
}

Verwandte Modelle

Quellen

Die Angaben auf dieser Seite stammen aus der Dokumentation des Herstellers, geprüft am 2026-09-30. Modelle ändern sich schnell, bestätigen Sie Limits daher beim Hersteller, bevor Sie sich darauf verlassen. Preise sind hier nicht aufgeführt: siehe die Preisseite des Herstellers.

Herstellerdokumentation ↗