Stärken
- Apache-2.0-Lizenz
- Function Calling und strukturierte Ausgaben
- Einstellbarer Reasoning-Aufwand
- Fine-Tuning möglich
Ideal für
- Selbst gehosteter und On-Premises-Betrieb
- Schnelle Inferenz auf Groq
- Agenten mit Tool-Nutzung
In EDDI betreiben
Der schnellste Weg führt über den Manager: Öffnen Sie den Agent-Assistenten oder den Platform Operator und wählen Sie Anbieter und Modell. Wenn Sie es selbst konfigurieren möchten, folgen Sie diesen Schritten für den gewünschten Anbieter.
Groq · type: "groq"
Modell-IDs: openai/gpt-oss-120b, openai/gpt-oss-20b
1. Zugangsdaten hinterlegen
Legen Sie den API-Key des Anbieters im Secrets Vault des Managers ab, oder mit PUT /secretstore/secrets/default/groq-key, unter dem unten verwendeten Namen. Konfigurationen referenzieren ihn als ${vault:…}, sodass der Schlüssel nie im Klartext erscheint.
${vault:groq-key}2. Den LLM-Task konfigurieren
Verwenden Sie dies als langchain.json im Workflow des Agenten, oder fügen Sie die Parameter in den LLM-Editor des Managers ein.
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "groq",
"parameters": {
"apiKey": "${vault:groq-key}",
"modelName": "openai/gpt-oss-120b",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}Oder den ganzen Agenten mit einem Aufruf erstellen
setup_agent schreibt die Regeln, die LLM-Konfiguration und den Workflow und deployt anschließend den Agenten. Rufen Sie es über MCP oder POST /administration/agents/setup auf.
setup_agent(
agentName: "My openai/gpt-oss-120b agent",
systemPrompt: "You are a helpful assistant.",
provider: "groq",
model: "openai/gpt-oss-120b",
apiKey: "${vault:groq-key}"
)Amazon Bedrock · type: "bedrock"
Modell-IDs: openai.gpt-oss-120b-1:0
1. Zugangsdaten hinterlegen
Dieser Anbieter verwendet keinen API-Key: Amazon Bedrock authentifiziert über die AWS-Credential-Chain: Umgebungsvariablen, eine IAM-Rolle oder ~/.aws/credentials.
2. Den LLM-Task konfigurieren
Verwenden Sie dies als langchain.json im Workflow des Agenten, oder fügen Sie die Parameter in den LLM-Editor des Managers ein.
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "bedrock",
"parameters": {
"modelId": "openai.gpt-oss-120b-1:0",
"region": "us-east-1",
"maxTokens": "16384",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}Verwandte Modelle
Quellen
Die Angaben auf dieser Seite stammen aus der Dokumentation des Herstellers, geprüft am 2026-09-30. Modelle ändern sich schnell, bestätigen Sie Limits daher beim Hersteller, bevor Sie sich darauf verlassen. Preise sind hier nicht aufgeführt: siehe die Preisseite des Herstellers.