Stärken
- Acht Sprachen
- Tool-Nutzung
- 128K Kontext
Ideal für
- Selbst gehosteter allgemeiner Chat
- Mehrsprachige Assistenten
- Generierung synthetischer Daten
In EDDI betreiben
Der schnellste Weg führt über den Manager: Öffnen Sie den Agent-Assistenten oder den Platform Operator und wählen Sie Anbieter und Modell. Wenn Sie es selbst konfigurieren möchten, folgen Sie diesen Schritten für den gewünschten Anbieter.
Ollama (local) · type: "ollama"
Modell-IDs: llama3.3:70b
1. Zugangsdaten hinterlegen
Dieser Anbieter verwendet keinen API-Key: Ollama benötigt keinen Schlüssel. Richten Sie baseUrl auf Ihren Ollama-Server; mit dem Ollama-Overlay von EDDI ist das http://ollama:11434.
2. Den LLM-Task konfigurieren
Verwenden Sie dies als langchain.json im Workflow des Agenten, oder fügen Sie die Parameter in den LLM-Editor des Managers ein.
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "ollama",
"parameters": {
"baseUrl": "http://ollama:11434",
"model": "llama3.3:70b",
"timeout": "120000",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}Oracle OCI Generative AI · type: "oracle-genai"
Modell-IDs: meta.llama-3.3-70b-instruct
1. Zugangsdaten hinterlegen
Dieser Anbieter verwendet keinen API-Key: OCI Generative AI authentifiziert mit einem OCI-Konfigurationsprofil aus ~/.oci/config. Setzen Sie compartmentId für Ihre Tenancy.
2. Den LLM-Task konfigurieren
Verwenden Sie dies als langchain.json im Workflow des Agenten, oder fügen Sie die Parameter in den LLM-Editor des Managers ein.
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "oracle-genai",
"parameters": {
"modelName": "meta.llama-3.3-70b-instruct",
"compartmentId": "ocid1.compartment.oc1..your-compartment",
"configProfile": "DEFAULT",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}Hinweise für EDDI
- Läuft nach dem Download des Modells vollständig offline und eignet sich daher für Air-Gapped-Umgebungen.
Verwandte Modelle
Quellen
Die Angaben auf dieser Seite stammen aus der Dokumentation des Herstellers, geprüft am 2026-09-30. Modelle ändern sich schnell, bestätigen Sie Limits daher beim Hersteller, bevor Sie sich darauf verlassen. Preise sind hier nicht aufgeführt: siehe die Preisseite des Herstellers.