Puntos fuertes
- Ocho idiomas
- Uso de herramientas
- Contexto de 128K
Ideal para
- Chat general autoalojado
- Asistentes multilingües
- Generación de datos sintéticos
Ejecútelo en EDDI
La vía más rápida es el Manager: abra el asistente de agentes o el Platform Operator y elija el proveedor y el modelo. Para configurarlo usted mismo, siga estos pasos para el proveedor que desee.
Ollama (local) · type: "ollama"
Ids de modelo: llama3.3:70b
1. Guarde la credencial
Este proveedor no usa clave de API: Ollama no necesita clave. Apunte baseUrl a su servidor Ollama; con el overlay de Ollama de EDDI es http://ollama:11434.
2. Configure la tarea LLM
Use esto como el langchain.json del flujo de trabajo del agente, o pegue los parámetros en el editor LLM del Manager.
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "ollama",
"parameters": {
"baseUrl": "http://ollama:11434",
"model": "llama3.3:70b",
"timeout": "120000",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}Oracle OCI Generative AI · type: "oracle-genai"
Ids de modelo: meta.llama-3.3-70b-instruct
1. Guarde la credencial
Este proveedor no usa clave de API: OCI Generative AI se autentica con un perfil de configuración de OCI de ~/.oci/config. Defina compartmentId para su tenancy.
2. Configure la tarea LLM
Use esto como el langchain.json del flujo de trabajo del agente, o pegue los parámetros en el editor LLM del Manager.
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "oracle-genai",
"parameters": {
"modelName": "meta.llama-3.3-70b-instruct",
"compartmentId": "ocid1.compartment.oc1..your-compartment",
"configProfile": "DEFAULT",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}Notas para EDDI
- Funciona totalmente sin conexión una vez descargado el modelo, por lo que es adecuado para despliegues aislados (air-gapped).
Modelos relacionados
Fuentes
Los datos de esta página proceden de la documentación del fabricante, verificada el 2026-09-30. Los modelos cambian rápido, así que confirme los límites con el fabricante antes de depender de ellos. Aquí no se indican precios: consulte la página de precios del fabricante.