Skip to content
🚀 EDDI 6.5.0

19 proveedores LLM, bases de conocimiento que rastrean su sitio y leen sus archivos, y conversaciones que siguen las versiones compatibles del agenteNovedades

Cloud Gestionada Empezar
Todos los modelos
OpenAIPesos abiertos

gpt-oss (120b, 20b)

Los modelos de razonamiento de pesos abiertos y mezcla de expertos de OpenAI, bajo Apache 2.0: 120b cabe en una GPU de 80 GB y 20b funciona en dispositivos de 16 GB.

Puntos fuertes

  • Licencia Apache 2.0
  • Llamada a funciones y salidas estructuradas
  • Esfuerzo de razonamiento ajustable
  • Admite fine-tuning

Ideal para

  • Despliegue autoalojado y on-premises
  • Inferencia rápida en Groq
  • Agentes con uso de herramientas

Ejecútelo en EDDI

La vía más rápida es el Manager: abra el asistente de agentes o el Platform Operator y elija el proveedor y el modelo. Para configurarlo usted mismo, siga estos pasos para el proveedor que desee.

Groq · type: "groq"

Ids de modelo: openai/gpt-oss-120b, openai/gpt-oss-20b

1. Guarde la credencial

Añada la clave de API del proveedor a la Bóveda de secretos en el Manager, o con PUT /secretstore/secrets/default/groq-key, con el nombre que se indica abajo. Las configuraciones la referencian como ${vault:…}, así que la clave nunca aparece en texto plano.

${vault:groq-key}

2. Configure la tarea LLM

Use esto como el langchain.json del flujo de trabajo del agente, o pegue los parámetros en el editor LLM del Manager.

{
  "tasks": [
    {
      "actions": [
        "send_message"
      ],
      "id": "chat",
      "type": "groq",
      "parameters": {
        "apiKey": "${vault:groq-key}",
        "modelName": "openai/gpt-oss-120b",
        "systemMessage": "You are a helpful assistant",
        "addToOutput": "true"
      }
    }
  ]
}

O cree el agente completo con una sola llamada

setup_agent escribe las reglas, la configuración LLM y el flujo de trabajo, y después despliega el agente. Llámelo por MCP o con POST /administration/agents/setup.

setup_agent(
  agentName: "My openai/gpt-oss-120b agent",
  systemPrompt: "You are a helpful assistant.",
  provider: "groq",
  model: "openai/gpt-oss-120b",
  apiKey: "${vault:groq-key}"
)

Amazon Bedrock · type: "bedrock"

Ids de modelo: openai.gpt-oss-120b-1:0

1. Guarde la credencial

Este proveedor no usa clave de API: Amazon Bedrock se autentica mediante la cadena de credenciales de AWS: variables de entorno, un rol IAM o ~/.aws/credentials.

2. Configure la tarea LLM

Use esto como el langchain.json del flujo de trabajo del agente, o pegue los parámetros en el editor LLM del Manager.

{
  "tasks": [
    {
      "actions": [
        "send_message"
      ],
      "id": "chat",
      "type": "bedrock",
      "parameters": {
        "modelId": "openai.gpt-oss-120b-1:0",
        "region": "us-east-1",
        "maxTokens": "16384",
        "systemMessage": "You are a helpful assistant",
        "addToOutput": "true"
      }
    }
  ]
}

Modelos relacionados

Fuentes

Los datos de esta página proceden de la documentación del fabricante, verificada el 2026-09-30. Los modelos cambian rápido, así que confirme los límites con el fabricante antes de depender de ellos. Aquí no se indican precios: consulte la página de precios del fabricante.

Documentación del fabricante ↗