Skip to content
🚀 EDDI 6.5.0

19 provedores LLM, bases de conhecimento que rastreiam o seu site e leem os seus arquivos, e conversas que acompanham as versões compatíveis do agenteNovidades

Cloud Gerenciada Começar
Todos os modelos
OpenAIPesos abertos

gpt-oss (120b, 20b)

Os modelos de raciocínio de pesos abertos e mistura de especialistas da OpenAI, sob Apache 2.0: o 120b cabe em uma GPU de 80 GB e o 20b roda em dispositivos de 16 GB.

Pontos Fortes

  • Licença Apache 2.0
  • Chamada de funções e saídas estruturadas
  • Esforço de raciocínio ajustável
  • Permite fine-tuning

Ideal Para

  • Implantação auto-hospedada e on-premises
  • Inferência rápida no Groq
  • Agentes com uso de ferramentas

Execute no EDDI

O caminho mais rápido é o Manager: abra o assistente de criação de agentes ou o Platform Operator e escolha o provedor e o modelo. Para configurar por conta própria, siga estes passos para o provedor desejado.

Groq · type: "groq"

Ids de modelo: openai/gpt-oss-120b, openai/gpt-oss-20b

1. Armazene a credencial

Adicione a chave de API do provedor ao Cofre de Segredos no Manager, ou com PUT /secretstore/secrets/default/groq-key, com o nome usado abaixo. As configurações a referenciam como ${vault:…}, então a chave nunca aparece em texto puro.

${vault:groq-key}

2. Configure a tarefa LLM

Use isto como o langchain.json do workflow do agente, ou cole os parâmetros no editor LLM do Manager.

{
  "tasks": [
    {
      "actions": [
        "send_message"
      ],
      "id": "chat",
      "type": "groq",
      "parameters": {
        "apiKey": "${vault:groq-key}",
        "modelName": "openai/gpt-oss-120b",
        "systemMessage": "You are a helpful assistant",
        "addToOutput": "true"
      }
    }
  ]
}

Ou crie o agente inteiro em uma única chamada

setup_agent grava as regras, a configuração LLM e o workflow, e depois implanta o agente. Chame-o via MCP ou com POST /administration/agents/setup.

setup_agent(
  agentName: "My openai/gpt-oss-120b agent",
  systemPrompt: "You are a helpful assistant.",
  provider: "groq",
  model: "openai/gpt-oss-120b",
  apiKey: "${vault:groq-key}"
)

Amazon Bedrock · type: "bedrock"

Ids de modelo: openai.gpt-oss-120b-1:0

1. Armazene a credencial

Este provedor não usa chave de API: O Amazon Bedrock se autentica pela cadeia de credenciais da AWS: variáveis de ambiente, uma função IAM ou ~/.aws/credentials.

2. Configure a tarefa LLM

Use isto como o langchain.json do workflow do agente, ou cole os parâmetros no editor LLM do Manager.

{
  "tasks": [
    {
      "actions": [
        "send_message"
      ],
      "id": "chat",
      "type": "bedrock",
      "parameters": {
        "modelId": "openai.gpt-oss-120b-1:0",
        "region": "us-east-1",
        "maxTokens": "16384",
        "systemMessage": "You are a helpful assistant",
        "addToOutput": "true"
      }
    }
  ]
}

Modelos Relacionados

Fontes

As informações desta página vêm da documentação do fabricante, verificada em 2026-09-30. Os modelos mudam rapidamente, então confirme os limites com o fabricante antes de depender deles. Os preços não são listados aqui: consulte a página de preços do fabricante.

Documentação do fabricante ↗