Pontos Fortes
- Licença Apache 2.0
- Chamada de funções e saídas estruturadas
- Esforço de raciocínio ajustável
- Permite fine-tuning
Ideal Para
- Implantação auto-hospedada e on-premises
- Inferência rápida no Groq
- Agentes com uso de ferramentas
Execute no EDDI
O caminho mais rápido é o Manager: abra o assistente de criação de agentes ou o Platform Operator e escolha o provedor e o modelo. Para configurar por conta própria, siga estes passos para o provedor desejado.
Groq · type: "groq"
Ids de modelo: openai/gpt-oss-120b, openai/gpt-oss-20b
1. Armazene a credencial
Adicione a chave de API do provedor ao Cofre de Segredos no Manager, ou com PUT /secretstore/secrets/default/groq-key, com o nome usado abaixo. As configurações a referenciam como ${vault:…}, então a chave nunca aparece em texto puro.
${vault:groq-key}2. Configure a tarefa LLM
Use isto como o langchain.json do workflow do agente, ou cole os parâmetros no editor LLM do Manager.
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "groq",
"parameters": {
"apiKey": "${vault:groq-key}",
"modelName": "openai/gpt-oss-120b",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}Ou crie o agente inteiro em uma única chamada
setup_agent grava as regras, a configuração LLM e o workflow, e depois implanta o agente. Chame-o via MCP ou com POST /administration/agents/setup.
setup_agent(
agentName: "My openai/gpt-oss-120b agent",
systemPrompt: "You are a helpful assistant.",
provider: "groq",
model: "openai/gpt-oss-120b",
apiKey: "${vault:groq-key}"
)Amazon Bedrock · type: "bedrock"
Ids de modelo: openai.gpt-oss-120b-1:0
1. Armazene a credencial
Este provedor não usa chave de API: O Amazon Bedrock se autentica pela cadeia de credenciais da AWS: variáveis de ambiente, uma função IAM ou ~/.aws/credentials.
2. Configure a tarefa LLM
Use isto como o langchain.json do workflow do agente, ou cole os parâmetros no editor LLM do Manager.
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "bedrock",
"parameters": {
"modelId": "openai.gpt-oss-120b-1:0",
"region": "us-east-1",
"maxTokens": "16384",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}Modelos Relacionados
Fontes
As informações desta página vêm da documentação do fabricante, verificada em 2026-09-30. Os modelos mudam rapidamente, então confirme os limites com o fabricante antes de depender deles. Os preços não são listados aqui: consulte a página de preços do fabricante.