优势
- Apache 2.0 许可证
- 函数调用和结构化输出
- 可调节的推理强度
- 可微调
最适合
- 自托管和本地部署
- 在 Groq 上快速推理
- 使用工具的代理
在EDDI中运行
最快的方式是使用EDDI管理器:打开代理向导或Platform Operator,选择提供商和模型。如需自行配置,请针对所需的提供商按以下步骤操作。
Groq · type: "groq"
模型ID: openai/gpt-oss-120b, openai/gpt-oss-20b
1. 存储凭据
在EDDI管理器中将提供商的API密钥添加到密钥库(Secrets Vault),或使用PUT /secretstore/secrets/default/groq-key,名称与下方所用一致。配置通过${vault:…}引用该密钥,因此它永远不会以明文出现。
${vault:groq-key}2. 配置LLM任务
将其用作代理工作流的langchain.json,或将参数粘贴到EDDI管理器的LLM编辑器中。
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "groq",
"parameters": {
"apiKey": "${vault:groq-key}",
"modelName": "openai/gpt-oss-120b",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}或者通过一次调用创建整个代理
setup_agent会写入规则、LLM配置和工作流,然后部署代理。可通过MCP或POST /administration/agents/setup调用。
setup_agent(
agentName: "My openai/gpt-oss-120b agent",
systemPrompt: "You are a helpful assistant.",
provider: "groq",
model: "openai/gpt-oss-120b",
apiKey: "${vault:groq-key}"
)Amazon Bedrock · type: "bedrock"
模型ID: openai.gpt-oss-120b-1:0
1. 存储凭据
此提供商不使用API密钥: Amazon Bedrock通过AWS凭据链进行身份验证:环境变量、IAM角色或~/.aws/credentials。
2. 配置LLM任务
将其用作代理工作流的langchain.json,或将参数粘贴到EDDI管理器的LLM编辑器中。
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "bedrock",
"parameters": {
"modelId": "openai.gpt-oss-120b-1:0",
"region": "us-east-1",
"maxTokens": "16384",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}相关模型
来源
本页信息来自厂商文档,核实日期为2026-09-30。模型更新很快,在依赖这些限制之前,请先向厂商确认。此处不列出价格:请参阅厂商的定价页面。