Skip to content
🚀 EDDI 6.5.0

19个LLM提供商、可抓取网站并读取文件的知识库,以及沿用兼容代理版本的对话新功能

托管云 立即开始
全部模型
OpenAI开放权重

gpt-oss (120b, 20b)

OpenAI 基于 Apache 2.0 的开放权重混合专家推理模型:120b 可装入一块 80 GB GPU,20b 可在 16 GB 设备上运行。

优势

  • Apache 2.0 许可证
  • 函数调用和结构化输出
  • 可调节的推理强度
  • 可微调

最适合

  • 自托管和本地部署
  • 在 Groq 上快速推理
  • 使用工具的代理

在EDDI中运行

最快的方式是使用EDDI管理器:打开代理向导或Platform Operator,选择提供商和模型。如需自行配置,请针对所需的提供商按以下步骤操作。

Groq · type: "groq"

模型ID: openai/gpt-oss-120b, openai/gpt-oss-20b

1. 存储凭据

在EDDI管理器中将提供商的API密钥添加到密钥库(Secrets Vault),或使用PUT /secretstore/secrets/default/groq-key,名称与下方所用一致。配置通过${vault:…}引用该密钥,因此它永远不会以明文出现。

${vault:groq-key}

2. 配置LLM任务

将其用作代理工作流的langchain.json,或将参数粘贴到EDDI管理器的LLM编辑器中。

{
  "tasks": [
    {
      "actions": [
        "send_message"
      ],
      "id": "chat",
      "type": "groq",
      "parameters": {
        "apiKey": "${vault:groq-key}",
        "modelName": "openai/gpt-oss-120b",
        "systemMessage": "You are a helpful assistant",
        "addToOutput": "true"
      }
    }
  ]
}

或者通过一次调用创建整个代理

setup_agent会写入规则、LLM配置和工作流,然后部署代理。可通过MCP或POST /administration/agents/setup调用。

setup_agent(
  agentName: "My openai/gpt-oss-120b agent",
  systemPrompt: "You are a helpful assistant.",
  provider: "groq",
  model: "openai/gpt-oss-120b",
  apiKey: "${vault:groq-key}"
)

Amazon Bedrock · type: "bedrock"

模型ID: openai.gpt-oss-120b-1:0

1. 存储凭据

此提供商不使用API密钥: Amazon Bedrock通过AWS凭据链进行身份验证:环境变量、IAM角色或~/.aws/credentials。

2. 配置LLM任务

将其用作代理工作流的langchain.json,或将参数粘贴到EDDI管理器的LLM编辑器中。

{
  "tasks": [
    {
      "actions": [
        "send_message"
      ],
      "id": "chat",
      "type": "bedrock",
      "parameters": {
        "modelId": "openai.gpt-oss-120b-1:0",
        "region": "us-east-1",
        "maxTokens": "16384",
        "systemMessage": "You are a helpful assistant",
        "addToOutput": "true"
      }
    }
  ]
}

相关模型

来源

本页信息来自厂商文档,核实日期为2026-09-30。模型更新很快,在依赖这些限制之前,请先向厂商确认。此处不列出价格:请参阅厂商的定价页面。

厂商文档 ↗