Skip to content
🚀 EDDI 6.5.0

19 LLM प्रदाता, आपकी साइट क्रॉल करने और आपकी फ़ाइलें पढ़ने वाले नॉलेज बेस, और संगत एजेंट संस्करणों के साथ आगे बढ़ने वाली बातचीतनया क्या है

प्रबंधित क्लाउड शुरू करें
सभी मॉडल
OpenAIओपन वेट्स

gpt-oss (120b, 20b)

Apache 2.0 के तहत OpenAI के ओपन-वेट मिक्सचर-ऑफ़-एक्सपर्ट्स रीज़निंग मॉडल: 120b एक 80 GB GPU में समा जाता है, 20b 16 GB डिवाइस पर चलता है।

खूबियाँ

  • Apache 2.0 लाइसेंस
  • फ़ंक्शन कॉलिंग और स्ट्रक्चर्ड आउटपुट
  • समायोज्य रीज़निंग एफ़र्ट
  • फ़ाइन-ट्यून किया जा सकता है

सबसे उपयुक्त

  • सेल्फ-होस्टेड और ऑन-प्रिमाइसेस डिप्लॉयमेंट
  • Groq पर तेज़ इन्फ़रेंस
  • टूल उपयोग वाले एजेंट

इसे EDDI में चलाएं

सबसे तेज़ रास्ता Manager है: एजेंट विज़ार्ड या Platform Operator खोलें और प्रदाता व मॉडल चुनें। इसे खुद कॉन्फ़िगर करने के लिए, अपने चुने हुए प्रदाता के लिए ये चरण अपनाएं।

Groq · type: "groq"

मॉडल id: openai/gpt-oss-120b, openai/gpt-oss-20b

1. क्रेडेंशियल सहेजें

प्रदाता की API कुंजी को Manager में Secrets Vault में, या PUT /secretstore/secrets/default/groq-key से, नीचे इस्तेमाल किए गए नाम के तहत जोड़ें। कॉन्फ़िगरेशन इसे ${vault:…} के रूप में संदर्भित करते हैं, इसलिए कुंजी कभी सादे टेक्स्ट में नहीं दिखती।

${vault:groq-key}

2. LLM टास्क कॉन्फ़िगर करें

इसे एजेंट के वर्कफ़्लो की langchain.json के रूप में इस्तेमाल करें, या पैरामीटर Manager के LLM एडिटर में पेस्ट करें।

{
  "tasks": [
    {
      "actions": [
        "send_message"
      ],
      "id": "chat",
      "type": "groq",
      "parameters": {
        "apiKey": "${vault:groq-key}",
        "modelName": "openai/gpt-oss-120b",
        "systemMessage": "You are a helpful assistant",
        "addToOutput": "true"
      }
    }
  ]
}

या पूरा एजेंट एक ही कॉल में बनाएं

setup_agent नियम, LLM कॉन्फ़िगरेशन और वर्कफ़्लो लिखता है, फिर एजेंट को डिप्लॉय करता है। इसे MCP से या POST /administration/agents/setup से कॉल करें।

setup_agent(
  agentName: "My openai/gpt-oss-120b agent",
  systemPrompt: "You are a helpful assistant.",
  provider: "groq",
  model: "openai/gpt-oss-120b",
  apiKey: "${vault:groq-key}"
)

Amazon Bedrock · type: "bedrock"

मॉडल id: openai.gpt-oss-120b-1:0

1. क्रेडेंशियल सहेजें

यह प्रदाता API कुंजी का उपयोग नहीं करता: Amazon Bedrock AWS क्रेडेंशियल चेन के ज़रिए ऑथेंटिकेट करता है: एनवायरनमेंट वेरिएबल, एक IAM रोल, या ~/.aws/credentials।

2. LLM टास्क कॉन्फ़िगर करें

इसे एजेंट के वर्कफ़्लो की langchain.json के रूप में इस्तेमाल करें, या पैरामीटर Manager के LLM एडिटर में पेस्ट करें।

{
  "tasks": [
    {
      "actions": [
        "send_message"
      ],
      "id": "chat",
      "type": "bedrock",
      "parameters": {
        "modelId": "openai.gpt-oss-120b-1:0",
        "region": "us-east-1",
        "maxTokens": "16384",
        "systemMessage": "You are a helpful assistant",
        "addToOutput": "true"
      }
    }
  ]
}

संबंधित मॉडल

स्रोत

इस पेज के तथ्य वेंडर के डॉक्यूमेंटेशन से लिए गए हैं, जिन्हें 2026-09-30 को जाँचा गया। मॉडल तेज़ी से बदलते हैं, इसलिए उन पर निर्भर होने से पहले सीमाओं की पुष्टि वेंडर से करें। कीमतें यहाँ नहीं दी गई हैं: वेंडर का प्राइसिंग पेज देखें।

वेंडर डॉक्यूमेंटेशन ↗