खूबियाँ
- Apache 2.0 लाइसेंस
- फ़ंक्शन कॉलिंग और स्ट्रक्चर्ड आउटपुट
- समायोज्य रीज़निंग एफ़र्ट
- फ़ाइन-ट्यून किया जा सकता है
सबसे उपयुक्त
- सेल्फ-होस्टेड और ऑन-प्रिमाइसेस डिप्लॉयमेंट
- Groq पर तेज़ इन्फ़रेंस
- टूल उपयोग वाले एजेंट
इसे EDDI में चलाएं
सबसे तेज़ रास्ता Manager है: एजेंट विज़ार्ड या Platform Operator खोलें और प्रदाता व मॉडल चुनें। इसे खुद कॉन्फ़िगर करने के लिए, अपने चुने हुए प्रदाता के लिए ये चरण अपनाएं।
Groq · type: "groq"
मॉडल id: openai/gpt-oss-120b, openai/gpt-oss-20b
1. क्रेडेंशियल सहेजें
प्रदाता की API कुंजी को Manager में Secrets Vault में, या PUT /secretstore/secrets/default/groq-key से, नीचे इस्तेमाल किए गए नाम के तहत जोड़ें। कॉन्फ़िगरेशन इसे ${vault:…} के रूप में संदर्भित करते हैं, इसलिए कुंजी कभी सादे टेक्स्ट में नहीं दिखती।
${vault:groq-key}2. LLM टास्क कॉन्फ़िगर करें
इसे एजेंट के वर्कफ़्लो की langchain.json के रूप में इस्तेमाल करें, या पैरामीटर Manager के LLM एडिटर में पेस्ट करें।
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "groq",
"parameters": {
"apiKey": "${vault:groq-key}",
"modelName": "openai/gpt-oss-120b",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}या पूरा एजेंट एक ही कॉल में बनाएं
setup_agent नियम, LLM कॉन्फ़िगरेशन और वर्कफ़्लो लिखता है, फिर एजेंट को डिप्लॉय करता है। इसे MCP से या POST /administration/agents/setup से कॉल करें।
setup_agent(
agentName: "My openai/gpt-oss-120b agent",
systemPrompt: "You are a helpful assistant.",
provider: "groq",
model: "openai/gpt-oss-120b",
apiKey: "${vault:groq-key}"
)Amazon Bedrock · type: "bedrock"
मॉडल id: openai.gpt-oss-120b-1:0
1. क्रेडेंशियल सहेजें
यह प्रदाता API कुंजी का उपयोग नहीं करता: Amazon Bedrock AWS क्रेडेंशियल चेन के ज़रिए ऑथेंटिकेट करता है: एनवायरनमेंट वेरिएबल, एक IAM रोल, या ~/.aws/credentials।
2. LLM टास्क कॉन्फ़िगर करें
इसे एजेंट के वर्कफ़्लो की langchain.json के रूप में इस्तेमाल करें, या पैरामीटर Manager के LLM एडिटर में पेस्ट करें।
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "bedrock",
"parameters": {
"modelId": "openai.gpt-oss-120b-1:0",
"region": "us-east-1",
"maxTokens": "16384",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}संबंधित मॉडल
स्रोत
इस पेज के तथ्य वेंडर के डॉक्यूमेंटेशन से लिए गए हैं, जिन्हें 2026-09-30 को जाँचा गया। मॉडल तेज़ी से बदलते हैं, इसलिए उन पर निर्भर होने से पहले सीमाओं की पुष्टि वेंडर से करें। कीमतें यहाँ नहीं दी गई हैं: वेंडर का प्राइसिंग पेज देखें।