Open WebUI

EDDI एक OpenAI-संगत /v1 API देता है जो डिप्लॉय किए गए एजेंटों को मॉडल के रूप में दिखाती है, ताकि Open WebUI, OpenAI SDK, LangChain और LiteLLM उनसे बात कर सकें।

आपको क्या मिलता है

Open WebUI के मॉडल ड्रॉपडाउन में डिप्लॉय किए गए EDDI एजेंट
स्ट्रीमिंग और टोकन उपयोग रिपोर्टिंग के साथ Chat Completions
हर चैट के लिए एक EDDI कन्वर्सेशन, ताकि मेमोरी और व्यवहार नियम टर्न के बीच बने रहें
टाइटल जनरेशन जैसे सिंगल-टर्न कॉल के लिए स्टेटलेस रूप (:stateless मॉडल आईडी)

EDDI में यह कैसे काम करता है

EDDI_OPENAI_COMPAT_ENABLED=true से एडैप्टर चालू करें और एक API कुंजी सेट करें। यह डिफ़ॉल्ट रूप से बंद है।
EDDI में एक एजेंट डिप्लॉय करें। वह GET /v1/models में दिखाई देगा।
Open WebUI (या किसी SDK) को उसी API कुंजी के साथ http://<eddi>:7070/v1 पर पॉइंट करें।
Open WebUI में ENABLE_FORWARD_USER_INFO_HEADERS चालू करें। इसके बिना हर चैट विंडो एक ही EDDI कन्वर्सेशन साझा करती है।
मॉडल सूची से एजेंट चुनें और चैट करें।

कॉन्फ़िगरेशन

EDDI दस्तावेज़ों से लिया गया। your-agent-id जैसे प्लेसहोल्डर आपको अपने मान से बदलने होंगे।

docker-compose.yml (excerpt)EDDI दस्तावेज़ों से प्रोडक्शन-जैसा compose अंश। उदाहरण वाली API कुंजी बदलें।

services:
  eddi:
    image: labsai/eddi:latest
    ports: ["7070:7070"]
    environment:
      EDDI_OPENAI_COMPAT_ENABLED: "true"
      EDDI_OPENAI_COMPAT_API_KEY: "sk-eddi-change-me"

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    ports: ["3000:8080"]
    environment:
      OPENAI_API_BASE_URL: http://eddi:7070/v1
      OPENAI_API_KEY: "sk-eddi-change-me"
      ENABLE_OLLAMA_API: "false"
      ENABLE_FORWARD_USER_INFO_HEADERS: "true"

Check the endpointशेल से एंडपॉइंट जाँचें। EDDI_API_KEY को compose फ़ाइल वाले मान पर ही सेट करें।

curl -H "Authorization: Bearer $EDDI_API_KEY" http://localhost:7070/v1/models

curl -X POST http://localhost:7070/v1/chat/completions \
  -H "Authorization: Bearer $EDDI_API_KEY" \
  -H "Content-Type: application/json" \
  -H "X-OpenWebUI-Chat-Id: chat-1" \
  -H "X-OpenWebUI-User-Id: alice" \
  -d '{"model":"my-agent-a3f9c1","messages":[{"role":"user","content":"Hello"}]}'

गवर्नेंस

इस API का अपना API-key प्रमाणीकरण है और यह तब तक बंद रहती है जब तक आप इसे चालू न करें। जिस एक संयोजन में पोर्ट तक पहुँच सकने वाला कोई भी कन्वर्सेशन बना सकता, उसमें EDDI शुरू होने से इनकार कर देता है।
एजेंट अपने अनुमोदन गेट और ऑडिट ट्रेल बनाए रखता है। /v1 के ज़रिए आया अनुरोध एक सामान्य EDDI कन्वर्सेशन है।
साझा API कुंजी और यूज़र हेडर पहचान को भरोसेमंद प्रॉक्सी के रूप में Open WebUI को सौंप देते हैं। कुंजी को किसी भी साझा सीक्रेट की तरह मानें और उसे रोटेट करें।

जानने योग्य बातें

मॉडल के रूप में केवल अलग-अलग एजेंट दिखते हैं, मल्टी-एजेंट समूह नहीं।
क्विक रिप्लाई और बटन Markdown टेक्स्ट के रूप में दिखते हैं, इंटरैक्टिव कंट्रोल के रूप में नहीं।
टूल कॉल क्लाइंट को वापस नहीं भेजे जाते। EDDI अपने टूल अपनी पाइपलाइन के भीतर चलाता है, और टूल गतिविधि ऑडिट लेजर में दिखती रहती है।

शुरू करें दस्तावेज़ ↗

सुविधाएँ

एंटरप्राइज़

मैनेज्ड क्लाउड और एंटरप्राइज़ सपोर्ट

संसाधन