نقاط القوة
- يعمل على CPU
- سياق 128K
- ثماني لغات
الأنسب لـ
- استدلال داخل العملية ودون اتصال
- إعادة صياغة الاستعلامات والموجّهات
- ملخصات قصيرة
شغّله في EDDI
أسرع طريق هو Manager: افتح معالج الوكلاء أو Platform Operator واختر المزود والنموذج. ولتكوينه بنفسك، اتبع هذه الخطوات للمزود الذي تريده.
Jlama (in-process) · type: "jlama"
معرّفات النموذج: tjake/Llama-3.2-1B-Instruct-JQ4
1. خزّن بيانات الاعتماد
لا يستخدم هذا المزود مفتاح API: لا يحتاج Jlama إلى مفتاح: يعمل النموذج داخل JVM الخاص بـ EDDI ويُنزَّل من Hugging Face عند أول استخدام.
2. كوّن مهمة LLM
استخدم هذا كملف langchain.json في سير عمل الوكيل، أو الصق المعاملات في محرر LLM في Manager.
{
"tasks": [
{
"actions": [
"send_message"
],
"id": "chat",
"type": "jlama",
"parameters": {
"modelName": "tjake/Llama-3.2-1B-Instruct-JQ4",
"modelCachePath": "/var/lib/eddi/jlama",
"maxTokens": "512",
"systemMessage": "You are a helpful assistant",
"addToOutput": "true"
}
}
]
}ملاحظات خاصة بـ EDDI
- يعمل Jlama داخل JVM الخاص بـ EDDI. وجّه
modelCachePathإلى وحدة تخزين مركّبة لتبقى الأوزان بعد إعادة التشغيل، وحدّد حجم الحاوية ليتسع للنموذج إضافة إلى ذاكرة heap الخاصة بـ EDDI. - يعمل دون اتصال بالكامل بعد تنزيل النموذج، لذا يناسب عمليات النشر في البيئات المعزولة.
نماذج ذات صلة
المصادر
الحقائق في هذه الصفحة مأخوذة من وثائق المورّد، وقد جرى التحقق منها في 2026-09-30. تتغير النماذج بسرعة، لذا تحقّق من الحدود لدى المورّد قبل الاعتماد عليها. الأسعار غير مدرجة هنا: راجع صفحة الأسعار لدى المورّد.