الحوكمة بمشاركة بشرية

استقلالية مع زر إيقاف

تبقى الوكلاء المستقلة مفيدة حتى اللحظة التي تنفذ فيها إجراءً لا يمكن التراجع عنه. قدّم EDDI 6.2.0 الحوكمة بمشاركة بشرية: بوابات موافقة صريحة على ثلاثة مستويات من التفصيل، تسندها سياسات المهلة وكشف الحلقات وحالة تبقى بعد إعادة التشغيل. الموافقات تكوين، وليست شفرة تطبيق مخصصة.

لماذا يجب أن تكون بوابات الموافقة داخل المنصة

تضيف معظم الفرق الموافقات على طبقة التطبيق: طابور هنا، وويب هوك هناك، وعلامة في قاعدة البيانات في مكان ثالث. ينهار هذا النهج فور إعادة تشغيل العملية، أو خروج المعتمِد عن الاتصال، أو إعادة الوكيل الطلب نفسه في حلقة. يضع EDDI البوابة داخل خط أنابيب المحادثة نفسه: تبقى الدورة الموقوفة موقوفة، ويُرفض أي إدخال يسبق القرار برسالة 409 Conflict واضحة، ويُسجَّل كل قرار في مسار التدقيق نفسه الذي يوثق بقية دورة حياة الوكيل.

ثلاثة مستويات للموافقة

• الموافقة على مستوى الدورة: يوقف إجراء PAUSE_CONVERSATION خط الأنابيب بالكامل. وإلى أن يستأنفه إنسان، تعيد أي مدخلات إضافية من المستخدم 409 Conflict، فلا يسبق شيء القرار المعلق.
• ضبط البوابات لكل استدعاء أداة: يمكن أن يشترط كل استدعاء أداة موافقة بشرية قبل التنفيذ. تحدد قوائم السماح والاستثناء بأنماط glob ما الذي يخضع للموافقة بالضبط، عبر الأدوات المدمجة وHTTP وMCP وA2A والأدوات الديناميكية وأدوات الذاكرة.
• الموافقة على مراحل المجموعة: يمكن أن تشترط مراحل النقاش متعدد الوكلاء اعتماداً بشرياً بدقة PHASE أو TASK، حتى لا تنتقل المجموعة من التخطيط إلى التنفيذ دون إشراف.

سياسات المهلة

البشر ليسوا خدمة عالية التوافر. تعلن كل بوابة ما الذي يحدث حين لا يستجيب أحد في الوقت المحدد:

• WAIT_INDEFINITELY: يبقى التشغيل موقوفاً حتى يقرر إنسان. للإجراءات التي لا يجوز تنفيذها دون إشراف أبداً.
• AUTO_APPROVE: يستمر التنفيذ بعد انتهاء المهلة. مناسب للإجراءات منخفضة المخاطر حيث تكون الرقابة فحصاً بالعينة لا بوابة صارمة.
• AUTO_REJECT: يُرفض الإجراء المعلق ويتابع الوكيل مساره الخاص بالرفض.
• ABORT: يُنهى التشغيل فوراً، وهو الخيار الأكثر أماناً للعمليات غير القابلة للتراجع أو واسعة الأثر.

مبني ليصمد في الإنتاج

يُحكم على نظام الموافقات في أسوأ أيامه: إعادة تشغيل في منتصف المراجعة، ووكيل يكرر السؤال نفسه، ومعتمِد يعيش في Slack لا في واجهة الإدارة.

• حارس انعدام التقدم: ينشئ EDDI بصمة لكل توقف. وحين تتكرر البصمات نفسها بعد قرارات آلية، يتعرف على حلقة موافقة لا نهائية ويكسرها بدل إهدار الرموز عليها.
• التعافي من الأعطال: تبقى الموافقات المعلقة بعد إعادة تشغيل الخادم، ويُعاد ضبط مؤقتات المهلة تلقائياً، فلا يفقد النشر التدريجي قراراً جارياً في صمت.
• الموافقات عبر Slack: تنقل بطاقات Block Kit التفاعلية القرار إلى المعتمِد، مع معاينات وسائط محجوبة وقوائم معتمِدين مصرح لهم، بحيث لا يتصرف على البطاقة سوى المخولين.
• الموافقات عبر MCP: يمكن للعملاء الخارجيين عرض الموافقات المعلقة وقبولها أو رفضها عبر أدوات MCP، وهي جزء من الأدوات الـ89، مما يحول بيئة التطوير أو عميل الوكيل إلى مستوى تحكم.
• اعتمد ما سيُنفَّذ فعلاً: ترتبط الموافقة بالطلب في صورته النهائية بعد تحليله، ويرى معتمِدو استدعاءات MCP وA2A الجهة المستهدفة وبصمة الطلب، لا اسم الأداة فقط.
• Platform Operator خاضع لبوابة الموافقة: يستطيع Platform Operator إنشاء الوكلاء وتغييرها عبر API الخاص بـ EDDI، وتنتظر كل عملية كتابة يحاولها خلف بوابة الموافقة نفسها.

بوابات قليلة، في مواضعها الصحيحة

البوابات البشرية تنجح: في دراسة مضبوطة، خفّضت ثلاث بوابات قرار بشرية مُلزِمة الإخفاقات الحرجة في جولات بحث بمساعدة الذكاء الاصطناعي من 72% إلى 16%. لكن انتباه المراجعين ينفد، وبعد حدٍّ معين يجعل المزيد من التصعيد النظام أقل أماناً لا أكثر. لهذا يضبط EDDI احتكاك الموافقة لكل نقطة نهاية ولكل أداة، بقوائم سماح واستثناء بأنماط glob، حتى يرى الناس القرارات التي تحتاج فعلاً إلى إنسان. تضم صفحة الأدلة الدراسات.

الحوكمة والامتثال

الرقابة البشرية ليست تفضيلاً تشغيلياً فحسب، بل متطلب تنظيمي. تمنح بوابات الموافقة الرقابة البشرية في المادة 14 من قانون الذكاء الاصطناعي الأوروبي تطبيقاً ملموساً: شخص محدد بالاسم يصرح بإجراء بعينه، ويُسجَّل القرار. وبالاقتران مع إطار الامتثال في EDDI ومسار التدقيق HMAC-SHA256، يمكنك أن تثبت للمدقق ليس فقط ما فعله الوكيل، بل من سمح به ومتى.