Right-to-Act: A Pre-Execution Non-Compensatory Decision Protocol for AI Systems

ملخص تقني لورقة بحثية بعنوان: "فجوة الشرعية ما قبل الإجراء في أنظمة الذكاء الاصطناي: حد حتمي غير تعويضي للتنفيذ" بقلم غادي لافي.

1. بيان المشكلة: فجوة الشرعية ما قبل الإجراء

مع تطور أنظمة الذكاء الاصطناعي من أدوات استشارية إلى وكلاء مستقلين قادرين على تنفيذ إجراءات في العالم الحقيقي (مثل تحويلات الأموال، أو تعليق الحسابات، أو تغييرات البنية التحتية)، تواجه النماذج المعمارية الحالية فجوة حرجة. فالآليات الموجودة حاليًا — مثل التفويض، ومواءمة السلامة، وإنفاذ السياسات، والاعتماد الإحصائي — تقيم من يُسمح له بالتحرك، أو ما إذا كان المخرج ضارًا، أو ما إذا كان النظام يتصرف ضمن حدود المخاطر.

ومع ذلك، تفشل هذه الآليات في الإجابة على سؤال متميز ومسبق: "هل ينبغي السماح لهذا القرار المولد بواسطة الذكاء الاصطناعي بأن يوجد كحدث قابل للتنفيذ أصلاً؟"

تُعرف الورقة "فجوة الشرعية ما قبل الإجراء" بأنها غياب آلية رسمية لتحديد ما إذا كان القرار يمتلك "الحق في التنفيذ" قبل دخوله في مسار التنفيذ. قد يكون القرار مفوضًا، وآمنًا، ومنخفض المخاطر، ومع ذلك يظل غير شرعي بنيويًا بسبب نقص التحقق السياقي، أو عدم كفاية التبرير، أو التوقيت السابق لأوانه. تعتمد الأنظمة الحالية غالبًا على "التقييم التعويضي" (Compensatory Scoring)، حيث يمكن لدرجة ثقة عالية أو تطابق قوي مع السياسة أن يعوض شرطًا حرجًا مفقودًا، مما يؤدي إلى أخطاء قد لا يمكن الرجوع عنها.

2. المنهجية والنموذج الرسمي

يقترح المؤلف إطار عمل رسميًا بسيطًا يسمى بروتوكول "الحق في التنفيذ" (Right-to-Act protocol). يتعامل هذا النهج مع الشرعية ليس كدرجة احتمالية يجب تحسينها، بل كـ شرط جدوى محدد بقيود صارمة.

2.1 التعريفات الرسمية

• فضاء القرار ($A$): مجموعة من القرارات المرشحة القابلة للتنفيذ $a$، ممثلة في شكل صفات (tuples) مهيكلة تحتوي على العملية، والسياق، والهدف، والنطاق، والتوقيت.
• قيود الشرعية ($C$): مجموعة محدودة من المحمولات الحتمية $\{C_1, C_2, ..., C_n\}$ حيث $C_i(a) \in \{0, 1\}$. تشير القيمة 1 إلى استيفاء الشرط؛ وتشير القيمة 0 إلى الفشل.
• المنطقة الممكنة ($F$): مجموعة القرارات التي تستوفي جميع القيود المطلوبة:
  $$F = \{a \in A : \forall i, C_i(a) = 1\}$$
• دالة الحق في التنفيذ ($D$): دالة قرار حتمية:
  $$D(a) = \begin{cases} \text{سماح (ALLOW)} & \text{إذا كان } a \in F \\ \text{عدم إجراء (NON-ACTION)} & \text{خلاف ذلك} \end{cases}$$

2.2 المنطق غير التعويضي

الابتكار المنهجي الأساسي هو الطبيعة غير التعويضية للحد الفاصل. في هذا النظام، إذا فشل أي قيد واحد مطلوب ($C_j(a) = 0$)، يتم رفض القرار، بغض النظر عن عدد القيود الأخرى المستوفاة أو مدى ارتفاع درجة الثقة.

• النتيجة: لا يُعامل "عدم الإجراء" كخطأ في النظام، بل كحالة صالحة وقابلة للتدقيق (على سبيل المثال: تأجيل، أو تصعيد، أو طلب معلومات).

3. المساهمات الرئيسية

تقدم الورقة أربع مساهمات رئيسية:

1. تعريف المشكلة: حددت رسميًا "فجوة الشرعية ما قبل الإجراء" كعنصر معماري متميز منفصل عن التفويض، أو السلامة، أو الحوكمة أثناء التشغيل.
2. الصياغة الرسمية: قدمت نموذجًا رياثيًا بسيطًا لحد "الحق في التنفيذ" الذي يفرض الجدوى البنيوية بدلاً من تحسين الدرجات.
3. مبرهنة عدم التكافؤ: أثبتت أن أنظمة التقييم التعويضي لا يمكنها ضمان الشرعية ما قبل الإجراء.
   • المبرهنة: إذا استخدم نظام ما مجموعًا مرجحًا $S(a) = \sum w_i x_i(a)$ مع عتبة $\theta$، فمن الممكن بناء قرار حيث يفشل قيد حرج ($C_k=0$) ولكن الدرجة الإجمالية لا تزال تتجاوز $\theta$ بسبب إشارات أخرى مرتفعة. وبالتالي، لا يمكن لنظام التقييم محاكاة سلوك الحظر الصارم الذي توفره منظومة القيود غير التعويضية.
4. تطبيق دراسة الحالة: توضح التأثير العملي لهذا الحد في سيناريو تعليق الحسابات المدفوع بالذكاء الاصطناعي.

4. النتائج وتحليل دراسة الحالة

تتحقق الورقة من صحة الإطار باستخدام دراسة حالة لـ تعليق الحسابات المدفوع بالذكاء الاصطناعي.

• السيناريو: يقترح نظام ذكاء اصطناعي تعطيل حساب مستخدم بناءً على ثقة عالية، وتشابه في الأنماط، وتنبيهات سابقة.
• الأساس التعويضي: يحسب نظام تقييم المخاطر القياسي درجة إجمالية عالية ($S(a) \ge \theta$) وينفذ التعليق فورًا.
• تدخل "الحق في التنفيذ": يتحقق النظام من قيد بنيوي محدد: التحقق السياقي (على سبيل المثال، التأكد من أن النشاط ليس ناتجًا عن جهاز مخترق أو ارتباط زائف).
  • في دراسة الحالة، فشل هذا القيد ($C_{context} = 0$).
  • النتيجة: قام حد "الحق في التنفيذ" بحظر التنفيذ ($D(a) = \text{NON-ACTION}$)، مما أدى إلى تصعيد أو طلب مزيد من المعلومات، بينما كان النظام الأساسي سيتسبب في تعليق غير مبرر.

النتيجة الرئيسية: يمكن أن يكون القرار مبررًا إحصائيًا ومتوافقًا مع السياسة، ومع ذلك يظل غير شرعي بنيويًا. يمنع حد "الحقية ما قبل الإجراء" ذلك عبر معاملة الشروط المفقودة كعوائق صلبة بدلاً من مجرد خصومات في الدرجة.

5. الأهمية والآثار المترتبة

تجادل الورقة بأن الانتقال من "التقييم" إلى "إنفاذ الحدود" يغير حوكمة الذكاء الاصطناعي بشكل جذري:

• عدم التنفيذ كناتج من الدرجة الأولى: يُعاد تعريف عدم التنفيذ كحالة تشغيلية صاللة ومسيطر عليها وليس كوضع فشل.
• تحسين القدرة على التدقيق: نظرًا لأن القرارات تُحظر بسبب قيود محددة فاشلة بدلاً من درجات منخفضة غامضة، تصبح مسارات التدقيق أكثر وضوحًا وقابلية للدفاع عنها.
• استقلالية النموذج: ينطبق الإطار على أي نظام ذكاء اصطناعي (نماذج لغوية كبيرة، وكلاء، مصنفات) طالما يمكن تمثيل القرار بنيويًا، مما يجعله متوافقًا مع البيئات غير المتجانسة.
• تخفيف مخاطر البيانات التكرارية: في المجالات التي يولد فيها الذكاء الاصطناعي بيانات تغذي التدريب لاحقًا (البيانات التكرارية)، قد يصبح الاعتماد الإحصائي ذاتي المرجعية. يفرض حد الشرعية ما قبل الإجراء صلاحية بنيوية على القرارات الفردية، مما يوفر حماية ضد اعتماد التوزيعات المشوهة.

الخاتمة

تخلص الورقة إلى أن الشرعية هي حد، وليست درجة. من خلال تقديم عنصر قرار حتمي وغير تعويضي، يسد بروتوكول "الحق في التنفيذ" فجوة حرجة في بنية سلامة الذكاء الاصطناعي، مما يضمن أن القرارات لا تمضي إلى التنفيذ إلا عندما تستوفي جميع الشروط البنيوية اللازمة، بغض النظر عن ثقتها الإجمالية أو ملف المخاطر الخاص بها.