Dial E for Ethical Enforcement: institutional VETO power as a governance primitive

بناءً على ورقة البحث بعنوان "Dial E for Ethical Enforcement: Institutional Veto Power as a Governance Primitive" (المقبولة في مؤتمر ICLR 2026)، إليكم ملخصاً تقنياً مفصلاً.

1. بيان المشكلة

تحدد الورقة مفارقة حوكمة حرجة في مجال الذكاء الاصطناعي: بينما يوجد وعي أخلاقي ومعرفة بالمخاطر فيما يتعلق بتعزيز القدرات العسكرية لنماذج الاستدلال الكبيرة (LRMs) والتقنيات مزدوجة الاستخدام، هناك عجز شبه تام عن منع الاستخدامات الضارة اللاحقة.

• القضية الجوهرية: آليات الحوكمة الحالية (مثل بطاقات النماذج، وبيانات المسؤولية تجاه الذكاء الاصطناعي، وتقييمات الأثر) تعمل كـ إشارات سمعية بدلاً من كونها بنى اتخاذ قرار. فهي تولد معرفة ($K$) لكنها تفتقر إلى السلطة المؤسسية ($A$) لمنع النشر.
• النتيجة: يؤدي هذا إلى "عدم مسؤولية منظمة"، حيث يمكن للجهات الفاعلة التنصل من السيطرة بينما تستمر الأضرار. وتجادل الورقة بأنه بدون سلطة رسمية لرفض عمليات النقل أو النشر، لا يمكن للمعرفة الأخلاقية أن تترجم إلى ضمانات قابلة للإنفاذ.
• الفجوة: تتعامل الأدبيات الحالية مع التسلح العسكري كعاقبة لاحقة يجب التخفيف من حدتها عبر الأخلاقيات، بدلاً من كونه مشكلة بنيوية تتطلب إعادة توزيع السلطة. هناك "بدائية حوكمة" مفقودة: وهي سلطة النقض المؤسسية (Institutional Veto Power).

2. المنهجية والإطار النظري

تستخدم الورقة نهجاً منهجياً متعدد الأوجه يجمع بين النمذجة النظرية، والتحليل المؤسسي المقارن، والتصميم التشغيلي:

• نمذجة المنطق الصوري: يقدم المؤلفون إطاراً منطقياً لإثبات فشل الأنظمة الحالية.
  • الوضع الحالي: $(K \land \neg A) \implies M$ (المعرفة دون سلطة تؤدي إلى التسلح العسكري).
  • الوضع المقترح: $(K \land V \land R) \implies \neg M$ (المعرفة + حق النقض + تحديد المخاطر تؤدي إلى عدم التسلح العسكري).
    حيث تمثل $V$ حق النقض المحمي قانوناً، و $R$ هو تحديد الخطر الموثوق. تفترض النمذجة أن $P(M | V) \ll P(M | \neg V)$.
• تحليل الحوكمة المقارن: يحلل المؤلفون السوابق التاريخية في المجالات عالية المخاطر للتحقق من جدوى سلطة النقض:
  • منع انتشار الأسلحة النووية: عمليات التفتيش الإلزامية من قبل الوكالة الدولية للطاقة الذرية وقيود نقل التكنولوجيا.
  • الأخلاقيات الطبية الحيوية: مجالس المراجعة المؤسسية (IRBs) التي تمتلك سلطة ملزمة لوقف الأبحاث قبل التنفيذ.
  • ضوابط التصدير: الآليات (مثل ITAR و EAR) التي تقيد نقل التقنيات مزدوجة الاستخدام بناءً على التزامات الاستخدام النهائي.
• محاكاة النموذج التجريبي (الملحق أ): نموذج رياضي يحاكي سلاسل الحوكمة لإظهار ثلاثة أوضاع فشل لـ "الأخلاق بلا حق نقض":
  1. تشتت المسؤولية: مع زيادة عدد الفاعلين ($n$)، تقترب قابلية الإنفاذ الفردية ($\rho$) من الصفر.
  2. الاختيار العكسي: في بيئة الالتزام الطوعي، يكتسب المنافسون الذين يتجاهلون الأخلاقيات ميزة أو تمويلاً ($\beta$)، مما يدفع التوازن نحو التسلح العسكري.
  3. غسيل الأخلاق: التوثيق ($D$) يضخم المسؤولية المتصورة دون تدخل فعلي ($I$)، مما يخلق فجوة بين ما يُتصور وبين منع الضرر الفعلي.
• التصميم التشغيلي: تقترح الورقة مسارات تنفيذ ملموسة (عقود الجامعات، سياسات المؤتمرات، شروط التمويل، حوكمة المستودعات، والمعايير المهنية) بدلاً من التوصيات السياسية المجردة.

3. المساهمات الرئيسية

أ. سلطة النقض المؤسسية كبدائية للحوكمة

تعرف الورقة سلطة النقض المؤسسية ليس كرفض تعسفي، بل كسلطة رسمية محمية إجرائياً لوقف نقل أو ترخيص أو نشر الأبحاث عند تحديد مخاطر محددة وموثوقة (مثل التسلح أو المراقبة ضد الفئات المهمشة). ومن المهم أن سلطة النقض هذه تنطبق على الاستخدام اللاحق، وليس على البحث أو النشر نفسه.

ب. تمركز قيادة المجتمعات المهمشة

تتمثل إحدى المساهمات الأساسية في الحجة القائلة بأن سلطة النقض يجب أن تملكها المجتمعات المتضررة، وليس فقط المؤسسات الأكاديمية أو السياسية النخبوية.

• العدالة المعرفية: تمتلك المجتمعات الخاضعة للمراقبة أو الذكاء الاصطناعي العسكري "معرفة موضعية" حول بروز الضرر تفتقر إليها الخبرات الخارجية.
• الإصلاح الهيكلي: يجب أن تضم هيئات النقض ممثلين عن المجتمعات المتضررة يتمتعون بـ سلطة اتخاذ قرار متساوية مع الخبراء التقنيين وعلماء الأخلاق. وهذا ينقل الحوكمة من "الشمول الرمزي" إلى "السيطرة المجتمعية الملزمة".

ج. مسارات التشغيل

تنتقل الورقة من النظرية لتوفية خمس آليات ملموسة لدمج سلطة النقض في البنية التحتية القائمة:

1. تعديلات عقود الجامعات: دمج بنود قيود الاستخدام وحقوق التدقيق في تراخيص نقل التكنولوجيا.
2. حوكمة مستوى المؤتمرات: اشتراط نماذج الإفصاح عن الاستخدام المزدوج وتمكين شروط الاستخدام القابلة للقراءة آلياً في الأوراق المنشورة.
3. نفوذ وكالات التمويل: ربط المنح بإنشاء لجان نقض مؤسسية والامتثال لقراراتها.
4. الإنفاذ على مستوى المستودعات: تنفيذ بيانات وصفية (Metadata) قابلة للقراءة آلياً لقيود الاستخدام، والحذف التلقائي للمخالفات.
5. التضامن المهني: وضع قواعد سلوك ملزمة تحمي الباحثين الذين يرفضون التمويل العسكري.

د. مبادئ التصميم لضمان الشرعية

لمنع تحول حق النقض إلى أداة للقمع أو الاستحواذ السياسي، يقترح المؤلفون قيود تصميم صارمة:

• تحديد النطاق: ينطبق حق النقض فقط على استخدامات لاحقة محددة، وليس على البحث الاستقصائي.
• العتبات المحددة مسبقاً: يجب أن تكون المحفزات محددة (مثل "الأسلحة ذاتية التحكم التي تفتقر للتحكم البشري") بدلاً من أن تكون تخمينية.
• صنع القرار الجماعي: يجب اتخاذ القرارات من قبل لجان تعددية، وليس أفراد.
• الاستئناف والقابلية للمراجعة: وجود آليات للاستئناف وبنود لانتهاء الصلاحية لمنع الرقابة الدائمة.
• حماية مكافحة الانتقام: توفير ضمانات قانونية ومهنية لأولئك الذين يمارسون حق النقض.

4. النتائج والنتائج المستخلصة

• التحقق النظري: يظهر النموذج التجريبي أنه بدون نقطة نقض ملزمة ($V$)، فإن توازن مسارات البحث ينحرف حتماً نحو التسلح العسكري بسبب الاختيار العكسي وتشتت المسؤولية.
• النجاح المقارن: يؤكد تحليل أنظمة الانتشار النووي، والأخلاقيات البيولوجية، وضوابط التصدير أن السلطة الملزمة عند نقاط القرار (وليس مجرد الإرشادات) هي الآلية الوحيدة التي نجحت في تقييد التقنيات الخطرة في الماضي.
• فشل الأخلاقيات الحالية: تخلص الورقة إلى أن "غسيل الأخلاق" (التوثيق دون تدخل) هو سمة هيكلية للأنظمة الحالية، وليس خللاً عرضياً. إن تحويل الضمانات الرمزية إلى قواعد قابلة للإنفاذ هو السبيل الوحيد لوقف تراكم الضرر.
• الجدوى: لا تتطلب الآليات المقترحة معاهدات أو حكومات جديدة؛ بل يمكن تنفيذها عبر إعادة توظيف مكاتب نقل التكنولوجيا بالجامعات، ولجان المؤتمرات، ومنصات المستودعات.

5. الأهمية

• تحول في النموذج الفكري: تنقل الورقة النقاش من "كيف نشجع ضبط النفس" (الذي يعتمد على الامتثال الطوعي ويفشل) إلى "كيف نجعل ضبط النفس عقلانياً من الناحية الهيكلية" (عبر تغيير بنية الحوافز).
• من الأخلاق إلى القانون/السياسة: تجادل الورقة بأن سلامة الذكاء الاصطناعي لا يمكن حلها عبر المحاذاة التقنية وحدها؛ بل تتطلب "بدائية حوكمة" تعامل منع التسلح العسكري كضرورة قانونية وإجرائية.
• حوكمة موجهة نحو العدالة: من خلال فرض أن تمتلك المجتمعات المتضررة حق النقض، تقدم الورقة مساراً لفصل تطوير الذكاء الاصطناعي عن منطق التسلح والمراقبة الذي يضر بالفئات المهمشة بشكل غير متناسب.
• خارطة طريق عملية: على عكس العديد من الأوراق النظرية، توفر هذه الدراسة "دليل عمل" للباحثين والمؤسسات والممولين للبدء فوراً في تنفيذ هياكل حوكمة قابلة للإنفاذ.

باختصار، تجادل ورقة "Dial E for Ethical Enforcement" بأن التسلح العسكري للذكاء الاصطناعي هو فشل في الحوكمة، وليس حتمية تقنية. وتقترح سلطة النقض المؤسسية، بقيادة المجتمعات المتضررة والمدمجة في العقود المؤسسية وسير العمل الحالي، كالبدائية الضرورية لتحويل المعرفة الأخلاقية إلى مسؤولية قابلة للإنفاذ.