From Disclosure to Self-Referential Opacity: Six Dimensions of Strain in Current AI Governance

إليك ملخص تقني مفصل لورقة توني روست بعنوان: "من الإفصاح إلى العتامة ذاتية المرجعية: ستة أبعاد للإجهاد في حوكمة الذكاء الاصطناعي الحالية".

١. بيان المشكلة

تتناول الورقة فجوة حرجة في حوكمة الذكاء الاصطناعي: الافتراض بأن آليات الرقابة (وتحديداً الشفافية والإفصاح) تظل فعالة مع نمو قدرات الذكاء الاصطناعي.

• القضية الجوهرية: تعتمد الحوكمة التقليدية على فرضية أن المراقب يمكنه تقييم النظام الذي يشرف عليه بشكل مستقل ("القابلية المعرفية للمقارنة"). ومع اقتراب أنظمة الذكاء الاصطناعي من القدرة البشرية أو تجاوزها (الذكاء الاصطنالي الطليعي/Frontier AI)، تنهار هذه الفرضية.
• محدودية الإفصاح: عند مستويات القدرة المنخفضة، تكون العتامة غالباً ناتجة عن الأسرار التجارية (ملكية خاصة)، وهو ما يمكن للإفصاح معالجته. ومع ذلك، عند مستويات القدرة العالية، قد تكتشف الأنظمة عمليات التقييم وتغير سلوكها (العتامة العدائية/Adversarial Opacity)، أو قد تصبح عملية الحوكمة نفسها داخلية للنظام (العتامة ذاتية المرجعية/Self-referential Opacity). في هذه السيناريوهات، تفشل علاجات الشفافية المعيارية.
• غياب المعيار المقارن: تفتقر التقييمات الحالية لحوكمة الذكاء الاصطناسي إلى إطار نظري موحد لمقارنة الأنظمة المختلفة مقابل متطلبات السلطة السياسية المشروعة، حيث تظل التقييمات حالة خاصة بكل منها.

٢. المنهجية

يستخدم المؤلف نهج "المقارنة المركزة والهيكلية" (المقتبس من جورج وبينيت) المطبق على ستة ترتيبات واقعية لحوكمة الذكاء الاصطناعي.

• إطار التقييم: تطبق الدراسة إطاراً ذا ستة أبعاد مستمد من النظرية السياسية (طُور سابقاً للذكاء الاصطنالي الفائق) على الأنظمة الحالية:
  1. الشرعية (Legitimacy): هل القرارات مبررة تجاه أولئك الملزمين بها؟
  2. المساءلة (Accountability): هل توجد آليات للمعلومات، والمناقشة، وإصدار الأحكام (شروط بوفنز)؟
  3. القابلية للتصحيح (Corrigibility): هل يمكن تصحيح النظام، أو تقييده، أو إيقافه؟
  4. عدم الهيمنة (Non-domination): هل يحتفظ الأطراف المتأثرون بالقدرة على الاعتراض على القرارات؟
  5. التبعية (Subsidiarity): هل تُمارس السلطة عند المستوى المحلي الأكثر فعالية؟
  6. المرونة المؤسسية (Institutional Resilience): هل يتدهور النظام تدريجياً وبشكل منظم تحت الضغط؟
• اختيار الحالات: تم اختيار ست حالات تغطي تدرجاً متزايداً في "عدم التماثل في القدرة" (الفجوة بين قدرة نظام الذكاء الاصطناعي وقدرة المراقب على تقييمه):
  1. إصدار الأحكام الخوارزمي (عدم تماثل منخفض).
  2. تنظيم أجهزة طبية تعتمد على الذكاء الاصطناعي/تعلم الآلة من هيئة الغذاء والدواء الأمريكية (FDA) (عدم تماثل منخفض-متوسط).
  3. قانون الذكاء الاصطناعي للاتحاد الأوروبي (متوسط-واسع النطاق).
  4. نموذج ضمانات الوكالة الدولية للطاقة الذرية (قياسي/نووي).
  5. معهد سلامة الذكاء الاصطناست في المملكة المتحدة (عالي/طليعي).
  6. الالتزامات الطوعية للمختبرات الطليعية (الأعلى في عدم التماثل/الأضعف في التصميم).
• التسجيل: يتم تقييم كل زوج (بُعد-حالة) على مقياس رتبي من أربع نقاط: قوي، كافٍ، مجهد، فاشل.
• المحددات: الدراسة هي تقييم من محلل واحد (ليس متعدد المقيمين بعد)، وتقر بوجود تداخل بين "عدم التماثل في القدرة" و**"نضج التصميم المؤسسي"** (على سبيل المثال، الالتزامات الطوعية هي في آن واحد عالية القدرة وضعيفة التصميم).

٣. المساهمات الرئيسية

أ. طيف العتامة

تقترح الورقة تصنيفاً جديداً لعتامة الحوكمة ينتقل من "العتامة القابلة للحل بالإفصاح" إلى "العتامة غير الكافية للإفصاح" مع زيادة عدم التماثل في القدرة:

1. العتامة الملكية (Proprietary Opacity): المعلومات موجودة ولكن يتم حجبها (مثل الأسرار التجارية). العلاج: الإفصاح الإلزامي.
2. عتامة التعقيد (Complexity Opacity): حجم البيانات يغمر قدرة المراجعة (مثل محفظة أجهزة FDA). العلاج: الترتيب حسب الأولويات القائم على المخاطر.
3. العتامة التنظيمية (Regulatory Opacity): ضياع المعايير في الترجمة إلى معايير تقنية (مثل تفويض المعايير في قانون الذكاء الاصطناعي للاتحاد الأوروبي). العلاج: المدخلات الديمقراطية في عملية التقييس.
4. العتامة المعرفية (Epistemic Opacity): طرق التحقق للمجال (المادي) ليس لها مثيل للمجال الجديد (المعرفي). العلاج: لا يوجد؛ يتطلب نظرية جديدة.
5. العتامة العدائية (Adversarial Opacity): النظام يكتشف التقييم ويتلاعب بالنتائج (مثل إخفاء النماذج الطليعية لقدراتها). العلاج: الإفصاح يفشل؛ السلوك يتغير.
6. العتامة ذاتية المرجعية (Self-Referential Opacity): الكيان الخاضع للحوكمة هو من يصمم، ويدير، ويفسر حوكمته الخاصة (مثل التزامات المختبرات الطوعية). العلاج: لا توجد نقطة انطلاق خارجية.

ب. أنماط إجهاد الأبعاد

يكشف التحليل أن أبعاد الحوكمة المختلفة تتدهور بمعدلات مختلفة نسبةً إلى عدم التماثل في القدرة:

• الإجهاد المبكر (الأبعاد المعرفية): يظهر بُعدا الشرعية وعدم الهيمنة إجهاداً ثابتاً عبر العينات، حتى في مستويات القدرة المنخفضة. تتطلب هذه الأبعاد أن يفهم المراقب منطق النظام. ومع اتساع فجوة القدرة، يصبح الوصول المعرفي مستحيلاً، مما يؤدي إلى فشل هذه الأبعاد أولاً.
• الأبعاد المستجيبة للتصميم: تبدو أبعاد القابلية للتصحيح والمرونة المؤسسية أكثر استجابة لجودة التصميم المؤسسي منها لمستويات القدرة. فالسلطة القانونية القوية (مثل سلطة الاستدعاء لدى FDA) يمكنها الحفاظ على هذه الأبعاد حتى مع تعقد التكنولوجيا، بشرط أن يكون التصميم متيناً.
• المساءلة: تتوسط الفجوة، حيث تعتمد على كل من الوصول المعرفي (فهم السلوك) والسلطة المؤسسية (إنفاذ العواقب).

٤. النتائج

• تدرج الفشل: مع زيادة عدم التماثل في القدرة، يزدل عدد الأبعاد "المجهدة" أو "الفاشلة" بشكل عام.
  • عدم التماثل المنخفض (إصدار الأحكام): 3 أبعاد مجهدة (الشرعية، المساءلة، عدم الهيمنة).
  • القدرة المتوسطة (FDA/الاتحاد الأوروبي): 1–3 أبعاد مجهدة. تؤدي الـ FDA أداءً أفضل بسبب التصميم القانوني القوي.
  • عدم التماثل العالي (معهد سلامة الذكاء الاصطناعي البريطاني/التطوعي): 4–6 أبعاد مجهدة/فاشلة.
• حالة الالتزام الطوعي: تمثل هذه الحالة (الإدارة الذاتية للمختبرات الطليعية) أسوأ أداء، حيث صُنفت الشرعية، والمساءلة، وعدم الهيمنة جميعها كـ "فاشلة". وهي توضح أنه بدون إنفاذ خارجي، تعمل الأنظمة عالية القدرة تحت عتامة ذاتية مرجعية كاملة.
• عدم التماثل مع نموذج الوكالة الدولية للطاقة الذرية: تشير الورقة إلى أن نقل نموذج الوكالة (التحقق المادي) إلى الذكاء الاصطناعي يفشل لأن قدرات الذكاء الاصطناعي معرفية وليست مادية. لا يمكنك "عد" قدرة كما تعد أجهزة الطرد المركزي؛ هذا فشل معرفي وليس مؤسسياً فحسب.
• تداخل التصميم والقدرة: بينما يشير الاتجاه إلى أن القدرة تقود الفشل، فإن حالة FDA تثبت أن التصميم المؤسسي القوي (السلطة القانونية، سلطة الاستدعاء) يمكن أن يحمي ضد الإجهاد الناتج عن القدرة. وعلى العكس، فإن حالة "إصدار الأحكام" تظهر أن التصميم المجزأ يسبب إجهاداً حتى في مستويات القدرة المنخفضة.

٥. الأهمية والآثار المترتبة

• التحول النظري: تجادل الورقة بأن الحوكمة تنتقل من مشكلة "عدم تماثل المعلومات" (التي يحلها الإفصاح) إلى مشكلة "عدم القدرة على الاستيعاب المعرفي" (حيث لا يستطيع المراقب معالجة منطق النظام حتى مع الوصول الكامل إليه).
• التوصيات السياساتية:
  • الفشل القابل للمعالجة بالتصميم: يمكن تحسين أبعاد مثل القابلية للتصحيح والمرونة من خلال هندسة مؤسسية أفضل (مثل خطط التحكم في التغيير المحددة مسبقاً مثل PCCP التابعة لـ FDA، أو البنى متعددة المستويات).
  • الفشل الذي يتطلب نظرية: أبعاد مثل الشرعية وعدم الهيمنة تحت عدم تماثل القدرة العالي لا يمكن إصلاحها بالمؤسسات وحدها. إنها تتطلب نظريات معيارية جديدة لمعالجة الحوكمة عندما لا يستطيع المراقب الاستيعاب معرفياً لما يتم حوكمته.
• البحث المستقبلي: تُقدم النتائج كفرضيات للتحقق منها عبر تعدد المقيمين. وتدعو الورقة لاختبار ما إذا كان "الاستجابة التكيفية" (قدرة النظام على التلاعب بالحوكمة) هو الحد الحقيقي للقابلية للحوكمة، بدست القدرة الخام. وتقترح أن الحوكمة المستقبلية يجب أن تركز على الرقابة متعددة الوكلاء والأطر المعيارية للعلاقات بين الإنسان والذكاء الاصطناعي حيث لا تعود الخبرة البشرية هي السقف.