Comparative regulatory analysis and governance framework based on risk for liability and accountability in autonomous artificial intelligence systems

تخيل عالماً لا يكتفي فيه جهاز تحميص الخبز (التوستر) بتحميص الخبز فحسب، بل يقرر نوع الخبز الذي تحتاجه بناءً على حالتك المزاجية، ونظامك الغذائي، وحالة الطقس، وكل ذلك دون أن يسألك سؤالاً واحداً. هذا هو عالم الذكاء الاصطناعي المستقل (Autonomous AI). فخلافاً للروبوتات القديمة التي كانت تتبع مجرد قائمة صارمة من التعليمات (مثل الوصفة)، تتعلم هذه الأنظمة الجديدة وتتكيف وتتخذ خياراتها الخاصة. إنهم يشبهون الطهاة الرقميين الذين يمكنهم ابتكار وصفات جديدة في اللحظة ذاتها.

ولكن هنا يكمن الجزء الصعب: عندما يحرق طاهٍ رقمي المطبخ، من الذي يُحاسب؟ في الأيام الخوالي، إذا تعرضت سيارة لحادث، كنا نعرف من كان يقودها. وإذا صعق جهاز التحميص شخصاً ما، كنا نعرف من صنعه. ولكن مع الذكاء الاصطناعي الذي يفكر من تلقاء نفسه، قد يكون "السائق" هو الشخص الذي كتب الكود البرمجي، أو الشركة التي باعته، أو الشخص الذي قام بتشغيله، أو حتى الذكاء الاصطناعي نفسه. هذا يخلق لغزاً قانونياً ضخماً يسمى المسؤولية القانونية (Liability) (من المسؤول) والحوكمة (Governance) (كيف نحافظ على السلامة). إذا لم نجد حلاً لهذا، فقد نصبح خائفين من استخدام التقنيات الجديدة الرائعة، أو والأسوأ من ذلك، قد يتعرض الناس للأذى دون محاسبة أي شخص. هذا هو السؤال الكبير الذي يحاول العلماء والقانونيون حله: كيف نتأكد من أن هذه الآلات الذكية آمنة وعادلة، ومن الذي يدفع الثمن إذا أخطأت؟

---

لغز مساءلة الذكاء الاصطناعي العظيم

هذه الورقة البحثية تشبه قصة بوليسية حيث يسافر المحققون (المؤلفون) إلى ثلاث "مدن قانونية" مختلفة — الاتحاد الأوروبي، الولايات المتحدة، والصين — ليروا كيف يحاول كل منها حل لغز مسؤولية الذكاء الاصطناعي. هم لا ينظرون فقط إلى القوانين؛ بل ينظرون إلى كيفية تعامل هذه القوانين مع حقيقة أن الذكاء الاصطناعي يزداد ذكاءً واستقلالية يوماً بعد يوم.

وجد الباحثون أن القواعد القديمة تعاني. تخيل محاولة استخدام خريطة من عام 1950 للتنقل في مدينة نمت فجأة لتصبح بها ناطحات سحاب، وسيارات طائرة، وأنفاق غير مرئية. هذا هو ما يحدث عندما نحاول استخدام قوانين قديمة لذكاء اصطناعي جديد. القوانين القديمة تسأل: "من ضغط على الزر؟" ولكن مع الذكاء الاصطناعي المستقل، أحياناً لا أحد يضغط على زر؛ بل تقرر الآلة ببساطة أن تتحرك. هذا يجعل من الصعب إثبات من تسبب في المشكلة، وهو مفهوم يُعرف بـ السببية (Causation). إنه يشبه محاولة معرفة من سكب الحليب عندما يسكب الحليب نفسه من عبوة كانت تتعلم كيف تسكب.

النهج الثلاثة المختلفة

تقارن الورقة بين كيفية تعامل هذه المناطق الثلاث مع هذه الفوضى:

1. الاتحاد الأوروبي (واضعو القواعد): الاتحاد الأوروبي يشبه المعلم الصارم الذي يكتب كتاب قواعد ضخماً ومفصلاً قبل بدء اللعبة حتى. إنهم يستخدمون نهجاً قائماً على المخاطر (Risk-based approach). وهذا يعني أنه إذا كان نظام الذكاء الاصطناعي يلعب لعبة خطيرة (مثل قيادة سيارة أو تشخيص مرض)، فيجب عليه اتباع قائمة ضخمة من قواعد السلامة، وفحوصات الشفافية، ومتطلبات الإشراف البشري قبل أن يُسمح له بالعمل. وإذا كانت اللعبة منخفضة المخاطر (مثل اقتراح فيلم)، فإن القواعد تكون أخف بكثير. إنهم يؤمنون بمنع الحادث قبل وقوعه.
2. الولايات المتحدة (اللاعبون المرنون): الولايات المتحدة تشبه المدرب الذي يترك اللاعبين يكتشفون الأمور أثناء سيرها، معتمدين على القواعد الموجودة للسيارات والمنتجات. ليس لديهم كتاب قوانٍ واحد ضخم للذكاء الاصطنيعي بعد. بدلاً من ذلك، يستخدمون القوانين القديمة المتعلقة بالإهمال وعيوب المنتجات. إذا آذى الذكاء الاصطناعي شخصاً ما، فأنت تقاضيهم في المحكمة، ويقرر القاضي ما إذا كانوا قد قصروا. لديهم أيضاً بعض الإرشادات الطوعية (مثل إطار عمل NIST) التي يمكن للشركات اختيار اتباعها. إنه نهج مرن ويشجع الابتكار، ولكنه قد يكون مربكاً لأن القواعد ليست متطابقة في كل مكان.
3. الصين (المشرفون): الصين تشبه الحكم الذي يراقب اللعبة عن كثب من على خط التماس ويتدخل مبكراً. نهجهم مركزي للدولة (State-centered) واستباقي. إنهم يركزون بشدة على الشركات التي تبني وتشغل الذكاء الاصطناعي، ويتأكدون من امتلاكها لضوابط داخلية وأنظمة تقارير صارمة. يريدون رصد المشكلات قبل حدوثها من خلال المراقبة المستمرة والإشراف الحكومي.

بطاقة تقييم "مؤشر مساءلة الذكاء الاصطناعي"

لمعرفة أي مدينة تؤدي عملاً أفضل، أنشأ المؤلفون بطاقة تقييم خاصة تسمى مؤشر مساءلة الذكاء الاصطناعي (AAI). فكر في الأمر كتقرير دراسي يوضح مدى تغطية قوانين الدولة لستة مجالات رئيسية:

• الشفافية (Transparency): هل يمكننا رؤية ما يفعله الذكاء الاصطناعي؟ (20% من الدرجة)
• القابلية للتفسير (Explainability): هل يمكن للذكاء الاصطناعي أن يخبرنا لماذا اتخذ قراراً؟ (15%)
• التوثيق (Documentation): هل دونوا كل شيء؟ (15%)
• الإشراف البشري (Human Oversight): هل هناك إنسان يراقب الذكاء الاصطناعي؟ (20%)
• التدقيق (Auditing): هل هناك من يراجع عمل الذكاء الاصطناعي؟ (15%)
• إدارة المخاطر (Risk Management): هل يخططون للأمور التي قد تسوء؟ (15%)

إليك كيف سجلت المدن الثلاث من 100:

• الاتحاد الأوروبي: 96. حصلوا على درجة A+ لأن لديهم نظاماً كاملاً وموحداً يغطي جميع هذه المجالات.
• الصين: 78. حصلوا على درجة B+ لأن لديهم قواعد قوية للشركات وإشراف حكومي، لكن أسلوبهم يختلف قليلاً عن أسلوب الاتحاد الأوروبي.
• الولايات المتحدة: 57. حصلوا على درجة C لأن قواعدهم مشتتة. فهم يعتمدون على قوانين قديمة وإرشادات طوعية، مما يؤدي إلى وجود فجوات في التغطية.

الحل الجديد: إطار عمل "قائم على المخاطر"

تقترح الورقة أنه بدلاً من مجرد الجدال حول من نلوم بعد وقوع حادث، نحتاج إلى نظام يطابق مستوى المخاطر مع مستوى السيطرة.

يقترح المؤلفون إطار عمل للحوكمة القائمة على المخاطر (Risk-Based Governance Framework). تخيل نظام إشارات مرور للذكاء الاصطناعي:

• الضوء الأخضر (مخاطر منخفضة/استقلالية منخفضة): إذا كان الذكاء الاصطناعي يقترح أغنية فقط، فهو يحتاج إلى إشراف ضئيل جداً. القواعد القديمة تعمل بشكل جيد هنا.
• الضوء الأصفر (مخاطر متوسطة): إذا كان الذكاء الاصطناعي يساعد طبيباً أو يدير حساباً بنكياً، فإنه يحتاج إلى المزيد من الفحوصات، مثل مراجعة بشرية لعمله والاحتفاظ بسجل لقراراته.
• الضوء الأحمر (مخاطر عالية/استقلالية عالية): إذا كان الذكاء الاصطناعي يقود سيارة أو يتحكم في شبكة طاقة، فإنه يحتاج إلى فريق أمني كامل. يحتاج إلى إشراف بشري إلزامي، وتدقيق مستمر، واعتماد صارم قبل أن يبدأ العمل.

تقدم الورقة فكرة ذكية تسمى السيطرة الوظيفية (Functional Control). بدلاً من سؤال "من المخطئ؟"، تسأل "من كان يملك القدرة على تغيير النتيجة؟"

• المطور (Developer) (الذي بنى العقل) مسؤول عن التصميم.
• المزود (Provider) (الذي يبيع النظام) مسؤول عن ضمان سلامة استخدامه.
• المشغل (Operator) (الذي يستخدم النظام) مسؤول عن مراقبته أثناء العمل.
• المنظم (Regulator) (الحكومة) مسؤول عن التأكد من أن الجميع يتبع القواعد.

بهذه الطريقة، يتم تقاسم المسؤولية بناءً على من يملك القدرة الفعلية على التأثير في النظام، بدلاً من مجرد الانتظار لوقوع كارثة ثم محاولة إيجاد شخص واحد لإلقاء اللوم عليه.

ما تقوله الورقة (وما لا تقوله)

يشير المؤلفون إلى أن هذا الإطار الجديد هو طريقة أفضل للتعامل مع المستقبل، لكنهم يوضحون بحذر أنه نموذج مفاهيمي، وليس قانوناً نهائياً تم اختباره في كل موقف بعد. كما يعترفون بأن دراستهم نظرت فقط في ثلاث دول، لذا قد تكون هناك طرق أخرى لحل المشكلة لم يروها. ويشيرون أيضاً إلى أن تحديد مقدار "السيطرة" التي يملكها كل شخص في نظام ذكاء اصطناعي معقد قد يكون أمراً صعباً.

ومع ذلك، فإن الرسالة الرئيسية واضحة: الطريقة القديمة المتمثلة في مجرد لوم شخص واحد بعد الخطأ لا تنجح مع الآلات الذكية والمستقلة. نحن بحاجة إلى نظام ينظر إلى مدى خطورة الذكاء الاصطناعي، ومدى قدرته على اتخاذ القرارات بمفرده، ومن يملك القدرة على توجيهه، مما يخلق شبكة أمان تغطي الرحلة بأكملها من الإنشاء إلى الاستخدام. الأمر يتعلق ببناء عالم يمكننا فيه الاستمتاٍع بالأشياء المذهلة التي يمكن للذكاء الاصطناعي القيام بها دون أن نفقد عقولنا حول من سيكون المسؤول عندما تسوء الأمور.