Evidence for Whom? Contestability and Socio-Technical Assurance in High-Risk AI Governance
تجادل هذه الورقة بأن أطر حوكمة الذكاء الاصطناعي عالية المخاطر الحالية (المعهد الوطني للمعايير والتقنية NIST، وقانون الذكاء الاصطناعي للاتحاد الأوروبي، ومعيار ISO/IEC 42001) تخلق فجوة إثباتية حرجة من خلال إعطاء الأولوية للأدلة المتمحورة حول الوثائق والمخرجات على حساب الأدلة القائمة على العمليات اللازمة للمعارضة، وهو خلل هيكلي تسلط عليه الضوء الطبيعة الغامضة المتأصلة في تفسير هذه المتطلبات، مما يقوض في نهاية المطاف الحقوق الإجرائية والمعرفية لأصحاب المصلحة الخاضعين للحوكمة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً يقرر فيه برنامج حاسوبي من يحصل على وظيفة، أو من يحصل على قرض، أو ما إذا كان سيُمنح إطلاق سراح مشروط. هذه الأنظمة ليست مجرد كود برمجي يعمل في فراغ؛ بل هي جزء من منظومة بشرية أكبر تشمل الشركات التي تبنيها، والمنظمات التي تستخدمها، والأشخاص الذين تتغير حياتهم بناءً على مخرجاتها. عندما ترتكب هذه الأنظمة خطأً، يصبح السؤال حول من يتحمل المسؤولية وكيفية إثبات ذلك أمراً ملحاً. هذا هو مجال حوكمة الذكاء الاصطناعي، وهو مجال مخصص لضمان أن تكون هذه الأدوات القوية آمنة وعادلة وخاضعة للمساءلة. وتتمثل الفكرة المركزية في هذا المجال في "قابلية الطعن"، أي قدرة الشخص المتأثر بقرار ما على التشكيك فيه، وفهم سبب حدوثه، والسعي لتصحيحه. ولكي ينجح هذا، يجب أن يكون هناك دليل—إثبات على أن النظام قد تم فحصه، وأنه يعمل كما هو مقصود، وأنه يمكن للإنسان التدخل إذا ساءت الأمور. ولكن يبقى سؤال جوهري: من يحق له رؤية هذا الدليل، وهل هذا الدليل مفيد حقاً للشخص الأكثر احتياجاً إليه؟
لقد شرع فريق من الباحثين من جامعات في الولايات المتحدة والهند في استقصاء هذه المشكلة تحديداً. فقد فحصوا ثلاث مجموعات رئيسية من القواعد والإرشادات التي تحكم الذكاء الاصطناعي عالي المخاطر: إطار عمل تطوعي من الولايات المتحدة، وقانون ملزم من الاتحاد الأوروبي، ومعيار دولي لإدارة أنظمة الذكاء الاصطناعي. كان هدفهم هو إنشاء خريطة تفصيلية، أو "مخطط تقابلي"، يربط بين متطلبات محددة في هذه الوثائق وبين الأساليب التقنية الفعلية المستخدمة لاختبار الذكاء الاصطناعي. أرادوا معرفة ما إذا كان الدليل المطلوب بموجب القواعد هو نوع الدليل الذي يمكن أن يساعد شخصاً فعلياً في الطعن في قرار ما، أم أنه مجرد مجموعة من التقارير التقنية التي لا يستطيع قراءتها سوى الشركات والجهات التنظيمية.
بدأ الباحثون بجمع مجموعة واسعة من أساليب التقييم التقني. فقد حددوا اثنتي عشرة عائلة متميزة من الاختبارات، تتراوح من التحقق من مدى دقة النموذج على بيانات جديدة إلى معرفة ما إذا كان يمكن خداعه بمدخلات ضارة، ومن تحليل جودة البيانات المستخدمة لتدريبه إلى دراسة مدى جودة إشراف البشر على النظام. ثم أخذوا هذه العائلات الاثنتي عشرة وقارنوها باثني وعشرين متطلباً محدداً موجوداً في الوثائق الثلاث الحاكمة. وطرحوا سؤالاً بسيطاً ولكنه عميق لكل زوج منها: هل يوفر هذا الاختبار المحدد الدليل الرئيسي اللازم لاستيفاء هذه القاعدة المحددة؟
وما وجدوه كان خللاً صارخاً. فالقواعد التي طلبت أدلة حول نموذج الذكاء الاصطناعي نفسه—مثل دقته، ومتانته ضد الهجمات، وعدالته من الناحية الإحصائية—كانت مدعومة جيداً. كانت هناك وفرة من الاختبارات التقنية المتاحة لتوليد التقارير اللازمة. ومع ذلك، فإن القواعد التي طلبت أدلة حول كيفية عمل النظام في العالم الحقيقي، بعد نشره، كانت غير مدعومة إلى حد كبير. تعلقت هذه القواعد بأمور مثل ما إذا كان بإمكان مراقب بشري رصد خطأ ما بالفعل، وما إذا كانت سجلات النظام مفصلة بما يكفي لإعادة بناء قرار معين، وما إذا كانت المنظمة قادرة على إثبات مراقبتها لتأثير النظام على حياة الناس. وبالنسبة لهذه الأسئلة الحاسمة، وجد الباحثون أن الأساليب التقنية المتاحة كانت إما مفقودة تماماً أو توفر دعماً ثانوياً ضعيفاً فقط.
كشفت الدراسة أن الدليل الناتج لإثبات أن نظام الذكاء الاصطناعي آمن مصمم في المقام الأول للوسطاء: الشركات التي تبني البرمجيات، والمدققين الذين يفحصونها، والجهات التنظيمية الحكومية التي تطبق القانون. أما الأشخاص الذين يخضعون لهذه القرارات فعلياً—مثل مقدم الطلب للوظيفة الذي رُفض، أو المقترض الذي حُرم من القرض—فليس لديهم مسار مباشر للوصول إلى هذا الدليل. قد يتلقون تفسيراً لما فعله النظام، لكنهم لا يستطيعون الوصول إلى السجلات الأساسية التي ستسمح لهم بالتحقق مما إذا كان ذلك التفسير صحيحاً أو فهم كيفية التوصل إلى ذلك القرار بدقة. ويرى الباحثون أن هذا ليس مجرد فجوة تقنية أو قطعة مفقودة من أحجية؛ بل هو خلل جوهري في منظومة العدالة. فمن خلال حرمان الأشخاص المتأثرين من الوصول إلى الأدلة اللازمة للطعن في قرار ما، تعامل الإطار الحالي معهم كأهداف سلبية بدلاً من مشاركين فاعلين في عملية تحدد مستقبلهم.
وقد حرص الباحثون على ملاحظة أن نتائجهم تستند إلى تحليل محدد للأدبيات التقنية المتاحة ونص القوانين. لم يدّعوا أن الشركات لا تقوم بهذه الفحوصات داخلياً، بل قالوا إن الأساليب التي تثبت فعالية هذه الفحوصات ليست معيارية بعد أو غير متاحة على نطاق واسع بشكل يلبي القواعد. كما سلطوا الضوء على أن عملهم تضمن قدراً من التفسير. فعندما طلبوا من خبراء مستقلين مراجعة مخططهم، اتفق الخبراء على الخطوط العريضة، لكنهم اختلفوا أحياناً في التفاصيل الدقيقة، مما يشير إلى أن القواعد نفسها قابلة لقراءات مختلفة معقولة. ويشير المؤلفون إلى أن هذا الاختلاف هو سمة للمشكلة وليس خطأً فيها: فهو يظهر أن المتطلبات الحالية ليست واضحة بما يكفي لضمان إنتاج النوع الصحيح من الأدلة.
وفي الختام، خلصت الورقة البحثية إلى أن النهج الحالي لحوكمة الذكاء الاصطناعي غير مكتمل. فهو يعتمد بشدة على الأدلة التي يمكن إنتاجها داخل مسار تطوير الشركة، مثل نتائج الاختبارات والوثائق التقنية، بينما يهمل الأدلة التي لا يمكن جمعها إلا من خلال مراقبة كيفية تفاعل النظام مع البشر في العالم الحقيقي. ويقترح المؤلفون أنه لكي يكون الذكاء الاصطناعي خاضعاً للمساءلة حقاً، يجب أن تتطور القواعد لتتطلب أدلة لا تتعلق بالآلة فحسب، بل بالنظام الاجتماعي التقني بأكر. ويتضمن ذلك إثبات أن الإشراف البشري فعال، وأن السجلات كافية لإعادة بناء الأحداث، وأن تأثير النظام على المجتمع يتم مراقبته. وبدون هذه التغييرات، يظل الوعد بمساءلة الذكاء الاصطناعي وعداً موجهاً للأقوياء فقط، تاركاً أولئك الأكثر تأثراً بالتكنولوجيا دون الأدوات اللازمة للدفاع عن أنفسهم.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.