AI Governance - Social Contestability Framework-vFinal
تجادل هذه الورقة بأن حوكمة الذكاء الاصطناعي المشروعة تتطلب تحويل التركيز من وثائق الامتثال الداخلي إلى "القابلية للطعن الاجتماعي" — وهي قدرة الأفراد المتأثرين على فهم القرارات المدفوعة بالذكاء الاصطناعي والاعتراض عليها وتصحيحها — وتقترح خمسة شروط مؤسسية واختبار دورة حياة لتشغيل هذا الإطار عبر أدوات الحوكمة الرئيسية وحالات الاستخدام في العالم الحقيقي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً يقرر فيه برنامج حاسوبي ما إذا كنت ستحصل على وظيفة، أو قرض، أو علاج طبي. في السنوات الأخيرة، قامت الحكومات والشركات ببناء نظام واسع من القواعد لضمان تصرف هذه البرامج بشكل جيد. لقد وضعوا قوائم مراجعة، وكتبوا تقارير، وأجروا عمليات تدقيق لإثبات أن برمجياتهم آمنة وعادلة. هذه القواعد مهمة، لكنها غالباً ما تركز على ما تفعله الشركة داخل مكاتبها الخاصة؛ فهي تتحقق مما إذا كانت الأوراق مكتملة، لكنها نادراً ما تسأل عما إذا كان الشخص الموجود في الطرف المتلقي قادراً بالفعل على التحدث عندما يسوء الأمر. هذه الفجوة هي جوهر دراسة جديدة أجراها شيراز أسلم، الباحثة في بنك "سان فرانسيسكو السعودي"، والتي تجادل بأن وجود كتاب قواعد ليس كافياً إذا لم يكن بإمكان الأشخاص المتأثرين بالقرار الاعتراض عليه.
الفكرة الجوهرية التي تستكشفها الورقة تسمى "القابلية للاحتجاج الاجتماعي" (social contestability). وببساط، يعني هذا أنه إذا اتخذ حاسوب قراراً يغير حياتك، فيجب أن يكون لديك وسيلة حقيقية لمعرفة ما حدث، وفهم سبب حدوثه، ومطالبة إنسان يمتلك سلطة فعلية بإصلاحه إذا كان خاطئاً. لا يكفي أن تقول الشركة: "لدينا عنصر بشري في الحلقة"، إذا كان هذا الإنسان مجرد ختم مطاطي لا يستطيع قول "لا". تشير الدراسة إلى أن العدالة الحقيقية تتطلب خط اتصال مباشر بين الشخص المتضرر والمؤسسة التي يمكنها عكس القرار. وبدون ذلك، يمكن للشركة أن تكون ممتثلة تماماً لجميع القوانين ومع ذلك تترك الشخص دون أي وسيلة للإنصاف.
ولمعرفة كيفية بناء شبكة الأمان هذه، نظرت الباحثة في أربع مجموعات رئيسية من القواعد المستخدمة حول العالم اليوم: قانون الذكاء الاصطناعي التابع للاتحاد الأوروبي، ودليل إدارة المخاطر من المعهد الوطني للمعايير والتقنية في الولايات المتحدة، ومبادئ منظمة التعاون الاقتصادي والتنمية، ومخطط حكومي أمريكي لـ "وثيقة حقوق الذكاء الاصطنا{ال}". قارنت الدراسة هذه الوثائق لترى ما تسمح به فعلياً للشخص العادي. ووجد التحليل مشكلة متكررة: هذه الأطر ممتازة في إخبار الشركات بكيفية إدارة مخاطرها الخاصة، لكنها غالباً ما تكون صامتة بشأن كيفية قيام الشخص بمواجهة نتيجة سيئة. قد تمتلك الشركة مسار تدقيق مثالياً يظهر أنها فحصت عملها، ومع ذلك يظل الشخص الذي رُفض طلبه للحصول على قرض دون مسار واضح للوصول إلى إنسان مخول يمكنه تغيير رأيه.
ثم فحصت الباحثة خمسة أمثلة من الواقع حيث تسببت الأنظمة الآلية في ضرر لترى بالضبط أين تعطل النظام. تضمن أحد الأمثلة أداة توظيف رفضت المتقدمات من الإناث لأنها تعلمت من بيانات سابقة منحازة. وتضمن مثال آخر خوارزمية صحية مارست التمييز ضد المرضى السود لأنها استخدمت التكاليف الطبية كاختصار للحاجة الطبية. وكان هناك نظام درجات في المملكة المتحدة تجاوز أحكام المعلمين باستخدام صيغة إحصائية، ونظام ديون حكومي في أستراليا أجبر المواطنين على إثبات براءتهم من أخطاء لم يرتكبوها. في كل حالة، كانت المؤسسة تمتلك قواعد ووثائق، لكن الأشخاص المتأثرين لم يتمكنوا من مساءلة القرار بفعالية. وجدت الدراسة أنه في كل فشل، افتقر النظام إلى مجموعة محددة من الشروط التي كانت ستسمح للشخص بالاعتراض على النتيجة.
ومن هذه الإخفاقات، تقترح الورقة خمسة شروط محددة يجب توافرها ليكون النظام قابلاً للاحتجاج حقاً. أولاً، يجب أن تكون القواعد أكثر صرامة للقرارات التي تسبب ضرراً أكبر؛ فخطأ بسيط في "روبوت الدردشة" يحتاج حماية أقل من قرار بحرمان شخص من الرعاية الصحية. ثانياً، يجب أن يمتلك البشر الذين يراجعون هذه القرارات السلطة والوقت والمعلومات اللازمة لقول "لا" للحاسوب. ثالثاً، يجب على الشركة شرح القرار بلغة بسيطة تخبر الشخص بالضبط بما يجب فعله إذا اختلف مع القرار. رابعاً، يجب أن يكون من الواضح من المسؤول عن الخطأ، حتى لا يتم ترحيل الشخص بين الإدارات المختلفة. وأخيراً، يجب فحص النظام لضمان عدم وقوع عبء إصلاح الأخطاء بشكل غير عادل على الفئات الضعيفة.
تقدم الدراسة اختباراً عملياً يمكن للمنظمات استخدامه في كل مرحلة من مراحل المشروع، من الفكرة الأولية إلى المنتج النهائي. يطرح هذا الاختبار أسئلة محددة مثل: "هل لدينا خطة للسماح للناس بالاستئناف؟" و"هل يمتلك المراجعون لدينا السلطة لتجاوز النظام؟". وعندما طبقت الباحثة هذا الاختبار على فضيحة الديون الأسترالية، كشف الاختبار أن الحكومة، رغم اتباعها للعديد من القواعد الداخلية، قد فشلت في اختبار القابلية للاحتجاج في كل خطوة تقريباً. لم يختبروا ما إذا كان الناس يستطيعون فهم الإخطارات، ولم يمنحوا البشر القدرة على إيقاف إخطارات الديون قبل إرسالها، ولم يحددوا مسؤولية واضحة عندما بدأ النظام في الفشل. أظهر الاختبار أن المشكلة لم تكن نقصاً في القواعد، بل نقصاً في وجود صلة عاملة بين الشخص والسلطة التي يمكنها حل المشكلة.
تخلص الورقة إلى أن الهدف من حوكمة الذكاء الاصطناعي لا ينبغي أن يقتصر فقط على إثبات أن النظام آمن على الورق، بل في الحفاظ على قدرة الإنسان على قول "لا". وتجادل بأننا يجب أن ننقل تركيزنا من وثائق الشركة الداخلية إلى العلاقة بين المؤسسة والمواطن. إذا لم يكن بالإمكان تحدي النظام، أو تصحيحه، أو إيقافه من قبل الأشخاص المتأثرين به، فإنه ليس محكوماً حقاً، بغض النظر عن عدد قوائم المراجعة التي ملأتها الشركة. لا تدعي الدراسة أنها حلت كل مشكلة في الذكاء الاصطناعي، لكنها تقدم طريقة عملية وواضحة للتحقق مما إذا كان الأشخاص على الطرف الآخر من الشاشة يمتلكون صوتاً. وهي تشير إلى أن المقياس الحقيقي للنظام العادل ليس ما إذا كان يتبع القواعد، بل ما إذا كان يسمح لأولئك الذين يتأثرون به بمحاسبته.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.