Does Human Oversight of AI-Assisted Decisions Work? A Systematic Review of the Evidence and a Framework for Meaningful Human Control

في العالم الحديث، أصبحت الخوارزميات شركاء صامتين في بعض أكثر قراراتنا حسمًا. فهي تساعد في تحديد من يحصل على قرض، وأي المرضى يتلقون رعاية عاجلة، وكيفية تخصيص موارد الشرطة. ولأن هذه الأنظمة قد ترتكب أخطاءً أو تخفي منطقها، تفرض القوانين والسياسات في أماكن كثيرة الآن ضمانة بسيطة: أن ينظر إنسان فوق كتف الآلة. هذا المفهوم، المعروف باسم الإشراف البشري، يفترض أنه إذا راجع شخص ما توصية مؤتمتة، فبإمكانه كشف الأخطاء، وتصحيح الانحيازات، وضمان عدالة القرار النهائي. الفكرة هي أن المراجع البشري يعمل كفحص نهائي، وطبقة حماية ضرورية بين المنطق البارد للبرمجيات والواقع المعقد للحياة البشرية.

ومع ذلك، يظل هناك سؤال جوهي بلا إجابة: هل ينجح هذا الإشراف حقًا؟ إن وجود إنسان لا يضمن فهمه للآلة، أو امتلاكه القدرة على إيقافها، أو توفر الوقت الكافي لديه للقيام بعمل جيد. تسعى مراجعة منهجية جديدة أجراها الباحث "عابد إقبال" وزملاؤه إلى معرفة ما إذا كان الوعد بالإشراف البشري يطابق الواقع. فقد جمعوا وحللوا 186 دراسة علمية لمعرفة ما إذا كان هناك دليل حقيقي على أن وضع إنسان في الحلقة يحسن القرارات، أم أننا نقوم مجرد استيفاء لمتطلبات شكلية لإرضاء قاعدة ما.

بدأ الباحثون بالنظر في كيفية حديث العلماء وصناع السياسات عن حوكمة الذكاء الاصطناعي. ووجدوا أن المحادثة تهيمن عليها فكرتان كبيرتان: المساءلة، والتي تعني التأكد من وجود شخص مسؤول عن النتيجة، والشفافية، والتي تعني وضوح منطق النظام. تظهر هذه المفاهيم في كل دراسة تقريبًا. كما أن فكرة السيطرة البشرية شائعة أيضًا، حيث ظهرت في حوالي 70 بالمائة من الأبحاث. ومع ذلك، عندما نظر الفريق عن كثب في كيفية اختبار هذه الأفكار، وجدوا فجوة مقلقة؛ فبينما تمتلئ الأدبيات بالنظريات وقوائم التحقق، فإنها تكاد تخلو من الأدلة.

من بين 186 دراسة تم فحصها، صُممت ثلاث درسات فقط بطريقة يمكنها إثبات علاقة السبب والنتيجة. وهذا يعني أنه بالنسبة للغالبية العظمى من الأبحاث، نحن نعرف فقط أن قواعد معينة من الحوكمة توجد جنبًا إلى جنب مع نتائج معينة، لكننا لا نعرف ما إذا كانت تلك القواعد قد تسببت بالفعل في تلك النتائج. والأمر الأكثر إثارة للدهشة هو أن الدراستين اللتين قدمتا أدلة سببية قوية لم تقيسوا ما إذا كانت القرارات نفسها أفضل أو أكثر دقة، بل قاسوا مدى شعور الأشخاص المعنيين بشرعية تلك القرارات. بعبارة أخرى، أقوى دليل لدينا يظهر أن الناس يشعرون براحة أكبر تجاه الإشراف البشري، لكنه لا يظهر أن القرارات قد تحسنت فعليًا.

كما سلطت المراجعة الضوء على أن الطريقة التي يقيس بها الباحثون "السيطرة البشرية" مجزأة وغير متسقة. فغالبًا ما تكتفي دراسة ما بعد عدد المرات التي كان فيها إنسان حاضرًا، دون التحقق مما إذا كان هذا الشخص يفهم البيانات حقًا، أو يملك السلطة لتغيير النتيجة، أو أُعطي الوقت الكافي للتفكير. ويرى المؤلفون أنه لكي يكون الإشراف ذا معنى، يجب أن يكون أكثر من مجرد توقيع على نموذج. فهو يتطلب مجموعة محددة من الشروط: يجب أن يفهم صانع القرار المعلومات، وأن يمتلك السلطة الحقيقية لتجاوز قرار الآلة، وأن يمتلك المهارات اللازمة لذلك، وأن يكون قادرًا على الاعتراض على القرار إذا ساءت الأمور. وبدون هذه العناصر، يصبح المراجع البشري مجرد شخص صوري، غير قادر على منع خوارزمية معيبة من التسبب في الضرر.

ولمعالجة هذه الفجوات، اقترح الباحثون إطار عمل جديدًا يفكك السيطرة البشرية ذات المعنى إلى ثمانية أجزاء واضحة. يربط هذا الإطار القواعد التي تضعها المؤسسة بالتجربة الفعلية للشخص الذي يتخذ القرار. ويقترح أنه لكي ينجح الإشراف، يجب على المؤسسة توفير المعلومات المناسبة، ومنح سلطة حقيقية، وضمان امتلاك الشخص للتدريب والموارد اللازمة للعمل. كما وضع المؤلفون أجندة بحثية لاختبار هذه الأفكار، داعين إلى إجراء تجارب تبحث تحديدًا فيما إذا كان بإمكان البشر تجاوز التوصيات السيئة بنجاح، وما إذا كان ذلك يؤدي إلى نتائج أفضل.

الخلاصة النهائية لهذه المراجعة المستفيضة هي أنه بينما يمثل الإشراف البشري شبكة الأمان الافتراضية للذكاء الاصطناعي، فإننا لا نعرف بعد ما إذا كانت شبكة قوية. فالأدلة الحالية تعتمد إلى حد كبير على الافتراضات والارتباطات بدلاً من الأدلة القاطعة. إن وجود مراجع بشري هو فرضية بأن القرارات ستكون أفضل، وليس ضمانًا لذلك. وحتى نتمكن من قياس كيفية تفاعل البشر مع هذه الأنظمة بدقة وما إذا كان تدخلهم يغير النتيجة، يظل شرط الإشراف البشري سياسة حسنة النية تنتظر أن يلحق بها الدليل. ويتطلب المسار إلى الأمام الانتقال من مجرد قوائم التحقق البسيطة إلى فهم أعمق لما يتطلبه حقًا تمكين الإنسان من السيطرة ذات المعنى على الآلات التي تشكل حياتنا.