Counterfactual Explanations and the Scope of Contestability
تجادل هذه الورقة بأن التفسيرات القائمة على الافتراضات المضادة يمكن أن تستعيد القدرة على الفعل في عملية اتخاذ القرار المؤتمتة من خلال تعريف القابلية للاعتراض بوصفها الحق في المطالبة بإلغاء القرار، وتحليل كيفية مساعدة هذه التفسيرات في الكشف عن الأخطاء الخوارزمية، واقتراح نهج استعلام متعدد الجولات لتعزيز فعاليتها.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العالم الحديث، تتخذ الحواسيب بشكل متزايد القرارات الثقيلة التي تشكل حياتنا. فهي تقرر من يحصل على قرض، ومن يتم توظيفه في وظيفة، ومن يتلقى الرعاية الطبية. وغالباً ما تعمل هذه الأنظمة كـ "صنادي_وق سوداء"، مما يعني أن منطقها الداخلي معقد للغاية لدرجة أن حتى الأشخاص الذين بنوها لا يمكنهم بسهولة شرح كيفية اتخاذ قرار معين. وتخلق هذه الضبابية مشكلة في القدرة البشرية على الفعل (agency)؛ فإذا لم نفهم سبب اتخاذ القرار، فلن نتمكن من تحديه بفعالية إذا اعتقدنا أنه خاطئ. ولحل هذه المشكلة، اقترح العديد من الخبراء "حق التفسير"، مشيرين إلى أنه عندما يرفضنا نظام خوارزمي، يجب أن يخبرنا بالسبب. ومن الطرق الشائعة لتقديم هذه التفسيرات هي "التفسير المقابل للواقع" (counterfactual). وهذا عبارة عن بيان افتراضي بسيط يخبر الشخص ما هو التغيير الصغير الذي كان سيؤدي إلى نتيجة مختلفة، مثل: "لو كان دخلك أعلى بخمسة آلاف دولار، لتمت الموافقة على قرضك". وبينما يبدو هذا مفيداً، فإن ورقة بحثية جديدة من قبل الفيلسوفين وعلماء الحاسوب أليس سي دبليو هوانغ وتوماس غروت تطرح سؤالاً نقدياً: هل يمنح هذا النوع من التفسيرات الناس حقاً القدرة على محاربة القرارات المؤتمتة غير العادلة؟
يبدأ المؤلفان بتحديد ما يعنيه بالضبط الاعتراض على قرار ما. فهما يميزان بين ثلاثة أهداف مختلفة قد تخدمها التفسيرات. الأول هو "التبرير" (justification)، ويتعلق بإثبات أن نظام الحاسوب ككل موثوق وعادل للجميع. والثاني هو "الاسترداد" (recourse)، وهو تطلع للمستقبل؛ حيث يخبر الشخص بالخطوات التي يمكنه اتخاذها في المستقبل للحصول على نتيجة أفضل، مثل اكتساب المزيد من الخبرة العملية لتحسين السيرة الذاتية. أما الثالث، وهو محور هذه الورقة، فهو "القابلية للاعتراض" (contestability). وهذا توجه ينظر إلى الماضي؛ وهو قدرة الشخص على النظر إلى قرار حدث بالفعل، وإيجاد خطأ فيه، والمطالبة بإلغائه. ويعرف الباحثون القابلية للاعتراض بشكل ضيق: فهي تتطلب توفير معلومات كافية تمكن الشخص من إثبات أن قراراً معيناً كان على الأرجح خطأً، مما يمنحه أساساً قوياً للمطالبة بالمراجعة.
وعندما اختبر المؤلفان ما إذا كانت التفسيرات المقابلة للواقع جيدة في تمكين هذا النوع من القابلية للاعتراض، كانت النتائج متشائمة بشكل مفاجئ. فقد فحصوا عدة طرق شائعة لخطأ القرارات المؤتمتة. ففي حالات التمييز، قد يظهر التفسير المقابل للواقع أن الشخص كان سيتم توظيفه لو كان من عرق أو جنس مختلف. وبينما يبدو هذا دليلاً قوما، وجد الباحثون عقبة رئيسية تسمى "مشكلة راشومون" (Rashomon problem). وهي الفكرة التي تقول إنه نادراً ما يوجد سبب واحد وحيد للقرار. فقد يقول الحاسوب إن القرض رُفض بسبب انخفاض الدخل، ولكن قد يكون صحيحاً أيضاً أنه كان سيتم الموافقة على القرض لو كان لدى المتقدم تاريخ وظيفي مختلف. ولأن هناك طرقاً عديدة لتغيير المدخلات للحصول على نتيجة مختلفة، يمكن لنظام الحاسوب ببساطة اختيار التفسير الأقل ضرراً للمؤسسة، متجاهلاً التفسير الذي يثبت وجود تمييز. وبدون وسيلة لإجبار النظام على إظهار جميع الأسباب الممكنة، قد لا يرى الشخص أبداً التفسير المقابل للواقع المحدد الذي يثبت أنه عومل بشكل غير عادل.
وتزداد المشكلة سوءاً عندما لا يتعلق الخطأ بالعدالة، بل بسوء فهم الحاسوب لحالة شخص معين. تخيل نموذجاً صحياً يتوقع أن الشخص معرض لخطر التعب لأنه نباتي، بافتراض أن النظام الغذائي يفتقر إلى الحديد. إذا كان هذا الشخص في الواقع يعاني من حالة طبية نادرة تسبب زيادة في الحديد، فإن منطق النموذج سيكون خاطئاً بالنسبة له، حتى لو كان صحيحاً لمعظم الناس. قد يقول التفسير المقابل للواقع ببساطة: "لو لم تكن نباتياً، لما كنت معرضاً للخطر". وهذا لا يساعد الشخص على إثبات أنه استثناء للقاعدة؛ بل يكرر فقط الافتراض الخاطئ للنموذج. وللاعتراض على ذلك، سيحتاج الشخص إلى معرفة طبية عميقة ليشرح لماذا لا ينطبق التعميم الخاص بالنموذج على بيولوجيته الخاصة. وبالمثل، إذا كان القرار خاطئاً بسبب خطأ كتابي بسيط، مثل امتلاك البنك رقماً خاطئاً لديون شخص ما، فإن التفسير المقابل للواقع غالباً ما يكون بلا فائدة. قد يقول النظام: "لو كان دينك أقل، لتمت الموافقة عليك"، وهو أمر صحيح ولكنه بديهي. إنه لا يخبر الشخص أن سجلات البنك خاطئة ببساطة، وهو السبب الفعلي الذي يحتاج إلى إصلاحه.
خلص الباحثون إلى أنه بينما تعد التفسيرات المقابلة للواقع ممتازة لمساعدة الناس على التخطيط للمستقبل، إلا أنها غالباً ما تكون ضعيفة جداً لمساعدتهم في محاربة أخطاء الماضي. فالمعلومات اللازمة لإثبات الخطأ غالباً ما تكون معقدة للغاية، أو محددة جداً للفرد، أو من السهل إخفاؤها من خلال قدرة النظام على اختيار التفسير الذي يظهر. ولحل هذه المشكلة، لا يقترح المؤلفون التخلي عن فكرة التفسيرات، بل تغيير طريقة تقديمها. فهم يقترحون نهج "الطلبات المتعددة" (multi-shot). فبدلاً من إعطاء الشخص إجابة واحدة جاهزة، يسمح النظام للشخص بطرح أسئلة متعددة على الحاسوب. يمكن للشخص اختبار أفكار مختلفة، مثل: "ماذا لو كان لدي خبرة أكثر؟" أو "ماذا لو كنت أعي في حي آخر؟". وهذا يحول المستخدم من متلقٍ سلبي للمعلومات إلى محقق نشط.
ومع ذلك، يحذر المؤلفون من أن هذا وحده ليس كافياً. فمعظم الناس لا يعرفون الأسئلة التي يجب طرحها أو كيفية تفسير الإجابات، خاصة عندما يفتقرون إلى المعرفة المتخصصة. ولحل ذلك، يقترحون أن يتم دعم الناس من قبل موظفي الحالات (case workers)؛ وهم خبراء يفهمون التفاصيل القانونية والتقنية للنظام. يمكن لهؤلاء المساعدين توجيه الأفراد بشأن الأسئلة التي يجب طرحها وكيفية استخدام الإجابات لبناء قضية. وتجادل الورقة بأنه بدون هذا النوع من الدعم البشري والقدرة على طرح أسئلة متعددة، فإن الوعد بالقدرة على الاعتراض على قرار خوارزمي يظل وعداً فارغاً. إن التكنولوجيا اللازمة لتوليد هذه التفسيرات موجودة، لكن الطريقة الحالية لاستخدامها غير كافية لاستعادة القدرة الحقيقية على الفعل للأشخاص المتأثرين بالقرارات المؤتمتة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.