Confronting Label Indeterminacy in Automated Bail Decisions
تتقصى هذه الورقة التحدي الحرج المتمثل في عدم تعين الملصقات (label indeterminacy) في قرارات الكفالة المؤتمتة —حيث تظل النتائج المقابلة للواقع (counterfactual outcomes) للمدعى عليهم الذين رُفضت طلباتهم غير مرصودة— وذلك من خلال تقييم خمس طرق للتعامل مع هذا القصور في البيانات في دراسات حالة من ولاية بنسلفانيا، وإثبات أن النهج المختار لمعالجة عدم تعين الملصقات يؤثر على سلوك النموذج وعملية اتخاذ القرار الداخلي فيه بشكل أكبر من بنية النموذج نفسه، مع تقييم المشروعية القانونية لهذه الافتراضات غير القابلة للتحقق.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم كمبيوتر التنبؤ بما إذا كان الشخص سيحضر موعد جلسة المحكمة الخاصة به. تريد بناء "مساعد كفالة ذكي" يساعد القضاة في اتخاذ القرار بشأن من يمكنه العودة إلى منزله ومن يجب أن يبقى في السجن.
لتعليم هذا الكمبيوتر، أنت بحاجة إلى كتاب تاريخ للحالات السابقة. ولكن المشكلة هي: كتاب التاريخ به صفحات مفقودة.
مشكلة الصفحة المفقودة (عدم تحديد الملصقات/التصنيفات)
في العالم الحقيقي، إذا قال القاضي: "يجب أن تبقى في السجن حتى موعد محاكمتك"، فإن هذا الشخص سوف يحضر للمحكمة. لماذا؟ لأنه محبوس. ليس لديه خيار.
ولكن إذا قال القاضي: "يمكنك الذهال إلى المنزل"، وحضر الشخص، فهذا كان خياراً. وإذا لم يحضر، فذلك أيضاً خيار.
تشير الورقة البحثية إلى وجود فجوة معرفية هائلة: نحن لا نعرف ماذا كان سيحدث لو تم إطلاق سراح الشخص الموجود في السجن.
هل حضر الشخص في السجن لأنه مواطن مسؤول؟
أم أنه حضر فقط لأنه أُجبر على ذلك؟
إذا قمت بتغذية هذه البيانات في كمبيوتر، فأنت تعطيه "ملصقات غير محددة". إنه يشبه محاولة تعليم طالب التنبؤ بالطقس من خلال النظر فقط إلى الأيام التي أمطرت بسبب قيام شخص ما بتشغيل رشاشات المياه. سيصاب الكمبيوتر بالارتباك بين ما هو طبيعي وما هو مفروض.
خمس طرق لتخمين الصفحات المفقودة
بما أن البيانات مفقودة، فقد جرب الباحثون خمس طرق مختلفة لـ "ملء الفراغات" (تعويض الملصقات) لمعرفة كيف يغير ذلك "عقل" الكمبيوتر. استخدموا مجموعة بيانات تضم أكثر من 90,000 حالة من ولاية بنسلفانيا.
إليك "استراتيجيات التخمين" الخمس التي اختبروها، مشروحة بتشبيهات بسيطة:
طريقة "خذه كما هو" (الملصقات الصحيحة):
- المنطق: "إذا حضر الشخص، فقد حضر. لا يهم إذا كان في السجن أم لا."
- العيب: يفترض هذا أن الحبس هو نفسه السلوك المسؤول لشخص كان سيحضر في كل الأحوال. إنه يعامل الامتثال القسري كأنه سلوك طوعي جيد.
طريقة "المذنب حتى تثبت براءته" (الاحتجاز كفشل):
- المنطق: "إذا وضع القاضي الشخص في السجن، فلا بد أن القاضي اعتقد أنه يشكل خطراً. لذا، دعونا نتظاهر بأنه كان سيهرب لو تركناه ذاهباً."
- العيب: يفترض هذا أن القاضي كان دائماً على حق بشأن درجة الخطورة. هذا يخلق "نبوءة تحقق ذاتها" حيث يتعلم الكمبيوتر أن "الأشخاص الذين يُسجنون هم سيئون"، مما يعزز فكرة أن السجن هو الخيار الآمن الوحيد.
طريقة "انظر فقط إلى السهلين" (الملاحظ فقط):
- المنطق: "لنقم برمي جميع الحالات التي سُجن فيها الناس. سنعلم الكمبيوتر فقط من خلال الأشخاص الذين أُطلق سراحهم."
- العيب: هذا يشبه معلماً يصحح فقط اختبارات الطلاب الذين نجحوا ويتجاهل أولئك الذين رسبوا. إنه يتجاهل حقيقة أن القضايا قد يسجنون الأشخاص "الخطرين" في المقام الأول، لذا لن يتعلم الكمبيوتر أبماذا يبدو شكل هؤلاء الأشخاص.
طريقة "السحر الإحصائي" (الملاحظ + الاحتمالية المسبقة):
- المنطق: "سننظر إلى الأشخاص الذين أُطلق سراحهم، لكننا سنعطي وزناً إضافياً لأولئك الذين يشبهون المسجونين، آملين في إصلاح البيانات المفقودة رياضياً."
- العيب: يعتمد على معادلة رياضية معقدة تفترض أننا نعرف كل شيء عن سبب اتخاذ القضاة لقراراتهم. إذا فات التعبير عن تفصيل صغير في المعادلة، فإن التخمين بأكمله سيكون خاطئاً.
طريقة "ابحث عن توأم" (الجار الأقرب):
- المنطق: "إذا كان الرجل في السجن يشبه تماماً رجلاً أُطلق سراحه، فلنفترض أن الرجل في السجن كان سيتصرف مثل الرجل الذي أُطلق سراحه."
- العيب: يفترض هذا أنه يمكنك قياس "التشابه" بين شخصين بشكل مثالي، وهو أمر صعب للغاية.
ماذا حدث عندما اختبروا هذه الطرق؟
قام الباحثون بتشغيل هذه الاستراتيجيات الخمس عبر ثلاثة نماذج كمبيوتر مختلفة (الانحدار اللوجستي، الغابة العشوائية، وXGBoost).
- الاستراتيجية أهم من "الدماغ": كانت النتيجة الأكثر إثارة للدهشة هي أن كيفية ملء الفراغات المفقودة كانت أهم من نوع نموذج الكمبيوتر المستخدم. تغيير "استراتيجية التخمين" غير توقعات الكمبيوتر أكثر مما فعل تغيير خوارزمية الكمبيوتر نفسها.
- "دماغ" الكمبيوتر تغير: باستخدام أداة تسمى "الذكاء الاصطناعي القابل للتفسير"، نظروا داخل عملية اتخاذ القرار في الكمبيوتر. وجدوا أن استراتيجيات التخمين المختلفة جعلت الكمبيوتر يركز على أدلة مختلفة. على سبيل المثال، قد تجعل إحدى الاستراتيجيات الكمبيوتر يهتم بشكل أساسوا بنوع المحامي الذي يمثله المتهم، بينما تجعل استراتيجية أخرى يهتم بالجريمة نفسها.
- النتائج كانت متضاربة تماماً: اعتماداً على الطريقة المستخدمة، يمكن للكمبيوتر أن يتوقع أن شخصاً معيناً لديه احتمال 10% للهرب، أو 90% للهرب.
التحول القانوني والأخلاقي
تجادل الورقة البحثية بأن هذه ليست مجرد مشكلة رياضية؛ إنها مشكلة فلسفية.
في كل مرة يختار فيها المطور أحد هذه الطرق الخمس، فإنه يتخذ قراراً أخلاقياً مستتراً:
- إذا اخترت طريقة "خذه كما هو"، فأنت تقول ضمنياً: "السجن وسيلة جيدة لضمان حضور الناس"، مما قد يشجع القضاة على سجن المزيد من الناس.
- إذا اخترت طريقة "المذنب حتى تثبت براءته"، فأنت تقول ضمنياً: "إذا سجن القاضي شخصاً ما، فمن المرجح أنه يمثل خطراً"، مما قد يجعل الكمبيوتر منحازاً ضد مجموعات معينة.
تخلص الورقة إلى أنه لا توجد طريقة "مثالية" لإصلاح هذه البيانات المفقودة. كل طريقة تعتمد على افتراض لا يمكننا إثباته. لذلك، فإن بناء أنظمة الكفالة هذه يتطلب منا الاعتراف بأننا نقوم بالتخمين، وأن تلك التخمينات تحمل ثقلاً قانونياً وأخلاقياً كبيراً. لا يمكننا ببساطة أن نقول "الكمبيوتر قرر"، لأن الكمبيوتر يقرر فقط بناءً على كيفية إخبارنا له بكيفية التعامل مع القطع المفقودة من اللغز.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.