Why Aggregate Accuracy is Inadequate for Evaluating Fairness in Law Enforcement Facial Recognition Systems
تجادل هذه الورقة بأن الدقة الإجمالية هي مقياس غير كافٍ لتقييم أنظمة التعرف على الوجوه المستخدمة في إنفاذ القانون لأنها تحجب التفاوتات الديموغرافية الحرجة في معدلات الخطأ، مما يستلزم التحول نحو أطر تقييم تراعي العدالة على مستوى المجموعات الفرعية لمنع الضرر المجتمعي غير المتناسب.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك قبطان سفينة، ولديك نظام رادار جديد عالي التقنية لمساعدتك في رصد السفن الأخرى وسط الضباب. يخبرك المصنع: "هذا الرادار دقيق بنسبة 90%!". يبدو هذا مذهلاً، أليس كذلك؟ تشعر بالأمان.
لكن هنا تكمن الخدعة: المصنع لم يخبرك عمن يخطئ هذا الرادار.
هذه الورقة البحثية، التي كتبها خالد عدنان السيد، تجادل بأنه في عالم إنفاذ القانون، فإن استخدام "درجة دقة" واحدة للحكم على برمجيات التعرف على الوجه يشبه الحكم على نظام الرادار هذا من خلال معدل نجاحه الإجمالي فقط. إنها لعبة خطيرة لأنها تخفي سراً مرعباً: قد يعمل النظام بشكل مثالي لبعض الناس، لكنه يفشل فشلاً ذريعاً للآخرين.
إليك تفصيل للنقاط الرئيسية للورقة باستخدام تشبيهات بسيطة:
1. فخ "المتوسط"
التشبيه: تخيل فصلاً دراسياً حيث يسأل المعلم: "كيف كان أداء الفصل في الاختبار؟". يقول المعلم: "كان متوسط الدرجات 85%!". يبدو هذا رائعاً. ولكن ماذا لو حصل أفضل 50% من الطلاب على 100%، بينما حصل الـ 50% الآخرون على 0%؟ "المتوسط" يخفي حقيقة أن نصف الفصل قد رسب تماماً.
الواقع: غالباً ما تمتلك أنظمة التعرف على الوجه "دقة إجمالية" عالية (مثل ذلك المتوسط البالغ 85%). ولكن عند النظر عن كثب، قد يكون النظام دقيقاً بنسبة 99% للرجال ذوي البشرة الفاتحة، ولكنه دقيق بنسبة 60% فقط للنساء ذوات البشرة الداكنة. الدرجة الإجمالية العالية تجعل النظام يبدو عادلاً وموثوقاً، لكنها في الواقع تخفي فجوة هائلة في الأداء.
2. نوعان من الأخطاء (الإيجابيات الكاذبة مقابل السلبيات الكاذبة)
في إنفاذ القانون، لا يعد الخطأ في الأرقام مجرد خطأ رياضي؛ بل هو أمر يغير حياة الناس. تسلط الورقة الضوء على طريقتين محددتين يمكن أن يفشل بهما النظام، ولماذا لا يخبرنا "المتوسط" عن المجموعة التي تعاني:
- الإيجابية الكاذبة (إنذار "الشخص الخطأ"): ينظر النظام إلى شخص بريء ويقول: "هذا هو المجرم!".
- التشبيه: يشبه الأمر جهاز كشف الدخان الذي يعمل عندما تقوم فقط بتحميص قطعة من الخبز. إذا تكرر هذا كثيراً مع مجموعة معينة من الناس، فسيتم إيقافهم، أو استجوابهم، أو حتى اعتقالهم لجرائم لم يرتكبوها.
- السلبية الكاذبة (المجرم "المفقود"): ينظر النظام إلى مجرم حقيقي ويقول: "لا أعرف من هذا".
- التشبيه: يشبه الأمر حارس أمن يفوّت مرور لص من أمامه. إذا حدث هذا كثيراً مع مجموعة معينة، فقد يفلت هؤلاء المجرمون من العقاب، أو تتعثر التحقيقات.
المشكلة: إذا نظرت فقط إلى "الدقة الإجمالية"، فلن تتمكن من رؤية أن المجموعة (أ) تتعرض للاتهام ظلماً (إيجابيات كاذبة)، بينما يتم تجاهل المجموعة (ب) تماماً (سلبيات كاذبة).
3. مشكلة "الصندوق الأسود"
التشبيه: تخيل أنك اشتريت سيارة من شركة غامضة. يقولون لك: "إنها أسرع سيارة في العالم!". لكنهم لا يسمحون لك بفتح غطاء المحرك لرؤية المحرك، ولن يخبروك كيف تعمل المكابح. عليك فقط أن تثق بهم.
الواقع: تشتري العديد من أقسام الشرطة برامج التعرف على الوجه من شركات خاصة. تعامل هذه الشركات الكود الخاص بها كـ "سر تجاري" (صندوق أسود). ولأن الشرطة لا تستطيع رؤية ما بداخل الكود للتحقق من وجود تحيز، فإنهم يعتمدون على رقم "الدقة" البسيط الذي تقدمه لهم الشركة. تجادل هذه الورقة بأننا بحاجة إلى طريقة لـ "تدقيق" هذه السيارات من الخارج—أي التحقق من كيفية قيادتها في الحياة الواقعية دون الحاجة لرؤية المحرك.
4. الخيار الصعب: العدالة مقابل المثالية
التشبيه: تخيل أنك تخبز كعكة لحفلة كبيرة. تريد أن تكون الكعكة مثالية للجميع. لكنك تدرك أن الوصفة تعمل بشكل رائع للأشخاص الذين يحبون الشوكولاتة، لكنها جافة جداً للأشخاص الذين يحبون الفانيليا.
- الخيار (أ): اترك الوصفة كما هي تماماً. سيحصل محبو الشوكولاتة على كعكة مثالية، لكن محبي الفانيليا سيحصلون على كعكة جافة وسيئة. درجة "متوسط" المذاق ستكون عالية.
- الخيار (ب): غير الوصفة لتكون "جيدة بما يكفي" للجميع. لن تكون كعكة الشوكولاتة مثالية تماماً كما كانت، ولكن الآن يمكن لمحبي الفانيليا الاستمتاع بها أيضاً. قد ينخفض متوسط درجة المذاق قليلاً، لكن الجميع سيكونون أكثر سعادة.
الواقع: تقر الورقة بأن جعل النظام أكثر عدلاً قد يقلل قليلاً من دقته الإجمالية. ولكن في إنفاذ القانون، نظام "أقل دقة بقليل" لا يستهدف مجموعات معينة بشكل غير عادل، هو أفضل من نظام "دقيق تماماً" يدمر حياة الأبرياء.
الخلاصة
هذه الورقة هي صرخة استيقاظ. تقول: "توقفوا عن النظر إلى الرقم الرئيسي."
مجرد قول نظام التعرف على الوجه إنه "دقيق بنسبة 95%" لا يعني أنه آمن للاستخدام في مركز شرطة. نحن بحاجة إلى النظر تحت الغطاء والتساؤل:
- من الذي يخطئ في حقه؟
- هل يتهم أشخاصاً أبرياء من مجموعات معينة بشكل متكرر؟
- هل يفوّت مجرمين من مجموعات معينة بشكل متكرر؟
حتى نبدأ في قياس العدالة (كيف يتم توزيع الأخطاء بين المجموعات المختلفة) بدلاً من مجرد قياس الدقة (الدرجة الإجمالية)، فإننا نخاطر ببناء نظام عدالة "ذكي" رياضياً ولكنه غير عادل اجتماعياً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.