Population-Aware Bayesian Fairness in AI under Complex Survey Designs
تقترح هذه الورقة إطار عمل بايزي للعدالة الواعية بالسكان يدمج أوزان المسح المعقدة، والدمج الجزئي الهرمي، ومعايرة عدم اليقين لتقدير وتوثيق التفاوتات الجماعية في الأنظمة التنبؤية بدقة، مما يثبت من خلال عمليات المحاكاة والبيانات الواقعية أن تجاهل تصميم المسح يؤدي إلى استنتاجات منحازة بشأن العدالة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي، يتعلم برنامج الكمبيوتر كيفية تقديم التنبؤات من خلال دراسة مجموعة من البيانات، تماماً كما يتعلم الطالب من الكتاب المدرسي. لكن الكتاب المدرسي نادراً ما يكون مرآة مثالية للعالم الحقيقي؛ فقد يحتوي على أمثلة كثيرة جداً من حي واحد وأمثلة قليلة جداً من حي آخر، أو قد يركز على سنة معينة بينما تغير العالم عما كان عليه. وعندما نطلب من الكمبيوتر أن يحكم على العدالة — مثل ما إذا كان يعامل مجموعتين مختلفت من الناس بالتساوي — يجب أن نطرح سؤالاً صعباً: هل نحكم على الكمبيوتر بناءً على الكتاب غير المثالي الذي درسه، أم بناءً على السكان الفعليين الذين سيخدمهم؟ إذا كان الكتاب منحازاً، فإن أداء الكمبيوتر على هذا الكتاب سيختلف عن أدائه في العالم الحقيقي. هذه الفجوة بين العينة والمجتمع هي مشكلة كلاسيكية لعلماء الإحصاء، لكنها أصبحت ملحة بالنسبة للذكاء الاصطناعي، حيث يتم أتمتة القرارات المتعلقة بالوظائف والقروض والسلامة بشكل متزايد.
تتناول دراسة جديدة أجراها ديباشيس تشاتيرجي هذه المشكلة تحديداً من خلال ابتكار طريقة لقياس العدالة تأخذ في الاعتبار كيفية جمع البيانات. يركز البحث على نوع محدد من العدالة يسمى "تكافؤ الفرص"، والذي يتساءل عما إذا كان النظام يحدد النتائج الإيجابية بشكل صحيح، مثل إيجاد وظيفة، لمجموعات مختلفة من الناس. ويجادل المؤلف بأن مجرد النظر إلى الأرقام الخام من مجموعة بيانات غالباً ما يكون مضللاً لأن مجموعة البيانات نفسها قد تكون غير متوازنة. ولحل هذه المشكلة، تجمع الدراسة بين فكرتين قويتين: طريقة للفصل رياضياً بين تأثير تكوين البيانات وبين السلوك الفعلي للكمبيوتر، ونهج إحصائي يستخدم الأوزان المقدمة من المسوحات الحكومية الكبيرة لتصحيح حالات عدم التوازن تلك. والهدف هو الانتقال من السؤال: "كيف كان أداء الكمبيوتر على هذه القائمة المحددة من الأشخاص؟" إلى "كيف سيكون أداء الكمبيوتر على المجتمع بأكم له؟".
اختبر الباحثون طريقتهم باستخدام نهجين مختلفين. أولاً، أجروا سلسلة من محاكاة الكمبيوتر حيث أنشأوا مجتمعاً وهمياً يضم ثلاثين ألف شخص ثم سحبوا عينات أصغر منه باستخدام خمس قواعد مختلفة. كانت بعض القواعد بسيطة وعشوائية، بينما صُممت قواعد أخرى لتكون مخادعة، مثل قاعدة تجعل من الصعب العثور على أنواع معينة من الناس في العينة. وفي هذه المحاكاة، قارنوا بين رؤية معيارية غير معدلة للبيانات ورؤيتهم الجديدة المصححة. ووجدوا أنه عندما كانت طريقة أخذ العينات مخادعة، كانت الرؤية المعيارية خاطئة في كثير من الأحيان، وأحياناً بفارق كبير. على سبيل المثال، في سيناريو اعتمدت فيه عملية أخذ العينات على تنبؤات الكمبيوتر نفسه، أخطأت الطريقة غير المعدلة في تقدير الفرق الحقيقي في الأداء بمقدار كبير. ومع ذلك، عندما طبقوا تصحيحهم، جاءت النتائج متوافقة تماماً مع الحقيقة. كما أظهرت الدراسة أن مجرد إضافة وزن إحصائي للبيانات لم يكن كافياً؛ بل كان على الباحثين تعديل درجة عدم اليقين في نتائجهم بعناية لتتناسب مع تعقيد تصميم المسح، وإلا فسيكونون واثقين أكثر مما ينبغي في استنتاجاتهم.
ولرؤية ما إذا كان هذا سينجح في العالم الحقيقي، طبق الفريق طريقتهم على مجموعة بيانات حقيقية من مكتب التعداد السكاني بالولايات المتحدة، وتحديداً المسح المجتمعي الأمريكي لولاية ألاباما لعام 2018. استخدموا نموذج كمبيوتر تم تدريبه على بيانات من عام 2017 للتنبؤ بالحالة الوظيفية للأشخاص في عام 2018. وعندما نظروا إلى البيانات الخام دون أي تصحيحات، بدا أن النموذج يعامل البيض والسود بشكل مختلف تماماً، حيث أظهر فجوة قدرها 0.0536 في مدى نجاحه في تحديد الأشخاص العاملين. هذا الرقم أوحى بوجود عدم عدالة كبير. ومع ذلك، عندما طبقوا أوزان المسح لتصحيح حقيقة أن العينة لا تمثل سكان الولاية بشكل مثالي، تقلصت الفجوة بشكل كبير إلى 0.0212. لم يكن هذا التغيير بسبب تغيير رأي الكمبيوتر أو إصلاح النموذج؛ فالنموذج ظل كما هو تماماً. التغيير حدث لأن الباحثين غيروا السؤال الذي يطرحونه، منتقلين من التركاليز على أشخاص محددين في العينة إلى التركيز على السكان الفعليين في ألاباما.
رغم هذا التحسن، تقدم الدراسة استنتاجاً واقعياً حول اليقين. فقد وجد الباحثون أنه حتى مع أفضل التصحيحات، فمن المستحيل أحياناً معرفة القصة كاملة. فإذا كان هناك مجموعة معينة من الناس غائبة تماماً عن العينة، فلا يمكن لأي حيلة إحصائية أن تملأ هذا الفراغ ببيانات حقيقية. وفي عمليات المحاكاة، عندما كانت مجموعة ما غائبة تماماً عن العينة، لم يستطع الباحثون سوى تقديم نطاق واسع من الإجابات المحتملة، معترفين بأن القيمة الحقيقية غير معروفة. وفي مثال ألاباما الواقعي، كانت الفجوة المصححة أصغر وأشارت إلى عدم عدالة أقل، لكن الأدوات الإحصائية المستخدمة لقياس الثقة في تلك النتيجة لم تكن مثالية أيضاً. فقد أعطت الطرق المعيارية المستخدمة في مكتب التعداد السكاني والأساليب البايزية (Bayesian) المستخدمة في الدراسة تقديرات مختلفة قليلاً لمدى تباين النتيجة. وهذا يعني أنه بينما يمكن للباحثين القول بأن الفجوة من المرجح أن تكون أصغر مما بدت عليه في البداية، إلا أنه لا يمكنهم الجزم بأن النظام عادل تماماً أو غير عادل تماماً.
تثبت الدراسة في النهاية أن العدالة ليست رقماً واحداً يمكن للكمبيوتر حسابه لمرة واحدة وإلى الأبد؛ بل هي خاصية تعتمد بشكل كبير على من يتم إحصاؤهم وكيف يتم إحصاؤهم. يوفر البحث إطاراً واضحاً لجعل هذه التمايزات مرئية، موضحاً أن الاختلاف في الأداء يمكن أن يكون سببه بالكامل هو تكوين المجموعة، وليس طريقة تفكير الكمبيوتر. ومن خلال الفصل بين تكوين المجموعة وسلوك النموذج، تسمح الدراسة برؤية أن النظام قد يبدو غير عادل في عينة منحازة، لكنه قد يؤدي بشكل مختلف عند النظر إليه من خلال عدسة المجتمع بأكمله. لا يدعي هذا العمل حل مشكلة التمييز الخوارزمي، ولا يثبت أن نظاماً معيناً خالٍ من التحيز. بدلاً من ذلك، فإنه يقدم طريقة أكثر صدقاً لقياس الفجوة، طريقة تعترف عندما تكون البيانات غير كافية وتوضح متى يكون التفاوت الملحوظ هو مجرد انعكاس لتصميم المسح. يضمن هذا النهج أنه عندما نتخذ قرارات بشأن عدالة الذكاء الاصطناعي، فإننا ننظر إلى المجتمع الصحيح بالأدوات الصحيحة، بدلاً من أن نكون مضللين بسبب حوادث كيفية جمع البيانات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.