💻 computer science

Measuring Perceptions of Fairness in AI Systems: The Effects of Infra-marginality

تقدم هذه الورقة دراسة مستخدمة تُظهر أن تصورات البشر للعدالة في أنظمة الذكاء الاصطناًعي لا تتشكل فقط من خلال التكافؤ الإحصائي أو النتائج، بل تتأثر بشكل كبير بالاعتقادات حول الأسباب الكامنة وراء التفاوتات، وتحديداً كيفية تأثير الهامشية الدنيا واختلاف توزيع البيانات على الأحكام في سيناريوهات اتخاذ القرار الطبي.

المؤلفون الأصليون: Schrasing Tong, Minseok Jung, Ilaria Liccardi, Lalana Kagal

نُشر 2026-03-09

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Schrasing Tong, Minseok Jung, Ilaria Liccardi, Lalana Kagal

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح للورقة البحثية باستخدام لغة بسيطة وتشبيهات إبداعية.

الفكرة الكبرى: لماذا لا يعني "التساوي" دائمًا "العدل"

تخيل أنك قاضٍ يقرر من يحصل على منحة دراسية. لديك مجموعتان من المتقدمين: المجموعة (أ) والمجموعة (ب).

لفترة طويلة، حاول علماء الكمبيوتر جعل الذكاء الاصطناعي "عادلًا" عبر إجباره على معاملة المجموعتين بنفس الطريقة تمامًا. يريدون من الذكاء الاصطناعي أن يحصل على نفس عدد الإجابات الصحيحة للمجموعة (أ) كما يفعل للمجموعة (ب). وهذا ما يسمى "التكافؤ الإحصائي" (Statistical Parity).

لكن هذه الورقة تطرح سؤالًا شائكًا: ماذا لو كانت المجموعة (أ) والمجموعة (ب) مختلفتين في الأصل؟

يطلق المؤلفون على هذه المشكلة اسم "التفاوت الهامشي" (Infra-marginality). وهو تعبير معقد يعني ببساطة: "ملعب المنافسة ليس مستويًا لأن اللاعبين بدأوا من تلال مختلفة".

التجربة: اختبار الذكاء الاصطناعي الطبي

لمعرفة كيف يشعر الناس العاديون (وليس فقط خبراء الرياضيات) تجاه هذا الأمر، أجرى الباحثون دراسة على 85 شخصًا. لقد صمموا سيناريو وهميًا:

الإعداد: ذكاء اصطناعي يحاول التنبؤ بمن يعاني من السرطان.
المجموعات: مجموعتان عرقيتان مختلفتان (سُميتا العرق أ والعرق ب).
التحول المفاجئ: أخبر الباحثون المشاركين أشياء مختلفة عن البيانات التي تدرّب عليها الذكاء الاصطناعي.

طلبوا من المشاركين تقييم ثلاثة نماذج مختلفة للذكاء الاصطناعي:

"النموذج الخارق": يجبر كلتا المجموعتين على امتلاك نفس الدقة العالية (حتى لو كان ذلك يعني الخطأ في التنبؤ أكثر للمجموعة التي كان من الأسهل طبيعيًا التنبؤ بها).
"نموذج التسوية": يجبر كلتا المجموعتين على امتلاك نفس متوسط الدقة.
"النموذج الواقعي": يسمح للمجموعة (أ) بدقة عالية وللمجموعة (ب) بدقة أقل، تمامًا كما أظهرت البيانات أداءهما الطبيعي.

النتائج المفاجئة

توقع الباحثون أن يفضل الناس دائمًا "النموذج الخارق" (الخيار 1) لأنه يبدو الأكثر مساواة. لكن النتائج كانت أكثر دقة وتعقيدًا.

1. عندما تبدو المجموعات متشابهة (أو لا نعرف عنها شيئًا)

إذا لم يخبر الباحثون المشاركين بأن المجموعات مختلفة، أو إذا كان أداء المجموعتين متساويًا في الأصل، فقد أحب الناس "النموذك الخارق".

تشبيه: إذا كان لديك عداءان يبدوان متطابقين ويرتديان نفس الحذاء، فستتوقع أن ينهيا السباق في نفس الوقت. إذا أنهى أحدهما السباق قبل الآخر بفارق كبير، ستظن أن السباق كان مغشوشًا.

2. عندما تكون المجموعات مختلفة بطبيعتها

هنا يكمن الاكتشاف الكبير: عندما عرف المشاركون أن إحدى المجموعات أصعب في التنبؤ بها طبيعيًا (أو لديها بيانات أقل)، فقد فضلوا في الواقع "النموذج الواقعي" (الخيار 3).

لقد اعتبروا أنه من غير العادل إجبار الذكاء الاصطناعي على التظاهر بأن المجموعتين متساويتان إذا لم تكونا كذلك.

تشبيه: تخيل مدرب كرة سلة.
- المجموعة (أ): فريق من لاعبي الدوري الأمريكي للمحترفين (NBA).
- المجموعة (ب): فريق من أطفال بعمر 10 سنوات.
- إذا أجبر المدرب الذكاء الاصطناعي على التنبؤ بأن كلا الفريقين سيسجل 100 نقطة، فسيكون الذكاء الاصطناعي مخطئًا بشأن الأطفال (يتنبأ بأنهم سيسجلون 100 بينما لن يفعلوا) ومخطئًا بشأن المحترفين (يتنبأ بأنهم سيسجلون 100 بينما قد يسجلون 120).
- وجهة نظر المشاركين: قالوا: "من العدل التنبؤ بأن المحترفين سيسجلون نقاطًا عالية والأطفال سيسجلون نقاطًا منخفضة. هذه هي الحقيقة. إذا أجبرت الذكاء الاصطناعي على قول 'كلا الفريقين يسجل 50'، فأنت تكذب بشأن إمكانات الأطفال وتجاهل مهارة المحترفين".

3. دور "توافر البيانات"

بحثت الدراسة أيضًا في سبب اختلاف المجموعات.

إذا كانت المجموعة (أ) تمتلك بيانات أكثر (أمثلة تدريب أكثر) وأدت بشكل أفضل، فقد فكر الناس: "حسنًا، هذا منطقي، لقد حصلوا على تدريب أكثر".
لكن إذا كانت المجموعة (أ) تمتلك بيانات أقل ومع ذلك أدت بشكل أفضل، فقد أصبح الناس مرتابين. فكروا: "مهلًا، إذا كان لديهم تدريب أقل ومع ذلك فازوا، فربما يكون الذكاء الاصطناعي متحيزًا ضد المجموعة (ب)؟"

تأثير "المرساة" (The Anchor Effect)

وجدت الورقة أن الناس لا يحكمون على العدالة في فراغ، بل يستخدمون "الارتكاز" (Anchoring).

الاستعارة: تخيل أنك تشتري سيارة.
- إذا كان سعر السيارة المعتاد 20,000 دولار، ورأيتها بـ 18,000 دولار، فستعتبرها صفقة رائعة.
- إذا كان سعر السيارة المعتاد 10,000 دولار، ورأيتها بـ 12,000 دولار، فستعتبرها عملية استغلال.
في الدراسة: استخدم الناس "الأداء الطبيعي" لكل مجموعة كمرساة. إذا كانت المجموعة (ب) تعاني طبيعيًا، فقد رأى الناس أنه من العدل أن يعاني الذكاء الاصطناعي معهم أيضًا. وإذا بدأ الذكاء الاصطناعي فجأة في معاملتهم بشكل مثالي (متجاهلاً المعاناة الطبيعية)، فقد اعتبروا ذلك غير عادل لأن ذلك يتجاهل واقع الحال.

لماذا يهم هذا الأمر؟

في الوقت الحالي، تُبنى العديد من أنظمة الذكاء الاصطناعي لفرض "تساوي النتائج" (التأكد من حصول الجميع على نفس الدرجة). تجادل هذه الورقة بأن هذا قد يؤدي إلى نتائج عكسية.

الخطر: إذا أجبرت الذكاء الاصطناعي على تجاهل الاختلافات الحقيقية بين المجموعات (مثل معدلات الأمراض المختلفة أو جودة البيانات المختلفة)، فقد ينتهي بك الأمر لاتخاذ قرارات سيئة. قد تطلق سراح مجرمين خطرين لأنك أجبرت الذكاء الاصطناعي على التنبؤ بأنهم آمنون لمجرد مطابقة الإحصائيات. أو قد تحرم الناس من العلاج الطبي لأن الذكاء الاصطناعي يحاول "موازنة الكفتين".
الحل: نحن بحاجة إلى ذكاء اصطناعي يفهم السياق.
- إذا كان الاختلاف ناتجًا عن التحيز (جمع بيانات غير عادل)، فيجب علينا إصلاحه.
- إذا كان الاختلاف ناتجًا عن الواقع (اختلاف المعدلات الأساسية أو صعوبة المهمة)، فيجب علينا احترامه.

الخلاصة

العدالة ليست مجرد جعل الأرقام تبدو متساوية. بل تتعلق بفهم سبب اختلاف الأرقات.

إذا كنت تعامل مجموعتين مختلفتين تمامًا بنفس الطريقة رغم اختلافهما الجوهري، فأنت لست عادلًا؛ بل أنت أعمى. العدالة الحقيقية تعني الاعتراف بالواقع واحترام تلك الاختلافات، بدلاً من فرض مساواة زائفة تضر الجميع.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "قياس تصورات العدالة في أنظمة الذكاء الاصطعي: آثار الهامشية الدنيا (Infra-marginality)."

1. بيان المشكلة

تتناول الورقة مشكلة الهامشية الدنيا (infra-marginality)، وهي ظاهرة تنشأ عندما تكون التفاوتات في أداء نماذج تعلم الآلة عبر المجموعات الديموغرافية ناتجة عن اختلافات مشروعة في توزيعات البيانات الأساسية (مثل معدلات الانتشار الأساسية) وليس بسبب التحيز الخوارزمي.

الصراع: تفترض تعريفات العدالة الجماعية القياسية (مثل التكافؤ الديموغرافي، أو تساوي معدلات الخطأ) غالبًا أن التكافؤ الإحصائي عبر المجموعات هو النتيجة المثالية. ومع ذلك، عندما تمتلك المجموعات معدلات أساسية مختلفة (مثل اختلاف انتشار مرض ما أو معدلات العودة للجريمة)، فإن فرض التكافؤ قد يؤدي إلى قرارات غير مثالية أو ضارة (مثل إطلاق سراح أفراد ذوي خطورة عالية أو حرمان أفراد من الإفراج المشروط رغم انخفاض خطورتهم).
الفجوة: بينما يقر الأدب التقني بوجود الهامشية الدنيا، إلا أن هناك نقصًا في الفهم التجريبي حول كيفية إدراك المستخدمين البشر للعدالة في هذه السياقات. هل ينظر المستخدمون إلى تفاوت الأداء كتمييز غير عادل، أم يتقبلونه كانعكاس مشروع لتوزيع البيانات؟ غالبًا ما تفشل مقاييس العدالة الحالية في التوافق مع المنطق البشري عند وجود اختلافات في التوزيع.

2. المنهجية

أجرى المؤلفون دراسة كمية على المستخدمين للتحقيق في كيفية تأثير المعلومات المتعلقة بتوزيعات البيانات على أحكام العدالة.

المشاركون: 85 مشاركًا تم استقطابهم من خلفية تقنية (طلاب MIT EECE، مجموعات علوم البيانات على LinkedIn). كانت التركيبة السكانية متنوعة من حيث العمر (21-42) والجنس، مع أغلبية تحمل درجات علمية متقدمة.
السيناريو: نظام ذكاء اصطناعي طبي افتراضي للتنبؤ بالسرطان يتضمن مجموعتين عرقيتين (تم تسميتهما بـ "العرق أ" و"العرق ب" لتجنب التحيزات المجتمعية المحددة).
التصميم التجريبي:
- المعالجة 1: الأداء الخاص بكل مجموعة. عُرض على المشاركين دقة النماذج التي تم تدريبها منفصلة لكل مجموعة. تم اختبار سبع حالات:
  - لا توجد معلومات.
  - أداء متساوٍ (90/90، 70/70).
  - أداء غير متساوٍ بفجوة قدرها 10% (مثل 95/85، 75/65، 85/95، 65/75).
- المعالجة 2: توافر البيانات. تم إبلاغ المشاركين بالكمية النسبية للبيانات التدريبية المتاحة لكل مجموعة (غير محددة، متساوية، 3 أضعاف أكثر لـ "أ"، 20 ضعفًا أكثر لـ "أ").
- المهمة: لكل سيناريو، قام المشاركون بتقييم عدالة ثلاثة نماذج مرشحة:
  1. الخيار 1 (الحد الأقصى من التكافؤ): يعمل على مساواة الأداء مع دقة المجموعة الأعلى.
  2. الخيار 2 (متوسط التكافؤ): يعمل على مساواة الأداء مع متوسط المجموعتين.
  3. الخيار 3 (الحفاظ على التفاوت): يحافظ على فروق الأداء الملحوظة بين المجموعات (مطابقة الخطوط الأساسية الخاصة بكل مجموعة).
الضوابط: تضمنت الدراسة سيناريوهات مكررة للتحقق من صحة البيانات وترتيبًا عشوائيًا للأسئلة. استخدم التحليل الإحصائي اختبارات T المستقلة (Independent T-Tests).

3. المساهمات الرئيسية

أدلة تجريبية على الهامشية الدنيا: تقدم الدراسة أول دليل منهجي على مستوى المستخدم بأن تصورات العدالة ليست ثنائية (عادل/غير عادل) بل تعتمد بشكل كبير على السياق.
فك الارتباط بين التكافؤ والعدالة: تتحدى الدراسة الافتراض القائل بأن التكافؤ الإحصائي هو دائمًا النتيجة المرغوبة. يوضح المؤلفون أن المستخدمين غالبًا ما يرون أن التكافؤ الصارم هو أمر غير عادل عندما يُنظر إلى التفاوتات على أنها مبررة بتوزيع البيانات.
دور توافر البيانات: تسلط الورقة الضوء على أن المستخدمين يدمجون المعرفة بكمية البيانات (حجم مجموعة التدريب) في أحكامهم على العدالة، ويميزون بين التفاوتات الناتجة عن "صعوبة المهمة" (مشروعة) مقابل "أخذ العينات المنحاز" (غير مشروعة).
تأثير الارتكاز (Anchoring Effect) في العدالة: تحدد الدراسة أن المستخدمين يقيمون العدالة بالنسبة لخط أساس (الأداء الخاص بكل مجموعة) بدلاً من تقييمها بمصطلحات مطلقة، مما يشير إلى وجود تحيز معرفي "للارتكاز" في التفكير في العدالة.

4. النتائج الرئيسية

تفضيل التكافؤ في غياب السياق: عندما كانت بيانات الأداء الخاصة بكل مجموعة متساوية أو غير متوفرة، فضل المشاركون بشكل كبير الخيار 1 و الخيار 2 (النماذج التي تحقق التكافؤ في النتائج). وهذا يتماشى مع تعريفات العدالة الجماعية القياسية.
تفضيل الحفاظ على التفاوتات في وجود السياق: عندما كانت أداءات المجموعات غير متساوية، فضل المشاركون بشكل كبير الخيار 3 (الحفاظ على الاختلافات الملحوظة).
- ظل هذا التفضيل قائمًا حتى عندما قدم الخيار 1 دقة إجمالية أعلى.
- رأى المشاركون أن الحفاظ على التفاوتات كان أكثر عدلاً عندما كانت الاختلافات متسقة مع سياق البيانات المقدم.
تأثير توافر البيانات:
- عندما كان لدى مجموعة ما أداء أعلى وكمية بيانات أكبر، لم ينظر المستخدمون تلقائيًا إلى التفاوت على أنه عادل.
- ومع ذلك، عندما كان لدى مجموعة ما أداء أعلى ولكن بيانات أقل، كان المستخدمون أكثر عرضة لتفسير التفاوت على أنه نتيجة لـ "صعوبة المهمة" (هامشية دنيا مشروعة) وليس تحيزًا، مما عزز التفضيل للخيار 3.
الدلالة الإحصائية: كان تفضيل الخيار 3 على الخيار 2 ذا دلالة إحصائية ( $p < 0.05$ إلى $p < 0.001$ ) في السيناريوهات ذات الأداء غير المتساوي للمجموعات.

5. الأهمية والآثار المترتبة

إعادة تعريف مقاييس العدالة: تشير النتائج إلى أن مقاييس العدالة الجماعية المعتمدة على نطاق واسع (مثل تساوي معدلات الخطأ) قد لا تتوافق مع توقعات البشر في التطبيقات الواقعية حيث تختلف المعدلات الأساسية. إن فرض التكافؤ في هذه السياقات يمكن أن يُنظر إليه على أنه غير عادل.
توصيات تصميم الأنظمة:
- العدالة الواعية بالسياق: لا ينبغي لتدخلات العدالة أن تفرض التكافؤ بشكل أعمى. بدلاً من ذلك، يجب أن تأخذ الأنظمة في الاعتبار السياق التوزيعي والتفاوتات التي يُنظر إليها على أنها مشروعة.
- الشفافية: يعد شرح سبب وجود التفاوتات (على سبيل المثال، "المجموعة أ لديها مهمة أصعب بسبب انخفاض توافر البيانات") أمرًا بالغ الأهمية لمواءمة مخرجات الخوارزمية مع الثقة البشرية.
ما وراء العدالة الجماعية: تشير النتائج إلى أنه مع انتقالنا نحو العدالة الفرعية أو الفردية، تصبح قيود التكافؤ الصارمة غير واقعية بشكل متزايد. يجب أن توازن الأطر المستقبلية بين الدقة الإحصائية و"الشرعية الاجتماعية" لعملية اتخاذ القرار.
خطر الضرر: يحذر المؤلفون من أن تجاهل الهامشية الدنيا وفرض التكافؤ يمكن أن يؤدي إلى آثار "عكسية"، حيث يمكن لتدخلات العدالة التي تهدف إلى الخير أن تضر بالفعل بالفئات التي تهدف إلى حمايتها من خلال تجاهل الحقائق الإحصائية المشروعة.

في الختام، تجادل الورقة بأن العدالة ليست مجرد خاصية رياضية للمخرجات، بل هي حكم اجتماعي يتأثر بالأسباب المتصورة لتفاوتات البيانات. لبناء ذكاء اصطناعي جدير بالثقة، يجب على المطورين سد الفجوة بين المقاييس الرسمية والمنطق البشري فيما يتعلق بالسياق التوزيعي.