Towards Fairness under Label Bias in Image Segmentation: Impact, Measurement and Mitigation
تقدم هذه الورقة إطار عمل متمحوراً حول البيانات يعمل على تكييف التعلم الواثق للكشف عن تحيز التسميات والتخفيف من حدته في تقسيم الصور عبر الاستفادة من تنبؤات النموذج الواثقة لتحديد الأخطاء المنهجية والشوائب في فضاء السمات، مما يحقق أداءً عادلاً عبر المجموعات الديموغرافية الفرعية دون الحاجة إلى تسميات أرضية نظيفة وغير متحيزة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
المشكلة الكبرى: "المسطرة المكسورة"
تخيل أنك تعلم روبوتًا كيفية رسم الخطوط العريضة لقطة في صورة ما. تعطي له مجموعة من 1,000 صورة ليتعلم منها. ومع ذلك، هناك عيب سري: مقابل كل صورة لـ قطة سوداء، قام شخص بشري عن طريق الخطأ برسم الخط العريض بشكل صغير جدًا، مما أدى إلى قطع أطراف الأذنين والذيل. أما مقابل كل صورة لـ قطة بيضاء، فقد كان الرسم دقيقًا ومثاليًا.
الروبوت يتعلم من هذه الرسومات. عندما يرى قطة سوداء لاحقًا، فإنه يرسم قطة صغيرة وغير مكتملة لأن هذا ما تعلمه. وعندما يرى قطة بيضاء، يرسم واحدة مثالية.
هذا هو تحيز الملصقات (Label Bias). ليس السبب أن الروبوت "غبي"؛ بل لأن "المسطرة" (بيانات التدريب) مكسورة لمجموعة محددة من الناس (أو في هذه الحالة، لأنواع معينة من القطط).
الفخ: لماذا تفشل الاختبارات القياسية؟
عادةً، عندما نتحقق مما إذا كان الروبوت يقوم بعمل جيد، نستخدم درجة تسمى Dice أو IoU. فكر في هذا كمعلم يصحح اختبارًا.
- الفخ: إذا كان مفتاح الإجابة لدى المعلم خاطئًا أيضًا (لأنه رُسم بواسطة نفس الشخص المنحاز)، سيحصل الروبوت على درجة عالية!
- ما وجدته الورقة البحثية: يوضح المؤلفون أن المقاييس القياسية تشبه مسطرة مكسورة تقيس جسمًا مكسورًا. فهي تقول "عمل رائع!" حتى عندما يفشل الروبوت في مجموعة معينة. في الواقع، تظهر الورقة أنه في بعض الأحيان يبدو الروبوت "أفضل" في المجموعة المنحازة ببساطة لأن "الإجابة الصحيحة" التي تتم مقارنته بها هي نفسها خاطئة.
الحل الجزء الأول: "المحقق الواثق" (التدقيق)
بما أننا غالبًا لا نملك "إجابة مثالية" (حقيقة أرضية نظيفة) لنتحقق منها، فكيف نجد التحيز؟
قام المؤلفون بتكييف أداة تسمى التعلم الواثق (Confident Learning). تخيل محققًا لا يعرف الحقيقة ولكنه يعرف كيف "يفكر" الروبوت.
- يسأل المحقق الروبوت: "هل أنت متأكد بنسبة 100% أن هذه البكسل جزء من الجسم؟"
- إذا قال الروبوت: "نعم، أنا واثق جدًا أن هذا أذن قطة"، بينما يقول ملصق التدريب: "لا، هذا خلفية"، يقوم المحقق بوضع علامة تنبيه.
- من خلال النظر في أين يكون الروبوت واثقًا ولكنه يختلف مع الملصق، يمكن للمحقق اكتشاف التحيز.
التشبيه: يشبه الأمر طالبًا واثقًا من أنه كتب كلمة بشكل صحيح، لكن مفتاح الإجابة لدى المعلم يقول إنها خاطئة. إذا كان الطالب واثقًا باستمرار والمعلم "مخطئ" باستمرار لمجموعة معينة من الطلاب، يدرك المحقق أن مشكلة المفتاح تكمية في المعلم وليس في الطالب.
تقدم الورقة طرقًا جديدة لقياس هذا، مع التمييز بين:
- أخطاء الحذف (Omission Errors): الملصق يقول "لا يوجد شيء هنا"، لكن الروبوت يرى "شيئًا ما". (الخط العريض صغير جدًا).
- أخطاء الإضافة (Commission Errors): الملصق يقول "يوجد شيء هنا"، لكن الروبوت يرى "لا شيء". (الخط العريض كبير جدًا).
الحل الجزء الثاني: "النظارات الخاصة" (التخفيف من حدة التحيز)
بمجرد معرفة أن البيانات منحازة، كيف نصلح الروبوت دون التخلص من جميع البيانات؟
لاحظ المؤلفون شيئًا مثيرًا للاهتمام: عندما تكون البيانات منحازة، يبدأ "عقل" الروبوت الداخلي (فضاء الميزات) في معاملة المجموعتين كأنهما نوعان مختلفان تمامًا من الكائنات. إنه يتعلم الفصل بينهما بقوة. عادةً، يحاول خبراء العدالة إجبار الروبوت على تجاهل هذه الاختلافات.
تحول الورقة البحثية: بدلًا من إجبار الروبوت على تجاهل الفرق، أعطوه "نظارات خاصة".
- لقد بنوا نظامًا يرتدي فيه الروبوت "نظارات" مختلفة اعتمادًا على المجموعة التي تنتمي إليها الصورة.
- أثناء التدريب: يتعلم الروبوت أن المجموعة (أ) تحتاج إلى "نظارات سميكة" (لإصلاح الخطوط الصغيرة) والمجموعة (ب) تحتاج إلى "نظارات عادية".
- أثناء الاستنتاج (الاختبار): هنا تكمن الخدعة السحرية. عندما يرى الروبوت صورة جديدة، فإنه يرتدي "نظارات المجموعة النظيفة" للجميع، بغض النظر عن هويتهم.
التشبيه: تخيل خياطًا يصنع بدلات. لاحظ أنه بالنسبة للمجموعة (أ)، فإن القماش ينكمش عند الغسيل، لذا يقوم بقص القماش بشكل كبير جدًا. وبالنسبة للمجموعة (ب)، القماش لا ينكمش، لذا يقصه بشكل طبيعي.
- الطريقة القديمة: محاولة جعل القماش ينكمش بنفس القدر للجميع (غالبًا ما تفشل).
- طريقة الورقة: قص القماش خصيصًا لمشكلة الانكماش. ثم، عندما يأتي الزبون، يستخدم الخياط ببساً نمط "المقاس المثالي" للجميع، مما يلغي فعليًا مشكلة الانكماش.
النتائج
اختبر المؤلفون ذلك في ثلاثة سيناريوهات مختلفة:
- الوجوه: تصغير الخطوط العريضة للوجوه النسائية بشكل اصطناعي.
- الخلايا: جعل الخطوط العريضة للخلايا "منتفخة" لمجموعة لونية معينة بشكل اصطناعي.
- الآفات الجلدية: بيانات من العالم الحقيقي حيث كانت الخطوط العريضة للبشرة الفاتحة أكبر وأكثر دقة من البشرة الداكنة.
النتيجة:
- أدوات العدالة القياسية: حاولت إجبار الروبوت على أن يكون "أعمى" تجاه المجموعات. فشل ذلك، وظل أداء الروبوت ضعيفًا في المجموعة المنحازة.
- طريقة الورقة البحثية: من خلال الاعتراف بالتحيز واستخدام "النظارات الخاصة" (الاشتراط للمجموعات الفرعية)، أصلحوا فجوة الأداء. أصبح الروبوت دقيقًا بنفس القدر لجميع المجموعات، على الرغم من أنه لم يرَ "ملصقًا مثاليًا" واحدًا أثناء التدريب.
الملخص
تجادل الورقة بأن البيانات السيئة تخلق تحيزًا خفيًا لا تستطيع الاختبارات القياسية رؤيته. ولإصلاح ذلك، لا تحتاج إلى التخلص من البيانات أو إجبار الذكاء الاصطناعي على أن يكون "أعمى الألوان". بدلاً من ذلك، تحتاج إلى اكتشاف اتجاه الخطأ المحدد (كبير جدًا أو صغير جدًا) وتعليم الذكاء الاصطناعي التعويض عن ذلك الخطأ المحدد عند تقديم التوقعات النهائية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.