🤖 machine learning

Mitigating Bias in Concept Bottleneck Models for Fair and Interpretable Image Classification

تقترح هذه الورقة ثلاث تقنيات لتخفيف الانحياز —وهي تصفية المفاهيم من فئة k-الأعلى، وإزالة المفاهيم المنحازة، وإزالة الانحياز التنافسي— لمعالجة تسرب المعلومات في نماذج عنق الزجاجة للمفاهيم، مما يحقق مقايضات فائقة بين العدالة والأداء لتصنيف الصور القابل للتفسير مقارنة بالأعمال السابقة.

المؤلفون الأصليون: Schrasing Tong, Antoine Salaun, Vincent Yuan, Annabel Adeyeri, Lalana Kagal

نُشر 2026-03-09

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Schrasing Tong, Antoine Salaun, Vincent Yuan, Annabel Adeyeri, Lalana Kagal

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك توظف موظفًا جديدًا، ولكن بدلًا من النظر في سيرته الذاتية أو مقابلته مباشرة، تطلب من مساعد ذكي للغاية، ولكنه منحاز قليلاً، أن يصفه لك أولاً.

هذه الورقة البحثية تتحدث عن إصلاح نوع معين من أنظمة الذكاء الاصطنا، وهو نموذج عنق الزجاجة المفاهيمي (Concept Bottleneck Model - CBM). فكر في الـ CBM كأنه "وسيط" ذكاء اصطناعي. فبدلاً من النظر إلى صورة وتخمين ما يحدث فيها، يقوم أولاً بترجمة الصورة إلى قائمة من الأفكار التي يمكن للبشر فهمها (المفاهيم)، مثل "يرتدي ربطة عنق"، أو "يمسك بملعقة مسطحة"، أو "يقف في مطبخ".

الهدف هو جعل الذكاء الاصطناعي أكثر عدلاً وسهولة في الفهم. لكن الباحثين اكتشفوا مشكلة: الوسيط يسرب الأسرار.

إليك تفصيل الورقة البحثية باستخدام تشبيهات بسيطة:

1. المشكلة: المترجم "كثير الكلام"

أراد الباحثون استخدام نماذج CBM لمنع الذكاء الاصطناعي من التحيز (على سبيل المثال، افتراض أن الطهاة رجال فقط أو الممرضات نساء فقط). الفكرة كانت: "إذا كان الذكاء الاصطناعي ينظر فقط إلى 'إمساك ملعقة مسطحة' ويتجاهل 'وجود لحية'، فسيكون عادلاً!"

ومع ذلك، اكتشفوا أنه على الرغم من أن الذكال الاصطناعي ينظر إلى "إمساك ملعقة مسطحة"، إلا أن الطريقة التي يحسب بها هذا المفهوم تتضمن سراً معلومات عن الجنس.

التشبيه: تخيل مترجماً من المفترض أن يترجم جملة من الفرنسية إلى الإنجليزية. لكن المترجم يهمس بالخطأ بلكنة المتحدث وجنسه داخل الترجمة الإنجليزية. حتى لو كانت الكلمات الإنجليزية صحيحة، فإن "الهمس" يكشف هوية المتحدث، مما يسم يسمح للمستمع بإطلاق افتراضات متحيزة.
النتيجة: كان الذكاء الاصطناعي لا يزال "يسمع" الجنس، رغم أنه كان من المفترض أن ينظر فقط إلى الأفعال. وهذا ما يسمى تسرب المعلومات (Information Leakage).

2. الحل: ثلاث طرق لإسكات التسريبات

التقنية (أ): مرشح "Top-K" (بقعة الضوء)

بدلاً من ترك الذكاء الاصطناعي ينظر إلى كل تفصيلة صغيرة وجدها (والتي تتضمن الهمسات المنحازة والمزعجة)، أخبرناه أن يركز فقط على أهم 20 مفهماً.

التشبيه: تخيل أنك تحاول التعرف على أغنية. يمكنك الاستماع إلى تسجيل الحفل الكامل الذي مدته 3 ساعات (والذي يتضمن ضجيج الجمهور، وتدريبات الفرقة، وسعال المغني). أو يمكنك وضع سماعات عازلة للضوضاء والاستماع فقط إلى أعلى 20 نوتة موسيقية.
النتيجة: من خلال إجبار الذكاء الاصطناعي على تجاهل "الضوضاء الخلفية" (تلميحات الجنس الخفية في المفاهيم الضعيفة)، أصبح أكثر عدلاً بكثير. لم يفقد الكثير من الدقة، لكنه توقف عن تقديم تخمينات مبنية على الجنس.

التقنية (ب): إزالة "الثمار الفاسدة" (التعديل)

حاولوا العثور على مفاهيم منحازة بشكل واضح (مثل "ربطة عنق" للرجال أو "بلوزة" للنساء) وحذفها من قاموس الذكاء الاصطناعي.

التشبيه: الأمر يشبه محاولة إصلاح هيئة محلفين متحيزة عن طريق طرد المحلفين الذين يرتدون قبعات معينة.
النتيجة: لم ينجح هذا الأمر جيداً. لماذا؟ لأن الذكاء الاصطناعي مخادع. إذا أزلت "ربطة العنق"، سيبدأ ببساطة في استخدام "شعر قصير" أو "صوت عميق" كوسيلة جديدة لتخمين الجنس. لقد انتقل "التسريب" فقط إلى أنبوب آخر.

التقنية (ج): اللعبة "الخصمية" (المدرب)

أضافوا ذكاءً اصطناعيًا ثانيًا (مدرباً)، مهمته الوحيدة هي محاولة تخمين الجنس بناءً على إجابات الذكاء الاصطناعي الأول. ثم يحاول الذكاء الاصطناعي الرئيسي أداء مهمته بشكل أفضل دون السماح للمدرب بتخمين الجنس.

التشبيه: تخيل طالباً يؤدي اختباراً. يقف مراقب بجانبه ويحاول تخمين جنس الطالب بناءً على طريقة كتابته. يدرك الطالب: "أوه، إذا كتبت بخط جميل جداً، سيعرف المراقب أنني فتاة". لذا، يتعلم الطالب الكتابة بطريقة لا تعطي أي تلميحات عن جنسه، مع الاستمرار في تقديم الإجابات الصحيحة.
النتيوة: كانت هذه الطريقة الأكثر فعالية. فقد أجبرت الذكاء الاصطناعي على تعلم المهمة (مثل "قلي بيضة") دون الاعتماد على تلميحات الجنس على الإطلاق.

3. المقايضة الكبرى: منطقة "غولدي لوكس" (الاعتدال المثالي)

وجدت الورقة البحثية توازناً صعباً، مثل البحث عن درجة حرارة الاستحمام المثالية:

مفاهيم كثيرة جداً: يكون الذكاء الاصطناعي دقيقاً جداً ولكنه يسرب الكثير من التحيز (ساخن جداً).
مفاهيم قليلة جداً: يكون الذكاء الاصطناعي عادلاً جداً ولكنه يرتكب الكثير من الأخطاء (بارد جداً).
الوضع المثالي: باستخدام مرشح Top-K مع المدرب الخصمي (Adversarial Coach)، وجدوا النقطة المثالية. أصبح الذكاء الاصطناعي أكثر عدلاً بنسبة 28% مع عدم خسارة تذكر في الدقة.

لماذا يهم هذا؟

معظم نماذج الذكاء الاصطناعي هي "صناديق سوداء" — تضع صورة فيدخل تخمين، لكنك لا تعرف "لماذا".

الطريقة القديمة: يخمن الذكاء الاصطناعي "طباخ" لأنه رأى رجلاً. لا يمكنك رؤية التحيز.
الطريقة الجديدة (CBM): يقول الذكاء الاصطناعي "لقد خمنت أنه طباخ لأنني رأيت ملعقة مسطحة وموقداً".
الإصلاح: أظهر المؤلفون أنه حتى مع هذا النظام الشفاف، كان الذكاء الاصطناعي لا يزال يمرر التحيز سراً. ولكن باستخدام مرشحاتهم الجديدة وطرق التدريب، جعلوا النظام شفافاً وعادلاً في آن واحد.

باختدصار: لقد بنوا ذكاءً اصطناعيًا أكثر ذكاءً وأمانة، يشرح أسباب استنتاجاته، ثم علموه كيف يتوقف عن الاستماع إلى "همسات" التحيز التي كانت تختبئ في تفسيراته الخاصة.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "تخفيف التحيز في نماذج عنق زجاجة المفاهيم من أجل تصنيف صور عادل وقابل للتفسير".

1. بيان المشكلة

بينما تقدم نماذج عنق زجاجة المفاهيم (CBMs) بنية واعدة لتصنيف الصور القابل للتفسير من خلال ربط المدخلات بمفاهيم مفهومة بشرياً قبل إجراء التنبؤات، إلا أنها تعاني من خلل حرج وهو: تسرب المعلومات (Information Leakage).

المشكلة: على الرغم من أن نماذج CBM مصممة لحجب السمات الحساسة (مثل الجنس) من خلال التركيز على المفاهيم ذات الصلة بالمهمة، إلا أن ناقلات تنشيط المفاهيم غالباً ما تشفر أنماطاً خفية ومتغيرات وسيطة لا علاقة لها بدلالات المفهوم.
النتيجة: يسمح هذا التسرب للنموذج بتعلم وتضخيم التحيزات عن غير قصد (على سبيل المثال، ربط أفعال معينة بجنس محدد) رغم الهيكل القابل للتفسير.
الفجوة: تعتمد تقنيات تخفيف التحيز الحالية غالباً على الشبكات العصبية العميقة (DNNs) التي تُعامل كصندوق أسود، أو تتطلب تسميات توضيحية (Ground Truth Labels) للسمات الحساسة تكون مكلفة وعرضة للخطأ. هناك حاجة إلى طرق تحسن العدالة في نماذج CBM دون التضحية بقابليتها المتأصلة للتفسير أو تتطلب تسميات السمات الحساسة أثناء عملية تخفيف التحيز.

2. المنهجية

يقترح المؤلفون إطار عمل معدلاً لـ CBM الخالي من التسميات (Label-free CBM) يستفيد من CLIP (التعلم المتباين للصور والنصوص) و GPT-3 لأتمتة توليد المفاهيم والاستدلال، وتم تقييمه باستخدام مجموعة بيانات ImSitu (وهي مجموعة بيانات للتعرف على الأفعال مع حقائق توضيحية للجنس).

البنية الأساسية

توليد المفاهيم: يقوم GPT-3 بتوليد قائمة من المفاهções لـ 200 فعل (مثل "القلي"، "الرقص").
التصفية: يتم تصفية المفاهيم بناءً على الطول، والتشابه مع تسميات الفئات، والتشابه مع المفاهيم الأخرى، وانخفاض التنشيط في مجموعة البيانات.
الترميز: يتم ترميز الصور باستخدام مشفر الصور الخاص بـ CLIP (ViT-B/16)، وتشفير المفاهيم باستخدام مشفر النصوص الخاص بـ CLIP.
التنبؤ: تقوم طبقة متصلة بالكامل (FC) متفرقة (Sparse) بربط تنشيطات المفاهيم بالفئات المستهدفة.

تقنيات تخفيف التحيز المقترحة

تقدم الورقة ثلاث تقنيات محددة لمعالجة التحيز:

تقليل تسرب المعلومات (مرشح Top-k):
- بدلاً من الاعتماد فقط على تنظيم التفرق (Sparsity Regularization) مثل L1/L2 الذي يجبر النموذج على استخدام مفاهيم أقل ولكنه قد يظل يسرب المعلومات من خلال المفاهيم ذات القيم المنخفضة، يقترح المؤلفون مرشح تنشيط المفهوم Top-k.
- تعمل هذه الطريقة على الاحتفاظ فقط بأعلى $k$ من تنشيطات المفاهيم لكل صورة وتصفير البقية. هذا يحاكي النموذج الذهني البشري الذي يركز على الميزات البارزة، مما يقلل من "التوزيع الخفي" المشفر في المفاهيم ذات القيم المنخفضة.
- الميزة: لا يتطلب تسميات توضيحية للسمات الحساسة.
إزالة المفاهيم المتحيزة:
- النهج (أ): تدريب مصنف للجنس على نموذج CBM لتحديد المفاهيم ذات الأوزان الأعلى للجنس وإزالتها.
- النهج (ب): استخدام نموذج لغوي كبير (LLM) لتقييم المفاهيم ذاتياً بناءً على الارتباط الدلالي مع السمات الحساسة وإزالتها.
- الملاحظة: فشلت مجرد إزالة المفاهيم أثناء التدريب لأن النموذج أعاد تعلم كيفية تسريب معلومات الجنس من خلال مفاهيم أخرى. وجد المؤلفون نجاحاً فقط من خلال تصفير (Zeroing out) هذه المفاهções المحددة عند وقت الاختبار على نموذج تم تدريبه بدونها.
تخفيف التحيز التنافسي (Adversarial Debiasing):
- يتم تطبيق تحسين ثنائي الهدف على الطبقة المتصلة بالكامل (FC). يقلل النموذج الرئيسي خسارة التصنيف، بينما يحاول خصم (Adversary) التنبؤ بالسمة الحساسة (الجنس) من مخرجات النموذج.
- يتم معاقبة النموذج الرئيسي إذا نجح الخصم، مما يجبر الربط بين المفهوم والفئة على أن يصبح غير متغير بالنسبة للجنس.
- الميزة: يوفر تحسينات دقيقة وشفافية في معرفة أي المفاهيم يتم تعديلها لتقليل التحيز.

3. المساهمات الرئيسية

تحديد التسرب: إثبات أن مفاهيم CBM تشفر معلومات خفية تتجاوز دلالاتها، مما يخلق مقايضة بين العدالة، وقابلية التفسير، والأداء.
مرشح Top-k: اقتراح آلية تصفية مبتكرة تتفوق على تنظيم التفرق التقليدي في مقايضات العدالة والأداء دون الحاجة إلى تسميات توضيحية للسمات الحساسة.
التكامل التنافسي: دمج تخفيف التحيز التنافسي بنجاح في إطار عمل CBM القابل للتفسير، مما أظهر أنه يمكن تقليل التحيز مع الحفاظ على الشفافية.
التحقق التجريبي: أظهر أن إزالة المفاهيم بناءً على الدلالات وحدها غير كافٍ بسبب إعادة تعلم النموذج، مما يستلزم تدخل وقت الاختبار أو التدريب التنافسي.

4. النتائج

أُجريت التجارب على مجموعة بيانات ImSitu (20,792 صورة، 200 فعل) لمقارنة CLIP-ZS (Zero-Shot)، و CLIP-DNN (التعلم العميق القياسي)، و CLIP-CBM (عنق زجاجة المفاهيم).

الأداء المرجعي:
- حقق CLIP-CBM دقة أقل قليلاً (41.51%) من CLIP-DNN (44.10%) ولكنه قدم قابلية تفسير أفضل.
- ومع ذلك، قلل CLIP-CBM القياسي تضخم التحيز (8.19%) بشكل طفيف فقط مقارنة بـ CLIP-DNN (8.68%)، مما يؤكد مشكلة التسرب.
تأثير تقنيات التخفيف:
- مرشح Top-k: عند $k=1000$ ، اقترب النموذج من دقة مستوى DNN مع تقليل التحيز بشكل كبير. عند $k=30$ ، حقق دقة 37.5% مع عدالة أفضل بكثير من الطرق القائمة على التفرق.
- إزالة المفاهيم: أدت إزالة المفاهيم المتحيزة في وقت الاختبار إلى تقليل تضخم التحيز بنسبة 0.3%–0.5% فقط مع فقدان في الدقة بنسبة ~0.6%، مما يثبت أن هذا النهج وحده ضعيف.
- تخفيف التحيز التنافسي: عند تطبيقه على Top-k CBM، قلل تضخم التحيز من 7.84% إلى 6.29% (أي تخفيض بنسبة 28% في تضخم التحيز بالنسبة للمرجع) مع انخفاض طفيف في الدقة (إلى 42.69%).
المقارنة مع الأعمال السابقة:
- تفوق نهج Top-k + Adversarial Debiasing المقترح على التخفيف التنافسي السابق على نماذج Black-box DNNs (الذي حقق تضخم تحيز بنسبة 7.21%) وعلى نماذج CBM القياسية.

5. الأهمية والخاتمة

مقايضة العدالة وقابلية التفسير: تسلط الورقة الضوء على أن الشفافية الكاملة صعبة لأن التحول من مساحة الصورة إلى مساحة المفهوم ليس مثالياً؛ فالأداء العالي يتطلب العديد من المفاهيم، مما يزيد من خطر التسرب.
القابلية للتطبيق العملي: يعد مرشح Top-k مهماً لأنه يحسن العدالة دون الحاجة إلى تسميات توضيحية للسمات الحساسة، مما يجعله قابلاً للتطبيق في سيناريوهات العالم الحقيقي حيث تكون هذه التسميات غير متوفرة أو مكلفة.
الشفافية في تخفيف التحيز: على عكس التدريب التنافسي للصندوق الأسود، فإن تطبيقه على CBM يسمح للباحثين بمراقبة كيف تتغير أوزان المفاهيم (على سبيل المثال، تقليل أوزان "السلم" في فعل "الطلاء" إذا كان يرتبط بالجنس)، مما يوفر رؤية شفافة لعملية تخفيف التحيز.
الاتجاه المستقبلي: تشير الورقة إلى أنه بينما يمكن توسيع نطاق نماذج CBM الخالية من التسميات، إلا أنها قد تكون أقل قابلية للتفسير من نماذج CBM التي يتم تنسيق مفاهيمها بشرياً بسبب الضجيج في المفاهيم المولدة بواسطة LLM. ومع ذلك، فإن الجمع بين مرشح Top-k و التخفيف التنافسي يمثل خطوة حاسمة نحو تصنيف صور عادل، وقابل للتفسير، وعالي الأداء.