🤖 machine learning

Towards Faithful Multimodal Concept Bottleneck Models

تقدم هذه الورقة البحثية f-CBM، وهو إطار عمل لنماذج عنق الزجاجة المفاهيمية متعدد الوسائط يتسم بالأمانة، والذي يعمل على تحسين كشف المفاهيم والحد من التسرب بشكل مشترك من خلال فقد تسرب قابل للتفاضل ورأس تنبؤ يعتمد على شبكة كولموغوروف-أرنولد، محققاً توازناً محسناً بين التفسيرية ودقة التنبؤ عبر مجموعات البيانات المكونة من صور ونصوص أو نصوص فقط.

المؤلفون الأصليون: Pierre Moreau, Emeline Pineau Ferrand, Yann Choho, Benjamin Wong, Annabelle Blangero, Milan Bhan

نُشر 2026-03-16

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Pierre Moreau, Emeline Pineau Ferrand, Yann Choho, Benjamin Wong, Annabelle Blangero, Milan Bhan

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تقوم بتعيين فريق من الخبراء الاستشاريين لمساعدتك في اتخاذ قرار كبير، مثل اختيار فيلم لمشاهدته أو تشخيص مريض. أنت تريد من هؤلاء المستشارين أن يكونوا صادقين وشفافين. لا تريدهم فقط أن يقولوا "أعتقد أنه فيلم كوميدي"؛ بل تريدهم أن يشرحوا لماذا عبر الإشارة إلى أسباب محددة ومفهومة، مثل "النكات تعتمد على الكوميديا الجسدية" أو "الموسيقى مبهجة".

في عالم الذكاء الاصطناعي، يُطلق على هذا اسم نموذج عنق الزجاجة المفاهيمي (Concept Bottleneck Model - CBM). فبدلاً من أن يكون "صندوقاً أسود" يخمن الإجابة مباشرة، يقوم الذكاء الاصطناعي أولاً بتحديد هذه "المفاهيم" (الأسباب) ثم يستخدمها للوصول إلى التنبؤ النهائي.

ومع ذلك، هناك مشكلة. أحياناً، يكون هؤلاء المستشارون من الذكاء الاصطناعي غشاشين. قد يقولون: "أنا أوصي بهذا لأنه فيلم كوميدي"، لكنهم في السر يراقبون أيضاً طول العنوان أو لون الخط لاتخاذ قرارهم. إنهم "يهربون" معلومات إضافية، وهذا ما يسمى التسريب (Leakage). إذا حاولت تصحيح منطقهم (على سبيل المثال: "لا، هذا ليس فيلماً كوميدياً، بل هو دراما!")، فقد يظل الذكاء الاصطناعي يعطي الإجابة الصحيحة لأنه كان يغش طوال الوقت. هذا يجعل التفسير غير أمين (unfaithful).

تقدم هذه الورقة البحثية إطار عمل جديد لذكاء اصطناعي فائق الأمانة يسمى f-CBM (نموذج عنق الزجاجة المفاهيمي الأمين)، والذي يعالج عادات الغش هذه، خاصة عند التعامل مع الصور والنصوص في آن واحد.

إليك كيف فعلوا ذلك، باستخدام بعض التشبيهات البسيطة:

1. المشكلة: المستشار "الغشاش"

تخيل طالباً يؤدي اختباراً.

الهدف: يجب أن يجيب الطالب بناءً على ما تعلمه (المفاهيم).
الغش: يلاحظ الطالب أنه إذا كُتب السؤال بـ الحبر الأزرق، فإن الإجابة عادة ما تكون "أ". لذا، يتجاهل السؤال الفعلي ويكتفي بالنظر إلى لون الحبر.
النتيجة: يحصل على الإجابة الصحيحة، لكنه لا يستطيع شرح لماذا إذا سألته. إذا قمت بتغيير لون الحبر إلى الأحمر، فسيفشل، رغم أنه يعرف المادة العلمية.

في الذكاء الاصطناعي، يحدث هذا "الغش" عندما يتعلم النموذج استخدام أدلة خفية (مثل نسيج الصورة أو طول الكلمة) بدلاً من المفاهيم الفعلية (مثل "له أجنحة" أو "يتعلق بالرياضة").

2. الحل: هجوم f-CBM ذو المسارين

بنى المؤلفون نظاماً يحتوي على أداتين خاصتين لمنع الغش وجعل الذكاء الاصطناعي أميناً حقاً.

الأداة (أ): "شرطة الأمانة" (خسارة التسريب - Leakage Loss)

تخيل هذا كمعلم صارم يراقب ملاحظات الطالب.

كيف تعمل: يتحقق المعلم: "هل تستخدم فقط المفاهيم التي كان من المفترض أن تستخدمها؟ أم أنك تسرب أدلة إضافية؟"
السحر: إذا حاول الذكاء الاصطناعي استخدام دليل خفي (مثل لون الخط)، يقوم المعلم فوراً بمعاقبته بـ "غرامة" (عقوبة رياضية).
النتيجة: يتعلم الذكاء الاصطناعي أن الغش لا يجدي نفعاً. يتوقف عن تهريب المعلومات الإضافية ويعتمد كلياً على المفاهيم التي تعلمها.

الأداة (ب): "المترجم الذكي" (طبقة KAN)

تخيل أن لدى الذكاء الاصطناعي "طبقة مفاهيم" (حيث يحدد الأسباب) و"طبقة قرار" (حيث يتخذ القرار النهائي).

الطريقة القديمة: كانت طبقة القرار مثل مترجم جامد يسير في خط مستقيم. كانت بسيطة للغاية. إذا كانت المفاهيم معقدة، لم يستطع المترجم التعامل معها، مما أجبر "طبقة المفاهيم" على "الغش" وحشر معلومات إضافية داخل المفاهيم فقط لجعل الرياضيات تعمل.
الطريقة الجديدة (KAN): استبدل المؤلفون المترجم الجامد بـ شبكة كولموغوروف-أرنولد (Kolmogorov-Arnold Network - KAN). تخيل هذا كـ مترجم مرن وقابل لتغيير الشكل. يمكنه التعامل مع العلاقات المعقدة والمنحنية والصعبة بين المفاهيم والإجابة النهائية.
النتيجة: لأن المترجم ذكي ومرن، لم تعد "طبقة المفاهيم" بحاجة للغش. يمكنها ببساطة القيام بوظيفتها في تحديد المفاهيم بدقة، وسيتولى المترجم الباقي.

3. لماذا هذا مهم: اختبار "التدخل" (Intervention)

كيف نعرف أن الذكاء الاصطناعي أمين حقاً؟ تستخدم الورقة اختباراً يسمى التدخل.

تخيل أنك المدير. تنظر إلى منطق الذكاء الاصطناعي وتقول: "انتظر، لقد قلت أن هذا الفيلم 'كوميدي' بسبب النكات، لكنني أعلم يقيناً أن النكات في الواقع 'مأساوية'. صحح منطقك!"

إذا كان الذكاء الاصطناعي أميناً (f-CBM): فإنه يستمع، ويغير منطقه إلى "مأساوي"، ويحدث تخمينه النهائي. دقة عمله تتحسن لأنك قمت بتصحيح منطقه.
إذا كان الذكاء الاصطناعي غشاشاً (نماذج CBM القديمة): فإنه يتجاهلك أو يصاب بالارتباك. دقة عمله تسوء لأنك قمت للتو بكسر شفرة غشه السرية.

تظهر الورقة أن f-CBM هو النموذج الوحيد الذي يصبح أفضل عندما تصحح له. وهذا يثبت أنه أمين حقاً.

الملخص

المشكلة: غالباً ما تكذب نماذج الذكاء الاصطناعي بشأن سبب اتخاذها للقرارات من خلال استخدام أدلة خفية سرية (التسريب).
الحل: ابتكر المؤلفون f-CBM، الذي يستخدم:
1. "شرطة أمانة" لمعاقبة الغشاشين.
2. "مترجم مرن" حتى لا يشعر الذكاء الاصطنا_ي بالحاجة للغش من الأساس.
النتيجة: ذكاء اصطناعي يعمل مع كل من الصور والكلمات، يعطي إجابات صحيحة، والأهم من ذلك، يخبرك بـ الحقيقة حول كيفية وصوله إلى تلك الإجابات. إنه نموذج يمكنك الوثوق به وتصحيحه بالفعل.

فيما يلي ملخص تقني مفصل لورقة البحث بعنوان "نحو نماذج عنق الزجاجة المفاهيمية متعددة الوسائط الموثوقة" (f-CBM).

1. بيان المشكلة

نماذج عنق الزجاجة المفاهيمية (CBMs) هي بنيات ذكاء اصطناعي قابلة للتفسير، تقوم بتوجيه التنبؤات عبر طبقة من المفاهيم التي يمكن للإنسان فهمها قبل اتخاذ القرار النهائي. وبينما أثبتت هذه النماذج فعاليتها في مجالات الرؤية ومعالجة اللغات الطبيعية، إلا أن تطبيقها في البيئات متعددة الوسائط (التي تجمع بين النصوص والصور) لا يزال غير مستكشف بشكل كافٍ.

يتمثل التحدي الجوهري الذي تعالجه الورقة في الموثوقية (Faithfulness). لكي يكون نموذج CBM قابلاً للتفسير حقاً، يجب أن تعكس تفسيراته بدقة طريقة تفكير النموذج. تعاني نماذج CBM الحالية من فشلين رئيسيين يقوضان الموثوقية:

عدم دقة اكتشاف المفاهيم: يفشل النموذج في تحديد وجود المفاهيم في المدخلات بشكل صحيح.
التسرب (Leakage): تقوم طبقة المفاهيم بتشفير معلومات تنبؤية غير مقصودة ("تهريب" الإشارات) لتجاوز عنق الزجاجة وتحسين الدقة. يحدث هذا في شكلين:
- تسرب المهام (Task Leakage): تشفر المفاهيم إشارات ذات صلة بالمهمة تتجاوز دلالاتها المقصودة.
- التسرب بين المفاهيم (Inter-Concept Leakage): تشفر المفاهيم معلومات حول مفاهيم أخرى تتجاوز ارتباطاتها الطبيعية.

تعامل الطرق الحالية اكتشاف المفاهيم وتخفيف التسرب كمشكلتين منفصلتين، وغالباً ما تضحي بدقة التنبؤ لتقليل التسرب أو تفشل في اكتشاف المفاهيم بدقة.

2. المنهجية: f-CBM

يقترح المؤلفون f-CBM، وهو إطار عمل لنموذج CBM متعدد الوسائط موثوق مبني على بنية أساسية (CLIP-based) للرؤية واللغة. يعالج هذا الإطار التحديين المتمثلين في الاكتشاف والتسرب من خلال استراتيجيتين متكاملتين:

أ. خسارة التسرب القابلة للتفاضل (Differentiable Leakage Loss)

للتخفيف من حدة التسرب، قدم المؤلفون خسارة تسرب قابلة للتفاضل ( $L_{leak}$ ) يمكن دمجها مباشرة في هدف التدريب.

الآلية: بدلاً من استخدام التقسين المنفصل (الذي يدمر الاشتقاقات)، يستخدمون تقدير كثافة النواة (KDE) لتقدير المعلومات المتبادلة (MI) بين المفاهيم المتوقدة وتسميات المهمة.
الهدف: تعمل الخسارة على معاقبة المعلومات المتبادلة الزائدة بين المفاهيم المتوقعة ( $\hat{c}_i$ ) وتسمية المهمة ( $y$ ) مقارنة بالمفاهيم الحقيقية ( $c_i$ ).
$L_{leak} = \left[ \frac{\hat{I}(\hat{c}_i; y) - \hat{I}(c_i; y)}{H(y)} \right]^2$
الأثر: يجبر هذا النموذج على تعلم تمثيلات مفاهيمية تحتوي فقط على المعلومات الضرورية لتعريف المفهوم، مما يزيل إشارات "الغش" المستخدمة للتصنيف.

ب. رأس التنبؤ بشبكة كولموغوروف-أرنولد (KAN)

تستخدم نماذج CBM القياسية طبقة خطية لربط المفاهيم بالفئات. استبدل المؤلفون ذلك بطبقة شبكة كولموغوروف-أرنولد (KAN).

المنطق: قد تفتقر الرأس الخطية إلى القدرة التعبيرية لنمذجة العلاقات المعقدة، مما يضطر طبقة المفاهيم لتشفير معلومات إضافية (تسرب) للتعويض عن ذلك.
التنفيذ: تضع شبكات KAN دوال أحادية المتغير قابلة للتعلم على الحواف بدلاً من دوال التنشيط الثابتة على العقد. يوفر هذا قدرة تعبيرية غير خطية أكبر مع الحفاظ على القابلية للتفسير.
الفائدة: من خلال السماح للطبقة النهائية بالتعامل مع الخرائط المعقدة، يتم تقليل الضغط على عنق زجاجة المفاهيم لتشفير إشارات مهام خارجية، مما يحسن اكتشاف المفاهيم ويقلل التسرب.

ج. استراتيجية التدريب

يتم تدريب النموذج بشكل مشترك باستخدام دالة خسارة مركبة:
$L = L_{cls} + \tilde{\lambda}_C L_C + \tilde{\lambda}_{leak} \alpha L_{leak}$

$L_{cls}$ : خسارة التصنيف (Cross-entropy).
$L_C$ : خسارة التنبؤ بالمفاهيم (MSE).
$L_{leak}$ : خسارة تسرب المعلومات المتبادلة القابلة للتفاضل.
التحجيم الديناميكي: يتم إعادة تحجيم الخسائر المساعدة ديناميكياً بالنسبة لخسارة التصنيف لضمان استقرار التدريب.
التعلم المنهجي (Curriculum Learning): يتبع وزن خسارة التسرب ( $\alpha$ ) جدول تضاؤل جيب التمام (cosine annealing) من 0 إلى 1، مما يسمح للنموذج بتعلم المفاهيم أولاً قبل معاقبته على التسرب.

3. المساهمات الرئيسية

أول CBM متعدد الوسائط موثوق: تقديم بنية قائمة على CLIP تعالج مدخلات الصور والنصوص ضمن عنق زجاجة مفاهيمي واحد.
التحليل الأولي: إثبات تجريبي بأن دقة اكتشاف المفاهيم، وتسرب المهام، وتسرب المفاهيم البينية ترتبط ارتباطاً إيجابياً؛ حيث إن تحسين الاكتشاف وتقليل تسرب المهام يؤديان في آن واحد إلى تخفيف التسرب بين المفاهيم.
مقياس تسرب قابل للتفاضل: مقياس مبتكر وقابل للتفاضل بالكامل لتسرب المهام بناءً على KDE، مما يسمح بالتحسين النهائي لتقليل تسرب المعلومات.
دمج KAN: أول تطبيق لشبكات كولموغوروف-أرنولد في نماذج CBM لتعزيز المرونة التنبؤية دون التضحية بالقابلية للتفسير، مما يؤدي إلى تحسين اكتشاف المفاهيم.

4. النتائج التجريبية

قيم المؤلفون نموذج f-CBM على أربع مجموعات بيانات (N24News, CUB-200-2011, AGNews, DBpedia) باستخدام ركائز CLIP-base و CLIP-large.

مقايضة الأداء: يحقق f-CBM مقايضة مثالية (Pareto-optimal) بين دقة المهمة، وخطأ اكتشاف المفاهيم (c-RMSE)، وتقليل التسرب.
- يضاهي دقة المهمة للنماذج "الصندوق الأسود" والنماذج القوية الأخرى (مثل ~98% في N24News).
- يتفوق بشكل كبير على المنافسين (Indep.-CBM, Label-free, CT-CBM) في تقليل التسرب (أدنى درجات CTL و ICL).
- يحقق اكتشافاً متفوقاً للمفاهيم (أدنى c-RMSE) مقارنة بنماذج تخفيف التسرب.
دراسات الاستئصال (Ablation Studies):
- استبدال الرأس الخطي بـ KAN أدى إلى تحسين اكتشاف المفاهيم بنسبة 51% وتقليل التسرب بنسبة 30% مع فقدان ضئيل في الدقة.
- إضافة خسارة التسرب قللت من تسرب المهام بنسبة 73% مع تأثير طفيف على الدقة.
تحليل التدخل (التحقق الحاسم):
- في اختبار "التدخل المفاهيمي" (استبدال المفاهيم المتوقعة بالمفاهيم الحقيقية)، كان f-CBM هو الطريقة الوحيدة التي حسنت الدقة باستمرار.
- شهد المنافسون (مثل CT-CBM) تدهوراً في الدقة تحت تأثير التدخل، مما يثبت اعتمادهم على المعلومات المسربة بدلاً من الدلالات المفاهيمية الحقيقية.

5. الأهمية

يضع هذا العمل معياراً جديداً للذكاء الاصطناعي متعدد الوسائط الموثوق.

الموثوقية العملية: يثبت أن الدقة العالية والقابلية العالية للتفسير ليسا نقيضين. من خلال معالجة التسرب، يضمن f-CBM أن التدخلات البشرية (تصحيح تنبؤات المفاهيم) تؤدي فعلياً إلى تحسين سلوك النموذج، وهو مطلب حيوي للمجالات عالية المخاطر مثل الرعاية الصحية.
عمق التفسير: تسمح شبكات KAN بتصور منحنيات الاستجابة غير الخطية، مما يوفر رؤى أعمق حول كيفية تأثير مفاهيم معينة على تنبؤات الفئات (مثل تأثيرات التشبع).
القدرة على التعميم: الإطار مرن، حيث يعمل بسلاسة عبر مجموعات البيانات النصية الصرفة، والصورية الصرفة، ومتعددة الوسائط، مما يشير إلى مسار قوي نحو ذكاء اصطناائي متعدد الوسائط قابل للتفسير.