🤖 machine learning

Uncertainty-Aware Subset Selection for Robust Visual Explainability under Distribution Shifts

تتناول هذه الورقة تدهور طرق التفسير البصري القائمة على المجموعات الفرعية في ظل ظروف خارج نطاق التوزيع، وذلك من خلال تقديم إطار عمل لا يتطلب تدريبًا يدمج تقدير عدم اليقين على مستوى الطبقات مع الأمثلة الفرعية (submodular optimization) لتوليد تفسيرات قوية ومتنوعة ومعلوماتية.

المؤلفون الأصليون: Madhav Gupta, Vishak Prasad C, Ganesh Ramakrishnan

نُشر 2026-03-09

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Madhav Gupta, Vishak Prasad C, Ganesh Ramakrishnan

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الصورة الكبيرة: "المحقق المفرط في الثقة"

تخيل أن لديك محقق ذكاء اصطناعي فائق الذكاء (نموذج رؤية عميق) بارع جداً في تحديد أنواع الطيور. إذا عرضت عليه صورة لـ طائر الكاردينال، سيقول بثقة: "هذا كاردينال!" ويشير إلى الريش الأحمر والمنقار. هذا يعمل بشكل رائع عندما يبدو الطائر تماماً مثل تلك التي درسها في المدرسة (داخل التوزيع - In-Distribution).

ولكن ماذا يحدث إذا عرضت عليه طائر كاردينال يرتدي قبعة صغيرة، أو كاردينال في غابة ضبابية، أو حتى صورة لسنجاب يشبه الطائر قليلاً؟

المحقق القديم سيصاب بالارتباك. قد يظل يقول "كاردينال"، ولكن عندما يحاول شرح لماذا، فإنه يشير إلى القبعة، أو الضباب، أو ذيل السنجاب. يصبح هشاً (ينكسر بسهء) وغير موثوق. إنه يسلط الضوء على الأجزاء الخاطئة من الصورة، مما يجعل التفسير عديم الفائدة.

المشكلة: الطرق الحالية لجعل الذكاء الاصطناعي يشرح نفسه تعمل بشكل مثالي في الفصل الدراسي، لكنها تفشل فشلاً ذريعاً في العالم الحقيقي حيث تتغير الظروف (مثل الطقس، أو الإضاءة، أو أنواع جديدة من الأشياء).

الحل: "المحقق القلق والذكي"

قام مؤلفو هذه الورقة البحثية ببناء نظام جديد لإصلاح هذا الأمر. أطلقوا عليه اسم اختيار المجموعات الفرعية الواعي بعدم اليقين (Uncertainty-Aware Subset Selection).

إليك كيف يعمل، باستخدام بعض التشبيهات:

1. "اختبار الإجهاد" (اضطرابات الأوزان التكيفية - Adaptive Weight Perturbations)

تخيل أن المحقق الذكي يخضع لاختبار.

الطريقة القديمة: ينظر المحقق إلى الصورة مرة واحدة فقط ويعطي إجابة. إذا كانت الصورة غريبة، سيخمن المحقق بثقة ولكن بشكل خاطئ.
الطريقة الجديدة: قبل إعطاء الإجابة، يقوم المحقق بإجراء "اختبار إجهاد" لنفسه. يقوم بهز دماغه قليلاً (رياضياً يسمى اضطراب الأوزان) ويسأل نفسه: "إذا غيرت رأيي قليلاً، هل ستتغير إجابتي بشكل جذري؟"
- إذا ظلت الإجابة كما هي، فإن المحقق واثق.
- إذا قفزت الإجابة ذهاباً وإياباً مثل أرنب متوتر، فإن المحقق يعرف: "أنا غير متيقن هنا".

هذا يشبه الطيار الذي يفحص الأجهزة قبل الإقلاع. إذا كانت الأجهزة تتذبذب، يعرف الطيار أن هناك خطباً ما في الطائرة أو في الطقس.

2. "الفلتر الذكي" (اختيار المجموعة الفرعية تحت المودولية - Submodular Subset Selection)

عادةً، عندما يحاول الذكاء الاصطناعي شرح صورة ما، فإنه يسلط الضوء على كل شيء يبدو مهماً. هذا يشبه طالباً يحدد كل جملة في الكتاب المدرسي لأنه خائف من تفويت سؤال في الاختبار. إنه أمر فوضوي ومكرر.

تستخدم الطريقة الجديدة فلترًا تحت مودولي (Submodular Filter). فكر في هذا كأنه محرر صارم لمقال إخباري.

مهمة المحرر هي اختيار أفضل 5 جمل تروي القصة كاملة.
المحرر لا يختار فقط الجمل الأكثر صخباً؛ بل يختار الجمل الفريدة والأساسية.
إذا كانت جملتان تقولان الشيء نفسه، فإن المحرر يحذف إحداهما لتجنب التكرار.

3. "وضعها معاً: المظلل الموثوق"

يجمع النظام الجديد بين اختبار الإجهاد والفلتر الذكي.

الخطوة 1: ينظر الذكاء الاصطناعي إلى الصورة ويجري "اختبار الإجهاد" على كل جزء صغير من الصورة.
الخطوة 2: يحسب "درجة الثقة".
- ثقة عالية: "أنا أعرف أن هذه عين طائر." (احتفظ بها).
- ثقة منخفضة: "لست متأكداً ما إذا كانت هذه ورقة شجر أم جناحاً لأن الصورة ضبابية." (استبعدها أو قلل أهميتها).
الخطوة 3: يختار الفلتر الذكي أفضل الأجزاء بناءً على هذه الدرجة. إنه يتجاهل الأجزاء الضبابية والمربكة ويركز فقط على الميزات الواضحة والمستقرة والمهمة.

لماذا يهم هذا (الأثر في "العالم الحقيقي")

اختبرت الورقة هذا على سيناريوهين:

"الإزاحة ذات الصلة" (The Related Shift): إظهار طائر من قارة مختلفة للذكاء الاصطناعي (طيور أمريكا الشمالية مقابل مجموعة بيانات CUB). ارتبك الذكاء الاصطناعي القديم بسبب الخلفية المختلفة؛ بينما ظل الذكاء الاصطنا_الجديد يجد المنقار والعينين.
"الإزاحة الغريبة" (The Weird Shift): إظهار صورة لسيارة للذكاء الاصطنا_الذي تدرب على الطيور، أو صورة بها تشويش (Static Noise) كثيف. أشار الذكاء الاصطنا_القديم إلى الضجيج؛ بينما أدرك الجديد: "أنا لا أعرف ما هذا"، وتوقف عن الإشارة إلى العشوائيات.

النتيجة:

أكثر موثوقية: يتوقف الذكاء الاصطنا_الاصطناعي عن الكذب عليك بالإشارة إلى الخلفية عندما يكون غير متأكد في الواقع.
أكثر كفاءة: يسلط الضوء على أجزاء أقل، ولكنها أفضل، من الصورة.
لا تدريب إضافي: الجزء الأفضل؟ لم يضطروا لإعادة تدريب الذكاء الاصطنا_الاصطناعي من الصفر. لقد أضافوا فقط هذا "اختبار الإجهاد" و"الفلتر" فوق الذكاء الاصطنا_الاصطنا_القديم. الأمر يشبه إعطاء نظارات جديدة لمحقق قديم بدلاً من توظيف محقق جديد.

ملخص في جملة واحدة

ابتكر المؤلفون نظاماً يجعل محققي الذكاء الاصطنا_الاصطنا_اليعترفون عندما يكونون غير متيقنين ويتجاهلون الأجزاء المربكة من الصورة، مما يضمن أن تفسيراتهم تظل دقيقة وموثوقة حتى عندما يصبح العالم فوضوياً أو يتغير.

إليك ملخص تقني مفصل لورقة البحث بعنوان "اختيار المجموعات الفرعية المدرك لعدم اليقين من أجل قابلية التفسير البصري القوية تحت تحولات التوزيع".

1. بيان المشكلة

تُستخدم نماذج الرؤية العميقة بشكل متزايد في التطبيقات الحرجة للسلامة (مثل القيادة الذاتية، والتصوير الطبي)، حيث تعد قابلية التفسير أمراً ضرورياً. وتعد طرق اختيار المجموعات الفرعية (Subset selection-based methods) نهجاً شائعاً للتفسير البصي، حيث تهدف إلى تحديد مناطق الصورة الأكثر تأثيراً (الرقع - patches) التي تدفع تنبؤ النموذج.

ومع ذلك، تحدد الورقة فجوة في القوة (robustness gap) حرجة:

الأداء ضمن التوزيع (ID Performance): تؤدي طرق اختيار المجموعات الفرعية الحالية (مثل تلك القائمة على التحسين شبه المحدب - submodular optimization) أداءً جيداً على البيانات المشابهة لتوزيع التدريب.
الفشل خارج التوزيع (OOD Failure): تحت ظروف تحولات التوزيع (مثل النطاقات المختلفة، أو التشويهات، أو الفئات المكملة)، يتدهور أداء هذه الطرق بشكل كبير. فهي تنتج تفسيرات فائضة، وغير مستقرة، وحساسة لعدم اليقين، وغالباً ما تسلط الضوء على ضوضاء الخلفية غير ذات الصلة أو رقع مجزأة بدلاً من الميزات ذات المعنى الدلالي.
القيود الحالية: تفتقر النهج الحالية إلى نمذجة مبدئية لعدم اليقين وتعتمد بشكل كبير على درجات الثقة التي تفشل في ظروف خارج التوزيع (OOD). كما أنها غالباً ما تتطلب تدريباً إضافياً أو نماذج مساعدة لتقدير عدم اليقين، مما يزيد من الأعباء الحسابية.

2. المنهجية

يقترح المؤلفون إطار عمل خفيف الوزن وقابل للتشغيل المباشر (plug-and-play) يدمج اختيار المجموعات الفرعية شبه المحدبة مع تقدير عدم اليقين التكيفي القائم على التدرج (gradient-based). الابتكار الجوهري هو درجة ثقة مشتقة من اضطرابات الأوزان (weight perturbations) توجه عملية اختيار رقع الصورة دون الحاجة إلى إعادة التدريب.

أ. دالات الهدف شبه المحدبة المدركة لعدم اليقين

يتم صياغة المشكلة كعملية تعظيم لدالة هدف $F(S)$ عبر مجموعة فرعية من مناطق الصورة $S$ . يقترح المؤلفون صيغتين محددتين:

$F_{attr}(S)$ للنسب البصري العام: يبني على إطار العمل الخاص بـ Chen وآخرون [4]، حيث يجمع بين درجات الفعالية، والاتساق، والتعاون. التعديل الرئيسي هو استبدال مصطلح الثقة القياسي بدرجة عدم يقين قائمة على التدرج ( $s_{conf}$ ) مبتكرة.
$F_{obj}(S)$ للتفسير على مستوى الكائن: مصمم لنماذج التأسيس (مثل التأسيس البصري - visual grounding). يدمج درجة عدم اليقين في إطار عمل البحث عن الدقة البصرية (VPS)، حيث يجمع بين "درجة الدليل" (دعم التحديد الموضعي) و"درجة التعاون" (الأهمية الجماعية).

ب. المكون الجوهري: درجة الثقة القائمة على التدرج ( $s_{conf}$ )

هذا هو المساهمة التقنية الرئيسية. بدلاً من الاعتماد على احتمالات Softmax، يقدر الأسلوب عدم اليقين عبر محاكاة عدم اليقين المعرفي (epistemic uncertainty) من خلال اضطرابات الأوزان التكيفية.

اضطراب الأوزان التكيفي: أثناء الاستدلال، يتم حقن ضوضاء غاوسية (Gaussian noise) في أوزان الشبكة. ومن الأهمية بمكان أن تكون مقاييس الضوضاء تكييفية:
- التحجيم على مستوى الطبقة: يتم تحجيم الضوضاء وفقاً للانحراف المعياري للأوزان في كل طبقة ( $\sigma_\ell$ ) لمراعاة اختلاف أحجام المعلمات.
- التعديل المدرك للمدخلات: يتم تعديل مقدار الضوضقة بناءً على مسافة المدخلات من مركز بيانات التدريب (باست مستخدم منطق مسافة ماهالانوبيس). إذا كان المدخل خارج التوزيع (OOD)، تزداد قوة الاضطراب ( $u(x) > 1$ )، مما يضخم الحساسية تجاه السلوك غير النمطي.
حساسية التدرج: يقوم النموذج بعدة تمريرات أمامية عشوائية ( $T$ ). لكل تمريرة، يتم حساب معايير التدرج (gradient norms) للمخرجات بالنسبة لتنشيطات الطبقات. تشير معايير التدرج العالية إلى حساسية عالية (ثقة منخفضة).
تجميع عدم اليقين: يتم تجميع معايير التدرج على مستوى الطبقة في متجه وصفي. يتم حساب درجة عدم اليقين النهائية كـ مسافة ماهالانوبيس منظمة بين هذا الوصف وتوزيع الأوصاف من مجموعة بيانات التدريب.
- $s_{conf}(S) = 1 - u_i$ ، حيث $u_i$ هي درجة عدم اليقين المعيارية.

ج. التحسين الجشع (Greedy Optimization)

يستخدم إطار العمل خوارزمية تعظيم جشعة لاختيار المجموعة الفرعية $S$ . بما أن دالات الهدف رتيبة وشبه محدبة (submodular)، فإن النهج الجشع يضمن حلاً ضمن نطاق $(1 - 1/e)$ من الحل الأمثل، مما يضمن الكفاءة والاختيار عالي الجودة.

3. المساهمات الرئيسية

الدليل التجريبي على فجوة القوة: يوضح المؤلفون أن طرق اختيار المجموعات الفرعية الحالية تعاني من تدهور حاد في الأداء (يصل إلى 40% في المقاييس) تحت مختلف تحولات OOD (المتصلة، المكملة، والموزعة تحويلياً).
إطار عمل مبتكر: طريقة خفيفة الوزن تجمع بين التحسين شبه المحدب وتقدير عدم اليقين التكيفي. لا تتطلب أي تدريب إضافي أو نماذج مساعدة، وتعمل فقط على نموذج أساسي مضبوط بدقة (fine-tuned backbone).
تقدير عدم اليقين التكيفي: آلية مبتكرة تستخدم اضطرابات الأوزان على مستوى الطبقة والمدركة للمدخلات لتوليد درجة ثقة قوية، مما يميز بفعالية بين مدخلات ID و OOD.
قابلية التطبيق في مهام مزدوجة: تم التحقق من صحة إطار العمل في كل من التصنيف دقيق التفاصيل (تحديد أنواع الطيور) والتفسير على مستوى الكائن (التأسيس البصري)، مما أظهر تحسينات في كل من إعدادات ID و OOD.

4. النتائج التجريبية

قيم المؤلفون طريقتهم في إعدادين تجريبيين باستخدام CUB-200-2011 (الطيور) و COCO (تحديد الكائنات) كبيانات ID، مع مجموعات بيانات OOD المقابلة (NABirds، CIFAR-100، iNaturalist، والنسخ المحولة منها).

المقاييس: تم التقييم باستخدام مساحة تحت منحنى الإدراج (Insertion AUC) (الأعلى أفضل) ومساحة تحت منحنى الحذف (Deletion AUC) (الأقل أفضل).
الأداء في التصنيف (CUB):
- حسنت الطريقة المقترحة باستمرار قيمة Insertion AUC مقارنة بالنماذج المرجعية (HSIC-Attribution + SMDL).
- التحسن في ID: زيادة بنسبة +1.7% إلى +5.0% في Insertion AUC.
- التحسن في OOD: مكاسب كبيرة تحت التحولات. على سبيل المثال، في NABirds (OOD مرتبط)، زادت Insertion AUC بنسبة +6.2% إلى +13.7%. وفي CIFAR-100 (OOD مكمل)، وصلت المكاسب إلى +10.1% إلى +12.3%.
الأداء في تحديد الكائنات (COCO/GroundingDINO):
- ضاعفت الطريقة قيمة Insertion AUC لأكثر من مرتين في مجموعات بيانات OOD المرتبطة (CIFAR-100) ومجموعات بيانات OOD المحولة (COCO Transformed)، مع زيادات بلغت +44.5% إلى +108.9% مقارنة بالنموذج المرجعي VPS.
- بينما زادت Deletion AUC أحياناً (مما يشير إلى وجود مقايضة)، حققت الطريقة تحسينات كبيرة في الاستقرار في سيناريوهات OOD محولة محددة.
التحليل النوعي: أظهرت المقارنات البصرية أن الطريقة المقترحة تختار مناطق مدمجة ومتماسكة دلالياً (مثل التركيز على منقار وعيني الطائر) حتى في ظروف OOD، بينما اختارت النماذج المرجعية مناطق خلفية أو رقعاً مجزأة.

5. الأهمية والخاتمة

تعالج هذه الورقة قصوراً حرجاً في قابلية التفسير الحالية للذكاء الاصطناعي: وهو نقص الموثوقية تحت تحولات التوزيع. من خلال دمج التحسين المدرك لعدم اليقين مباشرة في عملية اختيار المجموعة الفرعية، يقدم المؤلفون طريقة:

تعزز الثقة: تنتج تفسيرات تظل وفية لعملية اتخاذ القرار في النموذج حتى عندما تنحرف المدخلات عن بيانات التدريب.
تحسن التعميم: تسد الفجوة بين أداء ID و OOD دون التكلفة الحسابية لإعادة التدريب أو نماذج التجميع (ensembles).
تمكن النشر في العالم الحقيقي: تقدم حلاً عملياً وخفيف الوزن للتطبيقات الحرجة للسلامة حيث يكون فهم سلوك النموذج تحت الظروف غير المتوقعة أمراً بالغ الأهمية.

تخلص الورقة إلى أن اختيار المجموعات الفرعية المدفوع بعدم اليقين أمر ضروري لتفسير بصري شفاف وموثوق، مما يمهد الطريق لقابلية تفسير بصرية أكثر قوة في سيناريوهات العالم الحقيقي.