🤖 AI

DAVE: Distribution-aware Attribution via ViT Gradient Decomposition

تقدم الورقة البحثية DAVE، وهي طريقة عزو ذات أساس رياضي لنماذج المحولات الرؤية (Vision Transformers)، والتي تعمل على تفكيك تدرجات المدخلات لعزل المكونات المستقرة والمتساوية التباين محلياً والقضاء على الآثار المعمارية، مما يتيح توليد تفسيرات عالية الدقة ومستقرة على مستوى البكسل.

المؤلفون الأصليون: Adam Wróbel, Siddhartha Gairola, Jacek Tabor, Bernt Schiele, Bartosz Zieliński, Dawid Rymarczyk

نُشر 2026-02-09

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Adam Wróbel, Siddhartha Gairola, Jacek Tabor, Bernt Schiele, Bartosz Zieliński, Dawid Rymarczyk

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك روبوتًا ذكيًا جدًا (محول رؤية - Vision Transformer) ينظر إلى صورة ويقول: "هذه كرة قدم!" ولكن إذا سألت الروبوت: "لماذا اعتقدت ذلك؟" يعطيك إجابة مربكة. قد يشير إلى الصورة بأكملها بشكل غامض، أو والأسوأ من ذلك، قد يشير إلى نمط شبكي غريب موجود فقط بسبب الطريقة التي بُني بها الروبوت، وليس بسبب الكرة نفسها.

تقدم هذه الورقة أداة جديدة تسمى DAVE (التفسير القائم على التوزيع عبر تفكيك تدرج محول الرؤية) لإصلاح هذا الارتباك. فكر في DAVE كـ كشاف عالي الدقة ومزود بخاصية إلغاء الضجيج يساعدنا على رؤية ما ينظر إليه الروبوت بالفعل بدقة.

إليك كيف يعمل، مقسمًا إلى مفاهيم بسيطة:

1. المشكلة: "الوشوشة" في الراديو

عندما تحاول نماذج الذكاء الاصطنا_الحالية شرح قراراتها، فإنها غالبًا ما تنتج "ضجيجًا" أو "آثارًا اصطناعية".

التشبيه: تخيل أنك تستمع إلى محطة راديو، ولكن هناك طنين مستمر ونمط شبكي غريب يتداخل مع الموسيقى. يمكنك سماع الأغنية (التنبؤ)، لكن الوشوشة (التفسير) تجعل من الصعب معرفة أي آلة تعزف أي نوتة.
الواقع: في محولات الرؤية (Vision Transformers)، الطريقة التي يعالج بها النموذج الصور (تقسيمها إلى قطع واستخدام "الانتباه") تخلق هذه الأنماط الاصطناعية. الطرق الحالية غالبًا ما تتشتت بهذا الضجيج، فتشير إلى خطوط الشبكة بدلًا من الكائن الفعلي.

2. الحل: فصل الإشارة عن الضجيج

يعمل DAVE عن طريق تفكيك "عملية التفكير" لدى الروبوت (التدرج/Gradient) رياضيًا إلى جزأين متميزين:

الجزء أ: الإشارة الحقيقية (التحول الفعال): هذا هو الجزء من دماغ الروبوت الذي يتغير فعليًا بناءً على ما يوجد في الصورة. إذا حركت كرة القدم، فهذا الجزء يتحرك معها. هذه هي المعلومات المفيدة.
الجزء ب: غرائب الروبوت (تباين المُشغل): هذا هو الجزء الذي يتغير لمجرد أن تروس الروبوت الداخلية تحركت قليلًا، حتى لو لم تتغير الصورة. هذا هو "الضجيج" أو "النمط الشبكي".

المجاز: تخيل طباخًا يتذوق حساءً.

الإشارة: يقول الطباخ: "إنه مالح بسبب الملح". (هذا هو السبب الحقيقي).
الضوضاء: يقول الطباخ: "إنه مالح لأن الملعقة التي أحملها تهتز". (هذا أثر ناتج عن الأداة، وليس من الحساء).
مهمة DAVE: يقوم DAVE بتصفية الملعقة المهتزة ويخبرك: "إنه بسبب الملح".

3. الخدعة السحرية: فلتر "اليد الثابتة"

بمجرد أن يفصل DAVE بين الإشارة الحقيقية وغرائب الروبوت، فإنه يقوم بحركة ذكية تسمى الترشيح المتماثل (Equivariant Filtering).

التشبيه: تخيل أنك تحاول العثور على وجه معين في حشد من الناس. إذا أملت رأسك قليلًا، يظل الوجه هو نفسه. إذا حركت عينيك قليلًا، يظل الوجه موجودًا.
كيف يستخدم DAVE هذا: يسأل DAVE النموذج: "إذا قمت بتدوير هذه الصورة قليلًا أو حركت بكسلات قليلة، هل يتغير تفسيرك؟"
- إذا كان التفسير يقفز بشكل عشوائي، يعرف DAVE أن هذا "ضجيج" غير مستقر ويقوم بالتخلص منه.
- إذا ظل التفسير ثابتًا (مثل بقاء الوجه كما هو)، يحتفظ به DAVE.
النتيجة: هذا يخلق خريطة سلسة ومستقرة تسلط الضوء على الكائن الفعلي (مثل كرة القدم) دون الآثار الشبكية المتعرجة.

4. اللمسة النهائية: تنعيم الحواف الخشنة

أخيرًا، يطبق DAVE "تغبيشًا" لطيفًا (ترشيح الترددات المنخفضة) على النتيجة.

التشبيه: فكر في النظر إلى صورة عالية الدقة من خلال نافذة ضبابية قليلًا. الضباب يزيل ذرات الغبار الصغيرة المشتتة (ضجيج الترددات العالية) ولكنه يبقي الصورة الأساسية واضحة.
النتيجة: الخريطة النهائية تكون سلسة، دقيقة، وتسلط الضوء بالضبط على البكسلات التي استخدمها النموذج لاتخاذ قراره.

ماذا وجدوا؟

اختبر المؤلفون DAVE على العديد من نماذج الذكاء الاصطناعي المختلفة (مثل DeiT و DINO) باستخدام قاعدة بيانات ضخمة من الصور (ImageNet).

دقة أفضل: عندما تحققوا مما إذا كان تفسير الذكاء الاصطناعي يشير بالفعل إلى الكائن، كان DAVE أفضل بكثير من الطرق السابقة. لقد وجد الكائن بشكل متكرر أكثر.
ضجيج أقل: الخرائط المرئية التي أنتجها DAVE لم تكن تحتوي على تلك الأنماط الشبكية المزعجة. لقد بدت كإضاءات طبيعية يمكن للبشر فهمها.
الاستقرار: إذا غيروا الصورة قليلًا (تدويرها أو إزاحتها)، ظل تفسير DAVE كما هو، مما يثبت أنه كان ينظر إلى الكائن، وليس إلى البكسلات.

باختصار: DAVE هو طريقة جديدة للاستماع إلى نماذج الذكاء الاصطناعي تقوم بتصفية "الوشوشة" الناتجة عن بنية النموذج نفسه، مما يمنحنا رؤية واضحة، مستقرة، ودقيقة لما يراه الذكاء الاصطناعي بالفعل.

ملخص تقني: DAVE – الإسناد الواعي بالتوزيع عبر تفكيك تدرج المحولات الرؤيوية (ViT)

1. بيان المشكلة

حققت المحولات الرؤيوية (ViTs) أداءً فائقاً في الرؤية الحاسوبية، لكنها تفرض تحديات كبيرة أمام الذكاء الاصطنا ماده القابل للتفسير (XAI). فخلافاً للشبكات العصبية الالتفافية (CNNs)، تعالج المحولات الرؤيوية الصور كمتتاليات من رموز الرقع (patch tokens) باستخدام آليات الانتباه. ويؤدي هذا الهيكل إلى ظهور عيوب محددة في خرائط الإسناد (attribution maps):

العيوب الهيكلية: غالباً ما تُظهر التفسيرات القائمة على التدرج والانتباه أنماطاً تشبه الشبكة أو عيوب "شبكة الرقع" (patch-grid) الناتجة عن عملية التجزئة (tokenization) وتوجيه الانتباه.
عدم الاستقرار: كثيراً ما تنتج الطرق الحالية إسنادات غير مستقرة على مستوى البكسل، أو تضطر للاعتماد على تفسيرات خشنة على مستوى الرقع تفتقر إلى الأدلة البصرية دقيقة التفاصيل.
الحساسية: تلتقط طرق التدرج القياسية كلاً من التحويل الفعال للمدخلات والمخرجات وبين تباين المشغل (operator) بالنسبة للمدخلات. وغالباً ما يؤدي الأخير إلى تضخيم المكونات عالية التردد وغير المستقرة محلياً، مما يؤدي إلى تفسيرات مشوشة.

يفترض البحث أن الحصول على خرائط إسناد مستقرة، وعالية الدقة، ومتسقة مع الفئة يظل تحدياً مفتوحاً للمحولات الرؤيوية، مما يستلي زم الأمر إلى منهجية يمكنها فصل الميزات الدلالية الحقيقية عن الضجيج الناتج عن البنية الهيكلية.

2. المنهجية: DAVE

يقترح المؤلفون DAVE (الإسناد الواعي بالتوزيع عبر تفكيك تدرج ViT)، وهو إطار عمل قائم على أسس رياضية يقوم بتفكيك تدرج المدخلات لعزل التحويل الفعال والمستقر للنموذج.

2.1. التفكيك الهيكلي للتدرج

المساهمة النظرية الجوهرية هي تفكيك مشتق الطبقة. يصيغ المؤلفون طبقات ViT كخرائط قيم مشغل قابلة للاشتقاق $L(X)$ متبوعة بانحياز (bias). وقد تبين أن مشتق الطبقة $F(X)$ يتكون من حدين متميزين (المعادلة 3):

التحويل الفعال ( $L(X)$ ): الفعل المباشر للطبقة على مدخلاتها المشروطة بالمدخلات. ويمثل هذا الخريطة المستقرة المستخدمة للتنبؤ.
تباين المشغل: مشتق المشغل $L(X)$ بالنسبة للمدخلات. يلتقط هذا الحد كيفية تغير الآليات الداخلية تحت تأثير الاضطرابات الصغيرة، وقد تم تحديده كمصدر لعدم الاستقرار عالي التردد والعيوب.

يقوم DAVE باستبعاد حد تباين المشغل، والاحتفاظ فقط بـ التحويل الفعال كإشارة إسناد أساسية.

2.2. الترشيح المتماثل (Equivariant Filtering)

لمعالجة الأنماط الناتجة عن البنية (مثل عيوب الشبكة الناتجة عن تضمين الرقع) والتي تكون مستقرة عبر المدخلات ولكنها غير مفيدة لتنبؤات محددة، يطبق DAVE مشغلاً مستوحى من رينولدز (Reynolds-inspired operator).

معيار التماثل (Equivariance Criterion): تفترض المنهجية أن خرائط الإسناد يجب أن تتحول بشكل متسق تحت التحويلات المكانية الصغيرة (مثل الدورات أو الإزاحات) للمدخلات.
الترشيح: من خلال حساب متوسط التحويل الفعال عبر جوار محلي من التحويلات المكانية (المأخوذة من مقياس احتمالي $\nu$ )، يقوم DAVE بكبح المكونات التي تنتهك التماثل المحلي. وهذا يعزل إشارات الإسناد التي تتغير بشكل متسق مع المحتوى الدلالي للمدخلات.

2.3. التثبيت منخفض التمرير (Low-Pass Stabilization)

لزيء المزيد من العيوب عالية التردد، يطبق DAVE عملية ترشيح منخفض التمرير. ويتم تحقيق ذلك عن طريق أخذ القيمة المتوقعة للتحويل المتماثل تحت اضطرابات غاوسية صغيرة ( $\epsilon$ ).

رياضياً، هذا يكافئ عملية التواء (convolution) للتحويل المتماثل مع نواة تنعيم $K$ (المعادلة 7).
خلافاً لـ SmoothGrad (الذي يحسب متوسط التدرجات الخام)، يقوم DAVE بحساب متوسط التحويل الفعال، مما يؤدي إلى تثبيت الإسناد دون إعادة إدخال عيوب "تباين المشغل" المستبعدة.

2.4. خريطة الإسناد النهائية

يتم حساب خريطة إسناد DAVE النهائية عن طريق تطبيق التحويل الفعال الواعي بالتوزيع على المدخلات عبر الضرب العنصري:
$\text{DAVE}(X) = \tilde{W}^{eq}_L(X) \odot X$
حيث أن $\tilde{W}^{eq}_L(X)$ هو القيمة المتوقعة للمشغل الفعال المتحول عبر التحويلات المكانية والضجيج.

3. المساهمات الرئيسية

إطار عمل رياضي: تفكيك مهيكل لتدرج المدخلات يفصل التحويل الفعال (مدخل-مخرج) عن تباين المشغل، مما يوفر أساساً نظرياً لإسناد مستقر لـ ViT.
خوارزمية DAVE: تنفيذ عملي للمحولات الرؤيوية يستفيد من الخصائص الهيكلية لكبح عيوب الرقع والانتباه، مما ينتج إسنادات دقيقة المستوى (pixel-level) مستقرة وعالية الدقة.
تعدد الاستخدامات: إثبات أن الطريقة تعمل بفعالية على كل من النماذج الخاضعة للإشراف الكامل (مثل DeiT و ViT) والنماذج ذاتية الإشراف (مثل DINO)، بالإضافة إلى البنى ذات التفسير المتأصل (شبكات B-cos).

4. النتائج التجريبية

قام المؤلفون بتقييم DAVE على مجموعة بيانات ImageNet-1k باستخدام نماذج ViT خلفية (ViT-B/16, DeiT-B/16, DeiT-III-B/16, DINO ViT-B/16) ونماذج B-cos.

4.1. أداء التحديد الموضعي (Localization Performance)

لعبة تحديد الشبكة (Grid Pointing Game - GridPG): تفوق DAVE على جميع النماذج المرجعية (بما في ذلك I×G, Integrated Grients, SmoothGrad, LeGrad, AttnLRP, و Chefer-LRP).
- في نموذج DeiT-III-B/16، حقق DAVE نسبة 65.76%، بتحسن قدره +11.92 نقطة مئوية عن أفضل طريقة منافسة.
- في نموذج DeiT-B/16، حقق 63.52% (تحسن قدره +8.05 نقطة مئوية).
لعبة تحديد الطاقة (Energy Pointing Game - EnergyPG): حقق DAVE أعلى الدرجات في DeiT-B/16 (82.23%) و DeiT-III-B/16 (82.43%)، وتحسن بشكل ملحوظ في DINO-B/16 (83.38%).
نماذج B-cos: حسن DAVE التفسيرات المتأصلة لشبكات B-cos، محققاً تحسناً قدره +9.14 نقطة مئوية في EnergyPG على B-cos-ViT.

4.2. الأمانة (حذف البكسل - Faithfulness)

باستخدام منحنيات حذف البكسل (إزالة البكسلات من الأقل أهمية إلى الأكثر أهمية)، أظهر DAVE المنحنيات الأكثر تسطحاً، مما يشير إلى أن ثقة النموذج في التنبؤ ظلت مستقرة لفترة أطول أثناء إزالة البكسلات. وهذا يشير إلى أن إسنادات DAVE أكثر اتساقاً مع عملية اتخاذ القرار الفعلية للنموذج مقارنة بالطرق السابقة.

4.3. التحليل النوعي

أظهرت المقارنات النوعية أن DAVE ينتج خرائط أكثر حدة ومحاذية للأجسام مع تقليل ضجيج الخلفية.
على عكس النماذج المرجعية (مثل SmoothGrad و IntGrad) التي غالباً ما أظهرت استجابات منتشرة أو عيوب شبكة الرقع، قام DAVE باستمرار بتسليط الضوء على الميزات ذات الدلالة المعنوية (مثل الحواف والأجزاء المميزة) عبر مختلف متغيرات ViT.

5. الأهمية والادعاءات

يزعم البحث أن DAVE يعالج الفجوة الحرجة في قابلية تفسير ViT من خلال توفير آلية لإنتاج خرائط إسناد مستقرة، عالية الدقة، ومتسقة مع الفئة.

الموثوقية: من خلال عزل التحويل الفعال وكبح تباين المشغل والعيوب الناتجة عن البنية، يقدم DAVE آلية أكثر موثوقية لتدقيق نماذج الرؤية عالية القدرة.
القابلية للتطبيق: تُقدم المنهجية كأداة للممارسين لتحديد انحياز النموذج، وتصحيح الأخطاء في التصنيف، وتعزيز التعاون بين الإنسان والذكاء الاصطناٍ عبر توفير أدلة بصرية تتوافق مع الإدراك البشري.
التواضع: يقر المؤلفون بأن عامل المتوسط (averaging operator) يضيف عبئاً حسابياً أكبر مقارنة بطرق التدرج الخام. ويقترحون أن العمل المستقبلي يمكن أن يركز على أخذ عينات أكثر كفاءة أو الاختيار التلقائي لمجموعات التحويل لتقليل هذه التكلفة.

باختيرة، يوفر DAVE نهجاً صارماً رياضياً لفصل "الإشارة" الخاصة بتنبؤ ViT عن "الضجيج" الخاص بتنفيذ بنيتها الهيكلية، مما ينتج تفسيرات دقيقة مكانياً وقوية.