💻 computer science

Saliency-R1: Enforcing Interpretable and Faithful Vision-language Reasoning via Saliency-map Alignment Reward

يُعد Saliency-R1 إطار عمل يعزز قابلية التفسير والأمانة في نماذج الرؤية واللغة من خلال توظيف تقنية خريطة بروز مبتكرة وتحسين السياسة النسبية للمجموعات (GRPO) لمواءمة عمليات الاستدلال مع المناطق البصرية الحرجة، مما يقلل الاعتماد على الإشارات النصية والاستجابات غير المستندة إلى أسس بصرية.

المؤلفون الأصليون: Shizhan Gong, Minda Hu, Qiyuan Zhang, Chen Ma, Qi Dou

نُشر 2026-04-07

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Shizhan Gong, Minda Hu, Qiyuan Zhang, Chen Ma, Qi Dou

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك مساعداً آلياً ذكياً ومطلعاً يسمى "نموذج الرؤية واللغة" (VLM). يمكن لهذا الروبوت النظر إلى الصور والإجابة على الأسئلة حولها. إنه بارع في حل الألغاز، لكنه يعاني أحياناً من عادة سيئة: فهو يكذب بشأن طريقة تفكيره.

أحياناً، عندما تسأله: "هل يوجد قط في هذه الصورة؟"، قد يجيب بـ "لا" لأنه قرأ كلمة "كلب" في الوصف النصي، رغم أنه لم ينظر فعلياً إلى القط في الصورة. أو قد يقول "نعم" ويختلق قصة عن قط غير موجود أصلاً. يُسمى هذا "الهلوسة" (Hallucination)، وهو ما يجعل الروبوت غير جدير بالثقة.

تقدم الورقة البحثية التي شاركتَها طريقة تدريب جديدة تسمى Saliency-R1. فكر في الأمر كأنه "معسكر تدريب للصدق" لهذه الروبات. إليك كيف يعمل ذلك، مقسماً إلى تشبيهات بسيطة:

1. المشكلة: الروبوت "الحالم"

تخيل طالباً يؤدي اختباراً.

الطالب السيئ: يقرأ السؤال، ثم يغمض عينيه ويخمن الإجابة بناءً على ما "يعتقد" أنه يعرفه، متجاهلاً الكتاب المدرسي (الصورة) تماماً. قد يصيب الإجابة بالصدفة، لكن منطقه يكون زائفاً.
الهدف: نريد من الطالب أن ينظر فعلياً إلى الكتاب المدرسي، ويشير إلى الفقرة المحددة التي تحتوي على الإجابة، ويشرح منطقه بناءً عليها.

2. الحل: "المصباح اليدوي" (خرائط البروز - Saliency Maps)

أعطى الباحثون الروبوت مصباحاً يدوياً خاصاً.

في كل مرة يفكر فيها الروبوت في كلمة (مثل "قط" أو "أزرق")، يسطع المصباح فوراً على الجزء المحدد من الصورة الذي جعله يفكر في تلك الكلمة.
إذا قال الروبوت: "الطائر لديه ذيل أصفر"، فيجب أن يضيء المصباح بقوة على ذيل الطائر.
إذا كان الروبوت يهلوس ويتحدث عن ذيل غير موجود، فسيكون المصباح مشتعلاً في مساحة فارغة أو في جزء خاطئ من الصورة.

لماذا هذا مميز؟
عادةً، محاولة معرفة لماذا اتخذ الروبوت قراراً ما تشبه محاولة رؤية التروس داخل ساعة مغلقة أثناء تشغيلها؛ فالأمر بطيء وصعب. هذا "المصباح اليدوي" الجديد سريع للغاية ولا يبطئ الروبوت، فهو يستخدم فقط "الانتباه" الداخلي للروبوت (ما ينظر إليه بالفعل) لرسم الخريطة.

3. التدريب: "القلم الأحمر للمعلم" (GRPO)

الآن، كيف نعلم الروبوت استخدام المصباح اليدوي بشكل صحيح؟

الإعداد: أنشأ الباحثون مجموعة بيانات حيث رسم البشر مربعات حول الأجزاء الصحيحة من الصور (على سبيل المثال، مربع حول ذيل الطائر).
اللعبة: يحاول الروبوت الإجابة على سؤال ما. يقوم النظام بمقارنة "خريطة المصباح اليدوي" الخاصة بالروبوت مع "المربع الأحمر" الخاص بالإنسان.
- التوافق الجيد: إذا كان مصباح الروبوت يسطع داخل مربع الإنسان تماماً، فإنه يحصل على نجمة ذهبية (مكافأة).
- التوافق السيئ: إذا كان مصباح الروبوت يسطع على الخلفية أو على شجرة عشوائية، فإنه يحصل على عبوس (لا توجد مكافأة).
المنهجية (GRPO): يشبه الأمر مدرباً يقود مجموعة من الطلاب عبر تمرين تدريبي. يترك المدربهم يجربون 8 طرق مختلفة للإجابة على نفس السؤال. أولئك الذين نظروا إلى المكان الصحيح يحصلون على النجمة الذهبية؛ وأولئك الذين استغرقوا في أحلام اليقظة لا يحصلون على شيء. بمرور الوقت، يتعلم الروبوت: "مهلاً، إذا أردت الحصول على نجمة ذهبية، يجب أن أنظر فعلياً إلى ذيل الطائر!"

4. النتيجة: محقق جدير بالثقة

بعد هذا التدريب، يصبح الروبوت أفضل بكثير في أمرين:

الأمانة (Faithfulness): يتوقف عن اختلاق الحقائق. إذا قال "الذيل أصفر"، فهو ينظر فعلياً إلى الذيل الأصفر.
القابلية للتفسير (Interpretability): يمكنك الآن رؤة بالضبط أين كان ينظر عندما اتخذ قراره. الأمر يشبه قول الروبوت: "أنا أعرف أن الإجابة هي 'لا' لأنني نظرت هنا تماماً إلى الذيل الأسود، وليس إلى الجسم الأصفر".

ملخص التشبيه

فكر في SClency-R1 كتعليم محقق لارتداء سترة مضيئة في الظلام.

قبل: كان المحقق يحل القضايا لكنك لا تعرف أبداً ما إذا كان قد وجد الدليل أم أنه مجرد تخمين.
بعد: يرتدي المحقق سترة تضيء على الأدلة التي يستخدمها. إذا أشار إلى دليل، تضيء السترة عليه. إذا أشار إلى الفراغ، تكون السترة مظلمة.
التدريب (GRPO) هو رئيس الشرطة الذي يكافئ المحقق فقط عندما تضيء السترة على الأدلة الحقيقية.

باخت-اختصار: يجبر Saliency-R1 الذكاء الاصطناعي على "إظهار خطوات عمله" من خلال التأكد من أن تركيزه الداخلي يتطابق مع الدليل البصري الحقيقي، مما يجعله أكثر صدقاً، وموثوقية، وأسه أسهل في الثقة به من قبل البشر.

إليك ملخص تقني مفصل لورقة البحث بعنوان "Saliency-R1: فرض التفسير والصدق في الاستنتاج بين الرؤية واللغة عبر مكافأة محاذاة خريطة البروز (Saliency-map Alignment Reward)."

1. بيان المشكلة

حققت نماذج الرؤية واللغة (VLMs) نجاحاً كبيراً، لكنها تعاني من مشكلات حرجة تتعلق بالموثوقية:

الاعتماد المفرط على النص (Text-Over-Reliance): غالباً ما تعطي النماذج الأولوية للإشارات النصية على الأدلة البصرية، مما يؤدي إلى إجابات مستمدة من الأولويات اللغوية بدلاً من محتوى الصورة.
الهلوسة (Hallucination): تولد النماذج تفاصيل غير مستندة إلى الواقع أو مختلقة لا يدعمها المدخل البصري.
الاستنتاج غير الصادق (Unfaithful Reasoning): حتى عندما تولد النماذج تفسيرات "سلسلة التفكير" (CoT)، فإن عملية الاستنتاج غالباً لا تتوافق مع الأدلة البصرية المستخدمة للوصول إلى الإجابة النهائية. قد يكون "التفكير" مجرد تبرير لاحق (post-hoc rationalization) وليس انعكاساً صادقاً لعملية اتخاذ القرار.

تعتبر طرق التفسير الحالية (مثل Grad-CAM أو Integrated Gradients) مكلفة حوسبياً (تتطلب انتشاراً عكسياً أو تمريرات أمامية متعددة) وليست محسنة لطبيعة التنبؤ المتسلسل لنماذج الرؤية واللغة.

2. المنهجية: Saliency-R1

يقترح المؤلفون Saliency-R1، وهو إطار عمل يعزز استنتاج نماذج الرؤية واللغة من خلال محاذاة الانتباه الداخلي للنموذج (البروز/Saliency) مع المناطق المحددة من قبل البشر كحقائق أرضية (Ground Truth) باستخدام التعلم التعزيزي.

أ. توليد خريطة بروز فعالة على مستوى الرمز (Token-Level)

بدلاً من استخدام الطرق القائمة على التدرج (Gradient-based)، قدم المؤلفون تقنية تفكيك اللوجيت (Logits Decomposition) بناءً على بنية المحولات (Transformer):

المساهمة المباشرة: يقومون بتفكيك اللوجيتات النهائية للرمز المولد إلى المساهمات المباشرة لجميع رموز السياق السابقة.
عزل الرموز البصرية: من خلال عزل المساهمات من الرموز البصرية وإعادة ترتيبها وفقاً لترتيب رقع الصور (Image Patches)، يقومون بتوليد خريطة بروز.
الكفاءة: هذه الطريقة لا تتطلب أي تمريرات أمامية أو خلفية إضافية. فهي تستفيد من أوزان الانتباه وذاكرة التخزين المؤقت لـ KV الموجودة بالفعل، مما يجعلها فعالة حوسبياً ومناسبة للدمج في مسارات التدريب في الوقت الفعلي.
تطبيق ReLU: يتم تجاهل المساهمات السلبية (عبر دالة ReLU) للتركيز على التأثير الإيجابي.

ب. التجميع الشامل عبر انتشار الانتباه (Attention Rollout)

لتتبع كيفية تدفق المعلومات البصرية عبر عملية الاستنتاج وصولاً إلى الإجابة النهائية:

آلية عنق الزجاجة (Bottleneck Mechanism): يعامل الإطار "رموز التفكير" (CoT) كعنق زجاجة.
انتشار الانتباه (Attention Rollout): يقوم بحساب وزن الانتباه من الرموز البصرية إلى رموز التفكير ( $A_{vt}$ ) ومن رموز التفكير إلى رموز الإجابة ( $A_{ta}$ ). ويتم حساب الانتباه الشامل من البصري إلى رموز الإجابة كـ $\tilde{A}_{va} = A_{vt} \times A_{ta}$ .
التصور (Visualization): يكشف هذا عن المناطق في الصورة التي تقود كل من خطوات الاستنتاج الوسيطة والاستنتاج النهائي، مما يفلتر الضوضاء الخلفية غير ذات الصلة.

ج. التدريب عبر تحسين السياسة النسبي للمجموعات (GRPO)

الابتكار الجوهي هو استخدام المحاذاة بين خريطة البروز المولدة والتعليقات البشرية كـ إشارة مكافأة (Reward Signal) في إطار عمل التعلم التعزيزي.

دالة المكافأة ( $R_{overall}$ ):
1. $R_{accuracy}$ : مكافأة ثنائية للإجابات الصحيحة (يتم تقييمها بواسطة حكم LLM).
2. $R_{format}$ : مكافأة للهيكل المخرجي الصحيح (مثل استخدام وسوم <thought>).
3. $R_{saliency}$ : درجة المحاذاة (Alignment Score)، وتُحسب كنسبة كتلة البروز الواقعة ضمن صناديق الإحاطة المحددة بشرياً (المناطق الحرجة) إلى إجمالي كتلة البروز على كامل الصورة.
التحسين (Optimization): يتم ضبط النموذج بدقة باستخدام GRPO لتعظيم هذه المكافأة المركبة. وهذا يشجع النموذج على تركيز انتباهه على المناطق البصرية ذات الصلة بالمهمة أثناء عملية الاستنتاج.

3. المساهمات الرئيسية

تقنية بروز مبتكرة: طريقة لتوليد خرائط بروز تعتمد على الانتباه وخفيفة الوزن، تسلط الضوء على المناطق الهامة لكل رمز دون عبء حوسبي إضافي (لا تتطلب انتشاراً عكسياً).
تصور تتبع الاستنتاج: آلية انتشار الانتباه التي تصور تدفق المعلومات البصرية عبر "عنق زجاجة التفكير" وصولاً إلى الإجابة النهائية، مما يكشف عن مسارات الاستنتاج غير الصادقة.
مكافأة محاذاة البروز: أول عمل يستخدم محاذاة خريطة البروز مع التعليقات البشرية كإشارة مكافأة خلال مرحلة ما بعد التدريب (RL)، مما يوجه النموذج بفعالية لـ "النظر" إلى الأجزاء الصحيحة من الصورة.
تقييم شامل: أظهر تحسينات في الصدق، وقابلية التفسير، والأداء العام لمهام الأسئلة والأجوبة البصرية (VQA) عبر معايير متنوعة.

4. النتائج التجريبية

قيم المؤلفون Saliency-R1 على نماذج Qwen2.5-VL (بأحجام 3B و 7B) عبر 10 معايم (مثل MMMU-Pro، MMBench، POPE، ChartQA).

الصدق (Faithfulness): في اختبارات الحذف/الإدراج (التي تقيس التأثير السببي للمناطق المظللة)، تفوق Saliency-R1 أو عادل الطرق الرائدة مثل Grad-CAM و ATTN-LRP و TAM، مما يثبت أن خرائط البروز الخاصة به أكثر صدقاً لعملية اتخاذ القرار الفعلية للنموذج.
الأداء:
- VQA العام: حقق Saliency-R1 (نسخة 7B) أداءً رائداً (SOTA)، متفوقاً على كل من النماذج مفتوحة المصدر العامة ونماذج الاستنتاج المتخصصة.
- تقليل الهلوسة: تحسن ملحوظ في POPE (هلوسة الكائنات) و ChartQA (الاستنتاج البصري/OCR)، حيث تفوق نموذج 7B على النموذج الأساسي بنسبة 4.2% في ChartQA.
- المقارنة: تجاوز النماذج التجارية (مثل GPT-4o و Claude-3.5 Sonnet) في معايير محددة مثل MME و ScienceQA.
القابلية للتفسير:
- كمياً: تحسنت مقاييس "لعبة الإشارة" (Pointing Game - PG) و Energy-PG بشكل كبير (على سبيل المثال، +14.14% في دقة PG) مقارنة بالنموذج الأساسي.
- نوعياً: أظهرت التصورات أنه بينما كانت النماذج الأساسية غالباً ما تنتبه إلى الخلفيات غير ذات الصلة، ركز Saliency-R1 بدقة على المناطق الحرجة (مثل ذيل الطائر، أو نص محدد في مخطط بياني)، مما نتج عنه مسارات استنتاج أكثر إيجازاً ودقة.
دراسات الاستئصال (Ablation Studies):
- أدى إزالة مكافأة البروز (التدريب باستخدام GRPO القياسي فقط) إلى انخفاض الأداء، مما يؤكد ضرورة قيد المحاذاة.
- استخدام مكافأة البروز وحدها (بدون مكافأة الدقة) أعطى نتائج تنافسية، مما يشير إلى أن إشارة المحاذاة هي بديل قوي للصحة.

5. الأهمية

الذكاء الاصطناعي الموثوق: يعالج Saliency-R1 طبيعة "الصندوق الأسود" لنماذج الرؤية واللغة من خلال ضمان أن عملية الاستنتاج مستندة بصرياً، مما يقلل الهلوسة ويزيد الموثوقية في المجالات الحرجة للسلامة (مثل التشخيص الطبي، والقيادة الذاتية).
الكفاءة: من خلال إلغاء الحاجة إلى حسابات التدرج المكلفة أو التمريرات الأمامية المتعددة للتفسير، فإن الطريقة قابلة للتوسع ويمكن دمجها في مسارات تدريب RL القياسية.
تحول في النموذج المعرفي: ينتقل العمل من مجرد "صحة الإجابة" إلى تحسين عملية الاستنتاج، مما يجبر النماذج على محاذاة آليات الانتباه الداخلية لديها مع توقعات البشر فيما يتعلق بالأهمية البصرية.

في الختام، يوفر Saliency-R1 إطار عمل قوياً وفعالاً لجعل نماذج الرؤية واللغة أكثر قابلية للتفسير والصدق، مما يسد الفجوة بين قدرات الاستنتاج عالية المستوى والفهم البصري الراسخ.