Locating and Editing Figure-Ground Organization in Vision Transformers

إليك ملخص تقني مفصل لورقة البحث "تحديد وتعديل تنظيم الشكل-الأرضية في محولات الرؤية (Vision Transformers)" من تأليف ستيفان أرنولد وريني غروبنر.

1. بيان المشكلة

أظهرت محولات الرؤية (ViTs) قدرة على دمج الإشارات المحلية في أشكال عالمية، وهو ما يتوافق غالباً مع المبادئ الإدراكية البشرية المعروفة بـ قوانين الجشطالت (Gestalt laws). وتحديداً، يظهر البشر انحيازاً قوياً نحو إدراك المناطق المحدبة كأشكال (الشكل/المقدمة) والمناطق المقعرة كأرضية (الخلفية). وبينما تشير الدراسات السلوكية إلى أن محولات الرؤية تستوعب هذا "الانحياز للمحدب"، إلا أنه لا يزال من غير الواضح:

• أين يتم تحقيق هذا التفضيل في بنية النموذج.
• كيف يحل النموذج الصراع بين الأدلة الهندسية المحلية (مثل فجوة مقعرة) والمبادئ التنظيمية العالمية (مثل الغلاف المحدب).
• ما إذا كان هذا الانحياز خاصية ناشئة سلبية أم آلية نشطة وقابلة للتحكم مدفوعة ببنى فرعية محددة.

2. المنهجية

يستخدم المؤلفون نهج التفسير الآلي (mechanistic interpretability) لتشريح العمليات الداخلية لنموذج BEiT (وهو محول رؤية تم تدريبه باستخدام هدف النمذجة المقنعة).

أ. المحفز التجريبي: الصراع الإدراكي

لإنشاء صراع منضبط، قام المؤلفون بتخليق 10,000 شكل "سهم" (رباعيات أضلاع غير محدبة).

• منطقة الصراع: عُرِّفت بأنها الفرق الهندسي بين شكل السهم ($S$) وغلافه المحدب ($H(S)$). رياضياً: $M = H(S) \setminus S$.
• المهمة: يُعرض على النموذج شكل السهم حيث تكون منطقة الصراع $M$ محجوبة (masked).
  • الإكمال المحدب: إذا قام النموذج بملء الحجب لتشكيل مثلث صلب (الغلاف المحدب)، فهو يعطي الأولوية للمبدأ العالمي.
  • الإكمال المقعر: إذا حافظ النموذج على الفجوة (شكل السهم الأصلي)، فهو يعطي الأولوية للأدلة الهندسية المحلية.
• فضاء المخرجات المنفصل: على عكس نموذج MAE (الذي يسترجع البكسلات)، يستخدم BEiT كتاب رموز بصري منفصل. وهذا يسمح بمعاملة مهمة الإكمال كمشكلة تصنيف، مما يتيح قياساً دقيقاً لدرجات اللوجيت (logits) للرموز "المحدبة" مقابل "المقعرة".

ب. تقنيات التحليل

1. إسناد اللوجيت (Logit Attribution):

   • يقوم المؤلفون بتفكيك المجرى المتبقي (residual stream) لعزل مساهمة مكونات محددة (الطبقات، رؤوس الانتباه، وحدات MLP) في اللوجيت النهائي.
   • يحددون اتجاهاً للشكل-الأرضية في فضاء كتاب الرموز: وهو الفرق بين مجموع المتجهات للرموز التي تمثل الإكمال المحدب ($T_{figure}$) والخلفية المقعرة ($T_{ground}$).
   • من خلال إسقاط مخرجات المكونات على هذا الاتجاه، يحسبون درجة قياسية تشير إلى ما إذا كان المكون يفضل التحدب (موجب) أو التقعر (سالب).

2. عدسة الانتباه وتدرج التنشيط (Attention Lens & Activation Scaling):

   • العدسة: تفكيك طبقة الانتباه لقياس التأثير المباشر لرؤوس انتباه فردية على فرق اللوجيت.
   • التدخل: تطبيق تدرج التنشيط (ضرب تنشيط رأس معين في ثابت $\alpha$) لاختبار السببية. إذا كان الرأس هو "بذرة" الانحياز، فإن خفض حجمه يجب أن يزيح حدود القرار للنموذج.

3. المساهمات الرئيسية

1. التحديد الآلي: تتجاوز الورقة الملاحظة السلوكية لتحديد الوحدات الوظيفية (رؤوس الانتباه) داخل BEiT المسؤولة عن تنظيم الشكل-الأرضية.
2. فرضية "البذر" (Seeding Hypothesis): يقترح المؤلفون أن الانحياز للمحدب ليس مجرد نتاج مرحلة القراءة النهائية، بل يتم بذرها مبكراً في الشبكة بواسطة رؤوس انتباه محددة، والتي تنتشر وتتضخم لاحقاً عبر المجرى المتبقي.
3. التدخل القابل للتحكم: يثبتون أن تنظيم الشكل-الأرضية ليس قيداً معمارياً غير قابل للتغيير. فمن خلال تعديل رأس انتباه واحد، يمكنهم قلب الفرضية الإدراكية للنموذج من المحدب إلى المقعر.

4. النتائج الرئيسية

أ. الديناميكيات الزمنية للحل

• الطبقات المبكرة/المتوسطة: يظهر المجرى المتبقي حالة من الاستقرار الثنائي الهندسي (geometric bistability). تحوم درجات الإسناد قرب الصفر، مما يشير إلى أن لا الدليل المقعر المحلي ولا المبدأ المحدب العالمي قد حقق سيطرة بعد. يحافظ النموذج على حالة من التنافس.
• الطبقات المتأخرة: يحدث تحول مفاجئ في الطبقات النهائية حيث يلتزم المجرى المتبقي بانحياز محدب. يشير هذا إلى أن عتبة القرار يتم تجاوزها متأخراً، ولكن الضغط يتراكم تراكمياً.

ب. تحديد رأس "البذرة"

• L0H9 (الطبقة 0، الرأس 9): يعمل رأس الانتباه هذا كـ بذرة مبكرة. فهو يقدم انحيازاً ضعيفاً ولكنه ثابت نحو التحدب فور الإدخال.
• التنافس: بينما يبذر L0H9 الانحياز، تقدم الطبقات اللاحقة (مثل L9H6) "أصواتاً مضادة" تفضل التقعر (الدقة الهندسية). ومع ذلك، فإن المجموع الإجمالي لأصوات دعم التحدب من مجموعة الرؤوس يتفوق في النهاية على المعارضة المقعرة.

ج. التوجيه الناجح عبر التدخل

• خفض حجم L0H9: عندما تم خفض تنشيط L0H9 ($\alpha = 0.3$)، انزاحت حدود القرار للنموذج.
• النتيجة: انتقل النموذج من منطقة "تفضيل التحدب" إلى منطقة "تفضيل التقعر".
• الدليل البصري: في حالة التدرج، نجح النموذج في إعادة بناء الفجوة المقعرة للسهم، بينما تجاهل النموذج الأصلي الفجوة وأكمل مثلثاً صلباً.
• الأهمية: يثبت هذا أن الانحياز للمحدب هو قوة نشطة تحكمها وحدات ميكانيكية محددة، وليس مجرد أثر سلبي ناتج عن بيانات التدريب.

5. الأهمية والآثار المترتبة

• ما وراء الملاحظة: تحول الدراسة فهم مبادئ الجشطالت في الذكاء الاصطناعي من مجرد ارتباطات وصفية إلى آليات سببية وقابلة للتوجيه.
• متانة النموذج وسلامته: في المجالات الحرجة مثل التصوير الطبي أو كشف الشذوذ، يمكن أن تكون الميزات المحلية (التي غالباً ما تكون مقعرة أو غير منتظمة) حيوية تشخيصياً. إذا طغى المبدأ العالمي للنموذج (التحدب) بشكل كارثي على الأدلة المحلية، فقد يفشل في رصد الشذوذ.
  • تتيح القدرة على تحديد وتعديل رؤوس "البذر" إجراء معايرة دقيقة لمدى الوزن الذي يعطيه النموذج للمبادئ العالمية مقابل الأدلة المحلية.
• القابلية للتعميم: رغم اختبارها على BEiT، تشير النتائج إلى مبدأ عام لـ "بذر الانحياز المبكر" و"الالتزام التنافسي المتأخر" في بنيات المحولات، مما يقدم إطاراً جديداً لتحليل وتعديل الاستدلال البصري.

الخاتمة

تقدم الورقة تفسيراً ميكانيكياً دقيقاً لكيفية حل محولات الرؤية للغموض بين الشكل والأرضية. فهي تحدد أن الانحياز للمحدب يُبذر مبكراً بواسطة رؤوس انتباه محددة (مثل L0H9) ويتم تضخيمه عبر الشبكة. والأهم من ذلك، يثبت المؤلفون أن هذا الانحياز قابل للتعديل؛ فمن خلال كبح رأس البذرة، يمكن إجبار النموذج على منح الأولوية للأدلة الهندسية المحلية على المبادئ العالمية، مما يغير جوهرياً مخرجاته الإدراكية.