Context Sensitivity Improves Human-Machine Visual Alignment

إليك ملخص تقني مفصل لورقة البحث بعنوان "الحساسية للسياق تحسن المحاذاة البصرية بين الإنسان والآلة" المقدمة في ورشة عمل ICLR 2026 حول المحاذاة التمثيلية.

1. بيان المشكلة

تمثل نماذج تعلم الآلة الحديثة، وخاصة محولات الرؤية (Vision Transformers - ViTs) والنماذج التأسيسية الأخرى، المدخلات كنقاط ثابتة في فضاء تمثيل عالي الأبعاد. وبينما يعد هذا النموذج فعالاً لمهام التعميم (مثل تصنيف ImageNet)، إلا أنه يفترض وجود علاقة "واحد لواحد" بين الكيانات والتمثيلات، متجاهلاً دور السياق.

في المقابل، الإدراك البشري حساس للسياق بطبيعته؛ حيث يقوم البشر بتعديل تمثيلهم للأشياء ديناميكياً بناءً على الإشارات المحيطة، والأهداف، والارتباطات التسلسلية. تؤدي هذه الفجوة إلى عدم محاذاة بين التمثيلات الآلية وأحكام التشابه البشرية. وبما أن النماذج الحالية تُستخدم بشكل متزايد كـ "مقيمات تلقائية" (بدائل للبيانات البشرية)، فمن الضروري تطوير تمثيلات قادرة على التكيف مع السياق لتعكس الإدراك البشري بشكل أفضل.

2. المنهجية

يقترح المؤلفون إطار عمل التشابه الحساس للسياق (CSS) الذي يعدل تمثيلات الشبكات العصبية القياسية لتأخذ في الاعتبار صورة مرجعية سياقية.

أ. صياغة المهمة

تستخدم الدراسة مجموعة بيانات ImageNet-HSJ (Roads & Love, 2021)، وهي في الأصل مهمة تشابه (8-تختار-2). قام المؤلفون بإعادة هيكلة هذه البيانات لتصبح مهمة "الثلاثية مع السياق" (Triplet-with-Context):

• المدخل: صورة سياقية ($c$) وثلاثية من الصور $\{p, q, r\}$.
• الهدف: التنبؤ بأي صورة في الثلاثية هي "العنصر الغريب" بالنسبة للسياق.
• الآلية: يجب على النموذج تحديد أن عنصرين متشابهان بالنظر إلى السياق، مما يترك العنصر الثالث كعنصر شاذ.

ب. بنية النموذج

يتكون النموذج المقترح (الشكل 2 في الورقة) من ثلاثة مكونات رئيسية:

1. استخراج الميزات: يقوم نموذج تأسيسي (FM) باستخراج التضمينات الأولية للصورة السياقية وصور الثلاثية. اختبر المؤلفون ثلاثة نماذج تأسيسية: ViT (خاضع للإشراف)، وSigLIP (تبايني)، وDINOv2 (ذاتي الإشراف)، بما في ذلك نسخها "المحاذية للبشر".
2. التحويل غير الحساس للسياق (CIT): يتم تطبيق تحويل أفيني ($Wx + b$) متبوعاً بعملية تطبيع (Normalization) على تضمينات الثلاثية. يعمل هذا على محاذاة التمثيل الأساسي مع الأحكام البشرية قبل تطبيق السياق.
3. التشابه الحساس للس السياق (CSS):
   • تقوم شبكة عصبية (طبقة خطية واحدة) برسم خريطة لتضمين السياق ($c$) إلى مصفوفة ذات رتبة منخفضة $B_c \in \mathbb{R}^{r \times d}$.
   • ينتج عن ذلك مصفوفة متناظرة موجبة محددة تعتمد على السياق $A_c = B_c^\top B_c$.
   • يتم حساب التشابه بين صورتين من الثلاثية $i$ و $j$ بشرط السياق $c$ كما يلي:
     $$s_{i,j|c} = \tilde{x}_i^\top A_c \tilde{x}_j$$
   • يعمل هذا فعلياً على إعادة وزن فضاء التضمين ديناميكياً بناءً على السياق، بدلاً من استخدام حاصل الضرب النقطي الثابت.

ج. هدف التدريب

يتم تدريب النموذج عبر تقدير الاحتمال الأقصى (Maximum Likelihood Estimation) للتنبؤ باختيار البشر لـ "العنصر الغريب". تتضمن دالة الخسارة ما يلي:

• خسارة الإنتروبيا المتقاطعة (Cross-entropy loss) للتنبؤ بالعنصر الغريب.
• تنظيم الهوية (Identity Regularization): يتضمن حدين ($\lambda_1$ و $\lambda_2$) يعاقبان الانحراف عن مصفوفة الوحدة للمحول $W$ ومصفوفة السياق $A_c$. يضمن ذلك احتفاظ النموذج بالبنية التمثيلية المدربة مسبقاً مع تعلم التعديلات الخاصة بالسياق.

3. المساهمات الرئيسية

1. تمثيل مدرك للسياق: تقديم طريقة لحساب التشابه التي تتغير ديناميكياً بناءً على صورة مرجعية، متجاوزة بذلك فضاءات التضمين الثابتة.
2. التحقق التجريبي: إثبات أن الحساسية للسياق تحسن بشكل كبير المحاذاة بين تنبؤات الآلة والأحكام البشرية على مجموعة بيانات سلوكية واسعة النطاق.
3. القدرة على التعميم: أظهر النهج فعالية عبر أهداف تدريب مختلفة (خاضعة للإشراف، تباينية، ذاتية الإشراف) ويعمل بالتوازي مع طرق الضبط الدقيق "المحاذية للبشر" الموجودة (مثل AligNet).
4. القابلية للتفسير: توفر الطريقة آلية لتصور كيفية إعادة تشكيل السياق للفضاء التمثيلي (على سبيل المثال، عبر PCA ومصفوفات التشابه التمثيلي).

4. النتائج التجريبية

الأداء الكمي

قيم المؤلفون النماذج على مجموعة اختبار مستقلة باستخدام دقة "العنصر الغريب" (Odd-One-Out Accuracy).

• النموذج المرجعي (Baseline): النماذج التأسيسية القياسية (FM).
• التحسين 1: إضافة التحويل غير الحساس للسياق (CIT) أدى إلى تحسين الدقة مقارنة بالنموذج المرجعي.
• التحسين 2: إضافة التشابه الحساس للسياق (CSS) حقق أكبر المكاسب.
• إحصائية رئيسية: حقق النموذج الحساس للسياق تحسناً يصل إلى 15% كنسبة مطلقة في الدقة مقارنة بالنموذج غير الحساس للسياق.
  • مثال (DINOv2 الأصلي): FM (53.6%) $\to$ CI (59.0%) $\to$ CS (65.7%).
  • مثال (SigLIP الأصلي): FM (47.1%) $\to$ CI (58.2%) $\to$ CS (68.2%).
• الاتساق: كانت هذه المكاسب متسقة عبر النسخ الأصلية والنسخ المحاذية للبشر من النماذج. وأكدت تحليلات Bootstrap أن جميع التحسينات كانت ذات دلالة إحصائية ($p < 0.05$).

التحليل النوعي

• مصفوفات التشابه التمثيلي (RSMs): نجح النموذج الحساس للسياق في تعديل أوجه التشابه. في مثال محدد (السياق: غزال؛ الثلاثية: كلب، زورق، عربة حصان)، صنف النموذج غير الحساس للسياق الزورق وعربة الحصان (كلاهما مركبات) كعناصر متشابهة. أما النموذج الحساس للسياق، فمن خلال إدراكه لموضوع "الحيوان" الخاص بالغزال، رفع من وزن التشابه بين الكلب وعربة الحصان، وحدد بشكل صحيح الزورق كعنصر غريب.
• تصورات PCA: أظهرت مخططات PCA أن النموذج الحساس للسياق قام بتغيير تضمين "عربة الحصان" ديناميكياً من مجموعة "المركبات" باتجاه مجموعة "الحيوانات" عندما كان السياق حيواناً، مما يحاكي المرونة المعرفية البشرية.

5. الأهمية والمناقشة

• سد الفجوة: يوضح العمل أن دمج المبادئ المعرفية (الحساسية للسياق) في بنيات التعلم العميق يحسن بشكل كبير المحاذاة بين الإنسان والآلة.
• ما وراء التضمينات الثابتة: يتحدى هذا العمل الرؤية "الأفلاطونية" للتمثيلات الثابتة، موضحاً أن إعادة الوزن الديناميكي المعتمد على السياق ضروري للمهام التي تتطلب تفكيراً يشبه التفكير البشري.
• الآثار العملية: مع استخدام نماذج الذكاء الاصطناعي بشكل متزايد لتوليد البيانات الاصطناعية أو العمل كبدائل للتغذية الراجعة البشرية (مثل RLHF)، فإن تحسين قدرتها على محاكاة الحكم البشري المعتمد على السياق أمر بالغ الأهمية للسلامة والموثوقية.
• القيود والعمل المستقبلي: تعتمد الدراسة الحالية على مجموعة بيانات تحتوي على أحكام مشارك واحد لكل تجربة (مما يدخل ضجيجاً) وتركز على المقارنات المتماثلة. يهدف العمل المستقبلي إلى دمج التبعيات التسلسلية، والأهداف الداخلية، والمقارنات غير المتماثلة (سمات Tversky).

في الختام، توفر هذه الورقة إطاراً تقنياً قوياً للمحاذاة البصرية الحساسة للسياق، مما يثبت أن التغييرات الهيكلية الصغيرة المستوحاة من الإدراك يمكن أن تحقق تحسينات جوهرية في نمذجة الإدراك البشري.