What DINO saw: ALiBi positional encoding reduces positional bias in Vision Transformers
تُثبت هذه الورقة أن الضبط الدقيق لنماذج "Vision Transformers" باستخدام ترميز المواقع "ALiBi" يقلل بفعالية من الانحيازات الموضعية المتأصلة مع الحفاظ على التمثيلات الدلالية العامة، مما يُمكّن من التكيف والتقسيم الناجحين في وضع الصفر (zero-shot) ضمن المجالات المستقلة عن الاتجاه مثل مجهر علم المواد.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الصورة الكبيرة: "النقطة العمياء" لعيون الذكاء الاصطناعي
تخيل أن لديك روبوتًا فائق الذكاء يُدعى DINO (تحديدًا نموذج يُسمى DINOv2). DINO خبير في النظر إلى الصور وفهم ما تحتويه؛ فإذا أريته صورة كلب، سيعرف أنه كلب، وإذا أريته سيارة، سيعرف أنها سيارة. إنه يشبه ناقد الفنون البارع الذي يمكنه وصف لوحة بدقة متناهية.
ومع ذلك، اكتشفت هذه الورقة البحثية أن لدى DINO نقطة عمياء غريبة.
عندما ينظر DINO إلى صورة، فهو لا يرى الأجسام فحسب، بل يرى أيضًا موقع الأجسام بطريقة جامدة للغاية وبشكل سري. الأمر أشبه بأن لدى DINO خريطة ذهنية تقول: "كل شيء على الجانب الأيسب من الصورة يختلف قليلاً عن كل شيء على الجانب الأيمن"، حتى لو كانت الصورة مجرد جدار فارغ أو نسيج عشوائي.
هذه مشكلة للعلماء الذين يدرسون المواد (مثل داخل البطارية أو قطعة من المعدن). فهذه الصور غالبًا ما تبدو كأنسجة موحدة وحبيبية ليس لها تفضيل لـ "اليسار" أو "اليمين". ولأن DINO مهووس بالموقع، فإنه يصاب بالارتباك؛ حيث يحاول فرض نمط "من اليسار إلى اليمين" على صورة لا تحتوي على هذا النمط أصلاً، مما يؤدي إلى نتائج فوضوية وغير صحيحة عندما يحاول العلماء استخدامه لتحليل هذه المواد.
المشكلة: "المسطرة" في الدماغ
وجد المؤلفون أن دماغ DINO (شبكته العصبية) يحتوي على مسطرة مدمجة.
- كيف تعمل: عندما تم تدريب DINO، تعلم ربط أجزاء معينة من دماغه بمواقع محددة في الصورة (أعلى اليسار، أسفل اليمين، إلخ).
- الخلل: حتى عند النظر إلى صورة من الضجيج الأبيض الصافي أو سطح معدني موحد، يضيء دماغ DINO بنمط "منحدر". هو يعتقد: "أوه، البكسلات الموجودة على اليسار هي بكسلات 'منخفضة'، والبكسلات على اليمين هي 'عالية'".
- النتيجة: عندما حاول العلماء استخدام DINO لتجزئة (تحديد حدود) أجزاء مختلفة من صورة بطارية، كان الذكاء الاصطناعي يرسم الخطوط بناءً على أين توجد البكسلات، وليس بناءً على ماهيتها. كان الأمر يشبه رسامًا يرفض رسم سماء زرقاء إلا إذا كان الطلاء موجودًا على الجانب الأيسر من اللوحة.
الحل: إصلاح "ALiBi"
قرر الفريق إصلاح دماغ DINO. لم يرغبوا في التخلص من DINO لأنه ذكي جدًا في التعرف على الأجسام، بل أرادوا فقط إزالة تلك "المسطرة" المزعجة.
قاموا باستبدال "المسطرة المتعلمة" الأصلية لـ DINO بنظام جديد يسمى ALiBi (الانتباه مع الانحياز الخطي - Attention with Linear Biases).
التشبيه: لعبة "المسافة النسبية"
- DINO القديم (المسطرة المطلقة): تخيل طالبًا يحفظ أن "السؤال رقم 1 يكون دائمًا في الصفحة اليسرى" و"السؤال رقم 2 يكون دائمًا في الصفحة اليمنى". إذا أعطيتهم اختبارًا بصفحات مبعثرة، فسيصابون بالارتباك.
- DINO الجديد (المسافة النسبية): تخيل طالبًا لا يهتم برقم الصفحة، بل يهتم فقط بـ "كم يبعد هذا السؤال عن السؤال الذي أنظر إليه الآن؟".
من خلال الانتقال إلى نظام "المسافة النسبية" هذا (ALiBi)، يتوقف النموذج عن الاهتمام بالإحداثيات المطلقة (أعلى اليسار مقابل أسفل اليمين) ويبدأ في الاهتمام فقط بمدى قرب الأشياء من بعضها البعض.
التجربة: تنظيف الرؤية
أخذ الباحثون نموذج DINO مُدربًا مسبقًا، وانتزعوا "مسطرته" القديمة، وثبّتوا نظام "ALiBi" الجديد مكانه. ثم علموه كيف ينظر إلى نفس الصور مرة أخرى، ولكن هذه المرة أخبروه: "لا تقلق بشأن الموقع؛ فقط أخبرني ما هو هذا الجسم".
النتائج:
- اختفت "المسطرة": عندما اختبروا النموذج الجديد على صور موحدة (مثل الحبيبات المعدنية أو الضجيج الأبيض)، اختفت أنماط "من اليسار إلى اليمين" الغريبة. أصبح النموذج "متجانسًا" (homogenous) — حيث عامل الجانب الأيسر والجانب الأيمن بنفس الطريقة تمامًا.
- ظل يعرف ماهية الأشياء: ومن المثير للدهشة أن النموذج لم يفقد ذكاءه؛ حيث ظل قادرًا على التعرف على الكلاب والسيارات وهياكل البطاريات المعقدة تمامًا مثل النسخة القديمة.
- تجزئة أفضل: عندما استخدموا هذا النموذج الجديد لمساعدة العلماء في تقسيم صور البطاريات، كانت النتائج مثالية. توقف الذكاء الاصطناعي عن رسم الخطوط بناءً على الموقع وبدأ في رسم الخطوط بناءً على المادة الفعلية (مثل التمييز بين المسام والجسيمات الصلبة).
لماذا هذا مهم؟
هذا أمر بالغ الأهمية لـ علم المواد.
غالبًا ما ينظر العلماء إلى صور مجهرية للبطاريات أو المعادن أو الصخور. هذه الصور غالبًا ما تكون ضخمة، وتتكون من تدرجات رمادية، وتبدو متشابهة جدًا في كل مكان (لا يوجد فيها "موضوع" واضح مثل كلب أو سيارة).
- قبل: كان عليهم استخدام حلول معقدة أو الشعور بالإحباط لأن الذكاء الاصطناعي كان يستمر في الارتباك بسبب موقع الصورة.
- الآن: لديهم ذكاء اصطناعي "نقي" ينظر إلى المادة نفسها، وليس إلى إحداثيات الخريطة. وهذا يسم يسمح بتحليل أفضل لعمر البطاريات، والمعادن الأكثر قوة، وعمليات التصنيع الأفضل.
ملخص في جملة واحدة
أخذ المؤلفون ذكاءً اصطناعيًا فائق الذكاء كان منحازًا دون قصد بسبب خريطته الداخلية، وأعطوه دماغًا جديدًا يعتمد على "المسافة النسبية"، وحولوه إلى أداة متوازنة تمامًا يمكنها أخيرًا تحليل الصور العلمية الموحدة دون ارتباك.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.