Layer by layer, module by module: Choose both for optimal OOD probing of ViT
تُثبت هذه الورقة أن انزياح التوزيع هو السبب الرئيسي لتدهور الأداء في الطبقات الأعمق من نماذج "Vision Transformers"، وتكشف أن الاستقصاء الأمثل خارج نطاق التوزيع يتطلب الاختيار بين تنشيطات الشبكة التغذوية الأمامية ومخرجات الانتباه الذاتي المُطبعة اعتماداً على شدة الانزياح.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك طباخاً عبقرياً عالمياً (الـ Vision Transformer) تم تدريبه في مطبخ ضخم وراقٍ باستخدام أجود وأفخر المكونات وأكثرها تنوعاً (التدريب المسبق على ImageNet). هذا الطباخ يمكنه طهي أي شيء تقريباً.
الآن، تريد توظيف هذا الطباخ للعمل في مطعم صغير ومحدد. في بعض الأحيان، يقدم المطعم نفس المطبخ الفاخر الذي يعرفه الطباخ تماماً (داخل التوزيع - In-Distribution). وفي أحيان أخرى، يكون المطعم في بلد مختلف بمكونات محلية غريبة، أو تكون الكهرباء متذبذبة، أو لدى الزبائن أذواق غريبة جداً (خارج التوزيع أو OOD).
هذه الورقة البحثية تدور حول اكتشاف أين يجب عليك تذوق الطعام في عملية الطهي الخاصة بالطباخ للحصول على أفضل نتيجة، اعتماداً على مدى اختلاف المطعم الجديد عن تدريبه الأصلي.
إليك تفصيل اكتشافهم:
1. "الطبق النهائي" مقابل "تذوق منتصف الطهي"
عادةً، عندما نستخدم الذكاء الاصطناعي، ننظر إلى الخطوة الأخيرة من العملية—الطبق النهائي المقدم على الطاولة. نحن نفترض أن هذا هو المكان الذي يحدث فيه كل السحر.
- الاعتقاد القديم: "الطبقة الأخيرة هي دائماً الأفضل."
- الاكتشاف الجديد: إذا كان المطعم الجديد مختلفاً جداً عن تدريب الطباخ (انزياح كبير في التوزيع - Distribution Shift)، فإن الطبق النهائي غالباً ما يكون مذاقه سيئاً. الطباخ يرتبك بسبب المكونات الغريبة ويفسد التتبيلة النهائية.
- الحل: اتضح أنه إذا تذوقت الطعام في منتصف الطهي (عند الطبقات المتوسطة)، فغالباً ما يكون ذلك أكثر موثوقية. غرائز الطباخ المبكرة تظل حادة، حتى لو فسدت طريقة التقديم النهائية بسبب البيئة الجديدة الغريبة.
تشبيه: فكر في طالب يؤدي اختباراً.
- الطبقة الأخيرة: الإجابة النهائية المكتوبة على الورقة.
- الطبقة المتوسطة: الملاحظات والمسودات التي كُتبت في منتصف الامتحان.
إذا كان الاختبار هو بالضبط ما درس له، فإن الإجابة النهائية ستكون مثالية. ولكن إذا كان الاختبار مفاجئاً بأسئلة غريبة، فقد يصاب الطالب بالذعر في النهاية ويكتب إجابة نهائية خاطئة. ومع ذلك، فإن فهمه للمفاهيم (الملاحظات الوسطى) قد يظل سليماً.
2. "محطات المطبخ" (الوحدات - Modules)
داخل مطبخ الطباخ (كتلة الـ Transformer)، توجد محطات مختلفة:
- محطة الانتباه (MHA): حيث ينظر الطباخ إلى جميع المكونات ويقرر أي منها مهم.
- محطة التغذية الأمامية (FFN): حيث يقوم الطباخ فعلياً بتقطيع وخلط وطهي المكونات. تتكون هذه المحطة من خطوتين: التقطيع (FC1)، الطهي/التنشيط (Act)، والتنسيق/الضغط (FC2).
وجدت الورقة أن ليست كل المحطات متساوية عندما تصبح الأمور فوضوية:
- محطة "التنسيق" (FC2): هذا هو أسوأ مكان لتذوق الطعام إذا كانت الأمور تسير بشكل خاطئ. إنه المكان الذي يحاول فيه الطباخ حشر كل شيء في حزمة نهائية مرتبة. إذا كانت المكونات غريبة، فإن عملية الحشر هذه تدمر النكهة.
- محطة "الطهي" (Act): هي البطل. عندما تكون المكونات غريبة (انزياح عالٍ في التوزيع)، فإن تذوق الطعام مباشرة بعد خطوة "الطهي" (التنشيط) يعطيك أدق ملف للنكهة. إنه يلتقط جوهر المكونات قبل أن تفسدها عملية التغليف النهائية.
- محطة "التحضير المسبق" (LN2): إذا كان المطعم الجديد مشابهاً جداً للمطعم القديم (انزياح منخفض)، فإن "الطبق النهائي" القياسي (أو الطبقة التي تسبق بدء الطهي مباشرة) يكون جيداً.
3. الخلاصة الكبرى: "طبقة تلو الأخرى، وحدة تلو الأخرى"
يقدم لنا المؤلفون قاعدتين بسيطتين لاستخدام طهاة الذكاء الاصطناعي هؤلاء:
- إذا كانت الوظة الجديدة مألوفة (داخل التوزيع): التزم بـ الطبقة الأخيرة. الطباخ خبير، والطبق النهائي مثالي.
- إذا كانت الوظة الجديدة غريبة أو محفوفة بالمخاطر (خارج التوزيع):
- لا تنظر إلى الطبق النهائي.
- لا تنظر إلى البداية تماماً.
- انظر إلى خطوة "الطهي" (التنشيط/Activation) في الطبقات المتوسطة. هذا هو المكان الذي يكون فيه الذكاء الاصطناعي أكثر صدقاً وأقل ارتباكاً.
لماذا يهم هذا؟
في العالم الحقيقي، غالباً ما تواجه نماذج الذكاء الاصطناعي "الانجراف" (Drift)—أي أن البيانات التي تراها تتغير بمرور الوقت (مثلاً: سيارة ذاتية القيادة ترى الثلوج بينما تدربت على الأيام المشمسة، أو ذكاء اصطناعي طبي يرى نوعاً جديداً من الفيروسات).
إذا وثقنا بشكل أعمى في "الطبقة الأخيرة"، فقد يفشل الذكاء الاصطناعي بصمت. ولكن إذا عرفنا أن نتحقق من "طبقة الطهي المتوسطة"، يمكننا بناء أنظمة أكثر قوة وموثوقية، حتى عندما يتغير العالم من حولها.
باختصار: عندما يصبح العالم غريباً، لا تنتظر الإجابة النهائية. تحقق من العمل الجاري؛ فهناك يكمن جوهر الحقيقة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.