Foveation as self-supervision signal: Blur masks beat blank masks for learning robust visual representations
تُثبت هذه الورقة أن استبدال الأقنعة الفارغة القياسية بأقنعة ضبابية مستوحاة بيولوجياً (تحاكي التمركز الشبكي) في التدريب المسبق لنموذج "المحول الرؤيوي" (Vision Transformer) عبر التعلم الذاتي، يؤدي إلى تمثيلات بصرية أكثر متانة وقدرة على التعميم من خلال تشجيع النماذج على التعلم من الترددات المكانية المنخفضة بدلاً من الاعتماد على التفاصيل عالية التردد.