Foveation as self-supervision signal: Blur masks beat blank masks for learning robust visual representations
تُثبت هذه الورقة أن استبدال الأقنعة الفارغة القياسية بأقنعة ضبابية مستوحاة بيولوجياً (تحاكي التمركز الشبكي) في التدريب المسبق لنموذج "المحول الرؤيوي" (Vision Transformer) عبر التعلم الذاتي، يؤدي إلى تمثيلات بصرية أكثر متانة وقدرة على التعميم من خلال تشجيع النماذج على التعلم من الترددات المكانية المنخفضة بدلاً من الاعتماد على التفاصيل عالية التردد.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي لبحث مسبق لم يخضع لمراجعة الأقران. وهو ليس نصيحة طبية. لا تتخذ أي قرارات تتعلق بصحتك بناءً على هذا المحتوى. اقرأ إخلاء المسؤولية الكامل
إن العين البشرية ليست كاميرا موحدة. فإذا نظرت إلى العالم، ستجد أن مركز رؤيتك حاد للغاية، وقادر على تمييز التفاصيل الدقيقة مثل ملمس ورقة شجر أو الحروف الموجودة على لافتة. ولكن مع تحرك نظرك نحو أطراف مجال رؤيتك، تتلاشى تلك الحدة بسرعة لتتحول إلى ضبابية ناعمة. هذا ليس عيباً، بل هو سمة من سمات كيفية رؤية الرئيسيات. ففي كل مرة تقفز فيها عيناك إلى بقعة جديدة، يتم جلب منطقة كانت ضبابية سابقاً لتصبح في بؤرة التركيز، بينما تبدأ المنطقة التي كنت تنظر إليها للتو في التلاشي. لطالما تساءل العلماء عما إذا كان هذا الإيقاع المستمر من الحدة والضبابية يخدم غرضاً يتجاوز مجرد الرؤية البسيطة. هل يمكن لهذا الإيقاع البيولوجي أن يعلم الدماغ حقاً كيف يفهم العالم بشكل أكثر فعالية؟
في مجال الذكاء الاصطناعي، يحاول الباحثون بناء أنظمة حاسوبية تتعلم الرؤية بطريقة مماثلة. وتتضمن إحدى الطرق الشائعة عرض صورة على الحاسوب مع إخفاء أجزاء كبيرة منها وطلب تخمين ما هو مفقود. هذا يجبر النظام على تعلم البنية الأساسية للأشياء بدلاً من مجرد حفظ الأنماط. ومع ذلك، فإن معظم هذه الأنظمة تخفي الأجزاء المفقودة عن طريق تحويلها ببساطة إلى لون رمادي مسطح، مما يؤدي فعلياً إلى محوها من الصورة. ويشير هذا البحث الجديد إلى أن محو المعلومات ليس الطريقة المثلى للتعلم؛ وبدلاً من ذلك، يقترح المؤلفون أن محاكاة الضبابية الطبيعية للرؤية المحيطية البشرية قد تكون معلماً أكثر قوة للذكاء الاصطناعي.
قام الباحثون، الذين يعملون في جامعة كولومبيا، باختبار هذه الفكرة باستخدام نوع من الأدمغة الاصطناعية المعروفة باسم "محول الرؤية" (vision transformer). لقد أخذوا الطريقة القياسية لإخفاء أجزاء من الصورة واستبدلوا الكتل الرمادية المسطحة بنوعين مختلفين من التشويه البصري. النوع الأول قام ببساطة بتغبيش (تضبيب) الأجزاء المخفية بشكل موحد، مثل النظر إلى صورة من خلال نافذة ضبابية. أما النوع الثاني فكان أكثر تطوراً، حيث صُمم لنسخ العين البشرية تماماً: فقد حافظ على بقعة صغيرة واحدة في الصورة حادة تماماً بينما جعل كل شيء آخر يزداد ضبابية كلما ابتعد عن تلك البقعة. ثم قاموا بتدريب هذه النماذج الحاسوبية على إعادة بناء الصور الأصلية الواضحة من هذه النسخ المشوهة.
كانت النتائج مذهلة. فعندما اختبر الباحثون مدى قدرة هذه النماذج على التعرف على الأشياء في صور جديدة ونظيفة، تفوقت النماذج التي تدربت على الضبابية وأنماط القناع الشبيهة بالعين بشكل كبير على النماذج القياسية التي استخدمت الكتل الرمادية المسطحة. وقد ظل هذا التفوق قائماً حتى عندما جعل الباحثون المهمة أكثر صعوبة من خلال إخفاء جزء أكبر من الصورة، أو منح الحاسوب وقتاً أقل للتعلم، أو توفير أمثلة تدريب أقل. كانت النماذج التي تعلمت من الضبابية أكثر متانة ببساال؛ فلم تنهار بسهء عند تعرضها لظروف صعبة، مما يشير إلى أنها تعلمت فهماً أعمق وأكثر مرونة لما يبدو عليه الشيء.
لفهم سبب حدوث ذلك، نظر الفريق عن كثب في المعلومات التي تستخدمها النماذج لاتخاذ قراراتها. واكتشفوا أن النماذج القياسية، المدربة باستخدام الكتل الرمادية المسطحة، تميل إلى الاعتماد بشكل كبير على التفاصيل عالية التردد — وهي الحواف الحادة والأنسجة الدقيقة التي يمكن الخلط بينها وبين الضوضاء أو التشويه بسهولة. في المقابل، ركزت النماذج المدربة على الضبابية على المعلومات منخفضة التردد، والتي تقابل الأشكال العريضة والبنية العامة للأشياء. وقد ثبت أن هذا التحول في التركيز هو مفتاح نجاحها. ووجد الباحثون رابطاً مباشراً بين هذا السلوك والأداء: فكلما اعتمد النموذج على التفاصيل الدقيقة والحادة، ساء أداؤه في التعرف على الأشياء. فالنماذج التي احتضنت الضبابية، وبالتالي الأشكال الأوسع، كانت هي الأكثر قدرة على التعميم.
كما بحثت الدراسة فيما إذا كان الحاسوب يقوم ببساطة بعكس عملية الضبابية، مثل برنامج تحرير الصور الذي يلغي تأثيراً معيناً. ومن خلال اختبار النماذج على صور ضبابية بالكامل دون وجود أجزاء حادة للاستدلال منها، أظهر الباحثون أن النماذج كانت تقوم بشيء أكثر تعقيداً. لقد تعلمت التعرف على العلاقات الهيكلية داخل الصورة نفسها، وليس فقط كيفية عكس تشويه معين. وهذا يشير إلى أن عملية التنبؤ بالتفاصيل الدقيقة من سياق ضبابي تجبر الدماغ الاصطناعي على بناء خريطة داخلية أكثر استقراراً ودقة للعالم.
يقدم هذا العمل سبباً مقنعاً للنظر إلى البيولوجيا لاستلهام الأفكار في الذكاء الاصطناعي. فمن خلال استبدال المحو الاصطناعي للمعلومات بعملية تحاكي الفقدان التدريجي الطبيعي للتفاصيل في الرؤية المحيطية البشرية، خلق الباحثون إشارة تعلم أكثر فعالية بكثير. وتشير النتائج إلى أن الطريقة التي تمسح بها أعيننا العالم طبيعياً، عبر المقايضة المستمرة بين الحدة والرؤية الأوسع، توفر درساً مدمجاً في المتانة. وبالنسبة للآلات التي نبنيها لترى، فإن الدرس واضح: أحياناً، يكون رؤية العالم بوضوح أقل قليلاً هو أفضل طريقة لفهمه.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.