Misalignment Between Backpropagation and the Hierarchy of Brain Responses to Images

ملخص تقني: عدم التوافق بين الانتشار العكسي والتسلسل الهرمي للاستجابات الدماغية للصور

بيان المشكلة
بينما تشترك الشبكات العصبية العميقة (DNNs) والنظام البصري لدى الثدييات في تشابهات صارخة في تسلسلاتها الهرمية التمثيلية الأمامية، يظل التوافق البيولوجي للانتشار العكسي (backpropagation) —وهو الخوارزمية الجوهرية للتعلم العميق— سؤالاً مركزياً لم يُحل بعد في العلوم العصبية الحسابية. يتطلب الانتشار العكسي القياسي تماثلاً مشبكيًا (نقل الأوزان) وحسابًا من الأعلى إلى الأسفل للتدرجات، وهي آليات تُعتبر غير منطقية بيولوجيًا. وبينما أثبتت الأعمال السابقة أن التنشيطات الأمامية للشبكات العصبية العميقة تتوافق مع التسلسل الهرمي القشري، فإنه لا يزال من غير المعروف ما إذا كان التسلسل الهرمي من الأعلى إلى الأسفل للتدرجات المنتشرة عكسيًا يظهر توافقًا مماثلًا مع الاستجابات العصبية. تعالج هذه الدراسة ما إذا كان الدماغ ينفذ آلية مكافئة وظيفيًا للانتشار العكسي، وذلك عبر اختبار ما إذا كانت التدرجات المنتشرة عكسيًا ترسم خرائط لنشاط الدماغ البشري، وما إذا كان تنظيمها المكاني والزماني يتوافق مع التوقعات الخوارزمية للانتشار العكسي.

المنهجية
استخدم المؤلفون نهجًا تصويريًا عصبيًا متعدد الوسائط مقترنًا بتحليلات ترميز متقدمة:

• مصادر البيانات: استخدمت الدراسة مجموعة بيانات THINGS-MEG (تخطيط مغناطيسية الدماغ، 4 مشاركين، 22,500 صورة) للحصول على دقة زمنية عالية، ومجموعة بيانات المشاهد الطبيعية (7T fMRI، 8 مشاركين، 10,000 صورة) للحصول على دقة مكانية عالية.
• النماذج: ركز التحليل الأساسي على DINOv3 (وهو محول رؤية ذو تعلم ذاتي متطور)، تم اختياره لأن هدف التعلم غير الخاضع للإشراف فيه يتوافق مع اعتماد الدماغ المحتمل على الترميز التنبئي. ولضمان القدرة على التعميم، تم تكرار النتائج عبر ثمانية نماذج رؤية متنوعة، بما في ذلك الشبكات العصبية الالتفافية (CNNs) الخاضعة للإشراف، ونماذج المحولات البصرية (ViTs) الخاضعة للإشراف، ونماذج الرؤية واللغة (CLIP، SigLIP2، إلخ).
• تحليل الترميز: قام المؤلفون بتكييف تحليلات ترميز خطية قياسية لربط ميزات النموذج بالبيانات العصبية.
  • التنشيطات الأمامية: استخراج التنشيطات على مستوى الطبقات.
  • التدرجات المنتشرة عكسيًا: حساب التدرجات باستخدام الانتشار العكسي القياسي بين شبكات المعلم والطالب (بالنسبة لـ DINOv3) أو وظائف الخسارة الأصلية للنماذج الأخرى.
  • الانتشار العكسي المتبقي: لعزل الإشارات الخاصة بالتدرج، قام المؤلفون بحساب درجة "الانتشار العكسي المتبقي" عن طريق طرح درجة ترميز التنشيطات الأمامية من درجة ترميز الإشارات الأمامية والخلفية المجتمعة.
• تقليل الأبعاد: نظرًا للأبعاد العالية لمتجهات التدرج (~4 مليون)، تم إسقاط الإشارات على مصفوفات عشوائية ثم تقليلها عبر تحليل المكونات الرئيسية (PCA) إلى 30-00 بُعد قبل عملية الترميز.
• ديناميكيات التدريب: تضمنت مجموعة فرعية من التجارب تدريب DINOv3-S من الصفر لمراقبة تطور درجات الترميز عبر دورات التدريب.

المساهمات الرئيسية

1. توسيع تحليلات الترميز: توسع الدراسة تحليل الترميز الأمامي القياسي لربط التدرجات المنتشرة عكسيًا بالبيانات العصبية، مما يوفر اختبارًا مباشرًا لمرتبطات إشارة التعلم في الدماغ.
2. رسم خرائط التدرج المتبقي: من خلال تقديم تحليل متبقي متحفظ، أظهر المؤلفون أن التدرجات المنتشرة عكسيًا تفسر التباين العصبي الذي لا يمكن تفسيره بالتنشيطات الأمامية وحدها.
3. الفصل المنهجي: تقدم الورقة أدلة تجريبية على أنه بينما تتوافق التنشيطات الأمامية مع التسلسل الهرمي من أسفل إلى أعلى في الدماغ، فإن التدرجات المنتشرة عكسيًا لا تتبع التنظيم الزماني والمكاني من أعلى إلى أسفل المتوقع وفقًا لنظريات الانتشار العكسي ذات المعقولية البيولوجية.

النتائج

• القوة التنبؤية للتدرجات: تتنبأ التدرجات المنتشرة عكسيًا من DINOv3 والنماذج الأخرى بإشارات fMRI وMEG بشكل موثوق، خاصة في القشرة البصرية العليا وفي الفترات الزمنية المتأخرة. هذا الربط يصمد عبر بنيات وأهداف تعلم متنوعة.
• التباين المتبقي: يتنبأ الانتشار العكسي المتبقي (التدرجات المستقلة عن التنشيطات الأمامية) بشكل كبير بالنشاط الدماغي، وتحديدًا تمثيلات الترميز في القشرة البصرية المتأخرة (مثل القشرة القذالية الجبهية والجانبية) وخلال النوافذ الزمنية المتأخرة (0.5 ثانية - 1.7 ثانية بعد المحفز).
• عدم التوافق المكاني:
  • المسار الأمامي: تتنبأ الطبقات الضحلة بالمناطق البصرية المبكرة (V1)، بينما تتنبأ الطبقات العميقة بالقشرة الترابطية، مما يعكس تسلسلاً هرميًا من أسفل إلى أعلى.
  • المسار الخلفي: خلافًا لتوقع المسار من أعلى إلى أسفل للانتشار العكسي، تتوافق التدرجات العميقة بشكل أفضل مع المناطق الحسية المبكرة، وتتوافق التدرجات الضحلة مع المناطق الترابطية. يشير هذا إلى ارتباط مكاني سلبي، مما يعكس الترتيب الهرمي المتوقع فعليًا.
• عدم التوافق الزماني:
  • المسار الأمامي: تبلغ ذروة الترميز تتابعًا، حيث تبلغ الطبقات الضحلة ذروتها مبكرًا والطبقات العميقة لاحقًا.
  • المسار الخلفي: تصل جميع طبقات التدرجات المنتشرة عكسيًا إلى ذروتها في وقت واحد مع الطبقة النهائية للمسار الأمامي. لا يوجد تأخير تسلسلي من أعلى إلى أسفل؛ إذ لا تظهر التدرجات تسلسلاً هرميًا زمانيًا كما هو متوقع إذا كانت إشارات الخطأ تنتشر عبر الطبقات القشرية بالتتابع.
• ديناميكيات التدريب: تزداد درجات الانتشار الأمامي والخلفي بشكل لوغاريتمي أثناء التدريب، وتتوسع نحو المناطق العليا والتأخيرات الزمنية المتأخرة. في المقابل، يتبع الانتشار العكسي المتبقي مسارًا غير رتيب، حيث يصل إلى ذروته عند 10,000 دورة قبل أن ينخفض مع تقارب شبكتي المعلم والطالب.

الأهمية والادعاءات
يخلص المؤلفون إلى أنه بينما قد تشترك الشبكات العميقة والدماغ في محتوى تمثيلي متشابه (كما هو موضح في التوافق مع التنشيط الأمامي)، إلا أنهما يعتمدان على حد كبير على آليات مختلفة جذريًا لتعلم هذه التمثيلات. وتدعي الدراسة أن التنظيم المكاني والزماني الملاحظ للتدرجات المنتشرة عكسيًا في الدماغ يختلف بشكل كبير عن الأنماط المتوقعة في ظل آلية انتشار عكسي ذات معقولية بيولوجية (مثل الانتشار المتتابع لإشارات الخطأ من أعلى إلى أسفل).

وتفترض الورقة أن هذه النتائج توفر قيودًا تجريبية على نظريات التعلم البيولوجي. ورغم أن النتائج لا تستبعد التعلم القائم على التدرج تمامًا، إلا أنها تشير إلى أنه إذا وجدت مثل هذه الآليات في الدماغ، فهي لا تظهر بالسمات المكانية والزمانية المحددة للانتشار العكسي القياسي. ويقترح المؤلفون أن أطر العمل البديلة، مثل قواعد هيب المحلية (Hebbian rules)، أو التعلم التبايني، أو بنيات الترميز التنبئي التي لا تتطلب انتشارًا صريحًا لتدرج الخطأ، قد تفسر الديناميكيات العصبية بشكل أفضل. يسلط هذا العمل الضوء على الفجوة المحتملة بين كفاءة التعلم البيولوجي وخوارزميات التعلم العميق الحالية، مما يشير إلى أن فهم استراتيجية التعلم الفعلية للدماغ يمكن أن يلهم مناهج أكثر كفاءة وقوة في التعلم الآلي.