تُثبت هذه الورقة أن نموذج التشفير الفعال غير الخاضع للإشراف، والذي يضغط المدخلات البصرية بناءً على الإحصاءات المحلية دون الحاجة إلى تسميات أو انتشار عكسي، ينجح في بناء تسلسل هرمي بصري متوافق مع البشر من بيانات محدودة يتنبأ باستجابات الدماغ ويعزز التعلم عند دمجه مع الضبط الدقيق الخاضع للإشراف.
المؤلفون الأصليون:Ananya Passi, Brian Robinson, Michael Bonner
تخيل أن دماغك عبارة عن كاميرا فائقة التطور لا تكتفي بالتقاط الصور فحسب، بل تتعلم فهم العالم بمجرد النظر إليه. وعلى عكس الذكاء الاصطناعي (AI) الذي نراه في الأفلام أو ألعاب الفيديو، والذي غالباً ما يحتاج إلى "دراسة" ملايين الصور ليعرف كيف يبدو شكل القطة أو السيارة، يمكن لدماغك استنتاج الأشياء من مجرد حفنة من الأمثلة. لطالما تساءل العلماء: كيف يفعل الدماغ ذلك؟ إحدى الأفكات الرائدة تسمى "الترميز الفعال". فكر في الأمر كأنه خوارزمية ضغط ذكية؛ فبدلاً من محاولة حفظ كل بكسل في كل صورة، يتعلم الدماغ "القواعد" التي تُبنى بها الصور الطبيعية — مثل كيفية ترابط الحواف والألوان والأنسجة عادةً. ومن خلال التركيز على الأنماط الأكثر شيوعاً وتجاهل الضوضاء العشوائية، يبني الدماغ مكتبة ذهنية من السمات تساعده على التعرف على الأشياء بسرعة. والسؤال الكبير هو: هل يمكن لهذا "التعلم بالنظر" البسيط وغير الخاضع للإشراف أن يبني حقاً فهماً عميقاً ومعقداً للعالم، بدءاً من الخطوط البسيطة وصولاً إلى الأجسام المعقدة، دون الحاجة إلى معلم يخبره ماهية كل شيء؟
في دراسة جديدة، قرر باحثون في جامعة جونز هوبكنز اختبار هذه الفكرة عبر بناء نموذج حاسوبي يحاكي هذا الأسلوب البيولوجي في التعلم. لقد أنشأوا دماغاً رقمياً يتعلم في طبقات، تماماً مثل النظام البصري في رؤوسنا. وبدلاً من تغذيته بصور مصنفة (مثل "هذا كلب" أو "هذه شجرة")، عُرضت على النموذج آلاف الصور الطبيعية وطُلب منه إيجاد الأنماط الأكثر أهمية داخلها. وقد استخدم خدعة رياضية تسمى "تحليل المكونات الرئيسية" (PCA) لضغط المعلومات، محتفظاً فقط بالاختلافات الأكثر هيمنة — مثل الألوان أو الأشكال الأكثر تكراراً — واستبعاد ما سواها.
كانت النتائج قوية بشكل مفاجئ. فحتى بدون أي تسميات أو مهام، بدأ نموذج "الترميز الفعال" هذا في تعلم سمات تشبه إلى حد كبير ما تراه الأدمغة البشرية. تعلمت الطبقات الأولى من النموذج رصد أشياء بسيطة مثل الحواف والألوان، ولكن مع انتقال المعلومات إلى طبقات أعمق، بدأت الطبقات تتعرف على أشياء أكثر تعقيداً بكثير، مثل الأنسجة والأشكال، وحتى الأجسام الكاملة. وعندما اختبر الباحثون هذه السمات مع متطوعين بشريين، تمكن الناس بسهولة من التعرف على ما كان الكمبيوتر "يراه"، مما يشير إلى أن النموذج قد تعلم شيئاً مشابهاً جداً لكيفية إدراكنا للعالم.
كما اختبر الفريق نهجاً "هجيناً"، حيث تركوا النموذج يتعلم هذه الأنماط أولاً، ثم أعطوه قدراً ضئيلاً من التدريب الخاضع للإشراف (مثل إظهار عدد قليل من الأمثلة المصنفة له) لصقل مهاراته. ووجدوا أن هذا النموذج الهجين كان فعالاً للغاية في استهلاك البيانات. فبينما احتاج نموذج الذكاء الاصطنا_التقليدي إلى ملايين الصور للتعلم جيداً، استطاع هذا النموذج الهجين التنبؤ بكيفية استجابة الأدمغة البشرية للصور الجديدة بعد رؤية 1,000 صورة فقط. وفي الواقع، عندما أعطوا النموذج الهجين صورة واحدة فقط لكل فئة (1,000 صورة إجمالاً لـ 1,000 فئة)، ظل يتفوق على النماذج القياسية المدربة على نفس الكمية الصغيرة من البيانات.
ولعل الاكتشاف الأكثر إثارة هو أن هذه الطريقة جعلت الذكاء الاصطناعي متعلمًا أسرع بكثير. فعندما حاول الباحثون تعليم النموذج فئات جديدة باستخدام بيانات قليلة جداً، وجدوا أن النسخة التي بدأت بالترميز الفعال تعلمت بشكل أسرع وأكثر دقة من النموذج الذي بدأ من الصفر. كان الأمر كما لو أن الترميز الفعال منح الذكاء الاصطناعي "بداية قوية" من خلال تنظيم مكتبته الداخلية من السمات قبل أن يبدأ حتى في الدراسة لاختبار محدد. تشير الدراسة إلى أن الترميز الفعال ليس مجرد عملية للأجزاء المبكرة والبسيطة من الرؤية، بل قد يكون مبدأً أساسياً يشكل تسلسلنا البصري بأكمله، مما يساعد الأدمغة البيولوجية على التعلم من كميات ضئيلة جداً من المعلومات. وبينما يشير الباحثون إلى أن هذا لا يعني أن التعلم الخاضع للإشراف ليس مهماً، إلا أن عملهم يوحي بأن الجمع بين قدرة الدماغ الطبيعية على إيجاد الأنماط والتدريب على مهام محددة قد يكون المفتاح لبناء ذكاء اصطناعي أكثر ذكاءً وكفاءة.
ملخص تقني: الترميز الفعال على طول الهيكل البصري
بيان المشكلة
تحقق نماذج التعلم العميق حاليًا أداءً رائدًا في التنبؤ بتمثيلات القشرة البصرية والسلوكيات البصرية. ومع ذلك، فإنها تفشل في التقاط خاصية أساسية للرؤية البيولوجية: وهي القدرة على تعلم تمثيلات مفيدة من بيانات محدودة. بينما تتكيف الأنظمة البيولوجية مع البنية الإحصائية الكامنة للمثيرات الحسية بأقل قدر من الخبرة، يعتمد التعلم العميق الحديث على تحديثات تحت إشراف أو تعلم ذاتي عبر ملايين أو مليارات العينات التدريبية. يشير هذا التباين إلى أن الرؤية البيولوجية قد تكون مشكلة بمبادئ تعلم مختلفة جوهريًا. يستقصي المؤلفون ما إذا كان الترميز الفعال —وهي النظرية التي تنص على أن التمثيلات العصبية تُشكل لنقل أقصى قدر من المعلومات حول المثيرات الطبيعية في ظل القيود البيولوجية— يمكن استخدامه لبناء تسلسل هرمي عميق من الميزات البصرية المتوافقة مع البشر من بيانات محدودة، دون الحاجة إلى تسميات مهام أو انتشار عكسي (backpropagation).
المنهجية
بنية النموذج
طوّر المؤلفون شبكة عصبية تلافيفية مكونة من 11 طبقة تعتمد على بنية شبكة التشتت (Guth et al., 2024). تقوم هذه البنية بتحليل الأوزان إلى مكونات مكانية وقنوية:
الترشيح المكاني الثابت: تبدأ كل طبقة بمجموعة ثابتة من N من مرشحات الموجات (وتحديدًا مرشح تمرير منخفض ϕ واحد وثمانية مرشحات تمرير نطاق مورليه ψ عند اتجاهات مختلفة). تكتشف هذه المرشحات الميزات ذات الاتجاهات وتمرير النطاق والهياكل الخشنة.
خلط القنوات المتعلم: بعد الترشيح المكاني والتقويم (rectification)، تقوم عملية تلافيف 1×1 قابلة للتعلم بخلط المعلومات عبر القنوات.
أخذ العينات الفرعية (Subsampling): تستخدم كل طبقة أخرى تلافيفًا بخطوة (stride) لتقليل الأبعاد المكانية بمعامل قدره اثنين، مما يزيد من المجال الاستقبالي الفعال في الطبقات الأعمق.
التطبيع (Normalization): يتم تطبيق تطبيع الدفعة (Batch normalization) والتطبيع المكاني L2 لضمان مخرجات ذات متوسط صفري وتباين وحدة، ولمنع هيمنة المقدار.
بروتوكول التعلم غير الخاضع للإشراف (الترميز الفعال العميق)
الابتكار الجوهري هو إجراء تعلم طبقي غير خاضع للإشراف لا يتطلب هدفًا عالميًا، ولا تسميات، ولا انتشارًا عكسيًا:
الإحصاءات المحلية: لكل طبقة، يتم جمع التنشيطات بعد ترشيح الموجات، والتقويم، وتجميع المتوسط العالمي. ً* تحليل المكونات الرئيسية (PCA): يتم حساب مصفوفة التغاير لهذه التنشيطات المجمعة مكانيًا فوق مجموعة من الصور الطبيعية (ImageNet). ويتم استخراج أهم K من المتجهات الذاتية، والتي تمثل الأنماط المهيمنة للتباين.
تحسين الأوزان: تعمل هذه المتجهات الذاتية كأوزان لعملية التلافيف 1×1 الخاصة بالطبقة، مما يؤدي فعليًا إلى ضغط المدخلات في فضاء فرعي ذي K بُعد متوافق مع إحصائيات الصور الطبيعية.
التوسع: في الطبقة التالية، تقوم مرشحات الموجات الثابتة بتوسيع هذا التمثيل المضغوط بمعامل قدره N.
المبرر: اختار المؤلفون تحليل المكونات الرئيسية (PCA) بدلاً من تحليل المكونات المستقلة (ICA) أو التبييض (whitening) لأنه يحسن مباشرة الميزات ذات التباين الأقصى (وهي ذات صلة بأنظمة المعالجة المحدودة العينات في المستويات العليا) ويوفر حلولًا فريدة ومثالية عالميًا.
التعلم الهجين والتقييم
تقيم الدراسة ثلاثة نماذج تدريب:
الترميز الفعال غير الخاضع للإشراف: يتم تدريب الشبكة حصريًا عبر إجراء PCA الطبقي.
التعلم التقليدي الخاضع للإشراف: يتم تدريب الشبكة من تهيئة عشوائية باستخدام الانتشار العكسي الخاضع للإشراف على مهام تصنيف الصور.
التعلم الهجين: تخضع الشبكة لمرحلة الترميز الفعال غير الخاضع للإشراف أولاً، تليها مرحلة الضبط الدقيق الخاضع للإشراف لمهام التصنيف.
مقاييس التقييم:
القابلية للتفسير السلوكي: قام مشاركون بشريون بمهمة مطابقة، حيث اختاروا أي مجموعة من الصور (تنشيط عالٍ مقابل منخفض) تطابق مجموعة مستهدفة، لتقييم ما إذا كانت قنوات الشبكة تشفر ميزات ذات معنى إدراكي.
المحاذاة مع الدماغ: تم استخدام نماذج ترميز تعتمد على الانحدار الخطي المنتظم للتنبؤ باستجابات fMRI من مجموعة بيانات المشاهد الطبيعية (NSD) (بدقة 7T، و8 مشاركين) بناءً على تنشيطات طبقات الشبكة. تم قياس الأداء من خلال الارتباط بين الاستجابات المتوقعة والفعلية في القشرة.
كفاءة البيانات: تم قياس دقة التصنيف في miniImageNet كدالة لعينات التدريب، بما في ذلك تجارب حيث تم تجميد الطبقات المبكرة لاختبار قابلية نقل الميزات غير الخاضعة للإشراف.
النتائج الرئيسية
1. ظهور الميزات الهرمية
نجح نموذج الترميز الفعال العميق غير الخاضع للإشراف في تعلم تسلسل هرمي للميزات دون تسميات.
الطبقات الدنيا: أظهرت انتقائية للميزات البسيطة مثل الحواف، والاتجاهات، والألوان.
الطبقات العليا: أظهرت انتقائية للميزات المعقدة، بما في ذلك الأنسجة، والأشكال، والأجسام. حدث هذا التقدم فقط من خلال التطبيق الهرمي لمبادئ الترميز الفعال.
2. الصلة السلوكية
التعرف البشري: استطاع المشاركون تحديد الميزات التي تمثلها قنوات محددة في الشبكة بشكل موثوق. حقق النموذج غير الخاضع للإشراف (الذي تم تدريبه على 10,000 صورة فقط) دقة أعلى بكثير (M=0.87) في مهام المطابقة مقارنة بهيكل غير مدرب (M=0.68)، مقتربًا من أداء النموذج الخاضع للإشراف بالكامل والمدرب على مليون صورة (M=0.96).
زمن الاستجابة: ارتبطت أزمنة الاستجابة بشكل كبير مع رتبة تباين القناة (ρ=0.37). حدد المشاركون الميزات من القنوات ذات التباين الأعلى بسرعة أكبر، مما يشير إلى أن الترميز الفعال ينظم التمثيلات بحيث تكون الأبعاد البارزة إحصائيًا بارزة إدراكيًا.
ضرورة الهرمية: أدى نموذج التحكم الذي طبق PCA فقط على الطبقة النهائية (مع ترك الطبقات الأخرى غير مدربة) أداءً أقل بكثير، مما يؤكد أن الهيكل الهرمي أمر بالغ الأهمية.
3. المحاذاة مع الدماغ تحت قيود البيانات
الأداء في البيانات المنخفضة: عندما تم تدريبه على 1,000 صورة فقط (صورة واحدة لكل فئة من ImageNet)، تفوق نهج التعلم الهجين (ما قبل التدريب غير الخاضع للإشراف + الضبط الدقيق الخاضع للإشراف) بشكل كبير على التعلم التقليدي الخاضع للإشراف في التنبؤ باستجابات fMRI في المجرى البصري البطني، خاصة في الطبقات الأعمق (الطبقة 6 وما فوق).
تدرج البيانات: مع زيادة بيانات التدريب إلى 10,000 صورة، تقلصت الفجوة في الأداء بين التعلم الهجين والتعلم التقليدي، رغم احتفاظ التعلم الهجين بميزة على خط الأساس غير الخاضع للإشرافي فقط.
التوزيع المكاني: توزعت فوائد التعلم الهجين على نطاق واسع عبر القشرة البصرية، ولم تقتصر على مناطق محددة.
4. تعلم الفئات بكفاءة البيانات
سرعة التقارب: تطلبت النماذج الهجينة عينات تدريب خاضعة للإشراف أقل للوصول إلى نفس دقة التصنيف التي حققتها النماذج المدربة تقليديًا على miniImageNet.
المتانة تجاه التجميد: عندما تم تجميد الطبقات المبكرة إلى المتوسطة (حتى الطبقة 5) بعد ما قبل التدريب غير الخاضع للإشراف، حافظ النموذج الهجين على دقة تصنيف عالية. في المقابل، تسبب تجميد نفس الطبقات في الشبكات ذات التهيئة العشوائية في انخفاض حاد في الأداء.
الفئات المحدودة: كانت ميزة ما قبل التدريب غير الخاضع للإشراف أكثر وضوحًا في الإعدادات ذات الفئات القليلة والعينات القليلة لكل فئة، مما سهل التعلم السريع للفئات.
الأهمية والادعاءات
يزعم المؤلفون أن نتائجهم تشير إلى أن مبادئ الترميز الفعال قد تشكل التمثيلات عبر التسلسل الهرمي البصري بأكمله، وليس فقط في المعالجة منخفضة المستوى (مثل V1). تقترح الدراسة منظورًا نظريًا جديدًا حيث يتم تحسين الرؤية البيولوجية من خلال مزيج من:
الترميز الفعال من أسفل إلى أعلى: التكيف غير الخاضع للإشراف مع البنية الإحصائية للصور الطبيعية، مما يبني أساسًا لميزات قابلة لإعادة الاستخدام وذات صلة سلوكية.
التعلم الموجه بالأهداف من أعلى إلى أسفل: الصقل الخاضع للإشراف لهذه التمثيلات لمهام سلوكية محددة.
تجادل الورقة بأن هذه الآلية الهجينة تفسر كفاءة البيانات في الرؤية البيولوجية، مما يسمح بالتعلم السريع لتمثيلات مفيدة من خبرة محدودة. وعلى عكس النماذج السابقة الموجهة بالأهداف التي تعتمد على الانتشار العكسي من البداية إلى النهاية، يوضح هذا الإطار أن قواعد التعلم المحلية غير الخاضعة للإشراف يمكنها نحت تمثيلات هرمية متوافقة عصبيًا وذات صلة بالمهام. ويخلص المؤلفون إلى أن الترميز الفعال يعمل كمحفز قوي للتعلم الخاضع للإشراف، مما يقدم حلاً محتملاً لمهام الرؤية الحاسوبية حيث تكون البيانات المصنفة نادرة.