تقدم هذه الورقة بنية عصبية قابلة للتفسير بيولوجياً تلتزم بـ "قيد ديل" (Dale's constraint) عبر استخدام قنوات مزدوجة غير سالبة لتمثيل المساهمات مختلطة الإشارة، مما يُمكّن التعلم الهيبي المحلي من تحقيق أداء يضاهي مستوى الانتشار العكسي (backpropagation) في اختبارات معيارية مثل Tiny ImageNet دون الحاجة إلى إشارات مختلطة الإشارة.
تخيل الدماغ كمدينة صاخبة وعالية السرعة حيث تصرخ مليارات الرسائل (النيورونات/الخلايا العصبية) باستمرار ببعضها البعض لحل المشكلات، والتعرف على الوجوه، وتذكر أغنيتك المفضلة. لعقود من الزمن، حاول علماء الكمبيوتر بناء أدمغة اصطناعية تعمل بهذا الشكل، باستخدام أداة قوية تسمى "الانتشار العكسي" (backpropagation) لتعليمها. فكر في الانتشار العكسي كمعلم ماهر يتجول في الفصل الدراسي، ويهمس لكل طالب بالضبط مقدار الخطأ الذي ارتكبه وكيفية إصلاحه. لكن هنا تكمكن العقبة: الخلايا العصبية البيولوجية الحقيقية أكثر صرامة من محاكاتنا الرقمية. في الدماغ الحقيقي، تكون الخلية العصبية إما "مشجعاً" (مُحفزاً) يصرخ "انطلق!" أو "مانعاً" (مثبطاً) يصرخ "توقف!"؛ ولا يمكنها أبداً أن تكون كليهما في نفس الوقت، ولا يمكنها أبداً أن تصرخ رقماً سالباً. هذه قاعدة تسمى "قانون ديل" (Dale's Law). علاوة على ذلك، لا يمكن للخلايا العصبية أن تعمل إلا بمعدلات موجبة؛ فهي لا تستطيع إرسال "نار سالبة".
هذا يخلق لغزاً هائلاً للعلماء: كيف يمكن للدماغ أن يتعلم بفعالية إذا كانت رسائله يمكنها فقط الصراخ بـ "انطلق" أو "توقف" ولا يمكنها أبداً حمل رقم سالب؟ يعتمد التعلم الحاسوبي القياسي على الأرقام السالبة لإخبار الخلية العصبية: "لقي ذهبت في الاتجاه الخاطئ، عُد أدراجك!". وإذا حاولت تعليم دماغ يفهم فقط الصراخ الموجب باستخدام طريقة تتطلب همسات سالبة، فإن النظام بأكمله سينهار. تتناول هذه الورقة البحثية هذا الصداع تحديداً، متسائلة عما إذا كان بإمكاننا بناء نظام تعلم يحترم قواعد الدماغ الصارمة ومع ذلك يتعلم بسرعة مثل أفضل أجهزتنا الحاسوبية.
يقترح المؤلفان، روي آبل وشيمون أولمان، حلاً ذكياً مستوحى من كيفية عمل أعيننا بالفعل. لقد قدما نوعاً جديداً من البنية العصبية تسمى نموذج "التشغيل-الإيقاف" (On-Off model). بدلاً من محاولة إجبار الخلية العصبية على الصراخ برقم سالب (وهو أمر مستح المستحيل بيولوجياً)، فإنهما يستخدما فريقاً من خليتين عصبيتين لتمثيل فكرة واحدة. تخيل زوجاً من التوائم: أحدهما هو التوأم "المُشغل" (On)، الذي يتحمس عندما يكون الشيء أكثر مما هو متوقع، والآخر هو التوأم "المُطفئ" (Off)، الذي يتحمس عندما يكون الشيء أقل مما هو متوقع. إذا كان التوأم "المُشغل" يصرخ بصوت عالٍ، فإن الفكرة إيجابية. وإذا كان التوأم "المُطفئ" هو من يصرخ، فإن الفكرة سلبية. وإذا كان كلاهما هادئاً، فإن الفكرة هي صفر. من خلال استخدام هذه الأزواج، يمكن للشبكة تمثيل القيم الموجبة والسالبة دون كسر القاعدة التي تنص على أن الخلايا العصبية يمكنها فقط العمل بشكل موجب.
تظهر الورقة أن نظام "التشغيل-الإيقاف" هذا يمكنه التعلم بنفس كفاءة النماذج الحاسوبية القياسية. وقد أثبت الباحثون رياضياً أنه إذا تم إعداد الشبكة بشكل صحيح، يمكن لهذه الأزواج من التوائم الصارخة تمرير رسائل الخطأ إلى الخلف عبر الشبكة بدقة تماثل طريقة "الأرقام السالبة" التقليدية. الأمر يشبه سباق التتابع حيث لا يتم تمرير العصا بواسطة عداء واحد، بل بواسطة عداءين يركضان في مسارين متقابلين؛ والفرق في سرعتهما يخبر العداء التالي بالضبط ما يجب فعله.
وعندما اختبروا هذه الفكرة على مهام التعرف على الصور من العالم الحقيقي، كانت النتائج جيدة بشكل مذهل. ففي اختبار قياسي يسمى "تيني إيميت نت" (Tiny ImageNet)، والذي يتضمن تصنيف 200 فئة مختلفة من الصور، حقق نموذج "التشغيل-الإيقاف" دقة بلغت 42.31%. وكانت هذه قفزة كبيرة مقارنة بالأسالي المبتكرة المستوحاة بيولوجياً الأخرى التي واجهت صعوبة في الارتقاء إلى هذا المستوى. والأكثر إثارة للاهتمام هو أن نموذجهم تفوق على الشبكات الحاسوبية القياسية التي تمتلك نفس عدد الخلايا العصبية، مما يشير إلى أن طريقة التفكير "تشغيل-إيقاف" هذه ليست فقط صديقة للبيولوجيا، بل قد تكون أيضاً طريقة أذكى وأكثر كفاءة لمعالجة المعلومات.
تشير الدراسة إلى أن الدماغ قد لا يحتاج إلى كسر قواعده الخاصة لتعلم المهام المعقدة. بدلاً من ذلك، قد يستخدم هذه الأزواج المتكاملة من الإشارات المحفزة والمثبطة للقيام بالعمل الشاق. وبينما لا يزال النموذج يتطلب الكثير من الخلايا العصبية (حوالي ضعف عدد الخلاكل المطلوبة في الشبكة القياسية لتمثيل نفس المعلومات)، يشير المؤلفون إلى أن الدماغ يمتلك في الواقع ضعف عدد اتصالات التغذية الراجعة تقريباً مقارنة باتصالات التغذية الأمامية، لذا فإن هذه "التكلفة الإضافية" قد تكون هي بالضبط ما تدفعه الطبيعة بالفعل. في النهاية، يشير هذا العمل إلى أن التعلم الفعال يمكن أن ينبثق من آليات تشبه إلى حد كبير الدماغ الحقيقي، مما يثبت أنك لست بحاجة إلى أرقام سالبة سحرية لتعليم الآلة كيف ترى.
ملخص تقني: التعلم في الشبكات العميقة تحت قيود ديل (Dale's Constraint)
بيان المشكلة أصبح التعلم العميق إطارًا أساسيًا لعلوم الأعصاب الأنظمة، ومع ذلك تواجه خوارزمية الانتشار العكسي (backpropagation) القياسية عقبات كبيرة من حيث الملاءمة البيولوجية. أحد العوائق المركزية هو قيد ديل (Dale's constraint): الخلايا العصبية البيولوجية إما استثارية بحتة أو تثبيطية بحتة، ولا يمكن للتشابكات العصبية تغيير إشارتها. علاوة على ذلك، فإن النشاط العصبي (معدلات الإطلاق) غير سالب بطبيعته. يعتمد الانتشار العكسي القياسي على تنشيطات ذات إشارة، وإشارات خطأ ذات إشارة، وأوزان تشابكية غير مقيدة بالإشارة. غالبًا ما تفشل نماذج التعلم الحالية ذات الملاءمة البيولوجية (مثل الترميز التنبئي، أو المحاذاة التغذوية الراجعة) في تلبية قانون ديل وعدم سلبية النشاط في آن واحد مع استعادة تحديثات التدرج بدقة. وتحديدًا، تسمح العديد من النماذج للخلايا العصبية بتمثيل قيم ذات إشارات مختلطة أو تعتمد على إشارات خطأ عالمية تنتهك القيود المحلية للتشابكات العصبية.
المنهجية يقترح المؤلفون بنية عصبية وقاعدة تعلم جديدة تلتزم بصرامة بقيد ديل وعدم سلبية النشاط مع دعم التعلم الشبيه بالانتشار العكسي.
نمط الدائرة العصبية (تشغيل-إيقاف/On-Off):
المكون الأساسي هو نمط دائرة صغير يتكون من خلايا عصبية استثارية وتثبيطية.
يقوم هذا النمط برسم خرائط لمدخلين غير سالبين (x1,x2≥0) إلى قناتي مخرجات غير سالبتين، يُرمز لهما بـ y+ (تشغيل/On) و y− (إيقاف/Off).
ينفذ هذا النمط عملية "فرق ناعمة". إذا كان x1>x2، يتم تفعيل قناة التشغيل؛ وإذا كان x2>x1، يتم تفعيل قناة الإيقاف.
يتم تمثيل كمية موقعة d=x1−x2 ليس من خلال خلية عصبية واحدة ذات إشارات مختلطة، بل من خلال زوج من القنوات غير السالبة: يتم ترميز الفرق الموجب في قناة y+، والفرق السالب في قناة y− بنفس المقدار. تعمل قناة واحدة فقط في كل مرة (أو كلتاهما تكون صفرًا إذا كان الفرق أقل من عتبة معينة).
بنية الشبكة:
يتم بناء الشبكات القياسية عن طريق استبدال كل خلية عصبية مختلطة الإشارة بنمط "تشغيل-إيقاف".
تعمل الشبكة في مسارين:
من الأسفل إلى الأعلى (Bottom-Up - BU): يحسب التنشيطات الأمامية باستخدام أنماط "تشغيل-إيقاف".
من الأعلى إلى الأسفل (Top-Down - TD): ينشر إشارات التغذية الراجعة للتعلم. لكل نمط BU، يوجد نمطان TD مقابلان (واحد لقناة BU الموجبة، وآخر لقناة BU السالبة).
يستخدم مسار TD أيضًا قنوات مزدوجة غير سالبة لتمثيل التحديثات التشابكية الموجبة والسالبة.
قاعدة التعلم الهيبية المحلية (Local Hebbian Learning Rule):
يتم توجيه التعلم بواسطة تحديث هيبي محلي يجمع بين نشاط BU قبل التشابكي وإشارات التغذية الراجعة TD المزدوجة.
بالنسبة لوزن تشابكي بنشاط قبل تشابكي xj، يتم تحديد التحديث بواسطة قناتي TD:
النشاط في قناة TD الموجبة (∂ˉi) يدفع لزيادة هيبية في الوزن التشابكي.
النشاط في قناة TD السالبة (∂i) يدفع لنقص هيبي في الوزن التشابكي.
التحديث الفعال هو ΔWij=ηxj(∂ˉi−∂i).
من المهم أن الوزن التشابكي Wij نفسه له إشارة ثابتة (استثارية أو تثبيطية)، ولكن مقدار وزنه يتم تحديثه بناءً على الفرق بين إشارتي TD غير السلبتين.
التحليل النظري يقدم المؤلفون برهانًا نظريًا يوضح أنه تحت ظروف محددة، يستعيد هذا المخطط التعلم المحلي بدقة تحديث الانتشار العكسي:
الافتراضات: تتكون شبكة BU من عمليات خطية متبوعة بغير خطيات ReLU، وتكون أوزان BU و TD متوافقة (متماثلة).
الآلية: تحقق عملية انتشار TD نفس التكرار (recursion) الخاص بإشارات خطأ الانتشار العكسي (δl). على وجه التحديد، الفرق بين قناتي TD غير السلبتين (∂ˉl−∂l) ينتشر للخلف تمامًا كما تفعل إشارة الخطأ الموقعة δl في الانتشار العكسي القياسي، ويتم التحكم فيه بواسطة مشتق ReLU (الذي يقابل قناة BU النشطة).
النتيجة: وبناءً على ذلك، فإن التحديث الهيبي المحلي η(∂ˉl−∂l)hl−1T يكافئ رياضيًا تحديث الانحدار التدريجي −η∂Wl∂L.
النتائج التجريبية تم تقييم النموذج على معايير تصنيف الصور:
التجارب المنضبطة (MNIST, Fashion-MNIST, CIF_10):
حقق النموذج المتماثل الهيبي (حيث تتوافق أوزان BU و TD) دقة اختبار مقاربة لشبكات الانتشار العكسي القياسية ذات العرض الفعال نفسه.
النسخ المتغيرة ذات "التماثل الضعيف" (المحاذاة الضوضائية) وأوزان "النمط المتعلم" أدت أيضًا بشكل جيد، مما يشير إلى أن البنية قوية تجاه المحاذاة غير المثالية ولا تتطلب أوزان داخلية بوحدة ثابتة.
تفوق نموذج "تشغيل-إيقاف" على شبكات MLP القياسية ذات ReLU من حيث الحجم المماثل، مما يشير إلى أن تمثيل القنوات المزدوجة يوفر فوائد حوسبية تتجاوز مجرد مضاعفة عدد الخلايا العصبية.
التوسع (Tiny ImageNet):
في معيار Tiny ImageNet الأكثر صعوبة (200 فئة)، حقق نموذج "تشغيل-إيقاف" مع تعلم هيبي محلي دقة 42.31% في أعلى 1 (top-1 accuracy).
تفوق هذا بشكل كبير على الأنماط المرجعية الحديثة المستوحاة بيولوجيًا مثل Self-Contrastive Forward-Forward (SCFF, 35.7%) وعلى النماذج التلافيفية القياسية ذات العرض المتطابق (35.58%).
تشير النتائج إلى أن البنية تتوسع بفعالية لتصبح شبكات تلافيفية أكثر عمقًا.
الأهمية والادعاءات يدعي البحث أنه يحل التناقض طويل الأمد في التعلم ذي الملاءمة البيولوجية: كيف يمكن تنفيذ تخصيص الائتمان (credit assignment) الفعال في الشبكات المقيدة بقانون ديل والنشاط غير السالب.
الملاءمة البيولوجية: يوضح النموذج كيف يمكن للإشارات التعليمية الموقعة أن تنبثق من التفاعلات المهيكلة بين الجمهرات العصبية غير السالبة (قنوات التشغيل/الإيقاف) دون الحاجة إلى أن تطلق الخلايا العصبية قيمًا سالبة أو أن تغير التشابكات إشارتها. وهذا يتماشى مع الأدلة البيولوجية على مسارات التشغيل والإيقاف في الشبكية والقشرة البصرية، وكذلك الاكتشافات الأخيرة للتغذية الراجعة الشعيرية المتجهة.
الفعالية الحوسبية: خلافًا للافتراض بأن القيود البيولوجية تؤدي بالضرورة إلى تدهور الأداء، فإن بنية "تشغيل-إيقاف" لا تضاهي فحسب، بل غالبًا ما تتجاوز أداء الشبكات القياسية "التقليدية" ذات الحجم المماثل. يشير المؤلفون إلى أن تمثيل القنوات المزدوجة يوفر طريقة فعالة لترميز الميزات البصرية (مثل قطبية الحواف المتكاملة أو تباينات الكائن والخلفية)، مما يوفر ميزة حوسبية إلى جانب الواقعية البيولوجية.
القيود: يقر المؤلفون بأن النموذج ليس نموذجًا بيولوجيًا كاملًا للتعلم القشري. فهو يتطلب مضاعفة عدد الخلايا العصبية (أو القنوات) مقارنة بالشبكات القياسية ويعتمد على محاذاة مسارات BU و TD، وإن كانوا قد أظهروا أن هذه المحاذاة لا يجب أن تكون دقيقة تمامًا.
باخت-صار، يوفر هذا العمل آلية ملموسة للتعلم الشبيه بالانتشار العكسي في الشبكات المقيدة بقانون ديل، مما يسد الفجوة بين القوة الحوسبية للتعلم القائم على التدرج والقيود الفيزيائية للدوائر العصبية البيولوجية.