Metaplasticity as adaptive gradient preconditioning for incremental learning

تمتلك القدرة البشرية على التعلم المستمر قدرة مذهلة؛ إذ يمكن للطفل أن يتعلم التعرف على الكلب، ثم يتعلم ركوب الدراجة، ثم يتعلم لغة جديدة، كل ذلك دون أن ينسى كيفية تحديد الكلب. هذا التدفق السلس للمعرفة الجديدة لا يمحو الذكريات القديمة. وفي المقابل، تعاني أنظمة الذكاء الاصطناعي، التي بُنيت على نماذج رياضية مستوحاة من الدماغ، بشدة من هذه المهمة ذاتها. فعندما تتعلم هذه البرامج الحاسوبية مهمة جديدة، غالبًا ما تعاني مما يسمى "النسيان الكارثي"، وهي ظاهرة حيث يمحو التعلم الجديد المعرفة القديمة بعنف. يصبح النظام غير مستقر، وغير قادر على التمسك بماضيه أثناء محاولته استيعاب حاضره. لطالًا ما سعى العلماء لحل "معضلة الاستقرار والمرونة" هذه، محاولين إيجاد طريقة تجعل الآلات مرنة بما يكفي لتعلم أشياء جديدة، ومستقرة بما يكفي للاحتفاظ بما تعرفه بالفعل.

لعقود من الزمن، حاول الباحثون محاكاة الحل الدماغي عبر إضافة قواعد إضافية أو حفظ بيانات قديمة لمراجعتها لاحقًا. ومع ذلك، تتطلب هذه النهج غالبًا أن يعرف الحاسوب بدقة متى تنتهي مهمة وتبدأ أخرى، أو تتطلب كميات هائلة من الذاكرة لتخزين الأمثلة الماضية. تبدو هذه المتطلبات مصطنعة ولا تعكس كيف يعمل الذكاء البيولوجي في الواقع. يقترح بحث جديد من باحثين في جامعة سيدني مسارًا مختلفًا؛ فبدلاً من إجبار الحاسوب على تذكر البيانات القديمة أو التوقف لحساب الأهمية بعد انتهاء المهمة، يقترحون أن يقوم النظام بتعديل سرعة تعلمه الخاصة في الوقت الفعلي، لحظة بلحظة، تمامًا كما تفعل المشابك العصبية الحية. وقد أطلقوا على هذا النهج اسم "SynGAP"، وهو أسلوب يعامل عملية التعلم ليس كسلسلة من الخطوات المتميزة، بل كنهر مستمر حيث يشكل التيار الضفاف بشكل طبيعي.

الفكرة الجوهرية مستمدة من مفهوم بيولوجي يُعرف باسم "اللدونة الميتا-بلاستيكية" (metaplasticity). في الدماغ، لا يكون المشبك العصبي مجرد مفتاح بسيط يعمل أو يتوقف؛ بل له تاريخ. حالة المشبك تتغير بناءً على مدى استخدامه في الماضي، مما يجعله أكثر أو أقل عرضة للتغير مرة أخرى. هذه هي "لدونة اللدونة". إذا تم تقوية اتصال ما على مدى فترة طويلة، فإن الدماغ يجعل من الصعب تعديله، مما يحمي تلك الذاكرة. أما إذا كان الاتصال جديدًا أو غير مستخدم، فإنه يظل مرنًا. أدرك الباحثون أن الشبكات العصبية الاصطناعية يمكن أن تستفيد من هذا المبدأ نفسه. فبدلاً من الانتظار حتى تكتمل المهمة لتقرير أي أجزاء الشبكة مهمة، يسمح منهجهم للشبكة بمراقبة تاريخها باستمرار. فهي تحتفظ بمتوسط متحرك لمدى مساهمة كل جزء من الشبكة في التعلم السابق، مما يخلق فعليًا ذاكرة للأهمية تتحدث مع كل قطعة بيانات جديدة.

ولوضع ذلك موضع التنفيذ، طور الفريق نظامًا يعمل مثل صمام ديناميكي لعملية التعلم. عندما يحاول الحاسوب تعلم شيء جديد، فإنه يحسب التعديلات القياسية اللازمة لتحسين أدائه. ومع ذلك، قبل تطبيق هذه التعديلات، تمر عبر مرشح (فلتر). يتحقق هذا المرشح من تاريخ كل اتصال؛ فإذا كان الاتصال حيويًا للمهام الماضية، يقوم المرشح بإبطاء التغيير بلطف، مما يمنع التعلم الجديد من تدمير القديم. وإذا لم يكن الاتصال حيويًا، يسمح المرشح بحدوث التغيير بحرية. والأهم من ذلك، يحدث هذا دون حاجة الحاسوب لمعرفة المهمة التي يقوم بها حاليًا، ودون الحاجة لتخزين مكتبة كبيرة من الأمثلة القديمة للرجوع إليها. ببساطة، يتدفق النظام للأمام، معدلاً حساسيتة بناءً على ما تعلمه بالفعل.

اختبر الباحثون هذا النهج في اختبارين معياريين صعبين حيث يجب على الحاسوب تعلم التعرف على فئات مختلفة من الصور بالتتابع. في أحد الاختبارات، كان على النظام تعلم 100 فئة مختلفة من الصور، مقسمة إلى عشر مجموعات. أساليب التعلم القياسية، التي تحاول ببساطة تقليل الأخطاء أثناء سيرها، نسيت المجموعات الأولى بالكامل تقريبًا، حيث احتفظت بأقل من 10% من الدقة في المهام القديمة. أما الأساليب التي حاولت حفظ البيانات القديمة أو إضافة عقوبات إضافية لعملية التعلم فقد قدمت أداءً أفضل، لكنها لا تزال تعاني، وغالبًا ما تنسى أكثر من نصف ما تعلمته. ومع ذلك، حقق منهج "SynGAP" الجديد مستوى أعلى بكثير من النجاح؛ فقد احتفظ بمتوسط دقة يقارب 27% في المهام القديمة، وهو ما يزيد عن أربعة أضعاف طريقة التنظيم القياسية، وأفضل بنسبة 10% تقريبًا من الطريقة التي تعتمد على حفظ البيانات القديمة. كما قلل من مقياس النسيان بأكثر من 10% مقارنة بتلك التقنيات الراسخة.

وفي اختبار ثانٍ يتضمن تدفقًا مستمرًا للتعرف على الأشياء، كانت النتائج قوية أيضًا. وصل المنهج الجديد إلى دقة تبلغ حوالي 68%، متفوقًا على أفضل أدوات التعلم القياسية بنحو 10 نقاط مئوية. ولعل الأهم من ذلك هو أن النظام لم يصبح جامدًا؛ فبعض الأساليب التي تحمي الذكريات القديمة جيدًا تجعل من المستحيل على الحاسوب تعلم أي شيء جديد. وجد الباحثون أن نهجهم حقق توازنًا دقيقًا: فقد حمى الماضي دون تجميد المستقبل. ظل النظام مرنًا بما يكفي للتكيف مع المعلومات الجديدة مع الحفاظ على الهيكل الأساسي لمعرفته القديمة سليمًا.

يكمن نجاح هذا النهج في كيفية تغييره لطبيعة تحديث التعلم. غالبًا ما تحاول الأساليب التقليدية حل المشكلة بإضافة عقوبة إلى الهدف النهائي، مما يعني قول: "لا تبتعد كثيرًا عما كنت عليه". يمكن لهذا أن يشوه مسار التعلم ويخلق صراعات مع نمو عدد المهام. في المقابل، يعدل المنهج الجديد خطوة التعلم نفسها؛ فهو يعمل كدليل هندسي، يوجه الحاسوب بعيدًا عن الاتجاهات التي من شأنها تدمير الذكريات القديمة، بينما يسمح له بالتحرك بحرية في الاتجاهات التي لا تتعارض معها. يحدث هذا بشكل مستمر، مدفوعًا بتدفق البيانات نفسها، وليس عبر إشارات خارجية أو ذكريات مخزنة. لقد أثبت الباحثون أنه من خلال صياغة هذه العملية البيولوجية رياضيًا، استطاعوا إنشاء نظام يتسم بالمتانة والكفاءة، ويتطلب قدرًا ضئيلًا جدًا من الذاكرة الإضافية للعمل.

بينما يعد النظام فعالاً للغاية، يشير الباحثون إلى أنه ليس حلاً مثاليًا لكل السيناريوهات الممكنة. فهو يعتمد حاليًا على رؤية مبسطة للهندسة الداخلية للشبكة، والتي تعمل جيدًا في كثير من الحالات ولكنها قد تحتاج إلى تحسين للمشكلات شديدة التعقيد. كما أنه لا يزال يتطلب قدرًا صغيرًا من البيانات المخزنة ليعمل، وإن كان أقل بكثير من الأساليب السابقة. ورغم هذه القيود، يمثل هذا العمل خطوة كبيرة للأمام؛ فهو يظهر أنه من خلال النظر عن كثب في كيفية إدارة الأنظمة البيولوجية للتوتر بين الاستقرار والتغيير، ومن خلال ترجمة تلك المبادئ إلى عملية مستمرة وفي الوقت الفعلي، يمكننا بناء ذكاء اصطناعي يتعلم مثل العقل الحي. تشير الدراسة إلى أن مفتاح منع النسيان الكارثي ليس في إيقاف التعلم أو في تكديس الماضي، بل في ترك تاريخ التعلم يشكل الطريقة التي يُتعلم بها المستقبل.