The Grokked Illusion: True Equilibrium Mitigates Catastrophic Forgetting

تخيل أنك تعلم روبوتاً حل الألغاز الرياضية. تريد أن يكون ذكياً، لكنك تريده أيضاً أن يكون صلباً. في عالم الذكاء الاصطناعي، يعني "الذكاء" عادةً قدرة الروبوت على النظر إلى مشكلة لم يسبق له رؤيتها وحلها بشكل صحيح، وهذا ما يسمى التعميم (Generalization). ولكن هناك فخ خفي: يمكن للروبوت أن يكون ذكياً للغاية في لحظة ما، ومع ذلك يكون هشاً للغاية. إذا طلبت منه تعلم مهارة جديدة فور إتقانه للمهارة الأولى، فقد ينسى فجأة كل ما تعلمه للتو. وهذا ما يسمى النسيان الكارثي (Catastrophic Forgetting).

لطالما تساءل العلماء: ما الذي يجعل عقل الروبوت قوياً حقاً؟ هل يتعلق الأمر فقط بالحصول على الإجابات الصحيحة، أم أن هناك شيئاً أعمق يتعلق بكيفية تخزين الروبوت لتلك الإجابات؟ فكر في الأمر كأنه مكتبة؛ يمكنك امتلاك مكتبة تحتوي على الكتب المثالية (تعميم عالٍ)، ولكن إذا كانت الرفوف هشة والكتب مكدسة بشكل غير مستقر، فإن إضافة كتاب واحد جديد قد يؤدي إلى انهيار البرج بأكمده. يستكشف هذا البحث ما إذا كان "شكل" عقل الروبوت — وتحديداً مقدار "مساحة الحركة" التي يمتلكها في ذاكرته — هو ما يحدد قدرته على التعامل مع المعلومات الجديدة دون فقدان المعلومات القديمة.

---

وهم "الاستيعاق الكامل": عندما تخفي الدرجات المثالية ضعفاً

قرر الباحثون وراء هذه الدراسة اختبار فكرة مثيرة للاهتمام: هل تضمن الدرجة المثالية ذاكرة قوية؟ لمعرفة ذلك، أقاموا تجربة منضبطة باستخدام لعبة رياضية بسيطة: الحساب النمطي (وهو أساساً جمع الأرقام وإيجاد الباقي، مثل ساعة تعيد ضبط نفسها بعد 67 ساعة).

قاموا بتدريب نوعين مختلفين من نماذج الذكاء الاصطناعي على هذه اللعبة حتى حصل كلاهما على درجة مثالية 100%:

1. النموذج "القياسي": تم تدريبه باستخدام طريقة شائعة ومعيارية (تسمى AdamW). تعلم المهمة بسرعة وحصل على درجة مثالية.
2. النموذج "عالي الاعتلاج" (High-Entropy): تم تدريبه باستخدام طريقة خاصة مستوحاة من الفيزياء (تسمى Wang-Landau Molecular Dynamics). حصل هو الآخر على درجة مثالية 100%، ولكنه وُجد في منطقة "أكبر" من الفضاء الرياضي حيث توجد الحلول. فكر في النموذج القياسي كأنه وجد وادياً صغيراً وضيقاً ليتمركز فيه، بينما وجد النموذج عالي الاعتلاج هضبة واسعة وضخمة.

بدا كلا النموذجين متطابقين على الورق: كلاهما كان مثالياً بنسبة 100% في اللعبة الرياضية. لكن الباحثين اشتبهوا في وجود فرق سري بينهما.

اختبار حقن الضجيج: النسيان المتعمد

لاختبار مدى صلابتهم، قام الباحثون بخدعة. قالوا لكلا النموذجين: "حسناً، أنتما رائعان في الرياضيات. الآن، احفظا هذه القائمة الجديدة من البيانات العشوائية". قاموا بحقن "الضجيج" — أرقام عشوائية بلا معنى مع تسميات عشوائية — في مزيج التدريب. أجبروا النموذجين على حفظ هذه البيانات الهباء بشكل مثالي (بتحقيق دقة 99.8% في البيانات الجديدة) مع محاولة تذكر لعبة الرياضيات الأصلية في نفس الوقت.

كانت النتائج صادمة وكشفت عما يسميه المؤلفون "وهم الاستيعاق الكامل" (The Grokked Illusion).

• النموذج القياسي (AdamW): بمجرد أن بدأ في حفظ البيانات العشوائية الجديدة، بدأ في الانهيار. تراجعت قدرته على حل لعبة الرياضيات الأصلية من 100% إلى أقل من 75%. لقد "نسي" مهارته الأصلية لإفساح المجال للمهارة الجديدة. كان الأمر يشبه طالباً، بمجرد محاولته حفظ قائمة من أرقام الهواتف العشوائية، نسي فجأة كيفية إجراء عمليات الجمع الأساسية.
• النموذج عالي الاعتلاج: كان هذا النموذج بمثابة دبابة. حتى بعد حفظ نفس البيانات العشوائية بشكل مثالي، حافظ على مهاراته الرياضية الأصلية سليمة تماماً تقريباً، حيث بقيت دقتها بين 95% إلى 98%. استطاع احتواء المعلومات الجديدة دون أن يفقد المعلومات القديمة.

يشير البحث إلى أن الدرجة "المثالية" للنموذج القياسي كانت وهماً؛ فقد بدت قوية، لكنها كانت في الواقع هشة. أما النموذج عالي الاعتلاج، فقد كان قوياً حقاً.

لماذا فشل أحدهما ونجح الآخر؟

تعمق الباحثون في "عقول" هذه النماذج لمعرفة وجه الاختلاف. استخدموا أداة رياضية تسمى "تفكيك القيم المفردة" (Singular Value Decomposition) (فكر فيها كأشعة سينية تظهر عدد "الاتجاهات" المختلفة التي يستخدمها النموذج لتخزين المعلومات).

وجدوا أن النموذج عالي الاعتلاج كان يمتلك "رتبة فعالة" أعلى بكثير. وباللغة المبسطة، هذا يعني أن عقله استخدم مجموعة أوسع وأكثر تنوعاً من الأدوات لحل المشكلة. لم يكن يعتمد على مجرد مسارات قليلة وضيقة وهشة، بل كان لديه شبكة غنية وموزعة من الميزات.

عندما دخل الضجيج:

• اضطر النموذج القياسي إلى إعادة ترتيب مساراته القليلة والضيقة لتناسب البيانات الجديدة، مما أدى إلى كسر المسارات القديمة.
• كان لدى النموذج عالي الاعتلاج الكثير من "المساحة الإضافية" والعديد من المسارات المختلفة بحيث استطاع استيعاب الضجيج الجديد دون إزعاج المهارات الرياضية القديمة. كان الأمر يشبه جسراً عريضاً ومتيناً يمكنه تحمل شاحنة ثقيلة (البيانات الجديدة) دون أن تهتز أساساته، بينما انهار الجسر الضيق (النموذج القياسي) تحت نفس الوزن.

ماذا يعني هذا للمستقبل؟

خلصت الدراسة إلى أن التعميم المثالي لا يعني المتانة المثالية. مجرد حصول النموذج على درجة (A+) في اختبار ما لا يعني أنه لن يفشل عندما تواجهه الحياة بظروف غير متوقعة.

يقترح المؤلفون أن "شكل" ذاكرة النموذج أمر بالغ الأهمية. فالنماذج التي تشغل مساحات أكبر و"عالية الاعتلاج" في عالمها الرياضي هي بطبيعتها أفضل في تذكر الأشياء عندما يتعين عليها تعلم أشياء جديدة. وهذا يشير إلى أننا في المستقبل قد لا نحتاج فقط لتدريب الذكاء الاصطناعي للحصول على الإجابة الصحيحة، بل لجعله يجد "الأودية الأكثر اتساعاً" في مساحة الحلول. يمكن أن يساعد هذا في بناء ذكاء اصطناعي لا ينسى ماضيه عندما يتعلم مستقبله، مما يجعله أكثر موثوقية للمهام الواقعية حيث تتغير الأمور باستمرار.

بينما تستند هذه النتائج حالياً إلى عمليات محاكاة باستخدام ألغاز رياضية، يعتقد المؤلفون أن هذا المبدأ يمكن أن ينطبق على أنظمة الذكاء الاصطناዊ الأكبر والأكثر تعقيداً، مما قد يحل المشكلة الأزلية المتمثلة في نسيان الآلات لما تعلمته بالأمس.