Post-Grokking Collapse at the Representation-Readout Interface in Muon-Trained Transformers
تُثبت هذه الورقة أن نماذج المحولات (transformers) المُدربة باستخدام Muon تُظهر "انهيار ما بعد التبصر" (post-grokking collapse) حيث يفشل التعميم بعد تعلم الحساب النمطي بسبب عدم الاستقرار عند واجهة التمثيل-القراءة (representation-readout interface)، وهي ظاهرة تتميز بديناميكيات مُحسِّن متباعدة وتأثيرات حجب يمكن حلها عن طريق تجميد مكونات محددة للنموذج أو إعادة قياس الدائرة المتوافقة مع المهمة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
لغز العبقري المتلاشي
في هذه الدراسة، نظر الباحثون إلى نوع خاص من روبوتات الذكاء الاصطناعي يسمى "ترانسفورمر" (Transformer)، تم تدريبه على حل ألغاز الجمع النمطي. استخدموا "معلمين" مختلفين (المحسنات - optimizers) لتعليم الروبوت. المعلم الأول، واسمه AdamW، هو معلم تقليدي وموثوق. أما المعلم الثاني، واسم Muon، فهو معلم أحدث وأسرع، ويبدو أنه يساعد الروبوت على فهم اللغز بسرعة أكبر بكثير.
وجد الباحثون أن Muon هو بالفعل "وحش سرعة". فهو يساعد الروبوت على الوصول إلى لحظة "الاستنارة" (grokking) في نصف الوقت الذي يستغرقه AdamW تقريبًا. ولكن هنا تكمن المفاجأة: الحلول التي يجدها Muon هشة للغاية. فبمجرد أن يحل الروبوت اللغز، يبدأ غالبًا في الفشل مجددًا، حيث تهبط دقة أدائه من 100% إلى ما يقرب من الصفر، ليعود ويتعافى لاحقًا. يتكرر هذا الأمر مرارًا وتكرارًا، رغم أنه لا يزال يتلقى التدريب على نفس المشكلة. أما AdamW فليس آمنًا تمامًا أيضًا، لكنه يفشل بشكل أقل تكرارًا وبشكل أقل حدة.
المصافحة المكسورة
إذًا، ما الخطب؟ اكتشف الباحثون أن المشكلة ليست في أن الروبوت نسي الرياضيات. فالروبوت لا يزال يعرف الحل تمامًا داخل "دماغه". المشكلة تكمن في مصافحة مكسورة بين جزأين من الروبوت: الجزء الذي يفكر (التمثيل - representation) والجزء الذي يجيب (المخرجات - readout).
تخيل أن عقل الروبوت عبارة عن مكتبة مليئة بالكتب (الأفكات)، وفم الروبوت هو أمين المكتبة الذي يقرأ الكتب بصوت عالٍ (الإجابة).
- المكتبة (الطبقات الخفية) تكتب ملاحظات جديدة على الكتب في كل ثانية.
- أمين المكتبة (رأس المخرجات) يحاول قراءة هذه الكتب لإعطاء الإجابة.
مع معلم Muon، تستمر المكتبة في إعادة كتابة الكتب بلغة مختلفة قليلاً في كل مرة يتم فيها التحديث، لكن أمين المكتبة يستمر في محاولة قراءة تلك الكتب باللغة القديمة. في البداية، ينجحان في فهم بعضهما البعض. ولكن لأن المكتبة تغير لغتها بسرعة أكبر مما يستطيع أمين المكتبة التكيف معه، فإنهما في النهاية يتوقفان عن فهم بعضهما البعض. المكتبة لا تزال تكتب الرياضيات الصحيحة، لكن أمين المكتبة يقرأ الكلمات الخاطئة.
أثبت الباحثون ذلك من خلال تجميد أحد الجانبين. فعندما أوقفوا المكتبة عن تغيير لغتها، ظل الروبوت مثاليًا. وعندما أوقفوا أمين المكتبة عن تغيير أسلوب قراءته، ظل الروبوت مثاليًا أيضًا. ولكن عندما سُمح لكليهما بالتحرك بحرية، انحرفا عن المسار، وبدأ الروبوت في الفشل.
الشبح في الآلة
هذا هو الجزء الأكثر إرباكًا: حتى عندما يفشل الروبوت، لا تزال "المكتبة" تحتوي على الحل المثالي. استخدم الباحثون مرشحًا خاصًا للنظر فقط في جزء الدماغ الذي يعرف الرياضيات. وعندما فعلوا ذلك، كان الحل لا يزال صحيحًا بنسبة 100%!
اتضح أن الروبوت يعاني من قناع الدائرة (circuit masking). تخيل أن المكتبة تصرخ بالإجابة الصحيحة، لكن بقية الروبوت يصرخ بإجابة خاطئة بنفس مستوى الصوت تمامًا. يسمع أمين المكتبة ضجيجًا مشوشًا ويعطي الإجابة الخاطئة. الإجابة الصحيحة لا تزال موجودة، لكنها غارقة في الضجيج.
أظهر الباحثون أنه إذا قمت ببساطة برفع مستوى صوت الجزء الصحيح (عائلة الرياضيات) دون تغيير أي شيء آخر، فإن الروبوت يعود فورًا ليكون بدقة 100%. الرياضيات لم تختفِ؛ بل ضاعت في الضجيج فحسب.
لماذا أخفقت الأدوات المعتادة
عادةً ما يتحقق العلماء مما إذا كان الروبوت يعمل من خلال النظر في "النوتات" التي يستخدمها لحل المشكلة. يتحققون مما إذا كانت النوتات الصحيحة موجودة وما إذا كانت عالية بما يكفي. في هذه الدراسة، قالت تلك الأدوات إن الروبوت بخير؛ فالنوتات كانت موجودة، وكانت تبدو مشابهة جدًا لما كانت عليه قبل الفشل.
لكن الروبوت كان يفشل رغم ذلك. والسبب هو أن تلك الأدوات كانت تنظر إلى النوتات وليس إلى مستوى الصوت أو اللغة التي يستخدمها أمين المكتبة. كانت النوتات مثالية، لكن أمين المكتبة توقف عن الاستماع إليها بشكل صحيح. الأمر يشبه فحص راديو والتأكد من أن المحطة تبث بوضوح، دون أن تدرك أن الراديو مضبوط على تردد خاطئ.
الغوص العميق
اختبر الباحثون أيضًا ما يحدث عندما يجعلون الروبوت "أعمق" (إضافة المزيد من طبقات التفكير). وجدوا أن Muon يصبح أسرع في التعلم، لكن مشكلة المصافحة المكسورة تصبح أسوأ. في النماذج الأكثر عمقًا، يكتب دماغ الروبوت الرياضيات في قسم ما، بينما يكون الجزء الذي يقرأ الإجابة في قسم آخر، وينحرفان عن بعضهما البعض بسرعة أكبر.
كما جربوا إصلاح معلم Muon عن طريق إزالة خدعة "التطبيع" (normalization) الخاصة به (وهي طريقة للحفاظ على استقرار التحديثات). بدون هذه الخدعة، تعلم الروبوت الرياضيات بطريقة ضيقة ومركزة، لكنه في النهاية انهار تمامًا ولم يستطع التعافي. وهذا يشير إلى أنه بينما تساعد هذه الخدعة الخاصة الروبوت على التعلم بسرعة ونشر معرفته، إلا أنها تجعله أيضًا أكثر عرضة لهذا النوع المحدد من الفشل الناتج عن الانحراف.
الخلاصة
الدرس الرئيسي من هذه الورقة البحثية هو أن التعلم السريع يمكن أن يكون خطيرًا إذا لم تكن أجزاء الروبوت متزامنة. الروبوت لم ينسَ الرياضيات؛ بل فقد فقط الاتصال بين الجزء الذي يعرف الرياضيات والجزء الذي ينطق بها.
وجد الباحثون أنه إذا قاموا بتجميد جزء "التحدث" (المخرجات والتمثيلات - embeddings) بعد أن يتعلم الروبوت الحل، فإنه يظل مستقرًا ولا ينسى أبدًا. وهذا يشير إلى أن عدم الاستقرار ليس لأن الروبوت سيء في الرياضيات، بل لأن نصفي الروبوت يتحركان بسرعات مختلفة ويفقدان لغتهما المشتركة.
باختختصار، الروبوت عبقري بدأ فجأة يتلعثم لأن دماغه وفمه يتحدثان لهجات مختلفة. الرياضيات لا تزال مثالية في الداخل، ولكن بدون طريقة لإبقاء اللهجات متوافقة، لا يستطيع هذا العبقري إظهار مهاراته.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.