How Do Large Language Models Learn Concepts During Continual Pre-Training?

يفهم البشر العالم من خلال تجميع الأشياء في فئات ذهنية. فنحن نرى حيواناً ذا فرو وأربعة أرجل وندرك على الفور أنه "كلب"، وهو مفهوم يحمل معه حزمة من السمات المشتركة: فهو ينبح، وله ذيل، ويمكنه الركض. هذه القدرة على تجريد الملاحظات المحددة إلى أفكار عامة هي حجر الزاويد في التفكير البشري. وتحاول النماذج اللغوية الكبيرة، وهي برامج حاسوبية قوية يمكنها كتابة القصص والإجابة على الأسئلة، القيام بشيء مماثل؛ حيث يتم تدريبها على محيطات شاسعة من النصوص، حيث يُتوقع منها استخراج هذه الأنواع نفسها من المفاهيم المجردة وتخزينها داخل أنظمتها الداخلية. ولكن بينما نعلم أن هذه النماذج يمكنها التعلم، فقد كافحنا لفهم كيف تحتفظ بهذا النوع من المعرفة بمرور الوقت بالضبط، أو لماذا تبدو أحياناً وكأنها تفقدها عند تقديم معلومات جديدة إليها.

لسنوات، حاول الباحثون إلقاء نظرة داخل هذه العقول الرقمية ليروا كيف تعمل. اختبر بعضهم هذه النماذج بأسئلة لمعرفة ما إذا كانت تتذكر الحقائق، بينما حاول آخرون رسم مسارات محددة يستخدمها الحاسوب لمعالجة المعلومات. ومع ذلك، فإن هذه الأساليب غالباً ما تنظر إلى حقائق معزولة أو لحظات زمنية ثابتة، فهي تغفل العملية الديناميكية لكيفية تعلم النموذج لفكرة جديدة، وتقويتها، ثم احتمال نسيانها عند إجباره على تعلم شيء آخر. وهذه الفجوة في الفهم تعد أمراً بالغ الأهمية، لأننا بينما نقوم بتحديث هذه النماذج ببيانات جديدة، نحتاج إلى معرفة ما إذا كانت تبني حقاً فهماً مستقراً للعالم أم أنها مجرد تحفظ أنماطاً ستتلاشى مع التحديث التالي.

وضع فريق من الباحثين هدفاً لحل هذا الغموض عبر مراقبة كيفية تعلم وفقدان الذكاء الاصطناعي لمفاهيم محددة في الوقت الفعلي. لقد أنشأوا بيئة محكومة باستخدام مجموعة بيانات من مفاهيم مخترعة. تخيل تعليم طفل عن مخلوق يسمى "أولري" (Olre) لديه القدرة على الركض، أو "فو" (Foo) لديه أربعة أرجل. ولأن هذه المخلوقات لا توجد في العالم الحقيقي، فإن الحاسوب ليس لديه معرفة مسبقة بها. سمح هذا للعلماء بمراقبة عملية التعلم من الصفر، بعيداً عن أي انحيازات مسبقة. لقد دربوا النموذج على هذه الحقائق الخيالية، ثم عرضوه لكمية هائلة من النصوص غير المرتبطة بها ليروا ما سيحدث لذاكرة "الأولري" و"الفو".

ما اكتشفوه كان نمطاً واضحاً وقابلاً للقياس في كيفية تغير البنية الداخلية للنموذج. وجد الباحثون أن الحاسوب لا يقوم فقط بتخزين حقيقة في مكان واحد، بل يبني شبكة معقدة من الاتصالات، أو "دائرة"، لتمثيل تلك الفكرة. ومن خلال تحليل شكل وكثافة هذه الشبكات، تمكنوا من التنبؤ بمدى جودة تعلم النموذج لمفهوم ما ومدى احتمالية نسيانه. وقد وجدوا مقايضة مفاجئة: المفاهيم التي تعلمها النموذج بسرعة وقوة أكبر كانت غالباً هي تلك التي ينساها بسهولة أكبر عند وصول معلومات جديدة. يبدو أن قوة التعلم الأولية ذاتها جعلت الذاكرة أكثر هشاشة عندما أُجبر النظام على إعادة تنظيم نفسه.

كما كشفت الدراسة أيضاً كيف تتداخل الأفكار المختلفة مع بعضها البعض. فعندما حاول النموذج تعلم مفهومين متشابهين جداً في المعنى في نفس الوقت، عانى بشكل أكبر بكثير مما لو كانت المفاهحات غير مرتبطة. كانت الشبكات الداخلية لهذه الأفكار المتشابهة تتداخل، مما خلق نوعاً من الازدحام المروري حيث لا يستطيع الحاسوب التمييز بينهما بسهل. وعلى العكس من ذلك، وجد الباحثون أن تعلم نوع واحد من المعرفة يمكن أن يساعد النموذج في تعلم نوع آخر؛ فعلى سبيل المثال، جعل تعليم النموذج خصائص ووظائف الأشياء من السهل عليه كثيراً تعلم العلاقات بين الكلمات المتشابهة والمتضادة لاحقاً. يشير هذا إلى أن ترتيب تقديم المعلومات أمر بالغ الأهمية؛ فبعض الدروس تعمل كقاعدة للدروس الأخرى.

ولعل الأمر الأكثر أهمية هو أن الباحثين أظهروا أن هذه الأنماط الداخلية ليست مجرد ملاحظات مجردة، بل يمكن استخدامها لتحسين النماذج نفسها. فمن خلال النظر في شكل دوائر التعلم، استطاعوا تحديد المفاهيم الأكثر عرضة لخطر النسيان. ثم استخدموا هذه الرؤية لإنشاء استراتيجية تدريب بسيطة: كلما كان النموذج يتعلم أشياء جديدة، كانوا يتوقفون أحياناً لمراجعة المفاهيم المحددة الأكثر عرضة للنسيان. ساعدت هذه المراجعة المستهدفة، الموجهة بالبنية الداخلية للنموذج، الحاسوب بشكل كبير على الاحتفاظ بمعرفته. تشير هذه الأعمال إلى أنه من خلال الاهتمام بالبنية الداخلية لكيفية تعلم هذه النماذج، يمكننا تعليمها بشكل أكثر فعالية، مما يساعدها على بناء فهم أكثر استقراراً وموثوقية للعالم، تماماً مثل طالب يعرف الملاحظات التي يجب مراجعتها قبل الاختبار.