A Model That Does Not Forget. A Logbook That Corrects and a Sleep That Consolidates, on a Frozen Language Model

تخيل مساعداً رقمياً يعيش في جيبك، مساعداً تسأله أسئلة كل يوم. لكي يكون هذا المساعد مفيداً حقاً، يجب أن يفعل أكثر من مجرد معرفة الحقائق عن العالم؛ يجب أن يتذكر التاريخ المحدد لمحادثاتك. يجب أن يتذكر أنك أخبرته أن اسم كلبك هو "توبي" الأسبوع الماضي، ولكنك صححت نفسك هذا الأسبوع لتقول إن لديك كلبين بالفعل، "توبي" و"لونا". يجب أن يتمسك بهذا التغيير دون أن يصاب بالارتباك، ويجب أن يعرف متى يقول "لا أعرف" إذا سألته عن شيء لم يسمع به من قبل. هذا هو التحدي المتمثل في بناء آلة تتعلم باستمرار دون أن تنسى ما تعرفه بالفعل، وهي مشكلة لطالما حيرت العلماء العاملين في مجال الذكاء الاصطناعي.

تكمن الصعوبة الجوهرية في كيفية تخزين هذه البرامج الحاسوبية للمعلومات. تقليدياً، عندما يتعلم النموذج شيئاً جديداً، يتعين عليه إعادة كتابة ذاكرته الداخلية، مما يؤدي غالباً إلى مسح ذكرياته القديمة عن طريق الخطأ. يشبه هذا محاولة كتابة ملاحظة جديدة في دفتر ملاحظات عن طريق الكتابة فوق ملاحظة قديمة؛ تدخل المعلومات الجديدة، لكن القديمة تضيع. تحاول طرق أخرى الاحتفاظ بقائمة منفصلة من الحقائق خارج الذاكرة الرئيسية، ولكن مع نمو هذه القائمة، يصبح النظام بطيئاً ومكلفاً في الاستخدام. أراد الباحثون إيجاد طريقة لنموذج حاسوبي ثابت (مجمد) — وهو نموذج لا يغير هيكله الأساسي — ليتذكر مئات الحقائق، ويصححها عندما تتغير، ومع ذلك يعرف متى يعترف بجهله، وكل ذلك دون أن يتباطأ مع طول التاريخ.

قام باحث يدعى ماكسيميليانو سبيرانزا بمعالجة هذا الأمر عبر اختبار نظام مكون من جزأين على نموذج لغوي صغير وثابت. الجزء الأول هو "سجل الأحداث" (logbook)، وهو سجل خارجي يخزن كل حقيقة مع تاريخ إصداراتها. يعمل سجل الأحداث هذا كلوحة مرجعية سريعة يمكن للنموذج التحقق منها كلما احتاج لمعرفة أحدث نسخة من قصة ما. الجزء الثاني هو عملية تسمى "النوم"، والتي تحدث بشكل دوري. خلال دورات النوم هذه، يأخذ النموذج أحدث الحقائق من سجل الأحداث ويمارسها، وينقلها ببطء إلى مكون ذاكرة صغير وقابل للتعديل ملحق بالنموذج الرئيسي. يضمن هذا الدمج أن تصبح الذكريات الحديثة جزءاً من المعرفة الدائمة للنموذج، بحيث لا يضطر للاعتماد على سجل الأحداث للأبد.

تضمنت التجربة سلسلة من ثمانية أسابيع، حيث تعلم النموذج 100 حقيقة جديدة كل أسبوع. وكان المفتاح لجعل هذا العمل ناجحاً ليس فقط في سجل الأحداث أو دورات النوم وحدها، بل في تقنية محددة استُخدمت أثناء فترة "النوم". طُلب من النموذج إعادة عرض الحقائق التي تعلمها في الأسابيع السابقة، وممارستها جنباً إلى جنب مع المعلومات الجديدة. كانت هذه المراجعة (الاسترجاع) حاسمة؛ فعندما أزال الباحثون خطوة إعادة العرض هذه، نسي النموذج كل ما تعلمه في الأسبوع الأول على الفور، حيث انخفضت دقته من المثالية تقريباً إلى الصفر تقريباً في جلسة واحدة. لقد عملت المراجعة كالغراء الذي يثبت الذكريات القديمة في مكانها بينما تُضاف الذكريات الجديدة.

أظهرت النتائج أن هذه الطريقة كانت فعالة بشكل ملحوظ في منع النسيان. فبعد ثمانية أسابيع من تعلم حقائق جديدة، ظل النموذج يتذكر حقائق الأسبوع الأول بدقة تتراوح بين 88 و97 في المائة. وفي المقابل، فشلت الطرق الأخرى الموجودة التي تحاول تحديث ذاكرة النموذج مباشرة دون عملية "النوم وإعادة العرض" فشلاً ذريعاً. فقد احتفظت تلك الطرق بنسبة تتراوح بين 1 إلى 10 في المائة فقط من حقائق الأسبوع الأول بحلول الأسبوع الثامن، والأسوأ من ذلك، أنها ألحقت الضرر بقدرة النموذج على أداء مهام أخرى لم يُطلب منه تغييرها قط. ومع ذلك، حافظ النهج الجديد على مهارات النموذج الأخرى سليمة، مما أثبت أنه يمكنه تعلم أشياء جديدة دون كسر ما يعرفه بالفعل.

كما تميز النظام في معرفة ما لا يعرفه. فعندما سُئل عن حقائق لم يُدرسها من قبل، قال "لا أعرف" بشكل صحيح في معظم الحالات. ومع ذلك، وجد الباحثون حداً محدداً لهذه القدرة؛ فعندما سُئل النموذج عن سؤال يجمع بين شيئين يعرفهما — شخص معروف وعلاقة معروفة لم يسبق له رؤيتها من قبل — فإنه أحياناً يختلق إجابة بدلاً من الاعتراف بالجهل. حدث هذا في حوالي نصف الحالات بحلول نهاية التجربة. حاول الباحثون إصلاح ذلك عبر توزيع الحقائق بشكل أكثر توازناً، لكن ذلك لم يغير النتيجة. وهذا يشير إلى أن النموذج لديه ميل للتخمين عندما يتعرف على أجزاء من السؤال، حتى لو كان المزيج المحدد جديداً.

أخيراً، قارنت الدراسة هذا النظام ثنائي القنوات ببديل شائع يسمى "التوليد المعزز بالاسترجاع" (retrieval-augmented generation)، والذي يعمل عن طريق لصق تاريخ المحادثة بأكمله في "البرومبت" (الأمر النصي) الخاص بالنموذج في كل مرة يُسأل فيها سؤال. وبينما حقق كلا الطريقتين دقة مماثلة، كان النظام الجديد أكثر كفاءة بشكل هائل. فقد عالج نظام سجل الأحداث 16 كلمة فقط لكل سؤال، بينما كان على الطريقة البديلة معالجة مئات أو حتى آلاف الكلمات مع نمو التاريخ. هذا الفرق يعني أن النظام الجديد يظل سريعاً وغير مكلف للتشغيل حتى بعد أشهر من الاستخدام، بينما ستصبح الطريقة الأخرى بطيئة للغاية ومكلفة لتصبح عملية مع مرور الوقت.

يُظهر هذا العمل أن بإمكان نموذج حاسوبي أن يتعلم تاريخاً طويلاً ومتغيراً دون أن ينسى الماضي، بشرماً إذا أُعطي وسيلة لمراجعة الحقائق القديمة أثناء تعلم حقائق جديدة. ويُظهر أن المفتاح للتعلم المستمر ليس فقط في تخزين المعلومات، بل في ممارستها بنشاط بطريقة تعزز القديم مع دمج الجديد. وبينما لا يزال النظام يعاني من نوع معين من أخطاء التخمين عند دمج الحقائق المعروفة، فإنه يقدم مساراً واضحاً لبناء مساعدين يمكنهم حقاً التذكر والتعلم من مستخدميهم بمرور الوقت.