🤖 machine learning

Memory as a Markov Matrix: Sample Efficient Knowledge Expansion via Token-to-Dictionary Mapping

تقترح هذه المقالة إطار عمل فعال من حيث كفاءة العينات للتوسع المعرفي المستمر في النماذج اللغوية الكبيرة عن طريق تمثيل الذاكرة كمصفوفة انتقال ماركوف وتوظيف استراتيجية تعيين الرمز إلى المفردات مع حد أدنى من تحديثات التضمين لتجنب النسيان الكارثي.

المؤلفون الأصليون: Kaustubh Pethkar, Ziyang Xiong, Zuofeng Shang, Yingcong Li

نُشر 2026-05-07

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Kaustubh Pethkar, Ziyang Xiong, Zuofeng Shang, Yingcong Li

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل نموذج لغة ضخم (LLM) كأنه مكتبة ضخمة ومنظمة للغاية من القصص. في كل مرة يقرأ فيها النموذج جملة، يبدو الأمر كما لو أن أمين مكتبة ينظر إلى الكلمة الأخيرة ويخمن الكلمة التي ستليها.

عادةً، إذا أردت تعليم أمين المكتبة هذا كلمة جديدة (مثل مصطلح علمي جديد أو تعبير عامي)، يجب عليك إعادة تدريب المكتبة بأكملها. ومع ذلك، تكمن المشكلة هنا في أنه عندما تعيد تدريب المكتبة بأكملها لتعلم الكلمة الجديدة، فإن أمين المكتبة غالباً ما ينسى كيفية سرد القصص القديمة بشكل صحيح. وهذا ما يُعرف بـ "النسيان الكارثي" (Catastrophic Forgetting).

يقترح هذا المقال طريقة ذكية ومنخفضة الجهد لإضافة كلمات جديدة دون الإضرار بالكلمات القديمة. إليك التفاصيل باستخدام تشبيهات بسيطة:

1. المكتبة كـ "خريطة مرور" (فكرة ماركوف)

ينظر المؤلفون إلى نموذج اللغة ليس كعقل معقد، بل كـ خريطة مرور.

العُقد (Nodes): كل كلمة في القاموس هي مدينة على الخريطة.
الطرق: الروابط بين الكلمات هي الطرق. إذا كنت في مدينة "الـ"، فإن بعض الطرق تؤدي إلى "قط"، أو "كلب"، أو "شمس".
الذاكرة: "ذاكرة" النموذج هي مجرد خريطة لهذه الطرق. هو يعرف أن كلمة "الـ" تؤدي عادةً إلى "قط" باحتمالية معينة.

2. المشكلة: إضافة مدينة جديدة

إذا أردت تعليم النموذج كلمة جديدة (لنسمِّها "زورب" - Zorp)، فأنت تقوم أساساً بإضافة مدينة جديدة إلى الخريطة.

الطريقة القديمة (الضبط الدقيق الكامل - Full Fine-Tuning): تحاول إعادة رسم الخريطة بأكملها لتشمل "زورب". وفي أثناء القيام بذلك، تقوم عن غير قصد بحذف أو تغيير الطرق بين المدن القديمة. فينسى أمين المكتبة أن "الـ" تؤدي إلى "قط"، ويبدأ بدلاً من ذلك في القول إن "الـ" تؤدي إلى "زورب".
طريقة المقال: بدلاً من إعادة رسم الخريطة بأكملها، تقوم ببساطة بإضافة لافتة لـ "زورب". تقول له: "مهلاً، عندما ترى 'زورب'، تعامل معها تماماً كما تتعامل مع 'الـ' أو 'قط'".

3. الحل: خريطة "الرمز إلى القاموس" (Token-to-Dictionary)

يقترح المقال استراتيجية تسمى رسم خرائط الرموز إلى القاموس (Token-to-Dictionary Mapping).

تخيل أن لديك كلمة جديدة غريبة وهي "زورب". بدلاً من تعليم النموذج معنى "زورب" من الصفر، تخبر النموذج: "عندما ترى 'زورب'، تصرف وكأنها كلمة 'نجم'".
لا يحتاج النموذج لتعلم طرق جديدة لـ "زورب". يحتاج فقط لمعرفة أن "زورب" تشير إلى نفس الوجهة التي تشير إليها كلمة "نجم".
وبما أن النموذج لا يحتاج إلى تغيير الطرق الموجودة (احتمالات الانتقال بين الكلمات القديمة)، فإنه لا ينسى أبداً القصص القديمة.

4. "كفاءة العينات" (لماذا هي سريعة؟)

يثبت المؤلفون رياضياً أن هذه الطريقة فعالة للغاية.

التشبيه: إذا أردت تعلم كلمة جديدة، فلا تحتاج لقراءة المكتبة بأكملها مرة أخرى. تحتاج فقط لقراءة أمثلة قليلة لكيفية استخدام هذه الكلمة الجديدة في الجمل.
الرياضيات: يعتمد عدد الأمثلة التي تحتاجها على عدد الكلمات الموجودة التي تربط الكلمة الجديدة بها. إذا ربطت "زورب" بخمس كلمات شائعة فقط، فستحتاج إلى كمية ضئيلة جداً من البيانات لتعلمها. لا داع un حاجة للقلق بشأن حجم المكتبة بأكملها (والتي قد تضم 100,000 كلمة).

5. التجربة: تعليم الرياضيات والكلمات المختلقة

اختبر الباحثون هذا مع سيناريوهين:

المُعامل السحري: علموا النموذج رمزاً خاصاً (مثل ⟨spec⟩) يعني "الضرب".
- النتيجة: تعلم النموذج بسرعة كبيرة كيفية الضرب باستخدام الرمز الجديد.
- الميزة: والأهم من ذلك، أن النموذج ظل يعرف كيفية جمع الأرقام. مع الطرق الأخرى، تسبب تعلم الرمز الجديد في نسيان النموذج لكيفية الجمع. حافظت هذه الطريقة على مهارات الجمع مثالية.
الكلمات المختلقة: اخترعوا 100 كلمة لا معنى لها (مثل "غلور" و"زورب") وأدرجوها في الجمل.
- النتيجة: تعلم النموذج استخدام هذه الكلمات المختلقة بشكل صحيح دون نسيان كيفية التحدث بالإنجليزية.
- المقارنة: تسببت الطرق الأخرى (مثل الضبط الدقيق القياسي أو LoRA) في جعل النموذج ينسى الإنجليزية أثناء تعلم الكلمات المختلقة. أما الطريقة الجديدة فلم تتسبب في حالة واحدة من حالات النسيان.

الملخص

اعتبر هذه الطريقة بمثابة إضافة غرفة جديدة إلى منزل دون هدم جدران الغرف الموجودة.

الطريقة القديمة: لإضافة غرفة جديدة، تعيد بناء الأساس بأكمله. فتتشقق الغرف القديمة وتنهار.
الطريقة الجديدة: تبني الغرفة الجديدة وتلحق بها باباً يؤدي مباشرة إلى ممر موجود بالفعل. يظل الممر القديم كما هو تماماً، وتناسب الغرفة الجديدة المكان داخل المنزل بشكل مثالي.

يزعم المقال أن هذه طريقة مثبتة رياضياً لتوسيع مفردات نموذج اللغة باستخدام عدد قليل جداً من نقاط البيانات مع عدم المعاناة مطلقاً من أي فقدان للمعرفة السابقة.

ملخص تقني: الذاكرة كمصفوفة ماركوف

بيان المشكلة

تواجه النماذج اللغوية الكبيرة (LLMs) تحديًا حاسمًا في التعلم المستمر: وهو دمج المعرفة الجديدة (مثل المفردات الجديدة، أو الكيانات، أو المجالات) دون التسبب في النسيان الكارثي. غالبًا ما تؤدي الأساليب الحالية مثل الضبط الدقيق الكامل (full fine-tuning)، أو التنظيم (regularization)، أو الأساليب القائمة على إعادة التشغيل (replay-based methods) إلى تدهور السلوكيات المتعلمة سابقًا بمجرد إدخال معرفة جديدة. علاوة على ذلك، تعتمد هذه الأساليب عادةً على تحديثات واسعة النطاق للأوزان، والتي غالبًا ما تكون غير قابلة للعكس ومكلفة حاسوبيًا. السؤال المركزي الذي يعالجه هذا العمل هو: كيف يمكن للنماذج اللغوية الكبيرة دمج قدر ضئيل من المعرفة الجديدة دون المعاناة من النسيان الكارثي؟

المنهجية

1. صياغة ماركوف لتوليد اللغة

يقترح المؤلفون إطار عمل مبدئيًا ينمذج توليد اللغة ذاتي الانحدار (autoregressive) كـ عملية ماركوف (Markov process) عبر الرموز (tokens).

فضاء الحالة: تمثل الرموز حالات سلسلة ماركوف.
مصفوفة الانتقال: يتم تمثيل ذاكرة النموذج بمصفوفة انتقال ماركوف، حيث يحدد احتمال الرمز التالي $p_\theta(v | u)$ ديناميكيات الانتقال من الرمز $u$ إلى $v$ .
توسيع المعرفة كتوسيع للحالة: يتم صياغة دمج الرموز الجديدة ( $U$ ) كتوسيع لفضاء الحالة من $V$ إلى $V \cup U$ .
شرط عدم النسيان: لمنع النسيان، يجب أن تظل احتمالات الانتقال بين الرموز الموجودة بالفعل ( $V \times V$ ) ثابتة. يتم دمج الرموز الجديدة عن طريق تعريف توزيعات الانتقال الخاصة بها ( $q(u)$ ) على المفردات الموجودة ( $V$ )، دون تغيير انتقالات $V \to V$ الأصلية.

2. رسم خرائط الرمز إلى المفردات (Token-to-Vocabulary Mapping)

لتحقيق هذا التوسيع دون تعديل بنية الانتقال الأصلية، يقدم المؤلفون استراتيجية رسم خرائط الرمز إلى المفردات:

المفهوم: لا يتم تعلم الرموز الجديدة ككيانات مستقلة ذات ديناميكيات انتقال فريدة. بدلاً من ذلك، يتم رسم خريطة لكل رمز جديد $u \in U$ كتركيبة متفرقة (sparse combination) من الرموز الموجودة في $V$ .
ضبط التضمين (Embedding Tuning): يتم تنفيذ هذه الخريطة عبر خوارزمية ضبط التضمين. يتم فقط تحديث (أو تمديد) ناقلات التضمين (embedding vectors) المقابلة للرموز التي تم تقديمها حديثًا. تظل تضمينات الرموز الأصلية ورسم بياني لحساب انتقال النموذج ثابتة.
الآلية: من خلال تحديث تضمين الرمز الجديد فقط، يتعلم النموذج تمثيل الرمز الجديد كتركيبة خطية من الهياكل الدلالية الموجودة (التضمينات)، مما يؤدي فعليًا إلى إعادة استخدام ديناميكيات الانتقال المتعلمة للمفردات الأساسية.

3. التحليل النظري

يستنتج العمل حدودًا لتعقيد العينة (sample complexity) لتعلم هذه الرموز الجديدة تحت استراتيجية رسم الخرائط:

رسم خرائط واحد لواحد: إذا كان الرمز الجديد يتصرف بشكل متطابق مع رمز موجود واحد، فإن تعقيد العينة يتناسب مع هامش تباعد KL ( $\gamma$ ) بين توزيعات الرموز، وبشكل مستقل عن إجمالي حجم المفردات $T$ .
التركيبة المتفرقة: في الحالة الأكثر عمومية حيث يكون الرمز الجديد عبارة عن تركيبة متفرقة من $s$ من الرموز الموجودة، فإن عدد العينات المطلوبة يتناسب مع $\tilde{O}(s)$ . ومن الأهمية بمكان أن هذا التعقيد يعتمد على تشتت التمثيل ( $s$ ) بدلاً من إجمالي حجم المفردات ( $T$ ) أو أبعاد النموذج.
السلاسل من رتب أعلى: يمكن توسيع الإطار ليشمل سلاسل ماركوف من رتب أعلى (توليد يعتمد على السياق) عن طريق إعادة بناء فضاء الحالة، حيث يعتمد تعقيد العينة على عامل التفرع الفعال للغة الطبيعية بدلاً من النمو الأسي للمفردات.

المساهمات الرئيسية

صياغة ماركوف: يصيغ العمل توليد اللغة كعملية ماركوف ويفسر ذاكرة النموذج كمصفوفة انتقال. كما يضع توسيع المفردات كمسألة توسيع للحالة، حيث يتم القضاء على النسيان عن طريق الحفاظ على ديناميكيات الانتقال الأصلية.
الضمانات النظرية: يقدم ضمانات بشأن تعقيد العينة، موضحًا أن تعلم المفردات الجديدة يتم بكفاءة عندما يمكن رسم خرائط الرمال الجديدة بشكل متفرق على الرموز الموجودة. وتتناسب التكاليف خطيًا مع عدد الرموز المخططة ( $s$ ) بدلاً من إجمالي حجم المفردات.
خوارزمية ضبط التضمين: يقترح المؤلفون خوارزمية عملية تقوم بتحديث تضمينات الرموز الجديدة فقط. تحقق هذه الطريقة "عدم النسيان" (Zero-Forgetting) عن طريق التصميم، لأنها تترك احتمالات الانتقال من رمز إلى آخر الأصلية دون مساس.
التحقق التجريبي: تثبت التجارب المكثفة النظر في ثلاثة سيناريوهات:
- العمليات الحسابية: أظهر تعلم رمز جديد لعملية الضرب أن ضبط التضمين حقق دقة عالية مع حد أدنى من البيانات مع الحفاظ على قدرات الجمع (عدم النسيان)، بينما أدى الضبط الدقيق الكامل إلى نسيان كارثي لعملية الجمع.
- المفردات الاصطناعية: في حالة الكلمات الهزلية الاصطناعية، حقق ضبط التضمين أداءً قويًا مع "عدم نسيان" على معيار WikiText، بينما تسبب LoRA والضبط الدقيق الكامل في نسيان كبير.
- التوسع عبر اللغات: عند توسيع المفردات للغات الإسبانية والألمانية والعربية، حافظ ضبط التضمين على "عدم نسيان" شبه كامل للغة الإنجليزية مع تحقيق أفضل تكيف مع اللغات المستهدفة.

النتائج والأهمية

يوضح هذا العمل أن تحديثات الأوزان واسعة النطاق ليست ضرورية لاكتساب كميات صغيرة من المعرفة الجديدة. من خلال معاملة الرموز الجديدة كتوسيع متفرق لمفردات التضمين الموجودة، يحقق الأسلوب المقترح ما يلي:

كفاءة العينة: أداء عالٍ بعدد أقل بكثير من عينات التدريب مقارنة بالضبط الدقيق الكامل.
عدم النسيان (Zero-Forgetting): تؤكد الأدلة النظرية والتجريبية أن تحديث تضمينات الرموز الجديدة فقط يحافظ تمامًا على القدرات الأصلية للنموذج.
القابلية للتوسع: النهج فعال حاسوبيًا ويتطلب تحديثات لجزء ضئيل جدًا من المعلمات (تضمينات الرموز الجديدة فقط).

يزعم المؤلفون أن هذا العمل يسد الفجوة بين تعقيد العينة النظري والتعلم المستمر العملي. من خلال نمذجة النماذج اللغوية الكبيرة كعمليات ماركوف، يقدمون تبريرًا رسميًا لسبب منع ضبط التضمين للنسيان، ويقدمون بديلًا مبدئيًا لطرق الضبط الدقيق الفعال للمعلمات (parameter-efficient fine-tuning) القائمة على الاستدلال. يشير الإطار إلى أن "تكلفة" تعلم معرفة جديدة تتحدد من خلال التشتت الدلالي للمفاهف الجديدة بالنسبة للمفردات الموجودة، وليس من خلال الحجم الهائل للنموذج.