Language models struggle with compartmentalization
تُظهر هذه الورقة أن النماذج اللغوية الكبيرة غالباً ما تخفق في توحيد العروض المتباينة للمفهوم الكامن نفسه (مثل اللغات المختلفة أو النماذج البرمجية المختلفة) في تمثيلات داخلية مشتركة، مما يؤدي إلى تعلم زائد، وانخفاض في كفاءة العينات، وتحول طوري في فعالية التدخل بناءً على عدد عروض المفهوم.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح للورقة البحثية باستخدام لغة بسيطة وتشبيهات إبداعية.
الفكرة الكبرى: مشكلة "الكون الموازي"
تخيل أن لديك طالباً ذكياً للغاية، لكن لديه عادة غريبة جداً: يعامل الحقيقة ذاتها وكأنها سران مختلفان تماماً وغير مترابطان بناءً على طريقة كتابتها.
إذا قلت له: "السماء زرقاء" باللغة الإنجليزية، فسيقوم بتدوينها في "دفتر الإنجليزية" الخاص به.
وإذا قلت له: "السماء زرقاء" باللغة السواحيلية، فسيقوم بتدوينها في "دفتر سواحيلي" منفصل.
هو لا يدرك أبداً أن هذين الدفترين يتحدثان عن الشيء نفسه. لا يقوم بالربط بينهما، ولا يقول لنفسه: "أوه، أنا أعرف هذه المعلومة بالفعل!".
تسمي هذه الورقة هذا السلوك بـ "التجزئة" (Compartmentalization).
يرى المؤلفون أن النماذج اللغوية الكبيرة (LLMs) غالباً ما تفعل ذلك. فبدلاً من بناء عقل واحد ضخم وفعال يفهم مفهوم "السماء زرقاء"، تقوم ببناء عقول منفصلة ومكررة لكل لغة، أو كود برمجي، أو أسلوب كتابة تواجهه. هذا يهدر قدرة عقلها (السعة) ويجعلها أبطأ في التعلم (عدم كفاءة العينة).
التجربة: خدعة "المفردات السحرية"
لإثبات حدوث ذلك، صمم الباحثون تجربة محكومة. لم يستخدموا لغات مختلفة فحسب؛ بل استخدموا "خدعة سحرية" لإجبار النموذج على رؤية نفس البيانات كأشياء مختلفة تماماً.
التشبيه:
تخيل مكتبة حيث كل الكتب مكتوبة بنفس اللغة، لكن أمين المكتبة لديه قاعدة:
- إذا كان الكتاب على الرف الأيسر، تُكتب كلمة "تفاحة" كـ "تفاحة".
- إذا كان الكتاب على الرف الأيمن، تُكتب كلمة "تفاحة" كـ "موزة" (رغم أنها تعني الشيء نفسه).
قام الباحثون بإنشاء نموذج حيث كان لـ "الرف الأيسر" و"الرف الأيمن" قواميسان مختلفان تماماً. ثم غدّوا النموذج بنفس القصص تماماً، ولكن مع تبديل الكلمات وفقاً للرف.
النتيجة:
فشل النموذج في ربط النقاط. لقد تعلم القصة الخاصة بالرف الأيسر، وتعلم القصة الخاصة بالرف الأيمن، لكنه عامل كل منهما كمهمتين منفصلتين تماماً.
- التكلفة: لأن النموذج كان يتعلم الشيء نفسه مرتين، فقد احتاج إلى بيانات أكثر ليصبح جيداً فيه (عدم كفاءة العينة).
- العائق: ولأن النموذج كان يخزن نسختين من المعرفة نفسها، فقد نفدت "مساحة دماغه" بشكل أسرع (تكلفة السعة).
فخ "الترجمة"
حاول الباحثون حلاً شائعاً: أعطوا النموذج "أزواج ترجمة". أظهروا له: "هذه هي 'تفاحة' على الرف الأيسر، وهنا 'موزة' على الرف الأيمن".
المفاجأة:
تعلم النموذج قاعدة الترجمة بسرعة فائقة. استطاع ترجمة "تفاحة" إلى "موزة" بشكل مثالي. ومع ذلك، لم يساعده هذا في التوقف عن التجزئة. ظل يحتفظ بالمفهومين في صناديق ذهنية منفصلة. كان الأمر أشبه بطالب يمكنه ترجمة جملة ببراعة، لكنه لا يدرك بعد أن المعنى الكامن وراءها هو نفسه.
وجدوا أن هذا لا يبدأ في العمل إلا عندما يقدمون للنموذج كميات هائلة من بيانات الترجمة، أو عندما يستخدمون تقنية تدريب محددة تسمى "اضمحلال الأوزان" (weight decay) (والتي تعمل مثل دفعة لطيفة لتبسيط تفكير النموذج).
"التحول الطوري"
اكتشفت الورقة شيئاً غريباً يسمى "التحول الطوري" (Phase Transition).
فكر في الأمر كأنه مفتاح إضاءة.
- إذا كان لديك حجرتان (الرف الأيسر/الأيمن)، يظل النموذج عنيداً ولا يشارك المعرفة.
- إذا كان لديك 8 حجرات، فجأة، ومع توفر بيانات ترجمة كافية، "ينتقل" النموذج ويبدأ في مشاركة المعرفة عبر جميع الحجرات.
يبدو أن النموذج لا يدرك أنه يجب عليه توحيد عقله إلا عندما يصبح المشكل معقداً للغاية بحيث يصعب إبقاؤه منفصلاً.
أمثلة من الواقع
اختبر الباحثون ذلك في سيناريوهات واقعية ليروا ما إذا كان يحدث خارج "مكتبتهم السحرية":
- التعلم متعدد اللغات: قاموا بتدريب نماذج صغيرة على الإنجليزية والصينية. وجدوا أنه بالنسبة للنماذج الصغيرة، لم تختلط المعرفة الإنجليزية والصينية حقاً. كان النموذج "مجزأً" في الأساس، يعامل اللغتين كمهمتين منفصلتين بدلاً من فهم موحد واحد.
- السير الذاتية مقابل الأسئلة والأجوبة: أعطوا النموذج حقائق عن أشخاص بتنسيقين مختلفين:
- التنسيق (أ): فقرة سيرة ذاتية ("جون طبيب يعيش في نيويورك").
- التنسيق (ب): زوج من الأسئلة والأجوبة ("من هو جون؟ طبيب في نيويورك").
- الكارثة: عندما حاول النموذج تعلم التنسيقين معاً، تضاربا مع بعضهما البعض. ارتبك النموذج وأدى أداءً أسوأ مما لو كان قد تعلم تنسيقاً واحداً فقط. كان الأمر أشبه بمحاولة حمل ثقلين ثقيلين بيد واحدة؛ فإنهما يلغيان بعضهما البعض.
الأخبار الجيدة: يمكن إصلاحها
أهم ما توصل إليه البحث هو أن هذا ليس عيباً جوهرياً في كيفية عمل الذكاء الاصطناعي، بل هو مجرد "عادة سيئة" يقع فيها النموذج.
أظهر الباحثون أنه إذا قمت بنسخ المعرفة يدوياً من حُجرة إلى أخرى في البداية (أو بعد التدريب)، فإن النموذج يعمل بشكل مثالي. وهذا يثبت أن النموذج قادر على مشاركة المعرفة، لكن عملية التدريب القياسية (SGD) لا تكتشف طبيعياً كيفية القيام بذلك بكفاءة.
الملخص
- المشكلة: غالباً ما تعامل نماذج الذكاء الاصطناعي نفس الحقيقة المقدمة بطرق مختلفة (لغات مختلفة، تنسيقات مختلفة) كمهام غير مرتبطة تماماً.
- النتيجة: هذا يهدر ذاكرتها ويجعلها أبطأ في التعلم.
- فشل "الترجمة": مجرد إظهار كيفية الترجمة بين التنسيقات ليس كافياً لإصلاح هذا؛ فهي تحتاج إلى المزيد من البيانات أو "نكزات" تدريبية محددة لتدرك أن المفاهيم هي نفسها.
- الخلاصة: نماذج الذكاء الاصطناعي حالياً "مجزأة". لديها غرف منفصلة في عقلها لكل طريقة يمكن بها قول الحقيقة، بدلاً من غرفة واحدة كبيرة تعيش فيها كل الحقائق معاً. تشير الورقة إلى أننا بحاجة إلى طرق تدريب أفضل لمساعدتها على دمج هذه الغرف.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.