Similarity All The Way Up: Multilingual Generalization in LLMs Relies on Language-Level Similarity Structures

تخيل أنك تحاول تعليم روبوت كيف يفهم العالم. أنت لا تكتفي بإعطائه قاموساً فحسب؛ بل تتركه يقرأ ملايين الكتب والمواقع والقصص. ومع مرور الوقت، يبدأ الروبوت في بناء خريطة ذهنية لكيفية ارتباط الأشياء ببعضها البعض. في عالم علوم الحاسوب، يُسمى هذا "نموذج لغة ضخم" (LLM). فكر في هذه النماذج كأدمغة رقمية فائقة الذكاء قرأت كل شيء تقريباً على الإنترنت. ولكن إليك الجزء الصعب: معظم ما قرأته هو باللغة الإنجليزية. وعندما تطلب منها التحدث بلغة لم ترَها كثيراً، مثل السواحيلية أو الآيسلندية، فإنها غالباً ما تتعثر.

لطالما تساءل العلماء عن سبب حدوث ذلك. تشير فكرة رئيسية من علم النفس إلى أن عقولنا (والحواسيب الذكية أيضاً) تتعلم من خلال ملاحظة أوجه التشابه. إذا كنت تعرف ما هو "الكلب"، يمكنك تخمين ماهية "الذئب" لأنهما يتشابهان في الشكل والتصرف. وهذا ما يسمى "التعميم". وكلما كانت خريطتك الذهنية أكثر قدرة على تجميع الأشياء المتشابهة معاً، زادت قدرتك على تخمين الأشياء الجديدة. ولكن هل تنطبق هذه القاعدة نفسها على لغات كاملة؟ هل تنظم هذه الأدمغة الرقمية اللغات سراً كما ينظم شجر العائلة الأقارب؟ هذا هو السؤال الكبير الذي تسعى هذه الورقة البحثية للإجابة عليه.

---

اجتماع عائلة اللغات الكبير

تخيل حفلة ضخمة غير مرئية حيث تمت دعوة كل لغة من عائلة اللغات الهندوأوروبية (مجموعة ضخمة تضم الإنجليزية والإسبانية والهندية والروسية). في العالم الحقيقي، نحن نعلم أن هذه اللغات مرتبطة ببعضها البعض مثل أبناء العم والخال والأقارب البعيدين. بعضها، مثل الإسبانية والإيطالية، يشبه التوائم الذين نشأوا في نفس المنزل. والبعض الآخر، مثل الإنجليزية والهندية، يشبه أبناء العم البعيدين الذين لم يروا بعضهم البعض منذ آلاف السنين.

أراد الباحثون في هذه الورقة معرفة ما إذا كانت نماذج اللغة الضخمة (LLMs) تعرف سراً شجرة العائلة هذه. لم يسألوا النماذج: "مهلاً، هل هذه اللغات مرتبطة ببعضها؟" بدلاً من ذلك، نظروا إلى "أفكار" النماذج (رياضياتها الداخلية) ليروا كيف قامت بتجميع اللغات معاً. الأمر يشبه مراقبة ضيف في الحفلة ورؤية من يقف بجانب من. إذا وضعت النماذج الإسبانية والإيطالية معاً، لكنها أبقت الهندية بعيدة عنهما، فهذا يظهر أنها تفهم الروابط العائلية دون أن يتم تعليمها ذلك صراحةً.

الاكتشاف: النماذج تمتلك خريطة سرية

اختبر الفريق 12 نموذجاً مختلفاً من الذكاء الاصطناعي، تتراوح بين النماذج القديمة والأحدث والأكثر قوة. قاموا بتغذية النماذج بآلاف الجمل بـ 38 لغة مختلفة. ثم استخدموا خدعة رياضية خاصة لرسم خريطة توضح "شعور" كل نموذج تجاه كل لغة.

كانت النتيجة مفاجئة ومبهجة: لقد بنت النماذج بالصدفة خريطة تشبه تماماً شجرة العائلة الحقيقية للغات.

تماماً مثل عالم الأنساب الذي يرسم شجرة العائلة، قامت النماذج بشكل طبيعي بتجميع اللغات في نفس العائلات الفرعية: اللغات الجرمانية (مثل الإنجليزية والألمانية) تجمعت معاً؛ واللغات الرومانسية (مثل الفرنسية والإسبانية) شكلت دائرتها الخاصة؛ واللغات السلافية (مثل الروسية والبولندية) التزمت بمجموعتها الخاصة. لم تكن النماذج بحاجة إلى معلم ليقول لها: "هذه هي اللغات الرومانسية". لقد استنتجت ذلك بمفردها بمجرد قراءة البيانات.

لماذا بعض النماذج أفضل في الحفلة

ولكن إليك المنعطف المفاجئ: ليست كل النماذج متساوية في الكفاءة. وجد الباحثون رابطاً مباشاً بين مدى جودة تنظيم النموذج لخريطة اللغة الخاصة به وبين أدائه الفعلي في اختبار صعب يسمى XNLI (وهو اختبار يتعين على النموذج فيه تخمين ما إذا كانت جملة ما تثبت، أو تناقض، أو لا علاقة لها بجملة أخرى بلغة مختلفة).

فكر في الأمر على هذا النحو: إذا كان لدى طالب دفتر ملاحظات فوضوي ومختلط حيث يخلط بين جميع الحقائق التاريخية، فسيجد صعوبة في الإجابة على سؤال الاختبار. أما إذا كان دفتر ملاحظاته منظماً بشكل مثالي حسب الموضوع، فيمكنه العثور على الإجابة فوراً. وجدت الورقة أن النماذج التي نظمت "دفتر ملاحظات اللغة" الخاص بها بشكل صحيح (بإبقاء اللغات المتشابهة قريبة من بعضها) كانت أفضل بكثير في حل مشكلات الاختبار.

وعلى وجه التحديد، كانت النماذج التي تم تدريبها على بيانات من لغات عديدة (النماذج متعددة اللغات) تقوم بعمل أفضل بكثير في رسم شجرة العائلة هذه مقارنة بالنماذج المدربة أساساً على الإنجليزية. الأمر كما لو أن النماذج متعددة اللغات تمتلك خريطة أكبر وأوضح، بينما تحاول النماذج المقتصرة على الإنجليزية التنقل باستخدام رسم تخطيطي ضبابي وغير مكتمل.

فخ "الخط" والمفاجآت الأخرى

قد يخمن المرء أن النماذج قامت فقط بتجميع اللغات بناءً على مظهرها على الورق (الأبجدية أو الخط). على سبيل المثال، ربما اعتقدت أن الهندية والأردية متشابهتان لمجرد أنهما تستخدمان خط "الديفاناغاري"؟ تقول الورقة لا. فبينما يكون لطريقة كتابة الكلمات (الرسم الإملائي) تأثير صغير، إلا أنه ليس السبب الرئيسي. كانت النماذج ذكية بما يكفي لترى أن الهندية والأردية هما أقرباء لغويون، رغم اختلاف خطوطهما، وأن الفارسية (التي تستخدم الخط العربي) مرتبطة في الواقع باللغات الهندية الشمالية، وليس باللغات العربية. كانت النماذج تنظر إلى بنية اللغة، وليس فقط إلى نوع الخط.

ومع ذلك، لم تكن النماذج مثالية. فقد ارتبكت أحياناً مع اللغات "اليتيمة" مثل اليونانية والويلزية والألبانية. في بعض النماذج، تم الجمع بين اليونانية والويلزية بشكل غريب، رغم أنهما غير مرتبطتين وثيقاً. وهذا يشير إلى أنه بينما تبرع النماذج في رؤية الصورة الكبيرة، فإنها تتعثر أحياناً في الفروع الفريدة والمعزولة لشجرة العائلة.

متى تعلموا ذلك؟

راقب الباحثون أيضاً النماذج أثناء تدريبها، مثل مراقبة طفل يتعلم المشي. ووجدوا أن النماذج بدأت في تنظيم اللغات في هذه المجموعات العائلية في مرحلة مبكرة جداً من تدريبها—بعد 100 خطوة فقط من التعلم. وهذا يشير إلى أن اكتشاف "من هو قريب من من" هو أحد أول الأشياء التي يتعلمها نموذج لغة ذكي، قبل حتى أن يدخل في التفاصيل الدقيقة لكلمات محددة.

الخلاية

تشير هذه الورقة إلى أن سر نجاح نموذج اللغة لا يكمن فقط في حفظ المزيد من الكلمات؛ بل في بناء خريطة ذهنية جيدة لكيفية ارتباط اللغات ببعضها البعض. عندما يفهم النموذج أن الإسبانية والإيطالية هما ابنا عمومة مقربان، وأن الإنجليزية والألمانية هما أخوان، يصبح أفضل بكثير في ترجمة الأفكار من إحداهما إلى الأخرى.

لقد تبين أن هذه الأدمغة الرقمية بارعة بشكل مدهش في التاريخ. لم تكن بحاجة إلى كتاب مدرسي لتعلم شجرة العائلة الهندوأوروبية؛ كانت تحتاج فقط إلى قراءة العالم، فظهرت الأنماط من تلقاء نفسها. وكلما أصبحت أفضل في رسم تلك الخريطة، أصبحت أفضل في التحدث بكل لغة موجودة فيها.