A Study of Crosslinguistic Influence in Language Models
تتقصى هذه الدراسة بشكل منهجي التأثير عبر اللغوي في النماذج اللغوية، كاشفةً أن التداخل البنيوي هو ظاهرة مهيكلة تحكمها العلاقة المتداخلة بين هيمنة اللغة وكفاءتها، حيث تؤدي زيادة هيمنة اللغة الأولى إلى تضخيم آثار المسافة النحوية بينما تعيق الكفاءة المحدودة في اللغة الثانية الانتقال الإيجابي، مع قيام آليات الانتباه في الطبقات العميقة بتوجيه المسارات الفيزيائية للمسبقات الخاصة باللغة الأولى لدفع هذه التفاعلات عبر اللغوية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تعلم روبوتاً كيف يتحدث. تبدأ بتغذية نموذج لغوي بمكتبة ضخمة من القصص بلغة واحدة، لنقل الألمانية أو الإسبانية أو اليابانية. يصبح الروبوت بارعاً جداً فيها، ويتعلم إيقاعها وقواعدها وتدفقها. ولكن بعد ذلك، تقرر تعليمه لغة ثانية، وهي الإنجليزية. ماذا يحدث داخل "دماغ" الروبوت عندما يحاول تعلم هذه اللغة الجديدة بعد أن أتقن بالفعل اللغة الأولى؟ هذا هو عالم "التأثير عبر اللغات" (Crosslinguistic Influence - CLI). في علم النفس البشري، نعلم أنه إذا تعلمت لغة ثانية بعد لغتك الأولى، فإن لغتك الأولى لا تظل صامتة فحسب؛ بل تتدخل بنشاط أو تساعد. إذا كانت اللغتان متشابهتين، مثل الإسبانية والإيطالية، فإن دماغك يستخدم القواعد القديمة لتسريع العملية. أما إذا كانتا مختلفتين تماماً، مثل الإنجليزية واليابانية، فإن القواعد القديمة قد تقف في الطريق، مما يتسبب في وقوعك في الأخطاء. لطالما تساءل العلماء عما إذا كان الذكاء الاصطناعي، وتحديداً النماذج اللغوية الكبيرة (LLMs)، يمر بنفس صراع "الدماغ ثنائي اللغة"، أم أنه مجرد خلل عشوائي في الكود. إن فهم هذا الأمر أمر بالغ الأهمية، لأننا إذا أردنا للذكاء الاصطناعي أن يتحدث لغات عديدة بطلاقة دون أن يخلط بينها، فنحن بحاجة إلى معرفة كيفية تفاعل هذه اللغات بدقة داخل الآلة.
في هذه الدراسة، قرر باحثون من جامعة ماستريخت لعب دور معلم لغة صارم لدماغ روبوت صغير (نموذج GPT-2). أرادوا معرفة ما يحدث عندما يغيرون "ترتيب" و"توقيت" تعلم الروبوت. لقد خلقوا سيناريو تعلم فيه الروبوت لغة أولى (L1) لفترة من الوقت، ثم قدموا له لغة ثانية (L2) في نقاط مختلفة من تدريبه. أطلقوا على هذا التوقيت اسم "خطوة التعرض" (Step of Exposure). فكر في الأمر بهذه الطريقة: إذا بدأت تعلم الفرنسية فوراً بعد الإنجليزية، فقد تخلط بينهما بسهولة. ولكن إذا قضيت عاماً كاملاً في إتقان لغتك الأولى قبل رؤية كلمة واحدة بالإنجليزية، فإن لغتك الأولى ستصبح قوية جداً (أو "مهيمنة")، مما قد يجعل من الصعب تعلم الإنجليزية لاحقاً دون أن يتدخل دماغ لغتك الأولى في طريقك.
اختبر الفريق ذلك باستخدام 15 لغة أولى مختلفة، تتراوح بين تلك المشابهة جداً للإنجليزية (مثل الألمانية) وتلك المختلفة تماماً (مثل اليابانية). لم يكتفوا بطلب الدردشة من الروبوت؛ بل استخدموا حيلة ذكية تسمى "التحفيز الهيكلي" (structural priming). تخيل أنك تظهر للروبوت جملة بلغته الأولى، ثم تطلب منه فوراً إكمال جملة في اللغة الثانية. الأمر يشبه الهمس بتلميح في أذن الروبوت قبل أن يجيب. وقد وجدوا أن هذا التلميح كان له تأثير هائل. فإذا كانت اللغة الأولى مشابهة للثانية، ساعد التلميح الروبوت على ضبط قواعد اللغة بشكل صحيح (نقل إيجابي). ولكن إذا كانت اللغات متباعدة، فإن التلميح جعل الروبوت أكثر عرضة لارتكاب الأخطاء (نقل سلبي).
وهنا يصبح الأمر مثيراً للاهتمام حقاً: اكتشف الباحثون مقايضة صعبة. فكلما تركوا الروبوت يمارس اللغة الأولى لفترة أطول قبل تقديم اللغة الثانية (أي "خطوة تعرض" أعلى)، زادت هيمنة لغته الأولى على تفكيره. هذه الهيمنة جعلت الروبوت حساساً للغاية لمدى تشابه اللغتين. ومع ذلك، ظهرت مشكلة حرجة: كلما أصبحت اللغة الأولى قوية جداً، فقد الروبوت قدرته على استخدام التلميحات المفيدة للغات المتشابهة (تدهور النقل الإيجابي). ومع ذلك، فإن التدخل الضار من اللغات المختلفة جداً لم يختفِ؛ بل استمر بعناد بل وزاد سوءاً (النقل السلبي). تشير الدراسة إلى أنه عندما تكون اللغة الأولى قوية جداً، يفقد الروبوت القدرة على تعلم اللغة الجديدة بشكل صحيح، وتبدأ القواعد القديمة في فرض نفسها على الجمل الجديدة، حتى عندما لا تنتمي إليها.
لفهم كيف يحدث هذا داخل "عقل" الروبوت، نظر الباحثون إلى أجزاء محددة من الكود التي كانت تضيء. ووجدوا أنه عندما يتعلم الروبوت بشكل طبيعي، تكون الأجزاء التي تتعامل مع القواعد نشطة في الطبقات الوسطى من الشبكة. ولكن عندما أعطوه ذلك "التلميح الهامس" (المحفز)، قام دماغ الروبوت بتغيير تروسه. انتقلت معالجة القواعد مادياً إلى الطبقات الأخيرة من الشبكة، مباشرة قبل أن يعطي الروبوت إجابته النهائية. كان الأمر كما لو أن الروبوت اضطر للانتظار حتى النهاية ليقرر كيفية خلط اللغتين.
علاوة على ذلك، وجدوا أن آلية "الانتباه" (attention mechanism) —وهي الجزء من الذكاء الاصطناعي الذي يقرر الكلمات التي يجب التركيز عليها— كان هو المدير الحقيقي لهذا التفاعل. فعندما حاول الروبوت استخدام تلميح من لغة مشابهة، ساعدت "رؤوس الانتباه" (attention heads) في ربط النقاط ببعضها. ولكن عندما جاء التلميح من لغة مختلفة تماماً، فرضت تلك الرؤوس نفسها ذاتها القواعد الخاطئة على الجملة الجديدة. وتستبعد الدراسة فكرة أن هذا مجرد خطأ عشوائي أو نتيجة ترجمة سيئة؛ بل تظهر أن هذا ظاهرة مهيكلة ومتوقعة. الروبوت ليس مرتبكاً فحسب؛ بل هو يحاول بنشاط استخدام معرفته القديمة، وأحياناً تكون تلك المعرفة القديمة هي بالضبط ما يحتاجه، وأحياناً أخرى تكون بالضبط ما لا يحتاجه.
في النهاية، تشير الورقة البحثية إلى أن "التأثير عبر اللغات" في الذكاء الاصطناعي ليس خطأً برمجياً (bug)، بل هو ميزة (feature) في كيفية تعلم هذه النماذج. إنه يحاكي طريقة تعلم البشر، حيث تحدد قوة لغتك الأولى ومدى معرفتك باللغة الثانية ما إذا كنت ستحصل على دفعة مفيدة أو تداخل مربك. ويخلص الباحثون إلى أنه لبناء ذكاء اصطناعي متعدد اللغات بشكل أفضل، لا يمكننا مجرد إلقاء جميع اللغات في المزيج في وقت واحد. يجب أن نكون حذرين بشأن مقدار الوقت الذي نقضيه في تعلم اللغة الأولى قبل تقديم اللغة التالية، لأنه إذا أصبحت اللغة الأولى قوية جداً، فقد تمنع الروبوت بشكل دائم من تعلم اللغة الجديدة بشكل صحيح.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.