← أحدث الأبحاث
🤖 AI

Left-Branching Transformers Excel at Right-Branching Languages: Data Shapes Word Order Preferences in Language Models

تُثبت هذه الورقة أن انحيازات ترتيب الكلمات في النماذج اللغوية ذات فك التشفير فقط ليست تفضيلات هيكلية متأصلة، بل هي مدفوعة ببيانات التدريب، حيث تفضل النماذج هياكل (فاعل-فعل-مفعول به) ذات التفرع الأيمن في اللغات الطبيعية بسبب وفرة البيانات وجودتها، مما يشكل خطراً يتمثل في تقليل تنوع ترتيب الكلمات العالمي.

المؤلفون الأصليون: Varvara Arzt, Allan Hanbury, Terra Blevins

نُشر 2026-08-18
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Varvara Arzt, Allan Hanbury, Terra Blevins

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

ليست اللغة مجرد مجموعة من الكلمات؛ بل هي مجموعة من القواعد لكيفية ترتيب تلك الكلمات لتصبح ذات معنى. في بعض اللغات، يأتي الفعل بعد الفاعل والمفعول به، مثل "القط أكل السمكة". وفي لغات أخرى، يأتي الفعل أولاً، أو يأتي المفعول به قبل الفاعل. هذا الترتيب، المعروف باسم ترتيب الكلمات، هو أحد أكثر الطرق جوهرية التي تختلف بها اللغات البشرية. لعقود من الزمن، درس علماء اللغويات هذه الأنماط لفهم كيف يتعلم الدماغ البشري اللغة ويعالجها، بحثاً عن قواعد عالمية قد تنطبق على جميع البشر في كل مكان. والي اليوم، دخل نوع جديد من المتعلمين إلى هذا المجال: الذكاء الاصطناعي. هذه البرامج الحاسوبية، التي تسمى نماذج اللغة، يتم تدريبها على كميات هائلة من النصوص ويمكنها توليد جمل تشبه الجمل البشرية. وقد برز سؤال حاسم: هل تتعلم هذه الآلات اللغة كما يتعلمها البشر، أم أنها تطور تفضيلات خفية خاصة بها لكيفية ترتيب الكلمات؟

وضع فريق من الباحثين هدفاً للإجابة على ذلك من خلال اختبار كيفية تعامل هذه النماذج مع ترتيبات الكلمات المختلفة. لقد بنوا تجربة منضبطة باستخدام نوعين مختلفين تماماً من البيانات. أولاً، أنشأوا مئات اللغات الاصطناعية. لم تكن هذه لغات حقيقية يتحدث بها الناس، بل كانت كيانات رياضية مصممة لعزل سمات محددة. تخيل لغة يكون الشيء الوحيد الذي يتغير فيها هو ما إذا كانت الصفة تأتي قبل الاسم أو بعده، أو ما إذا كان الفعل يأتي في بداية الجملة أو في نهايتها. ومن خلال تجريد اللغة من تعقيدات الكلام البشري الحقيقي — مثل السياق الثقافي، والقواعد غير المنتظمة، والبيانات الفوضوية — استطاع الباحثون معرفة ما إذا كان لدى النموذج الحاسوبي تفضيل متأصل لهيكل معين دون غيره. ثم قارنوا هذه النتائج بكيفية أداء نفس النماذج على لغات طبيعية حقيقية من جميع أنحاء العالم، تتراوح من الإنجليزية والإسبانية إلى اليابانية والسواحيلية.

كشفت النتائج عن انقسام مفاجئ في كيفية سلوك هذه النماذج. فعندما درب الباحثون النماذج على اللغات الاصطناعية، فضلت الحواسيب باستمرار هيكلاً محدداً تأتي فيه الملحقات قبل الكلمة الرئيسية، وهو نمط يسميه اللغويون "التفرع الأيسر" (left-branching). كان هذا التفضيل قوياً لدرجة أنه ظهر بغض النظر عن الترتيب الأساسي للجملة. ومع ذلك، فإن هذا التفضيل لم يتطابق مع ما نعرفه عن تعلم اللغة لدى البشر. فالبشر يميلون إلى التناسق؛ فإذا كانت اللغة تضع الفعل في النهاية، يتوقع البشر عادةً أن تتبع الأجزاء الأخرى من الجملة نمطاً مشابهاً. أظهرت اللغات الاصطناعية أن النماذج لم تكن تتبع المنطق البشري أو الأنماط الإحصائية الموجودة في لغات العالم، بل بدا أن النماذج تفضل هيكلاً يسهل على بنيتها الخاصة معالجته، وهو انحياز وُجد بشكل مستقل عن قواعد أي لغة في العالم الحقيقي.

تغيرت القصة تماماً عندما انتقل الباحثون إلى بيانات العالم الحقيقي. فعندما تم تدريب النماذج على لغات طبيعية، ولكن بكمية صغيرة فقط من النصوص — حوالي خمسة ميجابايت لكل لغة — لم تظهر أي تفضيل واضح لأي ترتيب كلمات محدد، بل كانت مرتاحة بالتساوي مع الترتيبات المختلفة. ومع ذلك، مع زيادة الباحثين لكمية بيانات التدريب إلى مقياس أكبر بكثير، حوالي ألف ميجابايت، ظهر نمط متميز. بدأت النماذج تفضل اللغات التي يأتي فيها الفاعل قبل الفعل، والفعل قبل المفعول به، مثل الإنجليزية أو الصينية. يُعرف هذا بترتيب (فاعل-فعل-مفعول به)، أو SVO. ومن المثير للاهتمام أن هذا التفضيل ازداد قوة مع رؤية النماذج لمزيد من البيانات، رغم أن ترتيباً آخر، حيث يأتي الفعل في النهاية (فاعل-مفعول به-فعل)، هو في الواقع أكثر شيوعاً عبر لغات العالم.

بحث الباحثون في سبب حدوث هذا التحول، ووجدوا أن التفضيل لترتيب (SVO) لم يكن بسبب كون البنية الحاسوبية أفضل بطبيعتها في فهم ذلك الترتيب المحدد، بل كان التفضيل مدفوعاً بالكامل بالبيانات التي غُذيت بها النماذج. فاللغات الأكثر توفراً على الإنترنت وفي المكتبات الرقمية — والتي تسمى غالباً "اللغات عالية الموارد" — هي لغات تتبع ترتيب (SVO) بشكل ساحق. ولأن النماذج تم تدريبها على كميات هائلة من النصوص من هذه اللغات المحددة، فقد تعلمت إعطاء الأولوية لهذا الهيكل. وعندما نظر الباحثون إلى النماذج المدربة على لغات ذات بيانات متاحة قليلة جداً، اختفى امتياز (SVO). وهذا يشير إلى أن النماذج لا تكتشف حقيقة عالمية حول اللغة، بل هي ببساطة تعكس عدم التوازن في المعلومات التي تتاح لها الوصول إليها.

لهذا الاكتشاف تداعيات كبيرة على مستقبل تكنولوجيا اللغة. فإذا تم استخدام هذه النماذج بشكل متزايد للترجمة أو الكتابة أو التواصل بلغات أقل شيوعاً أو ذات ترتيب كلمات مختلف، فهناك خطر من أنها ستدفع تلك اللغات بمهارة نحو هيكل (SVO). قد تجعل هذه النماذج من الصعب استخدام أو فهم ترتيبات الكلمات الطبيعية والمرنة التي تعتمد عليها العديد من اللغات للتعبير عن الدقة أو التركيز أو العاطفة. تظهر الدراسة أنه بينما قد يكون لدى التصميم الداخلي للكمبيوتر انحياز طفيف، فإن البيانات التي يستهلكها هي القوة المهيمنة التي تشكل سلوكه. ومع انتشار هذه الأدوات، فإن الطريقة التي ننسق ونختار بها البيانات التي تتعلم منها هي التي ستحدد ما إذا كانت ستحافظ على التنوع الغني للغة البشرية أو ستعمل تدريجياً على صهرها في نمط واحد موحد.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 🤖 cs.AI →