Language Models Generalize to Human-like Word Order Preferences
تُظهر هذه الدراسة أن النماذج اللغوية، عندما تُدرب على بيانات تفتقر إلى أدلة مباشرة على ترتيب المُعدِّلات، تُعمم باستمرار لتفضل ترتيب الكلمات المتوافق مع النطاق والمشابه للترتيب البشري، مما يشير إلى أن هذه الانحيازات تنشأ من آليات تعلم عامة بدلاً من مجرد الارتباطات الإحصائية البسيطة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم روبوت لغة جديدة، لكنك قررت أن تخدعه. لقد أعطيته مكتبة ضخمة من الكتب، ولكنك قمت بعناية بتمزيق كل صفحة تحتوي على جملة بها أكثر من وصف واحد لاسم. لذا، سيتعلم الروبوت أنه يمكنه قول "الكرة الحمراء" أو "الكرة الكبيرة"، لكنه لن يرى أبداً "الكرة الحمراء الكبيرة" أو "الكرة الكبيرة الحمراء". ليس لديه أي دليل مباشر حول كيفية تكديم عدة أوصاف معاً. الآن، السؤال الكبير هو: إذا طلبت من الروبوت أن يخمن الترتيب لجملة جديدة مثل "الكرة الحمراء الكبيرة"، فهل سيخمن عشوائياً؟ أم أنه سيجد بطريقة ما المنطق الخفي للغة ويختار الترتيب الصحيح، تماماً كما يفعل الطفل البشري؟
هذا النوع من الألغاز يقع في قلب اللسانيات والذكاء الاصطناعي. لطالما تساءل العلماء عما إذا كان البشر يولدون ومعهم "شريحة لغة" خاصة في أدمغتهم تخبرهم بكيفية ترتيب الكلمات، أم أننا نتعلم كل شيء فقط من خلال ملاحظة الأنماط فيما نسمعه. لاختبار ذلك، يستخدم الباحثون ما يسمى "تعلم اللغة الاصطناعية". إنها تشبه تجربة محكومة حيث تعلم الناس أو الآلات لغة صغيرة مصنوعة خصيصاً مع وجود أجزاء مفقودة لترى كيف يملؤون الفراغات. إذا اختار المتعلم نمطاً معيناً رغم أنه لم يره من قبل، فهذا يشير إلى أن لديه انحيازاً فطرياً أو طريقة ذكية للتخمين بناءً على بنية العالم، وليس فقط بناءً على تكرار الكلمات. هذا البحث يغوص في هذا الغموض باستخدام نماذج لغوية من الذكاء الاصطناعي الحديث كعناصر اختبار.
لغز ترتيب الكلمات العظيم
في هذه الدراسة، قرر الباحثان أماندا بوباديتش وشين ستينرت-ثريلكيلد معرفة ما إذا كانت البرامج الحاسوبية، المعروفة باسم النماذج اللغوية، يمكنها القيام بنفس الخدعة السحرية التي يقوم بها المتعلمون البشر. أرادا معرفة: هل يمكن للآلة أن تتعلم "قواعد" كيفية تكديم الصفات والأرقام دون رؤية مثال واحد لجملة مكونة من عبارة مكدسة؟
القاعدة المحددة التي كانوا يبحثون عنها تسمى التماثل الهيكلي للنطاق (scope-homomorphism). وهذه طريقة معقدة للقول بأن ترتيب الكلمات في العبارة يجب أن يطابق ترتيب معناها. فكر في الأمر مثل دمى "الماتريوشكا" الروسية. إذا كان لديك "كرة حمراء كبيرة"، فإن كلمة "حمراء" تصف الكرة مباشرة، وكلمة "كبيرة" تصف "الكرة الحمراء". في اللغة الإنجليزية، نضع الوصف الأكبر والخارجي ("كبيرة") أولاً، والوصف الأكثر تحديداً والداخلي ("حمراء") أقرب إلى الاسم. أراد الباحثون معرفة ما إذا كانت نماذج الذكاء الاصطناعي ستفضل بشكل طبيعي ترتيب "دمى الماتريوشكا" هذا، حتى لو تم تدريبها على نظام غذائي يتكون فقط من عبارات ذات وصف واحد.
التجربة: نظام غذائي لغوي
لاختبار ذلك، أنشأ الفريق بيئة تدريب صارمة للغاية. أخذوا جزءاً ضخماً من الإنترنت (تحديداً نسخة ويكيبيديا لعام 2023) وقاموا بتصفيتها. استخدموا برنامجاً حاسوبياً للعثور على كل جملة تحتوي على اسم له معدّلان أو أكثر (مثل "تلك الكلاب المنفوشة الاثنين") وقاموا بتفكيكها. استبدلوا "تلك الكلاب المنفوشة الاثنين" بأمثلة منفصلة مثل "تلك الكلاب"، "كلبان"، و"كلاب منفوشة".
كانت النتيجة هي نظام غذائي من "فقر المحفزات". غُذيت النماذج بـ 100 مليون كلمة، لكنها لم ترَ أبداً مثالاً واحداً لاسم مع معدلين. تعلمت المكونات الفردية لكنها لم ترَ الكعكة النهائية أبداً. ثم، اختبر الباحثون النماذج من خلال مطالبتها بالاختيار بين نسختين من الجملة: النسخة التي تتبع منطق "دمى الماتبوشكا" (المتماثلة هيكلياً مع النطاق) والنسخة التي لا تتبعه.
اختبروا ثلاثة أحجام مختلفة من نماذج الذكاء الاصطناعي: نموذج صغير (52 مليون معلمة)، نموذج متوسط (110 مليون)، ونموذج كبير (350 مليون).
النتائج: الذكاء الاصطناعي يصيب الهدف
كانت النتائج متسقة بشكل مفاجئ. على الرغم من أن النماذج لم ترَ قط عبارة بوجود عدة أوصاف أثناء تدريبها، إلا أن جميع النماذج الثلاثة فضلت باستمرار ترتيب "دمى الماتريوشكا".
عندما سأل الباحثون النماذج للاختيار بين "تلك الكلاب الاثنين" (الترتيب المنطقي) و"اثنين تلك الكلاب" (الترتيب المبعثر)، اختارت النماذج الترتيب المنطقي بشكل ساحق.
- النموذج الصغير أصاب بنسبة 76% تقريباً.
- النموذج المتوسط أصاب بنسبة 73% تقريباً.
- النموذج الكبير أصاب بنسبة 70% تقريباً.
يشير هذا إلى أن النماذج لم تكتفِ بمجرد حفظ بيانات التدريب؛ بل استنتجت قاعدة. لقد أدركت أنه عندما يكون لديك عدة أوصاف، فهناك طريقة منطقية محددة لترتيبها، حتى دون أن تُعرض عليها الإجابة. ومن المثير للاهتمام أن حجم النموذج لم يغير النتيجة كثيراً؛ فقد أظهرت النماذج الصغيرة والمتوسطة والكبيرة هذا الانحياز، مما يشير إلى أنها ميزة قوية في كيفية تعلم هذه الأنظمة.
المفاجأة: الأمر لا يتعلق فقط باقتران الكلمات
ثم طرح الباحثون سؤالاً للمتابعة: كيف عرفت النماذج ذلك؟ هناك نظرية شائعة تقول إن المتعلمين ينظرون فقط إلى مدى تكرار تواجد الكلمات معاً. على سبيل المثال، ربما توجد كلمة "حمراء" بجانب كلمة "كرة" بشكل متكرر، لذا يجب أن تكون دائماً أقرب إلى الاسم من كلمة "كبيرة". يتم قياس هذا بما يسمى المعلومات المتبادلة النقطية (PMI)، وهي ببساطة درجة قوة الارتباط بين كلمتين.
تحقق الفريق من الحسابات. قاموا بحساب درجات الارتباط للكلمات في بيانات التدريب الخاصة بهم. وجدوا أنه، نعم، ترتبط الصفات بقوة بالأسماء، بينما ترتبط الأرقام وأدوات الإشارة (مثل "تلك") ارتباطاً أقل. إذا كانت النماذج تتبع فقط درجات الارتباط هذه، فقد كان ينبغي أن تكون قادرة على التنبؤ بترتيب الكلمات بشكل مثالي.
ولكن إليكم المفاجأة: فشلت درجات الارتباط في التنبؤ باختيارات النماذج.
عندما قارن الباحثون بين اختيارات النماذج الفعلية وما تنبأت به الرياضيات، كان الارتباط شبه معدوم. كانت النماذج تختار الترتيب الصحيح، لكنها لم تكن تفعل ذلك لأنها كانت تعد كم مرة تظهر الكلمات معاً. هذا يشير إلى أن النماذج تلتقط شيئاً أعمق — ربما فهماً هيكلياً لكيفية عمل اللغة — يتجاوز مجرد إحصائيات أزواج الكلمات البسيطة.
ماذا يعني هذا؟
تظهر هذه الدراسة أن النماذج اللغوية يمكنها استعادة التعميمات اللغوية الشبيهة بالبشر من المدخلات "الفقيرة". تماماً مثل الطفل البشري الذي قد يخمن ترتيب الكلمات الصحيح في لغة جديدة دون رؤية كل التركيبات الممكنة، وجدت نماذج الذكاء الاصطناعي هذه الأنماط رغم عدم وجودها صراحة في بيانات تدريبها.
ومع ذلك، يوضح المؤلفون بحذر أن هذا لا يثبت أن الذكاء الاصطناعي يتعلم تماماً كما يفعل البشر. فالنماذج ليست أطفالاً واعين؛ بل هي محركات إحصائية معقدة. لكن حقيقة أنها طورت هذا الانحياز دون أن يتم إخبارها بذلك تشير إلى أنك لست بحاجة بالضرورة إلى "شريحة لغة" مبرمجة مسبقاً لتعلم هذه القواعد. أحياناً، يمكن لقواعد اللغة أن تظهر بشكل طبيعي من خلال تجربة تعلم الأنماط من العالم.
كما لاحظ الباحثون فرقاً صغيراً بين الذكاء الاصطناعي والبشر: فبينما يظهر البشر عادةً أقوى تفضيل لترتيب أدوات الإشارة والصفات (مثل "ذلك الكلب الكبير")، أظهرت نماذج الذكاء الاصطناعي أقوى تفضيل لأدوات الإشارة والأرقام (مثل "تلك الكلاب الاثنين"). وهذا يشير إلى أنه بينما توجد القدرة العامة على التعميم، فإن النكهات المحددة لهذا الانحياز قد تعتمد على تفاصيل بيانات التدريب.
في النهاية، يقدم لنا هذا البحث أداة رائعة لفهم اللغة. من خلال تغذية نماذج الذكاء الاصطناعي بنظام غذائي من المعلومات المفقودة، يمكننا رؤية ما "يخمنونه" من تلقاء أنفسهم، مما يساعدنا في فهم ما إذا كانت قواعد اللغة مبرمجة داخلياً أم أنها تُتعلم من أنماط العالم.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.