A Unified Assessment of the Poverty of the Stimulus Argument for Neural Language Models
تقدم هذه الورقة \poshbench، وهو معيار موحد يوضح أنه بينما يمكن للنماذج اللغوية العصبية اكتساب تعميمات تعتمد على البنية من بيانات محدودة دون وجود تحيزات نحوية فطرية، إلا أنها تظل أقل كفاءة من الأطفال وتتطلب انحيازات استقرائية إضافية مدفوعة معرفيًا لمطابقة التعلم الشبيه بالبشر بشكل كامل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
على مدى عقود، ظل لغز مركزي يطارد دراسة كيفية تعلم البشر للغة. فالأطفال، رغم إحاطتهم بتدفق فوضوي وغير مكتمل في كثير من الأحيان من الكلام، يتمكنون من إتقان القواعد النحوية المعقدة وغير المرئية بحلول سن الخامسة. إنهم يتعلمون أن بعض الجمل مستحيلة، رغم أنهم لم يسمعوا أبداً شخصاً بالغاً يقول "هذا خطأ"، أو يشاهدوا قائمة بالعبارات المحظورة. وتُعرف هذه الفجوة بين البيانات المحدودة والمبعثرة التي يتلقاها الأطفال والمعرفة المتطورة التي يكتسبونها باسم "فقر المحفز". والتفسير التقليدي، الذي دافع عنه اللغويون لأجيال، هو أن البشر يولدون بمخطط فطري خاص للقواعد — دليل مدمج يخبر الدماغ أي القواعد ممكنة وأيها ليست كذلك. وبدون هذه البداية البيولوجية، يذهب الطرح إلى أن المدخلات فقيرة ببساطة بحيث لا يمكنها تعليم الطفل كيف يتحدث.
في السنوات الأخيرة، قدم الذكاء الاصطناعي طريقة جديدة لاختبار هذه الفكرة. فقد بنى العلماء برامج حاسوبية تسمى الشبكات العصبية، والتي تتعلم من خلال قراءة كميات هائلة من النصوص. وقد أصبحت هذه الآلات بارعة بشكل ملحوظ في التنبؤ بالكلمة التالية في الجملة، وغالباً ما تحاكي قواعد اللغة البشرية دون تعليمها القواعد صراحة. وقد أثار هذا النجاح جدلاً: إذا كان بإمكان الآلة تعلم قواعد معقدة بمجرد القراءة، فربما يكون "فقر" المحفز مجرد وهم، وأن المدخلات غنية بالفعل بما يكفي لأي متعلم قوي لاستيعابها. ومع ذلك، ظلت هناك ثغرة حرجة في هذه المقارنة: الحواسيب تتغذى على مليارات الكلمات، بينما لا يسمع الطفل البشري سوى جزء ضئيل جداً من هذا القدر. ولحل المسألة، احتاج الباحثون إلى معرفة ما إذا كان بإمكان الآلة تعلم نفس القواعد الصعبة التي يتعلمها الطفل، ولكن بنفس القدر المحدود من البيانات فقط.
قام فريق من الباحثين في جامعة جورج تاون وجامعة خرونينجن بالإجابة على ذلك من خلال إنشاء ساحة اختبار جديدة تسمى POSH-BENCH. ركزوا على أربع ألغاز نحوية محددة اعتُبرت لفترة طويلة من أقوى الأدلة على المعرفة الفطرية. وتشمل هذه الألغاز كيفية تعلم الأطفال تكوين الأسئلة عن طريق نقل الفعل المساعد الرئيسي بدلاً من أول فعل يسمعونه، وكيف يعرفون أن هياكل جمل معينة تمنع حركة الكلمات، وكيف يفهمون إلى من يعود الضمير في جملة معقدة، والقواعد الدقيقة التي تحكم متى يمكن اختصار عبارة "want to" لتصبح "wanna". قام الباحثون ببناء مكتبة ضخمة من النصوص المصممة لمحاكاة البيئة اللغوية للطفل، والتي تتراوح من 10 ملايين إلى 50 مليون كلمة. وهذا يمثل تقريباً كمية اللغة التي يتعرض لها الطفل بحلول سن الخامسة، وهو مقياس أصغر بملايين المرات مما تستهلكه النماذج الحاسوبية الحديثة عادةً.
درب الفريق ثلاثة أنواع مختلفة من النماذج الحاسوبية على هذه البيانات ذات الحجم المماثل لحجم بيانات الطفل. النوع الأول هو شبكة عصبية قياسية، من النوع الذي يشغل العديد من أدوات الذكاء الاصطناعي الحديثة. والنوع الثاني هو نوع أقدم من الشبكات، والثالث هو نموذج إحصائي بسيط ينظر فقط إلى التاريخ المباشر للكلمات. ولاختبار حجة "الفقر" بشكل أكبر، أنشأوا نسخة من بيانات التدريب حيث قاموا عمداً بإزالة كل مثال واحد من القواعد النحوية المحددة التي كانوا يختبرونها. وقد حاكى هذا طفلاً لم يسمع أبداً مثالاً مباشراً على القاعدة، مما يجبر المتعلم على الاعتماد كلياً على الإشارات غير المباشرة من بقية اللغة.
كانت النتائج مفاجئة ومتعددة الأوجه. فقد وجد الباحثون أن الشبكات العصبية المتقدمة يمكنها بالفعل تعلم هذه القواعد النحوية الصعبة من البيانات المحدودة ذات الحجم المماثل لحجم بيانات الطفل، حتى عندما كانت الأمثلة المباشرة مفقودة. لقد تفوقت هذه الشبكات بشكل ملحوظ على الصدفة، مما يشير إلى أن المدخلات ليست فقيرة كما كان يُعتقد سابقاً، وأن آلات التعلم القوية يمكنها استخراج أنماط هيكلية عميقة دون الحاجة إلى دليل قواعد مبرمج مسبقاً. ومع ذلك، لم تنتهِ القصة عند هذا الحد. فبينما استطاعت الآلات تعلم القواعد، إلا أنها فعلت ذلك بكفاءة أقل بكثير من الأطفال البشر. ومع زيادة كمية البيانات، تحسنت الآلات، لكنها لم تستطع أبداً اللحاق بسرعة ودقة طفل في السادسة من عمره. وظلت الفجوة بين منحنى تعلم الآلة والطفل واسعة بعناد، مما يشير إلى أنه بينما قد تكون المدخلات قابلة للتعلم، فإن شيئاً آخر يساعد البشر على التعلم.
اختبر الباحثون بعد ذلك ما إذا كان إضافة "تحيزات" محددة — وهي اختصارات ذهنية مستوحاة من كيفية عمل الأدمغة البشرية — يمكن أن تساعد الآلات في سد هذه الفجوة. حاولوا منح النماذج بداية قوية من خلال تدريبها على ألغاز المنطق الصورية، أو إجبارها على الانتباه إلى بنية الجملة كما يفعل البشر، أو تحديد ذاكرتها لمحاكاة الذاكرة العاملة المتطورة للطفل. ساعدت هذه التغييرات النماذج في تحسين قدرتها العامة على فهم اللغة، مما جعلها أكثر قوة ودقة في الاختبارات العامة. ومع ذلك، ومن الناحية الجوهرية، لم تساعد هذه التحيزات النماذج باستمرار على تعلم القواعد الصعبة المحددة التي تمثل جوهر حجة فقر المحفز. فالتحيزات التي ساعدت في القواعد العامة لم تعالج بالضرى الألغاز المحددة التي يتقنها الأطفال بسهولة.
تخلص الدراسة إلى أن الجدل لم يُحسم بـ "نعم" أو "لا" بسيطة. تشير النتائج إلى أن المدخلات التي يتلقاها الأطفال كافية بالفعل لمتعلم قوي لاكتساب قواعد معقدة، مما يتحدى فكرة أن القواعد الفطرية هي المسار الوحيد الممكن. ومع ذلك، فإن حقيقة أن الآلات لا تزال تعاني لمواكبة كفاءة البشر تشير إلى أن التعلم البشري يتضمن ما هو أكثر من مجرد مطابقة الأنماط الإحصائية. وهذا يعني أن الأطفال يمتلكون آليات تعلم أو قيوداً تتجاوز التحيزات الهيكلية التي اختبرتها هذه الدراسة. إن الدماغ البشري لا يتعلم فقط من البيانات التي يتلقاها؛ بل يتعلم من تلك البيانات بطريقة فريدة من نوعها في الكفاءة، وهي صفة لم ينجح الذكاء الاصطناعي الحالي في محاكاتها بالكامل بعد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.