💬 NLP

Do Language Models Know What Not to Say? Causal Evidence for Statistical Preemption in LLMs

تقدم هذه الورقة أول دليل سببي على أن النماذج اللغوية الكبيرة تكتسب معرفة بعدم القبول اللغوي من خلال الاستباق الإحصائي، مما يثبت أن التعرض للأشكال التقليدية يثبط البدائل الممكنة بنيوياً ولكن غير المسجلة عبر التنافس التوزيعي بدلاً من مجرد التجذر الفعلي.

المؤلفون الأصليون: Dongxin Guo, Jikun Wu, Siu Ming Yiu

نُشر 2026-05-25

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Dongxin Guo, Jikun Wu, Siu Ming Yiu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

السؤال الكبير: كيف نتعلم ما الذي "لا يجب" قوله؟

تخيل طفلاً يتعلم الكلام. يسمع والديه يقولان: "لقد تبرعتُ بالكتب إلى المكتبة". في النهاية، يدرك الطفل أن قول: "*تبرعتُ المكتبة الكتب" يبدو خاطئاً.

إليك اللغز: لم يقل له أحد قط: "لا تقل بهذه الطريقة". ولم يسمع أي تصحيح أبداً. في الواقع، بنية الجملة التي يتجنبها (نسخة "المفعول به المزدوج") تعمل بشكل مثالي مع كلمات أخرى، مثل "أعطى" ("أعطيتُ المكتبة الكتب").

فكيف يعرف الدماغ التوقف عن استخدام نمط يمكن أن يعمل، فقط لأنه لم يسمعه يُستخدم مع هذه الكلمة تحديداً؟ هذا ما يُعرف بـ مفارقة بيكر (Baker's Paradox).

النظرية: تشبيه "الغرفة المزدحمة"

يختبر البحث نظرية تسمى الاستباق الإحصائي (Statistical Preemption).

تخيل غرفة مزدحمة حيث يحاول الجميع إيصال رسالة ما.

النظرية: إذا كنت تريد إخبار شخص ما بأنك ستعطيه شيئاً، ورأيت أن 99% من الناس في الغرفة يقولون: "أعطيتُ الكتاب إلى الشخص"، فإن دماغك يتعلم أن هذه هي الطريقة "القياسية". ورغم أنه يمكنك جسدياً قول: "أعطيتُ الشخص الكتاب"، إلا أن دماغك يدرك: "أوه، الجميع يستخدمون نسخة الـ 'إلى' لهذا الفعل تحديداً. إذا استخدمتُ النسخة الأخرى، فقد يظن الناس أنني غريب الأطوار أو مخطئ".
الفكرة المنافسة (الترسيخ - Entrenchment): تقترح نظرية منافسة أنك ببساطة تتوقف عن استخدام الأنماط الجديدة لأنك سمعت كلمة "تبرع" كثيراً في أي سياق. الأمر يشبه قول: "لقد سمعت كلمة 'تبرع' كثيراً لدرجة أنني أصبحت متمسكاً بطرقي القديمة ولا أريد تجربة أي شيء جديد".

أراد المؤلفون معرفة: هل تتعلم نماذج اللغة الضخمة (LLMs) مثل البشر؟ هل يدركون ما لا يجب قوله بمجرد ملاحظة أي نسخة هي المفضلة في "الغرفة المزدحمة"؟

التجربة: الذكاء الاصطناًعي كـ "متعلم خارق"

تعامل الباحثون مع نماذج اللغة الضخمة (مثل GPT-2 و LLaMA و Pythia) كـ "متعلمين خارقين". قرأت هذه النماذج مليارات الجمل لكن لم يتم تعليمها قواعد النحو أبداً؛ لقد امتصت الإحصائيات فحسب.

اختبروا النماذج على 120 فعلاً مختلفاً (مثل تبرع، أعطى، شرح، صبّ) عبر ثلاثة أنواع من بنى الجمل.

1. اختبار "المفاجأة" (الارتباط)

قاس الباحثون مدى "مفاجأة" الذكاء الاصطناعي ببنى جمل مختلفة.

التشبيه: تخيل أن الذكاء الاصطناعي هو "دي جي" (DJ) يعزف الموسيقى. إذا كانت الأغنية تناسب الأجواء تماماً، يكون الجمهور (الذكاء الاصطناعي) هادئاً. إذا كانت الأغنية غريبة وغير متناغمة، يشعر الجمهور بـ "المفاجأة" (تطلق إنذار الذكاء الاصطناዊ الداخلي).
النتيجة: كان الذكاء الاصطناعي "متفاجئاً" للغاية بالجمل غير الطبيعية (مثل "*تبرعتُ المكتبة الكتب") وهادئاً بشأن الجمل الطبيعية. طابقت هذه النمط أحكام البشر بشكل شبه مثالي. عندما قال البشر إن جملة ما غريبة، كان الذكاء الاصطناعي أيضاً "متفاجئاً" بها.

2. اختبار "الغرفة المزدحمة" مقابل "الاسم الشهير" (التمايز)

كان هذا الجزء الأكثر أهمية. احتاجوا لإثبات أن الذكاء الاصطناعي لا يتجنب الجملة لمجرد أن الكلمة مشهورة (الترسيخ)، بل لأنه لاحظ وجود "منافس محدد" هو الفائز (الاستباق).

الإعداد: اختاروا مجموعتين من الأفعال.
- المجموعة (أ) (الغرفة المزدحمة): أفعال تهيمن عليها بنية جملة واحدة محددة (مثلاً: تبرع تُستخدم دائماً تقريباً مع "إلى").
- المجموعة (ب) (الاسم الشهير): أفعال تُستخدم بكثرة، ولكن بطرق عديدة ومختلفة، دون وجود "فائز" واحد.
النتيجة: تجنب الذكاء الاصطناعي بنية الجملة الغريبة فقط في المجموعة (أ). أما في المجموعة (ب)، وبالرغم من أن الكلمات كانت مشهورة، إلا أن الذكاء الاصطناعي لم يمانع تجربة البنية الغريبة.
الاستنتاج: الذكاء الاصطناعي لا يتجنب الأشياء لمجرد أن الكلمة شائعة، بل يتجنبها لأنه تعلم أن طريقة أخرى محددة لقولها هي المعيار. وهذا يثبت أن نظرية "الاستباق الإحصائي" هي الصحيحة.

3. اختبار "الحجم يهم" (التوسع)

اختبروا نماذج بأحجام مختلفة، من النماذج الصغيرة (مثل الآلة الحاسبة الجيبية) إلى الضخمة (مثل السوبر كمبيوتر).

التشبيه: الأمر يشبه تدريب كلب. قد يرتكب الجرو بعض الأخطاء، لكن الكلب المدرب جيداً يعرف القواعد.
النتيجة: مع زيادة حجم نماذج الذكاء الاصطناعي، تحسنت قدرتها على رصد الجمل "الخاطئة". ومع ذلك، لم يكن الأمر بمثابة مفتاح سحري يعمل فجأة؛ بل كان تحسناً مستمراً وثابتاً، مثل طالب تتحسن درجاته بمرور الوقت.

4. اختبار "إعادة البرمجة" (الدليل السببي)

لإثبات أن الأمر ليس مجرد مصادفة، أجروا "عملية جراحية" على نموذج ذكاء اصطناٍ صغير.

الإجراء: أخذوا نموذجاً وغذوه ببيانات تدريب إضافية.
- السيناريو 1: جعلوا النسخة "الصحيحة" من الجملة تظهر بمعدل 3 أضعاف أكثر.
- السيناريو 2: جعلوا النسخة "الخاطئة" من الجملة تظهر بمعدل 3 أضعاف أكثر.
النتيجة:
- في السيناريو 1: أصبح الذكاء الاصطناعي أكثر صرامة في تجنب الجملة الخاطئة.
- في السيناريو 2: أصبح الذكاء الاصطناعي أقل صرامة، ولكن ليس بقدر ما غيره السيناريو الأول.
الاستنتاج: أثبت هذا أن سلوك الذكاء الاصطناعي ناتج مباشرة عن تكرار الجمل المتنافسة. إذا غيرت الإحصائيات المدخلة، فإنك تغير "قواعد" الذكاء الاصطناعي بطريقة يمكن التنبؤ بها.

الخلا الخلاصة

يخلص البحث إلى أن نماذج اللغة العصبية تتعلم "ما لا يجب قوله" بنفس الطريقة التي يتعلم بها البشر: من خلال التنافس الإحصائي.

هم لا يحتاجون لمعلم يقول لهم: "هذا خطأ". هم فقط يحتاجون لسماع الطريقة "الصحيحة" لقول الأشياء بما يكفي حتى يدرك عقلهم (أو برمجتهم): "أوه، هذه هي الطريقة القياسية. الطريقة الأخرى محجوبة".

هذا يحل لغزاً دام عقوداً حول كيفية تعلم البشر اللغة دون تلقي ملاحظات سلبية، مما يظهر أن الإحصاءات التوزيعية (عدّ عدد مرات حدوث الأشياء) قوية بما يكفي لتعليمنا قواعد النحو.

ملخص تقني: الأدلة السببية على الاستباق الإحصائي في النماذج اللغوية الكبيرة (LLMs)

بيان المشكلة
تتناول الورقة "مفارقة بيكر" (Baker's Paradox)، وهي لغز جوهري في اكتساب اللغة: كيف يكتسب المتعلمون معرفة بما هو "غير مقبول" (الدليل السلبي) دون أن يُقال لهم صراحةً إن جملًا معينة خاطئة. في سياق "نحو البناء" (Construction Grammar)، تحاول فرضيتان متنافستان تفسير هذا "التراجع عن التعميم المفرط":

الاستباق الإحصائي (Statistical Preemption): يكتسب المتعلمون المعرفة السلبية من خلال تتبع تكرار أشكال منافسة محددة وتقليدية (على سبيل المثال، سماع "donated the books to the library" بشكل متكرر يستبق الشكل غير المثبت "*donated the library the books").
الترسيخ (Entrenchment): يقاوم المتعلمون البنى الجديدة ببساطة لأن الفعل يُواجه بكثرة في أي بناء لغوي، مما يقلل من الرغبة في استخدامه في أطر جديدة.
بينما ناقشت الدراسات السلوكية هذه الآليات، تفترض الورقة أن النماذج اللغوية الكبيرة (LLMs)، المدربة حصريًا على الإحصاءات التوزيعية دون تعليم قواعدي صريح، توفر بيئة محكومة لاختبار ما إذا كان التعلم التوزيعي وحده كافيًا لاكتساب هذه المعرفة السلبية.

المنهجية
أجرى المؤلفون أربع تجارب شملت 120 زوجًا من (فعل–بناء) باللغة الإنجليزية عبر ثلاثة أنواع من التناوب: المفعول به غير المباشر (dative)، والسببية (causative)، والمكانية (locative). وقاموا بتقييم 14 نموذجًا من أربع عائلات (GPT-2, Pythia, LLaMA-2, OLMo) تتراوح أحجامها من 124 مليون إلى 70 مليار معلمة (parameter).

فرضية الربط: تستخدم الدراسة المفاجأة (surprisal) على مستوى الكلمة ( $S(w_t) = -\log_2 P(w_t | w_{<t})$ ) كبديل للقبول البشري. المقياس الرئيسي هو فرق المفاجأة ( $\Delta S$ ) بين الشكل "غير التقليدي" (المُستبق) والشكل "التقليدي".
التجربة 1 (ارتباطية): اختبرت ما إذا كانت أنماط فرق المفاجأة ( $\Delta S$ ) في النماذج اللغوية ترتبط مع أحكام القبول البشري من ثلاث مجموعات بيانات مستقلة (DAIS, Robenalt & Goldberg, Tachihara & Goldberg).
التجربة 2 (الفصل/التمييز): استخدمت تصميم (+منافس / -منافس) (مقتبس من Winkler et al., 2015) للفصل بين الاستباق والترسيخ. تم مطابقة الأفعال بناءً على التكرار الإجمالي، لكنها اختلفت في وجود شكل تقليدي منافس من عدمه. استخدمت الدراسة الارتباطات الجزئية غير الدائرية ضد البيانات البشرية لضمان أن النتائج ليست نتاجًا لإحصاءات المتن (corpus) المشتركة.
التجربة 3 (التوسع): حللت حساسية الاستباق عبر أحجام النماذج (من 160 مليون إلى 12 مليار معلمة في Pythia) لتحديد ما إذا كان التأثير يتوسع وفق قانون القوة (power law).
التجربة 4 (التدخل السببي): أجريت عملية ضبط دقيق (fine-tuning) محكومة على نموذج GPT-2 124M مع تلاعب في الترددات. تم اختبار ثلاث حالات:
- المُضخمة (Amplified): زيادة تكرار الشكل التقليدي.
- المُضعفة (Attenuated): مساواة ترددات كلا الشكلين.
- المعكوسة (Reverse): زيادة تكرار الشكل غير التقليدي (وهي مجموعة ضابطة لاستبعاد الحساسية البسيطة للتكرار).
  تم تكرار التجربة عبر خمس بذور عشوائية (random seeds).

النتائج الرئيسية

المحاذاة بين البشر والنماذج اللغوية: ترتبط أنماط المفاجأة في النماذج اللغوية بقوة مع أحكام القبول البشري ( $r = 0.79$ لنموذج LLaMA-2 7B مقابل معيار DAIS)، وهو ما تم التحقق منه عبر ثلاث مجموعات بيانات سلوكية مستقلة.
الاستباق مقابل الترسيخ: المحركات الملاحظة للتأثير هي تكرار الشكل المنافس، وليس التكرار الإجمالي للفعل. في تصميم (+منافس / -منافس)، أظهرت الأفعال التي تمتلك شكلًا تقليديًا منافسًا فرق مفاجأة ( $\Delta S$ ) أعلى بكثير من الأفعال المتطابقة في التكرار والتي تفتقر لمثل هذا المنافس. أكدت الارتباطات الجزئية أن الاستباق يفسر التباين في البيانات البشرية ( $r_{partial} = 0.58$ ) بينما لا يفعل ذلك الترسيخ.
التوسع: تتوسع حساسية الاستباق وفق قانون القوة مع حجم النموذج ( $r(N) = a \cdot N^b + c$ )، بمعامل $b \approx 0.092$ ، مما يشير إلى تناقص العوائد وعدم وجود تحولات طورية مفاجئة.
الأدلة السببية: أدت تدخلات الضبط الدقيق إلى تغيير سلوك الاستباق بشكل سببي. أدت زيادة تكرار الشكل التقليدي إلى تقوية الاستباق ( $\Delta \Delta S = +0.73$ )، بينما كان لزيادة تكرار الشكل غير التقليدي تأثير أضعف بكثير ( $\Delta \Delta S = -0.29$ ). يدعم هذا التباين نظرية أن الاستباق يعمل من خلال القوة التثبيطية للبدائل الراسخة، وليس مجرد حساسية بسيطة للتكرار.

الأهمية والادعاءات
تدعي الورقة أنها تقدم أول دراسة حوسبية تقوم بالفصل المباشر بين الاستباق الإحصائي والترسيخ ضمن تصميم متقارب واحد باستخدام النماذج اللغوية الكبيرة. وتتمثل مساهماتها الرئيسية في:

التحقق الآلي: تثبت أن النماذج اللغوية العصبية تكتسب المعرفة اللغوية السلبية من خلال التنافس التوزيعي، مما يدعم الآلية الجوهرية لـ "نحو البناء".
الإثبات السببي: من خلال تدخلات الضبط الدقيق المحكومة وضوابط الاتجاه المعكوس، تقدم الورقة أدلة سببية على أن التلاعب بتكرارات الأشكال المنافسة يغير سلوك النموذج في الاتجاه الذي يتنبأ به نظرية الاستباق.
الدقة المنهجية: تعالج الورقة مخاوف "الدائرية" في الأعمال السابقة باستخدام ارتباطات جزئية غير دائرية ضد البيانات البشرية، وتوظيف ضابط الاتجاه المعكوس لاستبعاد التفسيرات التكرارية التكرارية (tautological).
التعميم: تظل النتائج صالحة عبر أنواع متعددة من البنى (المفعول به غير المباشر، السببية، المكانية) وعبر بنيات نماذج مختلفة.

يضع المؤلفون عملهم كمكمل للدراسات السببية الحالية (مثل Yao et al., 2025; Misra and Mahowald, 2024)، مشيرين إلى أنه بينما لا يدعون التفرد في الأولوية لـ "الأدلة السببية"، فإن الجمع المحدد بين الفصل بين الاستباق والترسيخ، والتحقق غير الدائري، وضوابط التباين في الاتجاه المعكوس، يوفر خطًا قويًا ومتضافرًا من الأدلة. وتخلص الدراسة إلى أنه بالنسبة للغة الإنجليزية، فإن لمفارقة بيكر إجابة في التعلم التوزيعي: تطور النماذج حساسية الاستباق التي تشكلها ترددات المنافسين التقليديين، مما يحاكي الاكتساب البشري.