Do Language Models Encode Knowledge of Linguistic Constraint Violations?

ملخص تقني: هل تُشفر النماذج اللغوية معرفة بانتهاكات القيود اللغوية؟

بيان المشكلة
بينما تُظهر النماذج اللغوية الكبيرة (LLMs) أداءً قويًا في الاختبارات المعيارية اللغوية وتعمم الانتظامات القواعدية من النصوص الخام، إلا أن الآليات الداخلية التي تمكنها من التمييز بين الجمل السليمة والجمل غير السليمة لا تزال غير واضحة. وتحديدًا، يظل سؤالًا مفتوحًا ما إذا كانت النماذج اللغوية الكبيرة، ولا سيما بنيات المحولات (Transformer)، تُشفر "ميزات كاشفة" (detector features) محددة تنشط عند مواجهة انتهاكات قواعدية لتقليل احتمالية ظهور الجملة (log-likelihood). تبحث هذه الدراسة في الفرضية القائلة بأن النماذج اللغوية الكبيرة تمتلك تمثيلات كامنة لانتهاكات القيود اللغوية (المشار إليها بالمتغير $G$ في إطار عمل Hu et al., 2026) والتي يتم تنشيطها بشكل انتقائي أثناء معالجة المدخلات غير النحوية.

المنهجية
تستخدم الدراسة نهج التفسير الآلي (mechanistic interpretability) باستخدام المشفرات التلقائية المتفرقة (Sparse Autoencoders - SAEs) لتفكيك التنشيطات متعددة الدلالات (polysemantic activations) للنماذج اللغوية الكبيرة إلى ميزات متفرقة أحادية الدلالة (monosemantic features).

• مجموعة البيانات: يستخدم المؤلفون معيار BLiMP (Warstadt et al., 2020)، الذي يوفر 13 ظاهرة لغوية. تتكون كل ظاهرة من أزواج دنيا (minimal pairs) حيث تختلف الجملة السليمة ($x_{good}$) عن الجملة غير السليمة ($x_{bad}$) بكلمة واحدة فقط. هذا التصميم يحافظ على ثبات الرسالة الدلالية ($m$) بينما يغير القيد القواعدي ($G$).
• النماذج: أُجريت التجارب على ستة نماذج من ثلاث عائلات: GPT-2 (صغير)، Gemma-3 (270M, 1B, 4B)، و Qwen3.5 (2B, 9B).
• تفكيك الميزات: تم تطبيق المشفرات التلقائية المتفرقة (SAEs) سابقة التدريب (من SAELens و Qwen Scope و Gemma Scope 2) على مسارات البقايا (residual streams) في طبقات محددة (25%، 50%، 65%، و 85% من عمق النموذج).
• درجة الحساسية ($\Phi$): تم تقديم درجة حساسية لتصنيف ميزات الـ SAE بناءً على تنشيطها التفضيلي للمدخلات المنتهكة للقيود مقابل المدخلات السليمة. تم اختيار الميزات ذات درجات $\Phi$ الموجبة العالية كمرشحات لكواشف الانتهاك.
• إطار التكذيب الاقتراني (Conjunctive Falsification Framework): للتحقق مما إذا كانت الميزة المرشحة تعمل حقًا ككاشف للانتهاك، يقترح البحث ثلاثة معايير يتم تقييمها بشكل مشترك عبر استئصال الميزات المستهدف (targeted feature ablation):
  1. F1 (الأثر السببي على الانتهاكات): يجب أن يؤدي استئصال الميزات المرشحة إلى زيادة احتمالية ظهور الجمل غير النحوية بشكل ملحوظ مقارنة بمجموعة تحكم عشوائية.
  2. F2 (استقرار الحالات غير المنتهكة): يجب ألا يؤدي الاستئصال إلى تدهور كبير في احتمالية ظهور الجمل السليمة (عتبة الاستقرار $|\bar{M}_{good}| < 0.05$).
  3. F3 (الأثر التفضيلي): يجب أن يكون التغيير في هامش التفضيل (الجيد مقابل السيئ) الناتج عن الاستئصال موجبًا تمامًا وأكبر بشكل ملحوظ من التحكم العشوائي، لضمان أن الأثر انتقائي للانتهاكات.

المساهمات الرئيسية

1. درجة الحساسية ($\Phi$): مقياس غير خاضع للإشراف لتحديد الميزات التي تنشط تفضيليًا للمدخلات المنتهكة للقيود، مما يسمح بالاختيار المستهدف لميزات كاشفات الانتهاك دون إشراف مصنف.
2. إطار التكذيب الاقتراني: اختبار صارم من ثلاثة معايير (F1, F2, F3) مصمم للتمييز بين كواشف الانتهاك الحقيقية وبين الميزات التي ترتبط مجردًا بالطلاقة العامة أو احتمالية الجملة العامة.
3. التحليل التجريبي: تقييم شامل عبر 13 ظاهرة لغوية وستة نماذج، كشف أنه بينما تحتوي النماذج على معلومات متعلقة بالانتهاكات، فإن هذه المعلومات ليست قابلة للفصل بوضوح إلى كواشف موحدة وانتقائية تحت إطار التدخل الحالي.

النتائج
النتائج التجريبية سلبية إلى حد كبير فيما يتعلق بفرضية وجود كواشف انتهاك موحدة وانتقائية:

• أداء F1: اجتاز معيار الأثر السببي (F1) على نطاق واسع عبر النماذج والظواهر. الميزات ذات $\Phi$ العالية ترتبط بالمدخلات المنتهكة للقيود، حيث تؤدي إزالتها إلى زيادة احتمالية الجمل غير النحوية.
• فشل F2 و F3: فشل معيار الاستقرار (F2) ومعيار الأثر التفضيلي (F3) في معظم الحالات. الميزات التي تم تحديد حساسيتها للانتهاكات غالبًا ما تؤثر أيضًا على الجمل السليمة (مما ينتهك F2) أو تؤثر على الجمل النحوية وغير النحوية بمقدار متقارب (مما ينتهك F3).
• التحقق المشترك: تم استيفاء المعيار المشترك (F1 $\cap$ F2 $\cap$ F3) في ظاهرة واحدة فقط (الأشكال غير المنتظمة في GPT-2) عبر جميع النماذج.
• تشابك الميزات: تشير النتائج إلى أن ميزات الانتهاك ليست معزولة؛ بل يبدو أنها تشفر معلومات الطلاقة العامة أو أنها متشابكة مع الميزات التي تمثل الرسالة العامة ($m$)، مما يجعل من الصعب عزل متغير "القواعدية" $G$ النقي عبر الاستئصال.

الأهمية والادعاءات
تخلص الورقة إلى أن النماذج اللغوية الكبيرة الحالية لا يبدو أنها تشفر مجموعة موحدة من كواشف الانتهاك القواعدية التي يتم تنشيطها بشكل انتقائي وتكون متميزة سببيًا عن التمثيلات العامة للجملة. وبينما تمتلك النماذج معلومات ذات صلة بالانتهاكات القواعدية، إلا أن هذه المعلومات لا يمكن فصلها بوضوح عن التمثيلات الأوسع على مستوى الجملة تحت إطار التدخل الحالي.

يفترض المؤلفون أن النتائج السلبية قد تنبع من:

1. فشل درجة الحساسية في كشف الميزات التي تستوفي معيار F2 و F3.
2. فشل الـ SAEs في استعادة الميزات المقابلة لـ F2 و F3، والتي قد تكون امتُصت في ميزات أخرى.
3. كون الميزات ذات الصلة موزعة عبر طبقات متعددة بدلاً من كونها مركزة في طبقة واحدة.

لا تدعي الدراسة دحض وجود التمثيلات القواعدية تمامًا، بل تسلط الضوء على حدود أدوات التفسير الآلي الحالية (تحديدًا SAEs والاستئصال) في عزل هذه المتغيرات الكامنة المحددة. إن العمل يتسم بالتواضع في ادعاءاته، مشيرًا إلى أن النتيجة الرئيسية سلبية، وأن أطر العمل البديلة التي تستهدف المفاجأة (surprisal) أو الشذوذ الدلالي قد تقدم رؤى مكملة.