ملخص تقني: التدريب الذاتي لا يُسطّح اللغة — بل يعيد هيكلتها

بيان المشكلة

إن التوصيف السائد لعمليات التدريب الذاتي المتتالية على النماذج اللغوية الكبيرة (LLMs) هو "التسطيح" (flattening) أو "انهيار النموذج" (model collapse)، حيث تنخفض التنوعات، وتضيق التوزيعات، وتتقارب النصوص نحو جاذب ذي إنتروبيا منخفضة. وبالتزامن مع ذلك، تلاحظ الأدبيات المتعلقة بالبصمات اللغوية للنماذج اللغوية الكبيرة أن النص المولد آلياً غني بشكل ثابت بعلامات سطحية محددة (روابط الخطاب، أدوات التحوط، والشرطات الطويلة/em-dashes) مقارنة بالنماذج البشرية المرجعية. ومع ذلك، لم ينجح أي من هذين الأدبيين في وصف آلية هذا الانزياح التوزيعي بشكل صحيح. يعزو التفسير النظري السائد هذا التدهور إلى آلية قائمة على التكرار: حيث يتم نقص أخذ عينات الأحداث النادرة مما يؤدي إلى تلاشيها. تجادل هذه الورقة بأن هذا التوصيف غير مكتمل، وأن الظاهرة يمكن وصفها بشكل أفضل بأنها تفرع بنيوي (structural bifurcation) بدلاً من كونها تسطيحاً موحداً.

المنهجية

أجرى المؤلفون تجارب تدريب ذاتي مضبوطة عبر خمسة نماذج تغطي ثلاث عائلات من البنى المعمارية (GPT-2 124M، وPythia-410M، وPythia-1.4B، وPythia-2.8B، وOPT-1.3B).

• البروتوكول: خضع كل نموذج لـ 11 جيلاً من التدريب الذاتي الصرف. بدءاً من نسخة احتياطية منشورة، قام النموذج بتوليد 3,000 نص (كل منها 256 رمزاً/token) باستخدام أخذ عينات النواة (nucleus sampling) بقيم ($p=0.95, T=0.9$)، واستُخدمت المجموعة الناتجة لضبط النموذج لتدريب واحد (one epoch). تكررت هذه الدورة دون دمج بيانات بشرية.
• اختيار السمات: تم اختيار سبع عشرة سمة لغوية مسبقاً وتصنيفها حسب العمق البنيوي ($d(\phi)$)، والذي عُرِّف بأنه الحد الأدنى من التبعيات النحوية المتداخلة اللازمة لترخيص هذه السمة في الجملة:
  • $d=0$ (سطحي/معجمي): علامات الخطاب، أدوات التحوط، الشرطات الطويلة (em-dashes)، وعلامات التعجب.
  • $d=1$ (نحو محلي): صيغة الماضي المنتظمة ($V+ed$)، الروابط في بداية الجملة، والتنسيق البسيط.
  • $d=2$ (بنية الجملة): الأسئلة، الجمل الاعتراضية، المبني للمجهول، الماضي غير المنتظم، والجمل النسبية/الظرفية.
  • $d=3$ (عبر الجمل/الصيغة): تراكيب صيغة الشك (Subjunctive).
• التحليل: تتبع المؤلفون التكرار النسبي لهذه السمات عبر الأجيال. وقاموا بحساب معدلات التلاشي لكل سمة ($\lambda$) عبر انحدار المربعات الصغرى العادية (OLS)، واختبروا الارتباطات مقابل العمق البنيوي ($d$) والتكرار المرجعي ($f$). كما استُخدم نموذج التأثيرات المختلطة (mixed-effects model) لمراعاة الهيكل المتداخل للبيانات ($N=85$ زوج من السمات والنماذج).

المساهمات الرئيسية

1. صياغة فرضية العمق البنيوي (SDH): تقترح الورقة أن معدل الانزياح لكل جيل لسمة لغوية ما يتنبأ به بشكل أساسي عمقها البنيوي ($d$) وثانوياً اعتمادها على العشوائية في أخذ العينات ($\sigma$). تفترض الفرضية وجود منافسة بين "عقوبة العمق" (تتلاشى البنى العميقة بسبب تكاليف الاحتمالية الضربِيّة) و"مكافأة الاعتماد على أخذ العينات" (تتضخم العلامات السطحية بسبب ديناميكيات "الغني يزداد غنى" في أخذ العينات العشوائي).
2. توثيق "مفارقة التعقيد السطحي": يوضح المؤلفون أنه بينما ترتفع مؤشرات "التعقيد" الإجمالية (عمق شجرة التبعية، نسبة النوع إلى الرمز، متوسط طول الكلمة) أثناء التدريب الذاتي، فإن سمات بنية الجملة الأساسية (الأسئلة، المبني للمجهول، التبعية) تنهار. وهذا يحجب التفرع في التحليلات الأسلوبية القياسية.
3. التحقق عبر النماذج: توفر الدراسة دليلاً مضبوطاً عبر خمسة نماذج وثلاث عائلات معمارية، مما يظهر أن تأثير تدرج العمق قوي ومستقل عن الاختلافات في البنية والمعمارية ومجموعات البيانات التدريبية.
4. دحض التفسيرات القائمة على التكرار فقط: من خلال الاختبار الإحصائي المباشر، تثبت الورقة أن العمق البنيوي هو متنبئ أقوى بكثير من التكرار المرجعي لمعدل تلاشي السمات.

النتائج الرئيسية

• تفرع السمات: تضخمت العلامات السطحية ($d=0$) بشكل ملحوظ (على سبيل المثال، زادت علامات الخطاب بنسبة +126%، وأدوات التحوط بنسبة +44%)، بينما انهارت البنى النحوية العميقة ($d \ge 2$) (على سبيل المثال، انخفضت علامات الاستفهام بنسبة 92%، والمبني للمجهول بنسبة 56%، وصيغ الشك بنسبة 53%).
• الرتابة (Monotonicity): كان متوسط التغير لكل جيل متناقصاً برتابة مع العمق البنيوي:
  • $d=0$: +24.9%
  • $d=1$: -10.0%
  • $d=2$: -47.2%
  • $d=3$: -52.7%
• الدلالة الإحصائية:
  • عبر النماذج الخمسة ($N=85$)، كان معامل ارتباط سبيرمان بين العمق البنيوي ومعدل التلاشي هو $\rho = 0.540$ ($p < 10^{-6}$).
  • في المقابل، كان الارتباط بين التكرار المرجعي ومعدل التلاشي ضعيفاً وغير معتد به إحصائياً في الاختبار المجمع ($\rho = 0.225, p = 0.039$).
  • أكد نموذج التأثيرات المختلطة أن معامل العمق كان ذا دلالة عالية جداً ($p < 0.001$)، بينما لم يكن التكرار كذلك.
• "الاستثناء الذي يثبت القاعدة": انهارت علامات التعجب ($d=0$) بنسبة 99.3%. يعزو المؤلفون ذلك إلى معادلة فرضية العمق البنيوي (SDH): فبينما هي سطحية ($d=0$)، إلا أن معدل وجودها الأساسي تحت أخذ عينات النواة كان منخفضاً جداً بحيث لم يحفز حلقة تضخم "الغني يزداد غنى"، مما أدى إلى تلاشيها رغم انخفاض عمقها.
• تجربة ضبط: أسفرت تجربة ضبط مطابقة حيث تم ضبط النماذج على نصوص بشرية (OpenWebText) بدلاً من النصوص المولدة ذاتياً عن ارتباط يقترب من الصفر ($\rho = 0.039, p = 0.88$)، مما يؤكد أن تدرج العمق خاص بنظام التدريب الذاتي.

الأهمية والادعاءات

تدعي الورقة إعادة صياغة أدبيتين متميزتين:

1. انهيار النموذج: تقدم تفسيراً بنيوياً بدلاً من كونه إحصائياً بحتاً للانهيار. وتجادل بأن الانهيار ليس مجرد فقدان للرموز (tokens) النادرة، بل هو تآكل منهجي للآليات النحوية العميقة، مدفوعاً بالعقوبة الاحتمالية الضربِيّة لتجاوز التبعيات المتداخلة في التوليد التلقائي (autoregressive generation).
2. البصمات اللغوية للنماذج الكبيرة: تقدم تفسيراً ميكانيكياً لسبب كون علامات النص الآلي النموذجية (روابط الخطاب، أدوات التحوط) هي بالضبط ما هي عليه: فهي الناجية والمتضخمة من عملية انهيار متدرجة حسب العمق.
3. تحذير منهجي: تجادل الورقة بأن الاعتماد على مقاييس البصمة الإجمالية (كما هو متبع في علم الأساليب) يحجب بشكل منهجي التفرع الذي يحدث للغة تحت التدريب الذاتي. وهذا له آثار مباشرة على تنقية بيانات التدريب (مما يشير إلى الحاجة لإعطاء الأولوية للنصوص الغنية بنيوياً من حيث الجمل) وعلى الكشف (مما يشير إلى أن أدوات الكشف التي تعتمد على التعقيد الإجمالي قد تفشل مع خضوع النماذج للتدريب التكراري).

يظل المؤلفون متواضعين فيما يتعلق بالحدود المحددة للنماذج الأكبر (7B+)، مشيرين إلى أن تجاربهم تغطي نطاقاً من 124 مليون إلى 2.8 مليار معلمة، لكنهم يؤكدون أن اتجاه وترتيب تدرج العمق ثابت عبر البنى المعمارية المختبرة. كما يشيرون إلى أن هذه النتائج تقتصر حالياً على اللغة الإنجليزية وتوزيعات محددة من الأوامر (prompts).