ملخص تقني: انتقال التدرج محدود الحجم في مرحلة ما قبل التدريب للنماذج اللغوية الكبيرة

بيان المشكلة

بينما أرست قوانين القياس العصبي (neural scaling laws) علاقات اعتماد قوية من نوع القوة (power-law) بين خسارة ما قبل التدريب للنماذج اللغوية الكبيرة (LLM) والعوامل الخارجية (حجم النموذج، حجم مجموعة البيانات، الحوسبة)، إلا أنها لا تكشف عن التنظيم الداخلي لمجال التدرج (gradient field) مع تقدم التدريب. يمكن للمنحنيات القياسية للأداء أن تحجب عمليات إعادة التنظيم الداخلية التي تتكشف بمرور الوقت وعبر المقاييس المختلفة. تشير الدراسات الحالية حول "التفهم" (grokking - التعميم المتأخر) وانتشار الإشارات الحرجة إلى أن التحولات السلوكية قد تسبقها تغييرات داخلية أكثر سلاسة، ومع ذلك تفتقر المقاييس الحالية إلى مسبار مدرك للمقياس (scale-resolved probe) لقياس كيفية تطور تنظيم مجال التدرج. يجادل المؤلفون بأن أسيًا واحدًا (مثل أس الحجم المتتالي $D$) غير كافٍ لتوصيف أنظمة تدريب النماذج اللغوية الكبيرة الحقيقية، مما يستدعي إطار عمل متعدد القنوات للتمييز بين ديناميكيات التدريب المختلفة التي قد تشترك في هياكل أساسية متشابهة للنمو مع الحجم.

المنهجية

يقدم البحث إطار عمل لـ انتقال التدرج محدود الحجم يستند إلى الميكانيكا الإحصائية غير المتوازنة، وتحديداً عبر تكييف مسبار الانهيار (avalanche probe) المعروف بـ تحديث الانتشار ذو العتبة – أولامي-فيدر-كريستنسن (TDU-OFC).

1. مسبار TDU-OFC

تعامل الطريقة مجال التدرج (أو مجال تحديث المعلمات) كحقل حمل (load field) يخضع لقاعدة إعادة توزيع محكومة على رسم بياني من نوع "باراباسي-ألبرت" (BA graph) ثابت.

• المدخلات: في كل خطوة تدريب $t$، يتم أخذ لقطة للحقل $u(t)$. بالنسبة لنموذج Pico-LM، هذا هو متجه التدرج الخام $g_t$؛ وبالنسبة لنموذج Pythia، هو حقل تحديث فرق نقاط التحقق $\Delta\theta_t$.
• العتبة (Thresholding): يتم تعيين عتبة ثابتة $\tau(t)$ عند المئوية التسعين من مقدار الحقل.
• الاسترخاء (Relaxation): تسترخي العقد النشطة (حيث $|u_i| > \tau$) بشكل متزامن، حيث تعيد توزيع القيم الموقعة على الجيران بناءً على تطبيع الدرجة (degree normalization). تتكرر هذه العملية حتى لا تبقى عقد نشطة أو عند الوصول إلى سقف الخطوات (500).
• المخرجات: يعطي المسبار حجم الانهيار $s(t)$ (إجمالي الأحداث النشطة) ومدة الانهيار $n_{steps}(t)$.

2. التوصيف بخمس كميات

يوسع الإطار العملي الأس $D(t)$ (أس حجم الانهيار) إلى إغلاق جبري بخمس كميات:

1. $D(t)$ (أس حجم الانهيار): يصف الامتداد المكاني ($s_{max} \sim N^D$).
2. $z(t)$ (أس المدة): يصف الاستمرارية الزمنية ($n_{steps} \sim N^z$).
3. $\beta$ (أس الانتقال المطلق): مشتق من $D - z$.
4. $\delta$ (أس الانتقال المكثف): يصف كفاءة المعلمة الواحدة ($v_{rel} \sim N^\delta$).
5. $v_{rel}$ (كفاءة الانتقال النسبية): كمية قابلة للقياس المباشر تُعرف بـ $s_{max} / (N \cdot n_{steps})$.

تحقق هذه الكميات علاقات الإغلاق الجبري: $\beta = D - z$ و $\delta = \beta - 1 = D - z - 1$.

3. العائلات التجريبية وضوابط العدم (Null Controls)

يُطبق إطار العمل على عائلتين متكاملتين:

• Pico-LM: أربعة مقاييس (11M–570M) مع لقطات مباشرة للتدرج الخام عند 125 خطوة متوافقة.
• Pythia/PolyPythias: خمسة مقايšات دون المليار (14M–410M) باستخدام حقول فرق نقاط التحقق (كوكيل للتحديثات) عند 153 خطوة متوافقة.

لضمان القابلية للمقارنة، يستخدم المؤلفون هرم تفكيك العدم (null decomposition hierarchy):

• $N_0/N_1$: نماذج غاوسية (قياسية أو مطابقة للعزوم) لتحديد خط الأساس.
• $N_2$: نموذج تبديل يحافظ على التوزيع الهامشي الموقّع ولكنه يعمد إلى عشوائية تخصيص القيم للعقد.
  وهذا يسمح بالفصل بين "تأثيرات التوزيع" و"تأثيرات التخصيص" (التنظيم المحدد للقيم على الرسم البياني).

4. القابلية للانضغاط الخطوي (Stepwise Compressibility)

مساهمة مبتكرة هي التعامل مع القابلية للانضغاط الخطوية (معامل التحديد $R^2$ لملاءمة قانون القوة في كل خطوة) ككمية قابلة للرصد للتنظيم الداخلي، بدلاً من كونها مجرد ملاحظة هامشية لجودة الملاءمة. يقيس هذا مدى قدرة قناة انتقال معينة على استيعاب ميل قانون قوة واحد واضح عند خطوة تدريب معينة.

النتائج الرئيسية

1. هيكل حجم مشترك، وأنظمة انتقال متميزة

تظهر كل من Pico-LM و Pythia هيكلاً متقارباً لحجم الانهيار يقترب من الوحدة ($D \approx 1$) طوال نافذة التدريب المستقرة. ومع ذلك، فإنهما يشغلان أنظمة انتقال متميزة:

• Pico-LM: يظهر تدرج مدة إيجابي ($z > 0$) وتدرج كفاءة مكثفة سلبي ($\delta < 0$). تظهر النماذج الأصغر كفاءة انتقال أعلى لكل معلمة، وتستمر الانهيارات لفترة أطول في النماذج الأكبر.
• Pythia: تظل ضمن نطاق ضيق بالقرب من خط الأساس $D=1$ مع تدرج كفاءة إيجابي ضعيف ($\delta > 0$) وتدرج مدة قريب من الصفر ($z \approx 0$). وهي تقترب من نطاق الكفاءة المشتركة عبر المقاييس.

2. محاذاة خط أساس العدم

تكشف ضوابط الحقل العشوائي ($N_0$) أن كلا العائلتين تشتركان في أرضيات عدم متطابقة تقريباً في قنوات الكثافة ($v_{rel}$) والمدة ($z$). وبناءً على ذلك، تُفسر التباينات الملحوظة على أنها اختلافات حقيقية عن هيكل عدم مشترك بدلاً من كونها آثاراً لمعايرات عدم مختلفة. في قناة المدة، يظهر Pico انحرافاً إيجابياً عن حالة العدم، بينما يظهر Pythia انحرافاً سلبياً.

3. القابلية للانضغاط ككمية مرصودة

• Pico-LM: يظهر قابلية انضغاط خطوية عالية ($R^2 \approx 0.97-0.99$) عبر قنوات الحجم والمدة والكفاءة، مما يشير إلى تنظيم قانون قوة نظيف في كل خطوة.
• Pythia: بينما يظل هيكل الحجم ($D$) عالي القابلية للانضغاط ($R^2 \approx 1.0$)، تظهر قنوات المدة والكفاءة قابلية انضغاط ضعيفة ذات ميل واحد ($R^2 \approx 0.55-0.65$). يشير هذا إلى أن قنوات الانتقال الداخلية لـ Pythia لا توصف جيداً بميل قانون قوة واحد عند كل خطوة، رغم أن السلوك الإجمالي مستقر.

4. الارتباط بالأداء الخارجي

يجد البحث ارتباطات على مستوى القناة ولكن لا توجد ارتباطات ذات دلالة إحصائية على مستوى الأس:

• على مستوى القناة: يرتبط الأداء الخارجي (الارتباك/Perplexity لـ Pico، والدقة عند الصفر/Zero-shot accuracy لـ Pythia) بقوة مع كمية الكفاءة المكثفة ($v_{rel}$) والمدة الموحدة ($n_{steps}/N$). يرتبط الأداء الأفضل بانخفاض $v_{rel}$ وارتفاع المدة الموحدة. وتستمر هذه الارتباطات بعد التحكم في جدول معدل التعلم.
• على مستوى الأس: يعمل أس الحجم $D(t)$ كهيكل أساسي مشترك ولكنه لا يرتبط بشكل كبير مع أسس الأداء الخارجي ($\beta_{PPL}$ أو $\alpha_{acc}$) عبر المسار الكامل في كلتا العائلتين.

الأهمية والادعاءات

يدعي البحث تقديم إطار عمل لقياس الانتقال قابل لإعادة الاستخدام لمقارنة أنظمة تدريب النماذج اللغوية الكبيرة الحقيقية دون التأكيد على وجود نقطة ثابتة عالمية أو اشتقاق من المبادئ الأولى لقوانين القياس العصبي.

• تغيير دور $D(t)$: في اختبارات "التفهم" المنضبطة (الأعمال السابقة)، كان $D(t)$ يعمل كعلامة موضعية للتحول (عبور $D=1$ عند التعميم). في مرحلة ما قبل التدريب الحقيقية للنماذج اللغبية الكبيرة، يصبح $ $D(t)$ إحداثياً هيكلياً مستقراً ($D \approx 1$) لا يميز الأنظمة؛ بل يكمن التميز في كيفية تفكيك هذا الهيكل إلى قنوات المدة والكفاءة.
• الطبيعة الرصدية: البحث ذو طبيعة رصدية ومحدودة النطاق. يؤكد المؤلفون صراحة أنهم لا يدعون أن تدريب النماذج اللغبية الكبيرة يحقق آلية "الاستقرار الذاتي الحرج" (SOC) كلاسيكية أو فئة عالمية كاملة من "ضوضاء التصدع" (crackling-noise).
• المساهمة المنهجية: يرفع هذا العمل "القابلية للانضغاط الخطوية" إلى مرتبة الكمية المرصودة الأساسية، مجادلاً بأن درجة قبول القنوات لقوانيع القوة الواضحة هي خاصية جوهرية لديناميكيات التدريب وتنظيمها.
• القيود: يحذر المؤلفون من أن التباين بين Pico و Pythia يتضمن متغيرات متعددة (الجريد الخام مقابل حقل التحديث، بنيات مختلفة، ومحسنات مختلفة). لذا، فإن الادعاءات الكمية القوية تقتصر على التحليلات داخل كل عائلة، بينما تقتصر المقارنات بين العائلات على مستويات الأنظمة.

باختاً، يجادل البحث بأن مرحلة ما قبل التدريب الحقيقية توصف بشكل أفضل من خلال بنية انتقال متعددة الكميات (الحجم، المدة، الكفاءة، والقابلية للانضغاط) بدلاً من أي إحصائية عبور واحدة، مما يوفر لغة مستوحاة من الفيزياء لحل عمليات إعادة التنظيم الداخلية التي تحجبها منحنيات الخسارة القياسية.