ملخص تقني: Nora (المحاذاة الصفية المتعامدة الموحدة)

بيان المشكلة

تعتمد عملية تدريب النماذج اللغوية الكبيرة (LLMs) بشكل كبير على المحسنات التكيفية مثل Adam، والتي تعامل المعلمات كمتجهات مسطحة، مما يؤدي إلى تجاهل التفاعلات الهيكلية الغنية داخل مشهد الخسارة (loss landscape). وبينما ظهرت محسنات قائمة على المصفوفات مثل Muon لمعالجة ذلك من خلال تطبيق تحديثات متعامدة وتكرارات Newton-Schulz، إلا أنها تتسبب في تكاليف حوسبة باهظة تصل إلى $O(m^2n)$، مما يحد من قابليتها للتوسع.

وعلى العكس من ذلك، فإن النهج المبسط مثل RMNP (التكييف الموحد لزخم الصفوف) يقلل التعقيد إلى $O(mn)$ عبر الاستفادة من هيمنة القطر الكتلي للصفوف في مصفوفة "هيسيان" (Hessian) الخاصة بـ Transformer. ومع ذلك، يفشل RMNP في مراعاة ثبات المقياس (scale-invariance) المتأصل في الشبكات العصبية الحديثة (بسبب BatchNorm وRMSNorm وLayerNorm)؛ حيث يسمح بوجود "تحديثات شعاعية" (radial updates) — وهي تحديثات تتماشى مع متجه الوزن — لا تغير المخرج الوظيفي ولكنها تُدخل ضجيجاً، وتزعزع استقرار معدل التعلم الفعال، وتسبب تذبذبات فوضوية في معايير الأوزان (weight norms).

تفشل الطرق الحالية عموماً في توحيد ثلاث ركائز أساسية: الكفاءة (تقدير يشبه Muon)، والاستقرار (الالتزام بثبات المقياس)، والسرعة (الحد الأدنى من التكاليف الحوسبية الإضافية).

المنهجية: محسن Nora

يقترح المؤلفون Nora (المحاذاة الصفية المتعامدة الموحدة)، وهو محسن مصمم لتلبية هذه الركائز الثلاث في آن واحد. ترتكز فلسفة التصميم الجوهرية على الملاحظة الهندسية التي تفيد بأنه بالنسبة للمعلمات ذات المقياس الثابت، يحدث التعلم الفعال على طول الاتجاهات الزاوية (المماسية) بدلاً من الاتجاهات الشعاعية.

الخطوات الخوارزمية

للمصفوفة $w \in \mathbb{R}^{m \times n}$ والزخم $v_t$:

1. الإسقاط المتعامد على مستوى الصف: يقوم Nora صراحةً بإسقاط الزخم $v_t$ على المتمم المتعامد صفياً للأوزان $w$. لكل صف $i$، يتم إزالة المكون الموازي لصف الوزن:
   $$v_{t,i:}^{\perp} = v_{t,i:} - \frac{\langle v_{t,i:}, w_{t,i:} \rangle}{\|w_{t,i:}\|^2} w_{t,i:}$$
   يضمن هذا أن $\langle v_{t,i:}^{\perp}, w_{t,i:} \rangle = 0$، مما يعمل على تصفية الضجيج الشعاعي بدقة وتثبيت معايير الأوزان.

2. التوحيد على مستوى الصف (التكييف المسبق): بالاستفادة من هيمنة القطر الكتلي للصفوف في مصفوفة "هيسيان" الخاصة بـ Transformer، يقرب Nora التكييف المسبق المهيكل لـ Muon. بدلاً من تكرارات Newton-Schlez المكلفة، فإنه يطبق مكيّفاً قطرياً على الزخم المسقط. جبرياً، يتبسط هذا إلى توحيد بسيط لـ $\ell_2$ على مستوى الصف:
   $$d_t = \text{RN}(v_t^{\perp}) \implies d_{t,i:} = \frac{v_{t,i:}^{\perp}}{\|v_{t,i:}^{\perp}\|_2}$$
   تحقق هذه الخطوة كفاءة التكييف المسبق الشبيهة بـ Muon مع الحفاظ على التعامد الذي أرساه الإسقاط.

3. التحديث: يتم تحديث الأوزان باستخدام الاتجاه الموحد $d_t$ مع معدل تعلم $\eta_t$.

الأسس النظرية

• القابلية للتوسع: باستخدام إطار عمل "البارامتريّة القصوى للتحديث" ($\mu$P)، يثبت المؤلفون أنه لكي يحقق Nora تعلماً مستقراً للميزات مع زيادة عرض الشبكة $n \to \infty$، يجب أن يتناسب معدل التعلم كـ $\eta_t \propto 1/\sqrt{n}$.
• التقارب: تقدم الورقة ضمانات تقارب صارمة لمشاهد التحسين غير المتصلة (non-convex). حيث تثبت أن Nora يصل إلى نقطة ثابتة بمستوى $\epsilon$ بتعقيد قدره $O(m L \sigma^2 \Delta \epsilon^{-4})$ تحت افتراضات السلاسة من نوع $(\infty, 2)$.
• التنفيذ: يتطلب جوهر المنطق سطرين فقط من الكود القائم على المصفوفات، مما يجعله وحدة جاهزة للعمل (plug-and-play) ومتوافقة مع الأطر الحالية.

المساهمات الرئيسية

1. تصميم مبتكر للمحسن: تقديم Nora، الذي يوحد تقدير التكييف المسبق الفعال، والاستقرار عبر احترام ثبات المقياس، والسرعة الحوسبية العالية.
2. الصرامة النظرية: إثبات أن Nora محسن قابل للتوسع مع اشتقاق قوانين القياس ($\eta \propto 1/\sqrt{n}$) وضمانات التقارب لغير المتصل.
3. التحقق التجريبي: تُظهر التجارب المكثفة لتدريب نماذج من طراز LLaMA (بـ 60 مليون و135 مليون معلمة) أن Nora يتفوق على Muon وMano وRMNP في كل من سرعة التقارب ووقت التنفيذ الفعلي (wall-clock time).

النتائج التجريبية

قيم المؤلفون Nora على مهام نمذجة اللغة ذاتية الانحدار عبر معدلات تعلم وأحجام نماذج مختلفة:

• الأداء: في نموذج 135 مليون معلمة، حقق Nora أدنى خسارة تحقق (3.079) وأقل درجة تشتت (perplexity) (21.74) بين جميع المحسنات التي تمت مقارنتها (Muon: 3.142/23.17; Mano: 3.097/22.13; RMNP: 3.112/22.46).
• ديناميكيات التدريب: بينما أظهر RMNP أداءً قوياً في المراحل الأولى، إلا أنه وصل إلى مرحلة الثبات (plateau). بدأ Nora بخسارة أولية أعلى ولكنه استمر في التحسن في مراحل متأخرة من التدريب، متجاوزاً الطرق الأخرى للوصوت إلى أفضل المقاييس النهائية.
• الكفاءة: أظهرت اختبارات وقت التشغيل على أشكال مصفوفات تمثيلية (مثل مصفوفات MLP بمقياس 1 مليار) أن توحيد الصفوف في Nora أسرع بنحو 70 مرة من عملية تعامد Newton-Schulz المكونة من 5 خطوات المستخدمة في Muon.
• الدراسة الاستقصائية (Ablation): أكدت المقارنات مع Mano (طريقة مشابهة للإسقاط الصفي/العمودي) أن تفوق Nora ينبع من اعتماده المحدد على هيمنة القطر الكتلي للصفوف وهيكليته المبسطة، وليس من ضبط المعلمات الفائقة أو إعدادات اضمحلال الوزن (weight decay).

الأهمية والادعاءات

تزعم الورقة أن Nora يثبت إمكانية توحيد الكفاءة، والاستقرار، والسرعة من خلال مبدأ هندسي صفي بسيط. ومن خلال تثبيت معايير الأوزان والسرعات الزاوية بدقة مع تقريب التكييف المسبق المهيكل، يقدم Nora "اتجاهاً عملياً ومبدئياً لتصميم المحسنات القابلة للتوسع". ويؤكد المؤلفون أن Nora يحقق كفاءة بيانات عالية المستوى دون التكاليف الحوسبية الباهظة للتعامد الكامل للمصفوفات، مما يجعله مرشحاً واعداً جداً لتدريب النماذج اللغوية الكبيرة واسعة النطاق.