🤖 machine learning

Pro-KLShampoo: Projected KL-Shampoo with Whitening Recovered by Orthogonalization

يُعد Pro-KLShampoo مُحسِّناً مبتكراً يعزز KL-Shampoo من خلال استغلال بنية القيم الذاتية "النبضية-المسطحة" (spike-and-flat) لمُهيئات مسبقة خاصة به، وذلك عبر الجمع بين التتبع الطيفي الكامل في فضاء جزئي منخفض الأبعاد والتعامد في الاتجاهات المتبقية، مما يحقق أداءً فائقاً في خسارة التحقق، وكفاءة الذاكرة، وسرعة التدريب عبر مقاييس متعددة للنماذج اللغوية الكبيرة (LLM).

المؤلفون الأصليون: Ruotong Sun, Ermin Wei

نُشر 2026-05-08

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ruotong Sun, Ermin Wei

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت ضخم ومعقد (نموذج لغوي كبير) كيف يتحدث اللغة البشرية. للقيام بذلك، تعرضه لملايين الأمثلة وتتركه يرتكب الأخطاء. في كل مرة يرتكب فيها خطأً، تعطيه "دفعة" (تدرج/gradient) لتصحيح مساره.

المشكلة هي أن هذه الدفعات غير منظمة. أحياناً، يحتاج الروبوت إلى دفعة صغيرة ودقيقة في اتجاه ما، ودفعة هائلة في اتجاه آخر. إذا كنت تدفعه بشكل عشوائي فقط، فسيتعلم ببطء. لكي يتعلم بسرعة، تحتاج إلى "مُهيئ" (preconditioner) ذكي — أداة تعيد تشكيل هذه الدفعات لتكون متوازنة وفعالة تماماً.

هناك أداتان شائعتان لهذه المهمة، هما KL-Shampoo و Muon:

KL-Shampoo يشبه النحات الماهر. يحاول نحت الشكل المثالي لكل دفعة على حدة. إنه دقيق جداً ولكنه يتطلب الكثير من الجهد الشاق (القدرة الحسابية والذاكرة) لحساب شكل كل قطعة من قطع اللغز.
Muon يشبه لاعب الجمباز. هو لا يحاول إعادة تشكيل كل قطعة؛ بل يقوم فقط بتعديل استقامة زخم الدفعات، مما يجعل حركتها تسير في مسار نظيف ومتعامد (orthogonal). إنه سريع وخفيف، لكنه قد يفتقد بعض التفاصيل الدقيقة التي يلتقطها النحات.

الاكتشاف الكبير: نمط "القمة والسهل"
نظر مؤلفو هذه الورقة البحثية عن كثب إلى عمل "النحات" (مُهيئ KL-Shampoo) ولاحظوا نمطاً غريباً وجميلاً. وجدوا أن "أشكال الدفعات" ليست عشوائية. بدلاً من ذلك، تبدو مثل منظر طبيعي مكون من قمة وسهل:

القمة (The Spike): عدد قليل من الاتجاهات لها قيم ضخمة ومهيمنة (مثل بعض الجبال العالية).
السهل (The Flat): بقية الاتجاهات كلها متساوية الارتفاع تقريباً (مثل سهل واسع ومستوٍ).

يحدث هذا عبر جميع طبقات دماغ الروبوت، من الطبقة الأولى إلى الأخيرة. الأمر كما لو أن الروبوت يهتم فقط ببعض الاتجاهات المحددة، بينما في أي مكان آخر، لا يوجد سوى "ضجيج" مسطح.

الحل: Pro-KLShampoo
قام المؤلفون ببناء مُحسّن جديد يسمى Pro-KLShampoo (Projected KL-Shampoo). فكر فيه كأداة هجينة تجمع بين أفضل ما في العالمين باستخدام اكتشاف "القمة والسهل".

إليك كيف يعمل، باستخدام تشبيه بسيط:

"ردهة كبار الشخصيات" (الفضاء الفرعي - The Subspace):
تحدد الخوارزمية اتجاهات "القمة" — تلك الجبال القليلة المهمة. تضع هذه الاتجاهات في "ردهة خاصة لكبار الشخصيات" (فضاء فرعي يتم تتبعه). داخل هذه الردهة، تستخدم أداة النحت الثقيلة والدقيقة (KL-Shampoo) للحصول على الشكل المثالي لهذه الاتجاهات الحرجة القليلة. إنها لا تضيع وقتها في نحت البقية.
"الحقل المفتوح" (المتمم - The Complement):
بالنسبة للاتجاهات "السهلة" (بقية المشهد)، تتوقف الخوارزمية عن محاولة نحت كل حصاة صغيرة. بدلاً من ذلك، تستخدم خدعة ذكية تسمى "التعامد" (Orthogonalization) (مستعارة من أداة Muon).
- الخدعة السحرية: أثبت المؤلفون رياضياً أنه إذا قمت فقط بـ "تعديل استقامة" (orthogonalize) الدفعات في هذه المنطقة المسطحة، فإنك ستستعيد سحرياً نفس النتيجة الجبرية كما لو كنت قد قمت بعملية النحت الثقيلة هناك. الأمر يشبه إدراكك أنه بالنسبة لحقل مسطح، لا تحتاج إلى خريطة؛ بل تحتاج فقط إلى السير في خط مستقيم، وستصل إلى نفس المكان تماماً كما لو كنت قد حسبت كل إحداثي.

لماذا هذا أفضل؟

السرعة: من خلال تجاهل النحت الثقيل للأجزاء "السهلة" والاكتفاء بتعديل استقامتها، تعمل الخوارزمية بشكل أسرع بك كثيراً. إنها توفر الكثير من الوقت في "وقت التنفيذ الفعلي" (wallclock time).
الذاكرة: لا تحتاج لتخزين الأشكال المعقدة والضخمة للأجزاء المسطحة. فهي تخزن فقط الأشكال الصغيرة الخاصة بـ "كبار الشخصيات" ورقم واحد فقط للبقية. هذا يوفر الكثير من ذاكرة الكمبيوتر.
الأداء: في الاختبارات على أحجام مختلفة من الروبوتات (GPT-2 و LLaMA)، تعلمت Pro-KLShampoo بشكل أسرع ووصلت إلى معدل خطأ أقل من KL-Shampoo الأصلي، مع استخدام ذاكرة أقل.

باخت de المختصر
تقول الورقة البحثية: "لقد وجدنا أن الرياضيات المعقدة وراء تدريب الذكاء الاصطنا الحديث لها نمط بسيط: قلة من القمم الكبيرة وذيل مسطح. لقد بنينا أداة جديدة تعامل القمم بعناية فائقة، وتعامل الذيل المسطح بخدعة بسيطة وسريعة. هذه الخدعة تعمل بنفس كفاءة الرياضيات الصعبة، لكنها أسرع وأقل تكلفة في التشغيل."

النتيجة هي طريقة أذكى وأسرع لتدريب نماذج الذكاء الاصطنا توفر الوقت وموارد الكمبيوتر دون التضحية بالجودة.

ملخص تقني: Pro-KLShampoo

بيان المشكلة

تعتمد مرحلة ما قبل التدريب (pre-training) للنماذج اللغوية الكبيرة (LLM) الحديثة بشكل كبير على المحسنات (optimizers) التي تستغل البنية المصفوفية للتدرجات. وقد ظهر جبهتان متميزتان:

التمهيد المسبق القائم على عامل كرونيكر الصريح (Explicit Kronecker-factored preconditioning): متمثلاً في KL-Shampoo، الذي يقدر الممهد (preconditioner) عن طريق تقليل تباعد كولباك - ليبلر (KL divergence) بين تغاير التدرج الحقيقي وتقريب ذو بنية كرونيكر.
تعامد زخم التدرج (Orthogonalization of gradient momentum): متمثلاً في Muon، الذي يعمل على تعامد الزخم لتحقيق الهبوط الأشد حدة تحت المعيار الطيفي (spectral norm).

عادة ما يتم تطوير هذه النهج بشكل منعزل. وبينما يوفر KL-Shampoo أساساً نظرياً قوياً عبر تقليل تباعد KL، فإنه يتكبد تكاليف حسابية وذاكرة عالية بسبب الاحتفاظ بعوامل كرونيكر الكاملة. وفي المقابل، فإن طرق التعامد مثل Muon فعالة ولكنها تعمل ضمن إطار هندسي مختلف (الهبوط الأشد حدة تحت المعيار الطيفي) دون منظور تقدير KL. تعالج الورقة البحثية الحاجة إلى توحيد هذه النهج لتحقيق الكفاءة الإحصائية لـ KL-Shampoo مع الكفاءة الحسابية لطرق التعامد.

المنهجية: Pro-KLShampoo

يقترح المؤلفون Pro-KLShampoo (التمهيد المسبق لـ KL-Shampoo المسقط مع استعادة التبييض عبر التعامد). ينبع الابتكار الجوهري من ملاحظة بنيوية لممهدات KL-Shampoo: حيث تُظهر أطياف قيمها الذاتية (eigenvalue spectra) شكلاً من نوع "النبضة والمنبسط" (spike-and-flat). يتكون هذا الشكل من عدد قليل من القيم الذاتية المهيمنة (النبضة/spike) يتبعها ذيل منتظم تقريباً (المنبسط/flat). لوحظ هذا الهيكل تجريبياً عبر الطبقات ومراحل التدريب، وهو دقيق نظرياً في ظل نموذج تدرج "إشارة زائد ضجيج" من الرتبة $\rho$ .

1. التقييد البنيوي (Structural Restriction)

يقوم Pro-KLShampoo بتقييد أحد عوامل كرونيكر لـ KL-Shampoo (تحديداً العامل الأيمن $R$ للطبقات المستطيلة حيث $m \le n$ ) إلى عائلة معلمية (parametric family) متوافقة مع بنية "النبضة والمنبسط":

الفضاء الجزئي المسقط ( $r$ -dimensional): يحتفظ الممهد بالبنية الطيفية الكاملة على فضاء جزئي يتم تتبعه بواسطة $U \in \text{St}(n, r)$ .
الفضاء المكمل ( $n-r$ أبعاد): يتم دمج الاتجاهات المتبقية في قيمة ذاتية مشتركة واحدة $\mu_\perp$ .

يقلل هذا التقييد من تخزين العامل الأيمن من $O(n^2)$ إلى $O(nr) $ومن تكلفة تحليل QR من$ O(n^3) $إلى$ O(r^3)$.

2. الاستعادة عبر التعامد (Recovery via Orthogonalization)

إن التقييد الساذج إلى ذيل قياسي (scalar tail) يؤدي إلى فقدان المعلومات إذا لم يكن الذيل منتظماً تماماً. لاستعادة الشكل الجبري لممهد KL-Shampoo الكامل على الفضاء المكمل، يطبق Pro-KLShampoo التعامد (التحليل القطبي/polar decomposition) على مكون التدرج المكمل.

قاعدة التحديث هي:
$\Delta W = -\alpha_{kl} L^{-1/2} G U S^{-1/2} U^\top - c_a \text{polar}\left(\mu_\perp^{-1/2} L^{-1/2} G P_\perp\right)$
حيث أن:

الحد الأول يمثل تحديث KL-Shampoo الكامل ضمن الفضاء الجزئي المتتبع.
الحد الثاني يطبق التعامد على المكمل.
يثبت المؤلفون هوية (المعادلة 12) تُظهر أن هذا التعامد يستعيد الشكل الجبري لتبييض (whitening) كل اتجاه في KL-Shampoo الكامل، مما يربط فعلياً بين التعامد بأسلوب Muon وإطار تقدير KL.

3. تتبع الفضاء الجزئي (Subspace Tracking)

يتم تحديد الفضاء الجزئي الأمثل $U$ كفضاء ذاتي للمصفوفة $\Phi_L = E[G^\top L^{-1} G]$ . وتحت فرضية "النبضة والمنبسط"، يكون الفضاء الذاتي العلوي- $r$ لـ $\Phi_L$ هو الخيار الأمثل. يتتبع الخوارزمية هذا الفضاء باستخدام خطوة واحدة من تكرار القدرة (power iteration) (عبر تحليل QR) على تقدير جارٍ لـ $\Phi_L$ .

المساهمات الرئيسية

الملاحظة البنيوية والتقييد المعلمي: تحدد الورقة بنية القيم الذاتية "النبضة والمنبسط" في ممهدات KL-Shampoo (وهي بنية قوية تجريبياً ودقيقة نظرياً تحت نماذج التدرج منخفضة الرتبة) وتستغل ذلك عبر تقييد هدف KL إلى عائلة معلمية.
الاستعادة الجبرية عبر التعامد: تثبت الورقة أن تطبيق التعامد على الفضاء المكمل يستعيد الشكل الجبري لممهد KL-Shampoo الكامل. وهذا يوفر جسراً نظرياً بين التعامد بأسلوب Muon وتقدير KL.
ضمان التقارب: يقدم المؤلفون ضمان تقارب غير متصل (non-convex) بمعدل $O(1/\sqrt{T})$ للخوارزمية المثالية تحت نعومة المعيار العملياتي (operator-norm smoothness).
الأداء التجريبي: تُظهر التقييمات المكثفة على نماذج GPT-2 (124M/350M) و LLaMA (134M/450M) أن Pro-KLShampoo يتفوق باستمرار على KL-Shampoo في خسارة التحقق (validation loss)، وذروة الذاكرة لكل وحدة GPU، ووقت ساعة الحائط (wallclock time) للوصول إلى مستويات الخسارة المتطابقة عبر جميع الرتب المختبرة ( $r \in \{32, 64, 128\}$ ).

النتائج التجريبية

قيم المؤلفون Pro-KLShampoo مقابل AdamW و Muon و KL-Shampoo في أربعة تكوينات لما قبل التدريب.

خسارة التحقق: حقق Pro-KLShampoo أدنى خسارة تحقق عند كل رتبة مختبرة عبر جميع أحجام النماذج.
كفاءة الذاكرة: كانت ذروة استخدام الذاكرة لكل وحدة GPU أقل من KL-Shampoo ومقاربة لـ Muon.
وقت ساعة الحائط: وصل Pro-KLShampoo إلى مستويات خسارة تحقق محددة بشكل أسرع من KL-Shampoo.
- في GPT-2، كان التسريع مدفوعاً بشكل أساسي بتقليل وقت الخطوة الواحدة (استبدال $O(n^3)$ بـ $O(r^3)$ ).
- في LLaMA، كان التسريع مدفوعاً بسرعة التقارب (منحنيات خسارة التدريب الأدنى)، بالإضافة إلى كفاءة الخطوة الواحدة.
دراسات الاستئصال (Ablation Studies):
- أدى إزالة التعامد (نسخة Smok-Hop) إلى تدهور الأداء، خاصة في المقاييس الأكبر (LLaMA 450M)، مما يؤكد ضرورة التعامد لاستعادة التبييض لكل اتجاه.
- لم تضاهِ كل من نسخ "الفضاء الجزئي فقط" أو "المكمل فقط" أداء Pro-KLShampoo الكامل، مما يشير إلى أن كلا المكونين ضروريان.

الأهمية والادعاءات

تدعي الورقة أن Pro-KLShampoo ينجح في توحيد جبهتين من جبهات التحسين التي كانت معزولة سابقاً. ومن خلال الاستفادة من البنية الجوهرية "النبضة والمنبسط" لتغايرات التدرج، فإنه يحقق الكفاءة الإحصائية لـ KL-Shampoo مع استخدام التعامد للحفاظ على الكفاءة الحسابية.

يؤكد المؤلفون أن استبدال تحديث الذيل القياسي بالتعامد ليس مجرد عملية تجريبية (heuristic) بل هو استعادة جبرية لشكل KL-Shampoo الكامل. وهذا يسمح للطريقة بالاحتفاظ بفوائد التمهيد القائم على KL (مثل قوة حجم الخطوة) مع تقليل العبء الحسابي المرتبط بصيانة عامل كرونيكر الكامل بشكل كبير. ويشير العمل إلى أن البنية الطيفية منخفضة الأبعاد منتشرة في تحسين الشبكات العميقة ويمكن استغلالها بفعالية لتصميم محسنات أكثر كفاءة لتدريب النماذج اللغوية الكبيرة.

تظل الورقة متواضعة فيما يتعلق بالقيود، مشيرة إلى أن الرتبة $r$ يتم ضبطها تجريبياً، وأن هناك حاجة لعمل مستقبلي من أجل المعايرة التكيفية لكل طبقة لوزن الخلط $\alpha_{kl}$ وتحليل التقارب للنسخة العملية التي تتضمن تكرارات Newton-Schulz وزخم Nesterov.