🤖 machine learning

Approximate Muon with low-rank adapters

تقدم هذه الورقة البحثية sMuon، وهي طريقة فعالة تقرب مُحسّن Muon لضبط المعلمات بكفاءة منخفضة الرتبة عبر خطية الهدف وحله عن طريق المربعات الصغرى، مما يتيح فوائد أداء Muon في إعدادات مثل الضبط الدقيق الموجه (SFT) والتدريب المسبق باستخدام ReLoRA حيث كان غير متوافق سابقاً مع LoRA.

المؤلفون الأصليون: Ben Anson, Conor Houghton, Edward Milsom

نُشر 2026-08-17

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC0 1.0

المؤلفون الأصليون: Ben Anson, Conor Houghton, Edward Milsom

البحث الأصلي مُهدى إلى الملك العام بموجب CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت عملاق فائق الذكاء مهارة جديدة، مثل كتابة الشعر أو حل المسائل الرياضية. أنت لا تريد إعادة تدريب عقل الروبوت بالكامل من الصفر لأن ذلك يستغرق وقتاً طويلاً ويكلف ثروة. بدلاً من ذلك، تريد إرفاق "وحدة تدريب" صغيرة وخفيفة الوزن بعقله الموجود بالفعل. يُسمى هذا الضبط الدقيق الفعال للمعلمات (PEFT). فكر في الأمر كأنك تضع سماعة رأس متخصصة على روبوت متعدد الأغراض؛ السماعة تعلمه الحيلة الجديدة دون تغيير الأجهزة الأساسية للروبوت.

إحدى الطرق الشائعة لبناء هذه السماعات هي LoRA (التكيف منخفض الرتبة). إنها تشبه بناء سماعة الرأس من ورقتين رقيقتين ومسطحتين، وعند وضعهما فوق بعضهما البعض، تشكلان شكل المهارة الجديدة. لتعليم الروبوت، نحتاج إلى مُحسِّن (optimizer) — وهو مدرب رياضي يخبر السماعة بكيفية تعديل شكلها لتصبح أفضل. المدرب الأكثر شيوعاً هو AdamW، ولكن هناك مدرب جديد وأكثر قوة يسمى Muon. يشتهر Muon بكونه فعالاً للغاية عند التدريب المسبق (تعليم الروبوت دروسه الأولى من الصفر). فهو يعمل من خلال التأكد من أن تحديثات عقل الروبوت تحدث بطريقة متوازنة تماماً و"متعامدة" (orthogonal)، مثل راقص يدور بشكل مثالي على قدم واحدة دون ترنح.

ومع ذلك، هناك مشكلة. عندما تحاول استخدام Muon لتدريب سماعة LoRA الصغيرة، تنهار الرياضيات. يريد Muon موازنة الطبقة بأكملها لعقل الروبوت، لكن سماعة LoRA ليست سوى شريحة صغيرة ومنخفضة الرتبة من تلك الطبقة. الأمر يشبه محاولة استخدام عصا قائد الأوركسترا لتوجيه عازف كمان واحد بطريقة منطقية للأوركسترا بأكملها؛ الهندسة ببساض لا تتناسب. الحل البديل القياسي كان تجاهل الأوركسترا وإخبار عازف الكمان فقط بأن يدور حول نفسه، لكن هذا يفقدنا سحر Muon. تسأل هذه الورقة البحثية: هل يمكننا إيجاد طريقة لجعل Muon يعمل مع هذه السماعات الصغيرة دون كسر الرياضيات أو إبطاء العملية؟

يقول المؤلفون، بن أنسون، كونور هوتون، وإدوارد ميلسوم، نعم. لقد قدموا طريقة جديدة تسمى sMuon (Muon الصغير). بدلاً من محاولة فرض المستحيل، استخدموا حيلة رياضية ذكية: لقد قاموا بـ "خطيّة" (linearize) المشكلة. تخيل أنك تحاول السير على حبل مشدود بينما تحمل مظلة ضخمة ومتمايلة. بدلاً من محاولة موازنة المظلة بأكملها في وقت واحد، تتظاهر بأن المظلة مجرد عصا مستقيمة للحظة وجيزة، تحسب الخطوة المثالية، ثم تعدل وضعيتك. من خلال القيام بذلك، وجدوا أفضل طريقة لتحديث سماعة LoRA التي تقرب (approximates) رقصة Muon المثالية.

وجدت الورقة أن طريقة sMuon الجديدة تعمل بشكل جيد بشكل مفاجئ. فعندما اختبروها على نماذج لغوية مختلفة، تفوق sMuon غالباً على مدرب AdamW القياسي ومحاولات Muon الأخرى. كان أداؤه مثيراً للإعجاب بشكل خاص عند استخدامه على روبوت تم تدريبه مسبقاً باستخدام Muon (يسمى Moonlight)، حيث حقق sMuon أعلى الدرجات في ست من أصل إحدى عشرة مهمة مختلفة. وفي تجربة تدريب مسبق، تساوى sMuon مع أفضل النتائج في خفض معدل الخطأ، لكنه فعل ذلك أسرع بنسبة 30% من منافسه الأقرب، وهي طريقة تسمى Riemannian.

الأهم من ذلك، يوضح المؤلفون أن طريقتهم ليست مجرد فكرة نظرية؛ بل هي عملية أيضاً. فبينما تتطلب الطرق المتقدمة الأخرى حسابات ثقيلة وبطيئة (مثل تفكيك وإعادة تجميع المصفوفات المعقدة)، يعتمد sMuon بشكل شبه كامل على عمليات ضرب المصفوفات البسيطة — وهي نوع الرياضيات التي بُنيت عليها رقائق الكمبيوتر الحديثة للعمل بسرعة البرق. وهذا يعني أن sMuon سريع بما يكفي لاستخدامه في التدريب الواقعي دون إبطاء العملية. تشير الورقة إلى أنه من خلال احترام هندسة الطبقة بأكملها بدلاً من معاملة أجزاء LoRA كقطع منفصلة وغير مرتبطة، يمكننا الحصول على دفعة كبيرة في الأداء بتكلفة إضافية ضئيلة جداً. إنه تذكير بأنه في بعض الأحيان، أفضل طريقة لتعليم روبوت عملاق حيلة جديدة هي إعطاؤه دفعة صغيرة، ذكية، وأنيقة رياضياً.

=== ملخص تقني: تقريب Muon باستخدام المهايئات منخفضة الرتبة (sMuon)

بيان المشكلة

أظهر مُحسّن Muon أداءً فائقًا في التدريب المسبق للنماذج اللغوية الكبيرة (LLMs) من خلال تعامد تحديثات الأوزان عند كل طبقة، مما يؤدي فعليًا إلى مساواة القيم المفردة. يتوافق هذا السلوك مع التدرج الأشد انحدارًا تحت المعيار الطيفي (spectral norm)، مما يتحكم في أسوأ تغيير للطبقة كعامل خطي بدلاً من متجه مسطح. ومع ذلك، نادرًا ما يُستخدم Muon في الضبط الدقيق الفعال للمعلمات (PEFT)، لا سيية مع التكيف منخفض الرتبة (LoRA).

العائق الرياضي الجوهري هو أن Muon يتطلب تعامد خطوة التدرج لـ كامل مصفوفة الأوزان في الطبقة. في إعداد LoRA، حيث يتم تقييد تحديث الوزن عبر بارامترية منخفضة الرتبة $\Delta W = BA$ (حيث $B \in \mathbb{R}^{d_1 \times r}$ و $A \in \mathbb{R}^{r \times d_2}$ )، فإنه من المستحيل رياضيًا بشكل عام إيجاد تحديثات $\delta B$ و $\delta A$ بحيث تتطابق $\delta \Delta W$ الناتجة تمامًا مع التدرج كامل الرتبة المعامد المطلوب بواسطة Muon.

تشمل الحلول البديلة الحالية:

Per-factor Muon: تعامد $B$ و $A$ بشكل منفصل، مما يتجاهل هندسة الطبقة الكاملة.
LoRA-Muon: تخفيف الهدف باستخدام متباينة المثلث.
Riemannion: صياغة المشكلة كتحسين ريماني (Riemannian optimization) على منوع منخفض الرتبة (low-rank manifold)، وهو ما يتطلب عمليات تفكيك القيم المفردة (SVD) مبتورة ومكلفة أثناء خطوة الارتداد (retraction step)، مما يؤدي إلى عبء حسابي كبير.

المنهجية

يقترح المؤلفون sMuon (Muon الصغير)، وهو أسلوب يقرب الحل لهدف Muon المخفف ضمن إطار الرتبة المنخفضة. يعتمد النهج على الخطية وتحسين المربعات الصغرى لإيجاد خطوة التدرج المثلى.

1. الخطية وصياغة المربعات الصغرى

الهدف هو إيجاد التحديثات $\delta B, \delta A$ بحيث تقرب التحديث الضمني $\delta \Delta W \approx \delta B A + B \delta A$ خطوة Muon المثالية $\delta \Delta W^* = -\eta \cdot \text{msign}(G_{\Delta W})$ ، حيث $\text{msign}(X) = UV^\top$ هو عامل القطبية (polar factor) لـ SVD.

بما أن الخطوة المثالية تكون عمومًا كاملة الرتبة ولا يمكن تحقيقها بدقة بواسطة العوامل منخفضة الرتبة، فقد قام المؤلفون بخطية المشكلة عبر إسقاط الحدود من الدرجة الثانية ( $\delta B \delta A$ ) وحل مشكلة المربعات الصغرى:
$(\delta B^*, \delta A^*) = \arg \min_{\delta B, \delta A} \| \delta \Delta W^* - (\delta B A + B \delta A) \|_F^2$
هذا ينتج حلاً مغلق الصيغة يتضمن معكوس مور-بينروز ( $B^\dagger, A^\dagger$ ). ومن المهم أن المؤلفين يوضحون أن التحديث الأمثل ليس فريدًا من حيث العوامل $(\delta B, \delta A)$ ، ولكن التغيير الأول من الدرجة للطبقة الكاملة $\delta \Delta W$ يكون فريدًا.

2. حساب فعال يعتمد فقط على ضرب المصفوفات (Matmul-Only)

تتطلب التنفيذ المباشر للحل مغلق الصيغة تعامد مصفوفة كبيرة $d_1 \times d_2$ ، وهو أمر مكلف حسابيًا. لمعالجة ذلك، اشتق المؤلفون صيغة فعالة (الخوارزمية 2) تتجنب عملية التعامد الصريحة للمصفوفة الكبيرة:

التدرج منخفض الرتبة: بدلاً من استخدام التدرج الكامل $G_{\Delta W}$ ، يستخدمون إسقاطًا منخفض الرتبة $H = P_B G_{\Delta W} + (I-P_B)G_{\Delta W} P_A$ ، وهو مكافئ من الدرجة الأولى لهدف التحسين.
تقليل الأبعاد: يستغلون المتطابقة $\text{msign}(H) = U \text{msign}(U^\top H V) V^\top$ ، حيث $U$ و $V$ هما قواعد متعامدة تشغل الفضاءات العمودية والصفية لـ $H$ . بما أن $H$ لها رتبة لا تتجاوز $2r$ ، فإن هذا يقلل من عملية التعامد المكلفة من $d_1 \times d_2$ إلى $2r \times 2r$ .
التنفيذ: تعتمد الخوارزمية بأكملها حصريًا على عمليات ضرب المصفوفات، وجذور المصفوفة التربيعية العكسية، وتفكيكات القطبية لمصفوفات صغيرة بحجم $r \times r$ أو $2r \times 2r$ . هذا يتجنب العبء الناتج عن عمليات QR و SVD المطلوبة في Riemannion.

3. التفاصيل الخوارزمية

يتضمن مُحسّن sMuon ما يلي:

تلاشي الوزن المنقسم (Split Weight Decay): لمطابقة ديناميكيات تدريب المعلمات الكاملة، يتم تطبيق تلاشي الوزن عبر عامل قياس $s = \sqrt{1-\lambda\eta}$ على العوامل $A$ و $B$ قبل تحديث التدرج.
نقل الزخم (Momentum Transport): لضمان ثبات البارامترية (أي أن يعمل المُحسّن باتساق بغض النظر عن التفكيك المحدد $B, A$ )، يتم إسقاط مخازن الزخم (momentum buffers) على فضاءات العوامل الحالية في كل خطوة.

المساهمات الرئيسية

اشتقاق sMuon: طريقة مغلقة الصيغة لتدريب مهايئات LoRA باستخدام Muon عبر أخذ تقريب من الدرجة الأولى لهدف التدرج المنظم بالمعيار الطيفي.
تنفيذ فعال: خوارزمية تعتمد فقط على ضرب المصفوفات (matmul-only)، وهي فعالة حسابيًا للأجهزة الحديثة، وتتجنب عمليات التفكيك المكلفة. توفر سرعة مقاربة لـ Per-factor Muon و LoRA-Muon، بينما هي أسرع بكثير من Riemannion، خاصة بالنسبة لرتب LoRA الكبيرة.
التقييم التجريبي: تجارب واسعة النطاق عبر أربعة نماذج أساسية (بما في ذلك نموذج واحد تم تدريبه مسبقًا باستخدام Muon وثلاثة نماتدربة باستخدام AdamW) وإحدى عشرة معيارًا (للفهم العام والبرمجة).

النتائج

يسجل البحث النتائج التالية:

الأداء: يعمل sMuon بشكل جيد عبر معايير SFT. ورغم أن النتائج تعتمد على النموذج، حقق sMuon أفضل دقة في ست من أصل أحد عشر مهمة عند الضبط الدقيق لنموذج Moonlight-16B-A3B (الذي تم تدريبه مسبقًا باستخدام Muon). وهو يتفوق عمومًا على AdamW و Per-factor Muon.
التدريب المسبق بـ ReLoRA: في إعداد التدريب المسبق باستخدام ReLoRA (دمج وتجديد المهايئات دوريًا)، حقق sMuon أدنى خسارة تحقق نهائية، متعادلًا مع Riemannion ولكنه كان أسرع بنسبة 30% تقريبًا.
الخصائص الطيفية: يظهر التحليل التجريبي لأطياف تحديث الأوزان أن sMuon يحتفظ بطيف أكثر انتظامًا (أقرب إلى سلوك Muon المثالي) مقارنة بـ Per-factor Muon و LoRA-Muon.
الكفاءة: يوضح الجدول 4 أنه بينما يعد sMuon أبطأ قليلاً من AdamW، إلا أنه أسرع بكثير من Riemannion. بالنسبة لرتبة $r=64$ ، يضيف Riemannion حوالي 33% من العبء الإضافي لوقت الخطوة، بينما يضيف sMuon حوالي 0.8% فقط.

الأهمية والادعاءات

يزعم البحث أن sMuon يوفر طريقة مبدئية، فعالة في الذاكرة، وقابلة للتنفيذ حسابيًا لتطبيق تحسين Muon على المهايئات منخفضة الرتبة. من خلال احترام هندسة الطبقة الكاملة بدلاً من معاملة عوامل LoRA كمصفوفات مستقلة، يحقق sMuon تحسينات متوسطة في الأداء، خاصة عندما يكون النموذج الأساسي مدربًا أيضًا باستخدام Muon. يؤكد المؤلفون أن طريقتهم تتجنب "القيود المنامية المكلفة" لـ Riemannian optimization دون التضحية بالأداء، مما يجعل الضبط الدقيق القائم على Muon أكثر سهولة للتطبيقات العملية.

يظل المؤلفون متواضعين، مشيرين إلى أن النتائج "تعتمد على النموذج والتقييم"، وأن المساهمة الأساسية هي تقريب نظيف وفعال يسد الفجوة بين الفوائد النظرية لـ Muon والقيود العملية لـ PEFT.