🤖 machine learning

Accelerating Zeroth-Order Spectral Optimization with Partial Orthogonalization from Power Iteration

تقترح هذه الورقة البحثية ZO-MOPI، وهي طريقة تحسين من الدرجة صفر لضبط النماذج اللغوية الكبيرة، تعمل على تسريع التقارب من خلال استبدال التعامد الكامل باستراتيجية تعامد جزئي باستخدام تكرار القدرة والإسقاط الفرعي القائم على الزخم، محققةً تقارباً أسرع بمعدل 1.5 إلى 4 مرات من طريقة ZO-Muon المتطورة مع الحفاظ على دقة تنافسية.

المؤلفون الأصليون: Jiahe Chen, Ziye Ma

نُشر 2026-05-12

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jiahe Chen, Ziye Ma

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الصورة الكبيرة: ضبط راديو عملاق بدون دليل استخدام

تخيل أن لديك راديو ضخم ومعقد (نموذج لغوي كبير أو LLM) يحتوي على مليارات الأزرار. أنت تريد ضبطه ليعزف أغنية محددة بشكل مثالي (ضبطه بدقة لمهمة جديدة).

عادةً، يستخدم المهندسون طريقة "الرتبة الأولى" (First-Order): ينظرون إلى الأزرار، ويشعرون بالاهتزاز، ويعرفون بالضبط الاتجاه الذي يجب تدويره للحصول على صوت أفضل. هذه الطريقة سريعة، لكنها تتطلب غرفة تحكم ضخمة ومكلفة (ذاكرة كمبيوتر كبيرة) لاستيعاب كل التعليمات. إذا كنت تحاول ضبط هذا الراديو على جهاز صغير مثل هاتف ذكي أو كمبيوتر سيارة، فليس لديك هذا القدر من الذاكرة.

تحسين الرتبة الصفرية (Zeroth-Order - ZO) هو الطريقة "العمياء". بدلاً من الشعور بالاهتزاز، أنت فقط تخمن اتجاهاً، وتدور الأزرار، وتستمع لترى ما إذا كانت الموسيقى قد تحسنت أم ساءت. أنت لا تحتاج إلى غرفة التحكم الضخمة، لذا فهو يناسب الأجهزة الصغيرة. ومع ذلك، ولأنك تعتمد على التخمين، فإن العملية بطيئة للغاية ومليئة بالضجيج. الأمر يشبه محاولة العثور على المحطة المثالية عن طريق تدوير القرص عشوائياً والأمل في الوصول إلى التردد الصحيح.

المشكلة: الإشارة "المشوشة"

لاحظ الباحثون أنه بينما توفر هذه الطريقة "العمياء" الذاكرة، إلا أن المعلومات التي تجمعها مشوشة للغاية.

الإشارة الحقيقية: في العالم المثالي، تكون الاتجاهات "الأفضل" لتدوير الأزرار واضحة وقوية (مثل صوت عالٍ ونقي).
واقع الرتبة الصفرية (ZO): بسبب اعتماد الطريقة على التخمين العشوائي، تكون الإشارة مليئة بالتشويش والضجيج. الأمر يشبه محاولة سماع همس وسط إعصار.

كان هناك أداة جديدة تسمى Muon حاولت المساعدة. Muon يشبه مساعداً ذكياً ينظر إلى جميع الأزرار ويقول: "حسناً، دعونا ننظم هذه الاتجاهات حتى لا نهدر الطاقة على الاتجاهات الضعيفة". إنه يحاول جعل جميع الاتجاهات متساوية في القوة.

العقبة: تم تصميم Muon لـ "العالم المثالي" (الرتبة الأولى). وعندما حاول الباحثون استخدامه على بيانات "الرتبة الصفرية" المشوشة، جعل الأمر أسوأ. نظرًا لأن البيانات كانت مليئة بالتشويش، حاول Muon تعزيز كل شيء، بما في ذلك الضجيج. كان الأمر يشبه رفع مستوى الصوت في راديو يبث تشويشاً فقط؛ أصبح الضجيج أعلى من الموسيقى.

الحل: "التعامد الجزئي" (المرشح الانتقائي)

ابتكر المؤلفان، جيا هي تشين وزيي ما، نهجاً جديداً يسمى ZO-MOPI. سر نجاحهم هو التعامد الجزئي (Partial Orthogonalization).

بدلاً من محاولة تنظيم كل اتجاه (والذي يتضمن الاتجاهات المشوشة وغير المفيدة)، قرروا التركيز فقط على أفضل بضعة اتجاهات تكون قوية وواضحة، وتجاهل بقية الضجيج.

فكر في الأمر كالتالي:

الطريقة القديمة (Muon): لديك دلو من الماء الممزوج بالرمل والتراب وغبار الذهب. أنت تحاول فصل كل شيء بدقة، فينتهي بك الأمر بإضاعة الكثير من الوقت في فرز التراب.
الطالطريقة الجديدة (ZO-MOPI): تدرك أن غبار الذهب ثقيل ويترسب في القاع. لذا، تقوم فقط بغرف الطبقة السفلية (الإشارات القوية) وتتجاهل الأوساخ الطافية (الضجيج). وبذلك تحصل على الذهب بشكل أسرع بكثير.

كيف فعلوا ذلك: خدعة "القوة المتدفقة"

لجعل هذا الترشيح الانتقائي يعمل، استخدموا تقنية تسمى تكرار القوة المتدفقة (Streaming Power Iteration - SPI).

تخيل أنك تحاول العثور على أقوى رياح في حقل عاصف.

الطريقة القدة: تقف ثابتاً وتقيس كل هبة ريح، ثم تحاول حساب متوسط الاتجاه. هذا يستغرق وقتاً طويلاً والرياح شديدة الفوضى.
الطريقة الجديدة (SPI): تحمل علماً. أنت تنتبه فقط للهبات التي تدفع العلم بأقصى قوة. تتجاهل النسيم الخفيف الذي لا يكاد يحرك العلم. من خلال التركيز فقط على الدفعات القوية، يمكنك معرفة الاتجاه الذي تهب فيه الرياح حقاً بسرعة.

كما أضافوا ميزة "الزخم" (Momentum). هذا يشبه تذكر الاتجاه الذي كانت تهب فيه الرياح قبل بضع ثوانٍ. حتى لو كانت هبة واحدة مجرد صدفة (ضجيج)، فإن ذاكرتك للهبات السابقة تساعدك على البقاء ثابتاً وعدم الارتباك بسبب الفوضى.

النتائج: ضبط أسرع، بنفس الذاكرة

اختبر الباحثون طريقتهم على نماذج ذكاء اصطناعي ضخمة (مثل OPT-13B و LLaMA3-8B) باستخدام اختبارات لغوية قياسية (SuperGLUE).

السرعة: كانت طريقتهم الجديدة أسرع بـ 1.5 إلى 4 مرات من أفضل طرق الضبط "العمياء" الحالية. لقد وصلت إلى نفس مستوى الدقة في وقت أقل بكثير.
الدقة: انتهت بنفس الجودة النهائية (أو بجودة أفضل قليلاً) مقارنة بالطرق الأخرى.
الذاكرة: حافظت على نفس الاستهلاك المنخفض للذاكرة، مما يعني أنها لا تزال قادرة على العمل على الأجهزة الصغيرة.

الملخص

تقدم الورقة البحثية طريقة أذكى لضبط نماذج الذكاء الاصطناعي على الأجهزة ذات الذاكرة المحدودة. بدلاً من محاولة إصلاح كل تخمين مشوش، يعمل النهج الجديد (ZO-MOPI) كمرشح، حيث يركز فقط على أقوى الإشارات وأكثرها موثوقية ويتجاهل التشويش. هذا يسمح للذكاء الاصطناعي بالتعلم بشكل أسرع دون الحاجة إلى كمبيوتر خارق.

ملخص تقني: تسريع التحسين الطيفي من الدرجة صفر عبر التعامد الجزئي باستخدام تكرار القدرة

بيان المشكلة
برز التحسين من الدرجة الصفرية (Zeroth-Order - ZO) كتقنية حاسمة لضبط أوزان النماذج اللغوية الكبيرة (LLMs) على الأجهزة الطرفية ذات الذاكرة المحدودة، حيث يتجنب عملية الانتشار العكسي (backpropagation) المستهلكة للذاكرة والمطلوبة في طرق الدرجة الأولى (First-Order - FO). ومع ذلك، تعاني طرق الدرجة الصفرية من تباين عالٍ في تقديرات التدرج نتيجة لاضطرابات مونت كارلو، مما يؤدي إلى بطء ملحوظ في التقارب مقارنة بطرق الدرجة الأولى.

ركزت المحاولات الأخيرة لتسريع تحسين الدرجة الصفرية على البحث في فضاءات فرعية منخفضة الأبعاد (مثل LOZO وSubZero) وعلى المحسنات الطيفية مثل Muon، التي تستغل هندسة المصفوفات من خلال التعامد. وبينما يتفوق Muon على AdamW في إعدادات الدرجة الأولى عبر تعامد التدرجات لاستغلال الاتجاهات الطيفية الضعيفة، لاحظ المؤلفون أن تطبيق Muon مباشرة في إعدادات الدرجة الصفرية يعطي مكاسب محدودة. وتكمن المشكلة الجوهرية في أن تقديرات تدرج الدرجة الصفرية هي بطبيعتها ضوضائية وغير موثوقة. فخلافاً لتدرجات الدرجة الأولى، التي تتركز في الاتجاهات المنفردة المهيمنة، تُظهر تقديرات الدرجة الصفرية "ذيلاً طيفياً أكثر ثقلاً وتسطحاً" (الشكل 1). وبناءً على ذلك، فإن عملية تعامد Newton-Schulz (NS) القياسية في Muon، والتي تعمل على موازنة الطاقة عبر الطيف النشط بأكمله، تؤدي دون قصد إلى تضخيم هذه الاتجاهات الضوضائية وغير الدقيقة، مما يحول أخطاء التقدير إلى مكونات تحديث ضارة.

المنهجية: ZO-MOPI
يقترح المؤلفون ZO-MOPI (الزخم من الدرجة الصفرية مع التعامد الجزئي)، وهو منهج مصمم لتسريع تحسين الدرجة الصفرية من خلال استخراج الاتجاهات الطيفية المهيمنة بشكل انتقائي مع كبح الضوضاء. يدمج هذا النهج ثلاثة مكونات رئيسية:

التعامد الجزئي عبر تكرار القدرة المتدفق (Streaming Power Iteration - SPI):
بدلاً من إجراء تعامد كامل الطيف (مثل تكرارات NS)، يستخدم ZO-MOPI استراتيجية "التعامد الجزئي". فهو يركز حصرياً على أعلى $k$ من الاتجاهات المنفردة المهيمنة، مستبعداً الذيل الطيفي الضوضائي.

الآلية: يستبدل المنهج إجراء NS بـ تكرار قدرة متدفق (SPI) أسرع وأكثر تركيزاً. يقوم SPI بتتبع الفضاء الفرعي المهيمن ذي البعد $k$ عبر خطوات التدريب.
الكفاءة: من خلال تخزين الفضاء الفرعي المنفرد الأيمن ( $V_{t-1}$ ) واستخدامه كنقطة انطلاق دافئة (warm start) للتكرار التالي، يتجنب SPI عملية SVD الكاملة أو عمليات ضرب المصفوفات المكلفة. تنخفض التكلفة الحسابية إلى $O(rnk + nk^2)$ ، حيث $k \ll r \ll \min(m, n)$ ، مقارنة بالتكاليف الأعلى لطرق الطيف الكامل.
الاستقرار: يعتمد المنهج على ملاحظة أن الاتجاهات الطيفية المهيمنة تتطور بسلاسة تحت تأثير التنعيم بالزخم، مما يجعل الفضاء الفرعي السابق نقطة تهيئة موثوقة للخطوة الحالية.

تقدير الدرجة الصفرية للفضاء الفرعي:
لتقليل التباين بشكل أكبر، يتم تقييد تقدير التدرج في فضاء فرعي منخفض الرتبة. يتم تفكيك مصفوفة الاضطراب العشوائي $Z$ إلى $AB$ ، حيث $A$ مصفوفة فضاء فرعي ثابت و $B$ اضطراب عشوائي داخل ذلك الفضاء. يقلل هذا من أبعاد البحث الفعالة من $mn $إلى$ rn$، مما يخفض تباين مُقدّر التدرج بشكل كبير.
الزخم المسقط (Projected Momentum):
يتم الحفاظ على الزخم ضمن نظام الإحداثيات المختزل $r \times n$ بدلاً من فضاء المعلمات الكامل لتوفير الذاكرة. المكون الحاسم في هذا المنهج هو إسقاط الزخم عند تجديد الفضاء الفرعي $A$ دورياً (كل $\nu$ من التكرارات). يتم إسقاط الزخم $M_{old}$ على الفضاء الجديد $A_{new}$ عبر $M_{new} \leftarrow A_{new}^\top A_{old} M_{old}$ .

الضرورة: يوضح المؤلفون أن الزخم ليس مجرد وسيلة لتقليل التباين، بل هو ضروري لاستقرار SPI. فبدون الزخم، يتقلب الفضاء الفرعي المهيمن بشكل حاد بسبب تقديرات الدرجة الصفرية الضوضائية، مما يجعل تكرار القدرة غير مستقر.

المساهمات الرئيسية

تحديد عدم التطابق الطيفي: يسلط البحث الضوء على أن التعامد كامل الطيف (Newton-Schulz) يكون ضاراً في إعدادات الدرجة الصفرية لأنه يضخم الضوضاء المتأصلة في تقديرات تدرج الدرجة الصفرية، بينما تتركز تدرجات الدرجة الأولى بشكل طبيعي.
التعامد الجزئي: تقديم استراتيجية تعامد انتقائية تحافظ فقط على المكونات الطيفية الأكثر موثوقية (أعلى $k$ ) وتتجاهل الذيل الضوضائي.
تكرار القدرة المتدفق (SPI): خوارزمية خفيفة وفعالة لتتبع الاتجاهات المنفردة المهيمنة تستفيد من الاستمرارية الزمنية والبدء الدافئ لتجنب الحسابات المكلفة.
تكامل زخم الإسقاط: آلية للحفاظ على استقرار الزخم عبر تجديد الفضاءات الفرعية، والتي ثبتت ضرورتها لاستقرار تتبع الطيف في البيئات الضوضائية.

النتائج التجريبية
قيم المؤلفون ZO-MOPI على مهام ضبط النماذج اللغية الكبيرة (LLM fine-tuning) باستخدام نماذج OPT-13B و LLaMA3-8B و Gemma2-2B عبر اختبارات SuperGLUE (SST-2, RTE, BoolQ, SQuAD).

سرعة التقارب: يحقق ZO-MOPI سرعة تقارب تتراوح بين 1.5 إلى 4 أضعاف مقارنة بأحدث تقنيات ZO-Muon. على سبيل المثال، في مهامي RTE و SQuAD، يتطلب ZO-Muon حوالي 3 أضعاف وقت التشغيل الفعلي للوصًول إلى نفس دقة ZO-MOPI.
الدقة النهائية: يحقق المنهج دقة نهائية تنافسية أو متفوقة مقارنة بالنماذج المرجعية القوية مثل MeZO و LOZO و ZO-Muon. وفي عدة حالات (مثل OPT-13B في SST-2 و RTE)، يحطم ZO-MOPI الأرقام القياسية الجديدة لأفضل دقة في الدرجة الصفرية.
الكفاءة: يحافظ المنهج على كفاءة الذاكرة لضبط الدرجة الصفرية، مع زيادة طفيفة جداً في استهلاك الذاكرة لتخزين الفضاء الفرعي وحالات تكرار القدرة.
الدراسات الاستئصالية (Ablation Studies): تؤكد التجارب أن إزالة الزخم أو استخدام فاصل زمني قصير جداً لتجديد الفضاء الفرعي يؤدي إلى تدهور الأداء بشكل كبير، مما يثبت ضرورة إسقاط الزخم المقترح واستراتيجيات أخذ عينات الفضاء الفرعي المتأنية.

الأهمية والادعاءات
يزعم البحث أن ZO-MOPI ينجح في سد الفجوة في الأداء بين تحسين الدرجة الصفرية والدرجة الأولى لضبط النماذج اللغوية الكبيرة من خلال معالجة الخصائص الطيفية المحددة لتقديرات التدرج الضوضائية. ويرى المؤلفون أن مفتاح تسريع تحسين الدرجة الصفرية ليس مجرد تقليل التباين عبر إسقاط الفضاء الفرعي، بل أيضاً اعتماد محاذاة طيفية انتقائية تتجنب تضخيم الضوضاء. ومن خلال استبدال التعامد كامل الطيف العنيف بتعامد جزئي عبر تكرار القدرة، يُمكّن هذا المنهج المحسنات الطيفية من العمل بفعالية في بيئة الدرجة الصفرية عالية التباين. ويشير العمل إلى أن البنية الطيفية يمكن استغلالها بشكل أفضل حتى في ظل التقديرات الضوضائية، مما يفتح مساراً نحو ضبط النماذج الكبيرة بكفاءة واستهلاك منخفض للذاكرة دون الاعتماد على الانتشار العكسي.