ملخص تقني: هندسة الاستعلام المتوافقة مع المضاغط (Compander-Aligned) للتحسين من الدرجة الصفرية المكمّم

1. بيان المشكلة

تتناول الورقة البحثية قيداً جوهرياً في التحسين من الدرجة الصفرية (Zeroth-Order Optimization - ZO) عند تطبيقه على النماذج اللغوية الكبيرة (LLMs) ذات الدقة المنخفضة (المكمّمة). بينما تتيح طرق ZO (مثل MeZO) التكيف بكفاءة في استهلاك الذاكرة بالاعتماد فقط على التمريرات الأمامية (forward passes) وقيم الخسارة القياسية، إلا أن النهج الحالية تعاني عندما يتم تخزين النموذج واستعلامه بدقة بت (bit) منخفضة (مثل NF4).

تتمثل المشكلة الجوهرية في عدم تطابق القياس (measurement mismatch) الناتج عن التكميم غير المنتظم:

• الدرجة الصفرية القياسية (Standard ZO): تقوم بإزاحة الأوزان في فضاء الأوزان المستمر ($x \pm \mu u$) وتقيس فرق الخسارة.
• الدرجة الصفرية المكمّمة (Quantized ZO): يقوم المحرك بتقييم النهايات الطرفية المقربة $Q(x \pm \mu u)$.
• الصراع: بالنسبة للمكممات غير المنتظمة (nonuniform companders) مثل (NF4 أو $\mu$-law)، لا تكون خلايا التكميم منتظمة. وبالتالي، فإن نصف قطر الإزاحة $\mu$ الثابت في فضاء الأوزان قد يؤدي إلى:
  1. الانهيار (Collapse): السقوط تماماً داخل خلية تكميم واحدة كثيفة، مما ينتج عنه فرق خسارة صفري (لا توجد إشارة تدرج).
  2. التمدد الزائد (Over-span): عبور عدة خلايا متفرقة، مما يؤدي إلى قياس وتر غير محلي (nonlocal secant) بدلاً من تدرج محلي.
  3. عدم المحاذاة (Misalign): إنشاء "وتر مقرب" $Q(x+\mu u) - Q(x-\mu u)$ لا يوازي اتجاه التحديث المقصود $u$.

يخلق هذا الأمر ارتباطاً بين التكميم والاضطراب عند وقت الاستعلام (query-time quantization-perturbation coupling)، مما يُدخل قناة انحياز (bias channel) تشوه اتجاه الهبوط وتمنع التقارب نحو نقطة الاستقرار، حتى لو كان كود الرموز (codebook) مثالياً لإعادة البناء.

2. المنهجية: CAQ-ZO

تقترح المؤلفة CAQ-ZO (الاستعلامات المتوافقة مع المضاغط للتحسين من الدرجة الصفرية)، والتي تنقل هندسة الاستعلام من فضاء الأوزان إلى فضاء إحداثيات المضاغط (compander coordinate space).

الإطار النظري

تنمذج الورقة البحثية التكميم غير المنتظم القياسي كعملية مضاغط (companding):
$$Q = \phi^{-1} \circ U \circ \phi$$
حيث أن:

• $\phi$: خريطة إحداثيات رتيبة (مُضاغط - compressor).
• $U$: مكمم منتظم بتباعد شبكي $\Delta$ في الفضاء المتحول $z = \phi(x)$.
• $\phi^{-1}$: خريطة الموسع (expander) للعودة إلى فضاء الأوزات.

الخوارزمية

بدلاً من إزاحة $x$ في فضاء الأوزان، تعمل CAQ-ZO في فضاء $z$:

1. تحويل الإحداثيات: الحفاظ على التكرار (iterate) في إحداثي المضاغط $z_t = \phi(x_t)$.
2. قالب الشبكة (On-Grid Stencil): توليد الاضطرابات مباشرة في فضاء $z$ باستخدام قالب رادماخر (Rademacher stencil) ذي خطوة شبكية واحدة: $z_t \pm \Delta r$، حيث $r \in \{-1, +1\}^d$.
3. الاستعلام: رسم النهايات الطرفية للعودة إلى فضاء الأوزان: $x_{query} = \phi^{-1}(z_t \pm \Delta r)$.
4. القياس: استعلام أوراكل (oracle) منخفض الدقة. بما أن النهايات الطرفية $z_t \pm \Delta r$ تقع تماماً على الشبكة المنتظمة لـ $U$، فإن المكمم $Q$ يعمل كدالة محايدة عند نقاط الاستعلام (لا يحدث خطأ تقريب عند النهايات الطرفية).
5. التحديث: حساب تقدير التدرج في فضاء $z$ وتحديث $z_{t+1}$، مع إسقاط النتيجة مرة أخرى على الشبكة للحفاظ على الثبات للاستعلامات المستقبلية.

التمييز الجوهري: لا تغير CAQ-ZO كود الرموز، أو غلاف المحسن (optimizer wrapper)، أو أوراكل التمرير الأمامي. إنها تغير فقط هندسة الفروق المحدودة (finite-difference geometry) لتتلاءم مع شبكة المكمم الداخلية.

3. المساهمات الرئيسية

تقدم الورقة أربع مساهمات رئيسية:

1. صياغة هندسة الاستعلام: تعيد صياغة الدرجة الصفرية المكمّمة من مشكلة مقارنة كود الرموز إلى مشكلة هندسة قياس. وهي تعزل كود الرموز، وإحداثي الاستعلام، وتوزيع الاتجاه، ونصف قطر التنعيم، ومحاذاة شبكة النهايات الطرفية كمتغيرات تحكم منفصلة.
2. التحليل النظري لعدم التطابق:
   • النظرية 1: تثبت أنه لا يمكن لأي نصف قطر ثابت في فضاء الأوزان $\mu$ أن يعاير الخلايا غير المنتظمة عالمياً؛ حيث يعتمد مدى الشبكة الفعال $\rho$ على ميل المضاغط المحلي $\nabla \phi$.
   • النظرية 2: تفكك خطأ المقدر، وتظهر أن استعلامات فضاء الأوزان القياسية تعاني من بقايا تتناسب مع $\Delta^2/\mu^2$ (تقريب النهايات الطرفية)، بينما تجعل CAQ-ZO بقايا وقت الاستعلام صفراً تماماً.
   • النظرية 3 و4: توفر حدود الاستقرار التي تُظهر أن استعلامات فضاء الأوزان تعاني من أرضية بقايا (residual floor) بسبب انحياز التقريب، بينما تحقق CAQ-ZO تقارباً محكوماً فقط بانحياز الفروق المحدودة القياسي والتباين العشوائي.
3. تصميم الخوارزمية: تقدم خوارزمية CAQ-ZO (الخوارزمية 1) التي تستخدم فروق رادماخرر المحدودة على الشبكة في إحداثيات المضاغط وتفرض الإسقاط عند التحديث للحفاظ على محاذاة الشبكة.
4. التحقق التجريبي:
   • التجارب الاصطناعية: تعزل قناة تقريب النهايات الطرفية، وتظهر أن CAQ-ZO تقضي على بقايا تقريب النهايات الطرفية التي تعاني منها النماذج المرجعية في فضاء الأوزان (Vanilla Gaussian ZO, QuZO).
   • الضبط الدقيق لنماذج LLM: تُظهر تحسينات على Qwen-2.5-1.5B و Llama-2-7B باستخدام تكميم NF4. تتفوق CAQ-ZO على المرجع في فضاء الأوزان (QuZO) عبر مهام متعددة (SST-2, RTE, CB, SQuAD, إلخ) تحت نفس المكمم وميزانية التقييم.

4. النتالئج

• اصطناعياً: في التجارب الاصطناعية عالية الأبعاد ($d=10,000$) مع مضاغطات نمط $\mu$-law و NF4، تحقق CAQ-ZO أدنى نسبة فجوة بين الخسارة النهائية والبداية. وهي تقضي تحديداً على "بقايا تقريب النهايات الطرفية" الملحوظة في طرق فضاء الأوزات، والتي تظل غير صفرية حتى مع زيادة التكرارات.
• الضبط الدقيق لـ LLM: في تجارب الضبط الدقيق المتوافقة مع NF4:
  • تحقق CAQ-ZO تحسناً مستمراً على QuZO (المرجع في فضاء الأوزان) في جميع المقاييس لكلا النموذجين.
  • تشمل المكاسب الملحوظة 18.8/21.4 نقطة دقة في CB و 24.0/28.1 F1 في SQuAD لنموذجي Qwen و Llama على التوالي.
  • تؤكد النتائج أن تغيير نهايات الفروق المحدودة (مع إبقاء كود الرموز ثابتاً) يحسن النموذج المكمّم المدرب.

5. الأهمية والنطاق

تدعي الورقة أن الدرجة الصفرية المكمّمة لا تتحدد فقط بكود الرموز؛ بل إن التفاعل بين قالب الفروق المحدودة وخلايا المكمم أمر بالغ الأهمية أيضاً.

• الرؤية الجوهرية: كود الرموز الأمثل لإعادة البناء الساكن (مثل NF4) قد يكون غير أمثل لعمليات إزاحة فضاء الأوزان إذا كانت هندسة الاستعلام غير متوافقة. تعالج CAQ-ZO ذلك من خلال محاذاة هندسة الاستعلام مع المضاغط.
• تواضع الادعاءات: يحدد المؤلفون نطاق ادعاءاتهم صراحة:
  • تنطبق النظرية على المضاغطات القياسية الرتيبة (بما في ذلك NF4 عبر الاستكمال الرتيب).
  • الأدلة محدودة بتجارب اصطناعية محكومة و ضبط دقيق لـ LLM بنمط NF-4 مطابق.
  • لا تدعي الورقة القدرة على الانتقال العالمي إلى جميع أكواد الرموز غير القياسية (مثل المكممات المتجهة) أو ادعاءات أوسع للنماذج الكبيرة دون تحقق منفصل.
  • يتم وضعها كحل محدد لإعداد "التمرير الأمامي منخفض الدقة"، متميزة عن الطرق التي تعدل كود الرموز أو تستخدم مقدرات المرور المباشر (straight-through estimators).

باختصار، توفر CAQ-ZO طريقة قائمة على أسس نظرية ومثبتة تجريبياً لإزالة الانحياز الناتج عن تقريب التكميم في التحسين من الدرجة الصفرية، مما يسمح بتكيف أكثر فعالية في استهلاك الذاكرة لنماذج LLM المكمّمة.