🤖 machine learning

BCJR-QAT: A Differentiable Relaxation of Trellis-Coded Weight Quantization

تقدم هذه الورقة البحثية BCJR-QAT، وهي استرخاء قابل للتفاضل لتكميم الأوزان المرمزة بـ trellis، يستبدل عملية الـ argmax غير القابلة للتفاضل في خوارزمية Viterbi بخوارزمية BCJR sum-product متحكم بها حرارياً، مما يتيح تدريباً واعياً بالتكميم (quantization-aware training) من طرف إلى طرف يتفوق تجريبياً على حدود التقنيات المتطورة لـ PTQ في النماذج اللغوية الكبيرة (LLMs).

المؤلفون الأصليون: Venugopalan Iyengar

نُشر 2026-05-12

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Venugopalan Iyengar

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك مكتبة ضخمة من الكتب (نموذج لغوي كبير) وتريد تقليص حجمها حتى تتسع في جهاز كمبيوتر محمول قياسي أو هاتف محمول. للقيام بذلك، تحتاج إلى ضغط "الكلمات" (الأوزان) داخل المكتبة.

لتقليص هذه الكتب بشكل أكبر، قدمت الورقة البحثية طريقة جديدة تسمى BCJR-QAT — وهي عملية تشبه ضغط صورة عالية الدقة وتحويلها إلى صورة مصغرة صغيرة وباهتة (بمعدل 2 بت فقط لكل كلمة).

إليك قصة كيف فعلوا ذلك، باستخدام تشبيهات بسيطة:

1. المشكلة: فخ "الشارع ذو الاتجاه الواحد"

في السابق، كانت أفضل طريقة لتقليص هذه النماذج هي طريقة تسمى QTIP. تخيل أن QTIP هو أمين مكتبة ذكي للغاية ينظر إلى صفحة من النص ويقول: "حسنًا، سأستبدل هذه الجملة المعقدة بأقرب عبارة بسيطة من قاموسي".

ومع ذلك، كان هناك حد. بمجرد أن يتخذ أمين المكتبة هذا الخيار، لا يمكنه العودة وتغيير رأيه لجعل الكتاب بأكمله يبدو أفضل. كان الأمر أشبه بـ "شارع ذو اتجاه واحد". إذا اختار أمين المكتبة عبارة خاطئة قليلاً في البداية، فإن بقية الكتاب سيعاني، ولا يمكنه إصلاح ذلك لأن القرار كان "صلبًا" ونهائيًا.

لإصلاح ذلك، يستخدم الباحثون عادةً التدريب (QAT)، حيث تجعل أمين المكتبة يتدرب ويعدل خياراته. ولكن إليك العقبة: تتضمن عملية اتخاذ القرار لدى أمين المكتبة متاهة معقدة ("تريليس" أو شبكة). ولإيجاد أفضل مسار عبر المتاهة، يستخدمون قاعدة تسمى Viterbi، وهي تشبه زر "اختر الخيار الأفضل مطلقًا".

المشكلة: لا يمكنك تعليم الكمبيوتر التعلم من خلال زر "اختر الأفضل"، لأن هذا الزر يمثل طريقًا مسدودًا رياضيًا. إذا ضغطت الزر، لن يعرف الكمبيوتر كيف يعدل خياراته ليصبح أفضل؛ بل سينتقل ببساطة إلى أقرب خيار متاح. إنه مثل محاولة قيادة سيارة عن طريق السماح لها فقط بالقفز فورًا إلى المسار المجاور — لا يمكنك القيام بانعطافات سلسة.

2. الحل: القرار "الناعم" (BCJR)

ابتكر المؤلفون، فينوجابالان إينجيار، طريقة جديدة للسماح لأمين المكتبة بالتدرب. بدلاً من إجباره على اتخاذ قرار صلب "باختيار الأفضل" فورًا، قدموا مفهومًا يسمى درجة الحرارة ( $T$ ).

درجة حرارة عالية (حار): تخيل أن أمين المكتبة مسترخٍ جدًا ومتردد. بدلًا من اختيار عبارة واحدة فقط، فإنه يأخذ في الاعتبار العديد من العبارات في وقت واحد، ويعطي "احتمالية" لكل منها. إنه يشبه يومًا ضبابيًا حيث يمكنك رؤية عدة مسارات، وليس مسارًا واحدًا فقط. هذا المنظور "الناعم" سلس رياضيًا، مما يعني أن الكمبيوتر يمكنه بسهভাবে حساب كيفية تعديل الخيارات لتحسين الكتاب.
درجة حرارة منخفضة (بارد): مع انتهاء التدريب، يصبح أمين المكتبة "أبرد" وأكثر حسمًا. يتبدد الضباب، وينتقل فجأة إلى العبارة الأفضل الواحدة (القرار الصلب).

هذه الطريقة، التي تسمى BCJR، تحول "الشارع ذو الاتجاه الواحد" إلى طريق سلس وقابل للقيادة. يمكن للكمبيوتر الآن تعلم كيفية ضبط الأوزان بدقة لجعل الكتاب بأكمله يبدو أفضل، وليس مجرد جمل فردية.

3. خطأ "التجاوز" (Overshoot)

اكتشف المؤلفون سمة غريبة في كيفية عمل "درجة الحرارة" هذه.

في الفيزياء التقليدية، عندما تحاول إيجاد الحل الأفضل، فإنك عادة ما تبدأ بحرارة شديدة (عدم تحديد شديد) لاستكشاف جميع الاحتمالات، ثم تبرد ببطء.

ما وجدته الورقة: بالنسبة لهذا النوع المحدد من الضغط، فإن البدء بكونك "حارًا جدًا" هو كارثة. إذا كان أمين المكتبة مترددًا للغاية في البداية، فإنه يتجول في حي سيئ (حوض "فوريونوي" أسوأ) ويعلق هناك. وبحلول الوقت الذي يبرد فيه ويحاول إيجاد المسار الأفضل، يكون قد تاه بالفعل في منطقة سيئة ولا يستطيع العودة.
الحل: وجدوا أن البدء بـ درجة حرارة معتدلة (ليس حارًا جدًا ولا باردًا جدًا) هو الأفضل. إنه يشبه بدء رحلة سير على الأقدام بخريطة واضحة بدلاً من التجول بلا هدف في الضباب. من خلال تخطي مرحلة "الحرارة الشديدة"، تجنبوا الضياع ووجدوا مسارًا أفضل.

4. النتائج: فوز للأجهزة الصغيرة

اختبر الفريق هذه الطريقة على نوعين مختلفين من النماذج:

اختبار "الوكيل" (OLMoE): حاولوا تحسين الضغط من خلال النظر فقط في مدى جودة إعادة بناء كل طبقة من النموذج لبياناتها الخاصة (مثل التحقق مما إذا كانت النسخة الضوئية تشبه الأصل). النتيجة: فشلت العملية. في الواقع، أصبح النموذج أسوأ من الطريقة القديمة. علمهم هذا أن مجرد صنع "نسخة ضوئية أفضل" لا يعني أن الكتاب سيُقرأ بشكل أفضل.
الاختبار "الحقيقي" (Llama-3.2): قاموا بتحسين النموذج ليقرأ ويفهم النصوص بشكل أفضل (باستخدام طريقة تسمى "التقطير" أو Distillation، حيث يقوم نموذج معلم ذكي بتوجيه الطالب). النتيجة: نجحت الطريقة!
- في طبقة معينة من النموذج، تفوقت طريقتهم الجديدة على أفضل طريقة قديمة بفارق ضئيل ولكنه ملموس.
- عندما طبقوا ذلك على طبقات متعددة، تراكمت التحسينات بطريقة "فائقة الإضافة" (أي أن الكل أصبح أكبر من مجموع أجزائه).

5. المحرك تحت الغطاء

عادة ما يكون إجراء هذه الرياضيات بطيئًا جدًا ويتطلب أجهزة كمبيوتر فائقة التكلفة. قام المؤلفون أيضًا ببناء "محرك" متخصص (Triton kernel) يعمل بسرعة هائلة على بطاقة رسوميات واحدة للمستهلكين (مثل RTX 4080). لقد جعلوه أسرع بـ 6.5 مرة من الطرق القياسية، مما يثبت أن هذه التقنية المتقدمة لا تحتاج إلى مركز بيانات لتشغيلها.

الملخص

تقدم الورقة طريقة جديدة لتقليص نماذج الذكاء الاصطناعي لتناسب الأجهزة الاستهلاكية.

الخدعة: استبدلوا عملية اتخاذ قرار جامدة وغير قابلة للتعلم بعملية "ناعمة" وقابلة للتعلم، والتي تصبح صلبة تدريجيًا.
الرؤية: لا ينبغي أن تبدأ عملية التعلم وهي "حارة جدًا" (عشوائية جدًا)؛ فالبدء بدرجة حرارة معتدلة يمنع النموذج من الضياع.
النتيجة: عندما يتم تدريبها بشكل صحيح لفهم النصوص (وليس مجرد نسخ البيانات)، تنتج هذه الطة نتائج أفضل من التقنيات الرائدة السابقة، وهي تعمل بسرعة كافية للعمل على جهاز كمبيوتر ألعاب عادي.

لقد أطلق المؤلفون الأكواد البرمجية والنماذجة المدربة ليتمكن الآخرون من تجربتها.

ملخص تقني: BCJR-QAT

بيان المشكلة

يُعد تحقيق 2 بت لكل وزن (bpw) أو أقل للنماذج اللغوية الكبيرة (LLMs) على الأجهزة الاستهلاكية عائقاً حرجاً. وبينما أرست طرق التكميم بعد التدريب (PTQ) مثل QTIP معياراً قوياً للتكميم بـ 2 بت باستخدام التكميم المرمّز بالشبكة (TCQ)، إلا أنها تظل محدودة بـ "سقف الـ PTQ". إن تجاوز هذا السقف يتطلب التكميم الواعي بالتدريب (QAT). ومع ذلك، تفشل تقنيات QAT القياسية في التعامل مع الأكواد المرمّزة بالشبكة لأن خوارزمية فايتربي (Viterbi) للفك تعتمد على عملية argmax غير قابلة للاشتقاق عبر مسارات عديدة أسياً. إن تطبيق مُقدّر المرور المباشر (STE) على الشبكة يدمر الارتباط بين قرارات الأوزان المتجاورة، وهو الميزة الأساسية للتكميم المرمّز بالشبكة مقارنة بالتكميم القياسي.

المنهجية: BCJR-QAT

يقدم البحث BCJR-QAT، وهو استرخاء قابل للاشتقاق للتكميم المرمّز بالشبكة، يستبدل عملية argmax الصلبة في فايتربي بتوقع ناعم مشتق من خوارزمية BCJR (Bahl-Cocke-Jelinek-Raviv) للانتشار الأمامي والخلفي.

الآلية الجوهرية

تشبيه الميكانيكا الإحصائية: تُعامل الشبكة كأنها رسم بياني لعامل (factor graph) مكافئ لسلسلة سبين (spin chain) من نوع Ising أحادي البعد. ويُنظر إلى عملية argmax في فايتربي على أنها الحد الحراري الصفري ( $T \to 0$ ) لتوزيع بولتزمان عبر المسارات.
الكلمة المشفرة الناعمة: عند درجة حرارة محدودة $T > 0$ ، تحسب الطريقة الاحتمالات الخلفية الهامشية الدقيقة لكل حالة باستخدام خوارزمية BCJR. وتكون الكلمة المشفرة المكممة هي توقع بولتزمان للكلمة المشفرة المنبعثة:
$\hat{w}_t(T) = \langle c(s_t) \rangle_{p_T} = \sum_s c(s) p_T(s_t = s | w)$
هذه الكلمة المشفرة الناعمة قابلة للاشتقاق تماماً بالنسبة للمدخل المسبق للوزن (weight pre-image) ومعلمات الشبكة.
التخميد (Annealing): خلال التدريب، يتم تخميد درجة الحرارة $T$ من قيمة أولية $T_0$ إلى قيمة نهائية قريبة من الصفر $T_{end}$ . ومع اقتراب $T$ من الصفر، تتقارب الكلمة المشفرة الناعمة مع مخرجات فايتربي الصلبة، مما يؤدي فعلياً إلى "تبلور" التحسين المستمر إلى حل منفصل.

الابتكارات التقنية الرئيسية

القابلية للاشتقاق: توفر عملية التكرار الأمامي والخلفي لـ BCJR (بتعقيد $O(L \cdot S^2)$ ) تدرجات دقيقة عبر الشبكة، مما يحافظ على الارتباط بين الحالات الذي تفقده طرق STE القياسية.
نواة Triton: قام المؤلفون بتنفيذ نواة Triton مدمجة تجمع عمليات الجمع (gather)، وlog-sum-exp، والجمع في إطلاق واحد. يقلل هذا من عدد عمليات إطلاق النواة في مرحلتي الانتشار الأمامي والخلفي من مئات العمليات إلى عملية واحدة، محققاً تسريعاً قدره 6.57× مقارنة بتنفيذ PyTorch autograd المرجعي مع الحفاظ على التماثل العددي لـ FP32.
تصحيح الجدول الزمني (تخطي الحرارة العالية - Skip-High-T): يشخص البحث نمط فشل حرج في جداول التخميد القياسية (التي تبدأ بـ $T_0=1.0$ ). عند درجات الحرارة العالية، يكون تدرج الكلمة المشفرة الناعمة "مشتتاً" وغير مفيد، مما يجعل المُحسِّن ينحرف نحو حوض Voronoi أسوأ قبل أن تتمكن مرحلة التبريد من التعافي. الحل المقترح هو تخطي مرحلة الحرارة العالية، والبدء بدرجة حرارة أقل (مثلاً $T_0=0.3$ ) حيث تكون التدرجات مفيدة بالفعل.

النتائج التجريبية

يقيّم البحث BCJR-QAT على بنيتين معماريتين: OLMoE-1B-7B (MoE) و Llama-3.2-1B (Dense).

1. OLMoE-1B-7B (نتيجة سلبية: فجوة التمثيل التقريبي)

الإعداد: QAT لكل طبقة يعتمد على تحسين متوسط مربع الخطأ التربيعي (MSE) لإعادة البناء (هدف تقريبي).
النتيجة: نجح BCJR-QAT في تقليل MSE إعادة البناء لكل طبقة بنسبة 17-20% مقارنة بـ QTIP-PTQ. ومع ذلك، لم يترجم هذا التحسن إلى أداء المهام النهائية. تراجعت النماذج بمقدار ~1.3 في الـ perplexity (PPL) على WikiText-2 مقارنة بمرجع QTIP-PTQ.
الاستنتاج: يؤكد هذا وجود "فجوة تمثيل" حيث لا يضمن تقليل خطأ إعادة البناء المحلي تحسيناً في أداء المهمة النهائية عند 2 bpw.

2. Llama-3.2-1B (نتيجة إيجابية: KL شامل للنهاية)

الإعداد: QAT لطبقة واحدة يحسن توزيع KL النهائي (forward-KL distillation) ضد معلم (teacher) من نوع FP16.
النتيجة:
- تجاوز الجدول الزمني: استخدام جدول زمني بدائي عالي الحرارة ( $T_0=1.0$ ) أدى إلى أداء أسوأ قليلاً من PTQ (بمقدار +0.005 إلى +0.022 PPL).
- إصلاح Skip-High-T: باستخدام الجدول المصحح ( $T_0=0.3$ )، تم القضاء على التجاوز. في الطبقة 4، حقق النموذج 10.1347 PPL، وهو تحسن بمقدار -0.084 PPL عن مرجع QTIP-PTK (10.2189).
- الزيادة الفائقة (Super-Additivity): عند دمج الطبقات المدربة (الطبقة 4 والطبقة 8)، تجاوز الربح المشترك (-0.077 PPL) مجموع المكاسب الفردية (-0.062 PPL)، مما يدل على وجود "فائض تعاون" حيث تعزز الكلمات المشفرة المدربة بواسطة BCJR بعضها البعض.

3. التحليل النظري

نظرية ميزانية الانحراف (Drift-Budget Theory): يستنتج المؤلفون شرطاً للهروب من حوض Voronoi الخاص بـ PTQ: يجب أن يتجاوز الانحراف التراكمي للوزن ( $\eta \cdot N \cdot g_{max}$ ) نصف قطر الحوض ( $r_{Voronoi} \approx 10^{-3}$ ). تؤكد التجارب أن الجداول التي تفشل في تحقيق هذا الشرط لا يمكنها الهروب من حل PTQ، بينما الجداول التي تتجاوزه يمكنها إيجاد حلول أفضل إذا كان الهدف والجدول صحيحين.

الأهمية والادعاءات

يدعي البحث ثلاثة مساهمات رئيسية:

خوارزمية: BCJR-QAT هي أول طريقة تجعل التكميم المرمّز بالشبكة قابلاً للاشتقاق بطبيعته، مما يسمح بـ QAT على TCQ دون فقدان فوائد ارتباط المسارات.
هندسية: تجعل نواة Triton المدمجة هذا الأمر ممكناً حسابياً على الأجهزة الاستهلاكية (بطاقة رسوميات واحدة بذاكرة 12 جيجابايت)، مما يزيل حاجز النشر عند الاستدلال للأبحاث.
رؤية تجريبية:
- حدد البحث أن متوسط مربع الخطأ التربيعي (MSE) لإعادة البناء لكل طبقة هو مقياس سيئ لـ 2-bit QAT، بينما توزيع KL الشامل للنهاية فعال.
- يتحدى البحث المفهوم السائد للتخميد المحاكي (simulated annealing) للتحويلات المنفصلة، موضحاً أن البدء بـ "حرارة عالية" ( $T=1.0$ ) هو أمر ضار لـ BCJR-QAT لأن التدرج عند درجات الحرارة العالية يهيمن عليه الضجيج. الاستراتيجية المثلى هي البدء بدرجة حرارة تكون فيها التدرجات مفيدة بالفعل.

يخلص البحث إلى أنه بينما النتائج للطبقة الواحدة واعدة، فإن الإمكانات الكاملة لـ BCJR-QAT تكم-ن في التدريب المشترك الشامل للنهاية عبر جميع الطبقات، وهي مهمة جعلتها النواة المنشورة متاحة ولكنها تتطلب أجهزة بمستوى السحابة (H100/H200) للنماذج التي تزيد عن 1 مليار معلم. وقد صرح المؤلفون صراحةً بأنهم لم يجروا هذا التدريب الشامل في هذا العمل.