🤖 AI

Reasoning Models Can be Accurately Pruned Via Chain-of-Thought Reconstruction

تقترح هذه الورقة تقنية "الضغط الواعي بالاستدلال" (Reasoning-Aware Compression - RAC)، وهي تقنية تقليم تعمل على إعادة بناء مدخلات التنشيط ومسارات "سلسلة الأفكار" (chain-of-thought) المتبعة أثناء السياسة بشكل مشترك، وذلك لتقليل تكاليف نشر نماذج الاستدلال بفعالية مع تجنب تدهور الأداء وزيادة زمن الاستجابة الناتجين عن طرق التقليم القياسية.

المؤلفون الأصليون: Ryan Lucas, Kayhan Behdin, Zhipeng Wang, Qingquan Song, Shao Tang, Rahul Mazumder

نُشر 2026-05-06

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ryan Lucas, Kayhan Behdin, Zhipeng Wang, Qingquan Song, Shao Tang, Rahul Mazumder

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك طالباً عبقرياً ومتميزاً يُدعى "الذكاء الاصطناعي الاستنتاجي". هذا الطالب مذهل في حل المسائل الرياضية المعقدة وكتابة الأكواد البرمجية، لكن لديه عادة غريبة: قبل أن يعطيك الإجابة النهائية، يكتب مذكرات ضخمة ومفصلة عن مسار تفكيره. هو لا يكتفي بقول "الإجابة هي 42"؛ بل يكتب 50 صفحة من "دعني أرى، إذا جربت هذا، فسيحدث ذاك، ولكن مهلاً، ربما ليس هذا..." قبل أن يستقر أخيراً على الإجابة.

هذا يجعله دقيقاً للغاية، لكنه أيضاً بطيء جداً ومكلف في التشغيل. أنت تريد توظيف نسخة أصغر وأرخص من هذا الطالب (نموذج "مُقلم") للقيام بنفس المهمة.

المشكلة: خطأ "الواجب المنزلي الخاطئ"
عادةً، عندما يحاول المهندسون تقليص هذه النماذج الذكية الكبيرة، يستخدمون طريقة تُسمى "التقليم" (Pruning). فكر في التقليم كعملية تحرير كتاب لجعله أقصر عبر حذف الكلمات التي لا تعتقد أنها مهمة.

ولتحديد الكلمات التي يجب حذفها، ينظر "المحررون" (خواروات التقليم) عادةً إلى عينة من مدخلات الطالب — أي الأسئلة التي طُرحت عليه. ويفترضون: "حسناً، الطالب جيد في الإجابة على هذه الأسئلة، لذا إذا احتفظنا بالأجزاء من دماغه التي تتعامل مع الأسئلة، فسنكون بخير".

تجادل الورقة البحثية بأن هذا خطأ فادح لنماذج الاستنتاج. الأمر يشبه محاولة تدريب عداء ماراثون عبر مراقبته وهو يربط حذاءه فقط. أنت تتجاهل الجزء الذي يقوم فيه بـ "الجري" فعلياً.

بالنسبة لنماذج الاستنتاج، فإن جزء "الجري" هو سلسلة التفكير الطويلة (CoT). إذا قمت بتدريب خوارزمية التقليم الخاصة بك على الأسئلة فقط (المدخلات) وتجاهلت عملية التفكير الطويلة، فسيصاب النموذج المصغر بالارتباك. سيبدأ بالثرثرة أكثر من ذي قبل، ويكتب 100 صفحة من الأفكار المرتبكة بدلاً من 50، ومع ذلك سيصل إلى إجابة خاطئة. سيصبح أبطأ وأغبى في آن واحد.

الحل: "الضغط الواعي بالاستنتاج" (RAC)
يقترح المؤلفون حلاً بسيطاً يسمى "الضغط الواعي بالاستنتاج" (Reasoning-Aware Compression - RAC).

بدلاً من مجرد عرض الأسئلة على خوارزمية التقليم، يقولون لها: "اجعل النموذج يجيب على الأسئلة أولاً، ويكتب مسار تفكيره الكامل، ثم استخدم ذلك المسار بأكره لتحديد ما يجب قصه".

التشبيه: البروفة
تخ de تخيل أنك تقوم بتحرير مسرحية.

الطريقة القديمة: تقرأ السطور الافتتاحية للنص وتقرر أي ممثلين ستطرد بناءً على مظهرهم في المشهد الأول.
طريقة RAC: تشاهد البروفة كاملة، بما في ذلك المشاهد الوسطى الطويلة والفوضوية حيث يحاول الممثلون فهم الحبكة. أنت تطرد الممثلين الذين يخطئون فقط أثناء الأداء الفعلي.

من خلال السماح للنموذج بـ "بروفة" عملية تفكيره أثناء مرحلة التحرير، تتعلم خوارزمية التقليم بالضبط أي أجزاء من الدماغ مطلوبة لخطوات الاستنتاج الطويلة والمعقدة.

ماذا حدث عندما جربوا ذلك؟
اختبر الفريق هذه الطريقة على عدة نماذج ذكاء اصطناعي قوية (مثل DeepSeek-R1 و Qwen) باستخدام اختبارات الرياضيات والبرمجة.

الدقة: عندما استخدموا الطريقة القديمة، فإن قطع 50% من دماغ النموذج جعله يفشل في كل شيء تقريباً. أما مع RAC، فقد حافظ النموذج المصغر على معظم ذكائه، حتى بعد إزالة 50% من أوزانه.
السرعة: جعلت الطريقة القديمة النماذج مرتبكة لدرجة أنها بدأت تثرثر لساعات، مما استغرق وقتاً طويلاً للإجابة. أما RAC فقد حافظت على تركيز النماذج؛ حيث أجابت بسرعة تماثل النماذج الكبيرة، أو حتى أسرع، لأنها لم تقع في فخ الحلقات المفرغة من التفكير المرتبك.
تعدد الاستخدامات: نجحت هذه الحيلة سواء كانوا يقطعون النموذج بشكل عشوائي أو في أنماط محددة، كما نجحت مع أنواع مختلفة من النماذج.

الخلاصة
إذا كنت تريد جعل ذكاء اصطناعي استنتاجي ذكي أصغر وأرخص، فلا يمكنك الاكتفاء بالنظر إلى الأسئلة التي تُطرح عليه. يجب أن تراقب كيف يفكر أثناء الإجابة عليها. من خلال تضمين "مذكرات التفكير" الخاصة بالنموذج في عملية التحرير، يمكنك تصغير النموذج دون فقدان عقله أو جعله أبطأ. إنها لمسة بسيطة تمنع النموذج من الضياع في أفكاره الخاصة.

ملخص تقني: يمكن تقليم نماذج الاستدلال بدقة عبر إعادة بناء سلسلة التفكير (Chain-of-Thought Reconstruction)

1. بيان المشكلة

تنتج النماذج اللغوية الكبيرة (LLMs) ذات قدرات الاستدلال خطوة بخطوة، مثل DeepSeek-R1، سلاسل تفكير (CoT) صريحة قبل إنتاج الإجابة النهائية. وبينما يؤدي هذا إلى تحسين الدقة بشكل كبير في المهام المعقدة مثل الرياضيات والبرمجة، إلا أنه ينتج تسلسلات مخرجات طويلة للغاية، مما يجعل هذه النماذج مكلفة للنشر على نطاق واسع بسبب زمن انتقال الاستدلال المرتفع ومتطلبات الذاكرة العالية.

يعد تقليم النموذج (Model pruning) تقنية قياسية لتقليل حجم النموذج وتكلفة الاستدلال. ومع ذلك، لاحظ المؤلفون أن تطبيق طرق التقليم القياسية (مثل SparseGPT) على نماذج الاستدلال يؤدي إلى نتائج عكسية وضارة:

تدهور الدقة: يسبب التقليم القياسي انخفاضات كبيرة في دقة المهام مع زيادة التشتت (Sparsity).
تضخم وقت التشغيل: على عكس الهدف من الضغط، غالبًا ما تصبح نماذج الاستدلال المقلمة بشدة أبطأ. تنتج النماذج مسارات CoT أطول، وأقل دقة، وأكثر إسهاباً، مما يزيد من إجمالي عدد الرموز (Tokens) ووقت الاستدلال.

يفترض البحث أن هذا الفشل ينبع من عدم تطابق التوزيع (Distribution mismatch). فعمليات التقليم القياسية تقوم بمعايرة الأوزان باستخدام المدخلات فقط (حيث $|x| \gg |y|$ )، بينما نماذج الاستدلال هي مهام يهيمن عليها فك التشفير (Decode-dominated)، حيث تشكل رموز الـ CoT المولدة ( $|c| + |y| \gg |x|$ ) غالبية عمليات الاستدلال. لذا، فإن التقليم القائم فقط على تنشيطات المطالبات (Prompt activations) يفشل في الحفاظ على قدرة النموذج على توليد مسارات استدلال متماسكة.

2. المنهجية: الضغط المدرك للاستدلال (Reasoning-Aware Compression - RAC)

يقترح المؤلفون الضغط المدرك للاستدلال (RAC)، وهو تعديل "جاهز للاستخدام" (Drop-in) لتدفقات عمل التقليم أحادية المرحلة (One-shot pruning) الموجودة، والذي يوائم عملية المعايرة مع توزيع وقت الاستدلال الفعلي لنماذج الاستدلال.

الآلية الجوهرية

تقلل خوارزميات التقليم القياسية (مثل SparseGPT) من خطأ إعادة البناء لأوزان الطبقات ( $W_\ell$ ) باستخدام مصفوفة تنشيط ( $X_\ell$ ) مشتقة فقط من مطالبات المدخلات. يقوم RAC بتعديل ذلك عبر تعزيز مجموعة بيانات المعايرة بآثار CoT من السياسة الذاتية (On-policy CoT traces).

التوليد من السياسة الذاتية (On-Policy Rollout): خلال مرحلة المعايرة، يُسمح للنموذج الكثيف (Dense model) بتوليد الـ CoT ورموز الإجابة الخاصة به بشكل تلقائي (Autoregressively) لكل مطالبة $x^{(m)}$ .
جمع التنشيطات: يتم جمع الحالات الخفية ( $x^{(\ell)}_t$ ) المقابلة لكل من رموز مطالبة المدخلات ورموز الـ CoT المولدة ذاتياً.
إعادة البناء المشترك: تحل خوارزمية التقليم مشكلة التحسين على مستوى الطبقة باستخدام مصفوفة تنشيط مشتركة $X^{RAC}_\ell = [X^P_\ell, X^D_\ell]$ ، حيث تمثل $X^P$ تنشيطات المطالبة و $X^D$ تمثل تنشيطات وقت فك التشفير (CoT).

تصبح دالة الهدف:
$\min_{\hat{W}_\ell} \sum_{m} \sum_{t \in P_m \cup D_m} \| (W_\ell - \hat{W}_\ell) x^{(\ell-1,m)}_t \|_2^2$
بشرط قيود التشتت. يضمن هذا أن الأوزان المضغوطة مُحسّنة لإعادة بناء التنشيطات التي تمت مواجهتها أثناء عملية الاستدلال الكاملة، وليس فقط أثناء المطالبة الأولية.

تفاصيل التنفيذ

التقليم أحادي المرحلة (One-Shot Pruning): لا تتطلب هذه الطريقة أي إعادة تدريب أو تقطير (Distillation). وهي تعمل في تمريرة واحدة على الأوزان سابقة التدريب.
التوافق: يتكامل RAC بسلاسة مع خوارزميات التقليم الحالية على مستوى الطبقة (مثل SparseGPT و WANDA و ALPS).
تكلفة المعايرة: رغم أن جمع تنشيطات CoT أكثر تكلفة من معايرة المطالبات فقط، إلا أنها تظل أقل تكلفة بكثير من إعادة تدريب النموذج بالكامل أو التقطير.

3. المساهمات الرئيسية

تشخيص فشل التقليم: حدد البحث أن التقليم القياسي يفشل في نماذج الاستدلال لأنه يتجاهل طبيعة توليد الـ CoT التي يهيمن عليها فك التشفير، مما يؤدي إلى تحولات في التوزيع تسبب "إسهاب" النماذج وفقدان الدقة.
خوارزمية RAC: تقديم استراتيجية معايرة بسيطة تضخ تنشيطات CoT من السياسة الذاتية في هدف التقليم.
التحقق التجريبي: تجارب مكثفة تثبت أن RAC يسمح بتقليم نماذج الاستدلال إلى مستويات تشتت عالية (تصل إلى 50%) مع الحفاظ على الدقة ومنع انفجار وقت التشغيل المرتبط بالتقليم القياسي.

4. النتائج التجريبية

قام المؤلفون بتقييم RAC على عائلات متعددة من نماذج الاستدلال (نسخ DeepSeek-R1 المقطرة و Qwen3) عبر أحجام مختلفة (من 1.5B إلى 70B) ومعايير متنوعة (MATH-500، AIME-25، LiveCodeBench).

الدقة ووقت التشغيل

الحفاظ على الدقة: عند تشتت بنسبة 50%، يتفوق RAC بشكل كبير على كل من التقليم المعاير بـ C4 والتقليم القائم على المطالبات فقط.
- مثال (DeepSeek-R1-7B على MATH-500): يحافظ RAC على دقة 0.900، مقارنة بـ 0.812 (المطالبات فقط) و 0.744 (C4).
- مثال (Qwen3-8B على MATH-500): يحقق RAC دقة 0.862 عند تشتت 50%، مقابل 0.564 (C4) و 0.470 (المطالبات فقط).
تقليل وقت التشغيل: يمنع RAC سلوك "الإسهاب".
- مثال (DeepSeek-R1-7B): زاد التقليم القياسي وقت التشغيل من 23.3 دقيقة (للنموذج الكثيف) إلى 135.0 دقيقة عند تشتت 50%. قلل RAC هذا الوقت إلى 35.3 دقيقة، محققاً بذلك ملف سرعة النموذج الكثيف بفعالية.
التعميم: تظل الفوائد قائمة عبر بنيات مختلفة (Qwen, Llama)، وأحجام نماذج مختلفة، ومجالات متنوعة (الرياضيات والبرمجة). كما يظهر RAC متانة عند دمجه مع التقليم الهيكلي (2:4 sparsity) والكمية (Quantization - FP8).

دراسات الاستئصال (Ablation Studies)

السياسة الذاتية مقابل السياسة الخارجية (On-Policy vs. Off-Policy): استخدام آثار CoT المولدة من نفس النموذج الذي يتم تقليمه (on-policy) يعطي نتائج أفضل من استخدام آثار من نموذج أكبر ومختلف، وإن كانت البيانات الخارجية (off-policy) تقدم أيضاً تحسناً عن المطالبات فقط.
حساسية ميزانية الرموز (Token Budget): يعود جزئياً في النماذج المقلمة إلى حدود توليد الرموز المفرطة. عند تقييدها لأطوال فك تشفير معقولة (مثل 4,096 رمزاً)، تضاهي النماذج المقلمة بـ RAC أو تتجاوز أداء النموذج الكثيف في كل من الدقة والسرعة.
استقلالية الخوارزمية: يحسن RAC الأداء عند اقترانه بخوارمايات تقليم متنوعة (SparseGPT, ALPS, WANDA)، وليس فقط SparseGPT.

تحليل خطأ إعادة البناء

يكشف تحليل الخطأ لكل رمز (Token-wise) على مسائل الاختبار المحجوزة أنه بينما تحافظ معايرة المطالبات فقط على تنشيطات المدخلات جيداً، فإنها تتسبب في أخطاء إعادة بناء عالية خلال مرحلة فك التشفير (الـ CoT). يقلل RAC تحديداً من هذه الأخطاء خلال سلاسل الاستدلال الطويلة، مما يطابق سلوك النموذج المقلم مع النموذج الكثيف خلال مرحلة التوليد الحرجة.

5. الأهمية والادعاءات

يدعي البحث أن الضغط المدرك للاستدلال هو تعديل بسيط وحاسم مطلوب لجعل التقليم ممكناً لنماذج LLM الاستدلالية.

الأثر العملي: يتيح RAC نشر نماذج استدلال أصغر وأسرع دون انهيار الدقة أو طفرات زمن الانتقال التي تُلاحظ حالياً مع الضغط القياسي.
الرؤية النظرية: يسلط العمل الضوء على أنه للمهام التي يهيمن عليها التوليد (مثل الاستدلال)، يجب أن تعكس بيانات المعايرة مسار الاستدلال الكامل، وليس فقط المدخلات.
القيود: يشير المؤلفون بتواضع إلى أن RAC لا يحسن صراحةً تقليل طول التسلسل (رغم أنه يساعد بشكل غير مباشر عبر تحسين جودة التوليد)، وأن خطوة المعايرة تفرض تكلفة حسابية إضافية طفيفة مقارنة بطرق المطالبات فقط. ومع ذلك، فهم يؤكدون أن هذه التكلفة ضئيلة مقار بتكلفة إعادة التدريب.

باختاً، يثبت البحث أنه من خلال مواءمة توزيع معايرة التقليم مع آثار الاستدلال من السياسة الذاتية، يمكن تقليم نماذج الاستدلال بدقة إلى تشتت 50%، مع الحفاظ على ما يصل إلى 95% من دقة النموذج الكثيف ومنع تباطؤ الاستدلال الذي يصيب عادةً الأنظمة المستدلة المضغوطة.