🤖 AI

SLAT: Segment-Level Adaptive Trimming for Efficient CoT Reasoning

تقدم الورقة البحثية إطار عمل SLAT، وهو إطار للتعلم المعزز يعمل على تحسين كفاءة استدلال تسلسل الأفكار من خلال التحديد النظري والتقليم التكيفي للأجزاء الزائدة وعالية الاحتمالية، مما يقلل طول الاستدلال بنسبة 50% دون المساس بالدقة.

المؤلفون الأصليون: Jian Yao, Xiongcai Luo, Ran Cheng, Kay Chen Tan

نُشر 2026-06-01

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jian Yao, Xiongcai Luo, Ran Cheng, Kay Chen Tan

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك طالباً عبقرياً ولكنه كثير الكلام يُدعى "روبوت الاستنتاج" (Reasoning Bot). عندما تسأل هذا الروبوت مسألة رياضية، فإنه لا يعطيك الإجابة فحسب، بل يكتب مذكرات طويلة من أفكاره خطوة بخطوة (ما يسمى بـ "سلسلة الأفكار" أو Chain of Thought).

مؤخراً، وجد الباحثون أنه بينما يساعد هذا الأسلوب الثرثار الروبوت في الوصول إلى الإجابة الصحيحة، إلا أنه غالباً ما يعاني من "الإفراط في التفكير" (overthinking). فهو يستمر في الكتابة لفترة طويلة بعد أن يكون قد توصل بالفعل إلى الحل. قد يعيد كتابة السؤال، أو يعيد شرح قواعد أساسية يعرفها بالفعل، أو يدقق في عمله في حلقة آلية مكررة. هذا يشبه طالباً بعد أن يحل مسألة $2+3=5$ ، يقضي الدقائق الخمس التالية في كتابة: "لقد جمعت اثنين وثلاثة. اثنان زائد ثلاثة يساوي خمسة. أنا متأكد أنها خمسة. دعني أتحقق مرة أخرى. نعم، إنها خمسة."

هذا "الإفراط في التفكير" يهدر الكثير من طاقة الكمبيوتر (والوقت) دون أن يجعل الإجابة أكثر صحة.

المشكلة في الحلول الحالية

في السابق، حاول الباحثون إصلاح ذلك عبر إخبار الروبوت: "توقف عن الكتابة بعد X من الكلمات". أو، "إذا أصبح نصك طويلاً جداً، فسنعاقبك".

المشكلة في هذا النهج هي أنه يشبه معلماً صارماً يقول: "إذا كان مقالك طويلاً جداً، فسأقص آخر 500 كلمة منه مهما كان السبب". المشكلة هي أن الروبوت قد يقطع الحل الفعلي فقط لتوفير المساحة، أو قد يقطع خطوة حاسمة بينما يترك الحشو الممل والمتكرر. إنه أداة فجة لا تفهم ما يقال، بل تفهم فقط كمية ما يقال.

الحل الجديد: SLAT (روبوت "المحرر")

يقدم البحث طريقة جديدة تسمى SLAT (التقليم التكيفي على مستوى المقاطع - Segment-Level Adaptive Trimming). بدلاً من مجرد عد الكلمات، يعمل SLAT كمحرر ذكي يراقب جودة تفكير الروبوت في الوقت الفعلي.

إليك كيف يعمل، باستخدام تشبيه بسيط:

1. كاشف "الملل"
تخيل أن الروبوت يكتب قصة. يراقب SLAT مدى ثقة الروبوت. عندما يكتب الروبوت شيئاً جديداً ومهمًا، قد يتردد قليلاً أو يختار كلماته بعناية (احتمالية منخفضة). ولكن عندما يبدأ في تكرار نفسه أو ذكر البديهيات (مثل "المسألة تطلب مجموع 2 و3")، يصبح واثقاً جداً وآلياً. يبدأ في قول الشيء نفسه مراراً وتكراراً بيقين عالٍ.

يرصد SLAT هذه "المقاطع ذات الاحتمالية العالية". في وجهة نظر البحث، هذه هي اللحظات التي يقوم فيها الروبوت فقط بـ "الدوران حول نفسه" — يتحدث كثيراً لكنه لا يتعلم أو يضيف شيئاً جديداً.

2. مكافأة "التقليم"
يستخدم SLAT طريقة تدريب خاصة (التعلم التعزيزي - Reinforcement Learning). إنه يخبر الروبوت:

"إذا استمررت في المضي قدماً وتكرار نفسك أو ذكر البديهيات فقط، فستحصل على 'عقوبة' (درجة سالبة)."
"إذا توقفت بمجرد حصولك على الإجابة وتخطيت التكرار الممل، فستحصل على 'مكافأة'."

الأمر يشبه تدريب كلب. إذا نبح الكلب على سنجاب (شيء بديهي)، فأنت تتجاهله. إذا توقف الكلب عن النباح وجلس بهدوء بمجرد رحيل السنجاب، فأنت تعطيه مكافأة. في النهاية، يتعلم الكلب التوقف عن النباح بمجرد رحيل السنجاب.

3. النتيجة
اختبر الباحثون هذه الطريقة على مسائل رياضية صعبة.

قبل SLAT: كان الروبوت يكتب شرحاً من 10,000 كلمة لمسألة بسيطة، منها 5,000 كلمة عبارة عن حشو مكرر.
بعد SLAT: لا يزال الروبوت يحصل على نفس الإجابة الصحيحة تماماً، لكنه يقلص الشرح إلى النصف (يقلل الطول بنسبة 50% تقريباً). هو يحتفظ بالخطوات الذكية والضرورية ويحذف حلقات "الإفراط في التفكير".

لماذا هذا مهم؟

وجد المؤلفون أن هذه الطريقة تخلق "نقطة مثالية". أصبح الروبوت أسرع بمرتين وأكثر كفاءة دون أن يفقد ذكاءه. وهذا يثبت أنك لست بحاجة لإجبار الروبوت على أن يكون قصيراً؛ بل تحتاج فقط لتعليمه كيف يدرك متى انتهى من الكلام وكيف يتوقف عن حلقات "الإفراط في التفكير" تحديداً.

باخت-القول: يعلم SLOT الذكاء الاصطناعي التوقف عن الكلام عندما يكتفي بتكرار نفسه، مما يوفر الوقت والطاقة مع الحفاظ على مثالية الإجابات.

ملخص تقني: SLAT – التقليم التكيفي على مستوى القطع لتعزيز كفاءة استدلال سلسلة الأفك‏ (CoT)

1. بيان المشكلة

أظهرت نماذج الاستدلال الحديثة الضخمة (LRMs)، مثل OpenAI-o1 وDeepSeek-R1، تحسينات كبيرة في مهام الاستدلال المعقدة (الرياضيات، المنطق، البرمجة) من خلال التعلم التعزيزي (RL). ومع ذلك، تعاني هذه النماذج تكراراً في "الإفراط في التفكير" (overthinking)، حيث تولد سلاسل استدلال (سلسلة الأفك‏ أو CoT) تحتوي على فائض هيكلي كبير. هذا الفائض يتسبب في تكاليف حوسبة عالية دون تحسين دقة الإجابة.

تعتمد استراتيجيات التخفيف الحالية بشكل أساسي على عقوبات طول الرموز الموحدة (token-uniform length penalties). تطبق هذه النهج ضغوطاً خشنة لتقصير المخرجات عبر معاقبة جميع الرموز بالتساوي. وتجادل الورقة بأن هذا النهج غير مثالي لأنه لا يستطيع التمييز بين خطوات الاستدلال الضرورية وبين الاستكشاف الزائد. وبناءً على ذلك، قد تؤدي العقوبات الموحدة عن غير قصد إلى كبح الخطوات الوسيطة الجوهرية، مما يقلص مساحة الاستكشاف ويؤدي إلى سياسات أقصر ولكنها أقل قدرة.

حدد المؤلفون أن عدم الكفاءة غالباً ما يتركز في القطع ذات الاحتمالية العالية (high-probability segments) في مسار الاستدلال. تقابل هذه القطع محتوى منخفض المعلومات وشبه حتمي (مثل إعادة صياغة شروط المسألة، الاستنتاجات البديهية، أو التحقق المتكرر) الذي يزيد الطول دون المساهمة في صحة الحل.

2. المنهجية: SLAT

لمعالجة ذلك، اقترح المؤلفون SLAT (التقليم التكيفي على مستوى القطع)، وهو إطار عمل للتعلم التعزيزي مصمم لقمع القطع الزائدة بشكل انتقائي بناءً على توصيف نظري لعدم مثالية القطعة.

2.1 الأساس النظري

صاغ المؤلفون مشكلة عدم الكفاءة كمسألة تحسين مقيدة: تقليل طول الاستدلال المتوقع $L(z)$ مع الحفاظ على احتمالية الصحة فوق عتبة $p_0$ . ومن خلال تحليل الصيغة اللاغرانجية لهذا الهدف، اشتقوا الافتراض 3.1 (Proposition 3.1)، وهو شرط كافٍ لعدم مثالية القطعة.

ينص الافتراض على أن توليد قطعة معينة $z_1$ يكون غير مثالي إذا كانت القطعة طويلة ويتم توليدها بـ احتمالية عالية. وتحديداً، إذا تجاوز طول القطعة وطول المسار اللاحق المتوقع عتبة معينة تحددها احتمالية القطعة واحتمالية الصحة الإجمالية، فإن تقليل احتمالية توليد تلك القطعة سيحسن الهدف بشكل صارم. يوفر هذا انحيازاً استقرائياً مبدئياً: قمع الامتدادات الطويلة وشبه الحتمية.

2.2 التنفيذ الخوارزمي

يقوم SLAT بتشغيل هذا الانحياز ضمن خوارزمية تحسين السياسة النسبية للمجموعات (GRPO) (المستخدمة في تدريب DeepSeek-R1) عبر تشكيل المكافأة على مستوى القطعة:

الكشف عبر النافذة المنزلقة: بالنسبة لمسار استدلال مولد $z$ ، تمر نافذة منزلقة بحجم $w$ عبر التسلسل. يتم حساب الاحتمالية المشتركة للرموز داخل كل نافذة تحت السياسة الحالية $\pi_{old}$ .
عدّ الاحتمالية العالية: تقوم الخوارزمية بعدّ النوافذ التي تتجاوز فيها الاحتمالية المشتركة عتبة محددة مسبقاً $\tau$ . يعمل هذا العد $C(z)$ كوسيط لطول امتدادات المعلومات المنخفضة ذات الاحتمالية العالية.
تشكيل المكافأة: تُعرف مكافأة التقليم $r_{ER}$ $r_{E R}$ كما يلي:
- إذا كان المخرج صحيحاً: $r_{ER} = -C(z)$ (معاقبة الأعداد العالية للقطع الزائدة).
- إذا كان المخرج غير صحيح: $r_{ER} = 0$ (لمنع النموذج من تعلم طرق مختصرة منحطة في المسارات الخاطئة).
تكامل الهدف: المكافأة النهائية هي $r = r_{ori} + \lambda r_{ER}$ ، حيث يتحكم $\lambda$ في قوة إشارة التقليم.

3. المساهمات الرئيسية

تلخص الورقة ثلاث مساهمات رئيسية:

التحديد والنظرية: حدد المؤلفون القطع ذات الاحتمالية العالية كمصدر شائع لعدم الكفاءة في استدلال CoT الطويل. وقدموا توصيفاً نظرياً (الافتراض 3.1) يحدد متى يكون توليد مثل هذه القطع غير مثالي في ظل المقايضة بين الصحة والطول، مما قدم انحيازاً استقرائياً مبدئياً لكفاءة الاستدلال.
إطار عمل SLAT: مسترشداً بهذه الرؤية، اقترحوا إطار عمل يعتمد على التقليم مدمج في تدريب RL. يقوم هذا الإطار بقمع قطع الاحتمالية العالية الزائدة بشكل انتقائي، مما يشجع على استدلال موجز وأمين في آن واحد دون الحاجة لعقوبات الرموز الموحدة.
التحقق التجريبي: تم التحقق من النهج على عدة معايير استدلال قياسية، مما أظهر انخفاضات جوهرية في طول الاستدلال مع الحفاظ على الدقة والتفوق باستمرار على النماذج المرجعية التي تنظم الطول.

4. النتائج التجريبية

قيم المؤلفون SLAT على معايير الاستدلال الرياضي (MATH500, OlympiadBench, AMC23, AIME24/25) ومجموعات بيانات خارج النطاق (MMLU-STEM, GPGP-Diamond).

ضغط المستنتج المقطر (Distilled Reasoner Compression): عند تطبيقه على DeepSeek-R1-Distill-Qwen-7B، قلل SLAT متوسط طول الاستدلال بنسبة 50% (من 8,404 إلى 4,176 رمزاً) مع تحقيق تحسن باريتو (Pareto improvement) في مقايضة الدقة والطول. حقق أعلى متوسط دقة (66.4) بين النماذج المرجعية، متفوقاً على 6 من أصل 7 منافسين.
تدريب النموذج الأساسي: عند تدريب Qwen2.5-Math-7B من الصفر باستخدام GRPO، أنشأ SLAT منحنى دقة-طول متفوقاً مقارنة بأهداف الرموز الموحدة (مثل Truncation, Length-MaxMin, Length-Mean). وبينما أدت العقوبات الموحدة غالباً إلى تدهور الأداء في مجموعات البيانات الصعبة (AIME24/25) عبر تعطيل التبعيات طويلة المدى، حافظ SLAT على الهياكل المنطقية الحرجة.
القابلية للتوسع: أظهرت التجارب على Qwen3-14B أن إضافة SLAT إلى GRPO قللت متوسط طول CoT بنسبة 47% (من 5,024 إلى 2,677 رمزاً) مع فقدان ضئيل جداً في الدقة (-0.5%).
كفاءة التدريب: قلل SLAT من وقت التدريب الإجمالي من خلال تشجيع المخرجات الأقصر في مراحل التدريب المتأخرة، مما خفض تكاليف التوليد وحسّن معدل الإنتاجية مقارنة بـ GRPO القياسي.
التعميم: تعمم النهج بشكل جيد على المجالات غير الرياضية (MMLU-STEM, GPQA-Diamond)، محققاً دقة تنافسية مع تقليل كبير في الطول.

5. الأهمية والادعاءات

تدعي الورقة أن التقليم المدرك للقطع والمبني على أسس نظرية هو اتجاه واعد لاستدلال CoT الفعال. وخلافاً للأساليب السابقة التي تعتمد على عقوبات خشنة على مستوى الرمز أو قواعد توقف عند وقت الاستدلال، يدمج SLAT الكفاءة مباشرة في سياسة التدريب عبر إشارة مكافأة مشتقة من البنية الداخلية لمسار الاستدلال.

يؤكد المؤلفون أن نهجهم يعالج ظاهرة "الإفراط في التفكير" تحديداً عبر استهداف القطع ذات الاحتمالية العالية والزائدة بدلاً من مجرد تقصير المخرجات. وهذا يسمح للنموذج بالحفاظ على "الأمانة المنطقية" وحل المشكلات المعقدة التي تتطلب آفاق استدلال طويلة، مع القضاء على "السقالات اللفظية" (verbose scaffolding) وإعادة الصياغات المتكررة التي تميز المسارات غير الفعالة.

يشير العمل إلى أن الكفاءة في نماذج الاستدلال لا ينبغي معاملتها كمجرد قيد للميزانية، بل كخاصية هيكلية يمكن تحسينها عبر تحديد وقمع القطع ذات المنفعة الحدية المنخفضة. وتشمل اتجاهات العمل المستقبلي المذكورة تكييف آلية التقليم ديناميكياً، والتوسع إلى عائلات نماذج أكبر (100B+)، والتحقيق في الآثار الأمنية المتعلقة بالمتانة ضد الهجمات واستخراج النماذج.