💬 NLP

Share More, Search Less: Collaborative Parallel Thinking for Efficient Test-Time Scaling

تقترح هذه الورقة إطار عمل "التفكير المتوازي التعاوني" (CPT)، وهو إطار عمل لا يتطلب تدريباً يعزز كفاءة التوسع في وقت الاختبار من خلال تمكين فروع الاستدلال المتوازية من مشاركة وإعادة استخدام الاكتشافات الوسيطة في الوقت الفعلي، مما يقلل من الاستكشاف غير الضروري ويحقق توازناً فائقاً بين الدقة وزمن الاستجابة في الاختبارات المرجعية الرياضية.

المؤلفون الأصليون: Xinglin Wang, Hao Lin, Shaoxiong Feng, Peiwen Yuan, Yiwei Li, Jiayi Shi, Yueqi Zhang, Chuyi Tan, Ji Zhang, Boyuan Pan, Yao Hu, Kan Li

نُشر 2026-05-27

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Xinglin Wang, Hao Lin, Shaoxiong Feng, Peiwen Yuan, Yiwei Li, Jiayi Shi, Yueqi Zhang, Chuyi Tan, Ji Zhang, Boyuan Pan, Yao Hu, Kan Li

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول حل لغز رياضي صعب للغاية. لديك فريق مكون من 64 محققاً عبقرياً (هؤلاء هم "الفروع المتوازية" للذكاء الاصطناعي) يعملون على نفس القضية في نفس الوقت.

الطريقة القديمة: مشكلة "الغرفة الصامتة"
في الماضي، عندما كان هؤلاء المحققون الـ 64 يعملون، كانوا في غرف منفصلة تماماً ومعزولة صوتياً.

يقضي المحقق (أ) 10 دقائق ليكتشف أن "الإجابة يجب أن تكون عدداً زوجياً".
يقضي المحقق (ب) الـ 10 دقائق التالية في اكتشاف الشيء نفسه تماماً.
يقضي المحقق (ج) 10 دقائق أخرى في إعادة اكتشاف ذلك مجدداً.

إنهم جميعاً يعملون بجد، لكنهم يهدرون قدراً هائلاً من الوقت والطاقة في إعادة اكتشاف ما اكتشفه الآخرون بالفعل. إنهم يشبهون مجموعة من الأشخاص يحاولون العثور على مفتاح مفقود في غرفة مظلمة، حيث يتحسس الجميع بعشوائية نفس البقعة، غير مدركين أن شخصاً آخر قد وجد المفض بالفعل ووضعه على الطاولة.

الحل الجديد: "التفكير المتوازي التعاوني" (CPT)
يقترح مؤلفو هذه الورقة طريقة جديدة للعمل تسمى التفكير المتوازي التعاوني (CPT). فكر في الأمر كأنك تعطي المحققين سبورة رقمية مشتركة في منتصف الغرفة.

إليك كيف يعمل الأمر:

العمل بشكل مستقل أولاً: يبدأ المحققون العمل في غرفهم الخاصة. إنهم بحاجة لقضاء وقت في التفكير بمفردهم حتى لا يكتفوا بمجرد تقليد بعضهم البعض فوراً.
تحديث "السبورة": بعد مرور فترة معينة (بعد كتابة قدر معين من النص)، يتوقفون. يقوم مساعد خاص (الذكاء الاصطناعي نفسه) بقراءة ما كتبوه، واستخراج أهم الأدلة (مثل "الإجابة زوجية" أو "لا تقسم على صفر")، وكتابتها على السبورة المشتركة.
إزالة التكرار: إذا كتب كل من المحقق (أ) والمحقق (ب) أن "الإجابة زوجية"، فإن المساعد يكتبها على السبورة مرة واحدة فقط. هذا يحافظ على نظافة السبورة ويمنع الازدحام.
البث: يقوم المساعد بعد ذلك بقراءة محتويات السبورة بصوت عالٍ للجميع. الآن، عندما يبدأ المحقق (ج) خطوته التالية، يمكنه رؤية السبورة. ليس عليه إضاعة الوقت في اكتشاف أن الإجابة زوجية؛ بل يمكنه تجاوز هذه الخطوة والانتقال إلى الجزء الصعب التالي.
التوقيت الذكي: النظام ذكي بشأن متى يشارك المعلومات. إذا كان المحققون لا يزالون يكتشفون الكثير من الأدلة الجديدة، يستمرون في العمل بمفردهم. ولكن بمجرد أن يبدأوا في العثور على نفس الأدلة القديمة مراراً وتكراراً، يقول النظام: "حسناً، حان الوقت لمشاركة السبورة!".

لماذا هذا مهم؟
اختبرت الورقة هذا على مسابقات رياضية صعبة (مثل HMMT و AIME). ووجدوا أن:

وقت ضائع أقل: توقف المحققون عن إضاعة الوقت في إعادة اكتشاف الأدلة.
إجابات أسرع: لأنهم لم يضطروا لتكرار العمل، فقد وصلوا إلى الإجابة الصحيحة بشكل أسرع.
نتائج أفضل: حتى مع نفس القدر من الوقت (أو "زمن الاستجابة/Latency")، حقق الفريق الذي يستخدم السبورة المشتركة نتائج أفضل في حل الأسئلة مقارنة بالفرق التي تعمل في صمت.

العائق (القيود)
تشير الورقة إلى أن تحديث السبورة ليس مجانياً. في كل مرة يقرأ فيها المساعد السبورة ويخبر الجميع بما عليها، فإنه يستهلك قدراً ضئيلاً من الطاقة الإضافية لمعالجة هذه المعلومات الجديدة. ومع ذلك، فإن الوقت الذي يتم توفيره من خلال عدم إعادة القيام بالعمل أكبر بككثير من تكلفة تحديث السبورة.

باخت-القول
بدلاً من 64 شخصاً يبحثون بشكل أعمى في نفس الغرفة ويصطدمون ببعضهم البعض، يمنحهم نظام CPT خريطة مشتركة. إنهم لا يزالون يستكشفون مسارات مختلفة، لكنهم يشاركون اكتشافاتهم فوراً بحيث لا يضيع أحد وقته في السير في نفس الطريق المسدود مرتين. الأمر يتعلق بـ المشاركة الأكثر والبحث الأقل.

ملخص تقني: التفكير المتوازي التعاوني من أجل توسيع كفاءة وقت الاختبار

1. بيان المشكلة

يعمل توسيع وقت الاختبار (Test-Time Scaling - TTS) على تعزيز قدرات الاستنتاج للنماذج اللغوية الكبيرة (LLMs) من خلال تخصيص حوسبة استدلال إضافية لاستكشاف فضاء الحلول. وبينما تولد طرق الـ TTS المتوازية مسارات استنتاج متعددة في وقت واحد لتسريع الاستكشاف، إلا أنها تعاني من عنق زجاجة يتمثل في عزل المعلومات.

في أساليب الـ TTS المتوازية الحالية، تظل مسارات الاستنتاج معزولة أثناء عملية البحث. والاكتشافات الوسيطة (مثل القيود، أو الأمثلة المضادة، أو الاستنتاجات الجزئية) التي تجريها مسارات معينة تظل خاصة بمسارها ولا يمكنها توجيه المسارات الأخرى في الوقت الفعلي. يؤدي هذا العزل إلى:

الاستكشاف المتكرر: تعيد المسارات المختلفة اكتشاف المعلومات التي وجدتها المسارات الأخرى بالفعل بشكل متكرر.
عدم كفاءة التقارب: تتطلب المسارات خطوات بحث أكثر لجمع المعلومات الكاملة اللازمة لاتخاذ القرار للوصول إلى الإجابة الصحيحة.
هدر الحوسبة: تُنفق موارد حوسبية كبيرة على مكاسب معلوماتية ذات عائد تناقصي بدلاً من الاستكشاف المبتكر.

يتحقق المؤلفون من وجود عنق الزجاجة هذا من خلال دراسات أولية تظهر أن أخذ العينات المتوازي المستقل ينتج وحدات معلومات مكررة متزايدة مع تقدم البحث، بينما يؤدي حقن المعلومات المشتركة "خارج الخط" (offline) إلى تحسين الدقة وسرعة التقارب بشكل كبير.

2. المنهجية: التفكير المتوازي التعاوني (CPT)

لمعالجة عزل المعلومات، يقترح المؤلفون التفكير المتوازي التعاوني (Collaborative Parallel Thinking - CPT)، وهو إطار عمل للاستدلال لا يتطلب تدريباً. يحول CPT عملية الـ TTS المتوازية من استكشاف معزول إلى عملية مشاركة معلومات أثناء البحث. ويعمل من خلال ثلاثة مكونات منسقة:

أ. البحث المتوازي التعاوني

يطلق CPT عدد $K$ من مسارات الاستنتاج بالتوازي. وبخلاف الطرق التي تعيد كتابة المسارات أو تحقن المحتوى في منتصف التوليد، يقوم Cpy بمزامنة المسارات فقط عند خطوات بحث محددة بعدد الرموز (على سبيل المثال، كل $C$ من الرموز).

التواريخ الخاصة: يحتفظ كل مسار بتاريخ استنتاج خاص به ( $h_i$ ).
السياق المشترك: عند نقاط المزامنة، يتم توفير كتلة معلومات مشتركة كسياق إضافي لقطع التوليد اللاحقة، مما يسمح للمسارات بإعادة استخدام الاكتشافات دون تغيير مسارات الاستكشاف الخاصة بها.

ب. تجميع المعلومات المشتركة

تعتبر مسارات الاستنتاج الخام مليئة بالضجيج بحيث يصعب مشاركتها مباشرة. يستخدم CPT نفس نموذج السياسة $\pi$ لاستخراج وحدات معلومات مدمجة ( $Z$ ) من الأجزاء المولدة حديثاً.

الاستخراج: يستخرج النموذج وحدات محددة مثل الاستنتاجات الوسيطة، والقيود، والملاحظات، والأمثلة المضادة، والفحوصات المفيدة.
إزالة التكرار: تُضاف الوحدات المستخرجة إلى مجمع مشترك على مستوى الاستعلام ( $P$ ). يقوم النظام بتصفية المرشحين باستخدام التشابه الدلالي (عبر تضمينات النصوص) مقابل المدخلات الموجودة. يتم قبول الوحدات التي تقل عن عتبة تشابه معينة ( $\tau_{dup}$ ) فقط، مما يضمن بقاء المجمع مدمجاً وكثيف المعلومات.
البث: عند خطوات ثابتة، يتم تسلسل ما يصل إلى $M$ من المدخلات من المجمع منزوع التكرار في سياق المدخلات (السبورة) لجميع المسارات.

ج. جدولة البث التكيفية

لمنع التقارب المبكر أو فقدان تنوع الاستكشاف، يستخدم CPT جدولاً زمنياً تكيفياً يعتمد على العائد المعلوماتي الحدي:

مرحلة السبر (Probe Phase): تستكشف المسارات بشكل مستقل. يتم كتابة المعلومات المستخرجة في المجمع ولكن لا يتم بثها بعد.
مرحلة البث (Broadcast Phase): يتم تفعيلها عندما ينخفض معدل المعلومات الجديدة المقبولة في المجمع إلى ما دون عتبة البداية ( $\tau_{start}$ ). يتم بث المجمع المشترك إلى جميع المسارات.
مرحلة التشغيل الحر (Free-Run Phase): يتم تفعيلها عندما ينخفض العائد إلى ما دون عتبة التوقف ( $\tau_{stop}$ ). تتوقف المزامنة، وتكمل المسارات عملية فك التشفير بشكل مستقل حتى النهاية.

3. المساهمات الرئيسية

تحديد عزل المعلومات: يحدد البحث ويتحقق من أن غياب مشاركة المعلومات أثناء البحث في الـ TTS المتوازي يسبب إعادة اكتشاف مكررة ويبطئ التقارب.
إطار عمل CPT: اقتراح طريقة لا تتطلب تدريباً تمكن المسارات المتوازية من مشاركة المعلومات ذات الصلة بالقرار عبر الاستخراج المدمج، والتجميع منزوع التكرار، والبث التكيفي.
التحقق التجريبي: تقييم واسع النطاق على اختبارات الاستدلال الرياضي الصعبة (HMMT24/25, AIME24/25/26) عبر أحجام نماذج مختلفة (QWEN3-4B و QWEN3-30B) وميزانيات تشغيل (rollout budgets) متنوعة.

4. النتائج التجريبية

قيم المؤلفون CPT مقابل خطوط أساس قوية، بما في ذلك أخذ العينات المتوازي الأساسي (Base Parallel Sampling)، وDeepConf (الاختيار القائم على الثقة)، وLeaP (توجيه المسارات النظيرة للتصحيح الذاتي).

حد باريتو بين الدقة وزمن الاستجابة (Accuracy–Latency Pareto Frontier): يضع CPT باستمرار حدود دقة–زمن استجابة أقوى من خطوط الأساس. فهو يحقق دقة أعلى عند نفس زمن الاستجابة الفعلي (wall-clock latency) عبر مختلف أحجام النماذج وتوزيعات المشكلات.
تقليل التكرار: يظهر تحليل إحصائيات المعلومات أن CPT يقلل بشكل كبير من عدد وحدات المعلومات المكررة المكتشفة لكل خطوة مع الحفاظ على معدل مماثل لاكتشاف المعلومات الجديدة.
مكاسب الكفاءة:
- Pass@1 & MV@K: يحسن CPT كلاً من جودة المسار الفردي (Pass@1) ودقة تصويت الأغلبية (MV@K)، مما يشير إلى أن مشاركة المعلومات تحسن جودة المسارات الفردية بدلاً من مجرد محاذاتها قبل الأوان.
- كفاءة الرموز (Token Efficiency): يحقق CPT حدود دقة–رموز أقوى، مما يقلل من عمليات فك التشفين غير الضرورية المستهلكة في إعادة اكتشاف المعلومات المعروفة.
- مقايضة العمليات الحسابية (FLOPs Trade-off): بينما يقلل CPT من الرموز المكررة، فإن التنفيذ القياسي يتسبب في عمليات حسابية إضافية بسبب إعادة ملء الذاكرة المؤقتة (re-prefilling) للسياق المحدث أثناء البث. يشير المؤلفون إلى أن الآليات الواعية للذاكرة المخبئية (cache-aware mechanisms) في المستقبل يمكن أن تخفف من ذلك.

5. الأهمية والادعاءات

يزعم البحث أن كفاءة توسيع وقت الاختبار المتوازي لا تعتمد فقط على إطلاق المزيد من مسارات الاستنتاج، بل تعتمد بشكل حاسم على تمكين المسارات من مشاركة وإعادة استخدام المعلومات ذات الصلة بالقرار أثناء البحث.

تحول في النموذج: ينقل CPT عملية الـ TTS المتوازية من "أخذ عينات مستقل مع تجميع لاحق" إلى "بحث تعاوني مع تجميع معلومات في الوقت الفعلي".
لا يتطلب تدريباً: لا تتطلب الطريقة أي تدريب إضافي، أو نماذج مكافأة، أو مصححات خارجية، بل تعتمد فقط على قدرة نموذج السياسة على استخراج واستخدام السياق المشترك.
القابلية للتوسع: النهج فعال عبر أحجام نماذج متنوعة (من 4B إلى 30B بارامتر) وصعوبات مشكلات مختلفة، مما يشير إلى أن التعاون أثناء البحث هو آلية قابلة للتعميم من أجل استدلال فعال.

يخلص المؤلفون إلى أن تقليل إعادة الاكتشاف المتكرر من خلال التعاون أثناء البحث هو اتجاه فعال لتوسيع الـ TTS المتوازي، مما يوفر مساراً عملياً لتوسيع حوسبة الاستدلال دون عبء زمن الاستجابة الذي تفرضه طرق التحسين المتسلسلة.