💬 NLP

Logit Arithmetic Elicits Long Reasoning Capabilities Without Training

تقدم الورقة البحثية ThinkLogit، وهي طريقة للفك عند وقت الاستنتاج لا تتطلب تدريباً وتستفيد من حسابات اللوجيت (logit arithmetic) لنقل قدرات التفكير متسلسل السلسلة من نموذج "موجه" صغير إلى نموذج هدف كبير غير قادر على التفكير، مما يحقق مكاسب كبيرة في الأداء عبر معايير الرياضيات والعلوم والبرمجة دون الحاجة إلى تحديثات التدرج أو تكبد أعباء إضافية كبيرة في وقت الاستنتاج.

المؤلفون الأصليون: Yunxiang Zhang, Muhammad Khalifa, Lechen Zhang, Xin Liu, Ayoung Lee, Xinliang Frederick Zhang, Farima Fatahi Bayat, Lu Wang

نُشر 2026-04-21

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yunxiang Zhang, Muhammad Khalifa, Lechen Zhang, Xin Liu, Ayoung Lee, Xinliang Frederick Zhang, Farima Fatahi Bayat, Lu Wang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك عبقرياً بارعاً ولكنه كسول (نموذج ذكاء اصطناعي ضخم) يعرف الكثير من الحقائق، لكنه سيء جداً في حل الألغاز المعقدة. يميل هذا العبقري إلى التسرع في الوصول إلى الإجابة، ويرتكب الأخطاء، ولا يراجع عمله أبداً. ولديك أيضاً متدرب صغير، نشيط ومركز للغاية (نموذج ذكاء اصطناعي صغير) يجيد حل الألغاز بشكل مذهل، ويدقق في عمله، ويفكر في المشكلات خطوة بخوة.

عادةً، لجعل العبقري الكسول بمستوى جودة المتدرب، سيتعين عليك قضاء شهور وإنفاق ملايين الدولارات لإعادة تدريب العبقري من الصفر. وهذا أمر مكلف وبطيء.

تقدم هذه الورقة البحثية حيلة ذكية تسمى THINKLOGIT. فبدلاً من إعادة تدريب العبقري، تسمح للمتدرب بـ "الهمس" بالنصائح للعبقري في الوقت الفعلي أثناء تفكيره.

إليك كيف يعمل ذلك، مقسماً عبر تشبيهات بسيطة:

1. المشكلة: "العبقري الكسول"

نماذج الذكاء الاصطناعي الكبيرة (مثل النموذج الذي يحتوي على 32 مليار معلمة في هذه الدراسة) تشبه الموسوعات التي تمتلك عقلاً. يمكنها كتابة المقالات والإجابة على الأسئلة البسيطة فوراً. ولكن عند مواجهة مسألة رياضية صعبة أو خطأ برمجِي (bug)، فإنها غالباً ما:

تتسرع في الوصول إلى استنتاج.
تفشل في التحقق من منطقها الخاص.
تستسلم بسهولة شديدة.

ولإصلاح ذلك، تقوم الشركات عادةً بتدريب هذه النماذج على "التفكير لفترة أطول" (سلسلة الأفكد - Chain-of-Thought). لكن تدريب نموذج ضخم يشبه محاولة تعليم حوت كيف يرقص؛ الأمر يتطلب كميات هائلة من الطاقة والمال.

2. الحل: "المتدرب الهامس"

يقترح المؤلفون طريقة حيث يقوم نموذج صغير وذكي (المتدرب) بتوجيه نموذج ضخم غير قادر على الاستنتاج المنطقي (العبقري) دون تغيير دماغ العبقري على الإطلاق.

الإعداد: تم تدريب النموذج الصغير على التفكير بعمق. هو يعرف كيف يتراجع عن الخطوات، ويتحقق من النتائج، ويصحح الأخطاء.
الحيلة (حساب اللوجيت - Logit Arithmetic): في كل مرة يوشك فيها النموذج الكبير على اختيار الكلمة التالية، يختار النموذج الصغير أيضاً كلمة. يقوم النظام بحساب الفرق بين ما يريد النموذج الصغير قوله وبين ما قد يقوله "نسخته الكسولة".
الهمس: يتم إضافة هذا الفرق إلى قرار النموذج الكبير. الأمر يشبه وقوف المتدرب فوق كتف العبقري وهمس قائلًا: "انتظر، لا تختر تلك الكلمة. إذا اخترت كلمة 'انتظر' بدلاً منها، فستتذكر مراجعة حساباتك."

النموذج الكبير لا يحتاج لتعلم أي شيء جديد، فهو يكتفي فقط باتباع هذا التوجيه البسيط.

3. التطوير: "THINKLOGIT-DPO" (المدرب)

أحياناً، يتحدث المتدرب والعبقري "لغات" مختلفة قليلاً أو لديهما أساليب مختلفة. ولجعل الهمس أكثر وضوحاً، قام المؤلفون بتدريب المتدرب ليكون مدرباً أفضل.

لقد علموا المتدرب تحديداً كيفية رصد أخطاء العبقري وتصحيحها، مع الحفاظ على نقاط قوة العبقري. هذه النسخة (THINKLOGIT-DPO) حققت أداءً أفضل. إنه يشبه توظيف مدرب متخصص يعرف بالضبط أين يتعثر العبقري، ويدربه خصيصاً لإصلاح تلك المواضع.

4. النتائج: سحر بدون تكلفة

اختبر المؤلفون هذه الطريقة على مسائل صعبة في الرياضيات والعلوم والبرمجة.

الربح: باستخدام نموذج صغير (1.5 مليار معلمة) لتوجيه نموذج كبير (32 مليار معلمة)، نجحوا في تحسين أداء النموذج الكبير بنسبة 21% إلى 24%.
الكفاءة: حققوا نتائج قريبة جداً مما يمكن تحقيقه بإعادة تدريب النموذج الضخم بالكامل، ولكن مع صفر تكلفة تدريب للنموذج الضخم.
المرونة: يمكن للنموذج "الموجه" الصغير حتى مساعدة نماذج ضخمة من عائلات مختلفة (مثل مساعدة نموذج Qwen ليفكر مثل نموذج Llama). إنه بمثابة مترجم عالمي للمنطق والاستنتاج.

5. لماذا يهم هذا؟

فكر في الأمر بهذه الطريقة:

الطريقة القديمة: لجعل السيارة تقود نفسها، عليك إعادة بناء المحرك ونظام نقل الحركة بالكامل (أمر مكلف، بطيء، ويتطلب مصنعاً).
طريقة THINKLOGIT: أنت فقط تقوم بتثبيت نظام GPS ومساعد طيار يخبر السائق بالضبط متى ينعطف ومتى يضغط على المكابح. السيارة هي نفسها، لكنها الآن تقود ببراعة.

باخت ملخص: تُظهر هذه الورقة البحثية أنك لست بحاجة لحرق ملايين الدولارات لجعل نماذج الذكاء الاصطناعي الكبيرة "تفكر" بشكل أفضل. أنت فقط بحاجة إلى صديق صغير وذكي يهمس بالنصيحة الصحيحة في الوقت المناسب. إنها تحول المفكر السريع والمستهتر إلى مفكر بطيء، حذر، ودقيق للغاية في حل المشكلات بشكل فوري.

فيما يلي ملخص تقني مفصل لورقة البحث بعنوان: "حساب اللوجيت يستحث قدرات الاستدلال الطويل دون تدريب" (Logit Arithmetic Elicits Long Reasoning Capabilities Without Training).

١. بيان المشكلة

أظهرت نماذج الاستدلال الكبيرة (LRMs) مثل OpenAI o1 وDeepSeek-R1 قدرات مذهلة في سلسلة التفكير الطويلة (CoT)، باستخدام استراتيجيات مثل التراجع (backtracking)، والتحقق الذاتي (self-verification)، والتخطيط (planning). ومع ذلك، فإن اكتساب هذه القدرات يتطلب عادةً عمليات ما بعد التدريب المكثفة (مثل التعلم التعزيزي RL أو الضبط الدقيق الخاضع للإشراف SFT) على مجموعات بيانات ضخمة.

حدد المؤلفون فجوة حرجة:

حاجز التكلفة: يعد الضبط الدقيق للنماذج الكبيرة (مثل 32B+ بارامتر) من أجل الاستدلال الطويل أمراً باهظ التكلفة حوسبياً.
قصور الطرق الحالية: تتطلب الطرق الحالية التي لا تعتمد على التدريب (مثل هندسة التمثيل أو تضخيم الخلايا العصبية) وصولاً إلى "الصندوق الأبيض" (white-box access)، أو إشرافاً متخصصاً في المجال، أو أنها تفشل في استحثاث استدلال معقد حقيقي، حيث تكتفي بزيادة الإسهاب في المخرجات دون تحسين الدقة.
السؤال البحثي: هل يمكن لنموذج استدلال صغير ومدرب أن يستحث سلوكيات سلسلة التفكير الطويلة (Long CoT) في نموذج كبير، مجمد، وغير مستدل عليه أثناء وقت الاستنتاج دون تحديث بارامترات النموذج الكبير؟

٢. المنهجية

تقترح الورقة إطار عمل THINKLOGIT، وهو إطار عمل للفك (decoding) ينقل قدرات الاستدلال من نموذج "موجه" (guider) صغير إلى نموذج "هدف" (target) كبير باستخدام حساب اللوجيت (logit arithmetic).

الآلية الجوهرية: حساب اللوجيت

عند كل خطوة فك $t+1$ ، تقوم الطريقة بحساب اللوجيتات للرمز (token) التالي عن طريق دمج لوجيتات النموذج الهدف مع "إزاحة استدلال" (reasoning shift) مشتقة من النموذج الموجه.
المعادلة هي:
$\tilde{\ell}_{t+1} = \ell(L)_{t+1} + \alpha \cdot (\ell(S)_{t+1} - \ell(S_0)_{t+1})$
حيث أن:

$\ell(L)_{t+1}$ : اللوجيتات من النموذج الهدف الكبير (مجمد، غير مستدل).
$\ell(S)_{t+1}$ : اللوجيتات من النموذج الموجه الصغير (مدرب على CoT طويل).
$\ell(S_0)_{t++1}$ : اللوجيتات من النموذج الأساسي الصغير (النسخة ما قبل تدريب الـ CoT الطويل للنموذج الموجه).
$\alpha$ : معامل فائق يتحكم في قوة التوجيه.
حد الفرق ( $\ell(S) - \ell(S_0)$ ): يمثل هذا الحد إزاحة الاحتمالية الناتجة عن تدريب الـ CoT الطويل. وهو يشفر "إشارة الاستدلال" (مثل الميل للتراجع أو التحقق) دون الحاجة لأن يتعلمها النموذج الهدف.

التحسين: THINKLOGIT-DPO

لمعالجة عدم التطابق في التوزيع بين النموذج الموجه والنموذج الهدف، قدم المؤلفون THINKLOGIT-DPO. يتضمن ذلك تدريب النموذج الموجه الصغير ليقوم بتصحيح أخطاء النموذج الهدف بشكل أفضل باستخدام التحسين المباشر للتفضيلات (DPO) على أزواج تفضيل مختلطة:

النوع الأول: (النموذج الهدف ذو الـ CoT القصير الصحيح) > (النموذج الموجه ذو الـ CoT الطويل غير الصحيح). (يعلّم الموجه الحفاظ على صحة النموذج الهدف).
النوع الثاني: (النموذج الموجه ذو الـ CoT الطويل الصحيح) > (النموذج الهدف ذو الـ CoT القصير غير الصحيح). (يعلّم الموجه تصحيح أخطاء الاستدلال في النموذج الهدف).

يتم ضبط الموجه بدقة باستخدام مزيج من هذه الأزواج، ثم يُستخدم في معادلة حساب اللوجيت. وهذا يجعل التوجيه أكثر "توافقاً مع السياسة" (on-policy) وأكثر متانة.

٣. المساهمات الرئيسية

إطار عمل THINKLOGIT: طريقة فك مبتكرة لا تتطلب تدريباً، تستحث قدرات الاستدلال في سلاسل التفكير الطويلة في النماذج الكبيرة المجمدة عبر نقل إشارات الاستدلال بواسطة حساب اللوجيت من موجه صغير.
THINKLOGIT-DPO: نسخة محسنة تعمل على مواءمة الموجه مع الهدف عبر تحسين التفضيلات، مما يعزز الأداء بشكل كبير من خلال تصحيح أخطاء النموذج الهدف المحددة.
التعميم عبر عائلات النماذج: أثبتت الطريقة أن نموذج موجه واحد صغير (مثل القائم على Qwen) يمكنه توجيه الاستدلال بفعالية في نماذج كبيرة من عائلات مختلفة تماماً (مثل Llama، OLMo، EXAONE)، بشرط معالجة محاذاة المفردات (vocabulary alignment).
الكفاءة: لا تتطلب الطراف صفر تدريب للنموذج الهدف الكبير، وتؤدي حِملاً إضافياً طفيفاً في وقت الاستنتاج (يمكن حساب اللوجيتات بالتوازي)، مما يوفر بديلاً عملياً للضبط الدقيق الكامل للنموذج.

٤. النتائج التجريبية

تم تقييم الطرق على ستة اختبارات معيارية: AIME 2024/2025، AMC 23، MATH Level 5، GPQA Diamond، وLiveCodeBench v5.

مكاسب الأداء:
- باستخدام موجه استدلال 1.5B (R1-Distill-Qwen-1.5B) لتوجيه هدف 32B (Qwen2.5-32B):
  - THINKLOGIT: حقق تحسناً نسبياً بنسبة 21.5% مقارنة بالهدف المجمد.
  - THINKLOGIT-DPO: حقق تحسناً نسبياً بنسبة 24.2%.
- نجحت الطريقة في استعادة جزء كبير من فجوة الأداء بين الهدف المجمد وخطوط الأساس المعتمدة على الضبط الدقيق الفعال للبيانات (على سبيل المثال، سدت 45% من الفجوة مع خط أساس SFT الموفر للبيانات).
التعميم عبر العائلات: تم تطبيق موجه قائم على Qwen بنجاح على Llama-3.3-70B، وOLMo-2-32B، وEXAONE-3.5-32B، مما حقق مكاسب دقة ثابتة (تصل إلى +25.9% مطلقة على EXAONE).
سلوكيات الاستدلال: أظهر التحليل زيادة دراماتيكية في السلوكيات المعرفية الرئيسية (التفرع، التراجع، والتحقق الذاتي) في النموذج الهدف، مما يؤكد أن الطريقة تستحث استدلالاً حقيقياً وليس مجرد إسهاب لفظي.
المقارنة مع خطوط الأساس: تفوقت الطريقة على خطوط الأساس التي لا تعتمد على التدريب مثل "فرض الميزانية" (budget forcing) (إطالة المخرجات اصطناعياً) و"التعلم داخل السياق" (ICL)، والتي غالباً ما أدت إلى تدهور الأداء أو فشلت في استحثاث استراتيجيات معقدة.
توسع الاستنتاج: تتوسع الطريقة بفعالية مع أخذ العينات المتكرر (Pass@k)، مما يظهر كفاءة عينة متفوقة مقارنة بالنموذج الهدف وحده.

٥. الأهمية والآثار المترتبة

دمقرطة الاستدلال المتقدم: تمكن المؤسسات من فتح قدرات الاستدلال الشبيهة بـ "o1" في النماذج الكبيرة المملوكة أو "الصندوق الأسود" دون تكلفة إعادة تدريبها.
أنظمة الذكاء الاصطناعي التركيبية (Modular AI): تؤسس لنموذج يعمل فيه نماذج خفيفة ومتخصصة كـ "مدربي استدلال" لنماذج التأسيس الأكبر، مما يسمح بترقيات تركيبية دون إعادة تدريب النظام بالكامل.
كفاءة الموارد: تقلل بشكل جذري من الحاجة للحوسبة اللازمة للاستدلال. بينما قد يتطلب الضبط الدقيق الكامل لنموذج 32B حوالي 8 وحدات GPU من نوع 80GB، فإن THINKLOGIT يتطلب فقط استضافة النماذج (التي تناسب نفس الأجهزة) مع تقليل في إنتاجية الاستنتاج بنسبة ~25% (يمكن تخفيف هذا عبر الحوسبة المتوازية).
تطبيقات الخصوصية والصندوق الأسود: قابلة للتطبيق في السيناريوهات التي لا يمكن فيها تعديل النموذج الهدف (مثل الوصول عبر API فقط) أو حيث تمنع الخصوصية عملية الضبط الدقيق (مثل التوجيه على الجهاز لنموذج مركزي).

في الختام، تثبت الورقة أن التوجيه في وقت الاستنتاج عبر حساب اللوجيت هو آلية قوية، وقابلة للتوسع، ومنخفضة التكلفة لنقل قدرات الاستدلال المعقدة من النماذج الصغيرة المتخصصة إلى نماذج التأسيس الكبيرة العامة.