💬 NLP

Teaching Language Models to Think in Code

تقدم الورقة البحثية ThinC، وهو إطار عمل ينقل استدلال النماذج اللغوية من التداخل بين اللغة الطبيعية والبرمجية إلى نموذج يرتكز على البرمجة حيث يعمل الكود نفسه كمستدل أساسي، محققاً أداءً هو الأفضل في فئته على معايير الرياضيات بمستوى المسابقات من خلال تقطير مسارات الكود وتوظيف الضبط الدقيق الخاضع للإشراف متبوعاً بالتعلم التعزيزي.

المؤلفون الأصليون: Hyeon Hwang, Jiwoo Lee, Jaewoo Kang

نُشر 2026-05-11

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Hyeon Hwang, Jiwoo Lee, Jaewoo Kang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول حل لغز رياضي صعب للغاية. لديك طريقتان للقيام بذلك:

الطريقة القديمة (التفكير المتداخل): تتحدث مع نفسك باللغة الإنجليزية، وتستنتج الخطوات. "حسناً، أولاً أحتاج لضرب 500 في 0.12..." ثم تشعر ببعض الشك، فتطلب من الآلة الحاسبة (أداة الكود) أن تتحقق من عملك. لكن العيب هنا هو أنك إذا ارتكبت خطأً في تفكيرك بالإنجليزية (مثل قول إن 12% من 500 هي 50 بدلاً من 60)، فقد تكتب بالخطأ ذلك الرقم الخاطئ في الآلة الحاسبة. الآلة الحاسبة تنفذ ما تأمرها به فقط؛ فهي لا تعرف أنك أخطأت. ستقوم بالحساب بناءً على رقمك الخاطئ، وستحصل أنت على إجابة خاطئة.
الطريقة الجديدة (THINC): تأخذ لحظة قصيرة للتخطيط لاستراتيجيتك باللغة الإنجليزية ("أحتاج لإيجاد مساحة هذا الشكل")، ثم تسلم المهمة بأكملها فوراً إلى مبرمج آلي. يكتب الروبوت كوداً، ويقوم بتشغيله، ويرى النتيجة، ثم يكتب المزيد من الكود، ويستمر في ذلك حتى تظهر الإجابة. أنت لا تقوم بأي عمليات حسابية في ذهنك أو في جمل إنجليزية؛ الروبوت هو من يقوم بكل "العمل الشاق".

تقدم هذه الورقة البحثية THINC (التفكير في الكود)، وهي طريقة جديدة لتعليم نماذج الذكاء الاصطناعي حل المسائل الرياضية من خلال جعل الكود نفسه هو المفكر، بدلاً من أن يكون مجرد أداة يستخدمها الذكاء الاصطناعي للتحقق من عمله.

المشكلة في الطريقة القديمة

يقول المؤلفون إن نماذج الذكاء الاصطناعي الحالية التي تمزج بين التفكير بالإنجليزية والكود (والتي تسمى التفكير المتكامل مع الأدوات) تعاني من ثلاث عيوب رئيسية، والتي يسمونها "القيود الهيكلية":

المُحقِّق اللاحق (Post-Hoc Verifier): غالباً ما يكتب الذكاء الاصطناعي الحل كاملاً باللغة الإنجليزية أولاً، ثم يشغل الكود فقط ليقول: "نعم، هذا صحيح". الكود هنا لا يقوم بالتفكير فعلياً؛ بل هو مجرد ختم موافقة في النهاية.
الخطأ الصامت (Silent Error): إذا ارتكب الذكاء الاصطناعي خطأً رياضياً في أفكاره بالإنجليزية (مثل حساب 12% من 500 على أنها 50 بدلاً من 60)، فقد ينسخ ذلك الرقم الخاطئ في الكود. ثم يقوم الكود بالحساب باستخدام الرقم الخاطئ، ولا يدرك الذكاء الاصطناعي ذلك أبداً. الخطأ هنا "صامت" لأن الكود ينفذ الأوامر فحسب.
العمل المزدوج (Double Work): غالباً ما يكتب الذكاء الاصطناعي شرحاً طويلاً بالإنجليزية حول كيفية حل المشكلة، ثم يكتب كوداً يفعل بالضبط نفس الشيء. الأمر يشبه كتابة وصفة بالإنجليزية ثم كتابة نفس الوصفة بالفرنسية، فقط لتثبت أنك تعرف كيف تطبخ. هذا تكرار غير مفيد ومربك.

حل THINC

تغير THINC قواعد اللعبة. فبدلاً من أن يتحدث الذكاء الاصطناعي عن الرياضيات، يتحدث الذكاء الاصطناعي بواسطة الرياضيات (من خلال الكود).

الخطة: يبدأ الذكاء الاصطنالاً بجملة إنجليزية واحدة قصيرة لتحديد الاستراتيجية (مثلاً: "سأقوم بعمل حلقة تكرارية عبر الأرقام لإيجاد الإجابة").
العمل: بعد تلك الجملة الواحدة، يحدث كل شيء في كتل برمجية (code blocks). يكتب الذكاء الاصطناعي قطعة من الكود، يشغلها، يرى المخرجات، ثم يكتب قطعة الكود التالية بناءً على تلك المخرجات.
النتيجة: تأتي الإجابة النهائية مباشرة من حاسبة الكمبيوتر (المفسر/interpreter)، وليس من تخمين الذكاء الاصطناعي بالإنجليزية.

كيف علموا الذكاء الاصطناعي

لم يكتفِ الباحثون بإخبار الذكاء الاصطناعي بفعل ذلك فحسب؛ بل علموه من خلال عملية من ثلاث خطوات:

التقطير (المعلم): أخذوا نموذج ذكاء اصطناعي ضخم وذكي جداً وطلبوا منه حل المسائل الرياضية باستخدام هذا الأسلوب الجديد "القائم على الكود أولاً". وجمعوا 12,200 مثال من هذه الحلول المثالية "القائمة على الكود أولاً".
الضبط الدقيق الخاضع للإشراف (الطالب): علموا نموذجين أصغر (أحدهما يمتلك 1.7 مليار خلية عصبية والآخر 4 مليارات) محاكاة هذه الأمثلة. علّم هذا النماذج عادة التفكير في الكود.
التعلم التعزيزي (المدرب): تركوا النماذج تتدرب على آلاف المسائل الرياضية. إذا حصل النموذج على الإجابة الصحيحة، يحصل على "مكافأة". وإذا فشل، يتعلم تجربة استراتيجية كود مختلفة. هذا جعل النماذج أكثر ذكاءً وموثوقية.

النتائج: نماذج صغيرة، انتصارات كبيرة

اختبرت الورقة هذه النماذج الجديدة في مسابقات رياضية صعبة للغاية (مثل AIME و HMMT).

هزيمة العمالقة: حقق نموذج THINC الصغير (بـ 4 مليارات بارامتر) متوسط درجة 78.1%. وهذا أفضل من نموذج الـ 1.7 مليار، وأفضل من نماذج "التفكير المتكامل مع الأدوات" الأخرى، وحتى أفضل من نموذج ضخم يمتلك 235 مليار بارامتر يعتمد فقط على التفكير بالإنجليزية!
الموثوقية: في 99.2% من الحالات، تم سحب الإجابة النهائية مباشرة من مخرجات كود الكمبيوتر. لم يخمن الذكاء الاصطناعي؛ بل قام بالحساب.
التعافي: إذا ارتكب الكود خطأً أو توقف عن العمل (error)، كان نموذج THINC جيداً بشكل مفاجئ في إصلاح الخطأ في كتلة الكود التالية دون الحاجة إلى "التحدث" للخروج من المأزق. أما النماذج الأخرى التي تمزج بين الإنجليزية والكود، فتميل إلى الانهيار عندما تواجه خطأً في الكود.

الخلاصة

تزعم الورقة أنه من خلال إجبار الذكاء الاصطناعي على التوقف عن "التحدث" عن الرياضيات والبدء في "تنفيذ" الرياضيات عبر الكود، تصبح النماذج أكثر دقة، وترتكب أخطاء حسابية أقل، وتحل المسائل الصعبة بكفاءة أكبر. الأمر يشبه الانتقال من إنسان يحاول إجراء القسمة المطولة في ذهنه إلى إنسان يعرف كيفية برمجة آلة حاسبة للقيام بذلك، خطوة بخطوة، دون ارتكاب أي خطأ حسابي ذهني أبداً.

ملخص تقني: تعليم النماذج اللغوية التفكير عبر الكود (THINC)

بيان المشكلة

بينما أصبح نموذج "الاستدلال المتكامل مع الأدوات" (TIR) نموذجًا مهيمنًا لحل المسائل الرياضية في النماذج اللغوية الكبيرة (LLMs)، فإن الإعداد "المتداخل" السائد — حيث يتناوب الاستدلال باللغة الطبيعية (NL) مع تنفيذ الكود — يعاني من ثلاثة قيود هيكلية:

التحقق اللاحق (Post-hoc Verification): غالبًا ما تكتمل الاشتقاقات في اللغة الطبيعية ثم تستخدم النماذج الكود لمجرد تأكيد الإجابة، مما يجعل المفسر (interpreter) مجرد مُتحقق سلبي وليس مستدلًا نشطًا.
الحساب غير الموثوق باللغة الطبيعية: الخطوات الحسابية أو الجبرية المتوسطة التي تُجرى في اللغة الطبيعية تكون عرضة للخطأ. وعندما تُنسخ هذه القيم الخاطئة إلى كتل برمجية لاحقة كثوابت مكتوبة يدويًا، لا يستطيع المفسر اكتشاف الخطأ، مما يؤدي إلى انتشار الأخطاء بصمت.
سوء تخصيص الأدوار: غالبًا ما تتداخل المهام بين اللغة الطبيعية والكود؛ حيث تصف اللغة الطبيعية الخواروات خطوة بخطوة، ثم يقوم الكود لاحقًا بإعادة تنفيذها، مما يفشل في استغلال نقاط القوة المتميزة لكل وسيط (اللغة الطبيوية للتخطيط رفيع المستوى، والكود للتنفيذ الدقيق).

المنهجية

يقترح المؤلفون إطار عمل THINC (التفكير عبر الكود)، وهو إطار تدريبي مصمم لنقل عبء الاستدلال الأساسي من اللغة الطبيعية إلى تنفيذ الكود.

1. تنسيق مسار THINC

على عكس مسارات TIR القياسية ( $q, t_1, c_1, o_1, t_2, c_2, o_2, \dots$ )، يفرض مسار THINC ( $q, t_1, c_1, o_1, c_2, o_2, \dots$ ) فصلًا هيكليًا صارمًا:

خطوة تخطيط واحدة ( $t_1$ ): تولد النماذج كتلة لغة طبيعية واحدة موجزة في البداية لتحديد الاستراتيجية عالية المستوى أو إعادة الهيكلة الجبرية للمسألة. ومن الأهمية بمكان أن هذه الكتلة لا تحتوي على أي اشتقاق خطوة بخطوة أو حسابات عددية.
الاستدلال المرتكز على الكود: يتكشف كل الاستدلال اللاحق من خلال كتل الكود ( $c_i$ ) المرتبطة فقط بمخرجات تنفيذها ( $o_i$ ). لا توجد كتل تفكير باللغة الطبيعية بين عمليات تنفيذ الكود.
المفسر كمستدل: تقوم كتل الكود بإجراء الاشتقاقات، والتصحيحات الذاتية، والتحققات. ويتم استخراج الإجابة النهائية مباشرة من مخرجات المفسر.

2. مسار التدريب

يتحقق إطار العمل من خلال ثلاث مراحل:

تقطير المسارات (Trajectory Distillation): يتم توجيه نموذج معلم (Qwen3.5-27B) باستخدام أمثلة قليلة (few-shot) لتوليد 12,200 مسار مرتكز على الكود. يتم تصفية هذه المسارات لضمان الصحة، ونجاح التنفيذ، ووجود ما لا يقل عن ثلاث كتل كود، وأن تشكل كتلة التخطيط أقل من 50% من إجمالي الرموز (tokens).
الضبط الدقيق تحت الإشراف (SFT): يتم ضبط نماذج الطالب (Qwen3-1.7B و Qwen3-4B-Thinking-2507) باستخدام مجموعة بيانات THINC-SFT المقطرة. وهذا يؤسس "الأولوية السلوكية المرتكزة على الكود"، مما يعلم النموذج الالتزام بتنسيق المسار المحدد.
التعلم التعزيزي (RL): باستخدام تحسين السياسة النسبي للمجموعات (GRPO) مع مكافآت قابلة للتحقق (المطابقة التامة للحقيقة الأرضية)، يتم صقل النماذج بشكل أكبر على مجموعة بيانات DAPO-Math-17k. وتستخدم عملية التعلم التعزيزي منهجًا دراسيًا مكونًا من ثلاث مراحل مع زيادة أطوال السياق (من 16K إلى 32K) وحدود استدعاء الأدوات للتعامل مع المسائل الأكثر صعوبة.

المساهمات الرئيسية

إطار عمل THINC: نموذج تدريبي جديد يعامل الكود كمستدل أساسي وليس كأداة يتم استدعاؤها بواسطة اللغة الطبيعية. وهو يعالج القيود الهيكلية لـ TIR المتداخل بالتصميم.
مجموعة بيانات THINC-SFT: مجموعة بيانات منسقة تضم 12.2 ألف مسار مرتكز على الكود توضح تنسيق الاستدلال المطلوب.
نماذج THINC: نموذجان مدربان، THINC-1.7B و THINC-4B، يثبتان أن النماذج صغيرة النطاق يمكنها تحقيق قدرات استدلال عالية المستوى عندما يتم تدريبها بهذا النموذج المحدد.

النتائج التجريبية

تم تقييم النماذج على خمسة اختبارات معيارية للرياضيات بمستوى المسابقات: AIME 2024–2026، وHMMT 2025، وBeyondAIME.

الأداء:
- حقق THINC-4B متوسط دقة بلغ 78.1%، متفوقًا على جميع نماذج TIR المرجعية (بما في ذلك ASTER-4B، وReTool-32B، وrStar2-Agent-14B) ومتجاوزًا نموذج Qwen3-235B-A22B-Thinking الأكبر بكثير (75.2%) في أربعة من الاختبارات الخمسة.
- وصل THINC-1.7B إلى متوسط دقة 42.8%، بزيادة قدرها 10.6 نقطة مئوية عن نموذجه الأساسي (Qwen3-1.7B)، متفوقًا بشكل كبير على غيره من نماذج TIR صغيرة النطاق.
الكفاءة: تطلب THINC-4B عددًا أقل من استدعاءات الأدوات لكل مسار (6.1 مقابل 11.1 لـ ASTER-4B) وأنتج استجابات أقصر، مما يشير إلى كفاءة أعلى.
المتانة: في التجارب التي تقيس التعافي من فشل تنفيذ الكود الأولي (Recovery@k)، حافظ THINC-4B على معدل تعافٍ يترا-وح بين 64-69% حتى بعد ثلاثة إخفاقات متتالية في الكود. في المقابل، تدهورت نماذج TIR المتداخلة بشكل حاد، حيث انخفض بعضها إلى ما يقرب من 0% في معدل التعافي.
الترسيخ في الكود (Code Grounding): أظهر التحليل أن 99.2% من الإجابات النهائية لـ THINC-4B كانت مستندة إلى مخرجات المفسر، مقارنة بنسب أقل بكثير للنماذج المرجعية (مثل 88.4% لـ ReTool، و74.3% لـ rStar2).

الأهمية

يزعم البحث أن THINC يثبت أن الاستدلال المرتكز على الكود هو نموذج فائق للحل المسائل الرياضية مقارنة بنموذج TIR المتداخل. فمن خلال قصر اللغة الطبيعية على التخطيط رفيع المستوى وإجبار جميع الاشتقاقات على أن تكون ضمن كود قابل للتنفيذ، يلغي هذا الإطار انتشار الأخطاء الحسابية ويضمن أن الإجابة النهائية يتم التحقق منها بواسطة المفسر. وتشير النتائج إلى أن هذا التغيير الهيكلي يسمح للنماذج الأصغر (4 مليار معلمة) بالتفوق على المستدلّين الأكبر بكثير المعتمدين على اللغة الطبيعية فقط (235 مليار معلمة) والوكلاء المتكاملين مع الأدوات، مما يسلط الضوء على فعالية "التفكير عبر الكود" بدلاً من "التفكير باستخدام الكود".