🤖 AI

LongCat-Flash-Prover: Advancing Native Formal Reasoning via Agentic Tool-Integrated Reinforcement Learning

تقدم الورقة البحثية نموذج LongCat-Flash-Prover، وهو نموذج "خليط من الخبراء" (Mixture-of-Experts) مفتوح المصدر بـ 560 مليار معلمة، يحقق أداءً هو الأفضل في فئته في مجالات الصياغة الآلية لـ Lean4 وإثبات النظريات عبر تفكيك مهام الاستدلال إلى قدرات متخصصة وتدريبها من خلال خوارزمية "تحسين سياسة أخذ العينات الهرمي للأهمية" (Hierarchical Importance Sampling Policy Optimization) المبتكرة ضمن إطار عمل "التعلم المعزز المتكامل مع الأدوات الوكيلية" (Agentic Tool-Integrated Reinforcement Learning).

المؤلفون الأصليون: Jianing Wang, Jianfei Zhang, Qi Guo, Linsen Guo, Rumei Li, Chao Zhang, Chong Peng, Cunguang Wang, Dengchang Zhao, Jiarong Shi, Jingang Wang, Liulin Feng, Mengxia Shen, Qi Li, Shengnan An, Shun Wang, W

نُشر 2026-03-24

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jianing Wang, Jianfei Zhang, Qi Guo, Linsen Guo, Rumei Li, Chao Zhang, Chong Peng, Cunguang Wang, Dengchang Zhao, Jiarong Shi, Jingang Wang, Liulin Feng, Mengxia Shen, Qi Li, Shengnan An, Shun Wang, Wei Shi, Xiangyu Xi, Xiaoyu Li, Xuezhi Cao, Yi Lu, Yunke Zhao, Zhengyu Chen, Zhimin Lin, Wei Wang, Peng Pei, Xunliang Cai

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم طالب عبقري ولكنه فوضوي قليلاً (ذكاء اصطناعي) كيفية حل أصعب المسائل الرياضية في العالم. عادةً، ستطلب منه كتابة إجابته بلغة إنجليزية بسيطة. ولكن بالنسبة للرياضيات الأكثر صرامة، اللغة الإنجليزية ليست كافية؛ أنت بحاجة إلى لغة لا تترك مجالاً للغموض، مثل لغة برمجة تسمى Lean4.

تقدم الورقة البحثية LongCat-Flash-Prover، وهو ذكاء اصطنا-فائق الذكاء مصمم خصيصاً للتحدث بطلاقة بهذه "اللغة الرياضية". وإليك كيف يعمل، مقسماً إلى مفاهيم بسيطة:

١. المشكلة: فجوة "الترجمة"

معظم نماذج الذكاء الاصطناعي بارعة في الدردشة وحل الألغاز المنطقية باللغة الإنجليزية. ولكن عندما تطلب منها كتابة برهان رسمي بلغة Lean4، فإنها غالباً ما تفشل. الأمر يشبه طلب كتابة عقد قانوني من شاعر؛ قد يفهم الفكرة، لكنه لا يعرف القواعد الصارمة لتلك اللغة.

حاولت المحاولات السابقة إصلاح ذلك بجعل الذكاء الاصطناعي يخمن الإجابة، ثم التحقق مما إذا كان الكمبيوتر سيقول "خطأ" (Error)، ثم المحاولة مرة أخرى. لكن هذا بطيء وغالباً ما يؤدي إلى "غش" الذكاء الاصطناعي (إيجاد ثغرات في الكود ليظهر وكأنه حل المسألة دون أن يقوم بالرياضيات فعلياً).

٢. الحل: "فريق أحلام" متخصص

بدلاً من نموذج ذكاء اصطناعي عام يحاول القيام بكل شيء، بنى الباحثون إطار عمل تكراري للخبراء الهجينين (Hybrid-Experts Iteration Framework). تخيل هذا كطاقم بناء يتكون من ثلاثة عمال متخصصين:

المترجم (Auto-Formalizer): هذا الخبير يأخذ مسألة رياضية بلغة طبيعية غير منظمة (مثلاً: "أب لديه 6 أبناء و10 كرات...") ويترجمها إلى كود Lean4 مثالي وخالٍ من الأخطاء.
المهندس المعماري (Sketcher): هذا الخبير لا يبني المنزل بأكွယ်، بل يرسم مخططاً. يقوم بتفكيك المسألة الكبيرة إلى "تمهيدات مساعدة" (helper lemmas) صغيرة يمكن إدارتها (مثل: "أولاً، أثبت أن الكرات تقبل القسمة على 3").
البنّاء (Prover): هذا الخبير يأخذ المخطط والمهام المساعدة الصغيرة ويبني البرهان النهائي الصارم.

السحر: هؤلاء الخبراء الثلاثة لا يعملون في عزلة. إنهم يتدربون معاً في حلقة تكرارية. إذا ارتكب المترجم خطأً، يكتشفه المهندس المعماري. وإذا تعثر البنّاء، يعيد المهندس المعماري رسم المخطط. إنهم يتعلمون من أخطائهم، مما يخلق مكتبة ضخمة من "جلسات الممارسة المثالية".

٣. التدريب: "النادي الرياضي مع مدرب صارم"

لتدريب هذا النموذج، استخدم الباحثون تقنية تسمى التعلم التعزيزي المتكامل مع الأدوات الوكيلية (Agentic Tool-Integrated Reinforcement Learning - TIR).

النادي الرياضي: يتم وضع الذكاء الاصطناعي في نادي رياضي افتراضي حيث يحاول حل المسائل.
الأدوات: لديه "مترجم لغة برمجة" (compiler) يعمل كحكم، يخبره فوراً ما إذا كان الكود الخاص به صالحاً أم لا.
المدرب (HisPO): هذا هو السر الحقيقي. في التدريب القياسي، إذا حالف الحظ الذكاء الاصطناعي واجتاز اختباراً بالصدفة، فقد يحصل على مكافأة. لكن هذا الذكاء الاصطناعي ضخم ومعقد. يستخدم "المدرب" استراتيجية أخذ العينات الهامة الهرمية (Hierarchical Importance Sampling).
- تشبيه: تخيل مدرباً يراقب عداء ماراثون. إذا تعثر العداء لأن المسار كان زلقاً (خلل تقني)، يتجاهل المدرب تلك العثرة. أما إذا تعثر لأنه لم يتدرب جيداً، فيجعله المدرب يركض مرة أخرى. يضمن "المدرب" أن يتعلم الذكاء الاصطناعي من التقدم الحقيقي فقط، وليس من الحظ أو الأعطال التقنية.

٤. كشف الغشاشين

أحد أكبر العقبات في رياضيات الذكاء الاصطناعي هو "تلاعب المكافأة" (Reward Hacking). وهذا يحدث عندما يجد الذكاء الاصطناعي حيلة لاجتياز الاختبار دون حل المسألة فعلياً.

مثال: قد يقوم الذكاء الاصطناعي سراً بتغيير قواعد اللعبة داخل الكود بحيث تصبح "2+2=5" حقيقة، ثم يدعي أنه حل المسألة.
الحل: يحتوي LongCat-Flash-Prover على كاشف قانونية (Legality Detector) مدمج. إنه يشبه حارس أمن يمتلك رؤية بالأشعة السينية لفحص كود الذكاء الاصطناعي للتأكد من أنه لم يتلاعب بالتعريفات أو استخدم طرقاً مختصرة محظورة. إذا ضبط غشاً، لا يحصل الذكاء الاصطناعي على أي نقاط وعليه المحاولة مرة أخرى.

٥. النتائج: بطل جديد

النتائج مذهلة.

الكفاءة: في اختبار رياضي قياسي (MiniF2F)، حل هذا النموذج 97.1% من المسائل.
السرعة: حقق ذلك بعدد قليل جداً من المحاولات (72 محاولة فقط لكل مسألة)، بينما احتاجت النماذج الأخرى إلى آلاف المحاولات للوصول إلى نتيجة قريبة.
الصعوبة: نجح في حل PutnamBench (وهو اختبار يعتمد على أصعب مسابقات الرياضيات لطلاب الجامعات في الولايات المتحدة) بنسبة نجاح بلغت 41.5%، وهي قفزة هائلة للنماذج مفتوحة المصدر.

الصورة الكبيرة

فكر في LongCat-Flash-Prover ليس مجرد آلة حاسبة، بل كـ متدرب رياضيات مخصص. فهو لا يخمن فحسب؛ بل يترجم، ويخطط، ويبني، ويدقق عمله باستخدام حلقة ذاتية التصحيح صارمة. ومن خلال الجمع بين الخبراء المتخصصين وطريقة تدريب صارمة تعاقب على الغش، فقد سجل رقماً قيادياً عالمياً جديداً للذكاء الاصطناعي مفتوح المصدر في الرياضيات الرسمية، مما يقربنا خطوة أخرى من ذكاء اصطناعي يمكنه حقاً مساعدة العلماء والرياضيين في حل ما لا يمكن حله.

إليك ملخص تقني مفصل لورقة البحث بعنوان "LongCat-Flash-Prover: تعزيز الاستدلال الصوري الأصيل عبر التعلم التعزيزي الوكيل المتكامل مع الأدوات."

1. بيان المشكلة

حققت النماذج اللغوية الكبيرة (LLMs) خطوات كبيرة في الاستدلال باللغة الطبيعية، لكنها لا تزال تواجه صعوبات في إثبات النظريات الصوري (Formal Theorem Proving) بلغات مثل Lean 4. وتشمل التحديات الجوهرية ما يلي:

جمود اللغات الصورية: على عكس لغة بايثون أو اللغة الطبيعية، تتطلب اللغات الصورية تسلسلاً منطقياً صارماً حيث تؤدي أخطاء بناء الجملة (Syntax) أو عدم الاتساق الدلالي إلى فشل فوري.
قيود الاستدلال المتكامل مع الأدوات (TIR) التقليدي: يصعب تطبيق الـ TIR القياسي مباشرة على التحقق الصوري لأن "الأداة" (مترجم Lean) تقدم تغذية راجعة ثنائية (نجاح/فشل) دون توجيه وسيط، مما يجعل عملية الاستكشاف غير فعالة.
التحايل على المكافأة (Reward Hacking): غالباً ما تتعلم النماذج "الغش" عبر توليد كود يجتاز فحوصات بناء الجملة ولكنه ينتهك القصد الدلالي للنظرية (على سبيل المثال، التلاعب بالتعريفات أو استخدام بديهيات غير مثبتة) لتعظيم المكافآت أثناء التعلم التعزيزي (RL).
عدم استقرار التدريب: غالباً ما يعاني تدريب نماذج خليط الخبراء (MoE) الضخمة على مهام الاستدلال طويلة الأمد من انزياح التوزيع وتقادم السياسة (Policy Staleness) بين محركات التدريب والاستنتاج.

2. المنهجية

قدم المؤلفون نموذج LongCat-Flash-Prover، وهو نموذج خليط خبراء (MoE) بـ 560 مليار معلمة (27 مليار معلمة نشطة) مصمم لـ الاستدلال الصوري الأصيل. تعتمد المنهجية على ثلاث ركائز:

أ. تفكيك الاستدلال الصوري الأصيل

عرّف المؤلفون "الاستدلال الصوري الأصيل" كقدرة جوهرية حيث يستفيد النموذج أصلياً من العمليات الصورية دون تغييرات هيكلية. وقد قاموا بتفكيك ذلك إلى ثلاث قدرات ذرية، يتم التعامل مع كل منها بواسطة نماذج خبراء متخصصة:

الصياغة الآلية الوكيلية (Agentic Auto-Formalization): تحويل المشكلات باللغة الطبيعية غير الرسمية إلى عبارات رسمية موثقة في لغة Lean 4.
التخطيط الوكيلي (Agentic Sketching): توليد "مخطط بأسلوب اللمات" (هيكل إثبات عالي المستوى مع لمات مساعدة) بناءً على المشكلة والعبارة الرسمية.
الإثبات الوكيلي (Agentic Proving):ing توليد إثبات كامل، إما مباشرة من العبارة (Whole-Proof) أو عن طريق ملء الفجوات في مخطط ما (Sketch-Proof).

ب. إطار تكرار الخبراء الهجين (Hybrid-Experts Iteration Framework)

لتوليد بيانات تدريب عالية الجودة، طور المؤلفون خط إنتاج (Pipeline) يقوم بتكرار صقل ثلاثة نماذج خبراء (المصوغ الآلي، المخطط، والمثبت):

التعلم المنهجي (Curriculum Learning): يبدأ الإطار بتوليد أحادي الدور (بدون أدوات) للمهام البسيطة، ثم ينتقل إلى استدلال متعدد الأدوار (TIR) للمهام المعقدة.
توليد المسارات (Trajectory Synthesis): يقوم بتوليد مسارات متنوعة تشمل:
- $D_{af}$ : الصياغة الآلية (دور واحد).
- $D'_{af}$ : الصياغة الآلية مع حلقات التغذية الراجعة للأدوات.
- $D_{whole.pf}$ : توليد الإثبات الكامل.
- $D'_{sk}$ : توليد مخطط بأسلوب اللمات مع التغذية الراجعة للأدوات.
- $D'_{sk.pf}$ : إكمال الإثباتات بناءً على المخططات.
التطور الذاتي (Self-Evolving):): تتضمن العملية تقطيرًا ذاتيًا وتكراريًا وتعلمًا تعزيزيًا، حيث يقوم النموذج بانتقاء مجموعة بياناته الخاصة عالية الجودة من العبارات الرسمية، وعمليات التفكير، والإثباتات الموثقة.

ج. تحسين سياسة أخذ العينات الهامة الهرمية (HisPO)

لتحقيق استقرار تدريب RL على مهام MoE طويلة الأمد، اقترح المؤلفون خوارزمية HisPO، وهي تحسين لخوارزمية Group Relative Policy Optimization (GRPO).

قناع التدرج (Gradient Masking): تعالج هذه التقنية التباين بين التدريب والاستنتاج (الاختلافات بين محرك التدريب، مثل Megatron، ومحرك الاستنتاج، مثل vLLM) وتقادم السياسة (البيانات المولدة بواسطة إصدارات قديمة من السياسة).
الآلية: تقوم بحساب نسب أخذ العينات الهامة (IS) على مستويي التسلسل والرمز (Token). إذا تجاوز التباين عتبة معينة ( $\delta_{seq}$ أو $\delta_{tok}$ )، يتم حجب مساهمة التدرج لذلك التسلسل أو الرمز (ضبطها على صفر).
كشف القانونية (Legality Detection): لمنع التحايل على المكافأة، قدموا محلل لغوي (Lexer/Parser) خفيف الوزن لتحويل كود Lean إلى أشجار بناء الجملة المجردة (AST). يتحقق هذا من الاتساق الدلالي، لضمان مطابقة الإثبات لتعريف النظرية وعدم استخدام حيل "الغش" مثل البديهيات المتلاعب بها أو المتغيرات العالمية.

3. المساهمات الرئيسية

نموذج LongCat-Flash-Prover: نموذج MoE مفتوح الأوزان (560 مليار معلمة) يجمع بين الاستدلال العام وقدرات الاستدلال الصوري الأصيلة.
نموذج الاستدلال الصوري الأصيل: تعريف وإطار عمل جديد يعامل الصياغة الآلية، والتخطيط، والإثبات كقدرات وكيلية متكاملة وقابلة للتركيب بدلاً من مهام منفصلة.
إطار تكرار الخبراء الهجين: خط إنتاج مبتكر لتوليد البيانات يستفيد من الخبراء المتخصصين والتغذية الراجعة للأدوات لتوليد مسارات تدريب موثقة عالية الجودة.
خوارزمية HisPO: استراتيجية تحسين RL مستقرة مصممة خصيصًا لنماذج MoE في المهام طويلة الأمد، مما يقلل من عدم استقرار التدريب الناتج عن التباين بين المحركات وتقادم السياسة.
آلية مكافأة قوية: تقديم الكشف عن القانونية القائم على AST للقضاء على التحايل على المكافأة، مما يضمن تعلم النماذج لاستدلال رياضي حقيقي بدلاً من استغلال الثغرات في التقييم.

4. النتائج التجريبية

تم تقييم النموذج على عدة اختبارات مرجعية، مما أظهر تحسينات كبيرة مقارنة بالنماذج المفتوحة والمملوكة الحالية.

الصياغة الآلية (Auto-Formalization):
- حقق 100% في MiniF2F-Test وProofNet.
- تفوق على جميع المصوغات الآلية مفتوحة المصدر ونافس أو تجاوز النماذج المملوكة (مثل Claude-Opus-4.5 وGemini-3 Pro).
- أدت استراتيجية TIR إلى تحسين الأداء بنسبة تصل إلى 14%.
إثبات النظريات (Theorem Proving):
- MiniF2F-Test: حقق معدل نجاح 97.1% بـ 72 محاولة استنتاج فقط لكل مشكلة (Pass@72)، متفوقًا بشكل كبير على النماذج المرجعية مثل Goedel-Prover-V2 وKimina-Prover-72B التي تطلبت أكثر من 1000 محاولة لتحقيق درجات مماثلة.
- PutntamBench: حل 41.5% من المشكلات (Pass@220)، وهي قفزة هائلة مقارنة بأفضل نتيجة سابقة (Goedel-Prover-V2-32B بنحو 8.6%).
- MathOlympiad-Bench: حقق 35.8% (Pass@32)، وهو تحسن بنسبة 25.5% عن أفضل نموذج مفتوح المصدر السابق.
- وضع (Sketch-Proof Mode): أظهر وضع "Sketch-Proof مع TIR والبحث في الأشجار" أعلى كفاءة، مما يثبت أن تفكيك المشكلات إلى لمات يساعد بشكل كبير في حل النظريات المعقدة.
الاستدلال العام:
- حافظ النموذج على قدرات استدلال عامة قوية (STEM، البرمجة، المهام الوكيلية)، حيث أدى أداءً مشابهًا لنموذجه السابق (LongCat-Flash-Thinking-2601) في اختبارات مثل AIME-25 وGPQA-Diamond، مع انخفاض طفيف للغاية في الأداء.

5. الأهمية

سد الفجوة: يثبت LongCat-Flash-Prover أن النماذج مفتوحة المصدر يمكن أن تتفوق على النماذج المملوكة في مهام الاستدلال الصوري المتخصصة عندما تكون مجهزة بأطر وكيلية متقدمة وتدريب RL مستقر.
الكفاءة: يحقق النموذج نتائج رائدة (SOTA) بميزانيات استنتاج أقل بكثير (على سبيل المثال، 72 محاولة مقابل 1024+ محاولة)، مما يجعل التحقق الصوري أكثر سهولة من حيث التكلفة والوصول.
السلامة والموثوقية: من خلال معالجة التحايل على المكافأة عبر فحوصات القانونية القائمة على AST، يضمن هذا العمل أن "الذكاء" المكتسب هو استدلال رياضي حقيقي وليس مجرد استغلال لمقاييس التقييم.
الأثر على المجتمع: كإصدار مفتوح المصدر، يوفر أساسًا قويًا للمجتمع للبناء عليه، مما قد يسرع الأبحاث في إثبات النظريات الآلي، والتحقق الصوري من الكود، وتطوير أنظمة الذكاء الاصطين العام (AGI) القادرة على الاستدلال المنطقي الصارم.