🤖 AI

Generative Recursive Reasoning

تقدم هذه الورقة نماذج الاستدلال التكراري التوليدي (GRAM)، وهو إطار عمل احتمالي يعزز الاستدلال التكراري من خلال تمكين صقل الحالة الكامنة متعدد المسارات وعشوائي المسار، مما يدعم التوسع أثناء الاستدلال، وتوليد فرضيات متنوعة، وكلاً من الاستدلال الشرطي والتوليد غير الشرطي.

المؤلفون الأصليون: Junyeob Baek, Mingyu Jo, Minsu Kim, Mengye Ren, Yoshua Bengio, Sungjin Ahn

نُشر 2026-05-20

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Junyeob Baek, Mingyu Jo, Minsu Kim, Mengye Ren, Yoshua Bengio, Sungjin Ahn

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحثية بعنوان "نماذج الاستدلال التكراري التوليدية (GRAM)" باستخدام لغة بسيطة وتشبيهات إبداعية.

السؤال الكبير: كيف يجب أن يفكر الذكاء الاصطناعي؟

تخيل أنك تحاول حل لغز صعب للغاية، مثل سودوكو معقدة أو لغز منطقي.

الذكاء الاصطنا_ي القديم (النماذج ذات الترتيب التلقائي - Autoregressive Models): هؤلاء يشبهون شخصاً يكتب أفكاره كلمة بكلمة، من البداية إلى النهاية. إذا ارتكب خطأً في الجملة الأولى، فعليه أن يستمر في كتابة بقية القصة مع وجود هذا الخطأ مدمجاً فيها، أو عليه أن يبدأ القصة بأكملها من جديد. إنهم مفكرون "خطيون".
الذكاء الاصطناعي التكراري (الجيل السابق): هذه النماذج تشبه الشخص الذي يمكنه "التفكير في رأسه" دون كتابة أي شيء. هو يحمل فكرة واحدة في ذهنه، يصقلها، ثم يصقلها مجدداً، ثم يصقلها مجدداً حتى تبدو صحيحة. هذا النوع فعال، لكنه يشبه المشي في مسار واحد فقط أسفل جبل. إذا أدى هذا المسار إلى طريق مسدود، سيعلق الذكاء الاصطناعي؛ فهو لا يملك خطة بديلة.

المشكلة: تجادل الورقة البحثية بأن أنظمة الذكاء الاصطناعي "التكرارية" الحالية جامدة للغاية. فهي تتبع مساراً واحداً وحيداً للوصول إلى الحل. إذا كان هذا المسار خاطئاً، سيفشل الذكاء الاصطناعي. وهي نماذج حتمية (Deterministic)، مما يعني أنه إذا أعطيتهم نفس اللغز مرتين، فسيفكرون بنفس الطريقة تماماً وسيحصلون على نفس النتيجة (حتى لو كانت تلك النتيجة خاطئة).

الحل: GRAM (المفكر "متعدد المسارات")

قدم المؤلفون نموذج GRAM (نماذج الاستدلال التكراري التوليدية).

التشبيه: فريق التنزه
تخيل أنك بحاجة إلى إيجاد مخرج لمتاهة ضخمة وضبابية.

الطريقة القديمة (التكرار الحتمي): ترسل متنزهاً واحداً. يختار مساراً ويسلكه حتى يصطدم بحائط. إذا اصطدم بالحائط، سيعلق. لا يمكنه العودة لتجربة طريق آخر لأنه مبرمج لاتباع ذلك المسار المحدد بعينه.
طريقة GRAM: ترسل فريقاً كاملاً من المتنزهين (مسارات متعددة).
1. العشوائية (الـ "تمايل"): بدلاً من السير في خط مستقيم، يُسمح لكل متنزّه بالقيام بانحرافات صغيرة وعشوائية. أحياناً يخطو يساراً، وأحياناً يميناً. هذه العشوائية تساعدهم على استكشاف أجزاء مختلفة من المتاهة.
2. الاستكشاف المتوازي: بما أن لديك فريقاً، فإذا وصل أحد المتنزهين إلى طريق مسدود، فقد يكون متنزه آخر في مسار مختلف تماماً يؤدي إلى المخرج.
3. الصقل: يتواصل جميع المتنزهين باستمرار مع بعضهم البعض (تحديث حالتهم الداخلية) ليصبحوا أكثر ذكاءً.

كيف يعمل (الآليات)

تصف الورقة نظاماً يتكون من طبقتين، يشبه وجود مدير وعامل:

العامل (المستوى المنخفض): هذا الجزء يقوم بالعمل الشاق. يأخذ الفكرة الحالية ويصقلها بسرعة ودقة. هو مركز جداً وحتمي (لا توجد عشوائية هنا).
المدير (المستوى العالي): هذا الجزء يقرر الاتجاه. والأهم من ذلك، أن المدير يضيف القليل من "الضجيج العشوائي" أو "الفوضى الإبداعية" إلى الخطة.
- لماذا؟ لمنع الفريق من الوقوع في فخ محلي (طريق مسدود يبدو وكأنه حل).
- النتيجة: لا يتبع الذكاء الاصطناعي مساراً واحداً فحسب؛ بل يولد توزيعاً للمسارات الممكنة. هو يقول جوهرياً: "إليك 20 طريقة مختلفة يمكنني بها حل هذا الأمر. دعنا نرى أي منها يعمل بشكل أفضل".

القوتان الخارقتان لـ GRAM

تسلط الورقة الض الضوء على طريقتين رئيسيتين يتوسع بهما هذا النظام الجديد:

1. العمق (التفكير لفترة أطول)
مثل النماذج التكرارية القديمة، يمكن لـ GRAM أن يفكر لفترة طويلة. يمكنه صقل الإجابة مراراً وتكراراً.

التشبيه: يمكنك الاستمرار في صقل الألماس حتى يلمع.

2. العرض (التفكير بشكل أوسع)
هذه هي الحيلة الجديدة. بدلاً من مجرد التفكير لفترة أطول، يمكن لـ GRAM أن يفكر بالتوازي. يمكنه تشغيل 20 سيناريو "ماذا لو" في وقت واحد.

التشبيه: بدلاً من محاولة حل مكعب روبيك عن طريق تدوير جانب واحد في كل مرة لمدة 10 ساعات، تخيل 20 شخصاً يقومون بتدوير جوانب مختلفة في آن واحد، ثم اختر الشخص الذي حلها بأسرع وقت.
ادعاء الورقة: هذا التوسع في "العرض" أسرع وأكثر فعالية من مجرد جعل الذكاء الاصطناعي يفكر لفترة أطول (العمق).

ما الذي اختبروه؟

لم يكتف الباحثون بالنظرية فقط؛ بل اختبروا GRAM على ألغاز محددة وصعبة حيث توجد غالباً إجابات صحيحة متعددة أو حيث يكون الوقوع في فخ سهل.

السودوكو (لغز القيود):
- النتيجة: حل نموذج GRAM ألغاز السودوكو الصعبة للغاية بشكل أفضل بكثير من النماذج التكرارية السابقة. لم يحصل فقط على الإجابة الصحيحة، بل وجد الإجابة الصحيحة بشكل أسرع عبر استكشاف الاحتمالات المختلفة.
مشكلة N-Queens وتلوين الرسوم البيانية (لغز "الحلول الكثيرة"):
- التحدي: في هذه الألغاز، توجد عشرات أو مئات الحلول الصالحة. كانت أنظمة الذكاء الاصطناعي القديمة تتعثر في حل واحد فقط وتفشل في رؤية الحلول الأخرى (أو تفشل إذا كان ذلك الحل الواحد مغلقاً).
- النتيجة: لأن GRAM يستكشف مسارات عديدة، يمكنه إيجاد حلول صالحة متعددة لنفس اللغز. إنه لا يعاني من "انهيار النمط" (Mode Collapse) (حيث يجد إجابة واحدة فقط).
توليد الصور (اختبار "غير مشروط"):
- التحدي: هل يمكن لهذا المنطق أن يعمل بدون لغز لحله؟ هل يمكنه فقط "تخيل" صورة من العدم؟
- النتيجة: نعم. عندما طُلب منه توليد صور (مثل الأرقام من مجموعة بيانات MNIST) من الصفر، أنتج GRAM صوراً أكثر وضوحاً ودقة من النماذج التكرارية السابقة. لقد أظهر أن عملية "التفكير" يمكن استخدامها أيضاً من أجل "الابتكار".

الخلاصة

تدعي الورقة البحثية أن GRAM يمثل خطوة كبيرة للأمام لأنه يحول "الاستدلال التكراري" (التفكير في حلقات) من عملية جامدة ذات مسار واحد إلى عملية مرنة، احتمالية، ومتعددة المسارات.

الذكاء الاصطناعي القديم: "سأسلك هذا المسار الوحيد حتى أجد الإجابة".
GRAM: "سأرسل فريقاً من المستكشفين في مسارات عديدة، وأتركهم يتجولون قليلاً، ثم أختار أفضل نتيجة".

خلص المؤلفون إلى أن هذا النهج يسم يسمح للذكاء الاصطناعي بالتعامل مع عدم اليقين، وإيجاد حلول متعددة، وتوسيع نطاق ذكائه ليس فقط بجعل النموذج أكبر، ولكن بالسماح له باستكشاف المزيد من الاحتمالات في وقت واحد.

ملخص تقني: نماذج الاستدلال التكراري التوليدية (GRAM)

بيان المشكلة

تواجه أنظمة الاستدلال العصبية المستقبلية تحديًا مركزيًا: كيفية تنفيذ الحوسبة الممتدة بكفاءة. بينما تقوم النماذج التوليدية ذاتية الانحدار الضخمة بتوسيع نطاق الاستدلال عبر إطالة تسلسل التوليد (مثل سلسلة الأفك - Chain-of-Thought)، تقدم نماذج الاستدلال التكراري (RRMs) بديلًا من خلال صقل حالة كامنة مستمرة عبر التطبيق المتكرر لدوال انتقال مشتركة. هذا النهج يفصل بين عمق الاستدلال وحجم المعلمات وطول المخرجات.

ومع ذلك، فإن نماذج (RRMs) الحالية (مثل HRM وTRM) هي في الأساس حتمية (Deterministic). فبناءً على نفس المدخلات والتهيئة، تتبع هذه النماذج مسارًا كامنًا واحدًا وتتقارب نحو تنبؤ واحد. هذا الحتمية تؤدي إلى انهيار فضاء مسارات الاستدلال المعقولة في جاذب (Attractor) واحد، مما يؤدي إلى الفشل في الحفاظ على عدم اليقين، أو مراعاة الفرضيات البديلة، أو استكشاف استراتيجيات حل متعددة. وهذا أمر مقيد بشكل خاص للمشكلات ذات الغموض الجوهري، أو الحلول الصالحة المتعددة، أو حيث يمكن لمسار صقل واحد أن يقع في مسارات استدلال فرعية غير مثالية. السؤال الجوهري الذي تعالجه الورقة هو: هل يمكن للحوسبة الكامنة التكرارية دعم الاستدلال التوليدي الاحتمالي، ومتعدد الفرضيات، مع الحفاظ على كفاءة النماذج المتكررة المدمجة؟

المنهجية: نماذج الاستدلال التكراري التوليدية (GRAM)

تقدم GRAM إطار عمل يحول الاستدلال الكامن التكراري إلى حوسبة مسارات متعددة احتمالية. وهي تعامل عملية الاستدلال كمسار كامن عشوائي، مما يمكّن النموذج من الحفاظ على فرضيات متعددة واستكشاف استراتيجيات حل بديلة.

1. البنية (Architecture)

تنمذج GRAM التوزيع الشرطي $p_\theta(y | x)$ من خلال الهامش (Marginalization) فوق مسارات الاستدلال الكامنة العشوائية. تتكون البنية من مشفر (Encoder)، ونواة تكرارية (Recursive Core)، وفك تشفير (Decoder)، منظمة في حلقتين متداخلتين:

الحلقة الداخلية (صقل منخفض المستوى): ضمن انتقال واحد، يتم صقل مكون كامن منخفض المستوى $l$ لـ $K$ من المرات باستخدام دالة حتمية $f_L$ ، مشروطة بالحالة عالية المستوى $h$ وتمثيل المدخلات $e_x$ .
الحلقة الخارجية (انتقال عالي المستوى): يتم تحديث المكون عالي المستوى $h$ مرة واحدة لكل انتقال. وخلافًا لنماذج (RRMs) الحتمية، تُعرف GRAM هذا التحديث كـ انتقال عشوائي (Stochastic Transition):
1. يتم حساب تحديث حتمي $u_t$ : حيث $u_t = f_H(h_{t-1}, l_t; \theta)$ .
2. يتم أخذ عينة من توجيه عشوائي قابل للتعلم $\epsilon_t$ من توزيع غاوسي يعتمد على الحالة: $\epsilon_t \sim \mathcal{N}(\mu_\theta(u_t), \sigma^2_\theta(u_t)I)$ .
3. الحالة الجديدة هي $h_t = u_t + \epsilon_t$ .
يسمح هذا التصميم للنموذج بالتقاط عدم اليقين وتوجيه المسار عبر المتوسط $\mu_\theta$ مع التحكم في الاستكشاف عبر التباين $\sigma^2_\theta$ . يظل الصقل منخفض المستوى حتميًا، بينما يتم حقن العشوائية فقط في الحالة المجردة عالية المستوى.
البنية التكرارية: تمضي الحوسبة عبر $N_{sup}$ من خطوات الإشراف. تعمل الحالة النهائية لخطوة ما كحالة ابتدائية للخطوة التالية، مما يشكل سلسلة تكرارية كاملة.

2. التدريب

يتم تدريب GRAM باستخدام الاستدلال المتغير الموزع (Amortized Variational Inference) لتعظيم الحد الأدنى الأدنى للبرهان (ELBO).

صياغة المتغير الكامن: تقوم النموذج بهامش (Marginalization) فوق المسارات الكامنة $\tau$ . يتم تحسين الـ ELBO بالنسبة للمعلمات التوليدية $\theta$ والمعلمات المتغيرة $\phi$ .
الإشراف العميق: لتوفيد إشارات تعلم كثيفة، يطبق النموذج إشرافًا عميقًا عبر $N_{sup}$ من الخطوات المتتالية. يتم نشر التدرجات فقط عبر الانتقال النهائي لكل خطوة إشراف (الانتشار الخلفي المبتور/Truncated Backpropagation) لضمان كفاءة الذاكرة، مما يعمل كهدف بديل لـ ELBO الكامل.
التوليد غير المشروط: من خلال استبدال المدخل بتمثيل فارغ، تُعرف نفس العملية التكرارية كنموذج توليدي غير مشروط $p_\theta(x)$ .

3. توسيع وقت الاستدلال (Inference-Time Scaling)

تدعم GRAM محورين للتوسع:

العمق (Depth): باستخدام وقت الحوسبة التكيفي (ACT)، يمكن للمسارات أن تنتهي عند عمق توقف متعلم.
العرض (Width): يقوم النموذج بأخذ عينات من مسارات كامنة متعددة بالتوازي من التوزيع القبلي المتعلم. يتم اختيار المرشحين عبر التصويت بالأغلبية أو عبر نموذج مكافأة العملية الكامنة (LPRM)، الذي يتنبأ بالجودة النهائية للمسار من حالته الكامنة. يسمح هذا بتوسيع الاستدلال دون زيادة طول التكرار التسلسلي.

المساهمات الرئيسية

الصياغة الاحتمالية: صاغ المؤلفون الاستدلال التكراري كعملية توليدية ذات متغير كامن حيث يتم الحصول على الحلول من خلال الهامش فوق مسارات استدلال عشوائية، بدلاً من اتباع مسار حتمي واحد.
التوسع القائم على العرض: قدمت الورقة "التوسع القائم على العرض" في وقت الاستدلال، مما يتيح تحسينات في الأداء من خلال أخذ عينات من مسارات كامنة متعددة بالتوازي، مكملة للتوسع التقليدي القائم على العمق.
التحقق التجريبي: قدم المؤلفون أدلة على أن هذه الصياغة تحقق مزايا هيكلية مقارنة بالنماذج المرجعية المتكررة والحتمية، وتحديدًا في الاستدلال المهيكل، وإرضاء القيود متعددة الحلول، والتوليد غير المشروط.

النتائج التجريبية

تم تقييم GRAM في مهام استدلال وتوليد محكومة، ومقارنتها بالنماذج المرجعية الحتمية (Looped Transformers, HRM, TRM) ونماذج الاستدلال الضخمة (LRMs) كمراجع خارجية.

الاستدلال المهيكل (Sudoku-Extreme, ARC-AGI): تفوقت GRAM باستمرار على النماذج المرجعية التكرارية الحتمية. في Sudoku-Extreme، حققت GRAM دقة بنسبة %97.0 مقارنة بـ %87.4 لـ TRM و %55.0 لـ HRM. وفي ARC-AGI-1، وصلت GRAM إلى %52.0، متجاوزة TRM (%44.6) و HRM (%40.3). ويعزو المؤلفون ذلك إلى القدرة على استكشاف مسارات استدلال متنوعة.
المهام متعددة الحلول (N-Queens, Graph Coloring): تعاني النماذج الحتمية من انهيار النمط (Mode Collapse) مع زيادة عدد الحلول الصالحة. تحافظ GRAM على دقة ثابتة بغض النظر عن عدد الحلول. في مهمة 8x8 N-Queens، حققت GRAM دقة بنسبة %99.7 وتغطية بنسبة %90.3 (الحلول الفريدة الصالحة التي تم العثัง عليها)، متفوقة بشكل كبير على النماذج الحتمية (أقصى تغطية %36.1) والنماذج التوليدية مثل AR (تغطية %84.8).
التوليد غير المشروط:
- Binarized MNIST: تنتج GRAM أرقامًا قابلة للتمييز مع درجات Inception Scores (IS) و FID مقاربة لـ D3PM، بينما تظهر Baseline TRM الحتمية انهيارًا نمطيًا شديدًا (FID 303.29).
- توليد Sudoku: من لوحة فارغة، تولد GRAM لوحات Sudoku صالحة بدقة %99.05 باستخدام 16 خطوة استدلال فقط و10.9 مليون معلمة، متفوقة على نماذج D3PM التي تستخدم ما يصل إلى 1000 خطوة و55.1 مليون معلمة.
دراسات الاستئصال (Ablation Studies): يؤدي إزالة التوجيه العشوائي إلى انخفاض في الأداء، خاصة في المهام متعددة الحلول. كما أن إزالة العشوائية تمامًا تؤدي إلى فشل كامل (دقة 0%)، مما يؤكد أن المكاسب نابعة من الإطار المتغير وليس مجرد العشوائية.

الأهمية والادعاءات

تدعي الورقة أن GRAM ترسخ الاستدلال التكراري متعدد المسارات الاحتمالية كمبدأ تصميمي لهياكل الاستدلار المتكررة والتكرارية المستقبلية. من خلال تحويل التكرار الحتمي إلى عملية توليدية، تمكن GRAM من:

الاستكشاف القوي: القدرة على التنقل في فضاءات المشكلات المعقدة والهروب من النهايات الصغرى المحلية عبر الحفاظ على فرضيات متعددة.
التوسع الفعال: محور جديد للتوسع في وقت الاستدلال (العرض) يتجاوز اختناقات زمن الوصول المرتبطة بالتوسع القائم على العمق فقط.
النمذجة الموحدة: القدرة على العمل كنموذج استدلال شرطي ( $p(y|x)$ ) ونموذج توليدي غير مشروط ( $p(x)$ ) باستخدام نفس الآلية التكرارية.

يشير المؤلفون إلى أنه بينما تظهر GRAM إمكانات في الاستدلال المهيكل والتوليد، فإن الطبيعة التسلسلية للإشراف العميق تحد من كفاءة التدريب مقارنة بنماذج Transformers، مما يشكل حاجزًا أمام التوسع نحو نماذج تأسيسية أكبر. كما يحذرون من أن التوليدات المعقولة ولكن غير الصالحة قد تُعتبر حلولًا تم التحقق منها في البيئات عالية المخاطر، مما يستلزم التحقق الصارم ومعايرة عدم اليقين.