Recursive Concept Evolution for Compositional Reasoning in Large Language Models

إليك ملخص تقني مفصل لورقة البحث بعنوان: "التطور المفهومي المتكرر للاستدلال التركيبي في النماذج اللغوية الكبيرة."

1. بيان المشكلة

تعاني النماذج اللغوية الكبيرة (LLMs) الحالية من صعوبات في مهام الاستدلال التركيبي (مثل: ARC-AGI-2، MATH، GPQA) التي تتطلب تشكيل تجريدات جديدة أثناء عملية الاستدلال.

• القصور الجوهري: تعمل طرق الاستدلال الحالية (سلسلة الأفكار CoT، شجرة الأفكار ToT، التعلم المعزز RL) من خلال البحث عن تسلسلات أفضل للرموز (tokens) ضمن فضاء تمثيل كامن ثابت. إن هندسة الحالات الخفية للنموذج يتم تحديدها بالكامل أثناء مرحلة ما قبل التدريب (pretraining).
• النتيجة: إذا كانت المهمة تتطلب تجريداً معيناً (مثل تناظر خفي أو قيد منطقي متداخل) لم يتم ترميزه في توزيع بيانات ما قبل التدريب، فلن يتمكن النموذج من بنائه. سيُجبر النموذج على الاستيفاء (interpolation) بين الأنماط الموجودة، مما يؤدي إلى إجابات غير صحيحة بنيوياً.
• الفجوة: هناك نقص في الآليات التي تسمح للنموذج المدرب مسبقاً والمجمد (frozen) بـ تطوير هندسة تمثيله الداخلي ديناميكياً لاستيعاب المتطلبات الهيكلية المستحدثة أثناء الاستدلال.

2. المنهجية: التطور المفهومي المتكرر (RCE)

RCE هو إطار عمل يُمكّن النموذج اللغوي المجمد من إنشاء، وتقييم، وتركيب هياكل تمثيلية جديدة (فضاءات مفهومية فرعية) أثناء الاستدلال. يعمل الإطار عن طريق حقن تحديثات منخفضة الرتبة (low-rank updates) في تيار المتبقي (residual stream) للنموذج.

2.1 الآلية الجوهرية

• الفضاءات المفهومية الفرعية: يحافظ RCE على مكتبة من المفاهيم، حيث يُعرَّف كل مفهوم $C_i$ بمصفوفة أساس منخفضة الرتبة $B_i \in \mathbb{R}^{d \times r}$ (حيث $r \ll d$) ودالة بوابة $g_i(x)$.
• الحقن: عند طبقة فك تشفير محددة $\ell^*$، يتم تحديث الحالة الخفية $h$ كالتالي:
  $$h' = h + \sum_{i \in A(x)} g_i(x) B_i B_i^\top h$$
  حيث $A(x)$ هي مجموعة المفاهيم النشطة المختارة بواسطة بوابة متفرقة من نوع (top-$k$). تظل أوزان النموذج الأساسي مجمدة؛ ويتم تعديل التمثيل الوسيط فقط.

2.2 آليات التطور الأربعة

تتطور مكتبة المفاهيم من خلال دورة تحاكي تكوين التجريد البشري:

1. الإنبات المحفز بالفشل (Failure-Triggered Spawning):

   • يتم حساب "درجة الفشل" بناءً على الإنتروبيا التنبؤية وهامش أعلى رمز (top-token margin). إذا كان النموذج غير متيقن (إنتروبيا عالية، هامش منخفض)، فإن ذلك يشير إلى عدم كفاية التمثيل.
   • يقوم مولد مفاهيم (MLP صغير) بتوليد مصفوفات أساس مرشحة منخفضة الرتبة مصممة خصيصاً للفشل المحدد، بدلاً من الاختيار من مخزن ثابت.

2. الاختيار القائم على طول الوصف الأدنى (MDL):

   • تتنافس المرشحات للدخول إلى المكتبة. لا يُقبل المفهوم إلا إذا قلل من خطأ إعادة البناء (task loss) أكثر مما يزيد من تعقيد النموذج.
   • دالة التكلفة: $\Delta L - \lambda \Omega(C_{new}) > 0$، حيث تشمل $\Omega$ النواة (nuclear norm) للأساس وتشتت البوابة. هذا يفرض مبدأ نصل أوكام (Occam's razor)، مما يمنع الإفراط في التخصيص (overfitting).

3. الدمج المدفوع بالتآزر (Synergy-Driven Merging):

   • تُدمج المفاهيم التي تنشط معاً باستمرار وتقدم فائدة مشتركة أكبر من مجموع أجزائها الفردية.
   • يتم الدمج عبر تحليل القيم المفردة المقطوع (truncated SVD) على القواعد المتسلسلة، مما يخلق تجريدات عالية الرتبة (على سبيل المثال، دمج "التناظر" و"رسم خرائط الألوان" في مفهوم "الانعكاس وإعادة التلوين").

4. التبلور (Crystallization):

   • المفاهيم التي تستمر، وتعمم عبر المهام، وتساهم في المتانة، يتم "بلورتها". يمكن القيام بذلك عبر نقاط التحقق (checkpointing) أو عن طريق تقطيرها في محولات (adapters) دائمة من نمط LoRA باستخدام تحسين مقيد (Elastic Weight Consolidation) لمنع التداخل الكارثي.

2.3 التنظيم (Regularization)

لضمان الاستقرار ومنع تدهور المكتبة، يستخدم RCE ما يلي:

• التعامد بين المفاهيم: يعاقب على التداخل بين الفضاءات المفهومية المختلفة.
• التعامد داخل المفهوم الواحد: يضمن أن الأعمدة داخل القاعدة متعامدة.
• عقوبة إنتروبيا البوابة: يشجع على التنشيط المتفرق والمحدد بدلاً من التوجيه المنتشر.
• التقليم القائم على الاستخدام: يزيل المفاهيم التي تفشل في التنشط باستمرار.

3. المساهمات الرئيسية

1. الرؤية الهيكلية: يحدد أن الهندسة الكامنة الثابتة للمحولات (transformers) هي العائق الرئيسي أمام الاستدلال التركيبي، وهو أمر مختلف عن قيود البحث على مستوى الرموز.
2. إطار عمل RCE: يقدم طريقة مبتكرة لـ تطوير التمثيل أثناء الاستدلال، مما يسمح للنماذج ببناء تجريدات جديدة ديناميكياً بدلاً من مجرد إعادة دمج الموجود منها.
3. التحقق التجريبي: يثبت أن RCE يتفوق بشكل كبير على أفضل نماذج الاستدلال الحالية (CoT, ToT, GRPO, DisCO) عبر عدة اختبارات مع عبء حوسبي ضئيل.

4. النتالئج التجريبية

تم دمج إطار العمل مع Mistral-7B، و Llama-3-8B، و Qwen-2.5-14B.

• مكاسب الأداء (Mistral-7B):
  • ARC-AGI-2: زيادة قدرها +12–18 نقطة (28.0% مقابل 19.7% لأفضل نموذج أساسي DisCO).
  • GPQA: زيادة قدرها +7.2 نقطة (41.4% مقابل 34.2%).
  • BBH: زيادة قدرها +5.7 نقطة (70.5% مقابل 64.8%).
  • MATH & HLE: تحسينات مستمرة مع تقليل الأخطاء الناجمة عن زيادة العمق.
• المتانة: تحت ظروف تغير التوزيع (تبديل الألوان، الدوران المكاني)، حافظ RCE على >91% من دقته، بينما انخفضت النماذج الأساسية إلى 68–80%. هذا يؤكد أن RCE يتعلم الثوابت الهيكلية بدلاً من الملامح السطحية.
• الكفاءة: يحقق RCE دقة متفوقة مع عبء حوسبي قدره 1.04x فقط (مقارنة بـ 16–25x لـ Self-Consistency و Tree-of-Thought). فهو يحسن جودة التمثيل عبر عمليات المصفوفات منخفضة الرتبة بدلاً من توليد المزيد من الرموز.
• تحليل المكتبة: بعد التدريب، استقرت المكتبة عند حوالي 47 مفهوماً، مشكلةً هيكلاً هرمياً (بدائي $\leftarrow$ متوسط $\leftarrow$ تجريدات عالية المستوى) مع قابلية عالية لإعادة الاستخدام عبر المهام.

5. الأهمية والخاتمة

• تحول في النموذج الفكري: ينقل RCE التركيز من تحسين المسار (البحث عن إجابات أفضل) إلى تكوين التمثيل (بناء أدوات داخلية أفضل).
• القابلية للتوسع: الطريقة فعالة للغاية من حيث عدد المعلمات (بإضافة أقل من 0.25% من المعلمات) وخفيفة حوسبياً، مما يجعلها قابلة للتطبيق على النماذج واسعة النطاق.
• التوجه المستقبلي: يثبت أن تطور التمثيل الديناميكي هو مكون مفقود وحاسم لتحقيق التعميم التركيبي الشبيه بالبشر في النماذج اللغوية الكبيرة. ويشير إلى أن النماذج المستقبلية لا ينبغي أن تكون مجرد مستودعات معرفة "مجمدة"، بل أنظمة قادرة على التعلم التراكمي والتكيف الهيكلي أثناء الاستد.

القيود الملحوظة: يحد الحقن في طبقة واحدة حالياً من عمق إعادة الهيكلة في البراهين الطويلة جداً، كما يفتقر النظام إلى ذاكرة خارجية صريحة لتتبع عدد كبير من الحالات المستقلة بمرور الوقت. كما تتطلب المتانة ضد المدخلات المصممة لتحفيز تنشيط مفاهيم خاطئة مزيداً من الاستقصاء.