ملخص تقني: تطور السياق الوكيل (ACE)

1. بيان المشكلة

تعتمد طرق تعزيز السياق الحالية، ولا سيما التوليد المعزز بالاسترجاع (RAG)، على استراتيجيات صلبة وقائمة على القوة الغاشمة تقوم بتنفيذ الاسترجاع عند كل خطوة استدلال. وبينما تعد هذه الطريقة فعالة للمهام البسيطة، إلا أن نموذج "الاسترجاع ثم التوليد" يفشل في السيناريوهات المعقدة متعددة الخطوات حيث لا تكون الاحتياجات المعلوماتية واضحة على الفور.

يؤدي التنفيذ العشوائي للاسترجاع إلى مشكلتين رئيسيتين:

1. عدم الكفاءة الحسابية: تتسبب خطوات الاسترجاء غير الضرورية في تكاليف رمزية (tokens) وزمن انتقال للاستدلال مرتفع.
2. تدهور الأداء: يؤدي الاسترجاع المستمر إلى إغراق نافذة السياق بضجيج غير ذي صلة ومقتطفات مكررة. هذا "التشبع السياقي" يشتت النموذج، مما يؤدي إلى هلوسات استدلالية وانخفاض في الدقة.

تحاول النهج التكرارية الحالية سد هذه الفجوة، لكنها غالباً ما تقع في فخ "التراكم الأعمى"، حيث تنفذ الاسترجاع في كل خطوة دون تقييم ما إذا كان الاستدلال الداخلي كافياً.

2. المنهجية: تطور السياق الوكيل (ACE)

مستوحى من الإدراك الميتا-معرفي (metacognition) لدى البشر — وهو القدرة على تقييم الفجوات المعرفية الخاصة وتقرير ما إذا كان يجب البحث عن أدلة خارجية أو التوقف للتفكير — يقترح المؤلفون تطور السياق الوكيل (ACE). يحول هذا الإطار إدارة السياق من مسار ثابت إلى عملية ذاتية الإدراك وحالة واعية.

البنية الأساسية

يستخدم ACE نموذجاً متعدد الوكلاء يتمحور حول وكيل منسق مركزي يدير دورة حياة السياق من خلال سلسلة من القرارات الاستراتيجية المدروسة. يعمل النظام عبر $N$ من الجولات التكرارية، محتفظاً بذاكرة عاملة $M_i$ تراكم السياقات والأفكار.

في كل جولة، ينفذ النظام دورة متداخلة من الاسترجاع والتفكير:

1. صنع القرار الجماعي: يقوم لجنة من $k$ من الوكلاء بتقييم الذاكرة العاملة الحالية ($M_i$) والاستعلام الأولي ($Q$) بشكل مستقل. يصوت كل وكيل على الإجراء الأمثل التالي:

   • الاسترجاع (RETRIEVE): تفعيل وكيل استرجاع لجلب وثائق خارجية من قاعدة معرفية ($K$) عندما يكون السياق الحالي غير كافٍ.
   • التفكير (THINK): تفعيل وكيل استدلال لتوليد استعلام فرعي ($Q_{sub}$) وإجابة داخلية ($A_{sub}$)، مما يؤدي إلى تنقية السياق دون استرجاع خارجي.
     يتم تحديد الإجراء النهائي ($o^*_i$) من خلال التصويت بالأغلبية بين الوكلاء.

2. تنفيذ الإجراء:

   • إذا تم اختيار الاسترجاع، يتم جلب مقاطع السياق الجديدة ($C_{new}$) وإضافتها إلى الذاكرة العاملة.
   • إذا تم اختيار التفكير، يقوم النموذج بتوليد زوج-فكرة ($T_{new}$) يتكون من استعلام فرعي واستدلاله الداخلي، والذي يُضاف إلى الذاكرة العاملة لإثراء خطوات الاستدلال الوسيطة.

3. التوليد النهائي: بعد $N$ من الجولات، تقوم دالة توليد نهائية بتوليف المجموعة الغنية من السياقات المسترجعة والأفكار الوسيطة لإنتاج الإجابة النهائية.

3. المساهمات الرئيسية

يحدد البحث ثلاث مساهمات رئيسية:

• مفهوم تطور السياق: يقدم المؤلفون تحولاً من الاسترجاع بالقوة الغاشمة إلى استراتيجية قائمة على القرار والميتا-معرفة. يتم التعامل مع تعزيز السياق كسلسلة من الخيارات الاستراتيجية بدلاً من جدول زمني محدد مسبقاً.
• إطار عمل ACE: نظام متعدد الوكلاء يوازن ديناميكياً بين اكتساب المعرفة الخارجية والاستدلال الداخلي. يستخدم منسقاً مركزياً للحفاظ على سياق مدمج وعالي المنفعة، متجنباً تضخم المعلومات.
• التحقق التجريبي: تُظهر التجارب المكثفة أن ACE يتفوق بشكل كبير على النماذج المرجعية المنافسة في الدقة، مع تحقيق كفاءة في استهلاك الرموز (tokens) عبر تجاوز استدعاءات الاسترجاع المكررة.

4. النتائج التجريبية

تم تقييم الإطار على ثلاثة اختبارات معيارية صعبة للأسئلة متعددة الخطوات: MultiHop-RAG و HotpotQA و 2WikiQA، باستخدام LLaMA-3.1-8B-Instruct كنموذج أساسي.

مقاييس الأداء

• الدقة: حقق ACE نتائج رائدة (state-of-the-art) عبر جميع مجموعات البيانات.
  • في HotpotQA، وصل ACE إلى دقة 62.8%، وهو تحسن كبير عن نموذج RAG القياسي (38.9%) ونموذج IterDRAG التكراري (38.9%).
  • في 2WikiQA و MultiHop-RAG، تفوق ACE على أقوى النماذج المرجعية بمقدار 19.1 و 8.7 نقطة مئوية على التوالي.
• الكفاءة: بينما يستخدم ACE المزيد من الرموز مقارنة بـ RAG أحادي الخطوة بسبب طبيعته التكرارية، إلا أنه أكثر كفاءة بكثير من الطرق التكرارية القائمة على القوة الغاشمة مثل IterDRAG.
  • في MultiHop-RAG، حقق ACE ذروة دقته باستخدام 42% أقل من الرموز مقارنة بـ IterDRAG (10,653 مقابل 18,196 رمزاً).

تأثير عمق التكرار

كشف تحليل عمق التكرار ($N$) عن:

• العمق الأمثل: تصل الأداء إلى ذروته عند أعداد محددة من التكرارات (على سبيل المثال، $N=3$ لـ HotpotQA و 2WikiQA، و $N=5$ لـ MultiHop-RAG) قبل أن يستقر أو ينخفض.
• صنع القرار الديناميكي: تزداد نسبة "التفكير %" (نسبة إجراءات الاستدلال) مع زيادة $N$. على سبيل المثال، في MultiHop-RAG، اختار النظام التفكير داخلياً في أكثر من 73% من الوقت عند $N=5$، مما يظهر قدرته على التنظيم الذاتي وتجنب الاسترجاع غير الضروري.
• تناقص العوائد: يمكن أن يؤدي التكرار المفرط (على سبيل المثال، زيادة $N$ عن النقطة المثلى) إلى انخفاض الدقة وزيادة تكاليف الرموز بسبب المعلومات المشتتة.

5. الأهمية والادعاءات

يزعم البحث أن ACE يقدم رؤى قيمة في دفع عجلة التوليد المتطور للسياق للمهام المعقدة كثيفة المعرفة. من خلال معاملة تعزيز السياق كسلسلة من عمليات "الاسترجاع أو التفكير" المدروسة، يعالج الإطار قيود المسارات الصلبة.

يؤكد المؤلفون أن ACE يظهر وعداً في التحكم الوكيل فوق السياق. إن قدرة النظام على الموازنة الديناميكية بين الاسترجاع الخارجي والاستدلال الداخلي تسمح له بالحفاظ على سياق متطور وموجز يتجنب عثرات تراكم الضجيج والهلوسة. يوفر هذا النهج مساراً لتحسين الأنظمة القائمة على LLM في السيناريوهات التي تتطلب استدلالاً عميقاً ومتعدد الخطوات دون تكبد تكاليف حسابية باهظة.