ملخص تقني: محافظ المسترجعات: نهج مبني على أسس لـ RAG التكيفي

1. صياغة المشكلة

تعتمد أنظمة التوليد المعزز بالاسترجاع (RAG) عادةً على مسترجع واحد بمجموعة ثابتة من المعلمات الفائقة للتعامل مع جميع استعلامات المستخدم. ومع ذلك، فإن توزيعات الاستعلام في التطبيقات الواقعية غير متجانسة للغاية، حيث تتراوح من الأسئلة البسيطة عن الحقائق إلى مهام الاستدلال المعقدة متعددة الخطوات. غالبًا ما تتخصص تكوينات استرجاع مختلفة (النماذج، أو الاستراتيجيات، أو المعلمات الفائقة) في مجالات معينة، مما يعني أنه لا يوجد مسترجع واحد مثالي لجميع الاستعلامات. وبينما تحاول الأعمال الحديثة مثل Adaptive-RAG و Vendi-RAG تكييف استراتيجيات الاسترجاع، إلا أنها إما تعمل على مجموعة صغيرة من الاستراتيجيات المصممة يدويًا أو تقوم بضبط المعلمات الفائقة لكل استعلام بشكل مكلف أثناء الاستدلال، مما يؤدي إلى زمن انتقال مرتفع وتكاليف عالية للرموز (tokens).

يعالج هذا البحث القصور في نهج "المقاس الواحد الذي يناسب الجميع" في الاسترجاع من خلال اقتراح نهج مبني على أسس لـ تحسين محفظة المسترجعات (Retriever Portfolio Optimization). وتتمثل المشكلة الجوهرية في اختيار مجموعة فرعية صغيرة ومتنوعة (محفظة) مكونة من $k$ من المسترجعات من مجمع مرشحين كبير يضم $m$ من المرشحين. الهدف هو تعظيم الأداء المتوقع لأفضل مسترجع من بين $k$ (best-of-$k$) لاستعلام عشوائي مسحوب من التوزيع الأساسي، بدلاً من تعظيم متوسط أداء مسترجع واحد.

2. المنهجية

2.1. الإطار النظري

صاغ المؤلفون المشكلة باستخدام هدف "أفضل $k$ من $k$" المتوقع (expected best-of-$k$ objective). لتكن $Q$ هي مجموعة الاستعلامات ذات التوزيع المجهول $D$، ولتكن $\mathcal{R}$ هي مجموعة المسترجعات المرشحة. تقيس دالة الدرجة $s(q, r) \in [0, 1]$ مدى ملاءمة المسترجع $r$ للاستعلام $q$. وتُعرف جودة المحفظة $S \subseteq \mathcal{R}$ (حيث $|S| \le k$) بأنها:
$$F(S) = \mathbb{E}_{q \sim D} \left[ \max_{r \in S} s(q, r) \right]$$
الهدف هو إيجاد $S$ التي تعظم $F(S)$. أثبت المؤلفون أنه لأي استعلام ثابت $q$، فإن الدالة $f_q(S) = \max_{r \in S} s(q, r)$ هي دالة غير سالبة، ورتيبة، وتحتية (submodular). وبناءً على ذلك، فإن هدف المجتمع $F(S)$ وتقديره التجريبي هما أيضًا دوال مجموعة تحتية (submodular set functions).

2.2. الخوارزمية: الاختيار الجشع للمحفظة

لحل مشكلة التحسين هذه بكفاءة، يقترح البحث الخوارزمية 1، وهي إجراء جشع يعتمد على العينات:

1. أخذ العينات: سحب $N$ من الاستعلامات مستقلة وموزعة بشكل متماثل (i.i.d.) من التوزيع $D$.
2. التقدير التجريبي: استبدال هدف المجتمع بتقدير تجريبي $\hat{F}_Q(S)$.
3. البناء الجشع: اختيار المسترجع $r$ بشكل تكراري والذي يعظم الربح الهامشي $\hat{F}_Q(S \cup \{r\}) - \hat{F}_Q(S)$. تحتفظ الخوارزمية بمتجه محفوظ (memoized vector) لأفضل الدرجات الحالية لكل استعلام لحساب الأرباح بكفاءة.
4. الضمانات: تعمل الخوارزمية في زمن قدره $O(k |\mathcal{R}| N)$. ويظهر التحليل النظري أنها تحقق تقريبًا بنسبة $(1 - 1/e)$ للمحفظة المثلى، وصولاً إلى حد الخطأ الإحصائي $\epsilon$، بشرط أن يتناسب حجم العينة $N$ مع حجم المجمع والمستوى المطلوب من الثقة.

2.3. خط إنتاج الاستدلال

يتكون النظام المقترح من مرحلتين:

1. بناء المحفظة خارج الإنترنت (Offline): باستخدام الخوارزمية 1، يتم اختيار محفظة متنوعة من $k$ من المسترجعات المتكاملة من مجمع كبير (يشمل المسترجعات الكثيفة Dense، والقائمة على التنوع Diversity-based، والقائمة على الرسوم البيانية Graph-based) بناءً على بيانات التدريب.
2. الاستدلال التكيفي: يتم تدريب موجه (router) خفيف الوزن لاختيار أفضل مسترجع (أو مسترجعات) لاستعلام معين ديناميكيًا.
   • يقوم الموجه بتشفير الاستعلام باستخدام النص الخام والتمثيلات الكثيفة المخزنة مؤقتًا (MPNet/E5).
   • يقوم بتقييم أعضاء المحفظة الـ $k$ عبر التشابه مع تمثيلات المسترجع المتعلمة.
   • يتم تنفيذ أفضل $\ell$ من المسترجعات في توازي لتقليل زمن الانتقال (latency).
   • يقوم نموذج لغوي كبير (LLM) مُحدد بتجميع الإجابات من المسترجعات المتوازية لإنتاج المخرج النهائي.

يعمل هذا النهج على توزيع تكلفة التكيف "خارج الإنترنت"، مما يتجنب البحث التكراري المطلوب في طرق الضبط أثناء الاستدلال.

3. المساهمات الرئيسية

• صياغة المشكلة: تقديم مشكلة "تحسين محفظة RAG"، وتأطير عملية اختيار مجموعة فرعية صغيرة ومتنوعة من المسترجعات لتغطية توزيعات الاستعلام غير المتجانسة عبر هدف "أفضل $k$ من $k$" المتوقع.
• الضمانات النظرية: إثبات أن الهدف هو دالة تحتية (submodular)، مما يسمح ببناء محافظ قريبة من المثالية بكفاءة مع ضمانات تقريب $(1 - 1/e)$ مثبتة.
• خط الإنتاج العملي: نظام كامل يتكون من اختيار محفظة خارج الإنترنت وموجه خفيف الوزن يتيح الاسترجاع المتوازي والإجابة، مما يقلل بشكل كبير من زمن انتقال الاستدلال مقارنة بالطرق التكيفية المتسلسلة.
• التحقق التجريبي: تقييم شامل عبر أربعة اختبارات QA متنوعة (HotpotQA, 2WikiMultiHopQA, TriviaQA, MusiQue) أظهر تفوقًا على خطوط الأساس ذات المسترجع الواحد وأساليب الضبط أثناء الاستدلال.

4. النتائج التجريبية

تم تقييم الطريقة على أربعة مجموعات بيانات للأسئلة والأجوبة مفتوحة المجال باستخدام نموذجين للإجابة (Gemma-3-27B-IT و Llama-3.1-70B-Instruct).

• تغطية الاسترجاع: تفوقت المحافظ المتعلمة بشكل كبير على اختيار المسترجع "الأفضل في المتوسط". على سبيل المثال، حققت محفظة بحجم $k=5$ استدعاء دعم (Support Recall) قدره 0.594 مقارنة بـ 0.492 لأفضل 5 مسترجعات في المتوسط. وقد تبين أن المكاسب ناتجة عن التكامل (تغطية مجموعات فرعية مختلفة من الاستعلامات) بدلاً من مجرد استرجاع المزيد من المستندات.
• دقة النهاية إلى النهاية: حققت المحافظ الموجهة (Routed portfolios) باستمرار درجات مطابقة تامة (EM) أعلى من خطوط الأساس ذات المسترجع الواحد و Vendi-RAG (وهو خط أساس للضبط أثناء الاستدلال). وحققت محفظة "المجمع الكامل" (التي تجمع بين Dense و Vendi و GraphDense) أفضل متوسط EM عبر جميع مجموعات البيانات.
• الكفاءة مقابل الدقة: في مقارنات مضبوطة مع Vendi-RAG (باستخدام نفس مساحة بحث Vendi)، حقق نهج المحفظة خارج الإنترنت دقة مماثلة أو أفضل مع زمن انتقال وتكاليف رموز أقل بكثير. وذلك لأن المحفظة تسمح بالتنفيذ المتوازي لمجموعة ثابتة من المسترجعات، بينما يتطلب V-RAG توليدًا وتحكيمًا تكراريًا ومتسلسلاً.
• فعالية الموجه: أظهرت دراسات الاستئصال (Ablation studies) أن الموجه المتعلم يتفوق بشكل كبير على الاختيار العشوائي ويختار باستمرار المسترجعات التي تحسن الأداء عن أفضل عضو فردي في المتوسط، مما يوجه الاستعلامات بفعالية إلى أعضاء المحفظة الأكثر ملاءمة.

5. الأهمية والادعاءات

يدعي البحث تطوير مجال RAG من خلال نقل عبء التحسين من التكيف المكلف والمتسلسل أثناء الاستدلال إلى بناء محفظة فعال خارج الإنترنت. ويرى المؤلفون أن:

• لا يوجد مسترجع واحد مثالي: تحديد استراتيجية واحدة يترك جزءًا من الأداء دون استغلال للتعامل مع الاحتياجات المعلوماتية المتنوعة.
• التكامل هو المفتاح: يمكن لمجموعة صغيرة من المسترجعات المتنوعة تغطية توزيع الاستعلام بشكل أكثر فعالية من مسترجع واحد "أفضل" أو مجرد زيادة ميزانية المستندات.
• الكفاءة: تتيح المحافظ الثابتة الاسترجاع واستدعاءات LLM بشكل متوازٍ، مما يوفر مقايضة عملية تحقق دقة عالية مع زمن انتقال واستخدام رموز يمكن التنبؤ بهما، مما يجعل RAG التكيفي أكثر قابلية للتطبيق في بيئات الإنتاج.

لا يدعي العمل حل جميع تحديات RAG، بل يقدم طريقة مبنية على أسس نظرية لاختيار وتوجيه استراتيجيات الاسترجاع، والتي تعد قريبة من المثالية بشكل مثبت وفعالة تجريبيًا.