💬 NLP

Retrieval as a Decision: Training-Free Adaptive Gating for Efficient RAG

تقدم هذه الورقة البحثية TARG، وهي آلية بوابات تكيفية لا تتطلب تدريباً تعمل على تقليل تكاليف الاسترجاع وزمن الاستجابة بكفاءة في أنظمة RAG من خلال تفعيل الاسترجاع فقط عندما تتجاوز درجات عدم اليقين المستمدة من مسودة النموذج القصيرة والخالية من السياق عتبة معينة، مما يؤدي إلى مطابقة أو تحسين الدقة مع خفض عمليات الاسترجاع بنسبة 70-90% عبر مختلف اختبارات قياس الأسئلة والأجوبة.

المؤلفون الأصليون: Yufeng Wang, Lu wei, Haibin Ling

نُشر 2026-04-15

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yufeng Wang, Lu wei, Haibin Ling

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك صديقاً ذكياً جداً، ولكنه مغرور بعض الشيء أحياناً: وهو مساعد ذكاء اصطناعي. هذا المساعد يمكنه كتابة قصص رائعة والإجابة على الأسئلة، لكن لديه مشكلة رئيسية: فهو واثق من نفسه أكثر من اللازم أحياناً. عندما لا يكون متأكداً من شيء ما، يخترع إجابة تبدو كأنها حقيقة، لكنها في الواقع محض خيال. نحن نسمي هذا "الهلوسة".

ولحل هذه المشكلة، غالباً ما نعطي المساعد مكتبة (قاعدة بيانات للحقائق). عندما يتلقى سؤالاً، فإنه يبحث عنه أولاً في المكتبة. تسمى هذه العملية التوليد المعزز بالاسترجاع (RAG).

المشكلة في النهج الحالي:
تخيل أنك تسأل هذا المساعد: "ما هي عاصمة فرنسا؟"
الأنظمة الحالية تبحث دائماً في المكتبة أولاً، حتى لو كانت الإجابة (باريس) موجودة بالفعل في رأسها.

النتيجة: هذا يجعلها بطيئة (يجب عليها أولاً فتح المكتبة)، وتستهلك الكثير من الطاقة، وأحياناً تجد معلومات قديمة أو غير صحيحة في المكتبة مما يربكها. الأمر يشبه فتح دليل الهاتف لتسأل "كم يساوي 2+2؟".

الحل: TARG (البواب الذكي)

ابتكر مؤلفو هذه الورقة البحثية طريقة جديدة تسمى TARG. بدلاً من جعل المساعد يبحث في المكتبة دائماً أو أبداً، نحن نجعله يفكر للحظة قبل اتخاذ أي إجراء.

إليك كيف يعمل الأمر، مترجماً إلى قصة بسيطة:

1. "التجربة الأولية" (المسودة)

قبل أن يكتب المساعد الإجابة الحقيقية، تسمح له بكتابة نص قصير جداً (حوالي 20 كلمة) دون استشارة المكتبة. يسمون هذا "تجربة أولية".

2. الاستماع إلى "الأعصاب" (قياس عدم اليقين)

نظام TARG لا يستمع إلى ماذا يقول المساعد، بل إلى كيف يقوله.

الطريقة القديمة (الاعتلاج/Entropy): سابقاً، كانوا ينظرون إلى مدى "ارتباك" المساعد. ولكن مع أنظمة الذكاء الاصطناعي الحديثة والذكية، يعد هذا أمراً صعباً: فهي غالباً ما تبدو واثقة جداً من نفسها، حتى وهي مخطئة. الأمر يشبه شخصاً يصرخ بصوت عالٍ: "أنا أعرف ذلك!" (بينما هو لا يعرفه حقاً).
الطريـقة الجديدة (الـ "هامش"): نظام TARG ينظر إلى الفرق بين الإجابة الأفضل والإجابة الثانية الأفضل.
- مثال توضيحي: تخيل أن المساعد عليه الاختيار بين "باريس" و"لندن".
  - إذا كان يفكر: "باريس مؤكدة بنسبة 99%، ولندن بنسبة 1%"، فهو هادئ. لا يحتاج للبحث في المكتبة.
  - إذا كان يفكر: "باريس بنسبة 51% ولندن بنسبة 49%"، فهو متوتر. إنه يشك في نفسه. حينها يقول له TARG: "توقف! اذهب بسرعة وابحث في المكتبة لتتأكد".

3. القرار (البوابة)

TARG يشبه بواباً ذكياً عند مدخل المكتبة:

إذا كان المساعد واثقاً من نفسه (فرق كبير بين الخيار الأول والثاني)، يسمح له البواب بإعطاء الإجابة دون زيارة المكتبة. (سريع، رخيص، وفعال).
إذا شك المساعد، يقول له البواب: "انتظر لحظة، سأحضر لك الكتب". (أبطأ قليلاً، ولكن الإجابة ستكون صحيحة).

لماذا هذا الأمر رائع جداً؟

يوفر الوقت والمال: لا يحتاج المساعد لفتح المكتبة الثقيلة في كل مرة. في الاختبارات، تبين أنه في 70% إلى 90% من الحالات لم يكونوا بحاجة للمكتبة أصلاً، ومع ذلك قدموا أداءً يضاهي (أو حتى يتفوق على) الأنظمة التي تبحث دائماً.
يعمل دون تدريب إضافي: لا تحتاج لإعادة تعليم المساعد. أنت ببساطة تستخدم الإشارات التي يرسلها هو من تلقاء نفسه. الأمر يشبه عدم الحاجة لإعادة بناء السيارة، بل فقط تركيب نظام ملاحة ذكي يقول لك: "لا تذهب إلى المرآب إذا كانت إطاراتك جيدة".
يمنع "اليقين الزائف": غالباً ما تكون أنظمة الذكاء الاصطناत्मक الحديثة واثقة من نفسها أكثر من اللازم. TARG يلتقط الشك الذي لا تظهره الكلمات، بل تظهره حساباتها، ويستخدم ذلك كتحذير.

ملخص في جملة واحدة

TARG هو إضافة ذكية ومجانية تعلم المساعد الذكي أن يبحث في خزانة الكتب فقط عندما يشك حقاً، مما يجعله أسرع، وأرخص، وأقل عرضة للخطأ من الأنظمة التي تبحث بشكل أعمى في كل مرة.

إنه التحول من "أنا أبحث دائماً، فقط لأتأكد" إلى "أنا أبحث فقط عندما لا أكون متأكداً حقاً".

ملخص تقني: الاسترجاع كقرار: بوابات تكيفية خالية من التدريب لتعزيز كفاءة الـ RAG

بيان المشكلة
يعمل الاسترجاع المعزز بالتوليد (RAG) على تعزيز واقعية النماذج اللغوية الكبيرة (LLMs) من خلال الربط بين الذاكرة البارامترية والمجموعات النصية الخارجية غير البارامترية. ومع ذلك، فإن النهج القياسي المتمثل في الاسترجاع لكل استعلام ("Always-RAG") يؤدي إلى عدم كفاءة كبيرة. فالاسترجاع غير المشروط يضخم استخدام التوكنات (tokens) وزمن الاستجابة (latency) بسبب التوسع التربيعي لآلية الانتباه الذاتي (self-attention) في السياقات الطويلة. علاوة على ذلك، فإن الاسترجاع للاستعلامات التي تكون فيها المعرفة البارامترية للنموذج كافية قد يؤدي إلى تدهور الدقة عبر إدخال أدلة مشوشة أو هامشية، وهي ظاهرة تتفاقم بفعل تأثير "الضياع في المنتصف" (lost in the middle) في السياقات الطويلة. وبينما تستكشف الأعمال الحديثة مثل FLARE وSelf-RAG وCRAG الاسترجاع الشرطي، إلا أنها غالبًا ما تعتمد على تدريب رؤوس تحكم مساعدة، أو توكنات انعكاسية متخصصة، أو حلقات أدوات متعددة المراحل، مما يزيد من التعقيد الهندسي وزمن الاستجابة. وتفترض الورقة أن اتخاذ القرار بشأن متى يتم الاسترجاع لا يقل أهمية عن اتخاذ القرار بشأن ماذا يتم استرجاعه، ومع ذلك تفتقر الطرق الحالية إلى آلية بسيطة وخالية من التدريب لاتخاذ هذا القرار بكفاءة.

المنهجية: البوابات التكيفية للاسترجاع الخالية من التدريب (TARG)
يقترح المؤلفون TARG، وهو سياسة أحادية المرحلة (single-shot) وخالية من التدريب، تحدد ما إذا كان يجب الاسترجاع بناءً فقط على إشارات عدم اليقين الداخلية للنموذج الأساسي من بادئة (prefix) قصيرة خالية من الاسترجاع. تعمل الطريقة كما يلي:

مسودة البادئة (Prefix Drafting): بالنظر إلى استعلام $q$ ، يقوم النموذج بتوليد بادئة قصيرة مكونة من $k$ من التوكنات (الافتراضي $k=20$ ) باستخدام المطالبة الأساسية فقط، دون أي سياق مسترجع.
تسجيل عدم اليقين (Uncertainty Scoring): يقوم النظام بحساب درجة عدم يقين خفيفة الوزن $U$ $U$ من لوغيتات (logits) البادئة. تم إنشاء ثلاث إشارات محددة:
- بوابة الإنتروبيا (Entropy Gate): تحسب متوسط إنتروبيا التوكن ( $H_t$ ) عبر البادئة. تشير الإنتروبيا العالية إلى عدم يقين أعلى.
- بوابة الهامش (Margin Gate): تحسب الفجوة بين أعلى نتيجة (top-1) وثاني أعلى نتيجة (top-2) في اللوغيتات ( $g_t = \ell_{t,(1)} - \ell_{t,(2)}$ ). يتم رسم هذه الفجوة إلى درجة عدم يقين موجبة عبر دالة ربط رتيبة متناقصة بصرامة، $\phi(z) = \exp(-z/\beta)$ . وتثبت الورقة أن عتبة هذا السكور المخطط هي مكافئة ترتيبياً لعتبة متوسط فجوة اللوغيت.
- بوابة التباين (Variance Gate): تأخذ عينات من $N$ (الافتراضي $N=5$ ) من البادئات العشوائية عند درجة حرارة $T=0.7$ . وتقوم بحساب التباين التجريبي عبر هذه العينات في كل خطوة، وتجميعها في درجة محدودة بـ $(N-1)/N$ .
منطق القرار (Decision Logic): يقوم النظام بتفعيل الاسترجاع إذا تجاوزت الدرجة المجمعة $U$ عتبة ثابتة $\tau$ . إذا تم التفعيل، يتم استرجاع سياق $C$ وإلحاقه بالمطالبة؛ وإلا، تستمر عملية التوليد مع صفر استرجاع.
قيد المرحلة الواحدة (Single-Shot Constraint): على عكس الأساليب الديناميكية التي تعيد التقييم في منتصف عملية التوليد، يتخذ TARG قراراً واحداً بناءً على البادئة الأولية. ويرى المؤلفون أن إعادة الفحص الديناميكي في إعدادات الأسئلة والأجوبة ذات الإجابات القصيرة هو أمر مبالغ فيه للغاية، وغالباً ما ينحدر إلى حالة "Always-RAG" مع زمن استجابة مرتفع ومكاسب دقة ضئيلة.

المساهمات الرئيسية

الملاحظة التجريبية على النماذج المضبوطة بالتعليمات: تحدد الورقة أنه في النماذج الحديثة المضبوطة بالتعليمات (مثل Llama-3.1 وQwen2.5)، تتقلص إنتروبيات البادئة بشكل كبير، مما يفقدها القدرة التمييزية كإشارة لعدم اليقين. وبناءً عليه، تميل بوابات الإنتروبيا إلى التفعيل المفرط غير الضروري.
إشارة الهامش القوية: يوضح المؤلفون أن الفجوة بين أعلى نتيجة وثاني أعلى نتيجة في اللوغيت (Margin) تحتفظ بنطاق ديناميكي حتى في ظل التوزيعات الحادة، مما يجعلها معياراً قوماً لعدم اليقين وخالياً من التدريب. وقد تم تحديد التباين الصغير-N كبديل محافظ للقيود الصارمة للميزانية.
حد الكفاءة والدقة: يحقق TARG توازناً ملائماً، حيث يطابق أو يتجاوز دقة "Never-RAG" مع تقليل معدلات الاسترجاع بشكل كبير (بنسبة 70-90% مقارنة بـ Always-RAG) وتقليل زمن الاستج extra.
تصميم جاهز للاستخدام (Plug-and-Play): لا تتطلب الطة أي تدريب إضافي، أو رؤوس مساعدة، أو مطالبات متخصصة. ويمكن دمجها في أنظمة RAG الحالية مع إضافة عشرات إلى مئات التوكنات المسودة فقط لكل استعلام.

النتائج التجريبية
قام المؤلفون بتقييم TARG على خمسة اختبارات مرجعية: NQ-Open، TriviaQA، PopQA (إجابات قصيرة)، MuSiQue (متعدد الخطوات)، وASQA (نصوص طويلة)، باستخدام نماذج Qwen2.5-7B وLlama-3.1-8B كركائز أساسية.

الأداء مقابل النماذج المرجعية: مقارنة بـ "Always-RAG"، نجح TARG (باستخدام بوابة الهامش) باستمرار في تحسين أو مطابقة درجات التطابق التام (EM) وF1، مع تقليل معدلات الاسترجاع إلى أدنى مستوياتها (0.1%–15% اعتماداً على مجموعة البيانات والميزانية). ومقارنة بـ "Never-RAG"، غالباً ما حسن TARG الدقة عبر الاسترجاع الانتقائي عند الضرورة فقط.
زمن الاستجابة (Latency): قللت الطريقة من زمن الاستجابة النهائي بشكل كبير. على سبيل المثال، في Llama-3.1-8B مع NQ-Open، حققت بوابة الهامش زمن استجابة قريباً من النموذج المرجعي (بإضافة ~0.012 ثانية فقط لكل استعلام) مع التفوق على Always-RAG.
مقارنة الإشارات: تحت النماذج الأقوى، تفوقت بوابتا الهامش والتباين على بوابة الإنتروبيا. فقد قامت بوابات الإنتروبيا بتفعيل الاسترجاع غير الضروري بشكل متكرر (معدلات استرجاع عالية) دون تحقيق مكاسب دقة مقابلة، بينما حافظت بوابات الهامش والتباين على دقة عالية مع حد أدنى من التكاليف الإضافية.
المقارنة مع الأطر المعقدة: عند مقارنته بالأطر الانعكاسية (Self-RAG-lite، CRAG-lite) والاسترجاع النشط (FLARE) تحت قيود الميزانية الصارمة (أقصى استدعاء استرجاع واحد)، حقق TARG دقة مماثلة أو متفوقة مع زمن استجابة أقل بكثير، لأنه يتجنب عبء توكنات الانعكاس أو الحلقات متعددة الخطوات.

الأهمية والادعاءات
تدعي الورقة أن TARG يوفر "لبنة أساسية" عملية لأنظمة RAG تعيد الدقة إلى عملية الاسترجاء دون تكلفة التدريب أو التنسيق المعقد. ويؤكد المؤلفون على رؤيتين رئيسيتين:

الاسترجاع غير المشروط ليس افتراضاً آمناً: حقن السياق العشوائي غالباً ما يضر بالجودة والزمن معاً، خاصة في الاستعلامات التي تكون فيها المعرفة البارامترية كافية أو حيث يؤدي الاسترجاع إلى عناصر مشتتة.
حدة الركيزة تملي اختيار الإشارة: مع زيادة ضبط النماذج بالتعليمات وتزايد حدة توزيعات التوكن التالي، تصبح الإنتروبيا مؤشراً ضعيفاً لعدم اليقين. تظل فجوة اللوغيت (الهامش) والتباين الصغير-N فعالة، مما يسمح بمعايرة بسيطة أحادية البعد للعتبة تكون قوية عبر مختلف مجموعات البيانات والمسترجعات.

يخلص المؤلفون إلى أن TARG يتيح للممارسين التحكم صراحة في المقايضة بين الميزانية والاسترجاع، مما يجعل زمن الاستجابة قابلاً للتنبؤ والكفاءة واضحة، مع بقائه مستقلاً عن التحسينات في جودة المسترجع أو استراتيجيات إعادة التصنيف.