Adaptive Context Reliance Control in Noisy Retrieval-Augmented Generation: A Systematic Literature Review

تُعد النماذج اللغوية الكبيرة المحركات القوية وراء العديد من أدوات الذكاء الاصطناعي الحديثة، وهي قادرة على كتابة القصص، والإجابة على الأسئلة، وحل المشكلات من خلال التنبؤ بالكلمة التالية في الجملة. تتعلم هذه الأنظمة من كميات هائلة من النصوص، حيث تبني مكتبة داخلية من الحقائق والأنماط التي يمكنها الاستعانة بها عند الطلب للتحدث. ومع ذلك، فإن لهذه المكتبة الداخلية حدوداً؛ فقد تصبح قديمة، أو تغفل عن تفاصيل محددة، أو ببساء تحتوي على أخطاء ناتجة عن البيانات التي تدربت عليها. ولإصلاح ذلك، طور المهندسون طريقة تسمى "التوليد المعزز بالاسترجاع". يعمل هذا النهج بمثابة أمين مكتبة للذكاء الاصطناعي، حيث يجلب وثائق جديدة وذات صلة من قاعدة بيانات خارجية لمساعدة النموذج على الإجابة على سؤال ما بدقة أكبر. والفكرة هي أنه من خلال قراءة هذه الوثائق الجديدة، يمكن للذكاء الاصطناعي أن يرسخ إجاباته في الواقع بدلاً من الاعتماد فقط على ذاكرته.

ومع ذلك، فإن هذه الشراكة بين الذكاء الاصطناعي ومكتبته الخارجية ليست مثالية. فالوثائق التي يجلبها النظام ليست مفيدة دائماً؛ فأحياناً تكون غير ذات صلة، وأحياناً تكون قديمة، وأحياناً أخرى تكون خاطئة بثقة، مقدمةً حقائق تتناقض مع الحقيقة. ويُعرف هذا التجمع من الأخطاء باسم "ضجيج الاسترجاع". وعندما يواجه الذكاء الاصطناعي هذه الوثائق المليئة بالضجيج، فإنه يواجه خياراً صعباً: هل يثق في المعلومات الجديدة التي قرأها للتو، أم يلتزم بما يعرفه بالفعل؟ إذا وثق في الضجيج أكثر مما ينبغي، فقد ينشر معلومات مضللة. وإذا تجاهل المعلومات الجديدة بسرعة كبيرة، فقد يفوت الإجابة الصحيحة. إن إيجاد التوازن الصحيح هو التحدي المركزي الذي يهدف هذا المجال من الدراسة إلى حله.

قام فريق من الباحثين من جامعة الفدرالية في أردو وجامعة ألستر مؤخراً بإجراء مراجعة منهجية لفهم كيف يساعد العلماء حالياً الذكاء الاصطناعي في التنقل عبر هذا المشهد المليء بالضجيج. وقد فحصوا ست عشرة دراسة أولية وتقريرين مرجعيين رئيسيين نُشرا في الفترة ما بين يناير 2022 ومارس 2026. كان هدفهم هو رسم خريطة للاستراتيجيات المختلفة المستخدمة لجعل هذه الأنظمة قوية ضد المعلومات السيئة وتحديد مواضع القصور في الحلول الحالية. ووجد الباحثون أنه بينما توجد طرق عديدة لتحسين الأداء، إلا أنها غالباً ما تعامل جميع المعلومات السيئة كأنها مشكلة واحدة، وتفشل في التمييز بين وثيقة غير ذات صلة فحسب ووثيقة خاطئة بشكل خطير. علاوة على ذلك، فإن معظم الحلول الموجودة إما أنها جامدة للغاية بحيث لا تستطيع التكيف مع الظروف المتغيرة، أو أنها بطيئة جداً بحيث لا تكون مفيدة في التطبيقات التي تعمل في الوقت الفعلي.

وكشفت المراجعة أن المجال منقسم حالياً إلى معسكرين رئيسيين. تركز المجموعة الأولى على تدريب الذكاء الاصطناعي ليكون أكثر مقاومة للضجيج قبل نشره. وتتضمن هذه الطرق تعليم النموذج كيفية التعرف على المعلومات السيئة ورفضها من خلال جلسات تدريبية صارمة. وبينما تصبح هذه النماذج قوية جداً في تجاهل الأخطاء، إلا أنها تفتقر إلى المرونة؛ فبمجرد تدريبها، لا يمكنها التكيف بسهولة إذا تغيرت طبيعة الضجيج أو إذا تغيرت جودة الوثائق الخارجية. أما المجموعة الثانية، فتركز على تكييف الذكاء الاصطناعي أثناء عمله، مما يسمح له بتقرير مدى الوزن الذي يجب إعطاؤه للوثائق التي يجدها في تلك اللحظة. وتعتبر هذه الطرق أكثر مرونة، لكنها غالباً ما تكافح لتقديم ضمانات قوية بأن النموذج لن يُخدع من قبل ضجيج مخادع بشكل خاص.

وهناك رؤية نقدية كشفت عنها المراجعة وهي أن ليس كل الضجيج متساوياً. فبعض الوثائق قد تكون بعيدة قليلاً عن الموضوع، بينما قد تكون وثائق أخرى مختلقة تماماً أو تتناقض مع الحقائق المعروفة. وأشار الباحثون إلى أن النهج الحالية غال/ غالباً ما تفشل في إدراك هذه الاختلافات؛ فهي تعامل الضجيج كمشكلة واحدة موحدة بدلاً من مجموعة من الأنواع المتميزة، والتي يتطلب كل منها استجابة مختلفة. فعلى سبيل المثال، قد يحتاج النموذج إلى أن يكون متشككاً جداً في وثيقة تتناقض مع معرفته الداخلية، لكنه قد يكون قادراً على الوثوق بوثيقة تضيف مجرد تفصيل جديد. وقد سلطت المراجعة الضలుط على أنه لا توجد طريقة حالية تنجح في الجمع بين الفهم التفصيلي لنوع الضجيج وبين مقياس لثقة النموذج نفسه لاتخاذ قرار ذكي وسريع في جزء من الثانية حول مدى الثقة في المعلومات الجديدة.

ولمعالجة هذه الفجوات، اقترح المؤلفون إطار عمل جديداً يسمى "التحكم التكيفي في الاعتماد على السياق" (Adaptive Context Reliance Control). هذا تصميم مفاهيمي لنظام يعمل بمثابة مرشح ديناميكي للذكاء الاصطناعي. فبدلاً من قبول أو رفض جميع الوثائق الخارجية بشكل أعمى، سيقوم هذا النظام أولاً بتحليل المعلومات الواردة لتحديد نوع الضجيج الذي تحتوي عليه. ثم سيتحقق من مدى ثقة الذكاء الاصطناعي في معرفته الداخلية حول الموضوع. ومن خلال الجمع بين هذين الجزأين من المعلومات — جودة البيانات الجديدة وقوة الذاكرة القديمة — يمكن للنظام حساب وزن دقيق لمدى وجوب اعتماد الذكاء الاصطناعي على الوثائق الجديدة. فإذا كانت الوثائق الجديدة مليئة بالتناقضات وكان الذكاء الاصطناعي متأكداً بالفعل من الإجابة، فسيخبر النظام الذكاء الاصطناعي بتجاهل البيانات الجديدة. وعلى العكس من ذلك، إذا كان الذكاء الاصطناعي غير متأكد وبدت الوثائق الجديدة موثوقة، فسيشجع النظام الذكاء الاصطناعي على الانتباه جيداً.

كما حدد الباحثون عقبة كبيرة في جعل هذه الفكرة تعمل في العالم الحقيقي، وهي السرعة. فمن أجل اتخاذ هذه القرارات الذكية، يتطلب النموذج النظري الحالي من الذكاء الاصطناعي إجراء بعض الفحوصات الإضافية على المعلومات، وهو ما يستغرق وقتاً. وفي بيئة سريعة الخطى حيث تُطلب الإجابات فوراً، قد تكون هذه الخطوات الإضافية بطيئة للغاية. وتقترح المراجعة أن العمل المستقبلي يجب أن يركز على إيجاد طرق لجعل هذه الفحوصات أسرع دون فقدان دقتها. كما أشار المؤلفون إلى أنه بينما أظهرت بعض الدراسات نتائج واعدة في بيئات خاضعة للرقابة، إلا أن هناك نقصاً في الاختبارات واسعة النطاق في العالم الحقيقي لإثبات أن هذه الطرق تعمل باستمرار عبر مختلف أنواع الأسئلة واللغات.

في نهاية المطاف، تعمل هذه المراجعة كخارطة طريق للجيل القادم من أنظمة الذكاء الاصطناعي. فهي توضح أن مجرد إضافة المزيد من البيانات أو تدريب النماذج بشكل أقوى ليس كافياً. إن مستقبل الذكاء الاصطناعي الموثوق يكمن في إنشاء أنظمة يمكنها وزن قيمة المعلومات الجديدة مقابل ما تعرفه بالفعل بذكاء، وتكييف مستويات الثقة بناءً على الجودة المحددة للأدلة التي تجدها. ومن خلال فهم الأنواع المحددة للأخطاء التي تحدث وتطوير أدوات تحكم يمكنها الاستجابة لها ديناميكياً، يأمل الباحثون في بناء ذكاء اصطناعي ليس فقط واسع المعرفة، بل وموثوق أيضاً، حتى عندما تكون المعلومات التي يجدها غير كاملة. إن الطريق نحو المستقبل يتضمن تحسين أدوات التحكم التكيفية هذه، وجعلها أسرع، واختبارها بصرامة لضمان قدرتها على التعامل مع الواقع الفوضوي لعالم المعلومات.