💻 computer science

RADAR: Defending RAG Dynamically against Retrieval Corruption

يُعد RADAR إطار عمل مبتكرًا يدافع عن أنظمة التوليد المعزز بالاسترجاع ضد فساد الاسترجاع العدائي في البيئات الديناميكية، وذلك من خلال نمذجة اختيار السياق كمسألة تقليل طاقة قائمة على الرسم البياني واستخدام عقدة ذاكرة بايزية للموازنة بين الاستقرار والقدرة على التكيف مع تقليل تكاليف التخزين إلى الحد الأدنى.

المؤلفون الأصليون: Ziyuan Chen, Yueming Lyu, Yi Liu, Weixiang Han, Jing Dong, Caifeng Shan, Tieniu Tan

نُشر 2026-05-22

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ziyuan Chen, Yueming Lyu, Yi Liu, Weixiang Han, Jing Dong, Caifeng Shan, Tieniu Tan

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك مساعداً ذكياً جداً، ولكنه ساذج قليلاً، يدعى LLM. هذا المساعد بارع في كتابة القصص والإجابة على الأسئلة، لكنه أحياناً يختلق أشياء من خياله أو يصاب بالارتباك لأنه لا يعرف كل شيء عن العالم. ولإصلاح ذلك، تعطي له "باحثاً" يذهب إلى الإنترنت، ويجد المقالات، ويسلمها للمساعد. يُطلق على هذا النظام اسم RAG (التوليد المعزز بالاسترجاع).

ومع ذلك، هناك مشكلة: الإنترنت مكان صاخب وفوضوي. يمكن للجهات السيئة (المخترقين) أن يتسللوا عبر نشر أخبار كاذبة، أو أكاذيب، أو تعليمات خبيثة في تلك المقالات. إذا سلم الباحث للمساعد كومة من الأوراق التي معظمها أكاذيب، فسيصدق المساعد تلك الأكاذيب ويعطيك إجابة خاطئة.

تقدم هذه الورقة نظام دفاع جديد يسمى RADAR. فكر في RADAR كأنه رئيس تحرير فائق الذكاء يجلس بين الباحث والمساعد. مهمته هي النظر في كومة الأوراق، وتحديد أي منها موثوق، ورمي الأوراق المزيفة قبل أن يراها المساعد أبداً.

إليك كيف يعمل RADAR، مشروحاً من خلال تشبيهات بسيطة:

1. "العناق الجماعي" مقابل "الكاذب المنعزل" (الرسم البياني والقطع الأدنى - The Graph & Min-Cut)

عندما يعود الباحث بـ 10 مقالات، لا يكتفي RADAR بقراءتها واحدة تلو الأخرى. بدلاً من ذلك، يتعامل معها كأنها مجموعة من الأشخاص في حفلة.

الحفلة: كل مقال هو ضيف.
المحادثة: يسأل RADAR: "هل الضيف (أ) يتفق مع الضيف (ب)؟" أو "هل الضيف (أ) يناقض الضيف (ب)؟"
الهدف: يريد RADAR العثور على أكبر وأكثر مجموعة متناغمة من الضيوف الذين يتفقون جميعاً مع بعضهم البعض.

يستخدم RADAR خدعة رياضية (تسمى Max-Flow Min-Cut) لحل لغز: "كيف نقطع الحفلة إلى مجموعتين بحيث يتم عزل 'الكاذبين' عن 'مريدي الحقيقة' بأقل قدر من القطع؟"

إذا كان المستند كاذباً، فسيتم "قطعه" عن المجموعة الرئيسية.
إذا كان المستند يقول الحقيقة، فسيظل متصلاً بمريدي الحقيقة الآخرين.
النتيجة؟ يحصل المساعد فقط على مجموعة "مريدي الحقيقة" ليكتب الإجابة النهائية.

2. "بنك الذاكرة" (الدفاع الديناميكي)

الإنترنت يتغير كل يوم. فالحقيقة التي كانت صحيحة بالأمس قد تكون خاطئة اليوم (على سبيل المثال، "من هو الرئيس؟" يتغير كل بضع سنوات).

الدفاعات القديمة: معظم الأنظمة الأمنية تشبه حارس الأمن الذي ينظر فقط إلى الأشخاص الداخلين الآن. إنهم لا يتذكرون من كان هناك بالأمس. إذا تسلل كاذب اليوم، فقد لا يكتشفه الحارس إذا بدا كشخص طبيعي.
نهج RADAR: يمتلك RADAR بنك ذاكرة. إنه يتذكر الإجابة التي قدمها بالأمس.
- إذا كانت معلومات اليوم الجديدة تتفق مع إجابة الأمس، يقول RADAR: "رائع، نحن لا نزال على المسار الصحيح!" ويحتفظ بالذاكرة.
- إذا كانت معلومات اليوم الجديدة تتناقض بشدة مع إجابة الأمس (مثل حدث إخباري كبير)، يقول RADAR: "انتظر، لقد تغيرت الأمور. الإجابة القديمة أصبحت الآن كاذبة." يقوم بتحديث ذاكرته لتعكس الحقيقة الجديدة.

هذا يشبه المحقق الذي يحتفظ بملف قضية. إذا وصلت أدلة جديدة تثبت براءة المشتبه به، يقوم المحقق بتحديث الملف. أما إذا كانت الأدلة الجديدة تكرر فقط ما يعرفونه بالفعل، فإنه يحتفظ بالملف كما هو. هذا يمنع النظام من الارتباك بسبب الضجيج المؤقت أو الأكاذيب "المبهرة".

3. "الاعتقاد البايزي" (السحر الرياضي)

كيف يقرر RADAR ما إذا كانت الذاكرة صحيحة أم خاطئة؟ إنه يستخدم طريقة تسمى الاستدلال البايزي (Bayesian Inference).

تخيل أن لديك حدساً (اعتقاداً) بأن قصة ما حقيقية.
ثم، تحصل على أدلة جديدة.
يقوم RADAR رياضياً بتحديث "حدسك" بناءً على مدى دعم الأدلة الجديدة للقصة القديمة.
إذا كانت الأدلة الجديدة تدعم القصة القديمة بقوة، فإن "الحدس" يصبح "يقيناً".
إذا كانت الأدلة الجديدة تناقض القصة القديمة بشدة، فإن "الحدس" ينخفض إلى "باطل".

هذا يجعل RADAR مرناً (يتكيف مع التغييرات الحقيقية) ولكنه أيضاً مستقراً (يتجاهل الضجيج العشوائي أو الهجمات المؤقتة).

لماذا يعد هذا أفضل مما لدينا الآن؟

التخزين: تحاول الطرق القديمة حفظ كل مستند تم رؤيته على الإطلاق لمقارنته لاحقاً. هذا يشبه محاولة حمل المكتبة بأكملها في حقيبة ظهرك. إنه أمر ثقيل وبطيء. RADAR يحفظ فقط "ملخصاً" صغيراً لما يعتقده (عقدة الذاكرة)، مما يجعله خفيفاً وسريعاً للغاية.
الهجمات الديناميكية: المخترقون يصبحون أكثر ذكاءً؛ فهم يغيرون أكاذيبهم باستمرار. الدفاعات القديمة تشبه درعاً ثابتاً يعمل فقط ضد نوع واحد من السهام. RADAR مثل درع يتحرك ويتكيف، ويصد السهام بغض النظر عن كيفية تغيير المهاجم لاتجاه تصويبه.

الخلاصة

تدعي الورقة أن RADAR هو طريقة جديدة لحماية مساعدي الذكاء الاصطناعي من أن يتم خداعهم بمعلومات مزيفة على الإنترنت. من خلال التعامل مع اختيار المعلومات الجيدة كأنه لغز لربط الأصدب وعزل الأعداء، ومن خلال تذكر الحقائق الماضية لكشف الأكاذيب الجديدة، يحافظ RADAR على دقة إجابات الذكاء الاصطناعي حتى عندما يكون الإنترنت مليئاً بالجهات السيئة.

باختاً: RADAR هو مرشح ذكي يعرف من يثق به، ومن يتجاهله، ومتى يحدث معتقداته الخاصة، كل ذلك مع الحفاظ على سرعة وخفة النظام.

ملخص تقني: RADAR: الدفاع عن RAG ديناميكيًا ضد فساد الاسترجاع

1. بيان المشكلة

تواجه أنظمة التوليد المعزز بالاسترجاع (RAG)، لا سيما تلك المنشورة في بيئات البحث الويب الديناميكية، ثغرات أمنية كبيرة تجاه الهجمات العدائية. وبينما كانت أنظمة RAG المبكرة تعمل على مجموعات بيانات ثابتة، فإن التطبيقات الحديثة تستوعب باستمرار معلومات متطورة من الويب. هذا التقلب الزمني يضاعف من القابلية للتعرض لـ تسميم المتون (حقن وثائق مضللة) وهجمات حقن الأوامر (تضمين تعليمات خبيثة في النص المسترجع).

إن آليات الدفاع الحالية مصممة إلى حد كبير للإعدادات الثابتة. غالبًا ما تؤدي التصفية الاستدلالية (Heuristic filtering) إلى خسارة في الفائدة، بينما تعتمد عملية اختيار الاتساق القائمة على التحسين على تقريبات تفتقر إلى ضمانات قوية. وعند تمديد هذه الطرق بشكل ساذج إلى الإعدادات الديناميكية، فإنها تفشل في التعامل مع التهديدات المتحولة باستمرار وتعاني من تكاليف تخزين باهظة بسبب الحاجة إلى أرشفة الوثائق التاريخية الخام. التحدي الجوهري هو الحفاظ على المتانة ضد الاستراتيجيات العدائية المتطورة مع الحفاظ على القدرة على التكيف مع التحولات المعرفية الحقيقية (معضلة الاستقرار واللدونة) دون تكاليف تخزين مفرطة.

2. المنهجية: إطار عمل RADAR

يعالج RADAR (الدفاع التكيفي القوي ضد فساد الاسترجاع) هذه التحديات من خلال نمذجة اختيار السياق الموثوق كمسألة تقليل طاقة قائمة على الرسم البياني، والتي يتم حلها بدقة عبر الحد الأدنى للقطع (Max-Flow Min-Cut). يعمل إطار العمل في وضعين رئيسيين: ثابت وديناميكي.

2.1. الآلية الجوهرية: تقليل الطاقة عبر الحد الأد Min-Cut

يعامل RADAR عملية اختيار الوثائق الموثوقة كمسألة تسمية ثنائية. بالنظر إلى مجموعة من الوثائق المسترجعة $D = \{d_1, ..., d_k\}$ ، يكون الهدف هو تحديد مجموعة فرعية $D_{rel}$ تعظم الاتساق.

توليد الإجابة الذرية: لكل وثيقة مسترجعة، يقوم النظام بتوليد "إجابة ذرية" باستخدام نموذج لغوي كبير (LLM).
التقييم الدلالي: يقوم نموذج استدلال لغوي طبيعي (NLI) بحساب مصفوفتين:
- الاتساق ( $M$ ): الاستلزام المنطقي بين الإجابات الذرية.
- التناقض ( $C$ ): الصراع المنطقي بين الإجابات الذرية.
بناء الرسم البياني: يتم بناء رسم بياني موجه $G=(V, E)$ $G = (V, E)$ يحتوي على عقدة مصدر $s$ $s$ ، وعقدة مصب $t$ $t$ ، وعقد لكل وثيقة.
- الجهود الأحادية (الحواف الطرفية): تمثل الحواف من $s$ إلى $d_i$ ( $S_i$ ) فائدة الاحتفاظ بوثيقة (بناءً على المركزية والترتيب)، بينما تمثل الحواف من $d_i$ إلى $t$ ( $F_i$ ) تكلفة الاحتفاظ بها (بناءً على الصراع مع الوثائق المركزية).
- الجهود الثنائية (الحواف بين الوثائق): الحواف بين $d_i$ و $d_j$ بسعة $M_{ij}$ تفرض الاتساق المنطقي.
الاستدلال: تقوم خوارزمية الحد الأدنى للقطع (Min-Cut) بتقسيم الرسم البياني إلى مجموعة مصدر (الوثائق الموثوقة) ومجموعة مصب (الوثائق المفلترة). يوفر هذا حلاً دقيقاً لمسألة تقليل الطاقة، حيث يوازن بين ثقة الوثيقة الفردية والاتساق الثنائي.

2.2. الدفاع الديناميكي: عقدة الذاكرة البايزية

للتعامل مع تدفقات الأدلة المتطورة زمنياً دون تخزين الوثائق التاريخية الخام، يقدم RADAR عقدة ذاكرة بايزية ( $a_{t-1}$ ) تمثل حالة الاعتقاد الخاصة بالنظام من الخطوة الزمنية السابقة.

التحديث التكراري للاعتقاد: بدلاً من أرشفة الوثائق، يقوم النظام بتحديث سعة الحواف المتصلة بعقدة الذاكرة باستخدام الاستدلال البايزي.
- الاعتقاد المسبق (Prior): مشتق من تماسك الإجابة السابقة.
- الاحتمالية (Likelihood): تُحسب بناءً على الاستلزام (الدعم) أو التناقض (الصراع) بين الإجابة التاريخية والأدلة الجديدة $D(t)$ .
- الاعتقاد اللاحق (Posterior): تحدد سعة الحافة المحدثة ما إذا كان ينبغي الاحتفاظ بالإجابة التاريخية (جانب المصدر) أو التخلص منها (جانب المصب) في عملية الـ Min-Cut الحالية.
توازن الاستقرار واللدونة: تسمح هذه الآلية للنظام بالتكيف مع الاحتفاظ بالمعرفة التاريخية الصالحة عندما تدعمها الأدلة الجديدة، أو التخلص منها عندما تتعارض معها الأدلة الجديدة، مما يحل فعلياً مقايضة الاستقرار واللدونة.

2.3. معالجة ما بعد التصفية

بعد اختيار الـ Min-Cut، يقوم النظام بخطوة تصفية ثانوية بناءً على تشابه جيب التمام (cosine similarity) الزوجي للإجابات الذرية المختارة لإزالة القيم المتطرفة المعزولة، مما يضمن التماسك الدلالي قبل خطوة التوليد النهائية.

3. المساهمات الرئيسية

إطار عمل RADAR: إطار دفاعي مبتكر يعامل تنقية سياق RAG كمسألة Min-Cut، مما يوفر استدلالاً دقيقاً وفعالاً مع متانة فائقة ضد الهجمات القائمة على المتون.
بناء الرسم البياني الديناميكي مع الذاكرة البايزية: أول نهج دفاعي مصمم خصيصاً لهجمات الخطوات الزمنية المستمرة. من خلال الحفاظ على حالة اعتقاد تكرارية عبر عقدة ذاكرة بايزية، يحقق توازناً فعالاً بين الاتساق التاريخي والأدلة الجديدة دون أرشفة الوثائق الخام.
بناء مجموعة بيانات ديناميكية: إنشاء مجموعة بيانات شاملة لـ RAG الأمنية الديناميكية، تحاكي سيناريوهات هجوم متطورة مع حقائق أرضية متغيرة زمنياً وأنماط هجوم متغيرة.

4. النتائج التجريبية

أُجريت التجارب على أربع مجموعات بيانات (RealTimeQA، Natural Questions، TriviaQA، Bio) باستخدام نماذج لغوية متعددة (DeepSeek، GPT-4o، Grok-4-fast) وتمت مقارنتها بأساليب مرجعية مثل RobustRAG و AstuteRAG و ReliabilityRAG.

الأداء الاستاتيكي (الثابت): حقق RADAR توازناً متفوقاً بين المتانة والفائدة. في RealTimeQA (RQA) تحت هجمات حقن الأوامر (PIA) في المرتبة الأولى (Pos 1)، حافظ RADAR على دقة 69.0% مع معدل نجاح هجوم (ASR) بنسبة 11.0%، متفوقاً بشكل ملحوظ على الأساليب المرجعية مثل AstuteRAG (دقة 25.0%، ASR 1.0%) و ReliabilityRAG (دقة 69.0%، ASR 15.0%). وفي توليد النصوص الطويلة لـ Bio، حقق RADAR ذروة دقة بلغت 84.4% تحت هجمات التسميم، متفوقاً على جميع الأساليب المرجعية.
الأداء الديناميكي: في تدفقات الأدلة المتطورة، أظهر RADAR قدرة فائقة على التكيف. تحت إعدادات اللقطات التراكمية مع PIA في Pos 1، حقق RADAR دقة 63.60% مع ASR بنسبة 17.85%، متفوقاً على RobustRAG (دقة 61.29%) و ReliabilityRAG (دقة 53.61%).
الكفاءة: قلل RADAR من عبء التخزين من عشرات الميجابايت (المطلوبة لأرشفة الوثائق الخام في الطرق الأخرى) إلى حوالي 1 كيلوبايت لكل استعلام (تخزين حالة الاعتقاد فقط). وبينما يهيمن توليد الإجابات الذرية على وقت التشغيل، فإن استدلال Min-Cut يضيف عبئاً ضئيلاً للغاية.
المتانة: ظل النهج مستقراً تحت الهجمات التكيفية المصممة لتجاوز فحوصات NLI وأظهر حساسية منخفضة تجاه اختيار نموذج NLI (مثل DeBERTa-v3، BART، ModernBERT).

5. الأهمية والادعاءات

يزعم البحث أن RADAR يوفر آلية مرونة مدركة زمنياً ومبنية رياضياً، وهي ضرورية لوكلاء الذكاء الاصطناعي من الجيل التالي الذين يعملون في الوقت الفعلي. من خلال صياغة تنقية السياق كمسألة Min-Cut دقيقة ودمج عقدة ذاكرة بايزية، يوازن RADAR بفعالية بين المقاومة العدائية والتكيف المعرفي.

يؤكد المؤلفون أن هذا النهج يقلل بشكل كبير من عبء التخزين مع تحسين المتانة ودقة الإجابات تحت الهجمات المتطورة. ويفترضون أنه مع تحول RAG في الوقت الفعلي إلى جزء أساسي من المساعدين الذكيين ومحركات البحث، فإن مثل هذه الدفاعات الديناميكية حيوية للتخفيف من مخاطر حقن الأوامر وتسميم المتون، مما يعزز النشر الآمن للأنظمة المدعومة بالنماذج اللغوية الكبيرة في البيئات الديناميكية الواقعية. لا يدعي العمل حل جميع ثغرات RAG، بل يستهدف تحديداً الفجوة في الدفاع ضد فساد الاسترجاع الديناميكي بأقل تكلفة تخزين.