🤖 AI

ReliabilityRAG: Effective and Provably Robust Defense for RAG-based Web-Search

تقدم هذه الورقة البحثية ReliabilityRAG، وهو إطار عمل يستفيد من إشارات موثوقية المستندات وخوارزميات نظرية المخططات، وتحديداً نهج المجموعة المستقلة القصوى ذات الأولوية للموثوقية وطريقة أخذ العينات الموزونة القابلة للتوسع، لتوفير دفاعات قوية ومثبتة ضد فساد المتون في أنظمة التوليد المعزز بالاسترجاع مع الحفاظ على دقة عالية.

المؤلفون الأصليون: Zeyu Shen, Basileal Imana, Tong Wu, Chong Xiang, Prateek Mittal, Aleksandra Korolova

نُشر 2026-02-17

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Zeyu Shen, Basileal Imana, Tong Wu, Chong Xiang, Prateek Mittal, Aleksandra Korolova

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك طباخ (الذكاء الاصطناعي) تحاول طهي وجبة لذيذة ودقيقة (الإجابة) لزبون ما. وللقيام بذلك، لا تعتمد فقط على ذاكرتك؛ بل تطلب من أمين مكتبة (محرك البحث) أن يحضر لك كومة من كتب الطبخ (المستندات) من المكتبة التي قد تجد فيها الوصفة التي تحتاجها.

هكذا تعمل تقنية RAG (التوليد المعزز بالاسترجاع). إنها تجعل الذكاء الاصطناعي أكثر ذكاءً عبر تزويده بمعلومات خارجية حديثة.

المشكلة: المخرّب في المكتبة

المشكلة هي أن المكتبة ليست آمنة تماماً. فقد تسلل مخرّب (المخترق) وزرع كتب طبخ مزيفة ومضللة في أماكنها الصحيحة على الرفوف.

إذا التقط أمين المكتبة كتاباً مزيفاً من أعلى الكومة (المكان الأكثر موثوقية)، فقد يقرأه الطباخ ويقدم وجبة مسمومة.
أما إذا كان الكتاب المزيف مدفوناً في أسفل الكومة، فقد يتجاهله الطباخ، ولكن إذا التقط أمين المكتبة الكثير من الكتب، فقد يتسلل الكتاب المزيف رغم ذلك.

الدفاعات الحالية تشبه الطباخ الذي يكتفي بقراءة كل الكتب ويحاول تخمين الحقيقة عبر عدّ كم مرة ذُكرت كلمة "ملح" مقابل "سكر". ولكن إذا كُتبت الكتب المزيفة ببراعة شديدة، فسيصاب الطباخ بالارتباك ويقدم وجبة سيئة.

الحل: ReliabilityRAG

يقترح مؤلفو ورقة ReliabilityRAG طريقة أذكى للتعامل مع كومة الكتب. لقد قدموا فكرتين رئيسيتين:

1. لعبة "محقق الحقيقة" (طريقة الرسم البياني - Graph Method)

تخيل أن الطباخ يضع أفضل 10 كتب على الطاولة.

الخطوة 1: يقرأ الطباخ كل كتاب على حدة ويكتب ملخصاً قصيراً للوصفة.
الخطوة 2: يعمل الطباخ كـ محقق حقيقة. يقوم بمقارنة كل ملخص مع كل ملخص آخر.
- "الكتاب (أ) يقول: أضف الملح. الكتاب (ب) يقول: أضف السكر. هناك تناقض!" -> يصنفهم كأعداء.
- "الكتاب (ج) يقول: أضف الملح. الكتاب (د) يقول: أضف الملح. إنهما متفقان." -> يصنفهم كأصدقاء.
الخطوة 3: يبني الطباخ خريطة صداقة (رسم بياني). الأصدقاء متصلون ببعضهم؛ والأعداء ليس كذلك.
الخطوة 4: يبحث الطباخ عن أكبر مجموعة من الأصدقاء الذين يتفقون جميعاً مع بعضهم البعض ولا يوجد بينهم أي أعداء. تسمى هذه العملية "المجموعة المستقلة القصوى" (Maximum Independent Set).

السر الخفي: يعرف الطباخ أن الكتب الموجودة في أعلى الكومة (التي جلبها أمين المكتبة من النتائج الأولى) هي عادةً الأكثر موثوقية. فإذا وُجدت مجموعتان من الأصدقاء لهما نفس الحجم، يختار الطباخ المجموعة التي تضم الكتب ذات التصنيف الأعلى.

لما لماذا ينجح هذا؟ يمكن للمخرّب زرع عدد قليل من الكتب المزيفة فقط. وحتى لو حاول خداع الطباخ، فإن الكتب المزيفة ستتناقض غالباً مع الكتب الحقيقية الكثيرة. لذا، فإن "أكبر مجموعة من الأصدقاء" ستكون طبيعياً هي مجموعة الكتب الحقيقية، مما يترك الكتب المزيفة خارج الحسابات.

2. طريقة "ملعقة التذوق" (طريقة أخذ العينات للمكتبات الضخمة)

ماذا لو أحضر أمين المكتبة 50 أو 100 كتاب؟ إن فحص كل زوج من الكتب لمعرفة من هو الصديق ومن هو العدو سيستغرق وقتاً طويلاً جداً (مثل محاولة تعريف كل شخص في حفل زفاف ضخم بالآخرين).

لذا، يستخدم الطباخ استراتيجية أخذ العينات:

بدلاً من قراءة الـ 100 كتاب كاملة، يختار الطباخ حفنة صغيرة (مثلاً كتابين) لتذوقهما.
تحول جوهري: من المرجح أن يختار الطباخ كتباً من أعلى الكومة لأنها أكثر موثوقية. الأمر يشبه اختيار المكونات الطازجة أولاً.
يكرر الطباخ عملية التذوق هذه 20 مرة، لينتج 20 مجموعة صغيرة.
أخيراً، يدمج الطباخ النتائج من هذه المجموعات العشرين لاتخاذ القرار النهائي.

هذه الطريقة سريعة، فعالة، ويصعب على المخرّب خداعها لأن الكتب المزيفة تكون عادةً في أسفل الكومة ونادراً ما يتم اختيارها.

لماذا هذا مهم؟

إنه قوي ومثبت رياضياً: تُظهر الرياضيات أنه طالما أن المخرّب لا يسيطر على أكثر من نصف الكتب (وهو أمر صعب جداً في محركات البحث الحقيقية)، فإن الطباخ سيختار الحقيقة دائماً تقريباً.
يحافظ على المحتوى الجيد: على عكس الطرق القديمة التي قد تتخلص من المعلومات الجيدة لمجرد الحذر، تحافظ هذه الطريقة على المستندات عالية الجودة والموثوقة، مما يجعل الإجابات دقيقة حتى في حالة عدم وجود هجوم.
يتعامل مع القصص الطويلة: يعمل بشكل رائع حتى عندما يحتاج الطباخ لكتابة سيرة ذاتية طويلة، وليس مجرد حقيقة قصيرة.

الخلا الخلاصة

ReliabilityRAG يشبه منح الذكاء الاصطناعي مرشحاً ذكياً لا يثق بعمى في النتيجة الأولى ولا يشكك في كل شيء بشكل أعمى. بدلاً من ذلك، يقوم بالتحقق المتقاطع للمعلومات، ويبحث عن التناقضات، ويفضل بشدة المصادر التي أخبرنا محرك البحث أنها الأكثر موثوقية. إنه يحول كومة فوضوية من الأخبار التي قد تكون مزيفة إلى إجابة واضحة وجديرة بالثقة.

إليك ملخص تقني مفصل لورقة البحث: "ReliabilityRAG: دفاع فعال ومتين نظرياً لأنظمة RAG القائمة على البحث عبر الويب."

1. بيان المشكلة

تعتبر أنظمة التوليد المعزز بالاسترجاع (RAG)، التي تجمع بين النماذج اللغوية الكبيرة (LLMs) واسترجاع الوثائق الخارجية (مثل Google Search AI Overview)، عرضة للهجمات العدائية على مجموعة الوثائق المسترجعة.

التهديدات: يمكن للمهاجمين تسميم المجموعة عبر تسميم المجموعة (Corpus Poisoning) (حقن حقائق كاذبة) أو حقن الأوامر (Prompt Injection) (تضمين تعليمات لاختطاف مخرجات النموذج اللغوي الكبير).
قصور الدفاعات الحالية: تعتمد أطر عمل RAG المتينة الحالية (مثل RobustRAG) غالباً على التصويت بالأغلبية البسيطة عبر الوثائق المسترجعة. وتعاني هذه الأساليب من:
- فقدان المعلومات: يؤدي اختزال اللغة الطبيعية الحرة إلى كلمات مفتاحية أو احتمالات رموز (tokens) إلى فقدان السياق.
- ضعف القابلية للتوسع: تواجه صعوبة في مهام التوليد طويلة النص.
- تجاهل إشارات الموثوقية: تتعامل مع الوثائق المسترجعة كمجموعة غير مرتبة، متجاهلة حقيقة أن محركات البحث توفر إشارات موثوقية (مثل الترتيب، أو PageRank) والتي يصعب على المهاجمين التلاعب بها للوصول إلى المواقع ذات الترتيب العالي.

2. المنهجية: ReliabilityRAG

يقترح المؤلفون ReliabilityRAG، وهو إطار عمل دفاعي يستفيد صراحةً من إشارات موثوقية الوثائق (الترتيب أو الأوزان) لتصفية الوثائق الخبيثة قبل عملية التوليد. يعمل الإطار في حالتين:

أ. إعداد الموثوقية الترتيبية (القائم على الترتيب - Ordinal-Reliability)

يفترض هذا النهج أن المسترجع يوفر قائمة مرتبة من الوثائق ( $x_1 \succeq x_2 \succeq \dots \succeq x_k$ )، حيث $x_1$ هي الأكثر موثوقية.

الخوارزمية الجوهرية: المجموعة المستقلة القصوى (Maximum Independent Set - MIS) على رسم بياني للتناقض.
1. الإجابة المنعزلة: يقوم النموذج اللغوي بتوليد إجابة لكل وثيقة مسترجعة بشكل فردي.
2. بناء الرسم البياني للتناقض: يتم بناء رسم بيائي $G=(V, E)$ حيث تمثل الرؤوس (vertices) الوثائق. وتوجد حافة (edge) بين وثيقتين إذا اكتشف نموذج الاستدلال باللغة الطبيعية (NLI) وجود تناقض بين إجابتيهما المنعزلتين.
3. الاختيار المراعي للترتيب: تجد الخوارزمية المجموعة المستقلة القصوى (MIS) (أكبر مجموعة فرعية من الوثائق غير المتناقضة مع بعضها البعض).
  - كسر التعادل: إذا وُجدت عدة مجموعات MIS، تختار الخوارزمية المجموعة ذات الترتيب المعجمي الأصغر للفهارس. وهذا يعطي الأولوية صراحةً للوثائق ذات الترتيب الأعلى (الأكثر موثوقية).
4. التوليد: يولد النموذج اللغيدي الإجابة النهائية باستخدام الوثائق الموجودة فقط في مجموعة MIS المختارة.
الضمان النظري: في ظل افتراضات التسميم المحدود (المهاجم يمكنه تسميم جزء صغير فقط من الوثائق) ومعدلات خطأ معقولة في نموذج NLI، فإن احتمال اختيار وثيقة خبيثة يتلاشى أسياً مع زيادة عدد الوثائق المسترجعة.

ب. إعداد الموثوقية العددية (القائم على الوزن - Cardinal-Reliability)

بالنسبة للسيناريوهات ذات مجموعات الاسترجاع الكبيرة (مثل $k=50+$ ) حيث يكون حساب MIS الدقيق مكلفاً حاسوبياً ( $O(2^k)$ )، يقترح المؤلفون إطار عمل العينات والتدقيق الموزون (Weighted Sample and Aggregate).

الآلية:
1. العينات الموزونة: يتم أخذ عينات من الوثائق مع الإحلال بناءً على أوزان موثوقيتها (على سبيل المثال، التضاؤل الأسي بناءً على الترتيب).
2. توليد السياق: لكل عينة (سياق)، يتم توليد إجابة وسيطة.
3. التجميع: يتم تجميع الإجابات الوسيطة. يمكن أن يكون المجمع هو خوارزمية MIS نفسها (المطبقة على المجموعة المختارة) أو وظائف تجميع قوية أخرى.
الفائدة: يوسع هذا النهج ضمانات المتانة لتشمل مجموعات الوثائق الكبيرة مع الحفاظ على مستوى عالٍ من الفائدة.

3. المساهمات الرئيسية

دفاع مبتكر قائم على نظرية الرسوم البيانية: تقديم طريقة لإيجاد "أغلبية متسقة" باستخدام MIS على رسم بياني للتناقض، مع إعطاء الأولوية صراحةً للوثائق عالية الموثوقية.
ضمانات متينة نظرياً: تقديم براهين نظرية تظهر أن نهج MIS متين ضد التسميم العدائي المحدود، بشرما توفر نموذج NLI ضمن حدود خطأ محددة.
إطار عمل قابل للتوسع: تطوير إطار عمل "العينات والتدقيق الموزون" الذي يوسع هذه الضمانات لتشمل سيناريوهات الاسترجاع واسعة النطاق حيث يكون حساب MIS الدقيق غير ممكن.
تقييم شامل: إثبات تفوق الطريقة على أفضل الأساليب المرجعية (RobustRAG، AstuteRAG، InstructRAG) في كل من الدقة السليمة والمتانة العدائية، لا سيما في مهام التوليد طويلة النص.

4. النتائج التجريبية

قيم المؤلفون ReliabilityRAG على أربع مجموعات بيانات (RealtimeQA، NaturalQuestions، TriviaQA، ومجموعة بيانات توليد السير الذاتية) باستخدام ثلاثة نماذج لغوية كبيرة (Mistral-7B، Llama3.2-3B، GPT-4o-mini).

الأداء في الظروف السليمة: حافظ ReliabilityRAG على دقة عالية في البيانات النظيفة، متفوقاً بشكل كبير على RobustRAG (الذي غالباً ما يتدهور في السيناريوهات السليمة بسبب فقدان المعلومات) ومساوياً أو متفوقاً على AstuteRAG و InstructRAG.
المتانة العدائية:
- حقن الأوامر وتسميم المجموعة: أظهر ReliabilityRAG صموداً فائقاً. على سبيل المثال، في توليد السير الذاتية الطويلة، حافظ على درجات عالية (~~71-73) تحت الهجوم، بينما انخفض أداء RobustRAG بشكل ملحوظ (~~53).
- الوعي بالترتيب: أظهر النظام أن الهجمات على الوثائق ذات الترتيب المنخفض (مثل المركز 10 أو 50) كانت أقل نجاحاً من الهجمات على الوثائق ذات الترتيب العالي، مما يؤكد أن إطار العمل يستفيد بفعالية من إشارات الموثوقية.
- التدهور التدريجي: مع زيادة عدد الوثائق المستهدفة بالهجوم، تدهور أداء ReliabilityRAG بشكل أكثر سلاسة مقارنة بالنماذج المرجعية، التي غالباً ما تنهار بسرعة.
زمن الاستجابة (Latency): كان العبء الإضافي الناتج عن خطوات "الإجابة المنعزلة" و "NLI" ضئيلاً (عادةً أقل من ثانية واحدة لكل استعلام على الأجهزة الحديثة)، مما يجعله عملياً للنشر في العالم الحقيقي.

5. الأهمية

سد الفجوة: يعالج ReliabilityRAG فجوة حرجة في أمن RAG من خلال استخدام إشارات الموثوقية المدمجة (مثل ترتيب البحث) التي يصعب على المهاجمين التلاعب بها. وهذا يخلق استراتيجية "الدفاع في العمق".
التوليد طويل النص: على عكس الطرق المتينة السابقة التي واجهت صعوبات في المهام المعقدة وطويلة النص، يتفوق ReliabilityRAG في هذه المهام، مما يجعله مناسباً لتطبيقات البحث المتقدمة مثل AI Overviews.
الأساس النظري: يقدم هذا العمل أول ضمانات متانة مثبتة لأنظمة RAG التي تدمج موثوقية الوثائق، متجاوزاً بذلك الدفاعات القائمة على الحدس (Heuristics).
العملية: إطار العمل معياري (Modular)، ويمكن دمجه في خطوط أنابيب RAG الحالية دون الحاجة إلى إعادة تدريب النموذج اللغوي، مما يوفر مساراً عملياً نحو أنظمة بحث أكثر موثوقية مدعومة بالذكاء الاصطناعي.