💬 NLP

Retrieval-Augmented Generation for Natural Language Processing: A Survey

تقدم هذه الورقة مسحاً منهجياً لتقنية التوليد المعزز بالاسترجاع (RAG) في معالجة اللغات الطبيعية، حيث تقدم تصنيفاً جديداً لطرق دمج الاسترجاع، وتحلل التطبيقات وتحديات التقييم، وتحدد التوجهات المستقبلية للنشر الصناعي.

المؤلفون الأصليون: Shangyu Wu, Ying Xiong, Yufei Cui, Haolun Wu, Can Chen, Ye Yuan, Lianming Huang, Xue Liu, Tei-Wei Kuo, Nan Guan, Chun Jason Xue

نُشر 2026-05-20

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Shangyu Wu, Ying Xiong, Yufei Cui, Haolun Wu, Can Chen, Ye Yuan, Lianming Huang, Xue Liu, Tei-Wei Kuo, Nan Guan, Chun Jason Xue

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحثية بعنوان "التوليد المعزز بالاسترجاع لمعالجة اللغات الطبيعية: مسح شامل" باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.

الصورة الكبيرة: "الطالب الذكي" مقابل "المكتبة"

تخيل طالباً ذكياً جداً (نموذج لغوي كبير أو LLM) قرأ ملايين الكتب وحفظ كمية هائلة من المعلومات. هذا الطالب بارع في كتابة المقالات والإجابة على الأسئلة لأن لديه ذاكرة داخلية ضخمة.

ومع ذلك، يعاني هذا الطالب من ثلاث مشكلات كبيرة:

الهلوسة: أحياناً، عندما لا يعرف الإجابة، يقوم بتأليف أشياء بثقة لأنه يحاول أن يكون مفيداً.
المعرفة القديمة: بمجرد أن يتخرج الطالب ويتوقف عن الدراسة، فإنه لا يعرف شيئاً عن أخبار الأمس أو الاكتشافات العلمية الجديدة. لكي يتعلمها، يجب على الطالب العودة إلى المدرسة وإعادة تعلم كل شيء (وهو أمر مكلف وبطيء).
الخبرة المتخصصة: إذا سألت الطالب عن إجراء طبي محدد للغاية أو قواعد داخلية لشركة ما، فقد لا يعرفها لأنه حفظ فقط المعرفة العامة.

الحل: RAG (التوليد المعزز بالاسترجاع)
تقدم هذه الورقة البحثية نظام RAG كطريقة لمنح الطالب أميناً للمكتبة ومكتبة من الكتب المحدثة.

بدلاً من الاعتماد فقط على ما في رأسه، يسأل الطالب أمين المكتبة: "جد لي الصفحات المحددة في المكتبة التي تجيب على هذا السؤال". يجد الأمين الصفحات ذات الصلة، ويسلمها للطالب، ثم يكتب الطالب الإجابة بناءً فقط على تلك الصفحات.

هذه الورقة هي مسح شامل (Survey)، مما يعني أنها دليل ضخم يرسم المسارات لكل الطرق المختلفة التي يبني بها المهندسون نظام "الطالب + أمين المكتبة" هذا.

الجزء الأول: الأجزاء الثلاثة الرئيسية للنظام

تقسم الورقة النظام إلى ثلاث شخصيات رئيسية:

1. أمين المكتبة (المسترجع - The Retriever)

قبل أن يتمكن الطالب من الإجابة، يحتاج أمين المكتبة إلى إيجاد الكتب الصحيحة.

التقطيع (Chunking): لا يسلم أمين المكتبة موسوعات كاملة. بل يقوم بتقطيع الكتب إلى "قطع" صغيرة يمكن التعامل معها (مثل الفقرات الفردية) حتى لا يشعر الطالب بالتشتت.
الترميز (Encoding): يقوم أمين المكتبة بترجمة قطع النصوص هذه إلى كود سري (متجهات/vectors) حتى يمكن مقارنتها بسرعة.
البحث: عندما تطرح سؤالاً، يستخدم أمين المكتبة محرك بحث فائق السرعة (يسمى ANN) للعثور على أفضل 5 أو 10 قطع تتطابق مع سؤالك بأفضل شكل.

2. الدمج (عملية التسليم - The Fusion)

هذا هو الجزء الأكثر تقنية في الورقة. بمجرد أن يجد أمين المكتبة الصفحات، كيف يقرؤها الطالب؟ تصنف الورقة هذا إلى أربعة أساليب "تسليم":

القائم على الاستعلام (الملاحظة اللاصقة): يقوم أمين المكتبة بلصق النص الذي وجده مباشرة على ورقة سؤال الطالب. يقرأ الطالب النص كاملاً ويجيب. (بسيط، ولكن إذا كان النص طويلاً جداً، ستصبح الورقة ضخمة جداً).
القائم على اللوجيت (نظام التصويت): يقرأ الطالب السؤال وحده ويكتب إجابة. ثم يقرأ الطالب الصفحات التي وُجدت وحده ويكتب إجابة أخرى. أخيراً، يمزج النظام هاتين الإجابتين معاً مثل عملية التصويت للحصول على أفضل نتيجة.
الدمج الكامن (الهمس): يهمس أمين المكتبة بالأفكار الرئيسية للصفحات التي وُجدت في أذن الطالب أثناء تفكيره. لا يرى الطالب النص، لكنه "يشعر" بالمعلومات ويستخدمها لتشكيل إجابته.
الدمج البارامتري (النظارات المؤقتة): يعطي أمين المكتبة الطالب نظارات خاصة (تسمى LoRA) تغير مؤقتاً طريقة رؤية الطالب للعالم. يرتدي الطالب النظارات، يجيب على السؤال، ثم ينزعها ويضعها جانباً. دماغ الطالب لا يتغير بشكل دائم، لكنه يستطيع الإجابة على أسئلة محددة ببراعة أثناء ارتداء النظارات.

3. الطالب (المولد - The Generator)

هذا هو نموذج الذكاء الاصطناعي الذي يكتب الإجابة فعلياً. تناقش الورقة ما إذا كان من الأفضل استخدام طالب "الصندوق الأسود" (مثل GPT-4، حيث لا يمكنك رؤية ما بداخله) أو طالب "الكتاب المفتوح" (مثل Llama، حيث يمكنك تعديل دماغه). كما توضح أن بعض الطلاب أفضل من غيرهم في قراءة قوائم الملاحظات الطويلة.

الجزء الثاني: كيف تختبر ما إذا كان النظام يعمل (التقييم)

توضح الورقة أن اختبار هذا النظام أمر صعب. لا يمكنك فقط أن تسأل: "هل الإجابة صحيحة؟"

جودة الاسترجاع: هل وجد أمين المكتبة الصفحات الصحيحة؟ (إذا أحضر الأمين صفحة عن "تفاحة الفاكهة" بينما كنت تسأل عن "شركة أبل"، فإن النظام قد فشل).
الأمانة (Faithfulness): هل استخدم الطالب بالفعل الصفحات التي أعطاها له أمين المكتبة، أم أنه قام بتأليف شيء من عنده؟
المتانة (Robustness): ماذا يحدث إذا أحضر أمين المكتبة صفحة خاطئة أو مربكة؟ هل يستطيع الطالب أن يقول "لا أعرف" بدلاً من الكذب؟

تشير الورقة إلى أن الاختبارات الحالية غالباً ما تكون بسيطة للغاية (مثل استخدام ويكيبيديا) ولا تختبر السيناريوهات الواقعية مثل بيانات الشركات الخاصة أو الأخبار سريعة التغير.

الجزء الثالث: التحديات الواقعية والمستقبل

تنظر الورقة فيما يحدث عندما تحاول استخدام هذا النظام في شركة أو تطبيق حقيقي:

الأمن: إذا تعرضت المكتبة (قاعدة البيانات) للاختراق أو وضع شخص كتباً مزيفة فيها، سيبدأ الطالب في تقديم إجابات مزيفة. تحذر الورقة من أن المكتبة نفسها هي مكان جديد يمكن للهجمات السيبرانية استهدافها.
السرعة: قراءة مكتبة تستغرق وقتاً. إذا كان على أمين المكتبة البحث في مليار كتاب، فسيتعين على الطالب الانتظار. تناقش الورقة كيفية جعل هذا البحث أسرع دون فقدان الدقة.
جدل "السياق الطويل" (Long Context): يتم بناء طلاب جدد يمكنهم استيعاب مكتبات كاملة في رؤوسهم في وقت واحد (نماذج LLM ذات السياق الطويل). تسأل الورقة: "هل ما زلنا بحاجة إلى أمين مكتبة؟"
- الإجابة: نعم. حتى لو كان بإمكان الطالب استيعاب مليون صفحة، فقد يصاب بالارتباك بسبب كثرة الضجيج. لا يزال أمين المكتبة مطلوباً لإيجاد الصفحة المحددة التي تهم، مما يوفر الوقت والمال.
GraphRAG: بدلاً من مجرد البحث عن قطع نصية، تخيل أن أمين المكتبة ينظم المكتبة مثل شجرة عائلة أو خريطة من الروابط (رسم بياني/Graph). هذا يساعد الطالب على فهم العلاقات المعقدة بين الحقائق، مثل كيفية ارتباط شخص معين بحدث معين.

الملخص

هذه الورقة هي خريطة شاملة لمشهد التوليد المعزز بالاسترجاع (RAG). تخبرنا أنه بينما نماذج الذكاء الاصطناعي ذكية، إلا أنها تحتاج إلى "مكتبة" لتبقى دقيقة، ومحدثة، وصادقة. تفصل الورقة كيفية بناء تلك المكتبة، وكيفية تسليم الكتب للذكاء الاصطناعي، وكيفية اختبار ما إذا كان النظام يعمل، وما هي المخاطر الأمنية التي نحتاج لمراقبتها بينما نبني هذه الأنظمة للعالم الحقيقي.

ملخص تقني: التوليد المعزز بالاسترجاع لمعالجة اللغات الطبيعية: مسح شامل

بيان المشكلة

حققت النماذج اللغوية الكبيرة (LLMs) نجاحاً تجريبياً كبيراً من خلال تخزين المعرفة ضمنياً داخل معاملاتها (parameters). ومع ذلك، تواجه نهج الذاكرة البارامترية هذا ثلاثة قيود حرجة:

الهلوسة (Hallucinations): تولد النماذج اللغوية الكبيرة استجابات متماسكة ولكنها غير صحيحة واقعياً بشكل متكرر.
تقادم المعرفة (Knowledge Staleness): يتطلب تحديث المعرفة الداخلية للنموذج اللغوي الكبير إعادة تدريب أو ضبط دقيق مكلف، مما يجعل من الصعب دمج المعلومات المتطورة بسرعة أو المعلومات في الوقت الفعلي.
الافتقار إلى الخبرة النوعية (Lack of Domain Expertise): غالباً ما تفتقر النماذج اللغوية الكبيرة العامة إلى الخبرة المحددة المطلوبة للمجالات المتخصصة دون جهود كبيرة في تنسيق البيانات وتكييفها.

يعالج التوليد المعزز بالاسترجاع (RAG) هذه المشكلات عن طريق تعزيز النماذج اللغوية الكبيرة بقاعدة معرفة (KB) خارجية. ومن خلال استرجاع معلومات ذات صلة ومستندة إلى حقائق في وقت الاستنتاج، يعمل RAG على إرساء عملية التوليد في مصادر يمكن التحقق منها، ويسمح بتحديثات المعرفة دون إعادة تدريب النموذج، ويسهل دمج الخبرة المتخصصة في المجال.

المنهجية والإطار التقني

تقدم هذه الورقة تفكيكاً نظامياً وشاملاً لأنظمة RAG من الببوة إلى النهاية، مع تحليل الوحدات الثلاث الأساسية: المسترجع (Retriever)، ودمج الاسترجاع (Retrieval Fusions)، والمولد (Generator).

1. وحدة المسترجع (The Retriever Module)

المسترجع مسؤول عن جلب المعلومات ذات الصلة من قاعدة معرفة خارجية. تفصل الورقة خط سير العمل لبناء واستعلام المسترجع:

البناء (Building): يتضمن التقطيع (chunking) (تقسيم المستندات إلى وحدات مستقلة دلالياً)، والترميز (encoding) (تحويل النص إلى تضمينات متجهية متفرقة أو كثيفة باستخدام نماذج مثل BERT، أو المشفرات التوأمية، أو المشفرات القائمة على النماذج اللغوية الكبيرة)، والفهرسة (indexing) (بناء هياكل البحث عن أقرب جار تقريبي (ANN) مثل IVFPQ أو HNSW أو الهياكل القائمة على الأشجار لتسريع البحث).
الاستعلام (Querying): يتضمن ترميز استعلام المستخدم، وإجراء بحث ANN لتحديد أقرب $k$ من الجيران، وتطبيق تقنيات المعالجة اللاحقة (post-processing) مثل إعادة التصنيف (reranking) لتحسين النتائج.

2. دمج الاسترجاع (Retrieval Fusions)

تعد هذه التصنيفات لأساليب دمج المعلومات المسترجعة مع المولد مساهمة جديدة في هذا المسح. تصنف الورقة طرق الدمج إلى أربعة أنواع متميزة، وتقارن بينها من حيث سهولة الوصول، والكفاءة، وتعقيد التنفيذ:

الدمج القائم على الاستعلام (Query-based Fusion): وهو النهج الأبسط، حيث يتم دمج النصوص أو الميزات المسترجعة مباشرة مع مدخل الاستعلام.
- دمج النصوص (Text Concatenation): إلحاق المستندات المسترجعة ببداية المطالبة (مناسب للنماذج اللغوية الكبيرة "الصندوق الأسود").
- دمج الميزات (Feature Concatenation): دمج تضمينات الاسترجاع المشفرة مع ميزات المدخلات (يتطلب وصولاً إلى "الصندوق الأبيض" وغالباً ما يتطلب ضبطاً دقيقاً).
الدمج القائم على اللوجيت (Logits-based Fusion): دمج المعلومات المسترجعة عند طبقة المخرجات من خلال تجميع أو معايرة اللوجيتات (توزيعات الاحتمالات) للمولد والجيران المسترجعين. ويشمل ذلك أساليب التجميع (مثل kNN-LM) والنهج القائمة على المعايرة.
الدمج الكامن (Latent Fusion): حقن المعلومات المسترجعة في الحالات الخفية (hidden states) للمولد.
- الدمج القائم على الانتباه (Attention-based): استخدام وحدات الانتباه المتقاطع (مثل RETRO) لدمج ميزات الاسترجاع في الفضاء الكامن للنموذج.
- الإضافة الموزونة (Weighted Addition): إضافة تضمينات الاسترجاع الموزونة إلى الحالات الخفية (مثل EAE أو ReFusion).
الدمج البارامتري (Parametric Fusion): ترميز المعرفة الخارجية في تحديثات بارامترية خفيفة الوزن (مثل وحدات LoRA) التي يتم دمجها في أوزان المولد في وقت الاستنتاج. وهذا يسمح للنموذج بالتكيف مع المعرفة المسترجعة دون تعديل بنيته الأساسية أو طلب إعادة تدريب كاملة.

3. وحدة المولد (The Generator Module)

تحلل الورقة متطلبات المولد لعملية RAG فعالة، مع التأكيد على الحاجة إلى بنيات يمكنها التعامل مع السياقات الطويلة، واستخدام المعلومات المسترجعة بما يتجا_ مجرد الدمج البسيط، وتوفير التأسيس (grounding) والإسناد (attribution). وتصنف المولدات إلى نماذج مملوكة (عبر واجهة برمجة التطبيقات فقط)، ونماذج مفتوحة الأوزان تعمل بنظام فك التشفير فقط (decoder-only)، ونماذج أصلية أو واعية بالاسترجاع.

4. نماذج التدريب (Training Paradigms)

تميز الورقة بين سيناريوهين للتدريب:

بدون تحديث قاعدة المعرفة (Without KB Update): تظل قاعدة المعرفة ثابتة بينما يتم الضبط الدقيق للمسترجع و/أو المولد (على سبيل المثال، التدريب المشترك للمسترجع والمولد باستخدام التدرج المنحدر).
مع تحديث قاعدة المعرفة (With KB Update): يتم تحديث قاعدة المعرفة ديناميكياً (على سبيل المثال، إضافة مستندات جديدة أو تحديث التضمينات)، يليه تعديلات في التدريب أو الاستنتاج. يستفيد هذا من قدرات التعلم في السياق (in-context learning) للنماذج اللغوية الكبيرة للتكيف مع البيانات الجديدة دون الحاجة إلى إعادة تدريب فورية.

المساهمات الرئيسية

تدعي الورقة المساهمات المتميزة التالية مقارنة بالمسوحات الموجودة:

التفكيك الموجه نحو النظام: تحليل شامل لـ RAG في معالجة اللغات الطبيعية، بما في ذلك شرح الخوارزميات وتحليلات التعقيد الزمني والمكاني لبناء واستعلام المسترجعات.
تصنيف جديد للدمج: تصنيف مهيكل لعمليات دمج الاسترجاع (القائمة على الاستعلام، واللوجيت، والكامن، والبارامتري) مع تحليل مقارن لسهولة الوصول، والكفاءة، وتعقيد التنفيذ، وحالات الاستخدام المناسبة.
استراتيجيات التدريب والتحديث: تركيب سير عمل التدريب لكل من إعدادات قاعدة المعرفة الثابتة والديناميكية، وربط تحسين المسترجع/المولد بحقن المعرفة الفعال للبارامترات.
التحليل الخاص بالمهام: مراجة شاملة لتطبيقات RAG عبر مهام متنوعة في معالجة اللغات الطبيعية (نمذجة اللغة، الترجمة الآلية، التلخيص، الإجابة على الأسئلة، استخراج المعلومات، التصنيف، الحوار)، مع تفصيل التقنيات المحددة وأنماط الفشل لكل منها.
التقييم والنشر: تقديم مقاييس تقييم خاصة بـ RAG (تتجاوز مقاييس استرجاء المعلومات القياسية)، وتحليل قيود الاختبارات المرجعية (مثل الاعتماد المفرط على ويكيبيديا، والافتقار إلى الديناميكيات الزمنية)، والاعتبارات العملية للنشر الصناعي، بما في في ذلك الأمن، والخصوصية، والقابلية للتوسع.

النتائج والمكتشفات

بما أنها ورقة مسحية، فإن "النتائج" مستمدة من تركيب الأدبيات الموجودة بدلاً من بيانات تجريبية جديدة. تشمل النتائج الرئيسية ما يلي:

المقايضات في الدمج: يوفر الدمج القائم على الاستعلام نشراً سريعاً للنماذج "الصندوق الأسود" ولكنه يعاني من ارتفاع زمن الاستجابة وتكاليف الذاكرة بسبب تسلسلات المدخلات الطويلة. أما الدمج البارامتري والكامن فيوفران كفاءة أعلى وتكاملاً أفضل، ولكنهما يتطلبان الوصول إلى "الصندوق الأبيض" وتعديلات بنيوية أو ضبطاً دقيقاً كبيراً.
حساسية المهام: تمتلك المهام المختلفة في معالجة اللغات الطبيعية أنماط فشل متميزة. على سبيل المثال، أنظمة الإجابة على الأسئلة (QA) حساسة للغاية لجودة الاسترجاع وغالباً ما تعاني من "هلوسة نقص المعلومات"، بينما تعاني مهام التلخيص من تلوث المحتوى وتحيز النسخ.
فجوات التقييم: تفشل الاختبارات المرجعية الحالية غالباً في التمييز بين أخطاء الاسترجاع وأخطاء التوليد، وتفتقر إلى القدرات التشخيصية الدقيقة، ولا تبلغ بشكل كافٍ عن المقاييس التشغيلية مثل زمن الاستجابة والتكلفة. هناك فجوة ملحوظة في تقييم الحداثة الزمنية والاسترجاع متعدد الوسائط.
الكفاءة مقابل الجودة: يمثل كفاءة RAG عقبة رئيسية. وبينما يقلل تقليل حجم البيانات من السرعة، فإنه يخاطر بالجودة. وتعتبر التحسينات على مستوى النظام (مثل HNSW، وتسريع وحدة معالجة الرسومات) وتصاميم الدمج الفعالة أموراً حاسمة للإنتاج.

الأهمية والتوجهات المستقبلية

تضع الورقة نفسها كدليل عملي للباحثين والممارسين، بهدف سد الفجوة بين مفاهيم RAG النظرية وخطوط الإنتاج القابلة للتنفيذ. تكمن أهميتها في:

توفير إطار موحد لفهم التفاعل المعقد بين الاسترجاع والتوليد.
تسليط الضوء على أن RAG ليس مجرد أداة إضافية، بل يتطلب خيارات معمارية وتدريبية دقيقة اعتماداً على القيود المحددة (مثل الصندوق الأسود مقابل الصندوق الأبيض، والمعرفة الثابتة مقابل الديناميكية).
تحديد التحديات الناشئة والتوجهات البحثية المستقبلية، بما في ذلك:
- الأمن والخصوصية: معالجة مخاطر تسميم المعرفة، وحقن المطالبات (prompt injection)، وعكس التضمينات (embedding inversion).
- الاسترجاع عبر الوسائط المتعددة: دمج النصوص مع الصور والفيديو والصوت للحصول على سياق أغنى.
- GraphRAG: الانتقال من الاسترجاع المسطح للمقاطع إلى الهياكل القائمة على الرسوم البيانية (Graphs) لتحسين التعامل مع الاستدلال متعدد الخطوات وعلاقات الكيانات المعقدة.
- RAG مقابل النماذج اللغوية ذات السياق الطويل: توضيح أنه بينما تعد النماذج ذات السياق الطويل قوية، فإن RAG يظل ضرورياً للدقة، وكفاءة التكلفة، والقابلية للتحقق، وأن كلا النموذجين يمكن أن يكونا مكملين لبعضهما البعض.

تخلص المؤلفة إلى أن RAG أمر محوري لتعزيز دقة وقابلية تكيف وموثوقية النماذج اللغوية الكبيرة، وأن العمل المستقبلي يجب أن يركز على التقييم القوي، والنشر الفعال، ومعالجة الثغرات الأمنية لتحقيق كامل إمكاناته في التطبيقات الصناعية.