Coordinated Semantic Alignment and Evidence Constraints for Retrieval-Augmented Generation with Large Language Models

إليك ملخص تقني مفصل لورقة البحث بعنوان "التنسيق بين المحاذاة الدلالية وقيود الأدلة لتعزيز التوليد بالاسترجاع باستخدام النماذج اللغوية الكبيرة."

1. بيان المشكلة

بينما يعمل تعزيز التوليد بالاسترجاع (RAG) على التخفيف من حدة عدم الاتساق الواقعي والقيود المعرفية للنماذج اللغوية الكبيرة (LLMs) من خلال إدخال معرفة خارجية، تواجه التطبيقات العملية تحديين حرجين:

• عدم المحاذاة الدلالية (Semantic Misalignment): غالبًا ما يكون هناك انفصال بين مرحلة الاسترجاع (التي تركز على التشابه السطحي أو الكلمات المفتاحية) ومرحلة التوليد (التي تعتمد على الاستدلال الدلالي العميق). يؤدي هذا إلى استرجاع أدلة منخفضة الصلة أو مشوشة تتداخل مع قرارات النموذج.
• عدم كفاية استغلال الأدلة (Insufficient Evidence Utilization): يتم التعامل مع الأدلة المسترجعة عادةً كـ "سياق ضمني" بدلاً من كونها "قيداً صارماً". وبناءً على ذلك، قد تنحرف النماذج عن الدليل، وتدخل في حالة "الانجراف عن الدليل" (evidence drift)، أو تعتمد على معرفتها البارامترية الداخلية، مما يؤدي إلى الهلوسة وعدم القدرة على التحقق.

تفشل الطرق الحالية في نمذجة العلاقة الهيكلية بين الاسترجاد والتوليد بشكل مشترك، مما ينتج مخرجات قد تكون فصيحة ولكنها غير مستندة إلى حقائق.

2. المنهجية

يقترح المؤلفون إطار عمل موحد لـ RAG يدمج المحاذاة الدلالية وقيود الأدلة من خلال النمذجة المنسقة لكلا المرحلتين.

أ. الفضاء الدلالي الموحد (المحاذاة الدلالية)

تتجاوز هذه الطريقة مطابقة المصطلحات السطحية عبر رسم خرائط لكل من الاستعلام والأدلة المرشحة في فضاء دلالي مستمر موحد.

• تمثيل الاستعلام: يتم ترميز الاستعلام $q$ كـ $u = f_{enc}(q)$.
• تمثيل الأدلة: يتم ترميز الدليل المرشح $e_i$ كـ $v_i = f_{enc}(e_i)$.
• تسجيل المحاذاة: يتم حساب الصلة باستخدام تشابه جيب التمام للمتجهات: $s_i = \text{cos}(u, v_i)$.
• الوظيفة: يعمل هذا كمرشح أمامي، حيث يقوم بكبح الأدلة ذات الانجراف الدلالي العالي قبل دخولها إلى وحدة التوليد، مما يضمن أن النتائج المسترجعة متسقة دلالياً مع أهداف التوليد.

ب. قيود الأدلة الصريحة

يحول إطار العمل الأدلة المسترجعة من سياق سلبي إلى عامل تحكم نشط وصريح لعملية التوليد.

• تجميع الأدلة: يحسب النموذج تمثيلاً مجمعًا مرجحًا للأدلة ($v$) بناءً على درجات المحاذاة المعيارية ($w_i$): $v = \sum w_i v_i$.
• احتمالية التوليد: لا يتم نمذجة احتمال توليد الرمز التالي (token) بناءً على الحالة الحالية ($h_t$) فحسب، بل وأيضًا على الأدلة المتكاملة ($v$): $P(y_t | y_{<t}, v) = \text{softmax}(g(h_t, v))$.
• قيد الاتساق: يتم إدخال فقدان الاتساق (consistency loss) أثناء التدريب لمنع الانحراف: $L_{cons} = ||h_{gen} - v||^2$. هذا يعاقب النموذج صراحةً إذا انحرف التمثيل الدلالي المولد عن تمثيل الأدلة.

ج. الإطار الموحد

يعمل النهج على تحسين هدف التوليد وقيود الاتساق بشكل مشترك. يضمن هذا أن يحافظ النموذج على الفصاحة اللغوية مع الالتزام الصارم بالحدود الدلالية التي تحددها الأدلة المسترجعة.

3. المساهمات الرئيسية

• النمذجة المنسقة: تقدم الورقة إطار عمل مبتكر يعالج في آن واحد الانفصال الهيكلي بين الاسترجاع والتوليد، حيث تعاملهما كنظام موحد بدلاً من وحدات منفصلة.
• آلية القيد الصريح: على عكس RAG التقليدي حيث تكون الأدلة ضمنية، تفرض هذه الطريقة قيودًا صريحة، مما يجعل الأدلة محركًا أساسيًا لقرارات التوليد ويقلل من "الانجراف عن الدليل".
• الفضاء الدلالي الموحد: من خلال إنشاء فضاء دلالي مشترك لكل من الاسترجاع والتوليد، تضمن الطريقة أن صلة الوثائق المسترجعة تتماشى مع الاحتياجات المحددة لمهمة التوليد.
• القابلية للتحقق والثقة: يعزز النهج بشكل كبير إمكانية تتبع المحتوى المولد، مما يسمح بمراجة وتدقيق أفضل في السيناريوهات عالية المخاطر.

4. النتائج التجريبية

تم تقييم الطريقة باستخدام مجموعة بيانات HotpotQA، والتي تتطلب استدلالاً متعدد الخطوات وتجميع المعلومات عبر وثائق متعددة.

• مقاييس الأداء: تفوقت الطة المقترحة ("Ours") على أفضل النماذج المرجعية (TreeQA, CottonBot, Vul-rag, T-RAG, Biorag) عبر جميع المقاييس الأربعة الرئيسية:
  • المطابقة التامة (EM): 59.8 (مقابل 54.6 لأفضل نموذج تالٍ وهو Biorag).
  • درجة F1: 73.5 (مقابل 68.2).
  • مقياس BLEU: 31.6 (مقابل 27.1).
  • مقياس ROUGE-L: 63.2 (مقابل 57.4).
• تحليل الحساسية:
  • وزن المحاذاة الدلالية: وجدت الدراسة علاقة غير رتيبة بين وزن المحاذاة والأداء؛ حيث يتطلب الأمر توازنًا مثاليًا؛ فالوزن المنخفض جدًا يسمح بالضجيج، بينما الوزن العالي جدًا قد يقيد التنوع الضروري.
  • استرجاع Top-K: تحسن الأداء مع الزيادات المعتدلة في Top-K (تغطية أفضل) ولكنه انخفض عندما أصبح Top-K كبيرًا جدًا بسبب تراكم الضجيج. يسلط هذا الضوء على ضرية آليات التصفية والقيود المقترحة للتعامل مع مجموعات الأدلة الكبيرة بفعالية.

5. الأهمية والأثر

• الموثوقية في المجالات عالية المخاطر: يعد إطار العمل ذا قيمة خاصة للتطبيقات التي تتطلب استنادًا واقعيًا صارمًا، مثل التحليل القانوني، التشخيص الطبي، ودعم القرار المهني، حيث تكون الهلوسة غير مقبولة.
• التحول من النهج التجريبي إلى المنهجي: يعزز هذا العمل التحول من التكامل التجريبي للمعرفة إلى النمذجة المنهجية والقائمة على الرياضيات لتبعية الأدلة.
• الاتجاهات المستقبلية: تشير الورقة إلى أن هذا النهج يضع الأساس لمهام أكثر تعقيدًا تتضمن تجميع أدلة متعددة واستدلالًا طويل السلسلة. كما أنه يعالج الحاجة المتزايدة للنماذج اللغوية الكبيرة للتكيف مع مصادر المعرفة الخارجية سريعة التحديث مع الحفاظ على السيطرة على عملية التوليد.

ختامًا، تثبت الورقة أن المحاذاة الدلالية المنسقة وقيود الأدلة الصريحة ضروريان لبناء أنظمة توليد معززة بالاسترجاع موثوقة، قابلة للتحقق، وعالية الأداء.