Causal Retrieval-Augmented Generation: ModifyingFake Correlations in AI-Driven Knowledge Systems through Algorithmic Nudging
تقدم هذه الورقة البحثية إطار عمل "التوليد المعزز بالاسترجاع السببي" (CR-RAG)، الذي ينمذج مسار عملية الـ RAG كنموذج سببي هيكلي للحد من الارتباطات الزائفة وتقليل الهلوسة من خلال التعديل عبر الباب الخلفي، وإعادة وزن الميل العكسي، وتعزيز البيانات بأسلوب التباين الواقعي، محققاً مكاسب كبيرة في الأداء على معايير الاختبار كثيفة المعرفة، لا سيما بالنسبة للأسئلة ذات الذيل الطويل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول حل لغز، ولكن بدلاً من العدسة المكبرة، لديك روبوت محقق فائق الذكاء. هذا الروبوت بارع في التحدث والكتابة، لكن لديه عقل صغير لا يمكنه تذكر كل حقيقة في العالم. لمساعدته، نعطيه مكتبة من الكتب (الإنترنت) ونقول له: "اقرأ هذه الصفحات، ثم أجب على سؤالي". هذا الإعداد يسمى "التوليد المعزز بالاسترجاع"، أو RAG اختصاراً. إنه يشبه إعطاء الروبوت ورقة غش حتى لا يضطر للتخمين.
لكن الجزء الصعب هنا هو أن الروبوت ليس مثالياً في اختيار الصفحات الصحيحة. أحياناً، يتشتت انتباهه بكيفية شهرة كلمة ما أو عدد المرات التي يرى فيها اسماً معيناً. إذا سألته: "من هو أفضل طباخ في قرية صغيرة؟"، فقد يلتقط الروبوت بالخطأ صفحة عن طباخ مشهور عالمياً من مدينة كبيرة فقط لأن ذلك الاسم يظهر في كل مكان في المكتبة. الأمر يشبه طالباً، عندما يُسأل سؤالاً صعباً، يمسك بفصل الكتاب الذي يحتوي على أكبر عدد من الصور، حتى لو كانت الإجابة مخفية في فقرة مملة في صفحة أخرى. يؤدي هذا إلى جعل الروبوت يختلق أشياء بثقة، وهي مشكلة نسميها "الهلوسة". العلماء قلقون حقاً من هذا لأن الروبوت إذا أخطأ، يمكنه نشر معلومات كاذبة، خاصة حول المواضيع النادرة أو الغامضة حيث تكون الإجابات "المشهورة" هي الخاطئة في الواقع.
هنا يأتي دور دراسة جديدة أجراها "جيثوس فيجاياكومار" وفريقه. هم يجادلون بأن خطأ الروبوت ليس مجرد خلل تقني؛ بل هو خطأ منطقي ناتج عن "الارتباطات الزائفة" (spurious correlations) — أي ببساطة، الروبوت يُخدع بروابط وهمية بين السؤال والإجابات الخاطئة. ولإصلاح ذلك، بنوا نظاماً جديداً يسمى CR-RAG (التوليد المعزز بالاسترجاع السببي). فكر في CR-RAG كمحرر صارم يقف بين الروبوت والمكتبة. قبل أن يقرأ الروبوت الصفحات، يتحقق هذا المحرر: "هل هذه الصفحة تتحدث بالفعل عن الإجابة، أم أنها مجرد صفحة مشهورة وصاخبة؟"
استخدم الفريق خدعة ذكية تسمى "الاستدلال السببي" (causal inference)، وهي تشبه تجربة السفر عبر الزمن للبيانات. بدلاً من مجرد سؤال: "ماذا يقول الروبوت عادةً؟"، سألنا: "ماذا سيقول الروبوت لو أجبرناه على تجاهل شعبية الكلمات والتركيز فقط على الحقائق؟". لقد فعلوا ذلك من خلال إنشاء نظام "تنبيه" خاص. تخيل الروبوت كطالب يؤدي اختباراً. عادةً، يختار الطالب الإجابة التي تبدو مألوفة أكثر. يعمل CR-RAG كمعلم يقول: "انتظر، لا تختر تلك الإجابة لمجرد أنك رأيتها ألف مرة. لنفترض أن تلك الإجابة الشهيرة غير موجودة. ماذا ستظن الآن؟"
اختبر الباحثون هذا النظام الجديد في أربعة "اختبارات" (مجموعات بيانات) تتعلق بالمعرفة العامة، والمعلومات العامة، والاستدلال المعقد. ووجدوا أن CR-RAG كان أفضل بكثير في إيجاد الحقيقة، خاصة بالنسبة للأسئلة المتعلقة بالأشياء النادرة. على سبيل المثال، في اختبار حول الكيانات المشهورة مقابل الغامضة، قلل النظام الجديد من عدد الإجابات المختلقة بنسبة تصل إلى 43% للمواضيع الأكثر ندرة. لم يكتفِ بتخمين أفضل فحسب؛ بل توقف عن التخمين بثقة عندما كان ينبغي عليه الصمت.
أفضل جزء هو أن هذا "المحرر" الجديد خفيف الوزن. فهو لا يحتاج إلى استبدال عقل الروبوت أو المكتبة؛ بل يجلس في المنتصف فقط، معدلاً وزن الصفحات التي يقرأها الروبوت. تُظهر الدراسة أنه من خلال التعامل مع المشكلة كلغز سبب ونتيجة بدلاً من مجرد مسألة رياضية، يمكننا جعل الذكاء الاصطناعي أكثر صدقاً وموثوقية. ويقترح المؤلفون أن هذا النهج يمكن أن يكون نقطة تحول لأي موقف تهم فيه دقة الحقائق، من الإجابة على أسئلة حول الأمراض النادرة إلى مساعدة المحامين في العثور على القوانين الصحيحة، دون الحاجة إلى إعادة بناء الذكاء الاصطناعي بالكامل من الصفر.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.