Bridging the Question-Answer Gap in Retrieval-Augmented Generation: Hypothetical Prompt Embeddings

تخيل أنك تحاول العثور على إبرة محددة في كومة قش ضخمة وفوضوية. ولكن إليك المفاجأة: كومة القش مكونة من مدخلات موسوعية مكتوبة بلغة رسمية ومملة، بينما طلبك للإبرة هو سؤال حماسي ومندفع من مراهق فضولي. هذا هو الصراع اليومي لـ التوليد المعزز بالاسترجاع (RAG). فكر في (RAG) كأنه روبوت أمين مكتبة ذكي للغاية، لا يكتفي بمجرد التخمين من ذاكرته الخاصة (التي قد تكون قديمة أو مختلقة)، بل يركض أولاً إلى رفوف المكتبة ليجد وثائق حقيقية قبل أن يجيب. تكمن المشكلة في أن الروبوت غالباً ما يصاب بالارتباك لأن الطريقة التي يطرح بها الناس الأسئلة (استفهامية، مثل "كيف يعمل البركان؟") تختلف تماماً عن الطريقة التي تخبر بها الكتب الحقائق (تقريرية، مثل "تتشكل البراكين بـ...") . هذا التباين يشبه محاولة وضع وتد مربع في ثقب مستدير؛ فأدوات البحث الخاصة بالروبوت غالباً ما تخطئ في العثور على الكتاب الصحيح لأن "شكل" السؤال لا يتطابق مع "شكل" النص.

ولإصلاح ذلك، جرب العلماء حيلًا متنوعة. إحدى الطرق الشائعة، والتي تُسمى HyDE، تشبه مطالبة الروبوت بالتظاهر بالإجابة على السؤال قبل أن يذهب إلى المكتبة. فهو يولد إجابة مزيفة، ثم يحولها إلى استعلام بحث، ويأمل أن تجد المكتبة الكتاب الحقيقي. لكن هذا الأسلوب بطيء ومكلف لأن الروبوت يضطر للقيام بعملية "التظاهر" هذه في كل مرة يطرح فيها شخص ما سؤالاً. تقترح الورقة البحثية التي أوشكت على قراءتها فكرة جديدة تسمى تضمينات المطالبات الافتراضية (HyPE). فبدلاً من جعل الروبوت يتظاهر في لحظة طرح السؤال، يقترح (HyPE) القيام بكل عمل "التظاهر" قبل أن يسأل أي شخص أي شيء. الأمر يشبه كتابة قائمة مسبقة بكل سؤال محتمل يمكن أن تجيب عليه الكتب ولصق تلك الأسئلة على كعب الكتاب في المكتبة. الآن، عندما يأتي سؤال حقيقي، يقوم الروبوت ببساطة بالمطابقة بين سؤال وسؤال، وهو أمر أسرع بكثير وغالباً ما يكون أكثر دقة.

المشكلة: "فجوة الأسلوب"

في عالم الذكاء الاصطناعي، هناك صداع مستمر يُعرف باسم "فجوة الأسلوب". عندما تطرح سؤالاً على الكمبيوتر، فإنك تكتبه عادةً في شكل سؤال: "ما هي عاصمة فرنسا؟" ولكن الوثائق التي يبحث فيها الكمبيوتر تكون عادةً مكتوبة في شكل جمل خبرية: "عاصمة فرنسا هي باريس".

تخيل أنك تحاول العثور على صديق في غرفة مزدحمة. أنت تبحث عن شخص يرتدي قبعة حمراء (السؤال)، لكن الجميع في الغرفة يرتدون بدلات زرقاء (الوثائق). حتى لو كان صديقك موجوداً هناك بالفعل، فقد تفشل عملية البحث لأنك تبحث عن "أسلوب" ملابس خاطئ. من الناحية التقنية، يعني هذا أن محرك البحث الخاص بالكمبيوتر، الذي يستخدم الرياضيات لقياس مدى تشابه قطعتين من النص، غالباً ما يفشل في الربط بين السؤال وإجابته لأن صوتهما مختلف جداً.

الحل القديم: خدعة "الإجابة المزيفة"

حاول الباحثون سابقاً حل هذه المشكلة بطريقة تسمى HyDE (تضمينات المستندات الافتراضية). كانت الفكرة ذكية: عندما يطرح المستخدم سؤالاً، يقوم الذكاء الاصطناعي فوراً بتوليد إجابة قصيرة ومزيفة. ثم يستخدم تلك الإجابة المزيفة للبحث في المكتبة. وبما أن الإجابة المزيفة تشبه المستندات الحقيقية (كلاهما عبارة عن جمل خبرية)، فإن عملية البحث تعمل بشكل أفضل.

ومع ذلك، فإن لهذا النهج عيباً كبيراً. إنه يشبه مطالبة أمين المكتبة بكتابة ملخص لكتاب مزيف في كل مرة يدخل فيها شخص ما من الباب. هذا يستغرق وقتاً إضافياً ويكلف مالاً أكثر (قدرة حوسبية) لكل سؤال. إذا كانت لديك مكتبة مزدحمة، فإن هذا سيبطئ كل شيء.

الحل الجديد: HyPE (استراتيجية "الأسئلة المكتوبة مسبقاً")

يقترح مؤلفو هذه الورقة طريقة أذكى تسمى تضمينات المطالبات الافتراضية (HyPE). فبدلاً من انتظار المستخدم ليسأل سؤالاً لتوليد إجابة مزيفة، يقوم (HyPE) بالعمل الشاق مسبقاً، أثناء مرحلة "الفهرسة" (عندما يتم تنظيم المكتبة).

إليك كيف يعمل (HyPE)، خطوة بخطوة:

1. الحفلة غير المتزامنة (Offline): قبل وصول أي مستخدمين، يأخذ النظام كل جزء من النص في المكتبة (كل مستند) ويسأل ذكاءً اصطناعياً: "ما هي 5 أو 10 أسئلة مختلفة يمكن أن يجيب عليها هذا النص المحدد؟"
2. التوسيم: يقوم النظام بعد ذلك بتحويل تلك الأسئلة الافتراضية إلى "بصمات" رياضية (تضمينات) ويلصقها على المستند.
3. المطابقة: الآن، لا تحتوي المكتبة على النص فحسب، بل تحتوي أيضاً على قائمة بالأسئلة المحتملة المرفقة به.
4. البحث: عندما يطرح مستخدم حقيقي سؤالاً، يقوم النظام ببساطة بمقارنة سؤال المستخدم بالأسئلة المكتوبة مسبقاً في المستندات. إنها عملية مطابقة سؤال-إلى-سؤال، وهي مطابقة مثالية لأن كلا الطرفين يطرحان أسئلة.

والجزء الأفضل؟ هذا يحدث خارج وقت التشغيل (Offline). بمجرد تنظيم المكتبة، لا يحتاج النظام إلى أي تفكير إضافي عندما يطرح المستخدم سؤالاً. إنه يقوم فقط بعملية بحث سريعة ومعيارية.

ما وجدوه: السرعة والدقة

اختبر الباحثون (HyPE) مقابل الطريقة القياسية وطريقة (HyDE) (توليد إجابات مزيفة أثناء التشغيل) باستخدام ست مجموعات بيانات مختلفة، تتراوح من عمليات البحث العامة على الويب إلى مهام الاستدلال المعقدة متعددة الخطوات.

كانت النتائج واعدة للغاية:

• دقة أفضل: حسن (HyPE) دقة العثور على السياق الصحيح بما يصل إلى 42 نقطة مئوية مقارنة بالطرق القياسية. بعبارات بسيطة، كان النظام أفضل بكثير في اختيار المستند الصحيح بالضبط من المرة الأولى.
• استدعاء أفضل: حسن "استدعاء الادعاء" (العثور على جميع المعلومات الضرورية) بما يصل إلى 45 نقطة مئوية.
• لا يوجد تأخير: على عكس (HyDE)، الذي يبطئ النظام في كل مرة يُطرح فيها سؤال، لا يضيف (HyPE) أي وقت إضافي لانتظار المستخدم. لقد تم القيام بالعمل الشاق مسبقاً.

ومن المثير للاهتمام أن الورقة لاحظت أن (HyPE) لم يظهر ميزة هائلة في مجموعة بيانات واحدة تسمى MS MARCO. ويرى المؤلفون أن هذا بسبب كون مجموعة بيانات (MS MARCO) تحتوي بالفعل على فقرات قصيرة ومباشرة حيث تكون أنماط السؤال والإجابة متشابهة بالفعل، لذا لم تكن "فجوة الأسلوب" مشكلة كبيرة من الأساس. ولكن بالنسبة لمعظم مجموعات البيانات الأخرى، وخاصة تلك التي تحتوي على نصوص أطول وأكثر تعقيداً، كان (HyPE) فائزاً واضحاً.

لماذا هذا مهم

تشير الورقة إلى أن (HyPE) هو ترقية مرنة. فهو لا يحل محل التقنيات الرائعة الأخرى؛ بل يعمل معها. يمكنك استخدام (HyPE) جنباً إلى جنب مع حيل البحث المتقدمة الأخرى مثل إعادة الترتيب (التحقق من النتائج الأولى مرة أخرى) أو تقسيم الأسئلة المعقدة إلى أجزاء أصغر.

يخلص المؤلفون إلى أنه من خلال نقل عمل "التظاهر" من لحظة طرح السؤال إلى لحظة التنظيم، يمكننا بناء أنظمة (RAG) تكون أسرع وأكثر دقة في آن واحد. إنه تحول من مطابقة "سؤال-إلى-مستند" إلى مطابقة "سؤال-إلى-سؤال"، مما يسد الفجوة بين كيفية طرحنا للأسئلة وكيفية تخزين المعلومات. وبينما لا تدعي الورقة أنها تحل كل مشكلة في عالم الذكاء الاصطناعي، إلا أن التجار nghiệm تشير بقوة إلى أنها طريقة فعالة للغاية ومنخفضة التكلفة لجعل أمناء المكتبات الآليين أفضل في أداء وظائفهم.