CompactRAG: Reducing LLM Calls and Token Overhead in Multi-Hop Question Answering
يُعد CompactRAG إطار عمل فعال من حيث التكلفة للإجابة على الأسئلة متعددة القفزات، حيث يقلل من استدعاءات النماذج اللغوية الكبيرة (LLM) وتكاليف الرموز (tokens) عبر فصل إعادة هيكلة المتن في مرحلة غير متصلة بالإنترنت إلى قاعدة معرفية للأسئلة والأجوبة ذرية، عن مرحلة الاستدلال عبر الإنترنت التي تعتمد على الاسترجاع الكثيف واستخراج الإجابة، مستدعياً النموذج اللغوي الكبير مرتين فقط بغض النظر عن تعقيد الاستدلال.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول حل لغز معقد، مثل معرفة من هو مخرج فيلم معين، لكن الإجابة ليست في مكان واحد. عليك قراءة كتاب عن الفيلم، ثم تجد اسم المخرج، ثم تبحث عن سيرة المخرج الذاتية لتجد مكان ولادته، وأخيرًا تتحقق من خريطة لمعرفة المدينة.
هذا هو بالضبط ما يسمى الإجابة على الأسئلة متعددة الخطوات (Multi-Hop Question Answering): وهو حل لغز يتطلب الانتقال بين قطع مختلفة من المعلومات (خطوات/hops) للوصول إلى الإجابة النهائية.
المشكلة: "أمين المكتبة المرهق"
تحاول الأنظمة الحالية (المسماة RAG أو التوليد المعزز بالاسترجاع) حل هذه المشكلة عبر توظيف ذكاء اصطناعي فائق الذكاء (نموذج لغوي كبير أو LLM) للقيام بالمهمة. ومع ذلك، فإن الطريقة التي تتبعها غير فعالة.
فكر في الطريقة الحالية كأنك استأجرت أمين مكتبة فائق الذكاء وعالي الأجر لحل لغزك.
- تسأل أمين المكتبة سؤالاً.
- يركض أمين المكتبة إلى الرفوف، ويأخذ كتاباً، ويقرأه، ثم يكتب ملاحظة.
- يركض أمين المكتبة عائداً إليك، يقرأ ملاحظتك، ويقول: "حسناً، الآن أحتاج لمعرفة أين وُلد المخرج".
- تسأله مرة أخرى. يركض أمين المكتبة إلى الرفوف مرة أخرى، ويأخذ كتاباً مختلفاً، ويقرأه، ويكتب ملاحظة أخرى.
- يكرر هذه العملية لكل خطوة من خطوات اللغز.
النتيجة؟ يصاب أمين المكتبة بالإرهاق، وتستغرق العملية وقتاً طويلاً جداً، وعليك دفع فاتورة ضخمة (بالـ "توكنز" أو قدرة الحوسبة) لأن أمين المكتبة يقوم برحلات ذهاب وإياب كثيرة. كما أن أمين المكتبة قد يرتبك أحياناً بشأن من يشير إليه الضمير "هو" في الخطوة الثانية، مما يؤدي إلى إجابات خاطئة.
الحل: CompactRAG (صندوق المعرفة المجهز مسبقاً)
يقترح مؤلفو هذه الورقة البحثية، CompactRAG، طريقة أكثر ذكاءً. فبدلاً من جعل أمين المكتبة الباهظ الثمن يركض حول المكتبة في كل مرة تطرح فيها سؤالاً، يقومون بإعادة تنظيم المكتبة قبل وصولك حتى.
الخطوة 1: التحضير خارج نطاق التشغيل (الإعداد لمرة واحدة)
قبل أن يسأل أي مستخدم أي سؤال، يستخدم النظام ذكاءً اصطناعياً لقراءة مكتبة الوثائق الكاملة مرة واحدة.
- يقوم بتفكيك كل وثيقة إلى "بطاقات حقائق" صغيرة ومثالية وذاتية الاحتواء.
- بدلاً من فقرة كاملة تقول: "تم صنع الفيلم في عام 1953 بواسطة آرثر كرابتري"، فإنه ينشئ بطاقة محددة تقول: "سؤال: من أخرج فيلم 'The Wedding of Lilli Marlene'؟ إجابة: آرثر كرابتري".
- يفعل ذلك لكل حقيقة في المكتبة. وهذا ما ينتج عنه قاعدة معرفية مضغوطة (Compact Knowledge Base).
تشبيه: تخيل بدلاً من وجود مكتبة فوضوية، لديك صندوق ضخم من بطاقات الفهرسة المنظمة تماماً. كل بطاقة تحتوي على سؤال محدد في مقدمتها والإجابة الدقيقة في خلفيتها. لا حشو، ولا كلمات زائدة.
الخطوة 2: الاستنتاج أثناء التشغيل (قاعدة الرحلتين)
الآن، عندما يطرح المستخدم سؤالاً معقداً، يعمل النظام كالتالي:
- التفكيك (الرحلة الأولى): يتم استدعاء أمين المكتبة الباهظ الثمن (LLM) مرة واحدة فقط لتفكيك اللغز الكبير إلى خطوات بسيطة وسهلة.
- المستخدم: "أين وُلد مخرج الفيلم؟"
- النموذج اللغوي (LLM): "حسناً، الخطوة 1: من أخرج الفيلم؟ الخطوة 2: أين وُلد هذا الشخص؟"
- البحث (لا حاجة لأمين المكتبة): لا يستدعي النظام أمين المكتبة الباهظ الثمن مرة أخرى. بدلاً من ذلك، يستخدم روبوتاً سريعاً ورخيصاً للبحث عن الإجابات في صندوق "بطاقات الحقائق" المُعد مسبقاً.
- يجد الروبوت البطاقة الخاصة بـ "من أخرج..." ويحصل على "آرثر كرابتري".
- ثم يعيد الروبوت صياغة السؤال التالي ليكون واضحاً: "أين وُلد آرثر كرابتري؟" (وهذا يمنع الارتباك الناتج عن استخدام الضمير "هو").
- يجد الروبوت البطاقة الخاصة بـ "أين وُلد آرثر كرابتري؟" ويحصل على "لندن".
- الإجابة النهائية (الرحلة الثانية): بمجرد أن يجمع الروبوت كل الإجابات الصغيرة، يتم استدعاء أمين المكتبة الباهظ الثمن للمرة الأخيرة لتركيب القطع معاً وتقديم الإجابة النهائية لك.
السحر: يتم استدعاء أمين المكتبة الباهظ الثمن مرتين فقط لكل سؤال، بغض النظر عن عدد خطوات (hops) اللغز. سواء كان اللغز يتكون من خطوتين أو 10 خطوات، تظل التكلفة ثابتة.
لماذا يهم هذا الأمر؟
- يوفر المال: تتوقف عن الدفع لأمين المكتبة الباهظ الثمن مقابل ركضه ذهاباً وإياباً. أنت تدفع له مرتين فقط.
- يوفر الوقت: العملية أسرع بكثير لأن "بطاقات الحقائق" سهلة البحث والقراءة.
- أخطاء أقل: من خلال إعادة كتابة الأسئلة لتشمل أسماءً محددة (مثل "آرثر كرابتري" بدلاً من "هو")، لا يرتبك النظام بشأن الشخص الذي يتحدث عنه.
النتائج
اختبرت الورقة البحثية هذا النظام على ثلاث مجموعات بيانات صعبة للألغاز (HotpotQA، و2WikiMultiHopQA، وMuSiQue).
- الدقة: كانت CompactRAG بنفس جودة الطرق القدسة الباهظة في حل الألغاز.
- الكفاءة: استخدمت "توكنز" (عملة حساب الذكاء الاصطناعي) أقل بكثير. وفي بعض الحالات، استخدمت أقل من نصف موارد الطرق الأخرى.
الملخص
CompactRAG يشبه تحويل تحقيق فوضوي ومكلف ومتكرر إلى عملية منظمة ومجهزة مسبقاً. إنه يقوم بالجهد الشاق لتنظيم المعرفة مرة واحدة مسبقاً، بحيث يصبح حل أي لغز جديد عملية سريعة، رخيصة، وذات خطوتين.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.