Pruning Minimal Reasoning Graphs for Efficient Retrieval-Augmented Generation
تقدم الورقة البحثية AutoPrunedRetriever، وهو نظام استرجاع مدعوم بالتوليد (RAG) قائم على الرسوم البيانية يقوم بتخزين وتحديث رسم بياني فرعي للاستدلال الأدنى بشكل تراكمي باستخدام دفتر رموز مدمج وسياسات تقليم، محققاً دقة هي الأفضل في فئتها على معايير الاستدلال المعقدة مع تقليل استهلاك الرموز (tokens) بشكل كبير مقارنة بالنهج التقليدية.
تخيل أنك تحاول حل لغز ما، ولكن بدلاً من وجود محقق واحد، لديك فريق من المساعدين الذكيّين (AI). تكمن المشكلة في معظم فرق الذكاء الاصطناعي الحالية في أنها في كل مرة تسأل فيها سؤالاً جديداً، تتصرف وكأنها لم تسمع بالقضية من قبل. فهي تعيد قراءة الملف بأكمله، وتعيد البحث في المكتبة، وتعيد كتابة ملاحظاتها من الصفر، حتى لو كان سؤالك الجديد مجرد متابعة بسيطة للسؤال السابق. هذا الأمر بطيء، ومكلف، ويهدر الكثير من "الطاقة الذهنية" (الرموز أو الـ tokens).
يقدم البحث نظاماً جديداً يسمى AutoPrunedRetriever. فكر فيه كأنه محقق يحتفظ بـ دفتر رسومات (Sketchbook) حي ومتنامٍ بدلاً من كومة من الأوراق المتناثرة.
إليك كيف يعمل، باستخدام تشبيهات بسيطة:
1. المشكلة: فخ "البداية الجديدة"
تخيل أنك تبني قلعة من قطع الليغو (Lego).
الأنظمة القديمة: في كل مرة تريد فيها إضافة برج جديد، يقومون بهدم القلعة بأكملها، ويفرغون جميع الطوب في الصندوق، ثم يبدأون البناء من الصفر. يفعلون ذلك حتى لو كنت تريد فقط إضافة نافذة صغيرة إلى الجانب. هذا يهدر الوقت والطوب.
حل الورقة البحثية: النظام الجديد يبقي القلعة قائمة. عندما تطرح سؤالاً جديداً، فإنه ينظر إلى القلعة الموجودة، ويجد المكان الدقيق الذي يحتاج إلى تغيير، ويضيف تلك القطعة الواحدة فقط. إنه يتذكر ما بناه بالأمس.
2. الفكرة الجوهرية: "الاختصارات الرمزية"
بدلاً من تخزين جمل طويلة وفوضوية (مثل "حدث الاستحواذ المؤسسي في عام 2021...")، يقوم النظام بترجمة كل شيء إلى كتيب رموز مدمج.
التشبيه: تخيل مكتبة حيث استُبدلت الكتب بمجموعة من بطاقات الفهرس ذات الرموز البسيطة مثل: الشركة أ ← استحوذت على ← الشركة ب.
لماذا يساعد هذا: إذا سألت "من استحوذ على الشركة ب؟"، فلن يحتاج النظام لقراءة فقرة كاملة. سيكتفي بالنظر إلى بطاقة الفهرس. ولأن البطاقات قصيرة وتستخدم رموزاً، يمكن للنظام استيعاب آلاف الحقائق في مساحة ضئيلة جداً، مما يوفر كميات هائلة من ذاكرة الكمبيوتر والتكلفة.
3. سحر "التقليم" (Pruning): قطع الوزن الزائد
بينما يتعلم النظام المزيد، فإنه لا يكتفي بمجرد الإضافة المستمرة لكل شيء. بل لديه "بستاني" ذكي بداخله.
التشبيه: تخيل كرمة تنمو على دعامة خشبية. أحياناً تنمو الكروم في دوائر أو نهايات مسدودة لا تؤدي إلى أي مكان مفيد. "البستاني" (سياسة التقليم) يقوم بقص تلك الحلقات غير المفيدة ودمج الكروم المكررة (مثل إدراك أن "IBM" و"International Business Machines" هما نفس النبتة).
النتيجة: يحتفظ النظام فقط بـ المسار الأدنى اللازم للإجابة على سؤال ما. إذا طرحت سؤالاً للمتابعة، فإنه لا يعيد قراءة الحديقة بأكملها؛ بل يمد فقط الكرمة المحددة التي تهم الموضوع.
4. كيف يجيب على الأسئلة: تتبع الأثر
عندما تطرح سؤالاً معقداً (مثل "كيف أثر الاستحواذ على حجم الشركة؟")، فإن النظام لا يخمن.
التشبيه: يشبه الأمر تتبع خريطة كنز. بدلاً من إظهار الجزيرة بأكملها لك، فإنه يسلط الضوء على الخطوات الثلاث الدقيقة: ابدأ من الرصيف ← امشِ إلى الشجرة ← احفر عند الصخرة.
الفائدة: نظرًا لأنه يعرض للذكاء الاصطناعي الخطوات الأساسية فقط (الرسم البياني للاستدلال الأدنى)، فإن الذكاء الاصطناعي لا يصاب بالارتباك بسبب الضجيج الإضافي. يمكنه ربط النقاط ببعضها بسرعة ودقة أكبر بكثير من الأنظمة التي تضع أمامه مكتبة كاملة من النصوص.
5. النتائج: أسرع، أرخص، وأذكى
اختبر المؤلفون هذا النظام في مهام صعبة تتعلق بالحقائق الطبية، والروايات، والأسئلة العلمية.
الدقة: حل ألغازاً معقدة بشكل أفضل من الأنظمة الأفضل سابقاً (مثل HippoRAG2)، حيث حقق حوالي 9-11% من الإجابات الصحيحة الإضافية.
الكفاءة: استخدم ما يصل إلى 100 ضعف أقل من "وقود" الكمبيوتر (الرموز/tokens) مقارنة بالأنظمة الأخرى القائمة على الرسوم البيانية.
الأثر في العالم الحقيقي: يشبه الأمر الانتقال من قيادة شاحنة ثقيلة تتوقف عند كل منزل إلى قيادة دراجة نارية رشيقة تعرف بالضبط أي مدخل سيارات يجب أن تدخل إليه.
الملخص
AutoPrunedRetriever هو نظام يمنع الذكاء الاصطناعي من "نسيان" ما تعلمه للتو. من خلال تحويل النصوص إلى خريطة مدمجة تعتمد على الرموز، وعملية تقليم مستمرة للأجزاء غير المفيدة، فإنه يسمح للذكاء الاصطناعي بالاستدلال عبر سلاسل معقدة من المنطق بسرعة، وبتكلفة منخفضة، ودون أن يغمره الكثير من المعلومات. إنه يحول كومة فوضوية من الأوراق إلى دفتر رسومات نظيف، فعال، ومتنامٍ باستمرار.
ملخص تقني: تقليم رسوم الاستدلال الدنيا لتعزيز التوليد المستند إلى الاسترجاع بكفاءة
1. بيان المشكلة
أصبح نظام "الاسترجاع المعزز بالتوليد" (RAG) معيارًا للمهام التي تتطلب معرفة مكثفة من النماذج اللغوية الكبيرة (LLMs). ومع ذلك، تتعامل الأنظمة الحالية في الغالب مع كل استعلام كحدث جديد، حيث تعيد استرجاع نصوص طويلة بشكل متكرر وتعيد الاستدلال من الب0. يؤدي هذا النهج إلى عدم كفاءة كبيرة:
التكرار: تؤدي الاستعلامات المتقاربة أو المتتالية (الشائعة في تدفقات عمل الوكلاء) إلى استرجاع رسوم بيانية فرعية ومقاطع نصية متداخلة إلى حد كبير.
تضخم الموارد: يتسبب هذا التكرار في تضخم استخدام الرموز (Tokens)، وزيادة زمن الاستجابة (Latency)، ورفع التكاليف التشغيلية.
الاختناقات الهيكلية: لا تزال طرق GraphRAG الحالية، رغم تحسينها للاستدلال متعدد الخطوات، تواجه ثلاث قيود أساسية عند نشرها على مجموعات بيانات متطورة:
تكاليف الصيانة العالمية: تتطلب معالجة أسماء الكيانات المستعارة والمتغيرات التسموية فحوصات عالمية مكلفة وإعادة ربط مع وصول أدلة جديدة.
دقة الاستدلال: يقوم التوسع القائم على الجوار باسترجاع رسوم بيانية فرعية واسعة حول الكيانات المركزية بدلاً من الحواف (edges) المحددة المطلوبة لسلسلة الاستدلال.
الاسترجاع المتكرر: غالبًا ما تقوم الاستعلامات المتتالية أو متعددة الوكلاء بإعادة بناء سياقات متداخلة بشكل متكرر بدلاً من حفظ وتوسيع هياكل الاستدلال السابقة.
2. المنهجية: AutoPrunedRetriever
يقترح المؤلفون نظام AutoPrunedRetriever، وهو نظام RAG يركز على الهيكل أولاً، حيث ينقل وحدة الاسترجاء الأساسية من المقاطع النصية أو الجوار الواسع إلى رسوم الاستدلال الدنيا (المسارات). يقوم النظام بحفظ هذه الرسوم البيانية وتوسيعها تدريجيًا للاستعلامات اللاحقة.
مبادئ التصميم الأساسية
هيكل محلي وتدريجي: بدلاً من صيانة رسم بياني عالمي هش، يبني النظام رسومًا بيانية صغيرة ومتماسكة محليًا. يتم تطبيق دمج الكيانات بشكل انتقائي على مستوى الرمز، مما يسمح بدمج الأسماء المستعارة دون الحاجة لإعادة استخراج النصوص أو إعادة ربط الهيكل بأكمله.
الاسترجاع المرتكز على المسار: يعامل النظام تسلسلات الحواف كواحدة استرجاع أساسية. يقوم بتقييم مسارات الاستدلال المرشحة مباشرة بدلاً من توسيع الجوارات الواسعة، مما يتجنب استرجاع الرسومات البيانية الفرعية غير ذات الصلة.
إعادة الاستخدام الرمزي الدقيق: لمنع التكرار المتكرر للسياق المتداخل، يقوم النظام بتخزين رسوم الاستدلال البيانية كمتواليات مدمجة من معرفات الكيانات والعلاقات. يتم بناء المطالبات (Prompts) باستخدام الأدلة الجديدة أو غير المتكررة فقط، مما يضمن أن يتوسع استخدام الرموز مع الاستدلال الجديد بدلاً من السياق المتكرر.
خط الإنتاج التقني
يعمل النظام من خلال خط إنتاج يعتمد على الرموز أولاً عبر الخطوات التالية:
الترميز الرمزي: يتم تطبيع النص الحر (الأسئلة، الإجابات، الحقائق) في كتاب رموز مشترك للكيانات والعلاقات. ينتج المحلل (REBEL أو LLM) ثلاثيات (triples)، والتي يتم تسلسلها إلى مؤشرات حواف. هذا ينشئ كتاب رموز مدمج (E,R,M) حيث يتم تمثيل النص بواسطة معرفات (IDs)، مما يخفف من تشتت الرموز.
الرسوم البيانية الصغيرة المجزأة (البناء المحلي أولاً): لا تُدرج الثلاثيات في رسم بياني عالمي فورًا. بدلاً من ذلك، يتم تجميعها في رسوم بيانية صغيرة متماسكة ("runs") بناءً على التماسك الدلالي والاستمرارية الهيكلية. تعمل عملية بناء متدفقة على إغلاق الرسم البياني عندما لا تعود الثلاثية تتناسب مع المركز الحالي، مما يخلق أجزاء قصوى متماسكة محليًا.
الاسترجاع من الخشن إلى الناعم:
المرحلة الخشنة: استدعاء سريع في فضاء الرموز باستخدام البحث عن أقرب الجيران التقريبي (ANN) على تضمينات الكيانات والعلاقات لتوليد قائمة قصيرة من الـ "runs" المرشحة.
المرحلة الناعمة: إعادة ترتيب مدركة للثلاثيات تقوم بتقييم الـ "runs" المرشحة بناءً على القوة العلاقاتية، والتغطية، والاتساق المقتصد، متجنبة انحيازات "كلما كان أطول كان أفضل".
اختيار المعرفة وبناء المطالبة: يختار النظام الـ "runs" غير المتكررة (ممثلين فريدين لكل عنقود دلالي) ويبني المطالبات باستخدام كتاب رموز مدمج. تحتوي المطالبات فقط على معرفات الكيان/العلاقة والقواعد الضرورية، مما يقلل بشكل كبير من حمولة الرموز مقارنة بتجميع النصوص الخام.
الدمج القائم على الكيان فقط: للحفاظ على إحكام الرسم البياني بمرور الوقت، يتم تطبيق سياسة ثنائية الطبقات:
الطبقة 1: كشف الأسماء المستعارة المستمر المدعوم بـ k-NN.
الطبقة 2: دمج k-means عند الطلد يتم تحفيزه عند تجاوز عتبات الذاكرة لدمج الأسماء المستعارة وتقليم الهياكل منخفضة القيمة.
الضغط التكيفي عبر DPO: تتعلم سياسة التحسين التفضلي المباشر (DPO) خفيفة الوزن اختيار مستوى الضغط المناسب (تضمين الكل، فريد، أو استبعاد) لكل قناة بناءً على غموض الاستعلام، وقيود النموذج، وأهداف المستخدم (الدقة مقابل زمن الاستجونة/الرموز).
قام المؤلفون بإنشاء واجهتين أماميّتين: AutoPrunedRetriever-REBEL (باستخدام محلل ثلاثيات ثابت) و AutoPrunedRetriever-LLM (باستخدام مستخرج يعتمد على LLM).
3. المساهمات الرئيسية
بنية مبتكرة: تقديم نظام RAG يحفظ رسوم الاستدلال الدنيا ويوسعها تدريجيًا، مبتعدًا عن الاسترجاع المرتكز على المقاطع النصية عديم الحالة.
آليات الكفاءة: تطوير سياسة دمج ثنائية الطبقات واسترجاع مرتكز على المسار يقلل من استخدام الرموز بما يصل إلى رتبتين عشريتين مقارنة بالنماذج القائمة على الرسوم البيانية الثقيلة.
المطالبة الرمزية: طريقة لتمثيل الأسئلة والحقائق والإجابات كمتواليات حواف في كتاب رموز مدمج، مما يسمح بالاسترجاع والمطالبة عبر الهياكل الرمزية بدلاً من النصوص الخام.
التحكم التكيفي: دمج سياسة مدربة بـ DPO لموازنة الدقة والكفاءة ديناميكيًا بناءً على خصائص الاستعلام وقيود الموارد.
4. النتائج التجريبية
تم تقييم النظام على GraphRAG-Benchmark (مجموعات البيانات الطبية والجديدة) ومجموعات بيانات الاستدلال الأصعب STEM و TV.
دقة الاستدلال المعقد: حقق كلا المتغيرين أداءً رائدًا في مهام الاستدلال المعقدة.
في اختبارات Medical و Novel، تفوقا على HippoRAG2 بنحو 9-11 نقطة (على سبيل المثال، +10.51 في Medical-CR، و +9.64 في Novel-CR).
في اختبارات STEM و TV، احتل AutoPrunedRetriever المرتبة الأولى، متفوقًا على HippoRAG2 و LightRAG.
الكفاءة:
استخدام الرموز: استخدم النظام أقل بنحو رتبتين عشريتين من الرموز مقارنة بالنماذج الثقيلة (على سبيل المثال، ~1,090 رمزًا مقابل ~8,846 لـ LightRAG في STEM).
زمن الاستجابة: تتبع زمن الاستجابة من البداية للنهاية استخدام الرموز، حيث ظل النظام المقلّم منافسًا رغم العبء الإضافي لصيانة الرسم البياني.
مساحة العمل: حافظ النظام على أحجام مساحة عمل أصغر ورموز مطالب أقل مقارنة بالنماذج المرجعية، حيث أظهر نمو حجم الرسم البياني استقرارًا بسبب دمج الكيانات.
مهام أخرى: ظل النظام منافسًا في مهام التلخيص السياقي والتوليد الإبداعي، مما يثبت أن استراتيجية التقليم لا تضعف الأداء في المهام غير المتعلقة بالاستدلال.
5. الأهمية والادعاءات
يدعي البحث أن هيكل الاستدلال المستمر والمقلّم، وليس الرسوم البيانية الأكبر أو المطالبات الأطول، هو الركيزة الأساسية لأنظمة RAG الفعالة وطويلة الأمد والوكيلة.
العملية: من خلال تقليل استخدام الرموز وزمن الاستجابة بشكل كبير مع الحفاظ على الدقة أو تحسينها، يُقدم النظام كحل عملي للجلسات طويلة الأمد، والمجموعات المتطورة، وخطوط عمل الوكلاء المتعددين حيث تتم زيارة سلاسل استدلال مماثلة بشكل متكرر.
تحول النموذج: يشير العمل إلى تحول في المنظور حيث يهدف الاسترجاع ليس إلى استعادة كل السياق ذي الصلة المحتمل، بل إلى تحديد وتخزين وإعادة استخدام الحد الأدنى من هيكل الاستدلال اللازم للإجابة على استعلام ما.
القابلية للتوسع: يوضح النهج أن إعادة الاستخدام الرمزي والمطابقة الدقيقة القائمة على المعرفات يمكن أن تتغلب على مشكلات "تشتت الرموز" والتكرار المتأصلة في أنظمة RAG التي تعتمد على النصوص أولًا.
6. القيود
يقر المؤلفون بعدة قيود:
نطاق المجال/اللغة: التقييم يتركز بشكل أساسي على اللغة الإنجليزية، واختبارات الأسئلة والأجوبة كثيفة المعرفة؛ ولم يتم التحقق من قابلية النقل إلى لغات أخرى أو سجلات المستخدمين غير المنظمة.
الاعتماد على المستخرجات: يعتمد خط الإنتاج على مستخرجات الثلاثيات (REBEL أو LLMs)؛ ويمكن أن تؤدي أخطاء الاستخراج المنهجي إلى الإضرار بالاستدلال اللاحق، كما أن الاستخراج والاسترجاع لا يتم تدريبهما بشكل مشترك.
نطاق التطبيق: تركز الدراسة على مجموعات البيانات النصية فقط والإجابة على الأسئلة في دورة واحدة في بيئات الوكلاء، مما يترك مجالات المدخلات متعددة الوسائط، وسير عمل استخدام الأدوات، والتحديثات التي تتضمن تدخل البشر للعمل المستقبلي.