MDKeyChunker: Single-Call LLM Enrichment with Rolling Keys and Key-Based Restructuring for High-Accuracy RAG

إليك ملخص تقني مفصل لورقة البحث "MDKeyChunker: إثراء نماذج اللغات الكبيرة (LLM) باستدعاء واحد عبر المفاتيح المتدحرجة وإعادة الهيكلة القائمة على المفاتيح لتحقيق دقة عالية في استرجاع المعلومات المعزز بالتوليد (RAG)" بقلم بهافيك مانجلا.

1. بيان المشكلة

تحدد الورقة ثلاث حالات فشل منهجية في خطوط أنابيب استرجاع المعلومات المعزز بالتوليد (RAG) القياسية:

1. تجزئة حدود القطع (Chunk Boundary Fragmentation): غالبًا ما يؤدي التقسيم ذو الحجم الثابت (مثل 256-512 توكن) إلى تمزيق التماسك الدلالي، حيث يفصل الجداول عن التعليقات التوضيحية، أو كتل البرمجية عن الشروحات، أو القوائم عن العناوين. وهذا يؤدي إلى تدهور استدعاء المعلومات وجودة الإجابة.
2. تكلفة استخراج البيانات الوصفية (Metadata Extraction Cost): يتطلب إثراء القطع ببيانات وصفية (ملخصات، كيانات، كلمات مفتاحية) عادةً سلسلة من استدعاءات LLM المنفصلة (استدعاء لكل حقل)، مما يؤدي إلى تعقيد $O(n \cdot m)$ حيث $n$ هو عدد القطع و $m$ هو عدد مراحل الاستخراج. وهذا يخلق عوائق كبيرة في زمن الاستجابة والتكلفة.
3. العزلة السياقية (Contextual Isolation): يؤدي معالجة القطع بشكل مستقل إلى انتشار المترادفات (على سبيل المثال، "الجدول الزمني للقبول" مقابل "المواعيد النهائية للتقديم" لنفس الموضوع) لأن القطع تفتقر إلى السياق البيني، مما يمنع النظام من التعرف على المحتوى ذي الصلة عبر المستند.

2. المنهجية

يقترح MDKeyChunker خط أنابيب موحد مكون من ثلاث مراحل مصمم خصيصًا لمستندات Markdown لمعالجة هذه المشكلات:

المرحلة الأولى: التقطيع المدرك للبنية (Structure-Aware Chunking)

بدلاً من أعداد التوكن الثابتة، يقوم النظام بتحليل Markdown لتحديد الوحدات الدلالية الذرية.

• الوحدات الذرية: يتم التعامل مع العناوين، كتل البرمجية (المحاطة بأسوار أو المسافات البادئة)، الجداول، القوائم، والاقتباسات كوحدات غير قابلة للتجزئة.
• منطق التقسيم: يقوم المحلل بالتقسيم فقط عند الحدود الدلالية (مثل الفواصل بين العناوين) مع الحفاظ على سلامة الهياكل المعقدة.
• القيود: يتم تحديد القطع بحد أدنى ($\tau_{min} = 100$ حرف) وحد أقصى مرن ($\tau_{max} = 1500$ حرف)، ولكن الوحدات الذرية (مثل الجداول الكبيرة) لا تُقسم أبدًا حتى لو تجاوزت $\tau_{max}$.

المرحلة الثانية: إثراء LLM باستدعاء واحد مع المفاتيح المتدحرجة

هذا هو الابتكار الجوهري. بدلاً من الاستدعاءات المتعددة، يقوم استدعاء واحد لـ LLM باستخراج سبعة حقول بيانات وصفية في آن واحد:

1. العنوان، الملخص، الكلمات المفتاحية، الكيانات، الأسئلة، المفتاح الدلالي، والمفاتيح ذات الصلة.

• قاموس المفاتيح المتدحرجة (Rolling Key Dictionary): يتلقى الـ LLM قاموسًا $K$ من المفاتيح المستخرجة من القطع السابقة.
  • إذا كانت القطعة الحالية تستمر في موضوع سابق، يتم توجيه الـ LLM لإعادة استخدام المفتاح الحالي من $K$.
  • إذا قدمت القطعة موضوعًا فرعيًا جديدًا، يتم إضافة مفتاح جديد.
  • يتم تحديد سقف القاموس بـ 40 مدخلًا باستخدام سياسة الاستبعاد (LRU - الأقل استخدامًا مؤخرًا) لإدارة حجم نافذة السياق.
• الفائدة: هذا يعمل على توحيد المواضيع (مما يقلل من انتشار المترادفات) ويحافظ على سياق المستند دون الحاجة لصيغ تسجيل معقدة.

المرحلة الثالثة: إعادة الهيكلة القائمة على المفاتيح (تعبئة الصناديق - Bin-Packing)

بعد عملية الإثراء، يقوم خط الأنابيب بإعادة تنظيم القطع لجمع المحتوى ذي الصلة في مكان واحد.

• الدمج: يتم دمج القطع التي تشترك في نفس المفتاح الدلالي في وحدة استرجاع واحدة باستخدام خوارزمية التعبئة في الصناديق (First-fit bin-packing).
• القيود: تخضع عمليات الدمج لحد أقصى للحجم ($\tau_{merge} = 3000$ حرف).
• معالجة القطع اليتيمة: يتم الحفاظ على القطع التي ليس لها مفاتيح، ولكن قد يتم إلحاق سياق القسم بها إذا كانت صغيرة جدًا.
• النتيجة: يتم دمج الأجزاء البعيدة التي تناقش نفس الموضوع الفرعي المحدد (مثل "أنواع النماذج" التي تظهر في قسمين مختلفين من مستند ما) في وحدة استرجاع واحدة متماسكة.

3. المساهمات الرئيسية

1. بروتوكول الإثراء باستدعاء واحد: تصميم مبتكر للمطالبات (Prompts) يستخرج سبعة حقول بيانات وصفية متميزة في استدعاء واحد لـ LLM، مما يقلل تكاليف الاستدلال بمعامل قدره $m$ (عدد الحقول) مقارنة بخطوط الأنابيب التقليدية.
2. انتشار المفاتيح المتدحرجة: آلية تحافظ على الاستمرارية الموضوعية عبر القطع باستخدام قاموس خفيف الوزن، مما يستبدل نظام التسجيل اليدوي بمطابقة دلالية أصلية من الـ LLM.
3. إعادة الهيكلة القائمة على المفاتيح: خوارزمية تدمج القطع المرتبطة دلاليًا عالميًا عبر تقنية تعبئة الصناديق، مما ينشئ فعليًا "أقسامًا افتراضية" تتجاوز تخطيط المستند الأصلي.
4. التنفيذ مفتوح المصدر: مكتبة Python كاملة الوظائف مع 76 اختبار وحدة، تدعم النهايات الطرفية المتوافقة مع OpenAI، وتثبت عدم وجود تقسيمات لكتل البرمجية أو الجداول أثناء التحقق.

4. النتائج التجريبية

تم تقييم النظام على مجموعة مستندات Markdown مكونة من 18 مستندًا (354 كيلوبايت) مع 30 استعلامًا متنوعًا.

• السلامة الهيكلية: لم يتم رصد أي حالات تقسيم لكتل البرمجية أو الجداول.
• كفاءة الإثراء: حقق النظام معدل ملء بنسبة 100% لجميع حقول البيانات الوصفية السبعة. حققت آلية المفاتيح المتدحرجة معدل مرجعية تبادلية بنسبة 89.8%، مما يؤكد أن الـ LLM نجح في إعادة استخدام المفاتيح السابقة بدلاً من توليد مترادفات.
• تأثير إعادة الهيكلة: قلل إجمالي عدد القطع من 269 إلى 244 (انخفاض بنسبة 9.3%) عن طريق دمج 28 قطعة عبر 13 مجموعة مفاتيح.
• أداء الاسترجاع:
  • الإعداد D (الهيكل فقط + BM25): حقق استدعاءً مثاليًا Recall@5 = 1.000 و MRR = 0.911.
  • الإعداد C (خط الأنابيب الكامل + الاسترجاع الكثيف): حقق Recall@5 = 0.867 و MRR = 0.744.
  • المقارنة: بينما كان خط الأنابيب الكثيف الكامل (الإعداد C) أقل أداءً قليلاً من خط الأساس BM25 (الإعداد D) في هذا الإعداد المحدد، إلا أنه تفوق بشكل كبير على الاسترجاع الكثيف ثابت الحجم (الإعداد A: Recall@5 = 0.933, MRR).