ملخص تقني: التوليد المعزز بالاسترجاع المدرك للمجال الذهني (MiA-RAG)

1. بيان المشكلة

تعاني أنظمة التوليد المعزز بالاسترجاع (RAG) الحالية من صعوبة في فهم السياق الطويل لأنها تعتمد بشكل أساسي على الإشارات المحلية على مستوى الأدلة. وخلافًا للبشر، الذين يستخدمون قدرة "الإدراك بالمجال الذهني" (Mindscape-Aware)—وهي تمثيل دلالي عالمي للمحتوى ينظم المعرفة السابقة ويوجه تفسير المعلومات الجديدة—تفتقر أنظمة RAG القياسية إلى إطار دلالي عالمي صريح. هذا القصور يجعل من الصعب استرجاع الأدلة المشتتة بفعالية ودمج تلك الأدلة في عملية استدلال متماسكة، لا سيما في المهام التي تتضمن سرديات طويلة، أو تقارير حكومية، أو مشاريع معقدة.

2. المنهجية: MiA-RAG

يقترح المؤلفون إطار عمل MiA-RAG (التوليد المعزز بالاسترجاع المدرك للمجال الذهني)، والذي يصيغ الاسترجاع والتوليد كنموذج شرطي موحد قائم على تمثيل دلالي عالمي يسمى المجال الذهني ($S$). يتكون إطار العمل من ثلاثة مكونات أساسية:

أ. بناء المجال الذهني الهرمي

يبني النظام المجال الذهني $S$ عبر عملية تلخيص هرمية من الأسفل إلى الأعلى:

1. التلخيص على مستوى القطع (Chunk-Level): يتم تلخيص كل قطعة مستند $c_i$ إلى $s_i$ باستخدام نموذج تلخيص ($M_s$).
2. التلخيص العالمي: يتم دمج تسلسل ملخصات القطع وتلخيصها مجددًا لإنتاج تمثيل عالمي واحد $S$.
3. التحديثات التدريجية: يمكن تحديث الملخص تدريجيًا عن طريق إعادة توليد المسارات المتأثرة فقط من القطع المعدلة وصولاً إلى الجذر، مما يتجنب إعادة الحساب الكاملة.

ب. الاسترجاع المدرك للمجال الذهني (MiA-Emb)

لتمكين الاسترجاع الانتقائي والفهم الثري، يستخدم إطار العمل نموذج تضمين متخصص، MiA-Emb.

• التحكم في المدخلات (Input Conditioning): خلافًا للمسترجعات القياسية التي تشفر الاستعلام فقط، يأخذ MiA-Emb الاستعلام $q$ والملخص العالمي $S$ كتسلسل مدخل موحد: $Q = [[INST]_{emb}; q; d_q; S; d_t]$.
• التكامل المتبقي (Residual Integration): لموازنة القصد المحلي للاستعلام مع التوجيه العالمي، يستخدم النموذج استراتيجية اتصال متبقي، حيث يجمع بين الحالة المخفية لمحدد الاستعلام ومحدد المهمة.
• التدريب: يتم تدريب النموذج على مجموعة بيانات "فضية المعايير" (silver-standard) تم إنشاؤها عبر تعزيز الاستعلام، والاسترجاع الجماعي (ensemble retrieval)، والفلترة القائمة على النماذج اللغوية الكبيرة (LLM). ويقوم بتحسين هدف تباين InfoNCE متعدد المهام لكل من الاسترجاع على مستوى القطعة ومستوى العقدة (الرسم البياني).

ج. التوليد المدرك للمجال الذهني (MiA-Gen)

لمعالجة عدم التماثل حيث قد يسيء المولد تفسير الأدلة المسترجعة دون سياق عالمي، يقدم إطار العمل MiA-Gen.

• الاشتراط (Conditioning): يتم اشتراط المولد بنفس الذاكرة العالمية $S$ المستخدمة أثناء الاسترجاع. يتضمن المدخل الملخص، والقطع المسترجعة، والاستعلام.
• الاستدلال التكاملي: من خلال تعريض المولد للسياق العالمي، يتعلم النموذج تفسير القطع المسترجعة ضمن إطار دلالي متماسك، مما يضمن التركيب والاستدلال الأمين.
• التدريب: يتم ضبط MiA-Gen بدقة باستخدام مجموعة نصوص مركبة (NarrativeQA و CLIPPER) باستخدام فقدان الإنتروبيا المتقاطعة ذاتي الانحدار (autoregressive cross-entropy loss)، مما يحاكي ظروف الاستدلال الواقعية مع قطع مختلطة بين ذات الصلة وغير ذات الصلة.

3. المساهمات الرئيسية

1. صياغة التفكير المدرك للمجال الذهني: يقدم البحث أول حل حوسبي لتزويد أنظمة RAG القائمة على LLM بقدرة مستوحاة من علم النفس وعلم الأعصاب البشري (تحديدًا نظرية المخططات - Schema Theory - وتخصيص الترميز)، مما يسمح للأنظمة بتنشيط إطار دلالي عالمي.
2. نموذج شرطي موحد: يقدم MiA-RAG إطار عمل حيث يتم اشتراط كل من الاسترجاع والتوليد على سقالة دلالية عالمية مشتركة، مما يربط تمثيلات الاستعلام بالفضاء الفرعي الدلالي للمستند.
3. التحقق التجريبي: تثبت التجارب المكثفة عبر مقاييس متنوعة للسياق الطويل (NarrativeQA، $\infty$Bench، DetectiveQA، NoCha) ولغات مختلفة (الإنجليزية والصينية) فعالية إطار العمل.
4. تحليل الآلية: من خلال هندسة الفضاء التضميني وتحليل الانتباه، يوضح المؤلفون أن المجال الذهني يعيد تشكيل تمثيلات الاستعلام نحو الفضاء الدلالي العالمي ويعمل كسقالة للانتباه، مما يؤكد أن النظام يستوعب السياق العالمي بدلاً من الاعتماد على مطابقة الأنماط السطحية.

4. النتائج التجريبية

تغطي التقييمات فهم السرد الطويل، والإجابة على الأسئلة القائمة على الأدلة، والتحقق من الادعاءات.

• الأداء: يتفوق MiA-RAG باستمرار على النماذج المرجعية، بما في ذلك Vanilla RAG و HippoRAG و MemoRAG و RAPTOR.
  • يحقق MiA-RAG-14B أفضل متوسط رتبة عبر خمسة مقاييس، متفوقًا حتى على نظام Vanilla RAG-72B.
  • في مجموعة بيانات NarrativeQA، يحقق MiA-RAG-14B درجة F1 تبلغ 53.56 (Top-10)، مقارنة بـ 49.06 لـ Vanilla-RAG-14B و 49.06 لـ Vanilla-RAG-72B (Top-10).
  • في $\infty$Bench، يصل MiA-RAG-14B إلى دقة 85.15% (Top-10)، وهي أعلى بكثير من خط الأساس Vanilla-72B (86.90% هو Vanilla-72B Top-10، لكن MiA-RAG-14B يظهر كفاءة واتساقًا فائقًا عبر المقاييس الأخرى؛ وتحديدًا، يشير البحث إلى أن MiA-RAG-14B يحقق أفضل متوسط رتبة ويتفوق على Vanilla-72B في الأداء المتوسط العام).
• جودة الاسترجاع: يحسن MiA-Emb من استدعاء الاسترجاع بشكل كبير. في DetectiveQA-ZH، يحقق MiA-Emb-8B نسبة استدعاء (Recall@10) تبلغ 72.5%، متفوقًا على Qwen3-Emb-8B القياسي (55.6%) و Sit-Emb-8B المتطور (69.3%).
• دراسات الاستئصال (Ablation Studies): يؤدي إزالة الملخص ("بدون ملخص" / w/o Summary) إلى تدهور كبير في الأداء في كل من مرحلتي الاسترجاع والتوليد، مما يؤكد ضرورة السقالة الدلالية العالمية.
• القابلية للتوسع: يتوسع النهج بفعالية. نموذج MiA-Emb-0.6B يتفوق على نموذج Vanilla 8B، كما يتفوق MiA-Gen-14B على مولد Vanilla 72B في مهام استدلال محددة.
• الكفاءة: رغم العبء الإضافي لتوليد الملخصات، فإن MiA-RAG (باستخدام 3 قطع + الملخص) أسرع بمقدار 1.43 ضعفًا من حيث العمليات النهائية (end-to-end) مقارنة بـ Vanilla RAG الذي يستخدم 10 قطع، مع تحقيق دقة أعلى. ويرجع ذلك إلى أن السياق العالمي يسمح باسترجاع أكثر دقة، مما يقلل الحاجة إلى نوافذ سياقية كبيرة أثناء التوليد.

5. الأهمية والادعاءات

يزعم البحث أن MiA-RAG يمثل تحولًا من المطابقة المحلية للأدلة إلى صنع المعنى العالمي (Global Sense-making). ومن خلال تقريب "المجال الذهني" البشري عبر التلخيص الهرمي، يُمكّن إطار العمل النماذج اللغوية الكبيرة من:

• إثراء الفهم: ملء المعلومات المفقلة وحل المعاني غير المحددة باستخدام الدلالات العالمية.
• القيام باسترجاع انتقائي: توجيه تضمينات الاستعلام نحو الإطار المفاهيمي للموضوع النشط، مما يفلتر الغموض.
• تمكين الاستدلال التكاملي: تفسير النتائج المسترجعة ضمن سياق عالمي لضمان تركيب متماسك.

يؤكد المؤلفون أن نهجهم لا يضيف مجرد سياق إضافي، بل يغير بشكل جذري كيفية معالجة النموذج للمعلومات، مما يربط هندسة تمثيلات الاستعلام بالفضاء الدلالي العالمي. وهم يقرون بالقيود، مثل العبء المسبق لتوليد الملخص والاعتماد على النماذج اللغوية التجارية لبناء البيانات الفضية، لكنهم يجادلون بأن مكاسب الأداء وقوة استراتيجية التدريب المدركة للمجال الذهني تبرر هذا النهج لمهام السياق الطويل.