GAAMA: Graph Augmented Associative Memory for Agents

إليك ملخص تقني مفصل لورقة البحث بعنوان "GAAMA: الذاكرة الترابطية المعززة بالرسوم البيانية للوكلاء (Graph Augmented Associative Memory for Agents)."

1. بيان المشكلة

تتطلب وكلاء الذكاء الاصطناعي (AI agents) التي تتفاعل مع المستخدمين عبر جلسات متعددة ذاكرة طويلة الأمد مستمرة للحفاظ على سلوك متماسك وشخصي. تعاني النهج الحالية من قيود كبيرة:

• الاسترجاع المعزز بالتوليد المسطح (Flat RAG): يعتمد كلياً على تشابه التضمين (embedding similarity)، مما يؤدي إلى فقدان العلاقات الهيكلية بين الكيانات، الأحداث، والحقائق عبر المحادثات المختلفة.
• نهج السياق الكامل (Full-Context): تغذية النموذج اللغوي الكبير (LLM) بكامل التاريخ عملية مكلفة حوسبياً ولا يمكن التوسع فيها.
• طرق الرسوم البيانية الحالية (مثل HippoRAG): رغم استخدامها للرسوم البيانية، إلا أنها غالباً ما تكون مركزة على الكيانات (entity-centric). في بيانات الجلسات المتعددة، تتراكم مئات الحواف حول الكيانات المتكررة (مثل "المستخدم")، مما يخلق "مراكز ضخمة" (mega-hubs). يتسبب هذا في توزيع كتلة "تصنيف الصفحة الشخصية" (Personalized PageRank - PPR) بشكل موحد، مما يضعف دقة الاسترجاع.
• الأساليب غير المعتمدة على الرسوم البيانية (مثل A-Mem و Nemori): تعتمد على تشابه المتجهات دون استخدام انتشار الصلة القائم على الرسم البياني، أو تفشل في التقاط الهياكل الترابطية بفعالية.

2. المنهجية: GAAMA

يقترح GAAMA رسمًا بيانيًا معرفيًا هرميًا وسيطًا بالمفاهيم (concept-mediated hierarchical knowledge graph) يتم بناؤه عبر خط إنتاج مكون من ثلاث خطوات، يليه آلية استرجاع هجينة.

أ. بناء الرسم البياني المعرفي عبر ثلاث خطوات

يعالج النظام جلسات المحادثة إلى رسم بياني محدد الأنواع يحتوي على أربعة أنواع من العقد وخمسة أنواع من الحواف:

1. الحفاظ على الحلقات (بدون LLM): تُخزن أدوار المحادثة الخام حرفيًا كعقد "حلقات" (Episodes). يتم ربطها تسلسليًا عبر حواف NEXT. هذا يحافظ على الصياغة الدقيقة والإشارات الزمنية (مثل "أمس") الضرورية للاستدلال الزمني.
2. استخراج الحقائق والمفاهيم (باستخدام LLM):
   • الحقائق (Facts): تأكيدات ذرية مستخلصة من الحلقات (مثل "المستخدم رسم غروب الشمس"). ترتبط بالحلقات المصدرية عبر حواف DERIVED_FROM.
   • المفاهيم (Concepts): تسميات على مستوى الموضوع (مثل هواية_الفخار ، رحلة_تخييم) بدلاً من أسماء كيانات محددة. تعمل هذه المفاهيم كممرات عبور متقاطعة.
   • الحواف: HAS_CONCEPT (الحلقة $\leftarrow$ المفهوم) و ABOUT_CONCEPT (الحقيقة $\leftarrow$ المفهوم).
   • الابتكار: استخدام عقد المفاهيم (Concept Nodes) بدلاً من عقد الكيانات يتجنب مشكلة "المراكز الضخمة"، مما ينتج رسمًا بيانيًا أقل كثافة بنحو 30 ضعفًا.
3. تركيب التأملات (بواسطة LLM): يتم تركيب رؤى عالية المستوى (مثل "المستخدم يفضل الأنشطة الخارجية في عطلات نهاية الأسبوع") من حقائق متعددة. تُربط عقد التأملات (Reflections) هذه عبر حواف DERIVED_FROM_FACT ، مما يسمح بالاستدلال عبر الجلسات.

ب. آلية الاسترجاع الهجينة

يجمع الاسترجاع بين التشابه الدلالي والتنقل في الرسم البياني باستخدام دالة تسجيل مضافة:

1. توليد المرشحين: يتم استرجاع مجموعة واسعة من العقد عبر تشابه جيب التمام (KNN) مع الاستعلام.
2. التوسع في الرسم البياني: بدءًا من بذور الـ $k$-الأعلى، يقوم النظام بالتوسع للخارج (عمق $d=2$) لاكتشاف العقد المتصلة هيكليًا (مثل الحقائق المرتبطة بحلقة، أو الحلقات المرتبطة عبر مفهوم مشترك).
3. PPR الواعي بنوع الحافة: يتم تشغيل خوارزمية Personalized PageRank على الرسم البياني المحلي مع أوزان انتقال محددة بناءً على أنواع الحواف (على سبيل المثال، حواف NEXT و HAS_CONCEPT لها أوزان أعلى من DERIVED_FROM_FACT).
   • تخميد المراكز (Hub Dampening): آلية تقوم بتقليل الأوزان الصادرة للعقد ذات الدرجة العالية لمنع تشتت الكتلة.
4. التسجيل المضاف: التسجيل النهائي هو مجموع موزون:
   $$\text{score}(n) = w_{ppr} \cdot \text{ppr}(n) + w_{sim} \cdot \text{sim}(n, q)$$
   • الأوزان الافتراضية: $w_{ppr} = 0.1$ ، $w_{sim} = 1.0$.
   • مبدأ التصميم: يعمل التنقل في الرسم البياني كـ "فاصل للتعادل" وموسع للجوار لتعزيز التشابه الدلالي وليس لاستبداله.

ج. تعبئة الذاكرة (Memory Packing)

يتم تجميع العقد المسترجعة حسب النوع (حقائق، تأملات، حلقات) مع حدود قصوى محددة (مثل 60 حقيقة كحد أقصى، 20 تأملًا) لضمان تلق تلقي نموذج توليد الإجابة (LLM) مزيجًا متنوعًا من المعلومات، مما يمنع سيطرة الحلقات الخام على نافذة السياق.

3. المساهمات الرئيسية

1. مخطط الرسم البياني الوسيط بالمفاهيم: تصميم مبتكر للرسم البياني يستبدل مراكز الكيانات بعقد مفاهيم موزعة على مستوى المواضيع، مما يحل مشكلة "المراكز الضخمة" في الذاكرة متعددة الجلسات.
2. بناء الذاكرة الهرمي: خط إنتاج يحافظ على السياق الخام (الحلقات)، ويستخلص المعرفة الذرية (الحقائق)، ويركب الأنماط عالية المستوى (التأملات)، مما يتيح الاستدعاء الدقيق والاستدلال المعقد.
3. استراتيجية الاسترجاع الهجينة: طريقة تمزج بين PPR والتشابه الدلالي عبر تسجيل مضاف، مما يثبت أن التعزيز الطفيف بالرسم البياني ($w_{ppr}=0.1$) يحسن الاسترجاع باستمرار دون إدخال ضجيج.
4. تخصيص الميزانية لكل نوع: آلية لموازنة استرجاع أنواع الذاكرة المختلفة، مما يضمن عدم إزاحة الحقائق والتأملات بواسطة الحلقات الخام ذات التشابه العالي.

4. النتائج التجريبية

تم التقييم على معيار LoCoMo-10 (1,540 سؤالاً عبر 10 محادثات متعددة الجلسات):

• الأداء العام: حقق GAAMA متوسط مكافأة قدره 78.9%، متفوقًا على:
  • خط الأساس RAG المضبوط (Tuned RAG): 75.0% (+3.9 نقطة مئوية)
  • HippoRAG: 69.9% (+9.0 نقاط مئوية)
  • Nemori: 52.1%
  • A-Mem: 47.2%
• تفصيل الفئات:
  • متعدد الخطوات (Cat1): 72.2% (تحسن كبير عن RAG بسبب تركيب الحقائق/التأملات).
  • الزمني (Cat2): 71.9% (+12.9 نقطة مئوية عن RAG). الحفاظ على الحلقات حرفيًا وحواف NEXT يسمح للنظام بحل الإشارات الزمنية الغامضة بفعالية.
  • النطاق المفتوح (Cat3): 49.3% (الأعلى بين جميع الأنظمة).
  • أحادي الخطوة (Cat4): 87.2% (مماثل لـ RAG، حيث يعتمد الاستدعاء البسيط على تشابه التضمين).
• دراسة الاستبعاد (Ablation Study):
  • إزالة PPR (التشابه الدلالي فقط) أدى إلى انخفاض الأداء إلى 78.0%.
  • هذا يؤكد أن خط إنتاج تقطير المعرفة (إنشاء الحقائق/التأملات) يوفر زيادة قدرها +3.0 نقطة مئوية عن RAG المسطح، بينما يوفر التنقل في الرسم البياني زيادة إضافية قدرها +1.0 نقطة مئوية.
  • استخدام PPR قوي (وزن 1.0) أعطى نتائج أسوأ (74.6%)، مما يؤكد أن التنقل في الرسم البياني يجب أن يعزز وليس يحل محل الصلة الدلالية.

5. الأهمية والعمل المستقبلي

• الأهمية: يثبت GAAMA أنه بالنسبة للوكلاء الحواريين، فإن البنية مهمة. من خلال الانتقال من الرسوم البيانية المركزية على الكيانات إلى الرسوم البياسية الوسيطة بالمفاهيم، والجمع بين تقطير الذاكرة الهرمي والاسترجاع الهجين، يمكن للوكلاء الحفاظ على سلوك متماسك وشخصي عبر التفاعلات الطويلة متعددة الجلسات.
• القيود والتوجهات المستقبلية:
  • توحيد المفاهيم (Concept Canonicalization): قد يؤدي استخراج LLM الحالي أحياناً إلى إنشاء مفاهيم شبه متطابقة (مثل تنويعات المفرد/الجمع)، مما يجزئ الرسم البياني.
  • البوابة التكيفية (Adaptive Gating): تطوير نموذج للتنبؤ متى يكون التنقل في الرسم البياني مفيداً (خاصة لأسئلة النطاق المفتوح حيث يظهر PPR تبايناً عالياً).
  • أوزان الحواف المتعلمة: استبدال أوزان الحواف اليدوية بقيم يتم تحسينها عبر الانتشار العكسي (backpropagation) من خلال حسابات PPR.

في الختام، يضع GAAMA معياراً جديداً للذاكرة طويلة الأمد لوكلاء الذكاء الاصطناعي من خلال الموازنة الفعالة بين الاسترجاع الدلالي والاستدلال الهيكلي.