Multi-Layered Memory Architectures for LLM Agents: An Experimental Evaluation of Long-Term Context Retention

ملخص تقني مفصل لورقة بحثية بعنوان: "بنى الذاكرة متعددة الطبقات لوكلاء النماذج اللغوية الكبيرة (LLM): تقييم تجريبي للاحتفاظ بالسياق طويل الأمد"

1. بيان المشكلة

تواجه النماذج اللغوية الكبيرة (LLMs) صعوبات في أنظمة الحوار طويلة المدى بسبب قصورين أساسيين:

• الانزياح الدلالي (Semantic Drift): مع امتداد جلسات الحوار، يتم ضغط أو التخلص من الإشارات السياقية السابقة، مما يؤدي إلى فقدان اتساق الشخصية، وانزياح الكيانات، وعدم الاستقرار الحقائقي.
• عدم الكفاءة الحسابية: تؤدي النهج التقليدية التي تدمج تاريخ الحوار الكامل إلى نمو سياقي تربيعي، مما يزيد من تكاليف الاستدلال ويسبب تداخلاً في الذاكرة.

تفشل الحلول الحالية (مثل الذاكرة العاملة الهرمية، أو التوحيد القائم على الاسترجاع، أو ضغط السياق) غالباً في تحقيق التوازن بين الاستمرارية عبر الجلسات والكفاءة الحسابية. فهي إما تحسن الكفاءة دون تثبيت القدرة على الاحتفاظ بالمعلومات، أو تحسن القدرة على الاستدعاء دون كبح الانزياح الذاكراتي. يكمن التحدي الجوهري في تصميم آلية ذاكرة مهيكلة تحافظ على الاستمرارية الدلالية عبر الجلسات الممتدة دون التسبب في نمو سياقي تربيعي.

2. المنهجية: إطار الذاكرة متعدد الطبقات (MLMF)

يقترح المؤلفون إطار الذاكرة متعدد الطبقات الذي يفكك تاريخ الحوار إلى ثلاث طبقات متميزة، تُدار عبر بوابات استرجاع تكيفية وتنظيم للاحتفاظ بالمعلومات.

أ. تفكيك بنية الذاكرة

تُعرف حالة الذاكرة $M_t$ عند الجلسة $t$ بأنها مجموعة من ثلاث طبقات:

1. الذاكرة العاملة ($M^{(w)}$): تحافظ على رموز التفاعل الأخيرة ضمن نافذة محدودة ($k$). وهي تضمن الموضعية الزمنية والإشارات ذات الصلما بالمهام النشطة.
2. الذاكرة العرضية/الإبيدولية ($M^{(e)}$): تراكم ملخصات الجلسات الموجزة بشكل متكرر. وتستخدم معامل اضمحلال $\alpha$ لدمج الملخصات السابقة مع بيانات الجلسة الجديدة، مما يمنع النسيان المفاجئ ويوازن بين التفاصيل والتجريد.
3. الذاكرة الدلالية ($M^{(s)}$): تشفر رسوماً بيانية مستقرة وهيكلية للكيانات والأحداث مشتقة من الملخصات العرضية. تحافظ هذه الطبقة على اتساق الشخصية والهياكل الحقائقية طويلة المدى، مما يقلل من التكرار.

ب. الاسترجاع والتوجيه التكيفي

بدلاً من الاسترجاع من تاريخ مسطح، يستخدم النظام آلية ترجيح طبقات تكيفية:

• التوجيه (Gating): تقوم دالة تعتمد على (softmax) بحساب الأوزان ($\gamma_i$) لكل طبقة ذاكرة ديناميكياً بناءً على الصلة الدلالية ($sim$) بين المدخل الحالي وطبقات الذاكرة.
• الدمج (Fusion): يتم دمج المعلومات المسترجعة مع المدخل الحالي عبر آلية "الانتباه المتقاطع" (cross-attention) لتوليد الاستجابة، مما يضمن عدم اعتماد النموذج المفرط على السياق الأخير مع الحفاظ على اتساق الكيانات.

ج. هدف استقرار الاحتفاظ

للتحكم الصريح في الانزياح الدلالي، تم إدخال حد تنظيم الاحتفاظ ($L_{ret}$) في هدف التحسين:

• يقوم $L_{ret}$ بمعاقبة التحولات الهيكلية المفاجئة في تضمينات (embeddings) الذاكرة الدلالية بين الجلسات المتتالية.
• تجمع دالة الخسارة الإجمالية بين جودة التوليد ($L_{gen}$) واستقرار الاحتفاظ ($\lambda L_{ret}$)، مما يضمن تحسين الطلاقة واتساق الذاكرة طويلة المدى بشكل مشترك.

د. الإجراء الخوارزمي

يعمل الإطار كعملية انتقال حالة مقيدة (الخوارزمية 1):

1. التحديث: يتم تحديد حدود الذاكرة العاملة؛ وتراكم الذاكرة العرضية بشكل متكرر؛ وتحديث الذاكرة الدلالية عبر استقرار الرسم البياني وحل النزاعات.
2. الاسترجاع: تُحسب الأوزان التكيفية لإعطاء الأولوية للطبقات ذات الصلة.
3. الدمج والتوليد: تُدمج المعلومات تحت قيود الإنتروبيا، ويتم تعظيم الاستجابة.
4. التنظيم: تُحدث المعلمات لتقليل خسارة التوليد وانزياح الاحتفاظ.

3. المساهمات الرئيسية

• التفكيك المهيكل: تقديم بنية ثلاثية المستويات جديدة (عاملة، عرضية، دلالية) تفصل صراحة بين التفاعل قصير المدى والتجريد طويل المدى.
• التوجيه التكيفي: تطوير آلية استرجاع ديناميكية تزن طبقات الذاكرة بناءً على الصلة الدلالية، مما يقلل من الانزياح الدلالي غير ذي الصلة.
• تنظيم الاحتفاظ: اقتراح هدف رياضي لتقييد التحولات الدلالية عبر الجلسات، مما يعالج مباشرة مشكلات "النسيان الكارثي" ومشكلات "الانزياح".
• الكفاءة: تحقيق تحسن في الاحتفاظ والاستقرار الاستدلالي دون زيادة في العبء الحسابي، مع إدارة ميزانيات السياق المحدودة بفعالية.

4. النتائج التجريبية

تم تقييم الإطار على ثلاثة اختبارات معيارية طويلة المدى: LOCOMO و LOCCO و LoCoMo.

مقاييس الأداء

• معدل النجاح (SR): حقق 46.85% في LOCOMO (متفوقاً على خط الأساس Hu et al. [10] الذي سجل 42.00%).
• درجة F1: حقق F1 إجمالي قدره 0.618 و Multi-hop F1 قدره 0.594 في LoCoMo، متجاوزاً أفضل نتيجة سابقة بلغت 0.583 (Shah et al. [18]).
• الاحتفاظ: حقق احتفاظاً بنسبة 56.90% بعد ست فترات زمنية في LOCCO، وهو تحسن ملحوظ عن نسبة الاحتفاظ البالغة 48.25% في نهج الذاكرة القائم على المعلمات (Jia et al. [14]).
• معدل الذاكرة الزائفة (FMR): انخفض إلى 5.1% (مقارنة بـ 6.8% في Phadke et al. [13])، مما يشير إلى اتساق حقائقي أعلى.
• كفاءة السياق: قلل استخدام السياق إلى 58.40% (مقارنة بـ 64.98% في أنظمة الذاكرة العاملة الهرمية) مع تحقيق تسريع في سرعة فك التشفير بمقدار 10.4 ضعفاً.

دراسة الاستئصال (Ablation Study)

أكد حذف المكونات الفردية ضرورة البنية الكاملة:

• أدى حذف الطبقة الدلالية إلى أكبر انخفاض في القدرة على الاحتفاظ.
• أدى حذف تنظيم الاحتفاظ إلى زيادة كبيرة في معدل الذاكرة الزائفة.
• تفوق النموذج الكامل باستمرار على النسخ المختصرة عبر مقاييس F1، والاحتفاظ، والاستقرار.

5. الأهمية والخاتمة

تقدم هذه الورقة إطاراً مبدئياً للحفاظ على الاستمرارية الدلالية في الوكلاء الحواريين طويلي الأمد. من خلال فصل الذاكرة إلى طبقات هرمية وفرض الاستقرار عبر التنظيم، يحل إطار الذاكرة متعدد الطبقات المقايضة بين الاحتفاظ بالذاكرة والتكلفة الحسابية.

توفر النتائج رؤى نظرية حاسمة حول تصميم الذاكرة الهرمية وتقدم إرشادات عملية لبناء بنى الوكلاء المدركة للذاكرة. يمكن لهذه الأنظمة الآن الحفاظ على اتساق الشخصية، واستقرار الاستدلال، وكفاءة استخدام السياق في التطبيقات الواقعية التي تتطلب تفاعلات ممتدة عبر جلسات متعددة، مثل المساعدين الشخصيين، ودعم العملاء طويل الأمد، والوكلاء الموجهين للمهام المعقدة.