CMI-Mem: Toward Generalizable Long-Term Memory Management via CMI-Augmented Reinforcement Learning
يُعد CMI-Mem مدير ذاكرة للتعلم التعزيزي خفيف الوزن يعزز القدرة على التعميم وكفاءة التدريب من خلال الجمع بين مكافآت أداء المهام الخارجية وإشارة المعلومات المتبادلة الشرطية الجوهرية لتقييم صلة الذاكرة دون الاعتماد على توزيعات استعلام ثابتة.
المؤلفون الأصليون:Yubo Wang, Qiuyu Zhao, Zenghui Sun, Shichao Dong, Jinsong Lan, Xiaoyong Zhu, Haoyang Li, Bo Zheng, Lei Chen
في عالم الذكاء الاصطناعي، تُشبه النماذج اللغوية الكبيرة علماء بارعين يمكنهم التفكير في المشكلات المعقدة والكتابة بطلاقة، ومع ذلك، فإنهم يعانون من شكل غريب من فقدان الذاكرة. فبمجرد انتهاء المحادثة، تنسى هذه النماذج كل ما قيل للتو، وتعمل كما لو أن كل تفاعل هو المرة الأولى التي تتحدث فيها مع إنسان. ولإصلاح ذلك، بنى الباحثون "مديري ذاكرة"، وهي أنظمة متخصصة مصممة لتقرير المعلومات التي تستحق الاحتفاظ بها وما ينبغي التخلص منه. والهدف هو إنشاء وكيل يتذكر طلب القهوة المفضل للمستخدم منذ أشهر، أو يستحضر تفصيلاً محدداً ذُكر في جلسة سابقة لحل مشكلة جديدة. ومع ذلك، كان تعليم هؤلاء المديرين القيام بعملهم أمراً صعباً. لسنوات، كانت الطريقة القياسية هي تدريبهم عبر طرح سلسلة من الأسئلة بعد المحادثة ومعرفة ما إذا كان النموذج يستطيع الإجابة بشكل صحيح بناءً على ما خزنته. هذا النهج فعال، لكن لديه نقطة عمياء: فهو يقدر فقط الذكريات التي تصادف الإجابة على الأسئلة المحددة المطروحة أثناء التدريب، مما قد يؤدي إلى تفويت التفاصيل الدقيقة والمفيدة التي لا تتناسب مع تنسيق الاختبار المنظم.
اقترح فريق من الباحثين من مجموعة علي بابا وجامعة هونج كونج للعلوم والتكنولوجيا طريقة جديدة لتدريب مديري الذاكرة هذه، وهي طريقة تنظر إلى المعلومة نفسها بدلاً من مجرد الدرجة النهائية للاختبار. وقد أطلقوا على نظامهم اسم CMI-Mem. فبدلاً من الاعتماد فقط على ما إذا كان النموذج سيجيب بشكل صحيح على سؤال مكتوب مسبقاً، تعلم هذه الطريقة الجديدة المدير تقييم كل قطعة من المعلومات ينظر في تخزينها بناءً على مقدار القيمة الجديدة والمفيدة التي تضيفها إلى المجموعة الموجودة. تخيل أميناً للمكتبة، بدلاً من انتظار زائر ليسأل عن كتاب محدد، يقوم باستمرار بتقييم ما إذا كان المجلد الجديد يقدم منظوراً فريداً غير مغطى بالفعل في الكتب الموجودة على الرف. إذا كان الكتاب الجديد يكرر ما هو موجود بالفعل، يتم رفضه؛ وإذا كان يسد فجوة أو يربط الأفكار بطريقة جديدة، يتم الاحتفاظ به. يسمح هذا النهج المزدوج للنظام ببناء ذاكرة ليست جيدة فقط في اجتياز اختبار محدد، بل هي قوية وقابلة للتكيف مع أنواع مختلفة من المحادثات المستقبلية.
وجد الباحثون أن الطريقة القديمة، التي تعتمد بشدة على التدريب القائم على "السؤال والجواب"، تخلق تركيزاً ضيقاً. فعندما يتم تدريب مدير الذاكرة فقط للإجابة على أسئلة محددة، فإنه يتعلم تخزين الحقائق التي تجيب مباشرة على تلك الأسئلة، ولكنه غالباً ما يتجاهل السياق الأوسع أو العلاقات بين الأفكار. وهذا يجعل النظام هشاً؛ فإذا طرح المستخدم سؤالاً بطريقة مختلفة قليلاً أو احتاج إلى المعلومة لمهمة لم يتم تدريب النظام عليها صراحة، فإن الذاكرة غالباً ما تفشل. ويحل نظام CMI-Mem الجديد هذه المشكلة بإضافة إشارة مكافأة داخلية ثانية. تقيس هذه الإشارة "كسب المعلومات" لقطعة الذاكرة الجديدة. إنها تطرح سؤالاً بسيطاً وجوهرياً: بالنظر إلى كل ما يعرفه النظام بالفعل، كم ستعلمنا هذه القطعة الجديدة من المحادثة مما لم نكن نعرفه بالفعل؟ إذا كانت الإجابة "لا شيء جديد"، يتعلم النظام تخطيها. وإذا كانت الإجابة "الكثير"، يتعلم النظام تخزينها. يحدث هذا في الوقت الفعلي، لكل إجراء يتخذه المدير، مما يوفر تدفقاً مستمراً من التغذية الراجعة المستقلة عن أي سؤال محدد.
ولاختبار هذه الفكرة، درب الفريق مدير الذاكرة الخاص بهم باستخدام مزيج من هاتين الإشارتين: القدرة التقليدية على الإجابة على الأسئلة بشكل صحيح، والمقياس الداخلي الجديد لقيمة المعلومات. واختبروا النظام الناتج على ثلاثة معايير مختلفة مصممة لتحدي الذاكرة طويلة المدى، بما في ذلك المهام التي تتطلب استحضار الحقائق من محادثات طويلة جداً، والاستنتاج عبر جلسات منفصلة متعددة، ونسيان التفاصيل غير ذات الصلة مع الاحتفاظ بالتفاصيل المهمة. كانت النتائج واضحة؛ فقد تفوق النظام الجديد على الأساليب السابقة التي اعتمدت فقط على التدريب القائم على الأسئلة. لقد كان أفضل في تذكر التفاصيل عبر فترات طويلة وأكثر نجاحاً في التعامل مع المهام التي تتطلب فهم تدفق المحادثة بدلاً من مجرد استرجاع حقيقة محددة. والأهم من ذلك، أن النظام تدرب بكفاءة أكبر؛ لأنه تلقى تغذية راجعة مستمرة حول جودة كل عملية ذاكرة، فقد تعلم بشكل أسرع وتطلب محاولات أقل للوصول إلى مستوى عالٍ من الأداء.
كما كشفت الدراسة أن نوعي المكافآت يعملان بشكل أفضل عند استخدامهما معاً. فالإشارة المعلوماتية الداخلية تساعد النظام على بناء ذاكرة غنية ومتنوعة لا تقتصر على مجموعة محددة من الأسئلة، بينما تضمن إشارة السؤال والجواب بقاء الذاكرة مفيدة للمهام الفعلية. وعندما حاول الباحثون استخدام الإشارة الداخلية فقط، عانى النظام من معرفة ما هو مهم حقاً لأهداف المستخدم. وعندما استخدموا إشارة السؤال فقط، أصبح النظام جامداً للغاية وفشل في التعميم في مواقف جديدة. ومن خلال الجمع بينهما، خلق الباحثون مديراً للذاكرة مرناً وموثوقاً في آن واحد. يشير هذا النهج إلى مسار للمضي قدماً في بناء وكلاء ذكاء اصطناعي يمكنهم حقاً التذكر والتعلم من تفاعلاتهم، والانتقال من مجرد استرجاع الحقائق إلى قدرة أكثر شبهاً بالبشر على تنظيم وتقييم تجاربهم الخاصة. إن هذا العمل يثبت أنه من خلال ترسيخ إدارة الذاكرة في المبادئ الأساسية للمعلومات، بدلاً من مجرد نتيجة اختبار، يمكننا إنشاء أنظمة تكون أكثر استعداداً للطبيعة غير المتوقعة للمحادثة في العالم الحقيقي.
ملخص تقني: CMI-Mem
بيان المشكلة
تفتقر النماذج اللغوية الكبيرة (LLMs) بطبيعتها إلى الذاكرة المستمرة للتفاعلات الماضية، مما يحد من قدرتها على الحفاظ على التبعيات طويلة المدى وتحقيق التخصيص القوي. وبينما ظهرت مديرو الذاكرة (Memory Managers) كبنية تحتية حاسمة لتقرير ما يجب تخزينه أو تحديثه أو استرجاعه، تواجه الأساليب الحالية قيوداً كبيرة:
الإشراف المشروط بالاستعلام (Query-Conditioned Supervision): تعتمد معظم الطرق الحالية على التعلم المعزز (RL) المدرب باستخدام أزواج (سؤال-جواب) اصطناعية يتم تقييمها بواسطة "نموذج لغوي كبير كحكم" (LLM-as-a-Judge). هذا النموذج يثمن الذاكرة فقط من خلال عدسة قارئ تابع محدد وتوزيع عينات الاستعلام. وبناءً على ذلك، فإن المعلومات الخارجة عن نطاق أسئلة التدريب المحددة لا تتلقى إشارة تعلم تذكر، حتى لو كانت قيمة لعمليات التلخيص أو الاستنتاج أو التخصيص المستقبلية.
عدم تطابق التوزيع (Distribution Mismatch): غالباً ما تركز أزواج (السؤال-الجواب) الاصطناعية على استرجاع الحقائق الصريحة، وتفشل في التقاط الطبيعة الأوسع أو الارتباطية أو القائمة على المحفزات لاستخدام الذاكرة في العالم الحقيقي.
الافتقار إلى المعايير الجوهرية: تعتمد الطرق الحالية على قواعد استدلالية أو أحكام "الصندوق الأسود" التي تفتقر إلى أساس نظري موحد لتقييم القيمة المعلوماتية الهامشية لعملية الذاكرة. يمكن أن يؤدي هذا إلى تضخم الذاكرة أو النسيان الكارثي، حيث تجد مديرات الذاكرة صعوبة في التمييز بين المحتوى الجديد ذي الصلة وبين التكرار.
المنهجية: CMI-Mem
يقترح المؤلفون CMI-Mem، وهو إطار عمل للتعلم المعزز خفيف الوزن يقوم بتدريب مدير الذاكرة باستخدام نظام مكافأة هجين (Hybrid Reward). يجمع هذا النظام بين إشارة خارجية مرتبطة بالمهمة وإشارة داخلية قائمة على نظرية المعلومات.
1. بنية ذاكرة متعددة الأبعاد مهيكلة
يتم تقسيم حالة الذاكرة Mt إلى أربعة خانات مستوحاة من الإدراك المعرفي، يدير كل منها وكيل نوعي خاص يتشارك في سياسة واحدة πθ:
الجوهر (Core): سمات المستخدم المستقرة.
الذاكرة العرضية (Episodic): الأحداث المرتبطة بطابع زمني.
الدلالية (Semantic): المعرفة الواقعية.
الإجرائية (Procedural): الروتين وسير العمل. تنتج الوكلاء إجراءات (مثل: إضافة، حذف، دمج، استبدال) وقطع ذاكرة مرشحة. ومن الأهمية بمكان أن هذه القطع تعمل كـ فهارس استرجاع لدورات الحوار المصدرية، مما يسمح للقراء التابعين بتأسيس الإجابات في السياق الخام بدلاً من مجرد الملخصات المضغوطة.
2. آلية المكافأة الهجينة
يخلط هدف التدريب بين إشارتين متكاملتين:
مكافأة السؤال والجواب الخارجية (rQA): تقيس صحة المهمة النهائية. يقوم نموذج لغوي تابع (Qwen3.7-Max) بالإجابة على أسئلة مأخوذة من عينات بناءً على حالة الذاكرة المحدثة. هذا يربط بناء الذاكرة بالمنفعة التابعة.
مكافأة CMI الداخلية (rCMI): تعتمد على المعلومات المتبادلة الشرطية (Conditional Mutual Information)، وهي تقيم المعلومات التي يساهم بها مدخل حواري جديد بالنسبة لحالة الذاكرة الحالية دون اشتراط وجود استعلام سؤال-جواب مأخوذ من عينة.
التعريف:rCMI=I(Ct;mtnew∣Mt−1local)، حيث Ct هو سياق الحوار الحالي، و mtnew هي قطعة الذاكرة المرشحة، و Mt−1local هي مجموعة الذاكرة المحلية الحالية.
التقدير: بما أن حساب CMI المباشر غير ممكن رياضياً للغة الطبيعية، فقد قام المؤلفون بتقريبه باستخدام الإسقاط المتبقي (Residual Projection) في فضاء التضمين (Embedding Space). يقومون بحساب الارتباط الجزئي بين السياق والقطعة الجديدة بعد إزالة تأثير الذاكرة الموجودة خطياً.
الوظيفة: تشير قيمة CMI العالية إلى محتوى ذي صلة بالحوار الجديد ولكنه جديد بالنسبة للذاكرة المخزنة؛ بينما تشير قيمة CMI المنخفضة إلى التكرار. يوفر هذا تغذية راجعة كثيفة لكل عملية.
3. إطار التدريب
التحسين (Optimization): يتم تحسين السياسة باستخدام تحسين السياسة النسبي للمجموعات (GRPO) على مستوى الجلسة لضمان استقرار التدريب.
التعلم المنهجي (Curriculum Learning): لتثبيت التدريب المبكر دون الحاجة لبدايات تدريب دقيقة (SFT warm-starts)، استخدم المؤلفون منهجاً تعليمياً طبقياً يزيد تدريجياً من صعوبة العينات بناءً على عمق الحوار، وعدد قطع الذاكرة، وعدد أسئلة السؤال والجواب.
تركيب المكافأة: المكافأة النهائية هي مجموع موزون: rt=αr~CMI+(1−α)rQA.
المساهمات الرئيسية
التكامل بين الداخلي والخارجي: يقدم البحث مكافأة هجينة تجمع بين ربط المهمة التابع (QA) وإشارة داخلية (CMI). هذا يقلل الاعتماد على توزيعات استعلام محددة مع ضمان بقاء الذاكرة مفيدة للمهام المستهدفة.
النمذجة القائمة على نظرية المعلومات: من خلال استخدام المعلومات المتبادلة الشرطية، تستبدل الطريقة قواعد التقييم العشوائية بمقياس مبدئي للأهمية والجدة بالنسبة لحالة الذاكرة المتطورة.
التحسين لكل عملية: على عكس مكافآت QA التي غالباً ما تكون متفرقة (على مستوى الجلسة)، تتوفر إشارة CMI عند كل عملية ذاكرة. يوفر هذا تغذية راجعة أكثر كثافة، مما يحسن استقرار التدريب وكفاءة الانتشار.
البنية المفهرسة للاسترجاع: يعامل النظام قطع الذاكرة كفهارس لدورات الحوار المصدرية، مما يسمح باسترجاع مدرك للمصدر يحافظ على معلومات التسمية (Label Information) التي تُفقد غالباً في التلخيص الصرف.
النتائج التجريبية
قيم المؤلفون CMI-Mem على ثلاثة اختبارات مرجعية: LongMemEval و LoCoMo و MemoryAgentBench.
الأداء: تفوق نموذج CMI-Mem-4B على النماذج المرجعية القائمة على التعلم المعزز (Memory-R1، MemBuilder-RL) عبر الاختبارات الثلاثة. ولوحظ بشكل خاص في اختبار MemoryAgentBench خارج التوزيع، حيث تفوق CMI-Mem-4B على النموذج المرجعي MemBuilder-RL بمقدار +11.1 في الدرجة الإجمالية، مما يدل على تحسن القدرة على النقل (Transferability).
التوسع (Scaling): تفوق إصدار 8B (CMI-Mem-8B) على النموذج المرجعي 8B وعلى أقوى نماذج التوجيه (Prompting) الأساسية في اختبار MemoryAgentBench.
ديناميكيات التدريب: أظهرت دراسات الاستئصال (Ablation studies) أن التدريب باستخدام CMI+QA أدى إلى خسائر أكثر استقراراً في تدرج السياسة مقارنة بالتدريب المعتمد على QA فقط. قامت إشارة CMI بتنعيم انتقالات المكافأة ومنعت الانجراف السلبي التدريجي الملاحظ في متغيرات QA فقط.
رؤى الاستئصال:
افتقرت طريقة CMI وحدها إلى مرساة النتيجة، مما أدى إلى دقة أقل.
كانت طريقة QA وحدها على مخزن ذاكرة مسطح فعالة ولكنها غير مثالية لمساحات العمل المعقدة.
أدى تكديس QA على ذاكرة مفهرسة للاسترجاع بدون CMI إلى تراجع في الأداء، مما يسلط الضوء على ضرورة الإشارة الداخلية لمساحة العمل الأكثر ثراءً.
حقق الجمع الكامل (CMI + QA + Retrieval-Index) أعلى دقة.
الأهمية والادعاءات
يدعي البحث أن CMI-Mem يعالج القصور الجوهري في تقييم جودة الذاكرة "القائم على السؤال". ومن خلال فصل تقييم جودة الذاكرة عن الاستعلامات التابعة المحددة، تمكنت الطريقة من تحقيق إدارة ذاكرة قابلة للتعميم تنتقل بفعالية إلى المهام وأنواع الاستعلامات غير المرئية.
يؤكد المؤلفون أن إشارة CMI لا تحل محل الإشراف على المهمة، بل تعمل كمكمل ضروري، حيث توفر معياراً مباشراً للقيمة المعلوماتية الهامشية لعمليات الذاكرة. يسمح هذا النهج بتدريب واستدلال أكثر كفاءة مع دعم النقل عبر السيناريوهات المختلفة، متجاوزاً قيود القواعد الاستدلالية أو أحكام النماذج اللغوية الكبيرة "الصندوق الأسود".
القيود المعلنة: أشار المؤلفون إلى ثلاثة قيود رئيسية:
القيود متعددة الوسائط: أداء النظام مقيد بالقدرات الإدراكية للنموذج الأساسي المستخدم.
حجم النموذج: تم التحقق من صحة تدريب التعلم المعزز بشكل أساسي على نماذج 4B و 8B؛ ولا يزال التوسع إلى نماذج 14B+ غير مستكشف.
مقاييس التقييم: لا تزال الاختبارات المرجعية الحالية تعتمد بشكل أساسي على اختبارات السؤال والجواب (QA). ومن الصعب إثبات الإمكانات الكاملة للطريقة دون وجود مقاييس مباشرة لجودة الذاكرة مستقلة عن الـ QA.