Structured Distillation for Personalized Agent Memory: 11x Token Reduction with Retrieval Preservation
تقدم هذه الورقة طريقة تقطير مهيكلة تضغط سجل محادثات الوكيل المخصص إلى ملخصات موجزة مكونة من أربعة حقول بمتوسط 38 رمزاً لكل تبادل، مما يحقق خفضاً بمقدار 11 ضعفاً في استخدام الرموز مع الحفاظ على جودة استرجاع تضاهي أو تتجاوز النماذج المرجعية القائمة على النصوص الأصلية عبر آلاف المحادثات في مجال هندسة البرمجيات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تتحدث إلى مساعد رقمي ذكي للغاية، ولكنه نساي جداً. لقد كنت تعمل معه لشهور، تحلون مشكلات برمجية معقدة، وتصلحون أخطاءً، وتخططون لمشاريع. أنت تتذكر الصورة الكبيرة: "أوه صحيح، لقد أصلحنا مشكلة مهلة استجابة قاعدة البيانات الغريبة تلك قبل ثلاثة أسابيع."
لكن مساعدك؟ لديه فقدان ذاكرة. في كل مرة تبدأ فيها محادثة جديدة، يبدو الأمر وكأنكما تلتقيان للمرة الأولى. هو لا يعرف شيئاً عن مشكلة قاعدة البيانات ما لم تخبره بها مجدداً.
المشكلة هي أنه إذا حاولت تغذية مساعدك بكل محادثاتك الماضية لتذكره بما حدث، فستنفد المساحة المتاحة لك. الأمر يشبه محاولة حمل موسوعة مكونة من 500 صفحة في جيبك فقط لتتذكر رقماً هاتفياً واحداً. هذا ثقيل جداً، ومكلف للغاية، وبطيء.
يقترح هذا البحث حلاً ذكياً: التقطير المهيكل (Structured Distillation). فكر في الأمر كتحويل تاريخك الضخم والفوضوي إلى مجموعة من البطاقات الفهرسية الصغيرة والمنظمة للغاية.
المشكلة: "الموسوعة" مقابل "البطاقة الف فهرسية"
في الطريقة القديمة، لكي تتذكر محادثة سابقة، كان عليك تحميل النص الكامل (الموسوعة) في عقل المساعد.
- التكلفة: قد يكون تبادل واحد في المحادثة بطول 371 كلمة. إذا كان لديك 1000 تبادل، فهذا يعني ما يقرب من 400,000 كلمة. هذا أكثر مما يمكن للمساعد استيعابه في وقت واحد.
- الحل القديم (التلخيص): عادةً، يحاول الناس تلخيص هذه الدردشات. لكن التلخيص العام يشبه آلة تصوير سيئة تجعل النسخ المتتالية تفقد جودتها. كلما صنعت نسخاً أكثر، تصبح الصورة أكثر ضبابية. التفاصيل المهمة (مثل رموز الخطأ المحددة أو أسماء الملفات) تضيع في هذه الضبابية.
الحل: "قصر الذاكرة"
ابتكر المؤلفون نظاماً لا يكتفي بالتلخيص فحسب؛ بل يقوم بـ التقطير. إنهم يأخذون كل محادثة ويجزئونها إلى "كائن مركب" مهيكل يتكون من أربعة أجزاء محددة، مثل نظام الأرشفة:
- الجوهر (الـ "ماذا"): ملخص من جملة أو جملتين لما تم إنجازه بالفعل. التشبيه: عنوان فصل في كتاب.
- السياق (الـ "تفاصيل"): التفاصيل التقنية المحددة، مثل رسائل الخطأ أو أسماء المعلمات (parameters). التشبيه: المكونات المحددة في وصفة طعام.
- الغرف (الـ "أين"): وسوم موضوعية تصنف المحادثة في "غرف" (مثل: "قاعدة بيانات"، "أمن"، "نشر"). التشبيه: المشي داخل غرفة معينة في منزل للعثور على ما تحتاجه.
- الملفات (الـ "دليل"): قائمة بمسارات الملفات الفعلية التي تم التعامل معها أثناء الدردشة. التشبيه: الصفحات المحددة في دليل الاستخدام التي فتحتها.
اللمسة السحرية: لقد قاموا بضغط محادثة مكونة من 371 كلمة لتصبح 38 كلمة فقط (اختزال بنسبة 11 ضعفاً). إنه يشبه تقليص رواية كاملة لتصبح مجرد ملاحظة لاصقة صغيرة، ولكن مع الحفاظ على تنظيم الملاحظة بحيث يمكنك العثور عليها فوراً.
الاختبار: هل تنجح "الملاحظة اللاصقة"؟
السؤال الكبير هو: إذا تخلصنا من 90% من النص، فهل سيظل المساعد يجد الذاكرة الصحيحة عندما تسأله سؤالاً؟
لقد اختبروا ذلك باستخدام 201 سؤالاً (مثل "كيف أصلحنا خطأ تسجيل الدخول؟") مقابل آلاف المحادثات. استخدموا طريقتين للبحث:
- البحث بالكلمات المفتاحية (BM25): البحث عن كلمات محددة.
- البحث الدلالي (البحث الشعاعي/Vector Search): البحث عن المعنى والمفاهيم، حتى لو كانت الكلمات نفسها مختلفة.
النتائج:
- البحث بالكلمات المفتاحية: عندما حاولوا البحث في "الملاحظات اللاصقة" الصغيرة باستخدام كلمات مفتاحية محددة، فشل الأمر. لماذا؟ لأن عملية التقطير أزالت المصطلحات التقنية المحددة اللازمة لمطابقة الكلمات. الأمر يشبه محاولة العثور على كتاب عبر البحث عن كلمة تمت إزالتها من الفهرس.
- البحث الدلالي: عندما استخدموا البحث القائم على "المعنى"، عملت الملاحظات اللاصقة الصغيرة بشكل مثالي تقريباً (بنسبة 96% من جودة النص الكامل). استطاع المساعد فهم مفهوم المحادثة حتى بدون النص الكامل.
- الفائز الهجين: كانت النتيجة الأفضل على الإطلاق هي النهج "ثنائي الطبقات". تستخدم الملاحظات اللاصقة الصغيرة للعثور بسرعة على المحادثة الصحيحة (البحث الدلالي)، ثم تقوم باستدعاء النص الأصلي الكامل لقراءة التفاصيل.
التأثير في العالم الحقيقي
هذا ليس مجرد توفير للمساحة؛ إنه يتعلق بـ الذاكرة الشخصية.
- قبل: يبدأ مساعدك كل يوم بصفحة بيضاء.
- بعد: يحمل مساعدك "قصر ذاكرة" مدمجاً في جيبه. يمكنه أن يسترجع فوراً: "آه، في غرفة 'قاعدة البيانات'، ناقشنا مشكلة مهلة الاستجابة." ثم يستدعي النص الأصلي الكامل لك لتقرأه.
الخلاصة
لست بحاجة لحمل المكتبة بأكملها للعثور على كتاب محدد. أنت فقط بحاجة إلى فهرس بطاقات منظم جيداً.
يثبت هذا البحث أنه من خلال تحويل المحادثات الفوضوية إلى ملخصات مهيكلة وصغيرة، يمكننا منح وكلاء الذكاء الاصطناعي ذاكرة طويلة الأمد تناسب جيبهم، دون فقدان القدرة على العثور على ما يحتاجون إليه بالضبط. النص الأصلي لا يُحذف؛ بل يتم إخفاؤه فقط في "الأرشيف"، جاهزاً ليتم استدعاؤه عندما تشير البطاقة الفهرسية الصغيرة إلى الطريق.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.