The Compaction Cliff in Long-Running AI Agent Memory
تحدد هذه الورقة "منحدر التراص" (Compaction Cliff)، وهي ظاهرة يتسبب فيها ضغط السياق القياسي في فقدان وكلاء الذكاء الاصطناعي لقواعد السلامة الحرجة، وتقترح "فرز المعرفة" (Knowledge Triage)، وهو إطار عمل يستخدم معاملات محددة حسب النوع للحفاظ على دقة السلامة وتحسين أداء المهام اللاحقة عبر مجالات متعددة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل مساعداً رقمياً لا ينسى أبداً. فخلافاً للبشر الذين قد يفقدون مسار المحادثة بعد ساعة، صُممت هذه الوكلاء من الذكاء الاصطناعي لتعمل لأيام أو أسابيع أو حتى أشهر، وهي تتعلم باستمرار حقائق جديدة، وتتذكر أحداثاً ماضية، وتتبع قائمة طويلة من القواعد. ولكي تعمل، تحتفظ بكل هذه المعلومات في مساحة عمل مؤقتة، تماماً مثل شخص يحتفظ بكومة من الأوراق على مكتبه. ومع ذلك، فإن مساحة العمل هذه لها حد حجم صارم. ومع نمو المحادثة وتضخم كومة الأوراق، يجب على النظام التخلص من بعض الأشياء لإفساح المجال لتفاصيل جديدة. وهنا تكمن الخطورة؛ فإذا قام النظام ببساطة بالتخلص من الأوراق الأقدم أو الأقل وضوحاً لتوفير المساحة، فقد يتخلص عن غير قصد من قاعدة سلامة حاسمة، مثل "عدم وصف هذا الدواء للمرضى الذين يعانون من حساسية معينة". والنتيجة هي وكيل كفء ولكنه نسيان خطير، قد يقدم نصائح ضارة لأنه فقد التعليمات التي وُجدت لمنعه.
لقد حدد باحثون في جامعة باساو في ألمانيا نمط فشل محدد أطلقوا عليه اسم "منحدر الضغط" (Compaction Cliff). وجدوا أنه عندما تحاول هؤلاء الوكلاء طويلة الأمد تقليص ذاكرتهم لتناسب حد الحجم، فإنهم يعاملون جميع المعلومات كما لو كانت متساوية. فبناءً على ذلك، يتم تلخيص واختصار قاعدة سلامة بنفس الطريقة التي يُختصر بها ملاحظة عابرة عن الطقس. واكتشف الباحثون أن هذا النهج هش؛ ففي اختباراتهم، باستخدام نموذج ذكاء اصطناعي شائع، تمكن النظام من الاحتفاظ بنحو نصف قواعد السلامة بعد جولة واحدة من التقليص. ولكن مع تكرار العملية بمرور الوقت، انهار عدد القواعد الناجية بشكل حاد. فبعد خمس جولات فقط من الضغط، بقيت قاعدة واحدة فقط من كل عشر قواعد سلامة أصلية سليمة. لقد تسلق الوكيل المنحدر وسقط منه فعلياً، ففقد الضوابط التي كانت تحافظ على سلامته.
ولحل هذه المشكلة، طور الفريق طريقة جديدة أطلقوا عليها اسم "فرز المعرفة" (Knowledge Triage). ويأتي الاسم من الممارسة الطبية لفرز المرضى حسب الأولوية، وتحديد من يحتاج إلى رعاية فورية ومن يمكنه الانتظار. وفي هذه النسخة الرقمية، يقوم النظام أولاً بفرز كل قطعة من المعلومات في ذاكرة الوكيل إلى واحدة من خمس فئات متميزة: بعض العناصر هي قواعد سلامة صارمة لا يجوز تغييرها أبداً، وأخرى هي تعليمات خطوة بخطوة للمهام، والتي يمكن إعادة كتابتها طالما أن الخطوات لا تزال تعمل، ثم هناك معتقدات عامة، وتفضيلات مرنة، وسجلات لأحداث ماضية. والرؤية الجوهرية هي أن هذه الأنواع المختلفة من المعلومات لا تحتاج إلى معاملة متساوية؛ فقاعدة السلامة تتطلب حفظاً تاماً، بينما يمكن تلخيص ذكرى لحدث ماضٍ أو حتى التخلص منها إذا ضاقت المساحة.
بنى الباحثون ثلاث أدوات محددة للتعامل مع هذه الفئات المختلفة. الأداة الأولى، المصممة لتقليص الذاكرة، تقوم بتثبيت قواعد السلامة في مكانها بحيث لا يمكن تعديلها أو حذفها، بينما تسمح للمعلومات الأقل أهمية بالانضغاط أو الاستبدال برموز مؤقتة. أما الأداقة الثانية، فتتعامل مع الحالات التي يكون فيها الموضوع كبيراً جداً بحيث لا يمكن استيعابه حتى بعد التقليص؛ فبدلاً من تجزئة الموضوع بطريقة قد تفصل القاعدة عن الموقف الذي تنطبق عليه، تقوم هذه الأداة بنسخ قاعدة السلامة ذات الصلة في كل قسم جديد تنشئه، مما يضمن انتقال القاعدة مع المعلومات التي تحكمها. أما الأداة الثالثة، فهي تدير المعلومات المخزنة خارج مساحة العمل الرئيسية؛ فعندما يحتاج الوكيل إلى البحث عن شيء ما، تضمن هذه الأداة استعادة أي قواعد سلامة ذات صلة بالسؤال أولاً، قبل أن ينظر النظام في أي تفاصيل أخرى أقل أهمية.
اختبر الفريق هذا النهج على مجموعة ضخمة من تكوينات الوكلاء الواقعية، حيث استخرجوا ما يقرب من 400,000 مثال من مستودعات البرمجيات العامة. ووجدوا أن طريقتهم الجديدة تحافظ على قواعد السلامة بشكل أفضل بكثير من الأدوات القياسية المستخدمة في الإنتاج اليوم. وبينما احتفظت أفضل الطرق الموجودة بنحو نصف القواعد فقط بعد جولة واحدة من الضغط، حافظ النظام الجديد على جميع القواعد تقريباً. والأهم من ذلك، أن أداء النظام الجديد استقر عند استرجاع بنسبة 96% من الجولة الثانية فصاعداً، في حين انخفضت الطرق القديمة إلى 10% فقط بحلول الجولة الخامسة. وقد ظل هذا الفرق قائماً عبر أنواع مختلفة من نماذج الذكاء الاصطناعي وطرق تنظيم البيانات المختلفة.
لم يكن تأثير هذا التحسين مقتصرًا على إبقاء النص سليماً فحسب، بل غير كيفية سلوك الوكلاء في المهام الفعلية. ففي سيناريو طبي، اتبع النظام الجديد إرشادات السلامة بنجاح في 97% من الحالات، متفوقاً بشكل ملحو-ظ في الأداء على النظام القياسي الذي فشل في حالات أكثر. وفي اختبارات خدمة العملاء لقطاع التجزئة والطيران، أكمل الوكلاء الذين يستخدمون الطريقة الجديدة مهاماً أكثر بشكل صحيح من أولئك الذين يستخدمون الطرق القديمة، حتى عندما مُنحت الطرق القديمة مساحة إجمالية أكبر للعمل. وخلص الباحثون إلى أن مفتاح وجود ذكاء اصطناعي آمن وطويل الأمد ليس مجرد امتلاك ذاكرة أكبر، بل معرفة كيفية فرزها. فمن خلال تصنيف المعلومات حسب أهميتها ومعاملة قواعد السلامة كأمور غير قابلة للتفاوض، منعوا الوكيل من السقوط من منحدر الضغط، مما ضمن بقاء المساعد الرقمي قادراً وآمناً في آن واحد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.