HyMem: Hierarchical Context Management for Long-Horizon Agents via Information Isolation
يُعد HyMem إطار عمل لإدارة السياق الهرمي يعمل على تحسين أداء وكلاء النماذج اللغوية الكبيرة (LLM) في المهام طويلة المدى من خلال عزل التخطيط رفيع المستوى عن آثار التنفيذ واستخدام ملخصات مهيكلة للحفاظ على التركيز والدقة، محققاً بذلك نتائج رائدة في اختبارات GAIA وBrowsecomp-plus.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل مساعداً عبقرياً يمكنه القراءة، والتفكير، والبحث في الإنترنت لحل مشكلات صعبة للغاية. لسنوات، عمل العلماء على بناء هؤلاء المساعدين الرقميين باستخدام نماذج اللغات الكبيرة، آملين أن يتمكنوا من معالجة تحديات معقدة ومتعددة الخطوات مثل التخطيط لبعثة علمية أو التنقل في موقع إلكتروني للعثور على حقيقة تاريخية محددة. ومع ذلك، ثمة مشكلة مستمرة أعاقت تقدمهم: فكلما عمل هؤلاء المساعدون لفترات أطول وجمعوا مزيداً من المعلومات، أصبح "تذكرهم" للمحادثة عبارة عن فوضى عارمة. يبدأ المساعد في الغرق في تفاصيل أفعاله الخاصة — النص الخام لكل نتيجة بحث، وكل محاولة فاشلة، وكل فكرة وسيطة — حتى ينسى الهدف الأصلي الذي كان يسعى للوصج إليه. الأمر أشبه بأمين مكتبة، بينما يحاول العثور على كتاب واحد، يُدفن تحت جبل من كل صفحة قام بتصفحها، فيفقد القدرة على تذكر العنوان الذي كان يبحث عنه.
اقترح باحثون في معهد الأتمتة التابع للأكاديمية الصينية للعلوم طريقة جديدة لتنظيم هذه الذاكرة الرقمية لحل تلك المشكلة. وقد أطلقوا على نظامهم اسم HyMem، وهو أسلوب مصمم للحفاظ على مسار المهام طويلة الأمد عبر الفصل الصارم بين أنواع المعلومات المختلفة. فبدلاً من ترك كل قطعة من البيانات تختلط معاً في قائمة واحدة طويلة، يبني HyMem هيكلاً حيث يحدث التخطيط رفيع المستوى في غرفة نظيفة وهادئة، بينما يحدث العمل الصاخب والفوضوي للبحث والاختبار في مساحات منفصلة ومعزولة. يسمح هذا النهج للمساعد بالتركيز على الصورة الكبيرة دون أن يتشتت انتباهه بفوضى عملياته اليومية.
الفكرة الجوهرية وراء هذا العمل هي أن ليست كل المعلومات متساوية في القيمة. فعندما يعمل "وكيل" (agent) على مهمة طويلة، فإنه يولد نوعين مختلفين تماماً من البيانات. النوع الأول هو الخطة الاستراتيجية: الأهداف، والحقائق التي تم التحقق منها، والخطوات اللازمة لإنجاز المهمة. والنوع الآخر هو أثر التنفيذ (execution trace): وهي المحاولات الخام، والمتكررة غالباً، والفاشلة أحياناً لاستخدام الأدوات، أو تصفح المواقع، أو التحقق من التفاصيل. في الأنظمة القديمة، كانت هذان النوعان من المعلومات يمتزجان معاً في تدفق واحد. ومع استمرار المهمة، كان حجم آثار التنفيذ الفوضوية يطغى على إشارات التخطيط النادرة والحاسمة، مما يجعل المساعد يفقد طريقه، غير قادر على التمييز بين الهدف المهم وضجيج تاريخه الخاص.
ولإصلاح ذلك، صمم الباحثون إطار عمل يعمل كحارس بوابة صارم للمعلومات. فقد أنشأوا طبقة "المخطط" (Planner) التي تحمل الاستراتيجية الرئيسية، وطبقة "المنفذ" (Executor) المنفصلة التي تتولى العمل الفعلي لاستخدام الأدوات. عندما يحتاج المخطط إلى التحقق من حقيقة ما أو إجراء بحث، فإنه يرسل تعليمات محددة إلى المنفذ. يذهب المنفذ ويقوم بالعمل، جامعاً كل البيانات الخام، لكنه لا يصب تلك البيانات الخام مرة أخرى في ذاكرة المخطط الرئيسية. بدلاً من ذلك، يقوم المنفذ بمعالجة المعلومات، وتصفية الضجيج، وإرجاع ملخص نظيف ومنظم لما وجده فقط. يتم بعد ذلك إضافة هذا الملخص إلى ذاكرة المخطط، بينما يتم التخلص من التفاصيل الفوضوية.
يتضمن النظام أيضاً وحدة "تفكير معزول" (Isolated Reasoning) للمشكلات الفرعية الصعبة بشكل خاص. فإذا تطلبت مهمة ما تفكيراً عميقاً أو التحقق من أدلة متضاربة، يرسل المخطط تلك المشكلة المحددة إلى هذه الوحدة المعزولة. تعمل الوحدة على حل المشكلة بمفردها، وتحتفظ بأفكارها الداخلية وخطواتها الوسيطة بعيداً عن المخطط الرئيسي. وبمجرد وصولها إلى استنتاج، ترسل الإجابة والأدلة الرئيسية فقط، تاركة المخطط الرئيسي خالياً من المسار الطويل والمتعرج الذي سلكته. يضمن ذلك عدم غرق صانع القرار الرئيسي في تعقيدات المهام الفرعية التي فوضها.
وللحفاظ على سير النظام بسلاسة على فترات طويلة، يستخدم HyMem أيضاً نظام ذاكرة مهيكلاً يعمل كخزانة ملفات. فهو ينظم الأحداث الماضية، والأهداف الحالية، والدروس المستفادة حول كيفية استخدام الأدوات في ملخصات مرتبة وموجزة. وعندما يحتاج النظام إلى تذكر ما قام به، فإنه يستشير هذه الملفات المنظمة بدلاً من محاولة استدعاء كل تفصيل من الماضي. وهذا يسمه للمساعد بالحفاظ على شعور واضح بالتقدم والاستمرارية، حتى بعد ساعات طويلة من العمل، دون أن تصبح ذاكرته كبيرة جداً بحيث يصعب إدارتها.
اختبر الباحثون هذا النهج الجديد على مجموعتين من المهام الصعبة: إحداهما تتضمن التفكير العام واستخدام الأدوات، والأخرى تركز على أسئلة بحثية عميقة تتطلب العثور على حقائق محددة عبر الإنترنت. وقارنوا نظامهم بعدة طرق أخرى، بما في ذلك الأساليب القديمة التي حاولت ببساطة ضغط تاريخ المحادثة بأكمله في ملخص أقصر. وأظهرت النتائج أنه من خلال إبقاء التخطيط والتنفيذ منفصلين، كان نظام HyMem أكثر نجاحاً بشكل ملحوظ. ففي مهام التفكير العام، حل حوالي 66.7% من المشكلات بشكل صحيح، بينما في مهام البحث العميق، حل 61.3% منها. وكانت هذه الأرقام أعلى بشكل ملحوظ من أفضل الطرق البديلة أداءً، والتي عانت للحفاظ على التركيز مع زيادة طول وتعقيد المهام.
كما درست الدراسة مقدار المعلومات التي يتعين على النظام معالجتها للوصول إلى هذه الإجابات. ووجد الباحثون أن نظام HyMem لم يحل المشكلات ببساطة عن طريق استخدام المزيد من القدرة الحوسبية أو قراءة المزيد من النصوص، بل حلها بكفاءة أكبر من خلال توجيه انتباهه فقط إلى المعلومات التي تهمه. نمت ذاكرة التخطيط الرئيسية ببطء شديد، وظلت مركزة على الهدف، بينما تولت المساحات المعزولة العمل الشاق للاستكشاف والتحليل. وهذا يشير إلى أن مفتاح حل المشكلات الطويلة والصعبة ليس فقط في امتلاك ذاكرة أكبر، بل في امتلاك طريقة أذكى لتنظيمها.
ورغم أن النتائج واعدة، إلا أن الباحثين يشيرون إلى أن النظام يعتمد على قدرة الذكاء الاصطناعي الأساسي على اتباع تعليمات صارمة وإنتاج ملخصات منظمة جيداً. فإذا لم يتمكن النموذج من اتباع هذه القواعد، فقد لا تظهر فوائد النظام. ومع ذلك، بالنسبة للمهام التي تتطلب انتباهاً مستداماً والقدرة على التنقل في المعلومات المعقدة بمرور الوقت، يقدم هذا النهج الهرمي مساراً واضحاً للمضي قدماً. فمن خلال فصل الإشارة عن الضجيج، يسمح HyMem للوكلاء الرقميين بالتفكير بوضوح، حتى عندما يكون العمل الذي يقومون به معقداً للغاية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.