When Does Context Compaction Pay in Long-Horizon Agents?

تخيل مساعداً رقمياً يمكنه العمل لساعات، يحل مشكلات معقدة عبر قراءة الملفات، وتشغيل الأكواد، والتحقق من تقدمه الخاص. وللقيام بذلك، يجب على المساعد أن يتذكر كل ما فعله حتى الآن، محتفظاً بسجل مستمر لأفعاله والنتائج التي يراها. يُسمى هذا السجل "السياق" (context). ومع استمرار العمل، يصبح هذا السجل أطول وأطول، حتى يصبح ضخماً لدرجة أنه يبطئ المساعد ويكلف مبلغاً كبيراً من المال لمعالجته. ولإدارة ذلك، طور مهندسو البرمجيات حيلة تسمى "ضغط السياق" (context compaction). فبدلاً من حمل التاريخ الكامل للمضي قدماً، يطلب النظام من المساعد كتابة ملخص قصير لما حدث، ثم يتخلص من التفاصيل القديمة ويواصل العمل باستخدام ذلك الملخص فقط. يشبه الأمر إلى حد ما مسافراً، بعد مشيه مئة ميل، يكتب بطاقة بريدية لنفسه المستقبلية يصف فيها الرحلة، ثم يحرق مذكراته التفصيلية لتوفير المساحة في حقيبة ظهره. والأمل هو أن يكون هذا الملخص كافياً لإبقاء المسافر على المسار الصحيح مع توفير الوقت والموارد.

تتحرى دراسة جديدة أجراها الباحث يوياو وانغ (Yuya Wang) ما إذا كانت هذه الاستراتيجية تنجح بالفعل في المهام طويلة الأمد. اختبر الباحث هذه الفكرة على تسع مشكلات صعبة ومتعددة الخطوات باستخدام نموذجين مختلفين من النماذج اللغوية المتقدمة. وقد أقام تجربة منضبطة حيث قام بحفظ حالة الوكلاء (agents) في لحظات محددة، ثم تركهم يواصلون العمل حتى الوصول إلى خط النهاية باستخدام طريقتين مختلفتين. في إحدى الطريقتين، احتفظ الوكلاء بتاريخهم الكامل، ليكون بمثابة خط أساس (baseline). وفي الطريقة الأخرى، انتقل الوكلاء إلى استخدام الملخصات كلما أصبح تاريخهم طويلاً جداً. لم يقس الباحث التكلفة النهائية فحسب، بل قاس أيضاً كيف أثر تغيير الاستراتيجية على سلوك الوكيل، وعدد الخطوات التي اتخذها، والوقت الذي قضاه في انتظار كتابة الملخصات.

كشفت النتائج عن تحول مفاجئ. فبينما أشارت الحسابات الرياضية إلى أن الانتقال إلى الملخص يجب أن يوفر المال، كان الواقع غالباً عكس ذلك. فبالنسبة لأحد النماذج المختبرة، انتهى الأمر بالوكلاء الذين انتقلوا لاستخدام الملخصات بتكلفة أعلى من أولئك الذين احتفظوا بتاريخهم الكامل. ولم يكن السبب في ذلك أن الملخصات كانت سيئة، بل لأن عملية التلخيص غيرت سلوك الوكيل بطريقة خلقت عملاً إضافياً. فعندما يتلقى الوكيل ملخصاً بدلاً من التاريخ الكامل، فإنه غالباً ما يشعر بالحاجة إلى إعادة قراءة الملفات أو التحقق من معلومات رآها بالفعل، مما يؤدي إلى سلسلة من الطلبات الإضافية. هذه الخطوات الإضافية، التي وصفها الباحث بأنها إجراءات "للقراءة فقط"، تراكمت بسرعة. وفي كثير من الحالات، تم محو الأموال التي تم توفيرها من خلال تقصير التاريخ تماماً بسبب الخطوات الإضافية غير الضرورية. في الواقع، بالنسبة للنموذج الأساسي الذي تم اختباره، أدت الاستراتيجية إلى زيادة التكاليف في 20 حالة من أصل 21 حالة مختلفة عند الاستمرار حتى نهاية المهمة.

كما نظرت الدراسة في المدة التي تعين على هؤلاء الوكلاء العمل بعدها بعد عملية التبديل لتحديد ما إذا كانت الاستراتيجية يمكن أن تؤتي ثمارها أبداً. ووجد الباحث أن ضغط السياق لا يصبح مكسباً مالياً إلا إذا كان هناك قدر كبير جداً من العمل المتبقي للقيام به بعد كتابة الملخص. فإذا كانت المهمة قد قاربت على الانتهاء، فإن تكلفة كتابة الملخص والخطوات الإضافية التي يتخذها الوكيل للتكيف معه لا تستحق التوفير. ومع ذلك، بالنسبة للمهام التي ينتظرها طريق طويل، يمكن للاستراتيجية أن تنجح، ولكن فقط تحت ظروف محددة. وسعر التكنولوجيا مهم للغاية؛ فبالنسبة لأحد النماذج، لم توفر الاستراتيجية المال إلا إذا كانت تكلفة القراءة من ذاكرة الكمبيوتر مرتفعة للغاية، أعلى بكثير مما تفرضه معظم الشركات المزودة حالياً. أما بالنسبة للنموذج الآخر المختبر، فقد كانت الاستراتيجية أكثر فعالية، حيث وفرت المال حتى مع الأسعار الحالية، وكان ذلك يعود بشكل كبير إلى أن سلوك ذلك النموذج تغير بشكل أقل حدة عندما تلقى ملخصاً.

وبعيداً عن التكلفة، فحص الباحث أيضاً سرعة عمل الوكلاء. لقد قام بمحاكاة العملية على شريحة كمبيوتر واحدة ليرى ما إذا كانت التواريخ الأقصر ستجعل النظام أسرع. ووجد أنه بينما أدت التواريخ الأقصر إلى تسريع معالجة الخطوات الفردية، فإن الوقت المستغرق في كتابة الملخصات والخطوات الإضافية التي اتخذها الوكلاء جعل العملية بأكملها أبطأ في كثير من الأحيان. في بعض السيناريوهات، استغرق الوكلاء الذين يستخدمون الملخصات وقتاً أطول بمرتين تقريباً لإنهاء نفس المهمة مقارنة بالذين امتلكوا التاريخ الكامل، رغم أنهم لم ينتظروا في طابور أبداً. حدث هذا لأن الوقت الذي تم توفيره في معالجة التاريخ الطويل ضاع في الوقت المستغرق في إنشاء الملخص والعمل الإضافي الذي قام به الوكيل.

تخلص الدراسة إلى أن ضغط السياق ليس حلاً بسيطاً للمهام طويلة الأمد. إنه مقايضة تعتمد بشدة على النموذج المحدد المستخدم، وتكلفة التكنولوجيا، وحجم العمل المتبقي. ووجد الباحث أن مجرد قطع التاريخ غالباً ما يربك الوكيل، مما يجعله يكرر عملاً قد أنجزه بالفعل. ولجعل هذه الاستراتيجية ناجحة، يجب تصميم الأنظمة بعناًية للحفاظ على الخطوات الأخيرة وضمان عدم شعور الوكيل بالحاجة إلى مراجعة تاريخه الخاص. وإلى أن تتحقق هذه الشروط، فإن الاحتفاظ بالتاريخ الكامل، رغم تكلفته، يظل المسار الأكثر موثوقية، وأحياناً الأرخص، للوكلاء الذين يتصدون لمشكلات طويلة ومعقدة.