Constraint Inflation: Context Compaction in LLM Agents Rarely Loses Instructions but Often Overstates Them

تخيل مساعداً رقمياً يمكنه العمل لساعات على مشروع واحد معقد، يقرأ الملفات، ويستخدم الأدوات، ويتحدث مع مستخدم بشري. ومع استمرار هذه المحادثة، تصبح في النهاية طويلة جداً بحيث لا يستطيع ذاكرة الحاسوب استيعابها دفعة واحدة. ولكي يستمر في العمل، يجب على النظام ضغط السجل، واستبدال الأجزاء الأولى من الدردشة بملخص قصير يلتقط النقاط الرئيسية. هذه حيلة قياسية في الذكاء الاصطناعي، تشبه إلى حد كبير قيام الإنسان بتدوين ملاحظات لتذكر اجتماع طويل. لسنوات، ظل الباحثون قلقين من أن هذه الملخصات قد تنسى تفاصيل مهمة، مما يتسبب في فقدان المساعد لتتبع قواعد محددة للمستخدم أو تعليمات السلامة. وكان الخوف السائد هو أن الآلة ستفشل ببساطة في أداء مهمتها.

ومع ذلك، تشير دراسة جديدة إلى أن المشكلة ليست في أن الآلة تنسى، بل في أنها تتذكر بشكل مبالغ فيه. في الواقع، هي غالباً ما تتذكر الأشياء بطريقة فضفاضة للغاية أو صارمة للغاية. يطلق الباحثون على هذا الأمر اسم "تضخم القيود" (constraint inflation). يحدث هذا عندما يحول الملخص طلباً مؤقتاً لمرة واحدة إلى قاعدة دائمة. على سبيل المثال، إذا قال المستخدم: "تخطَّ الاختبارات لهذا الملف المحدد لأن الإنترنت مقطوع"، فإن الملخص الجيد سيسجل أنه تم تخطي الاختبارات لهذا الملف الواحد. أما الملخص المعيب، فقد يسجل التعليم كقاعدة: "تخطَّ الاختبارات دائماً عندما يكون الإنترنت مقطوعاً". القاعدة لا تزال موجودة، لكن معناها تغير من إصلاح مؤقت إلى سياسة قائمة. هذا التحول الدقيق يمكن أن يتسبب في وقوع المساعد في أخطاء لاحقاً، عبر تطبيق إصلاح مؤقت على كل المهام المستقبلية.

لقكتياس مدى تكرار حدوث ذلك، بنى الباحثون بيئة اختبارية تسمى "InflateBench". لقد أنشأوا 240 جلسة عمل واقعية عبر خمسة مجالات مختلفة، مثل البرمجة وتحليل البيانات والأعمال المكتبية. وفي كل جلسة، زرعوا ست تعليمات محددة ذات نطاق معلوم، مثل مهمة لمرة واحدة أو تفضيل مؤقت. ثم مرروا هذه الجلسات عبر سبع طرق مختلفة لتلخيص المحادثة، باستخدام نوعين مختلفين من النماذج اللغوية. كان الهدف هو معرفة ما إذا كانت الملخصات ستحافظ على التعليمات سليمة، أم ستفقدها تماماً، أم ستوسع نطاقها بالخطأ. كما اختبروا ما إذا كانت هذه القواعد الموسعة ستغير بالفعل ما سيفعله المساعد الرقمي بعد ذلك.

كانت النتائج مفاجئة. فالملخصات نادراً ما فقدت أي تعليمات؛ في الواقع، حافظت على أكثر من 99 بالمائة منها. ولكن بينما نادراً ما نسيت، فقد بالغت في التعبير بشكل متكرر. فعندما استخدم النظام ملخصاً ذا صياغة حرة، قام بتضخيم حوالي 12 إلى 14 بالمائة من العناصر المؤهلة. وعندما استخدم قالباً مهيكلاً يحتوي على أقسام محددة للقواعد والتفضيلات، ارتفع هذا الرقم إلى ما يقرب من 20 بالمائة. كان الخطأ الأكثر شيوعاً هو تحويل "التفضيل" إلى "متطلب"، أو التعامل مع مهمة لمرة واحدة وكأنها قاعدة دائمة. على سبيل المثال، الطلب باستخدام أداة معينة لهذه الوظيفة الحالية فقط، غالباً ما يُعاد صياغته كقاعدة تقضي بوجوب استخدام تلك الأداة دائماً.

اختبرت الدراسة أيضاً إصلاحين شائعين صُمما لمنع فقدان التعليمات. تضمن أحد الأساليب استخراج القواعد في قائمة منفصلة، بينما تضمن الآخر "تثبيتها" بحيث تظهر في كل ملخص. ووجد الباحثون أن هذه الإصلاحات لم تساعد، لأن التعليمات لم تكن تُفقد في المقام الأول. بدلاً من ذلك، جعلت هذه الأساليب مشكلة التضخم أسوأ بكثير. فالطريقة "المثبتة"، على وجه الخصوص، تسببت في ارتفاع التضخم إلى أكثر من 50 بالمائة في بعض الحالات. ومن خلال إجبار النظام على تكرار القواعد حرفياً، فقدت الملخصات السياق الذي يوضح أن تلك القواعد كانت مؤقتة. لم يعد بإمكان النظام التمييز بين قاعدة قائمة وطلب عابر.

أخيراً، تحقق الباحثون مما إذا كانت هذه القواعد المتضخمة تغير سلوك المساعد الرقمي بالفعل. ووجدوا أنها تفعل ذلك. فعندما يحتوي الملخص على قاعدة متضخمة، يصبح المساعد أكثر عرضة لتطبيق تلك القاعدة على المهام المستقبلية التي لا تنتمي إليها. وبينما لم يتبع المساعدون القواعد المتضخمة في كل حالة، إلا أن معدل الخطأ كان مرتفعاً بما يكفي ليشكل قلقاً جدياً. وتخلص الدراسة إلى أن الطريقة الحالية للتعامل مع المحادثات الطويلة تحتاج إلى تغيير. فمجرد الحفاظ على القواعد ليس كافياً؛ بل يجب على النظام أيضاً تتبع المدة التي ينبغي أن تستمر فيها تلك القواعد. وبدون ذلك، يخاطر المساعد الرقمي بأن يصبح عاملاً جامداً يتبع تعليمات قديمة ومؤقتة كما لو كانت قوانين أبدية.