When Not to Imitate: Boundary-Aware Skill Memory for Reliable Tool-Use LLM Agents

في عالم الذكاء الاصطناعي المتطور بسرعة، يعمل الباحثون على تعليم البرامج الحاسوبية كيف تعمل كوكلاء مستقلين. تم تصميم هؤلاء الوكلاء للتنقل في بيئات رقمية معقدة، باستخدام أدوات مثل التطبيقات البرمجية والخدمات الشبكية لحل مشكلات تتطلب خطوات متعددة. ويتمثل التحدي المركزي في بناء هؤلاء الوكلاء في مساعدتهم على التعلم من الخبرة دون إشراف بشري مستمر. كانت الفكرة السائدة هي أنه إذا نجح الوكيل في مهمة ما، فينبغي عليه حفظ هذا النجاح كـ "مهارة" وإعادة استخدامها كلما واجه موقفاً مشابهاً. يفترض هذا النهج أن الانتصارات الماضية هي دائماً أدلة جيدة للأفعال المستقبلية، وأنه كلما استطاع الوكيل استحضار أمثلة ناجحة أكثر، كان أداؤه أفضل. ومع ذلك، يتجاهل هذا الافتراض عيباً جوهرياً: مجرد كون حل ما في الماضي قد نجح في سياق معين لا يعني بالضرورة أنه آمن أو صحيح في سياق آخر.

لقد حدد فريق من الباحثين نمط فشل محدد حيث تؤدي هذه الطريقة التقليدية في التعلم إلى نتائج عكسية، وقد أطلقوا عليه اسم "فخ محاكاة المهارة" (Skill Imitation Trap). فعندما يسترجع الوكيل ذاكرة لنجاح سابق يبدو مشابهاً لمشكلته الحالية، فإنه غالباً ما ينسخ الأفعال القديمة بشكل أعمى، حتى لو كان الموقف الجديد يتطلب نهجاً مختلفاً تماماً. يصبح الوكيل واثقاً جداً في النمط المألوف لدرجة تجعله يتجاهل الاختلافات الدقيقة التي تجعل الحل القديم خطيراً أو خاطئاً. ولإصلاح ذلك، طور الباحثون نظاماً جديداً يسمى "ذاكرة المهارة الواعية بالحدود" (Boundary-Aware Skill Memory). فبدلاً من مجرد حفظ خطوات مهمة ناجحة، يجبر هذا النظام الوكيل أيضاً على تسجيل الظروف المحددة التي تكون فيها تلك الخطوات آمنة للاستخدام، وعلامات التحذير التي تشير إلى وجوب عدم استخدامها، وكيفية التعافي إذا ساءت الأمور. ومن خلال إضافة قواعد "الحدود" هذه إلى كل ذاكرة، يتعلم الوكيل ليس فقط ما يجب فعله، بل متى يفعله ومتى يتوقف.

اختبر الباحثون هذا النهج الجديد من خلال تحليل كيفية تصرف النماذج اللغوية الكبيرة عندما تُمنح الوصول إلى النجاحات السابقة. واكتشفوا أنه كلما أضافوا المزيد من الأمثلة الناجحة إلى ذاكرة الوكيل، زادت ثقة الوكيل في اتخاذ الخيار الخاطئ. وفي اختبار محدد، عندما واجه الوكيل موقفاً كان فيه النجاح السابق مشابهاً ولكن غير قابل للتطبيق، أدى استحضار المزيد من الذكريات إلى زيادة احتمالية اختياره للأداة غير الصحيحة بنسبة 47 بالمائة مقارنة بوكيل ليس لديه ذاكرة على الإطلاق. كان الوكيل يُخدع أساساً بتاريخه الخاص، حيث تعامل مع الحل السابق كقاعدة عالمية بدلاً من كونه قاعدة خاصة بسياق معين. وأظهر التحليل أن النموذج كان يركز تماماً على "كيفية" الفعل الماضي — أي تسلسل الخطوات — بينما يتجاهل تماماً ما إذا كان الموقف الحالي يتطابق مع متطلبات ذلك الفعل.

ولحل هذه المشكلة، صمم الفريق طريقة جديدة لتخزين الذكريات؛ حيث أنشأوا تنسيقاً مهيكلاً لكل مهارة يتضمن سبعة أجزاء متميزة. الأجزاء الثلاثة الأولى تصف الهدف، والإجراء، والأدوات المستخدمة، وهو الأسلوب القياسي لتسجيل النجاح. أما الأجزاء الأربعة الأخرى فهي الإضافة الجديدة: فهي تسرد الظروف المحددة التي تنطبق فيها المهارة، وعلامات التحذير التي تشير إلى وجود مخاطر، والقواعد المتعلقة بما يجب تجنبه، وملاحظات حول كيفية إصلاح الأخطاء في حال حدوثها. وعندما يواجه الوكيل مهمة جديدة، فإنه يسترجع هذه الذكريات المعززة؛ فإذا تطابق الموقف الحالي مع الشروط، يستخدم الوكيل المهارة. وإذا كان الموقف ينطوي على مخاطر أو لم تتحقق الشروط، فإنه يستخدم علامات التحذير لكبح الرغبة في نسخ الفعل القديم. وإذا ارتكب الوكيل خطأً، فإن ملاحظات التعافي توجهه لإصلاح الخطأ محلياً بدلاً من تكرار النمط الفاشل.

كانت نتائج هذه الطالة الجديدة متسقة عبر عدة اختبارات ونماذج حاسوبية مختلفة الأحجام. ففي اختبار مصمم لاختبار مدى قدرة الوكلاء على استخدام الأدوات البرمجية، حسّن النظام الجديد معدل النجاح بنسبة تصل إلى 23.8 بالمائة مقارنة بالطريقة القديمة. وفي اختبار آخر يقيس دقة استدعاء الدوال، حسّن الدقة بنسبة تصل إلى 5.0 بالمائة. ولعل الأهم من ذلك هو أن النظام الجديد جعل الوكلاء أكثر أماناً؛ ففي اختبار صُمم لمعرفة ما إذا كان يمكن خداع الوكلاء للقيام بأفعال ضارة، قللت الطريقة الجديدة من معدل نجاح تلك الهجمات بنسبة 4.6 بالمائة. كما أصبح الوكلاء أكثر كفاءة، حيث أكملوا المهام في خطوات أقل لأنهم توقفوا عن إضاعة الوقت في محاولة تطبيق الحل الخاطأ.

أكد الباحثون أن هذا التحسن لم يكن مجرد نتيجة لوجود نص أكثر في "المطالبة" (prompt) أو قائمة أطول من التعليمات، فقد أجروا فحوصات دقيقة لكيفية معالجة النماذج الحاسوبية للمعلومات. ووجدوا أنه عندما يكون الوكيل في موقف خطر، فإنه يحول انتباهه بنشاط لقراءة قواعد الحدود الجديدة، مثل علامات التحذير وقواعد التجنب. وعندما منعوا الوكيل اصطناعياً من قراءة هذه القواعد المحددة، عاد الوكيل فوراً إلى الفخ القديم، وأصبح واثقاً في الخيار الخاطئ مجدداً. وقد أثبت هذا أن قواعد الحدود كانت هي الآلية الأساسية التي منعت الوكيل من محاكاة النجاحات السابقة بشكل أعمى. وتوضح الدراسة أنه لكي تتطور الوكلاء الاصطناعية وتتحسن بشكل موثوق، فإنها تحتاج إلى ما هو أكثر من مجرد مكتبة من النجاحات؛ إنها تحتاج إلى فهم واضح للحدود التي تحدد متى تكون تلك النجاحات صالحة.