Forgotten in Weights, Recovered by Tools: Agentic Tool Unlearning for LLM Agents
تقدم هذه الورقة البحثية "إلغاء تعلم الأدوات الوكيل" (Agentic Tool Unlearning - ATU)، وهو إطار عمل ثنائي المراحل يجمع بين كبت المعرفة البارامترية والتعلم التعزيزي على مستوى المسار لمنع وكلاء النماذج اللغوية الكبيرة من استعادة المعلومات المنسية عبر الأدوات الخارجية مع الحفاظ على فائدتهم فيما يتعلق بالمعرفة المستبقاة.
البحث الأصلي مُهدى إلى الملك العام بموجب CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تُعد النماذج اللغوية الكبيرة هي المحركات التي تقف وراء العديد من المساعدات الرقمية الحديثة، وهي قادرة على توليد النصوص، والإجابة على الأسئلة، وإجراء المحادثات. لسنوات، ركز الباحثون على تعليم هذه النماذج كيفية "نسيان" معلومات محددة، مثل البيانات الخاصة أو القصص المحمية بحقوق الطبع والنشر، من خلال تعديل الإعدادات الداخلية التي تخزن المعرفة. تهدف هذه العملية، المعروفة باسم "النسيان الآلي" (machine unlearning)، إلى إزالة تأثير حقائق معينة بحيث لا يعود النموذج قادرًا على استرجاعها. ومع ذلك، ظهر تعقيد جديد مع تطور هذه النماذج من مجرد مولدات نصوص بسيطة إلى وكلاء فاعلين. فهؤلاء الوكلاء لا يعتمدون فقط على ذاكرتهم الداخلية؛ بل يمكنهم التواصل مع العالم الخارم، باستخدام أدوات مثل محركات البحث عبر الإنترنت أو قواعد البيانات للعثين عن الإجابات في الوقت الفعلي. هذا التحول يخلق ثغرة: فحتى لو نجح النموذج في نسيان حقيقة ما داخليًا، فقد يسترجع تلك الحقيقة نفسها من الإنترنت ويقدمها كإجابة خاصة به، مما يتجاوز عملية النسيان فعليًا.
لقد حدد فريق من الباحثين نمط الفشل المحدد هذا، والذي أطلقوا عليه اسم "الاستعادة عبر الوسيط الأدواتي" (tool-mediated recovery)، وطوروا طريقة جديدة لسد هذه الفجوة. في دراستهم، أثبتوا أن التقنيات القياسية لنسيان المعرفة غير كافية عندما يتم نشر النموذج كوكيل يمتلك إمكانية الوصول إلى أدوات خارجية. ووجدوا أنه بينما قد يبدو النموذج وكأنه قد نسي معلومة ما عند اختباره في حالة العزل، إلا أنه يمكنه بسهولة استعادة تلك المعلومة بمجرد السماح له بالبحث في الويب أو البحث في قاعدة بيانات. ولحل هذه المشكلة، اقترح الباحثون إطار عمل تدريبي يتكون من مرحلتين. تقوم المرحلة الأولى بالعمل التقليدي المتمثل في كبح الذاكرة الداخلية للمعلومات غير المرغوب فيها. أما المرحلة الثانية فهي أكثر تعقيدًا؛ حيث تقوم بتدريب النموذج في بيئة محاكية حيث يعمل كوكيل، ويتعلم التعرف على الحالات التي قد يؤدي فيها البحث أو استدعاء الأداة إلى الوصول إلى المعلومات المحظورة، واختيار التوقف بدلاً من ذلك أو تقديم استجابة آمنة وغير كاشفة.
اختبر الباحثون هذا النهج في سيناريوهات واقعية تتعلق بشخصيات مشهورة وكتب محمية بحقوق الطبع والنشر. في مجموعة من التجارب، قاموا بقياس عدد المرات التي قد يكشف فيها النموذج الذي تم "نسيان" معلوماته عن حقيقة منسية عن طريق الخطأ. عندما استُخدم النموذج كمولد نصوص قياسي بدون أدوات، نجح في تجنب المعلومة. ومع ذلك، بمجرد منح النموذج نفس القدرة على الوصول إلى أدوات البحث، انهارت قدرته على إخفاء المعلومة، وبدأ في الكشف عن الحقائق المنسية بمعدل أعلى بكert. على سبيل المثال، في اختبار يتعلق بشخصيات عامة، ارتفع معدل الكشف العرضي من مستوى منخفض في حالة العزل إلى مستوى مرتفع عند تفعيل الأدوات. وقد أكد ذلك أن الأدوات نفسها كانت تعمل كقناة استعادة، مما سمح للنموذج بإعادة بناء المعرفة التي كان من المفترض أن يحذفها.
ولمعالجة ذلك، طبق الباحثون منهجهم المكون من مرحلتين. فبعد عملية النسيان الداخلي الأولية، أخضعوا النموذج للمرحلة الثانية من التدريب، حيث مارس التفاعل مع الأدوات في بيئة محكومة. خلال هذه المرحلة، تم مكافأة النموذج على تجنب المعلومات المحظورة حتى لو قدمتها الأدوات، ومعاقبته على محاولة استخدام الأدوات للبحث عن تلك البيانات المحددة. وأظهرت النتائج أن هذا التدريب الإضافي قلل بشكل كبير من قدرة النموذج على استعادة المعلومات المنسية عبر الأدوات. وفي الاختبارات المتعلقة بالشخصيات العامة، قلل هذا النهج من معدل الكشف العرضي بفارق كبير مقارنة بالنماذج التي خضعت للمرحلة الأولى من النسيان فقط. وبالمثل، في الاختبارات التي شملت محتوى كتب محمية بحقوق الطبع والنشر، منع النهج النموذج من استخدام قواعد البيانات المحلية لاسترجاع النص المخفي.
والأهم من ذلك، تأكد الباحثون من أن هذه الطة الجديدة لم تعطل قدرة النموذج على العمل بشكل طبيعي. فقد تحققوا من أن النموذج لا يزال بإمكانه استخدام الأدوات بفعالية لمهام لا تتضمن المعلومات المحظورة، مثل البحث عن حقائق عامة أو إجراء عمليات حسابية. لم يجبر التدريب النموذج على رفض استخدام الأدوات تمامًا أو أن يصبح غير مفيد؛ بل علمه ببساطة كيف يرسم خطًا، ويعرف متى يتوقف عن البحث لحماية بيانات معينة حساسة. تشير الدراسة إلى أنه لكي يكون النسيان فعالاً حقاً في عصر الوكلاء الأذكياء، يجب أن يأخذ في الاعتبار كيفية تفاعل هؤلاء الوكلاء مع العالم، وليس فقط كيفية تخزين البيانات داخلياً. ومن خلال تدريب النموذج على مقاومة إغراء استخدام الأدوات لاستعادة المعرفة المحذوفة، نجح الباحثون في خلق طريقة أكثر قوة لضمان بقاء المعلومات المنسية منسية، حتى في بيئة رقمية متصلة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.