Distance Is Not Enough: Forget-Retain Alignment Gap Predicts LLM Relearning Robustness

في العصر الرقمي، يتم تدريب نماذج الذكاء الاصطناعي على محيطات شاسعة من البيانات، حيث تتعلم الكتابة والاستنتاج والابتكار عبر امتصاص الأنماط من كل ما تقرأه. ومع ذلك، تبرز أحياناً الحاجة إلى جعل هذه النماذج تنسى معلومات محددة، سواء لحماية الخصوصية، أو لإزالة مواد محمية بحقوق الطحفظ، أو لتصحيح تحيزات ضارة. تهدف هذه العملية، المعروفة باسم "النسيان الآلي" (machine unlearning)، إلى إزالة تأثير بيانات معينة جراحياً مع ترك المعرفة والقدرات العامة للنموذج سليمة. وتكمن التحديات في حقيقة أن هذه النماذج مرنة للغاية؛ فحتى بعد أن يعتقد الباحثون أنهم نجحوا في محو قطعة من المعلومات، غالباً ما يمكن للنموذج إعادة تعلمها بسرعة كبيرة إذا تعرض لكمية صغيرة من بيانات تدريب جديدة. وتثير هذه الهشاشة سؤالاً حاسماً: كيف يمكننا معرفة ما إذا كان النموذج قد نسي شيئاً حقاً، أم أنه يتظاهر بالنسيان فقط إلى أن تسنح له الفرصة لاستعادة ذاكرته؟

لقد اقترح فريق من الباحثين من جامعة KAIST وجامعة طوكيو طريقة جديدة لفهم هذه المشكلة، مشيرين إلى أن الطريقة الشائعة لقياس النجاح معيبة بشكل أساسي. لفترة من الوقت، كان النهج القياسي للحكم على ما إذا كان النموذج قد تم نسيانه بنجاح هو قياس مدى ابتعاد إعداداته الداخلية عن حالتها الأصلية. كان المنطق بسيطاً: إذا تغير النموذج بشكل كبير، فلا بد أنه قد نسي البيانات. ومع ذلك، وجد الباحثون أن هذا المقياس للمسافة يمكن أن يكون مضللاً. إذ يمكن للنموذج أن يخضع لتغييرات هائلة وفوضوية تدمر قدرته على العمل بشكل صحيح، ومع ذلك يظهر وكأنه قد تحرك مسافة كبيرة من نقطة بدايته. في مثل هذه الحالات، قد يبدو النموذج قوياً لأنه تغير، ولكنه في الواقع قد انهار، ففقد معرفته المفيدة جنباً إلى جنب مع البيانات غير المرغوب فيها.

ويجادل الباحثون بأن المتانة الحقيقية لا تأتي من مدى تحرك النموذج، بل من المكان الذي يتحرك إليه. فقد اكتشفوا أنه لكي يقاوم النموذج إعادة التعلم، يجب أن تكون التغييرات التي تُجرى عليه انتقائية للغاية. يحتاج النموذج إلى تعديل الأجزاء المحددة من "دماغه" المسؤلة عن المعلومات المراد نسيانها، مع الحفاظ بعناية على الأجزاء التي تتعامل مع المعلومات التي يُفترض به الاحتفاظ بها. وإذا كانت التغييرات مشتتة عشوائياً أو ألحقت الضرر بالأجزاء المفيدة من النموذج، فيمكن للمعلومات المنسية أن تعود بسهولة. ولاختبار هذه الفكرة دون محاولة إعادة تدريب النموذج فعلياً، طور الفريق أداة جديدة تسمى "فجوة توافق النسيان والاحتفاظ" (Forget-Retain Alignment Gap). تعمل هذه الأداة كفحص تشخيصي ينظر في بنية التغييرات التي طرأت على النموذج؛ فهي تقيم ما إذا كانت التعديلات قد ركزت على الأهداف الصحيحة، مما يتنبأ بفعالية ما إذا كان النموذج سيصمد أمام هجوم مصمم لجعل النموذج يتذكر البيانات المنسية مرة أخرى.

باستخدام هذا المنظور الجديد، ابتكر الباحثون طريقة تسمى "تقليم النسيان والاحتفاظ" (Forget-Retain Pruning). فبدلاً من إجراء تغييرات واسعة وشاملة على النموذج، تحدد هذه الطريقة بعناية وتزيل فقط الروابط الضرورية للمعلومات غير المرغوب فيها، تاركةً بقية النموذج دون مساس. وعندما اختبروا هذا النهج، وجدوا أن النماذج التي عولجت بهذا التقليم الانتقائي كانت أصعب بكثير في خداعها لإعادة تعلم البيانات المنسية. وفي تجارب باستخدام معايم قياسية، حافظت هذه النماذج على قدرتها على النسيان مع الحفاظ على استقرار أدائها العام. وأظهرت النتائج أن الطريقة الجديدة تفوقت على التقنيات الحالية، التي كانت تعتمد غالباً على الفكرة المعيبة المتمثلة في مجرد تحريك النموذج لأبعد مسافة ممكنة عن حالته الأصلية.

وتشير الدراسة إلى أن مفتاح جعل الذكاء الاصطناعي ينسى لا يكمن في مقدار ما تغيره، بل في مدى دقة ما تغيره. فمن خلال التركيز على المسارات المحددة التي تحمل المعلومات غير المرغوب فيها وحماية البقية، يمكن للباحثين إنشاء نماذج أكثر أماناً حقاً ضد إعادة التعلم. وهذا الاكتشاف ينقل التركيز من مجرد قياس المسافة إلى فهم أكثر دقة لكيفية تخزين المعلومات والوصول إليها داخل هذه الأنظمة المعقدة. وقد أتاح الباحثون أدواتهم وأكوادهم البرمجية للجمهور، مما يسمح للآخرين بالتحقق من هذه النتائج وتطبيق هذا النهج الانتقائي لمواجهة التحديات المستقبلية في سلامة الذكاء الاصطناعي والخصوصية.