Toward Fine-Grained Forgetting:Attribute Unlearning for Multimodal Large Language Models
تقدم هذه الورقة البحثية "النسيان على مستوى السمات" كبديل أكثر دقة لـ "الحذف على مستوى الملف الشخصي" للنماذج اللغوية الكبيرة متعددة الوسائط (MLLMs)، وتقترح معياراً شاملاً لتقييم تحدي النسيان الانتقائي لسمات محددة مع الحفاظ على المعلومات المتعلقة بالهوية، وتقدم إطار عمل CLRP، وهو إطار عمل خفيف الوزن وخالٍ من التدريب يحقق هذا النسيان الانتقائي بفعالية من خلال التوطين السببي والإسقاط المدرك للاحتفاظ.
تخيل أن لديك صديقاً آلياً ذكياً جداً يمكنه النظر إلى صورة وإخبارك بقصة عنها. هذا الروبوت قد قرأ ملايين الكتب ورأى مليارات الصور، لذا فهو يعرف الكثير. ولكن في بعض الأحيان، يتذكر أشياء لا ينبغي له تذكرها، مثل تاريخ ميلاد شخص سري أو عنوان منزله. في عالم الذكاء الاصطناعي، هناك حاجة متزايدة لتعليم هذه الروبوتات كيفية "نسيان" أسرار محددة دون جعلها تنسى كل شيء آخر. تُسمى هذه العملية "النسيان الآلي" (machine unlearning). فكر في الأمر كأنك تقوم بتحرير مذكرات: أنت تريد شطب جملة واحدة محرجة عن عطلتك الصيفية مع الحفاظ على جميع القصص الممتعة الأخرى عن أصدقائك وعائلتك سليمة. إذا قمت فقط بتمزيق الصفحة بأكملة، فستفقد كل شيء. وإذا حاولت مسح الحبر بمادة كيميائية تذيب الورق، فستتلف الكتاب بأكمله. التحدي يكمن في إيجاد طريقة لاستئصال تلك الذاكرة السيئة جراحياً مع إبقاء بقية دماغ الروبوت يعمل بشكل مثالي.
تعالج هذه الورقة نسخة معقدة وجديدة من هذه المشكلة. فبدلاً من مطالبة الروبوت بنسيان شخص بأكمله (مثل "انسَ كل شيء عن صديقي بوب")، طلب الباحثون منه نسيان شيء واحد محدد عن بوب فقط، مثل لونه المفضل، مع الاستمرار في تذكر اسمه ووظيفته وما يبدو عليه شكله. لقد وجدوا أن دماغ الروبوت فوضوي؛ فذاكرة لون بوب المفضل متشابكة مع ذاكرة وجه بوب. إن محاولة قطع اللون غالباً ما تؤدي بالخطأ إلى قطع الوجه أيضاً. ولحل هذه المشكلة، بنى المؤلفون اختباراً جديداً يسمى AMU-Bench لقياس مدى قدرة الروبوتات على القيام بهذا النسيان الدقيق. ثم اخترعوا أداة ذكية لا تتطلب تدريباً تسمى CLRP (الإسقاط المحلي السببي والوعي بالاحتفاظ - Causal Localization and Retain-Aware Projection). فكر في CLRP كزوج من "نظارات الذاكرة" التي يرتديها الروبوت فقط عند الإجابة على الأسئلة. هذه النظارات لا تغير دماغ الروبوت، بل هي فقط تعدل الطريقة التي ينظر بها الروبوت إلى أفكاره في تلك اللحظة تحديداً. ومن خلال استخدام تقنية "رقع التنشيط" (activation patching) (وهي تشبه استبدال قطعة "ليجو" محددة في برج لمعرفة أي جزء من البرج سيهتز)، يجد CLRP المكان الدقيق في دماغ الروبوت حيث يتم تخزين السر. بعد ذلك، يطبق مرشحاً رياضياً يكتم ذلك السر المحدد بينما يترك بقية القصة واضحة وصاخبة.
اختبر الباحثون هذا على ثلاثة أدمغة روبوتية مختلفة (LLaVA-1.5-7B و LLaVA-1.5-13B و Qwen2.5-VL-3B) ووجدوا أن طريقتهم تعمل بشكل أفضل بكثير من المحاولات السابقة. في اختباراتهم الرئيسية، حيث طلبوا من الروبوتات نسيان 5% من البيانات، تمكنت CLRP من خفض قدرة الروبوت على تخمين السر من 20.00% إلى 4.00% فقط. والأفضل من ذلك، بينما جعلت الطرق الأخرى الروبوت ينسى الأشياء "الجيدة" أيضاً، ساعدت CLRP الروبوت في الواقع على تذكر الحقائق غير السرية بشكل أفضل، حيث رفعت دقته في تلك الأسئلة من 14.77% إلى 17.79%. تشير الورقة إلى أن هذا النهج يعد طريقة واعدة لمنح الروبوتات القدرة على أن تكون انتقائية فيما تحتفظ به وما تتركه، دون الحاجة إلى إعادة تدريبها من الصفر. كما اكتشفوا أن نسيان الأرقام (مثل رقم الهاتف) أسهل على الروبوتات من نسيان الأوصاف الطويلة (مثل الهواية)، لكن الحفاظ على بقية قصة الشخص آمناً هو الجزء الأصعب من كل شيء.
ملخص تقني: نحو نسيان دقيق للسمات: نسيان السمات للنماذج اللغوية الكبيرة متعددة الوسائط
تعريف المشكلة
تمتلك النماذج اللغوية الكبيرة متعددة الوسائط (MLLMs) قدرات قوية في الربط بين الرؤية واللغة، ولكنها تواجه خطر حفظ وكشف المعلومات الحساسة. بينما يركز بحث "النسيان الآلي" الحالي بشكل أساسي على حذف المستوى الشخصي (إزالة كافة المعلومات المتعلقة بكيان أو هوية أو شخصية معينة)، فإن طلبات الخصوصية العملية غالبًا ما تكون أكثر دقة. قد يرغب المستخدمون في حذف سمة محددة (مثل تاريخ الميلاد، أو العنوان، أو الانتماء التنظيمي) مع الاحتفاظ بالمعلومات غير الحساسة عن نفس الهوية.
لا تختبر معايير النسيان على مستوى الملف الشخصي الحالية (مثل MLLMU-Bench و FIUBench) صراحةً الحفاظ على السمات الفردية غير المستهدفة داخل كيان مختار. وهذا يخلق فجوة كبيرة: إذ تفشل الطرق الحالية غالبًا في تحقيق الانتقائية على مستوى السمة. نظرًا لأن السمات المستهدفة والسمات المراد الاحتفاظ بها تشترك في نفس الهوية والأدلة البصرية، فإنها غالبًا ما توجد في مناطق متقاربة في فضاء التمثيل وتمر عبر مسارات سببية متداخلة. وبناءً على ذلك، فإن التدخلات الواسعة بما يكفي لإزالة السمة المستهدفة غالبًا ما تسبب تدهورًا عرضيًا للسمات غير المستهدفة لنفس الهوية، بينما تفشل التدخلات المتحفظة للغاية في كبح السمة المستهدفة.
لمعالجة تحدي عزل اتجاهات السمات المحددة مع الحفاظ على تمثيلات الهوية المشتركة، يقترح المؤلفون إطار عمل CLRP، وهو إطار خفيف الوزن ولا يتطلب تدريبًا. يعمل CLRP دون تحديث معاملات النموذج، ويتكون من مكونين رئيسيين:
توطين الطبقة السببية:
يستخدم الأسلوب رقعة التنشيط (activation patching) لتحديد طبقة المحول (transformer layer) التي تتوسط سببياً في الكشف عن السمة المستهدفة.
لكل مثال مستهدف، يتم إقران استعلام مستهدف (يسعى للحصول على السمة الحساسة) باستعلام احتفاظ لنفس الهوية (يسعى للحصول على معلومات غير مستهدفة).
يقوم النظام بتخزين التنشيطات من التشغيل المستهدف وتطعيمها في تشغيل الاحتفاظ. ويتم اختيار الطبقة التي تحقق أقصى تأثير للرقعة السببية — حيث يتم استعادة دليل السمة المستهدفة بقوة أكبر — كنقطة للتدخل (ℓ∗).
الإسقاط التبايني الواعي للاحتفاظ:
بمجرد تحديد طبقة التدخل، يقوم CLRP بتقدير فضاء فرعي منخفض الأبعاد يمثل السمة المستهدفة.
من الضروري أن يكون هذا التقدير واعيًا بالاحتفاظ. فهو يبني إحصاءات من التمثيلات المشروطة بالهدف ومن تمثيلات الاحتفاظ لنفس الهوية (بالإضافة إلى المطالبات المحايدة).
تحسب الطريقة فضاء إسقاط يلتقط التباين البارز في الهدف ولكنه مكبوت في تمثيلات الاحتفاظ. ويتحقق ذلك من خلال تبييض (whitening) مصفوفة التباين المستهدفة بالنسبة لمصفوفة تباين الاحتمان واختيار القيم الذاتية الرائدة.
يقوم عامل الإسقاط بتخفيف هذا الفضاء الفرعي المحدد عند الطبقة المختارة أثناء الاستدلال، مما يزيل اتجاه السمة المستهدفة بفعالية مع الحفاظ على تمثيل الهوية المشتركة المطلوبة للحقائق غير المستهدفة.
المساهمات الرئيسية
يقدم البحث ثلاث مساهمات رئيسية:
تعريف نسيان السمات على مستوى المكونات: يعرّف المؤلفون نسيان السمات في النماذج اللغبية الكبيرة متعددة الوسائط رسميًا كإعداد يجب أن تصبح فيه السمات المحددة غير قابلة للوصមាន بينما تظل الحقائق غير المستهدفة لنفس الهوية متاحة. وهذا يفرض متطلبات محلية أكثر صرامة من الحذف على مستوى الملف الشخصي.
بناء AMU-Bench: يقدم المؤلفون معيار AMU-Bench لنسيان السمات متعدد الوسائط. بخلاف المعايير السابقة، يقوم بتقسيم أهداف الحذف إلى فئات: النصوص الطويلة (الوصفية)، العددية (التواريخ، الرواتب)، والنصوص القصيرة (الفئوية). ويقيم الأداء بشكل منهجي عبر نسب نسيان متعددة (5%، 10%، 15%) وأنواع أسئلة متميزة (ملء الفراغات، التصنيف، التوليد) على نماذج متعددة الوسائط واسعة الاستخدام (LLaVA-1.5، Qwen2.5-VL).
إطار عمل CLRP: اقتراح طريقة لا تتطلب تدريبًا تجمع بين التوطين السببي وإسقاط الفضاء الفرعي الواعي للاحتفاظ. تم تصميم الطريقة للتنقل بين التشابك بين السمات المستهدفة والمحتفظ بها.
النتائج التجريبية
قيم المؤلفون CLRP مقابل أربعة نماذج مرجعية (الارتفاع المتدرج، فرق التدرج، تقليل KL، وتحسين التفضيل) على نماذج LLaVA-1.5-7B، LLaVA-1.5-13B، و Qwen2.5-VL-3B.
صعوبة النسيان: كشف التقييم أن نوع السمة يؤثر بشكل كبير على صعوبة النسيان. كانت السمات العددية هي الأسهل في الكبح باستمرار (وصلت غالبًا إلى دقة تقارب الصفر)، بينما احتفظت النصوص الطويلة والنصوص القصيرة بقدر كبير من المعلومات المتبقية عبر جميع الطرق المرجعية.
مكاسب الأداء: أظهر CLRP أداءً فائقًا في الموازنة بين النسيان والاحتفاظ.
في نتائج نسبة نسيان 5% لـ LLaVA-1.5-7B و Qwen2.5-VL-3B، خفض CLRP دقة ملء الفراغات في مجموعة النسيان للسمات بما يصل إلى 16.00 نقطة مئوية (على سبيل المثال، من 20.00% إلى 4.00%) مقارنة بأقوى نموذج مرجعي.
وفي الوقت نفسه، حسن دقة ملء الفراغات في مجموعة الاحتفاظ بالسمات بما يصل إلى 3.02 نقطة مئوية (على سبيلًا المثال، من 14.77% إلى 17.79%)، مما يثبت قدرة أفضل على الحفاظ على الحقائق غير المستهدفة لنفس الملف الشخصي.
تحليل المقايضة: أظهرت الطرق الموجودة مقايضات غير مستقرة، حيث أدت غالبًا إلى تدهور الاحتفاظ بالسمات ذات الملف الشخصي نفسه عند محاولة نسيان الأهداف. حقق CLRP أفضل النتائج أو تساوى في الأفضل في 8 من أصل 9 حالات (نموذج-سمة) لدقة مجموعة نسيان السمات، وأظهر أيضًا درجات احتفاظ محسنة، مما يشير إلى أن النسيان القوي للهدف لم يأتِ على حساب تدهور الملف الشخصي بالكامل.
الأهمية والادعاءات
يزعم البحث أن AMU-Bench يكشف عن محدودية مناهج النسيان الحالية على مستوى الملف الشخصي، وبالتحديد صعوبة الحفاظ على المعرفة ذات الملف الشخصي نفسه مع إزالة سمات محددة. ويؤكد المؤلفون أن CLRP يوفر حلاً فعالًا لهذه المهمة الدقيقة من خلال الاستفية من التوطين السببي لتحديد طبقات التدخل، والإسقاط الواعي للاحتفاظ للتمييز بين تمثيلات السمة المستهدفة وتمثيلات الهوية المشتركة.
تكمس تكمن أهمية هذا العمل في انتقاله من الحذف العام للكيانات إلى نسيان السمات الدقيق، وهو إعداد يتوافق بشكل أفضل مع طلبات الخصوصية العملية. وتشير النتائج إلى أن النسيان الانتقائي ممكن في النماذج اللغبية الكبيرة متعددة الوسائط دون إعادة تدريب، شريطة أن يكون التدخل محليًا سببيًا ومقيدًا بهندسة واعية للاحتفاظ. ويخلص المؤلفون إلى أن نهجهم يحقق أداءً يمثل حالة متقدمة (SOTA) في الموازنة بين كبح السمات المحددة والحفاظ على المعلومات غير المستهدفة ضمن نفس الملف الشخصي.