تخيل أن لديك روبوتًا فائق الذكاء تعلم التعرف على آلاف الأشياء، من القطط إلى السيارات، من خلال دراسة مكتبة ضخمة من الصور. هذا الروبوت يشبه "النموذج التأسيسي" (Foundation Model)، وهو نوع من الذكاء الاصطناعي المفيد للغاية ولكنه جامد جدًا. الآن، تخيل عالمًا يحتاج فيه هذا الروبوت إلى التحديث باستمرار. ربما يريد مستخدم حذف صوره الخاصة من ذاكرة الروبوت بسبب قانون "الحق في النسيان"، أو ربما تعلم الروبوت شيئًا ضارًا يجب مسحه فورًا. هذا هو عالم "إلغاء التعلم الآلي" (Machine Unlearning). إنه المعادل الرقمي لطلب من طالب أن ينسى فصلًا محددًا من كتاب مدرسي مع الحفاظ على كل ما تعلمه آخرين سليمًا. التحدي صعب: إذا أخبرت الروبوت فقط أن "ينسى"، فقد يظل يتذكر "شكل" المعلومات سرًا، حتى لو لم يعد قادرًا على تسميتها. إذا احتفظ الروبوت بـ "شكل" الذاكرة، فقد يتمكن مخترق ماكر من استخدام خدعة بسيطة لإعادة بناء المعلومات السرية، مما يبطل الغرض من الحذف تمامًا.

هذا هو اللغز الذي يعالجه أسلوب جديد يسمى DECAF (والذي يرمز إلى DE-Clustering for Adaptive Forgetting أو التجميع من أجل النسيان التكيفي). لاحظ الباحثون وراء هذا العمل أن العديد من الطرق الحالية لجعل الروبوتات تنسى تشبه محاولة إخفاء كتاب بمجرد قلب غلافه رأسًا على عقب؛ الكتاب لا يزال موجودًا، ويمكن لأي شخص اكتشافه بسهولة. وجدوا أنه حتى بعد "إلغاء التعلم"، قد يظل عقل الروبوت الداخلي (فضاء الميزات الخاص به) يجمع العناصر المنسية معًا في مجموعات مرتبة ومتقاربة، مثل "نادي سري" لم ينحل بعد. ولحل هذه المشكلة، ابتكروا DECAF، وهي تقنية ذكية لا تكتفي بإخبار الروبوت بالتوقف عن قول الإجابة الصحيحة فحسب، بل تعمل بنشاط على تشويش ذاكرة الروبوت الداخلية للعناصر المنسية، وتفكيك تلك الأندية السرية لضمان ذهاب المعلومات حقًا.

المشكلة: "النادي السري" للبيانات المنسية

بدأ المؤلفون بالنظر في كيفية اختبارنا عادةً ما إذا كان الروبوت قد نسي شيئًا ما. عادةً، نسأل الروبوت ببساطة عن تحديد العناصر التي كان من المفترض أن ينساها. إذا أخطأ في تحديدها، نقول: "رائع، لقد نسيها!". لكن الباحثين اكتشفوا خللًا في هذا المنطق. فحتى عندما يخطئ الروبوت في الإجابة، قد يظل عقله الداخلي ينظم تلك العناصر المنسية في مجموعة متماسكة ومثالية.

تخيل أن لديك صندوقًا من قطع "الليغو" المختلطة. تريد من الروبوت أن ينسى قطع الليغو الحمراء. إذا قلت للروبوت فقط "لا تقل حمراء"، فقد يتوقف عن تسميتها حمراء، ولكن داخل عقله، لا تزال قطع الليغو الحمراء مكدسة بدقة في كومة منفصلة. يمكن لمهاجم ذكي أن ينظر إلى تلك الكومة ويقول: "آها! هذه هي القطع الحمراء!". يطلق الباحثون على هذا اسم "هجوم التجميع" (Clustering Attack). وقد أظهروا أن العديد من الأساليب الحالية تترك البيانات المنسية في هذه الكومات المرتبة، مما يعني أن المعلومات لم تُمسح حقًا؛ بل تم إخفاؤها فقط خلف طبقة من الارتباك.

الحل: خدعة DECAF السحرية المكونة من ثلاث خطوات

لحل هذه المشكلة، اقترح الفريق DECAF، وهو أسلوب يعمل مثل "منظم حفلات فوضوي" لعقل الروبوت. بدلًا من مجرد إخبار الروبوت بالتوقف عن التذكر، يستخدم DECAF ثلاث حيل محددة لتفكيك "النادي السري" للبيانات المنسية. وهو لا يحتاج إلا إلى البيانات التي يُفترض نسيانها، مما يجعله فعالًا جدًا.

1. حفلة الضجيج (تشويه المدخلات - Input Perturbation): أولاً، يضيف DECAF القليل من التشويش أو "الضجيج" إلى صور العناصر المنسية. فكر في هذا كأنه رش "الجليتر" (اللمعان) على قطع الليغو. هذا يجعل القطع الفردية تبدو مختلفة قليًّا ويعبث بالأنماط المرتبة التي كان الروبوت يستخدمها للتعرف عليها. هذا يمنع العناصر المنسية من التكتل معًا في مجموعة ضيقة.
2. هبوط الثقة (كبح الهدف - Target Suppression): بعد ذلك، يخبر الأسلوب الروبوت بالتوقف عن كونه واثقًا جدًا من التصنيف الأصلي. إذا كان الروبوت متأكدًا بنسبة 99% أن الصورة هي "قطة"، فإن DECAF يدفعه ليكون غير متأكد. هذا يضعف ارتباط الروبوت القوي بتلك الفئة المحددة، مما يجعل الذاكرة أقل صلابة.
3. تأثير التشتت (تنويع المخرجات القائم على الإنتروبيا - Entropy-Based Output Diversification): أخيرًا، وهذا هو الجزء الأهم، يجبر DECAF الروبوت على نشر تخميناته. بدلًا من أن تنهار جميع العناصر المنسية في مجموعة جديدة ومختلفة (مثل كومة قطع "زرقاء")، يشجع DECAF الروبوت على تخمين مزيج من أشياء أخرى. الأمر يشبه قولك للروبوت: "إذا لم تكن متأكدًا أنها قطة، فربما تخمن أنها كلب، أو طائر، أو سيارة، لكن لا تخمن 'أزرق' فقط!". هذا يضمن تشتت البيانات المنسية عبر كامل العقل، والاختلاط بكل شيء آخر بحيث لا يمكن العثوة عليها مرة أخرى.

النتائج: تشويش الذاكرة

اختبر الباحثون DECAF على مجموعة بيانات قياسية تسمى CIFAR-10 باستخدام نموذج يسمى ResNet-18. كانت النتائج مبهرة. عندما حاولوا تفكيك "النادي السري" للبيانات المنسية، كان DECAF فعالاً بشكل لا يصدق.

• قوة النسيان: قلل DECAF دقة الفئة المنسية إلى 0.10% فقط. وهذا يعني أن الروبوت توقف تمامًا تقريبًا عن التعرف على العناصر التي كان من المفترض نسيانها.
• الحفاظ على الأشياء الجيدة: والأهم من ذلك، لم يؤدِ ذلك إلى تدمير قدرة الروبوت على التعرف على العناصر الأخرى؛ فقد حافظ على دقة بنسبة 79.4% للبيانات المتبقية، وهي نسبة عالية جدًا.
• الدرجة الكبرى: استخدموا درجة مركبة تسمى AUS (درجة إلغاء التعلم المجمعة) لقياس التوازن بين النسيان وفائدة الاستخدام. سجل DECAF 0.88، وهو أفضل من جميع الأساليب الأخرى التي اختبروها، بل وكان أفضل قليلاً من "المعيار الذهبي" المتمثل في إعادة تدريب الروبوت من الصفر (والذي سجل 0.86).

ولعل الجزء الأكثر إثارة هو السرعة. بينما استغرق إعادة تدريب الروبوت من الصفر أكثر من 1113 ثانية (حوالي 18 دقيقة)، أنجز DECAF المهمة في 9.55 ثانية فقط. كما كان أسرع بكثير من الأساليب الشائعة الأخرى مثل "الضبط الدقيق" (Fine-Tuning) (الذي استغرق 873 ثانية) أو FCS (الذي استغرق 139 ثانية).

لماذا يهم هذا؟

تشير الدراسة إلى أن مجرد جعل الروبوت يعطي إجابة خاطئة ليس كافيًا لحماية الخصوصية. إذا كان عقل الروبوت الداخلي لا يزال يجمع البيانات المنسية معًا، فإن هذه البيانات ستظل عرضة للخطر. يوضح DECAF أنه من خلال تفكيك هذه المجموعات وتشتيت المعلومات بنشاط، يمكننا جعل إلغاء التعلم أكثر أمانًا. إنه وسيلة خفيفة وسريعة وفعالة لضمان أنه عندما يُطلب من الروبوت أن ينسى، فإنه يترك الأمر حقًا، ولا يترك أي أندية سرية خلفه ليجدها المخترقون. وجد الباحثون أن هذا النهج يعمل جيدًا دون الحاجة إلى الوصول إلى بيانات التدريب الأصلية، مما يجعله أداة عملية في المواقف الواقعية حيث تكون خصوصية البيانات ذات أهمية قصوى.