Similarity-Aware Machine Unlearning
تقترح هذه الورقة إطار عمل لـ "إلغاء التعلم" (unlearning) مدركاً للتشابه، يستخدم طريقة تحديد مواقع مدركة للبيانات المتبقية لتقليل الأضرار الجانبية على البيانات المتبقية المتشابهة دلالياً مع تحسين كفاءة إلغاء التعلم القياسية، وهو ما تم التحقق منه من خلال مجموعة تقييم مبتكرة وتجارب مكثفة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك بنيت دماغاً رقمياً عملاقاً فائق الذكاء، تعلم كل شيء من مكتبة ضخمة من الصور. هذا الدماغ بارع جداً في عمله لدرجة أنه يستطيع التمييز بين القطة والكلب، أو بين السفينة والسيارة بدقة مذهلة. لكن هناك عقبة: أحياناً، يرغب الناس في حذف صورهم من تلك المكتبة لأسباب تتعلق بالخصوصية أو الخيار الشخصي. إذا قمت ببساطة بحذف الصورة، فقد يظل الدماغ يتذكرها، مثل طالب حفظ حقيقة ما لاختبار ما، ثم نسي كيف يمحو هذا التعلم بعد انتهاء الاختبار. هنا يأتي دور "التعلم غير الموجه" (Machine Unlearning)؛ وهو فن تعليم الكمبيوتر النسيان لأشياء محددة دون الحاجة إلى رمي الدماغ بأكمله وبناء واحد جديد من الصفر، وهو أمر قد يستغرق وقتاً طويلاً ويكلف ثروة.
ومع ذلك، هناك مشكلة معقدة: في دماغ الكمبيوتر، لا تُخزن المعلومات في أدراج منفصلة ومرتبة، بل هي أشبه بشبكة ضخمة من الروابط حيث تتشابك الأشياء المتشابهة معاً. فصورة لكلب من نوع "جولدن ريتريفر" وصورة لكلب من نوع "جولدن لاب" قد تستخدمان نفس مجموعة الروابط تماماً لأنهما تبدوان متشابهتين للغاية. وإذا حاولت قطع الروابط الخاصة بـ "الجولدن ريتريفر" لجعل الدماغ ينساه، فقد تقطع بالخطأ الأسلاك الخاصة بـ "الجولدن لاب" أيضاً، مما يجعل الدماغ ينسى أشياء كان من المفترض أن يحتفظ بها. تدور هذه الورقة البحثية حول إيجاد طريقة لفك تشابك تلك الشبكة حتى نتمكن من حذف الأشياء الصحيحة دون الإضرار بالأشياء المشابهة لها.
اكتشف الباحثون وراء هذه الدراسة، الذين عملوا باستخدام بيانات من مجموعة بيانات "CIFAR-10" الشهيرة (وهي مجموعة من 60,000 صورة ملونة صغيرة) ونموذج يُسمى "ResNet18"، أن الطريقة القديمة للقيام بذلك كانت خشنة بعض الشيء. كانت الطريقة السابقة، المسماة "التحديد المقتصر على النسيان" (forget-only localization)، تشبه بستانياً يحاول اقتلاع عشب ضار معين ولكنه ينظر فقط إلى العشب نفسه. كان يمسك بجذور العشب الضار، ولأن هذا العشب كان ينمو بجوار زهرة جميلة تشبهه تماماً، كان البستاني يقتلع الزهرة بالخطأ أيضاً. وفي مصطلحات الكمبيوتر، تسبب هذا في "أضرار جانبية"، حيث ساء أداء النموذج في التعرف على الصور المحتفظ بها والتي كانت مشابهة جداً للصور التي كان من المفروض نسيانها.
ولإصلاح ذلك، اقترح الفريق طريقة جديدة "واعية بالاحتفاظ" (retain-aware). فبدلاً من مجرد النظر إلى الشيء المراد نسيانه، طلبوا من الكمبيوتر أيضاً النظر إلى الأشياء التي يحتاج إلى الاحتفاظ بها. لقد أنشأوا "خريطة تشابه" خاصة لرؤية أي الصور المحتفظ بها هي الأقرب جيران للصور المنسية. ثم استخدموا نظام تسجيل ذكي لتقرير أي أجزاء من دماغ الكمبيوتر يجب تعديلها. لقد قالوا جوهرياً: "اقطع فقط الأسلاك المهمة جداً للشيء الذي نريد نسيانه، ولكن اترك الأسلاك وشأنها إذا كانت مهمة أيضاً للأشياء المشابهة التي نريد الاحتفاظ بها".
اختبروا ثلاث طرق مختلفة لحساب هذه الدرجات: طريقة الطرح البسيطة، وطريقة موزونة (حيث يمكنهم رفع مستوى اهتمامهم بالحفاظ على الأشياء بأمان)، وطريقة النسبة. وبعد إجراء أحد عشر تجربة مختلفة، وجدوا أن نهجهم الجديد كان يعمل بشكل أفضل بكثير من طريقة "النسيان فقط" القديمة. وتحديداً، كانت "طريقة الفرق تحت العينات" (subsampled difference method) -وهي طريقة محددة للطرح- هي نجمة العرض؛ فقد نجحت في جعل النموذج ينسى الصور المستهدفة مع الحفاظ على دقة الصور المشابهة والمحتفظ بها بشكل شبه مثالي.
تظهر الورقة البحثية أنه من خلال كوننا واعين بالتشابه، يمكننا تقليل "الأضرار الجانبية" بشكل كبير. فعلى سبيل المثال، عندما نظروا إلى مدى أداء النموذج على الصور القريبة بصرياً من الصور المنسية، تسببت طريقتهم الجديدة في انخفاض طفيف جداً في الأداء، بينما تسببت الطريقة القديمة في هبوط ملحوظ. كما تحققوا من أن النموذج لم يكن مجرد يخمن أو يتصرف بغرابة؛ حيث استخدموا اختبار "هجوم استنتاج العضوية" (membership inference attack) -وهو طريقة لمعرفة ما إذا كان النموذج لا يزال يتذكر البيانات المحذوفة سراً- ووجدوا أن طريقتهم الجديدة كانت أفضل بك הרבה في مسح الذاكرة حقاً.
باختصار، يقترح المؤلفون أنه لا يمكننا معاملة النسيان كمجرد مهمة حذف بسيطة. ولأن أدمغة الكمبيوتر تتعلم من خلال إيجاد الأنماط والتشابهات، يجب أن تكون حذراً حتى لا تكسر الأنماط التي تريد الاحتفاظ بها. تعمل طريقتهم الجديدة مثل جراح دقيق بدلاً من مطرقة ثقيلة، حيث تزيل الذاكرة المحددة لصورة منسية دون الإضرار بذاكرة أصدقائها المشابهين لها في المظهر. وبينما اختبروا ذلك على مجموعة محددة من الصور ونوع محدد من النماذج، فإن النتائج تشير إلى أن هذا النهج "الواعي بالاحتفاظ" يعد خطوة واعدة نحو جعل أدوات خصوصية الذكاء الاصطناعي فعالة وآمنة للبيانات التي نريد الاحتفاظ بها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.