💻 computer science

Not Every Subject Should Stay: Machine Unlearning for Noisy Engagement Recognition

تقترح هذه الورقة إطار عمل خفيف الوزن لـ "إلغاء التعلم" على مستوى الأشخاص لمجموعات بيانات التعرف على التفاعل المشوبة بالضجيج، والذي يزيل بفعالية تأثير الأشخاص المسببين للمشكلات دون الحاجة إلى إعادة تدريب كاملة، مستعيداً أكثر من 89% من مكاسب الأداء للنموذج المثالي بتكلفة حوسبية تعادل ربع التكلفة تقريباً.

المؤلفون الأصليون: Alexander Vedernikov

نُشر 2026-05-07

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Alexander Vedernikov

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك مدرب تدرب فريقاً رياضياً (النموذج الذكي) على التعرف على مدى اندماج الطلاب في فيديو صفي. لقد أمضيت شهوراً في تدريب فريقك باستخدام لقطات لـ 100 طالب مختلف.

الآن، تخيل أنك أدركت أن ثلاثة طلاب محددين كانوا يتصرفون بغرابة شديدة أثناء تسجيلاتهم. ربما كانت الإضاءة سيئة، أو رب شاید كانوا يمرون بيوم سيء، أو ربما ارتبك الشخص الذي كان يصنف الفيديو بشأن سلوكهم. وبسبب ذلك، تعلم فريقك بعض "العادات السيئة" من هؤلاء الطلاب الثلاثة.

عادةً، إذا أردت إصلاح هذا، عليك طرد الفريق بأكمله والبدء في تدريب فريق جديد تماماً باستخدام الطلاب الجيدين فقط. وهذا يستغرف وقتاً وجهداً هائلين.

هذه الورقة البحثية تسأل سؤالاً أبسط: هل يمكننا فقط "إلغاء تدريب" هؤلاء الطلاب الثلاثة تحديداً دون طرد الفريق بأكله؟

إليك كيف حاول المؤلفون حل هذه المشكلة، مشروحة عبر تشبيهات بسيطة:

1. المشكلة: تأثير "التفاحة الفاسدة"

في عالم الذكاء الاصطنا، تأتي البيانات غالباً في مجموعات (مثل الطلاب). إذا كان هناك طالب واحد مربك أو مشوش، فإن مجموعته الكاملة من الفيديوهات يمكن أن تفسد النموذج.

الطريقة القديمة: إذا وجدت مجموعة سيئة، تقوم بحذف بياناتهم وإعادة تدريب النموذج بالكامل من الصفر. الأمر يشبه إعادة بناء منزل لأن طوبة واحدة منه متصدعة.
الفكرة الجديدة: هل يمكننا فقط "توبيخ" النموذج بلطف لكي ينسى تلك الطوبات السيئة المحددة، مع الحفاظ على بقية المنزل سليماً؟ هذا ما يسمى "إلغاء التعلم الآلي" (Machine Unlearning).

2. الطريقة: "التصحيح خفيف الوزن"

لم يحاول المؤلفون إعادة بناء النموذج بالكامل، بل استخدموا حيلة ذكية ومنخفضة التكلفة:

الخطوة 1: تحديد الجناة. نظروا إلى النموذج المدرب وسألوا: "أي الطلاب واجهتم معهم صعوبة أكبر؟" قاموا بترتيب الطلاب حسب مدى ارتباك النموذج تجاههم. تم تحديد الطلاب الثلاثة الأكثر إرباكاً للنموذج ليتم استبعادهم.
الخطوة 2: جراحة "الرأس". يتكون النموذج من جزأين: "الجسم" (الذي يرى ميزات الفيديو) و"الرأس" (الذي يتخذ القرار النهائي). قام المؤلفون بتجميد "الجسم" (حتى لا ينسى كل ما تعلمه بالفعل) وقاموا فقط بإجراء تعديل سريع ومستهدف لـ "الرأس".
الخطوة 3: "الدرس العكسي". عرضوا على النموذج فيديوهات الطلاب السيئين مرة أخرى، لكن هذه المرة أخبروا النموذج: "افعل عكس ما تفعله عادةً مع هؤلاء". هذا يدفع النموذج بعيداً عن العادات السيئة دون مسح معرفته بالطلاب الجيدين.

3. الاختبار: مقارنة "الخبير" (The Oracle)

لمعرفة ما إذا كان هذا قد نجح، أنشأوا اختبار "المعيار الذهبي".

الخبير (The Oracle): أخذوا النموذج الأصلي، ورموا بيانات الطلاب السيئين، وأعادوا تدريب نموذج جديد تماماً من الصفر. هذه هي "النتيجة المثالية"، لكنها مكلفة.
النموذج "الملغي تعليمه": هذا هو النموذج الذي خضع لعملية "جراحة الرأس" السريعة.
النتيجة: قارنوا بين الاثنين. وجدوا أن النموذج "الملغي تعليمه" كان بجودة 90% من "الخبير" (الذي أُعيد تدريبه من الصفر)، لكنه لم يكلف سوى 25% من الوقت والمال للإصلاح.

4. الملحوظة: الأمر يتعلق بـ من تستبعد

وجدت الورقة أن هذه الحيلة تعمل بشكل أفضل عندما تستبعد عدداً صغيراً ومحدداً من الطلاب السيئين (مثل 3 من أصل 100).

إذا استبعدت عدداً قليلاً جداً (واحد فقط)، فلن تعالج المشكلة بشكل كافٍ.
إذا استبعدت عدداً كبيراً جداً (مثل 5)، فستبدأ في رمي بيانات جيدة مع البيانات السيئة، وسيبدأ أداء النموذج في التراجع.
النقطة المثالية: استبعاد مجموعة صغيرة ومستهدفة من الأشخاص "المشوشين" يعطي أكبر دفعة للتحسن.

ملخص

فكر في هذا الأمر مثل تحرير كتاب بعد طباعته.

إعادة التدريب تشبه طباعة الكتاب بأكمله مرة أخرى، ولكن مع ترك الفصول السيئة هذه المرة.
إلغاء التعلم الآلي (هذه الورقة) يشبه استخدام قلم لتشطيب الجمل السيئة بعناية في الكتاب الحالي، ثم إعادة كتابة صفحة الملخص فقط لكي يستقيم سياق القصة مرة أخرى.

الخلاصة:
ليس عليك دائماً رمي النموذج بالكامل والبدء من جديد. إذا استطعت تحديد الأشخاص "المشوشين" تحديداً والذين يسببون المشاكل، يمكنك استخدام تحديث سريع ورخيص لـ "إلغاء تعلمهم" والحصول على نفس النتيجة تقريباً كما لو قمت بإعادة بناء كاملة. ومع ذلك، يجب أن تكون حذراً بشأن من تختار استبعاده؛ فإذا استبعدت الأشخاص الخطأ، فلن ينجح الإصلاح.

ملخص تقني مفصل لورقة البحث: "ليس كل موضوع يجب أن يبقى: نسيان الآلة للتعرف على التفاعل الضوضائي"

بيان المشكلة

تتناول الورقة تحديًا عمليًا في التعرف على التفاعل (Engagement Recognition)، وهي مهمة تتضمن تصنيف مستويات تفاعل المستخدم من بيانات الفيديو. عادة ما تكون مجموعات بيانات التفاعل (مثل DAiSEE وEngageNet) مفهرسة حسب الموضوع (Subject-indexed) وتحتوي على إشراف ضوضائي ذاتي (Noisy, subjective supervision). وبخالي من مشكلات "العلامات الضوضائية" القياسية حيث قد تكون المقاطع الفردية خاطئة التصنيف، فإن الوحدة الإشكالية في هذه المجموعات غالبًا ما تكون الموضوع بأكمله. فقد تشترك مقاطع متعددة لنفس الشخص في غموض في التوسيم، أو عيوب في التسجيل، أو أنماط سلوكية غير نمطية تؤدي إلى إشراف غير منتج.

بمجرد تدريب النموذج الأساسي، يكون الحل الصحيح مفاهميًا لإزالة موضوع إشكالي هو إعادة تدريب النموذج من الصفر على البيانات المتبقية. ومع ذلك، فإن إعادة التدريب الكامل (Full retraining) مكلفة حاسوبيًا، خاصة عندما نحتاج إلى مراجعة مجموعات فرعية متعددة من المواضيع. تطرح الورقة السؤال التالي: هل يمكن إزالة تأثير موضوع إشكالي كامل من نموذج مدرب بالفعل دون الحاجة إلى إعادة تدريب كاملة؟

المنهجية

يقترح المؤلفون إطار عمل لـ نسيان الآلة على مستوى الموضوع (Subject-level machine unlearning) كآلية تنقية لاحقة (Post-hoc sanitization). يتكون البروتوكول من أربع مراحل رئيسية:

تدريب النموذج الأساسي: يتم تدريب نموذج أساسي ( $f_{\theta_0}$ ) على المجموعة الكاملة من مواضيع التدريب ( $S_{tr}$ ) باستخدام بنية ثابتة، وهي TCCT-Net (شبكة التنسور-التلافيف والتحويل-التلافي - Tensor-Convolution and Convolution-Transformer Network).
تحديد الموضوع الضار: بدلاً من افتراض فساد العلامات (Labels) في الحقيقة الأرضية، يعامل المؤلفون "الضرر" كمسألة ترتيب تشغيلية. يقومون بحساب درجة ( $r_s$ ) لكل موضوع بناءً على متوسط خسارة الإنتروبيا المتقاطعة لكل مقطع (Mean per-clip cross-entropy loss) لبيانات ذلك الموضوع تحت النموذج الأساسي المدرب. تشكل المواضيع ذات التصنيف الأعلى- $K$ مجموعة النسيان (Forget-set) ( $F$ ).
تحديث النسيان التقريبي: يتم تطبيق تصحيح خفيف الوزن على النموذج الأساسي لإنتاج النموذج المنسي ( $\tilde{f}_{\theta}$ $\tilde{f}_{θ}$ ).
- تقييد البنية: للحفاظ على كفاءة التحديث، يتم تجميد (Freeze) مستخرج الميزات في المستويات الدنيا لشبكة TC-Net. يتم تحديث طبقات الدمج والتصنيف النهائية (الرأس - Head) فقط.
- دالة الهدف: يقلل التحديث من دالة خسارة مركبة ( $L_{unl}$ $L_{u n l}$ ):
  - $L_{ret}$ : الإنتروبيا المتقاطعة على البيانات المتبقية ( $D_R$ ) للحفاظ على فائدة المهمة.
  - $L_{cons}$ : حد الاتساق (تباعد KL) بين تنبؤات النموذج الأساسي والنموذج المنسي على البيانات المتبقية لمنع الانحراف غير الضروري.
  - $L_{forg}$ : حد إنتروبيا متقاطعة سالبة على البيانات المنسية ( $D_F$ ) لدفع النموذج بعيدًا عن ملاءمة (Fitting) هذه المواضيع (مكافحة الملاءمة).
  - التنظيم (Regularization): حد يعاقب الانحراف عن بارامترات الرأس الأصلية ( $\phi_0$ ).
التقييم المرتكز على النموذج المثالي (Oracle-Centered Evaluation): تتم مقارنة النموذج المنسي بـ النموذج المثالي (Oracle model) ( $f^*_{\theta_F}$ )، والذي يُعاد تدريبه من الصفر على المواضيع المتبقية ( $D_R$ ) فقط. يعمل هذا النموذج المثالي كمرجع نظيف لـ "حل البيانات المتبقية".

المساهمات الرئيسية

صياغة المشكلة: تُعرف الورقة التنقية اللاحقة على مستوى الموضوع كإعداد مشكلة متميز للتعرف على التفاعل، متجاوزةً تصحيح العلامات الضوضائية على مستوى العينة لمعالجة مراجعة البيانات المفهرسة حسب الموضوع.
بروتوكول التقييم: تقدم تقييمًا مرتكزًا على النموذج المثالي يقيس ما إذا كان تحديث النسيان يقترب من حل النموذج الذي تمت إعادة تدريبه من الصفر على البيانات المتبقية، بدلاً من مجرد إحداث اضطراب في النموذج أو تدهور الأداء على البيانات المنسية.
الدراسة التجريبية: تُظهر دراسة منضبطة على مجموعتي DAiSEE و EngageNet متى يكون نسيان مستوى الموضوع مفيدًا، وكيف يعتمد على بناء مجموعة النسيان، ومقايضات الفائدة والكفاءة مقارنة بإعادة التدريب الكاملة.

النتائج

تقيم الدراسة ثلاث حالات للنموذج (الأساسي، المنسي، المثالي) تحت سيناريوهات مجموعات نسيان صغيرة ( $K \in \{1, 3, 5\}$ ).

استعادة الأداء:
- في EngageNet ( $K=3$ )، استعاد النموذج المنسي 89.3% من مكاسب الأداء التي حققها النموذج المثالي (بالنسبة للنموذج الأساسي).
- في DAiSEE ( $K=3$ )، استعاد النموذج المنسي 92.5% من مكاسب النموذج المثالي.
الكفاءة: تطلب تحديث النسيان حوالي ربع التكلفة الحسابية لإعادة تدريب النموذج المثالي بالكامل (بالنسبة لتكلفة وقت التشغيل الفعلي ~0.22×–0.26× مقابل ~0.97×–0.98× لإعادة التدريب).
المقارنة بالطرق الساذجة: أظهر نهج "الإزالة الساذجة + الضبط الدقيق القصير" أداءً أقل بكثير من طريقة النسيان المقترحة، حيث استعاد 36.7% (EngageNet) و 23.3% (DAiSEE) فقط من مكاسب النموذج المثالي.
الحساسية لحجم مجموعة النسيان:
- تحسن الأداء عمومًا من $K=1$ إلى $K=3$ ، مما يشير إلى أن الضرر موزع عبر مجموعة فرعية صغيرة من المواضيع وليس مركزًا في عنصر واحد شاذ.
- عند $K=5$ ، بدأت المكاسب في التشبع أو التراجع، مما يشير إلى أن إزالة الكثير من المواضيع (أبعد من "النواة الضارة") قد يؤدي إلى التخلص من التباين التدريبي المفيد.
- كانت نسبة استعادة فجوة النموذج المثالي (OGR) هي الأعلى عند إعداد $K=3$ المتوسط، مما يشير إلى أن النسيان التقريبي يكون أكثر فعالية عندما يستهدف نظام الإزالة مجموعة فرعية صغيرة ومدققة.

الأهمية والادعاءات

تحافظ الورقة على نطاق متواضع وعملي. فهي لا تدعي تقديم نسيان دقيق أو معتمد، ولا تقترح بنية جديدة للتعرف على التفاعل. بدلاً من ذلك، تكمن أهميتها في إثبات أن:

التصحيح اللاحق قابل للتطبيق: يمكن لنسيان الموضوع التقريبي أن يعمل كـ آلية تصحيح منخفضة التكلفة لبيانات التفاعل الضوضائية، مما يستعيد جزءًا كبيرًا من فوائد إعادة التدريب الكاملة.
المرجع المثالي أمر بالغ الأهمية: التقييم مقابل نموذج مثالي مُعاد تدريبه على البيانات المتبقية ضروري للتمييز بين التنقية المفيدة وبين مجرد إحداث اضطراب في النموذج.
الاعتماد على النظام (Regime dependence): تعتمد فعالية الطريقة بشكل كبير على جودة اختيار الموضوع وحجم مجموعة النسيان. وهي تعمل بشكل أفضل كتصحيح مستهدف لمجموعة صغيرة محددة من المواضيع الضارة بدلاً من كونها استراتيجية تقليم رتيبة.

يخلص المؤلفون إلى أنه على الرغم من أن هذه الطريقة ليست حلاً عالميًا لجميع مجموعات البيانات أو البنى، إلا أنها توفر إطار عمل معقولًا لمراجعة نماذج التفاعل المدربة عندما يكون الإشراف ضوضائيًا ومنظمًا حسب المواضيع.