Unlearning for One-Step Generative Models via Unbalanced Optimal Transport

إليك ملخص تقني مفصل لورقة البحث: "التعلم غير المكتسب للنماذج التوليدية ذات الخطوة الواحدة عبر النقل الأمثل غير المتوازن."

1. بيان المشكلة

السياق: أحدثت النماذج التوليدية ذات الخطوة الواحدة (مثل نماذج الاتساق - Consistency Models، ومطابقة التدفق - Flow Matching) ثورة في توليد الصور من خلال رسم خرائط من الضجيج إلى البيانات في تمريرة أمامية واحدة، مما يوفر جودة تقارب نماذج الانتشار (Diffusion) مع سرعات استدلال أسرع بكثير.
الفجوة: مع زيادة سرعة وقوة هذه النماذج، تزداد مخاطر توليد محتوى ضار (محتوى غير لائق NSFW، أو مواد محمية بحقوق الطبع والنشر). وبينما تم دراسة "التعلم غير المكتسب للآلة" (إزالة مفاهيم محددة من النموذج دون إعادة تدريب) بشكل جيد لنماذج الانتشار متعددة الخطوات، إلا أنه لا يزال غير مستكشف لنماذج الخطوة الواحدة.
التحدي: تعتمد طرق التعلم غير المكتسب الحالية لنماذج الانتشار على عمليات إزالة الضجيج التكرارية (تعديل التدرجات أو التنبؤات عند الخطوات الزمنية المتوسطة). هذه الطرق غير متوافقة مع بنيات الخطوة الواحدة لأنها تفتقر إلى الخطوات المتوسطة؛ حيث يحدث التوليد في عملية رسم خرائط واحدة $G_\theta(x_0)$. علاوة على ذلك، غالبًا ما يؤدي التعلم غير المكتسب القياسي إلى "النسيان الكارثي" أو تدهور شديد في توزيع البيانات المتبقية.

2. المنهجية: UOT-Unlearn

يقترح المؤلفون UOT-Unlearn، وهو إطار عمل "Plug-and-Play" يصيغ التعلم غير المكتسب للفئات كمسألة نقل أمثل غير متوازن (Unbalanced Optimal Transport - UOT).

المفهوم الجوهري: النقل الأمثل غير المتوازن (UOT)

على عكس النقل الأمثل القياسي (OT)، الذي يفرض قيودًا هامشية صارمة (يجب الحفاظ على الكتلة بدقة)، يقوم UOT بتخفيف هذه القيود. فهو يقلل من المقايضة بين:

1. تكلفة النقل (Transport Cost): تكلفة نقل الكتلة الاحتمالية من المصدر إلى الهدف.
2. عقوبة التباعد (Divergence Penalty): عقوبة تباعد $f$ (مثل تباعد KL) التي تسمح بعدم تطابق الهوامش.

في سياق التعلم غير المكتسب، تسمح هذه المرونة للنموذج بـ "إزالة" الكتلة الاحتمالية لفئة النسيان عن طريق إعادة توزيعها إلى فئات صالحة أخرى، بدلاً من إجبارها على حالة جامدة قد تكون منخفضة الجودة.

هدف التعلم غير المكتسب

يعامل إطار العمل عملية التعلم غير المكتسب كعملية بحث عن خريطة نقل $\Delta T_\theta$ تحول التوزيع المدرب مسبقًا ($p_{pre}$) إلى توزيع غير مكتسب ($\pi_1$).

• المصدر: التوزيع المدرب مسبقًا ($p_{pre}$).
• الهدف: توزيع البيانات الكامل ($p_{data}$)، والذي يتم تقريبه بواسطة $p_{pre}$ أثناء التحسين لتجنب الحاجة إلى بيانات استبقاء حقيقية.
• دالة التكلفة ($c_{ul}$): تم تصميم دالة تكلفة مخصصة لمعاقبة توليد مفهوم "النسيان":
  • تكلفة النسيان (Forget Cost): إذا وقعت العينة المولدة ضمن "منطقة النسيان" (المحددة بمرساة في فضاء الميزات $\mu_f$ وهامش $m$)، يتم تطبيق عقوبة ثقيلة تشبه "المفصل" (hinge-like penalty) لدفع الميزات بعيدًا عن مرساة النسيان.
  • تكلفة الاستبقاء (Retain Cost): بالنسبة للعينات خارج منطقة النسيان، يتم فرض مسافة $L_2$ مربعة بين المخرج الجديد والمخرج المدرب مسبقًا للحفاظ على الدقة.

التحسين (Optimization)

تستخدم الطريقة صيغة شبه ثنائية (semi-dual) لـ UOT تتضمن خريطة نقل عصبية ($G_\theta$) وإمكانية ثنائية ($v_\phi$).

• خالٍ من البيانات (Data-Free): من الضروري أن عملية التحسين تتطلب صفر من بيانات الاستبقاء الحقيقية. فهي تعتمد فقط على العينات المولدة من النموذج المدرب مسبقًا ومركز (centroid) مسبق الحساب للنسيان.
• الخوارزمية: تقوم العملية بتحديث الإمكانية الثنائية تكراريًا لتعظيم الحد الأدنى، وتحديث المولد لتقليل تكلفة النقل، مما يؤدي فعليًا إلى إزاحة الكتلة الاحتمالية بعيدًا عن فئة النسيان ونحو فئات الاستبقاء.

3. المساهمات الرئيسية

1. أول إطار عمل للتعلم غير المكتسب للخطوة الواحدة: يقدم أول إطار عمل للتعلم غير المكتسب مصمم خصيصًا للنماذج التوليدية ذات الخطوة الواحدة، مما يعالج فجوة حرجة في الأدبيات.
2. صياغة قائمة على UOT: يقترح هدفًا مبتكرًا يعتمد على النقل الأمثل غير المتوازن الذي يعيد توزيع الكتلة الاحتمالية لفئة المنسية بسلاسة إلى الفئات المتبقية عبر عقوبات تباعد $f$، مما يمنع الانهيار إلى ضجيج.
3. تحسين خالٍ من البيانات: يعمل الأسلوب دون الوصول إلى مجموعات بيانات الاستبقاء الحقيقية أثناء مرحلة التعلم غير المكتسب، معتمداً فقط على العينات الاصطناعية ومرساة محسوبة مسبقًا، مما يجعله عالي الكفاءة ويحافظ على الخصوصية.
4. مقايضة متفوقة: يظهر مقايضة أفضل بكثير بين نجاح التعلم غير المكتسب (محو الهدف) وجودة الاستبقاء (الحفاظ على بقية التوزيع) مقارنة بالنماذج المرجعية المعدلة.

4. النتائج التجريبية

تم تقييم الطريقة على CIFAR-10 و ImageNet-256 باستخدام بنيات CTM و MeanFlow.

• المقاييس:
  • PUL (نسبة التعلم غير المكتسب): تقيس الانخفاض في تكرار فئة النسيان.
  • u-FID (FID غير المكتسب): يقيس جودة الفئات المتبقية مقارنة بالبيانات الحقيقية.
• الأداء:
  • CIFAR-10: حقق UOT-Unlearn أعلى درجات PUL (مثلاً ~90% للفئة 1) مع الحفاظ على أدنى قيم u-FID (مثلاً ~5.11 للفئة 6)، متفوقًا بشكل كبير على النماذج المرجعية مثل Gradient Ascent (GA)، و Selective Amnesia (SA)، و Variational Diffusion Unlearning (VDU).
  • ImageNet-256: في مهام الدقة العالية، تسببت النماذج المرجعية مثل GA في فساد هيكلي شديد (u-FID ~79.89) عند محو فئة ما. حقق UOT-Unlearn محواً قويًا (85.08% PUL) مع الحفاظ على u-FID منخفض (20.16)، مما حافظ على السلامة الهيكلية لفئات الاستبقاء.
• التحليل النوعي: تظهر التمثيلات المرئية على البيانات الاصطناعية ثنائية الأبعاد والصور الحقيقية أن UOT-Unlearn يعيد توزيع "نمط النسيان" (forget mode) بسلاسة إلى "أنماط الاستبقاء" (retain modes) الصالحة، بينما غالبًا ما تشوه النماذج المرجعية التوزيع أو تترك آثارًا متبقية.

5. الأهمية والأثر

• الأمان للمولدات السريعة: مع تحول النماذج ذات الخطوة الواحدة إلى المعيار القياسي لتطبيقات الذكاء الاصطناعي في الوقت الفعلي، يوفر هذا العمل آلية أمان ضرورية لإزالة المفاهيم الضارة دون التكلفة الباهظة لإعادة التدريب الكامل.
• رؤية نظرية: يعيد هذا العمل صياغة التعلم غير المكتسب للآلة ليس كعملية تحديث لمساحة المعلمات أو تعديل لخطوة إزالة الضجيج، بل كـ مسألة نقل احتمالي مقيدة. وهذا يقدم طريقة مبدئية للموازنة بين قوة الإزالة واتساق التوزيع.
• الكفاءة: من خلال إلغاء الحاجة إلى بيانات استبقاء حقيقية والاستفادة من طبيعة التمريرة الواحدة للنماذج، فإن الطريقة تتسم بالكفاءة الحسابية والقابلية للتوسع في مجموعات البيانات الكبيرة.

في الختام، نجح UOT-Unlearn في سد الفجوة بين سرعة نماذج الخطوة الواحدة ومتطلبات الأمان للتعلم غير المكتسب، مقدمًا حلاً قوياً وخالياً من البيانات ومبنياً على أسس نظرية.