ملخص تقني: إطار عمل موحد لنسيان نماذج الانتشار باستخدام تباعد f-divergence

1. بيان المشكلة

أظهرت نماذج الانتشار (Diffusion Models - DMs) لتحويل النص إلى صورة (T2I)، والتي تم تدريبها على مجموعات بيانات ضخمة مستخرجة من الإنترنت (مثل LAION-5B)، قدرات توليدية مذهلة، لكنها ورثت أيضاً خصائص غير مرغوب فيها، بما في ذلك القدرة على توليد محتوى غير لائق (NSFW)، أو أنماط فنية محمية بحقوق الطبع والنشر، أو معلومات شخصية. وبينما يعد إعادة تدريب النماذج على مجموعات بيانات منقحة هو الحل النظري لمحو مفاهيم معينة، إلا أن ذلك مكلف حاسوبياً وغير عملي غالباً بسبب عمليات حذف البيانات أو قيود الموارد.

تعتمد خوارزميات النسيان الحالية عادةً على نموذج يتم فيه محاذاة توليد النموذج لمفهوم "الهدف" (المراد محوه) مع مفهوم "مرجعي" (Anchor concept) (مثل مفهوم فارغ، أو فئة عليا، أو مفهوم مرتبط دلالياً). ويتم تحقيق هذه المحاذاة بشكل شبه حصري من خلال تقليل متوسط الخطأ التربيعي (MSE) بين مخرجات المُنقي (Denoiser) للمفهوم المستهدف والمرجع. نظرياً، يوافق تقليل MSE هذا تقليل تباعد كولباك-ليبلر (KL divergence) بين توزيعين غاوسيين مشروطين بالمفاهيم المعنية. ومع ذلك، فإن هذا النهج يحد من مساحة التحسين لتقتصر على مقياس تباعد واحد، مما قد يكون دون المستوى الأمثل لموازنة فعالية النسيان مع الحفاظ على الأمانة التوليدية للمفاهيم غير المستهدفة.

2. المنهجية

يقترح المؤلفون إطار عمل f-DMU، وهو إطار موحد يعمم هدف النسيان من تباعد KL القياسي إلى أي تباعد f-divergence. يبنى الإطار على ملاحظة أن مشكلة النسيان يمكن صياغها كتقليل للتباعد بين توزيعات الاحتمالات للنموذج الأصلي $\Phi$ (المشروط على المفهوم المرجعي $c$) والنموذج المنسي $\hat{\Phi}$ (المشروط على المفهوم المستهدف $c^*$) عند خطوات زمنية محددة من عملية الانتشار.

الهدف الجوهري هو:
$$\min_{\hat{\Phi}} \mathbb{E}_{c^*, c, t} \left[ D_f \left( p_{\Phi}(x_{t-1}|x_t, c) \parallel p_{\hat{\Phi}}(x_{t-1}|x_t, c^*) \right) \right]$$

يقدم الإطار نهجين متمايزين لحل هذا الهدف، اعتماداً على خصائص نوع الـ f-divergence المختار:

أ. خسائر الصيغة المغلقة (Closed-Form Losses)

بالنسب لعدد فرعي من الـ f-divergences التي توجد لها صيغة مغلقة للتوزيعات الغاوسية (تحديداً عندما تكون التباينات ثابتة، وهو ممارسة قياسية في نماذج الانتشار)، استنتج المؤلفون دوال خسارة محددة. تشمل الحالات الرئيسية ما يلي:

• مسافة هيلينجر التربيعية ($H^2$): تنتج دالة خسارة تتضمن اضمحلالاً أسياً لـ MSE: $J_{H^2} \propto -\exp(-\text{MSE})$. يؤدي هذا إلى تدرجات محدودة تتلاشى مع زيادة MSE، مما يخفف من تأثير القيم المتطرفة ويمنع التغييرات المفاجئة في النموذج.
• تباعد بيرسون $\chi^2$ (Pearson $\chi^2$): ينتج دالة خسارة تتضمن نمواً أسياً لـ MSE: $J_{\chi^2} \propto \exp(\text{MSE})$. يؤدي هذا إلى تدرجات غير محدودة وتنمو بسرعة للأخطاء الكبيرة، مما يؤدي إلى تحديثات أكثر عدوانية.
• تباعد جيفريز (Jeffreys Divergence): يتقلص إلى صيغة MSE القياسية تحت افتراضات معينة.

ب. الخسائر المتغيرة (Variational Losses)

بالنسب لـ f-divergences التي تفتقر إلى صيغة مغلقة (مثل التباين الكلي Total Variation، أو عند الرغبة في صياغة أكثر عمومية)، يستخدم المؤلفون التمثيل المتغير للـ f-divergences. يحول هذا النهج المشكلة إلى لعبة تحسين min-max:
$$\min_{\hat{\Phi}} \max_{T} \mathbb{E} \left[ \mathbb{E}_{p_{\Phi}}[T(\Phi)] - \mathbb{E}_{p_{\hat{\Phi}}}[f^*(T(\hat{\Phi}))] \right]$$
هنا، يعمل $T$ كمميز (Discriminator) (يتم تمثيله بشبكة عصبية) لتقدير التباعد، بينما يعمل $\hat{\Phi}$ كمولد (Generator) يحاول تقليل هذا التباعد. يسمح هذا النهج بتطبيق أي f-divergence على مهمة النسيان.

3. التحليل النظري

يقدم البحث تحليلاً نظرياً رصيناً للإطار المقترح:

• ديناميكيات التدرج: يحلل المؤلفون مقادير التدرج للخسائر ذات الصيغة المغلقة. ويوضحون أن $H^2$ و $\chi^2$ يظهران سلوكاً معاكساً لـ KL/MSE القياسي. حيث يعمل $H^2$ على كبح التدرجات للأخطاء الكبيرة (القيم المتطرفة)، بينما يقوم $\chi^2$ بتضخيمها. هذا الوزن لكل عينة هو خاصية متأصلة في اختيار f-divergence، وهي ميزة متميزة عن جداول تعلم معدل التعلم (learning rate schedulers) القياسية.
• خصائص التقارب: باستخدام نظرية الأنظمة الديناميكية غير الخطية، يثبت المؤلفون الاستقرار الأسي المحلي للصياغة المتغيرة حول نقاط التوازن. كما يستنتجون حدوداً لمعدل التقارب بناءً على القيم الذاتية لمصفوفة جاكوبي (Jacobian matrix). ومن الأهمية بمكان أنهم يظهرون أن اختيار f-divergence يؤثر على سرعة التقارب؛ وتحديداً، فإن التباعدات التي تمتلك مشتقات ثانية أكبر لـ Fenchel conjugates الخاصة بها عند التوازن (مثل $H^2$ و Jensen-Shannon) تتقارب نظرياً بشكل أسرع من غيرها مثل KL أو $\chi^2$.
• البحث عن النمط مقابل تغطية النمط (Mode-Seeking vs. Mode-Covering): يناقش البحث كيف تؤثر التباعدات المختلفة على توزيع الصور المولدة. تظهر $H^2$ و Jensen-Shannon خصائص "متوسطة" للبحث عن النمط (mode-seeking)، بينما تعتبر KL و $\chi^2$ "تغطية للنمط" (mode-covering)، مما قد يخصص احتمالية أعلى للمناطق بين الأنماط.

4. النتالئج التجريبية

تم تقييم الإطار على نماذج Stable Diffusion (الإصدارات v1.4، v1.5، v2.1، XL، و 3) ونموذج FLUX، مستهدفين محو الأجسام (مثل R2D2)، والأنماط الفنية (مثل فان جوخ، مونيه)، والعري.

• استقرار التدرج: أكد التحقق التجريبي أن $H$-DMU (باستخدام $H^2$) يحافظ على تدرجات محدودة طوال فترة التدريب، متجنباً التوليد المتدهور المفاجئ للصور الذي لوحظ في طرق MSE خلال مراحل الضبط الدقيق المتوسطة.
• فعالية النسيان مقابل الحفاظ:
  • الصيغة المغلقة: يتفوق $H$-DMU باستمرار على MSE القياسي في الحفاظ على المفاهيم غير المستهدفة (مقاساً بـ Kernel Inception Distance، KID) مع تحقيق نسيان مماثل أو أفضل للمفاهيم المستهدفة. وعلى العكس من ذلك، يحقق $\chi^2$-DMU نسياناً أقوى ولكن غالباً على حساب الجودة التوليدية والحفاظ على المسبقات.
  • الطريقة المتغيرة: تميل الطرق المتغيرة (مثل $H_v$-DMU) إلى أن تكون أكثر "عدوانية"، حيث تحقق نسياناً سريعاً في عدد أقل من التكرارات، ولكنها غالباً ما تؤدي إلى درجات KID أعلى (جودة صور أقل) بسبب تقديرات التباعد الخشنة على الدفعات الصغيرة.
• المتانة: في سياق محو العري، أظهر $H$-DMU متانة فائقة ضد المطالبات العدائية (مثل Ring-A-Bell، MMA-Diffusion) مقارنة بالطرق الحديثة مثل CAbl، DoCo، و SLD، حيث أنتج صوراً أقل بكثير من المحتوى غير اللائق تحت الهجوم.
• نسيان المفاهيم المتعددة: تعامل الإطار بنجاح مع النسيان المتتالي لـ 10 أنماط فنية، حيث أظهر $H$-DMU مقايضات متفوقة بين النسيان والحفاظ مقارنة بـ MSE.

5. الأهمية والادعاءات

يدعي البحث تقديم أول إطار موحد لنسيان نماذج الانتشار بناءً على f-divergences. وتتمثل مساهماته الرئيسية في:

1. التعميم: تجاوز افتراض KL/MSE الضمني إلى عائلة مرنة من التباعدات، مما يسمه الممارسين باختيار الهدف الأمثل بناءً على أهداف التطبيق المحددة (مثل النسيان العدواني مقابل الحفاظ عالي الدقة).
2. التأسيس النظري: تقديم تحليل نظري لمقاييس التدرج وخصائص التقارب، وربط اختيار التباعد بالاستقرار الخوارزمي وسرعة التنفيذ.
3. الفائدة العملية: إثبات أن حالات محددة، وخاصة مسافة هيلينجر التربيعية ذات الصيغة المغلقة ($H$-DMU)، تقدم خياراً افتراضياً متفوقاً لمعظم مهام النسيان من خلال الموازنة بين الإزالة الفعالة للمفهوم والحفاظ على القدرات التوليدية للنموذج.

يؤكد المؤلفون أن إطار عملهم مستقل عن النموذج (قابل للتطبيق على النماذج القائمة على التدفق - flow-based models أيضاً) ولا يتطلب إعادة التدريب من الصفر، مما يوفر بديلاً فعالاً حاسوبياً وسليماً نظرياً لتقنيات محو المفاهيم الحالية.