🤖 AI

EraseAnything++: Enabling Concept Erasure in Rectified Flow Transformers Leveraging Multi-Object Optimization

يُعد EraseAnything++ إطار عمل موحداً يُمكّن من المحو الفعال للمفاهيم في نماذج الانتشار القائمة على التدفق المستقيمة للصور والفيديو، وذلك عبر صياغة المهمة كمسألة تحسين متعددة الأهداف مقيدة، وتوظيف جراحة التدرج الضمني، والضبط الدقيق القائم على LoRA، وآلية الارتكاز والانتشار لتحقيق التوازن بين فعالية المحو والجودة التوليدية والاتساق الزمني.

المؤلفون الأصليون: Zhaoxin Fan, Nanxiang Jiang, Daiheng Gao, Shiji Zhou, Wenjun Wu

نُشر 2026-03-03

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Zhaoxin Fan, Nanxiang Jiang, Daiheng Gao, Shiji Zhou, Wenjun Wu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك فناناً موهوباً للغاية وذكياً جداً يُدعى Flux (أو OpenSora للفيديوهات). هذا الفنان يمكنه رسم أي شيء تصفه له: قطة ببدلة فضاء، أو غروب الشمس فوق باريس، أو شخصية تاريخية. إنه بارع جداً لدرجة أنه تعلم من مليارات الصور الموجودة على الإنترنت.

لكن هناك مشكلة. لأنه تعلم من "كل شيء"، فقد تعلم أيضاً بعض الأشياء التي لا نريد منه رسمها، مثل العري، أو العنف، أو الشخصيات المحمية بحقوق النشر. إذا طلبت منه "رسم فتاة"، فقد يرسمها عارية عن غير قصد. وإذا طلبت منه "وردة حمراء"، فقد يضع شعاراً معيناً محمياً بحقوق النشر دون قصد.

نريد تعليم هذا الفنان كيف ينسى هذه الأشياء السيئة المحددة دون أن ينسى القدرة على رسم أي شيء آخر. وهذا ما يسمى محو المفاهيم (Concept Erasure).

الطريقة القديمة: "الضرب المبرح" باستخدام المطرقة الثقيلة

حاولت الطرق السابقة إصلاح ذلك عبر توجيه ضربة مبرحة لعقل الفنان. كانوا يقولون له: "توقف عن التفكير في كلمة 'عارٍ'!" ويقومون فعلياً بحذف الخلايا العصبية المرتبطة بهذه الكلمة.

المشكلة: الأمر يشبه محاولة إزالة مكون معين من حساء معقد عن طريق تحطيم القدر بأكمله. قد توقف جزء "العري"، لكنك ستفسد أيضاً جزء "الفتاة"، وجزء "الشعر"، وجزء "الإضاءة". يصبح الفنان مرتبكاً، وينتج صوراً ضبابية أو غريبة، أو ينسى كيفية رسم أشياء آمنة تماماً.
مشكلة الفيديو: عندما تطلب من الفنان صنع فيديو، تصبح المشكلة أسوأ. حتى لو أصلحت الإطار الأول، فإن "الفكرة السيئة" تتسرب إلى الإطار التالي، ثم الذي يليه. يبدأ الفيديو بصورة آمنة، ولكن بحلول نهايته، تكون الشخصية قد تحولت عائدة إلى النسخة غير اللائقة.

الحل الجديد: EraseAnything++

ابتكر مؤلفو هذه الورقة البحثية طريقة جديدة ومتطورة تسمى EraseAnything++. فكر فيها ليس كمطرقة ثقيلة، بل كـ مشرط ليزر عالي الدقة موجه بواسطة نظام تحديد مواقع (GPS) ذكي جداً.

إليك كيف يعمل، باستخدام تشبيهات بسيطة:

1. "لاعب السيرك على الحبل" (التحسين متعدد الأهداف)

تخيل أن الفنان يمشي على حبل مشدود.

على الجانب الأيسر يوجد حفرة من المفاهيم السيئة (ما نريد محوه).
وعلى الجانب الأيمن يوجد حفرة من المفاهيم الجيدة (ما نريد الحفاظ عليه).
الهدف هو المشي بالقرب من الجانب "السيئ" لدفع الفكرة بعيداً، دون السقوط في الجانب "الجيد".

الطرق القديمة كانت تدفع بقوة في اتجاه واحد فتسقط. أما EraseAnything++ فيستخدم "عملية توازن رياضية". فهو يتحقق باستمرار: "إذا دفعت مفهوم 'العري' بعيداً، هل أدفع بالخطأ مفهوم 'الفتاة' بعيداً أيضاً؟" إذا كانت الإجابة نعم، فإنه يعدل خطوته بلطف ليبقى في أمان. هذا يضمن أن الفنان ينسى الأشياء السيئة لكنه يتذكر كل شيء آخر بدقة مثالية.

2. "الجاسوس الدلالي" (التعامل مع أسلوب الفنان الجديد)

الفنانون الجدد (Flux/OpenSora) لا يتحدثون نفس لغة الفنانين القدامى. إنهم يستخدمون قاموساً معقداً (T5) حيث ترتبط الكلمات ببعضها من خلال المعنى، وليس فقط من خلال التهجئة.

الفخ: إذا أخبرت الفنان القديم أن ينسى كلمة "عارٍ"، فقد لا يزال يرسمها إذا قلت له "غير ملبوس" أو "مكشوف".
الحل: تستخدم الطريقة الجديدة "جاسوس ذكاء اصطناعي" (نموذج لغوي كبير) للعثور على جميع المرادفات الخادعة والكلمات ذات الصلة. ثم تعلم الفنان: "مهما كانت الطريقة التي تعبر بها، إذا كان معناها 'عارٍ'، فلا ترسمها". إنها تجبر الفنان على فصل فكرة العري عن الصورة، وليس فقط الكلمة المحددة.

3. "المرساة والانتشار" (من أجل الفيديو)

هذه هي الخدعة السحرية للفيديوهات. تخيل أنك تقوم بتحرير فيلم مدته 10 ثوانٍ.

المرساة: تبدأ بتنظيف الإطار الأول تماماً. تتأكد من أن "المفهوم السيئ" قد اختفى تماماً في البداية.
الانتشار: الآن، يجب أن تتأكد من أن المفهوم السيئ لا يتسلل مجدداً خلال الثواني من 2 إلى 10. تعمل هذه الطريقة كـ "حارس" يثبت سلامة الإطار الأول ويجبر كل إطار لاحق على اتباع نفس القاعدة. إنها تمنع "الفكرة السيئة" من التسرب عبر الزمن، مما يضمن بقاء الفيديو نظيفاً من البداية إلى النهاية.

لماذا يعد هذا أمراً هاماً؟

إنه دقيق: فهو يزيل الشيء السيئ المحدد (مثل العري) دون إفساد بقية الصورة (مثل الخلفية أو وجه الشخص).
إنه قوي: لا يمكنك خداعه باستخدام كلمات مكتوبة بشكل خاطئ أو مرادفات غريبة. إنه يفهم المعنى.
إنه يعمل للأفلام: إنه يحل مشكلة "الانجراف الزمني" حيث تظهر الأشياء السيئة مجدداً في الإطارات اللاحقة من الفيديو.

الخلاصة

EraseAnything++ يشبه إعطاء فنان فائق الذكاء مجموعة من القواعد الصارمة والذكية. بدلاً من تحطيم عقله لجعله ينسى، فإنه يوجهه بلطف لتجاهل مواضيع خطيرة محددة مع الحفاظ على موهبته المذهلة في كل شيء آخر. إنه يجعل الذكاء الاصطناعي أكثر أماناً للجميع دون جعله أقل إبداعاً.

إليك ملخص تقني مفصل لورقة البحث "EraseAnything++: تمكين محو المفاهيم في نماذج محولات التدفق التصحيحي عبر تحسين متعدد الأهداف".

1. بيان المشكلة

انتقل التطور السريع للذكاء الاصطناائي التوليدي من نماذج الانتشار التقليدية القائمة على بنية U-Net (مثل Stable Diffusion v1/2) إلى محولات مطابقة التدفق (Flow-Matching Transformers) (مثل Flux، وStable Diffusion 3، وOpenSora). وبينما توفر هذه النماذج من الجيل التالي دقة أعلى في اتباع الأوامر النصية، وجودة صور فائقة، واتساقاً في الفيديو، إلا أنها تفرض تحديات جديدة لعملية محو المفاهيم (Concept Erasure) — وهي الإزالة المستهدفة للمفاهيم غير الآمنة أو غير المرغوب فيها (مثل العري، أو الأنماط المحمية بحقوق الطبع والنشر) مع الحفاظ على القدرات التوليدية العامة.

تفشل طرق محو المفاهيم الحالية في هذا النموذج الجديد بسبب ثلاث عوائق رئيسية:

عدم التوافق الهيكلي: تعتمد الطرق الكلاسيكية (مثل ESD وCA) على التلاعب بطبقات الانتباه المتقاطع (cross-attention) الصريحة في نماذج U-Net. أما المحولات الحديثة القائمة على التدفق (مثل Flux) فتستخدم آليات انتباه موحدة حيث يتم دمج رموز (tokens) النصوص والصور، مما يجعل التلاعب المباشر بالأوزان غير فعال ويؤدي إلى ظهور "بقايا المفهوم" (concept residue).
قصور أجهزة الترميز (Encoders): تستخدم النماذج الحديثة مشفرات نص T5 (على مستوى الجملة) بدلاً من CLIP (على مستوى الكلمات). وتعتبر تضمينات T5 أقل موثوقية في فحوصات التشابه الدلالي، مما يجعل من الصعب تحديد المفاهيم غير ذات الصلة والحفاظ عليها أو توليد أوامر معادية (adversarial prompts) فعالة.
الانجراف الزمني في الفيديو: في نماذج تحويل النص إلى فيديو (T2V)، لا يضمن محو مفهوم في الإطار الأول إزالته في الإطارات اللاحقة بسبب آليات الانتباه الزمني، مما يؤدي إلى "انجراف المفهوم" (concept drift) وتراكم الأخطاء.

2. المنهجية

تقترح EraseAnything++ إطار عمل موحداً يعامل محو المفهوم كمسألة تحسين متعدد الأهداف مقيد (Constrained Multi-Objective Optimization - MOO). الهدف هو تعظيم إزالة المفهوم المستهدف ( $L_e$ ) مع الالتزام الصارم بحدود تدهور المفاهيم غير ذات الصلة ( $L_p$ ).

أ. إطار التحسين الموحد (جراحة التدرج الضمنية)

بدلاً من وزن الخسارة القياسي، يصيغ المؤلفون المشكلة كالتالي:
$\max_{d_t} \nabla L_e \cdot d_t - \frac{1}{2}\|d_t\|^2 \quad \text{s.t.} \quad \nabla L_p \cdot d_t \geq -\epsilon_t$
حيث $\epsilon_t$ هو عتبة التسامح.

الحل الصريح: استخرج المؤلفون حلاً مغلق الصيغة باستخدام مضاعفات لاجرانج لإسقاط تدرج المحو على قيد الحفظ.
الجراحة الضمنية الفعالة: لتجنب التكلفة الحسابية لحساب تدرجين منفصلين، قدموا طريقة "جراحة التدرج الضمنية" (Implicit Gradient Surgery). وهي تقرب اتجاه التحديث الأمثل باستخدام تمريرة خلفية واحدة (backpropagation) عبر تحديث متغير مزدوج ( $\lambda_t$ ) ديناميكياً بناءً على الانجراف الملحوظ في خسارة الحفظ. يضمن ذلك القابلية للتوسع للنماذج الضخمة.

ب. توليد الصور (Flux)

هدف المحو ( $L_e$ ): يجمع بين خسارة Flow-Matching ESD المعدلة (التي تدفع تنبؤات السرعة نحو المسارات غير المشروطة) مع تنظيم خريطة الانتباه (Attention Map Regularization). يعمل الأخير على فرض التشتت (sparsity) على أوزان الانتباه المقابلة للرموز المستهدفة، حتى في غياب طبقات الانتباه المتقاطع الصريحة.
هدف الحفظ ( $L_p$ ):
- الاحتفاظ القائم على LoRA: يستخدم التكيف منخفض الرتبة (Low-Rank Adaptation) لضمان احتفاظ النموذج بالقدرة على توليد المفاهيم غير ذات الصلة.
- خسارة التباين العكسي الذاتي (RSC): دالة خسارة مبتكرة تستفيد من النماذج اللغوية الكبيرة (LLMs) لتوليد مفاهيم غير ذات صلة، حيث تجبر النموذج على مواءمة سمات المفهوم المستهدف مع مفاهيم غير ذات صلة مع التنافر مع مرادفاته الخاصة. هذا يمنع "استعادة المفهوم" عبر هجمات المرادفات.

ج. توليد الفيديو (OpenSora)

لمعالجة الاتساق الزمني، قدم المؤلفون استراتيجية "المرساة والانتشار" (Anchor-and-Propagate):

المرساة (Anchor): يتم تحسين أهداف المحو والحفظ بالكامل على الإطار المرجعي الأول (المرساة) لإنشاء بذرة "نظيفة".
الانتشار (Propagate): يتم نشر التثبيط المتعلم عبر طبقات الانتباه المكاني-الزماني ثلاثية الأبعاد لنموذج Video DiT.
خسائر الحجم (Volumetric Losses): تم توسيع خسائر ESD وتنظيم الانتباه لتعمل على حجم الفيديو الكامل ( $T \times H \times W \times C$ )، مما يضمن عدم ظهور المفهوم مجدداً في الإطارات اللاحقة بسبب التسرب الزمني.

3. المساهمات الرئيسية

إطار عمل MOO موحد: أول عمل يحدد رسمياً محو المفاهيم في محولات مطابقة التدفق كمسألة تحسين متعدد الأهداف مقيدة، مما يوفر ضماناً نظرياً للموازنة بين المحو والمنفعة.
جراحة التدرج الضمنية: خوارزمية فعالة تحل صراعات التدرج بين المحو والحفظ بتكلفة حسابية تعادل تمريرة خلفية واحدة، مما يجعلها قابلة للتطبيق على نماذج بـ 12 مليار معلمة فأكثر.
خسارة RSC وتكامل LLM: آلية مبتكرة لمعالجة قصور مشفر T5 عبر استخدام النماذج اللغوية الكبيرة لاختيار مفاهيم الحفظ ديناميكياً واستخدام خسارة تباينية لكسر الرابط الدلالي بين الكلمة وتمثيلها البصري.
الاتساق المكاني-الزماني: آلية "المرساة والانتشار" المصممة خصيصاً لنماذج Video DiT لمنع انجراف المفهوم وهلوسة المفهوم في توليد الفيديو طويل الأمد.

4. النتائج التجريبية

تم تقييم الطريقة على Flux.1 [dev] (للصور) و OpenSora-v2 (للفيديو) عبر عدة اختبارات:

محو الصور (العري والأنماط):
- في مجموعة بيانات I2P (العري)، حققت EraseAnything++ أدنى معدل كشف (182 جسماً صريحاً مكتشفاً مقابل 605 في النموذج الأساسي) مع الحفاظ على قيم FID (21.67) وCLIP متفوقة مقارنة بـ UCE وESD.
- في مجموعة بيانات الـ 200 فنان، حققت أعلى درجة موازنة ( $H_a = 6.61$ )، حيث أزالت الأنماط الفنية بفعالية دون إضعاف الأنماط الأخرى.
المتانة: أظهرت مقاومة فائقة للهجمات المعادية (مثل Ring-A-Bell وUnlearnDiffAtk)، متفوقة بشكل كبير على النماذج المرجعية من خلال تعميم المحو على المستوى الدلالي بدلاً من الرموز المحددة.
محو الفيديو:
- حققت معدل عري بنسبة 17.29% على مجموعة بيانات Gen (وهي الأفضل حالياً)، وهي أقل بكثير من T2VUnlearning (19.73%) وVideoEraser (21.45%).
- حافظت على اتساق الموضوع (95.21%) ودقة فئة الكائنات، مما يثبت أنها لا تسبب انهياراً زمنياً أو عيوباً شديدة.
دراسات الاستئصال (Ablation Studies): أكدت أن الجمع بين جميع مكونات الخسارة (ESD، الانتباه، LoRA، RSC) وحلال MOO ضروري. فشلت طريقة التدرج الخطي (Linear scalarization) وحلول MOO القياسية (مثل PCGrad وMGDA) في موازنة الطبيعة غير المتماثلة للمحو مقابل الحفظ.

5. الأهمية

ترسي EraseAnything++ معياراً جديداً للذكاء الاصطناعي التوليدي الآمن في عصر محولات مطابقة التدفق.

القابلية للتوسع: تثبت أن محو المفاهيم ممكن في النماذج الضخمة (12B+ معلمة) دون حدوث نسيان كارثي.
التعميم: من خلال الانتقال من التلاعب بمستوى الرموز إلى التحسين بمستوى الدلالة (عبر RSC وMOO)، تحل المشكلة التي كانت تعاني منها الطرق السابقة وهي "بقايا المفهوم".
سلامة الفيديو: تعالج فجوة حرجة في سلامة توليد الفيديو، حيث توفر آلية قوية لمنع ظهور المحتوى غير الآمن مجدداً بمرور الوقت، وهو أمر ضروري لنشر أنظمة توليد الفيديو طويلة الأمد.