AdaEraser: Training-Free Object Removal via Adaptive Attention Suppression

ملخص تقني: AdaEraser

بيان المشكلة
تتطلب عملية إزالة الأجسام من الصور ليس فقط التخلص الدقيق من الهدف المحدد من قبل المستخدم، بل وأيضاً إعادة بناء معقولة للخلفية في المناطق التي فرغت. وبينما أظهرت الطرق الحديثة الخالية من التدريب (training-free) والتي تعتمد على نماذج الانتشار (diffusion models) سابقة التدريب نتائج واعدة، إلا أنها غالباً ما تواجه صراعاً جوهرياً: الفعالية في إزالة الجسم مقابل توليد محتوى خلفية عالي الجودة. فالأساليب الحالية، مثل AttentiveEraser، تعتمد عادةً على كبت عشوائي لآلية الانتباه الذاتي (self-attention) داخل مناطق الجسم المحجوب (masked object). وبينما ينجح هذا في إزالة الهدف، فإنه يعطل دون قصد عملية توليد الخلفية؛ لأن إعادة بناء الخلفية تعتمد على القدرات التوليدية للنموذج سابق التدريب — والذي يفترض آلية انتباه ذاتي غير معدلة — مما يؤدي إلى حجب الانتباه تماماً في هذه المناطق إلى ظهور عيوب هيكلية، وتشويهات بصرية، وتوليد خلفية منخفض الجودة.

المنهجية: AdaEraser
لحل هذا الصراع، يقترح المؤلفون AdaEraser، وهو إطار عمل خالٍ من التدريب يقوم بتعديل كبت الانتباه ديناميكياً بناءً على تقدير وجود مفهوم الجسم المستهدف خلال عملية إزالة الضجيج (denoising). وتتمثل الرؤية الجوهرية في أن إزالة الأجسام وتوليد الخلفية هما هدفان متنافسان يتطلبان نهجاً متوازناً وتكيفياً بدلاً من الكبت الثابت والثنائي.

تعمل الطريقة من خلال ثلاث خطوات رئيسية:

1. استخراج انتباه المرجع والهدف:

   • المرجع (Reference): بالنسبة لصورة مصدر $I_{src}$، يقوم النموذج بتوليد خرائط انتباه ذاتي مرجعية ($SAsrc$) عن طريق تطبيق مخطط "t خطوات انتشار + خطوة واحدة لإزالة الضجي_ج". وهذا يحافظ على معلومات ميزات الصورة الأصلية تحت ظروف ضوضائية دون الحاجة إلى عملية عكس كاملة.
   • الهدف (Target): في الوقت نفسه، يقوم النموذج بعملية إزالة الضجيج القياسية لإزالة الجسم على "كمون" (latent) مستهدف تم تهيئته من المصدر، مما يولد خرائط انتباه ذاتي للهدف ($SAtgt$).

2. تقدير درجة الوجود لكل رمز (Token-Wise Presence Score Estimation):

   • لاحظ المؤلفون أن خرائط الانتباه الذاتي تشفر العلاقات السياقية والميزات الدلالية. ويفترضون أن التشابه بين خريطة المرجع (التي تحتوي على الجسم) وخريطة الهدف (حيث يتم إزالة الجسم) يرتبط بمدى بقاء أثر الجسم.
   • يتم حساب درجة وجود لكل رمز $p(i)$ لكل رمز $i$ داخل قناع الجسم باستخدام تشابه جيب التمام (cosine similarity) بين $SAtgt(i)$و$SAsrc(i)$.
   • ومع تقدم عملية إزالة الضجيج وإزالة الجسم، تتباعد المحتويات الدلالية لمنطقة الهدف عن المرجع، مما يؤدي إلى انخفاض درجة التشابه. وتعمل هذه الدرجة كوكيل استدلالي (heuristic proxy) لمستوى وجود الجسم.

3. كبت الانتباه التكيفي (Adaptive Attention Suppression):

   • بدلاً من الكبت الثابت، يحسب AdaEraser معامل كبت $\eta(i)$ لكل رمز بناءً على درجة وجوده: $\eta(i) = 1 - p(i)$ للرموز الموجودة في القناع، و $1$ لغيرها.
   • يقوم هذا المعامل بتعديل درجات الانتباه الذاتي في شبكة UNet أثناء إزالة الضجيج. فعندما يكون الجسم حاضراً بوضوح (تشابه عالٍ)، يكون الكبت قوياً. ومع إزالة الجسم وبدء تشكل الخلفية (تشابه منخفض)، يتم تخفيف الكبت، مما يسمح للنموذج باستخدام قدرته التوليدية الكاملة لإعادة بناء الخلفية بشكل طبيعي.
   • أخيراً، يتم دمج المقدمة (الهدف الذي تمت إزالة الضجيج منه) والخلفية (المصدر الأصلي) باستخدام القناع في كل خطوة زمنية لضمان الاتساق في المناطق غير المزالة.

المساهمات الرئيسية

• استراتيجية التنظيم التكيفي: حددت الورقة أن إزالة الأجسام عالية الجودة تتطلب تنظيماً تكيفياً لكبت الانتباه بناءً على الوجود المتبقي للجسم، بدلاً من الكبت الثابت.
• الوكيل الاستدلالي لكل رمز: اقترحت استخدام تشابه خرائط الانتباه الذاتي لكل رمز كوكيل فعال وخالٍ من التدريب لتقدير وجود الجسم في الفضاء الكمي (latent space)، مما يتغلب على صعوبة الكشف المباشر عن الأجسام في الكمات الضوضائية.
• إطار عمل AdaEraser: قدم المؤلفون إطار عمل كاملاً خالياً من التدريب يدمج هذه الاستراتيجية التكيفية، محققاً توازناً بين إزالة الجسم واستعادة الخلفية.

النتائج التجريبية
أُجريت تجارب مكثفة على مجموعتي بيانات Mulan و OABench باستخدام Stable Diffusion XL (SDXL) كنموذج أساسي، مع تحقق إضافي على SD1.5 و SD2.1 و FLUX.

• الأداء الكمي: تفوق AdaEraser على كل من الطرق القائمة على التدريب (مثل PowerPaint و RORem و SmartEraser) والطرق الخالية من التدريب الحديثة (مثل AttentiveEraser و OmniPaint) عبر جميع المقاييس، بما في ذلك FID و LPIPS و PSNR و ReMOVE و CFD. ومن الجدير بالذكر أنه حقق أعلى تصنيف بشري متوسط (AHR) في الدراسات المستخدمة.
• الأداء النوعي: أظهرت المقارنات البصرية أن AdaEraser يزيل الأجسام بفعالية مع الحفاظ على سياق المشهد وتجنب التشوهات الهيكلية والعيوب الشائعة في الطرق التي تستخدم كبت الانتباه الكامل.
• دراسات الاستئصال (Ablation Studies): أكد المؤلفون أن الكبت التكيفي لكل رمز يتفوق بشكل كبير على استراتيجيات الكبت القائمة على الخطوات الزمنية أو المناطق. كما أكدوا أن استخدام مرجع ديناميكي ($x_{src}^t$) متوافق مع مستوى الضجيج الحالي يعطي نتائج أفضل مقارنة بالمرجع ذي الضجيج الثابت.

الأهمية والادعاءات
تدعي الورقة أن AdaErasza يوفر منظوراً جديداً لإزالة الأجسام من خلال إثبات أن الطرق الخالية من التدريب يمكن أن تتفوق على الطرق القائمة على التدريب عندما يتم استغلال الأولوية التوليدية (generative prior) بشكل أكثر ذكاءً. ومن خلال ضبط قوة الكبت ديناميكياً، يتجنب AdaEraser عيوب الكبت العشوائي للانتباه، مما يحافظ على القدرة التوليدية للنموذج سابق التدريب لإعادة بناء الخلفية. ويضع المؤلفون هذا العمل كخطوة مهمة نحو تحرير صور عالي الجودة وفعال من حيث البيانات لا يتطلب الحصول على مجموعات بيانات متخصصة مكلفة أو ضبط دقيق للنماذج.

القيود والتوجهات المستقبلية
تقر الورقة بأن الأداء يعتمد على جودة القناع؛ فبينما يعد النظام قوياً تجاه الأقنعة الواسعة قليلاً، فإنه يعاني مع الأقنعة غير المكتملة التي تفشل في تغطية الآثار الجانبية الناتجة عن الجسم (مثل الظلال). بالإضافة إلى ذلك، قد يواجه الأسلوب تحديات في المشاهد ذات الأنسجة المتشابهة للغاية أو المحتويات الغامضة دلالياً حيث لا يكون الأولوية التوليدية كافية لإعادة بناء معقدة. يقترح المؤلفون أن العمل المستقبلي قد يتضمن دمج توجيه هيكلي أقوى أو تحديد الآثار الجانية تلقائياً لتحسين المتانة. كما أشاروا إلى أن الطريقة أقل توافقاً مع النماذج المسرعة للغاية (مثل SDXL-Lightning) بسبب انخفاض المعلومات الواردة من ديناميكيات الانتباه في خطوات إزالة الضجيج القليلة.