EditMGT: Unleashing Potentials of Masked Generative Transformers in Image Editing
يقدم EditMGT أول إطار عمل لتحرير الصور يعتمد على المحولات التوليدية المقنعة (Masked Generative Transformer)، والذي يستفيد من فك التشفير الموضعي وأخذ عينات الحفاظ على المنطقة لتحقيق تعديلات دقيقة وعالية الجودة وبسرعات استدلال أسرع بكثير مقارنة بنماذج الانتشار، وكل ذلك دون الحاجة إلى معاملات إضافية.
المؤلفون الأصليون:Wei Chow, Linfeng Li, Lingdong Kong, Zefeng Li, Qi Xu, Hang Song, Tian Ye, Xian Wang, Jinbin Bai, Shilin Xu, Xiangtai Li, Junting Pan, Shaoteng Liu, Ran Zhou, Tianshu Yang, Songhua Liu
تخيل أن لديك أداة سحرية لتعديل الصور. في الماضي، كانت الأدوات الأكثر شهرة تعمل مثل رسام يغمس فرشاته في دلو من الطلاء الرطب ويرشه فوق اللوحة بأكملها. حتى لو كنت تريد فقط تغيير لون قبعة، فإن "الرشة" ستنتشر لتغير السماء، أو الخلفية، أو وجه الشخص عن طريق الخطأ. هذا ما يسميه البحث "تسرب التعديل" (editing leakage).
قرر مؤلفو هذا البحث، EditMGT، تجربة نهج مختلف تمامًا. فبدلاً من رشة الطلاء الرطب، قاموا ببناء أداة تعمل مثل لعبة "الفحص الموضعي" (Spot-Check) عالية التقنية.
إليك تفصيل بسيط لكيفية قيامهم بذلك:
١. المشكلة: فوضى "الطلاء الرطب"
تعمل أفضل محررات الصور الحالية (المسماة نماذج الانتشار - Diffusion Models) عن طريق إزالة الضجيج من الصورة ببطء، خطوة بخوة. المشكلة هي أنها تنظر إلى الصورة بأكملها في كل خطوة. إذا طلبت منها "إضافة قبعة"، فقد تغير نسيج العشب أو لون السماء بالخطأ لأنها تحاول "تحسين" الصورة بأكملها في وقت واحد. الأمر يشبه محاولة إصلاح خطأ مطبعي في كتاب عن طريق إعادة كتابة الصفحة بأكملها؛ قد تصلح الخطأ، لكنك قد تغير أيضاً حبكة القصة عن طريق الخطأ.
٢. الحل: لعبة "الفحص الموضعي" (MGT)
انتقل المؤلفون إلى تقنية مختلفة تسمى المحولات التوليدية المقنعة (Masked Generative Transformers - MGT).
التشبيه: تخيل لغزاً (بازل) حيث بعض القطع مفقودة (مقنعة). بدلاً من إعادة طلاء الصورة بأكملها، ينظر الكمبيوتر إلى القطع المفقودة ويخمن ما يجب أن تكون عليه، واحدة تلو الأخرى، مع ترك القطع الموجودة كما هي تماماً دون تغيير.
الفائدة: إذا كنت تريد تغيير كلب إلى قطة، فإن الكمبيوتر سيلمس قطع "الكلب" فقط. أما الخلفية، والطاولة، والإضاءة فستبقى تماماً كما كانت لأن الكمبيوتر لم ينظر إليها ليجري أي تغيير. هذا يحل مشكلة "التسرب" بشكل طبيعي.
٣. السر الخفي: "البقعة الضوئية" و"الإمساك"
استخدام طريقة اللغز وحدها لم يكن كافياً. كان لا يزال يتعين على الكمبيوتر معرفة مكان الكلب بالضبط حتى لا يغير ذيل القطة إلى ذيل كلب عن طريق الخطأ. أضاف المؤلفون حيلتين ذكيتين:
دمج الانتباه متعدد الطبقات (البقعة الضوئية - The Spotlight): تخيل أن الكمبيوتر هو محقق ينظر إلى مسرح جريمة. في البداية، تكون الأدلة ضبابية. جعل المؤلفون الكمبيوتر ينظر إلى "الأدلة" (خرائط الانتباه) من طبقات عديدة في دماغه ويقوم بتكديسها معاً. هذا يعمل مثل بقعة ضوئية فائقة السطوع تضيء بوضوح المكان الذي يجب أن يحدث فيه التعديل، مما يجعل المنطقة المستهدفة تبرز بينما يظل باقي الجزء مظلماً.
أخذ عينات الحفاظ على المنطقة (علامة "لا تلمس" - The Hold): بمجرد أن تجد البقعة الضوئية الهدف، يحتاج الكمبيوتر إلى أن يكون منضبطاً. علم المؤلفون الكمبيوتر قاعدة: "إذا لم تكن البقعة الضوئية تسلط الضوء على شيء ما، فلا تلمسه!". إذا حاول الكمبيوتر تغيير بكسل في منطقة مظلمة (انتباه منخفض)، فإنه يعيد ذلك البكسل فوراً إلى حالته الأصلية. الأمر يشبه وجود حارس أمن يعكس فوراً أي تغيير يتم إجراؤه في الجزء الخطأ من الغرفة.
٤. النتيجة: سريع، صغير، ودقيق
لأن هذه الطديدة الجديدة فعالة للغاية (فهي لا تحتاج لإعادة حساب الصورة بأكملها في كل مرة)، فإن النتائج مبهرة:
السرعة: تعدل الصور أسرع بـ ٦ مرات من الأدوات الأفضل حالياً. إنه يشبه الانتقال من محرك بخاري ثقيل وبطيء إلى سكوتر كهربائي رشيق.
الحجم: النموذج صغير جداً (أقل من مليار معلمة) مقارنة بمنافسيه (الذين غالباً ما يكون حجمهم أكبر بـ ١٠ أضعاف). إنه يشبه وضع كمبيوتر خارق داخل حقيبة ظهر.
الجودة: يحافظ على تفاصيل الصورة الأصلية بشكل مثالي. إذا طلبت "إضافة قبعة"، ستظهر القبعة، لكن لون بشرة الشخص وأشجار الخلفية ستظل دون مساس.
ملخص
EditMGT يشبه الجراح الذي يستخدم مشرط الليزر، بينما كانت الأدوات السابقة تشبه الرسام الذي يستخدم فرشاة عريضة. من خلال استخدام طريقة "الفحص الموضعي"، وتسليط "بقعة ضوئية" على الهدف، ووضع علامة "لا تلمس" على كل شيء آخر، ابتكر المؤلفون محرراً للصور أسرع، أصغر، وأكثر دقة من أي شيء كان متاحاً من قبل. حتى أنهم بنوا مكتبة ضخمة جديدة من أمثلة التدريب عالية الجودة (تسمى CrispEdit-2M) لتعليم النموذج كيفية القيام بذلك بإتقان.
إليك ملخص تقني مفصل لورقة البحث بعنوان "EditMGT: إطلاق إمكانات المحولات التوليدية المقنعة في تحرير الصور".
1. بيان المشكلة
تعتمد نماذج تحرير الصور المتطورة حاليًا بشكل أساس غالب على نماذج الانتشار (Diffusion Models - DMs). وبينما تحقق هذه النماذج دقة بصرية عالية، إلا أنها تعاني من قصور جوهري: ديناميكيات إزالة الضجيج العالمية (Global Denoising Dynamics).
المشكلة: تقوم نماذج الانتشار بتنقية الصورة بأكملة بشكل كلي في كل خطوة. هذه العملية العالمية غالبًا ما تسبب "تسرب التحرير" (Editing Leakage)، حيث تتسرب التعديلات المخصصة لمنطقة مستهدفة معينة إلى المناطق غير المستهدفة، مما يغير تفاصيل الخلفية أو الكائنات غير ذات الصلة.
عيوب الحلول الحالية: تشمل المحاولات السابقة لإصلاح ذلك استخدام بيانات تدريب واسعة النطاق (تعلم ضمني)، أو أقنعة يدوية (مرونة محدودة)، أو تقنيات العكس (Inversion) (بطء الاستدلال ولا تزال عرضة للتسرب). لا يقدم أي منها آلية لـ حفظ المناطق غير المستهدفة بشكل صريح دون المساس بالسرعة أو الجودة.
2. المنهجية: EditMGT
يقترح المؤلفون EditMGT، وهو أول إطار عمل لتحرير الصور يعتمد على المحولات التوليدية المقنعة (Masked Generative Transformers - MGTs). على عكس نماذج الانتشار، تقوم نماذج MGT بتوليد الصور عن طريق التنبؤ بعدة رموز (Tokens) مقنعة بالتوازي، مما يوفر نموذج فك تشفير محلي.
البنية الأساسية
النموذج الأساسي: مبني على Meissonic، وهو نموذج MGT عالي الدقة (1024×1024).
كفاءة المعلمات (Parameter Efficiency): تم تكييف النموذج للتحرير دون إدخال معلمات إضافية. ويحقق ذلك من خلال حقن الانتباه (Attention Injection)، حيث يتم حقن رموز الصورة الأصلية (CV) في كتل المحول جنباً إلى جنب مع تعليمات النص (CT) والرموز المولدة (CI).
استراتيجية التدريب:
مجموعة البيانات: تم إنشاء CrispEdit-2M، وهي مجموعة بيانات عالية الدقة (≥1024) تحتوي على 2 مليون عينة مصفاة بدقة عبر 7 فئات (إضافة، إزالة، استبدال، نمط، خلفية، لون، حركة).
تدريب ثلاثي المراحل:
النموذج الأساسي: تم ضبطه بدقة باستخدام مشفر لغوي كبير (Gemma2-2B-IT) على 1 مليون زوج من (نص-صورة) لتحسين فهم التعليمات.
الضبط الكامل (Full-Tune): تم التدريب على مجموعة بيانات (صورة-تحرير) الكاملة المكونة من 4 ملايين عينة.
الضبط الكامل عالي الجودة: تم ضبطه بدقة على أعلى 12% من العينات ذات الجمالية العالية ليتوافق مع التفضيلات البشرية.
الابتكارات التقنية الرئيسية
لحل مشكلة "التسرب" وتمكين التحرير الدقيق، قدم EditMGT آليتين مبتكرتين:
الملاحظة: خرائط الانتباه المتقاطع (Cross-attention) الخام بين رموز النص وصور المحتوى تحتوي على إشارات تحديد دلالية ولكنها غالبًا ما تكون مشوشة أو تفتقر إلى حدود واضحة.
الحل: يقوم المؤلفون بتجميع أوزان الانتباه من طبقات متماسكة محددة (الكتل 28–36) وتطبيق الترشيح التكيفي (Adaptive Filtering). يعمل هذا على توحيد الإشارة، مما يخلق خرائط تحديد عالية الدقة ترسم بوضوح المناطق ذات الصلة بالتحرير دون الحاجة إلى أقنعة يدوية.
أخذ عينات الحفاظ على المنطقة (Region-Hold Sampling):
الآلية: أثناء عملية قلب الرموز (Token-flipping) المتكررة، يستخدم النموذج خريطة الانتباه الموحدة لتحديد الرموز التي يجب تعديلها.
الاستراتيجية: يتم إعادة الرموز في المناطق ذات الانتباه المنخفض (المناطق غير المستهدفة) صراحةً إلى رموزها الأصلية (أو تُترك كـ [MASK] لمنع التعديل) بدلاً من إعادة التنبؤ بها.
النتيجة: يؤدي هذا فعليًا إلى "الحفاظ" على المناطق غير المستهدفة، مما يضمن بقاءها مطابقة للصورة المصدر، وبالتالي القضاء على تسرب التحرير.
3. المساهمات الرئيسية
أول إطار عمل للتحرير يعتمد على MGT: يعد EditMGT العمل الرائد الذي يطبق المحولات التوليدية المقنعة على تحرير الصور العام، مستفيدًا من قدرتها المتأصلة على حفظ المناطق غير المقنعة.
تحرير خالٍ من التسرب: من خلال استخدام أخذ عينات الحفاظ على المنطقة بناءً على تحليل الانتباه، يحافظ النموذج صراحةً على المناطق غير المستهدفة، مما يحل مشكلة التسرب المتأصلة في نماذج الانتشار.
مجموعة بيانات CrispEdit-2M: مجموعة بيانات جديدة عالية الدقة (≥1024) تحتوي على 2 مليون عينة تحرير متنوعة عبر 7 فئات، مما يعالج ندرة بيانات التدريب عالية الجودة لنماذج MGT.
تكيف فعال: يحقق النموذج أداءً يضاهي أحدث ما توصل إليه العلم (SOTA) باستخدام 960 مليون معلمة فقط (أصغر بكثير من النماذج المرجعية التي تتراوح بين 6 إلى 12 مليار معلمة) ولا يتطلب معلمات إضافية لمهمة التحرير نفسها.
4. النتائج التجريبية
تم تقييم النموذج على أربعة معايير قياسية: Emu Edit، وMagicBrush، وAnyBench، وGEdit-EN-full.
الأداء:
تشابه الصور: حقق أفضل أداء (SOTA) في معايير Emu Edit وMagicBrush (مقاييس CLIP وDINO).
نقل النمط (Style Transfer): تفوق على نموذج FluxKontext.dev الذي يحتوي على 12 مليار معلمة بنسبة 17.6% في مهام نقل النمط.
تغيير النمط: تحسن بنسبة 3.6% عن ثاني أفضل طريقة في AnyBench.
التعليمات الضمنية: أظهر قدرة فائقة في التعامل مع التعليمات الضمنية (تحسن بنسبة 1.7%).
الكفاءة:
السرعة: يحقق سرعة تحرير أسرع بـ 6 مرات مقارنة بالنماذج المماثلة (حوالي ثانيتين لكل صورة 1024×1024 مقابل أكثر من 12 ثانية للنماذج الأخرى).
الذاكرة: يتطلب 13.8 جيجابايت فقط من ذاكرة وحدة معالجة الرسومات (GPU).
التحليل النوعي: أظهر EditMGT فهمًا فائقًا للتعليمات (على سبيل المثال، تفسير "ضبط اللون" بشكل صحيح لتقليل النغمات الصفراء بدلاً من زيادتها) وحفاظًا أفضل على التركيب الهيكلي الأصلي مقارنة بنماذج الانتشار والنماذج القائمة على التنبؤ المتتالي (AR-based).
5. الأهمية
تحول في النموذج (Paradigm Shift): تتحدى الورقة هيمنة نماذج الانتشار في تحرير الصور، حيث تثبت أن المحولات التوليدية المقنعة تقدم حلاً أكثر طبيعية وفعالية للتحرير المحلي بفضل آلية قلب الرموز الخاصة بها.
سهولة الوصول: من خلال تحقيق نتائج SOTA باستخدام نموذج يقل عن مليار معلمة ومع استدلال أسرع، يخفض EditMGT حاجز الدخول للتحرير عالي الجودة، مما يجعل نشره ممكناً على الأجهزة الاستهلاكية.
الدقة: توفر آلية أخذ عينات الحفاظ على المنطقة المقترحة وسيلة قوية وقابلة للتعلم لمنع التعديلات غير المرغوب فيها، وهو مطلب بالغ الأهمية لعمليات تحرير الصور الاحترافية.
باختصار، يعيد EditMGT تعريف تحرير الصور من خلال الانتقال من إزالة الضجيج العالمية إلى التنبؤ بالرموز المحلية، ونجح في القضاء على تسرب التحريد مع تقديم نتائج أسرع وأكثر دقة وكفاءة في استخدام المعلمات.