Instruction-based Image Editing with Planning, Reasoning, and Generation
تقترح هذه الورقة إطار عمل مبتكر لتحرير الصور القائم على التعليمات، والذي يربط بين الفهم والتوليد من خلال الاستفادة من نهج تسلسل الأفكار متعدد الوسائط للتعامل بشكل منفصل مع التخطيط، والاستدلال في منطقة التحرير، والتوليد الموجه بالتلميحات، مما يحقق أداءً فائقاً على الصور الواقعية المعقدة مقارنة بالأساليب السابقة أحادية الوسائط.
المؤلفون الأصليون:Liya Ji, Chenyang Qi, Qifeng Chen
تخيل أنك تريد استئجار رسام محترف لإصلاح صورة لك. في الماضي، ربما كان عليك قول شيء غامض مثل، "اجعل هذا يبدو أجمل،" وتأمل أن يخمن الرسام ما تقصده. أو، ربما كان عليك تقديم قائمة طويلة ومعقدة من الخطوات التقنية، آملًا ألا يرتبك الرسام.
يقدم هذا البحث طريقة جديدة للتحدث مع فنان يعمل بالذكاء الاصطناعي تسمى "التعديل عبر تسلسل الأفكار متعدد الوسائط" (Multimodal Chain-of-Thought Editing). فكر في الأمر كأنك توظف مدير مشروع ومراقب عمال للعمل بجانب رسامك، بدلاً من التحدث إلى الرسام مباشرة فقط.
إليك كيف يعمل الأمر، مقسماً إلى خطوات بسيية:
1. المشكلة: فخ "التعليمات الغامضة"
إذا قلت لذكاء اصطناعي قياسي، "اجعل الغرفة أكثر دفئاً،" فقد يقوم ببساطة بتحويل الصورة بأكملها إلى اللون البرتقالي. هو لا يعرف ماذا يغير (الجدران؟ الأثاث؟ الإضاءة؟) أو كيف يفعل ذلك دون إفساد بقية الصورة. الأمر يشبه إخبار طباخ، "اجعل هذا الحساء ألذ،" دون تحديد ما إذا كان عليه إضافة الملح، أو الفلفل، أو الأعشاب.
2. الحل: "فريق الخطوات الثلاث"
ابتكر المؤلفون نظاماً يقسم طلبك إلى ثلاثة أدوار متميزة، تعمل معاً مثل طاقم بناء:
الخطوة 1: مدير المشروع (المخطط)
ماذا يفعل: هذا هو "عقل" العملية. عندما تعطيه تعليمات معقدة (مثل: "اجعلها ليلة عاصفة درامية")، فإن مدير المشروع لا يمرر الرسالة فحسب. بل يتوقف ويفكر.
التشبيه: تخيل أنك سألت مقاولاً أن "يصلح المطبخ". المقاول الجيد لا يبدأ بالدق بالمطرقة فوراً. بل يقسم العمل: "أولاً، نحتاج لإزالة الخزائن القديمة. ثانياً، نحتاج لتركيب إضاءة جديدة. ثالثاً، نحتاج لإعادة طلاء الجدران."
في البحث: يستخدم الذكاء الاصطناعي "تسلسل الأفكاء" (Chain-of-Thought) لتقسيم فكرتك الكبيرة والمجردة إلى قائمة من المهام الصغيرة، المحددة، والقابلة للتنفيذ. إنه يترجم كلمة "درامية" إلى "أضف غيوماً داكنة، وبرقاً، وأمواجاً هائجة".
الخطوة 2: مراقب العمال (المستنتج)
ماذا يفعل: بمجرد أن ينتهي مدير المشروع من قائمة المهام، ينظر المراقب إلى الصورة ويحدد بدقة أين يجب العمل.
التشبيه: إذا قال مدير المشروع "ادهن السماء"، فإن المراقب يرسم خطاً في الرمال ليوضح للرسام بالضبط أين تنتهي السماء وتبدأ الجبال. هذا يمنع الرسام من طلاء الجبال باللون الأزرق عن طريق الخطأ.
في البحث: ينظر نموذج ذكاء اصطناعي خاص إلى الصورة والمهمة المحددة، ثم يرسم "قناعاً" (Stencil رقمي) يوضح بالضبط أي البكسلات (Pixels) يجب أن تتغير. هذا يضمن عدم مسح الشخص الواقف في الصورة بالخطأ أثناء تغيير الخلفية.
الخطوة 3: الرسام (المولد)
ماذا يفعل: هذا هو الذكاء الاصطناعي الفعلي الذي ينشئ الصورة الجديدة. لكنه الآن ليس في حالة تخمين؛ بل لديه مخطط (المهمة المحددة) وقالب (المنطقة المحددة بدقة).
التشبيه: الآن يعرف الرسام تماماً ماذا يفعل وأين يفعله. يمكنه تركيز كل طاقته على جعل السحب تبدو واقعية لأنه ليس قلقاً بشأن إفساد بقية الصورة.
في البحث: هذا هو "نموذج الانتشار" (Diffusion Model) -وهو أحدث تقنيات توليد الصور- والذي يتم توجيهه بواسطة التلميحات من الخطوتين الأولى والثانية.
3. لماذا يعد هذا أمراً هاماً؟
يتعامل مع الأفكار "المجردة": البشر بارعون في فهم كلمات مثل "مريح"، "مخيف"، أو "درامي". النماذج القديمة للذكاء الاصطناعي كانت تعاني مع هذه الكلمات. هذا النظام يترجم تلك المشاعر الضبابية إلى أفعال ملموسة (مثلاً: "مريح" = "أضف بطانيات دافئة ومصباحاً خافتاً").
لا يفسد الصورة: لأن "المراقب" يخبر الذكاء الاصطناعي بالضبط بالمناطق التي لا يجب لمسها، تظل بقية الصورة مثالية.
يشبه المحادثة: يمكنك التحدث معه بشكل طبيعي، وهو يستنتج المنطق وراء طلبك قبل البدء في العمل.
ملخص التشبيه
فكر في تعديل صورة بالطريقة القديمة على أنه صراخ بأمر لرسام معصوب العينين وتمني الحصول على النتيجة الصحيحة.
أما هذه الطريقة الجديدة، فهي تشبه إعطاء الفنان مخططاً تفصيلياً، وقالب تحديد موجه بالليزر، وقائمة مهام خطوة بخطوة. والنتيجة هي صورة تبدو تماماً كما تخيلتها، دون أي لطخات عرضية أو تفاصيل مفقودة.
اختبر المؤلفون هذا النظام على آلاف الصور ووجدوا أنه ينتج تعديلات أفضل وأكثر دقة بكثير من الطرق السابقة، خاصة بالنسبة للطلبات المعقدة أو الإبداعية.
إليك ملخص تقني مفصل للورقة البحثية بعنوان "تعديل الصور القائم على التعليمات باستخدام التخطيط، والاستنتاج، والتوليد" لـ ليا جي، وتشن يانغ كي، وتشي فينغ تشن.
1. بيان المشكلة
يهدف تعديل الصور القائم على التعليمات إلى تعديل الصور باستخدام أوامر باللغة الطبيعية (مثل "غيّر الخلفية لتصبح ذات أجواء ربيعية دافئة"). وبينما حققت الطرق السابقة (مثل InstructPix2Pix وMagicBrush) تقدماً، إلا أنها تواجه تحديات كبيرة:
تعقيد التعليمات: غالباً ما تحتوي التعليمات في العالم الحقيقي على مفاهيم مجردة (مثل "درامي"، "دافئ") أو إجراءات متسلسلة متعددة يصعب على مشفرات النصوص القياسية تفسيرها بدقة.
الافتقار إلى الاستنتاج: تعاني النماذج الحالية غالباً في تفكيك المهام المعقدة إلى مهام فرعية أو تحديد مناطق التعديل الدقيقة، مما يؤدي إلى حدوث "هلوسة" أو تعديلات غير مرغوب فيها في المناطق غير المستهدفة.
الفجوة بين الأنماط (Modality Gap): تعتمد النهج السابقة غالباً على نماذج فهم أحادية النمط، أو تقوم ببساطة باستبدال تضمينات النصوص بنماذج لغوية كبيرة متعددة الوسائط (MLLMs) دون الفصل الصريح بين مراحل التخطيط، والاستنتاج، والتوليد. وينتج عن ذلك نقص في القابلية للتفسير وجودة توليد دون المستوى الأمثل.
2. المنهجية: تعديل سلسلة التفكير (CoT) متعدد الوسائط
يقترح المؤلفون إطار عمل مبتكر يربط بين فهم المشهد والتوليد من خلال عملية تكرارية مكونة من ثلاث مراحل: التخطيط، والاستنتاج، والتوليد.
أ. المرحلة 1: تخطيط سلسلة التفكير (التفكيك)
الهدف: تفكيك تعليمات المستخدم المعقدة والمجردة إلى سلسلة من التلميحات الفرعية المحددة والقابلة للتنفيذ.
الآلية: يقوم مخطط سلسلة التفكير (باستخدام نموذج DeepSeek للاستنتاج) بتحليل الصورة المدخلة وتعليمة المستخدم.
العملية: يقوم بتوليد تسلسل من التعليمات الفرعية (على سبيل المثال: "استبدل السماء"، ثم "غيّر أوراق الشجر لتصبح بألوان الخريف"). تتضمن هندسة الأوامر (Prompt Engineering) عبارات مثل "دعنا نفكر خطوة بخطوة" وتعليمات "التحقق المزدوج" لضمان أن المخطط يأخذ في الاعتبار قدرات شبكة التعديل ويتجنب الخطوات الزائدة أو المتعارضة.
ب. المرحلة 2: استنتاج منطقة التعديل (التحديد المكاني)
الهدف: تحديد المنطقة المكانية الدقيقة (القناع/Mask) لكل تعليمات فرعية.
الآلية: يقوم مستنتج (Reasoner) يعمل بنموذج لغوي كبير متعدد الوسائط (يعتمد على LLaVA وSAM) بأخذ الصورة المدخلة والتعليمات الفرعية المحددة.
الابتكار: على عكس تقسيم الكائنات القياسي (الذي يقسم الكائن نفسه)، يستنتج هذا النموذج منطقة التعديل، والتي قد تشمل مساحة فارغة (على سبيل المثال، "ضع مزهرية على المرحاض" تتطلب تقسيم سطح المرحاض، وليس المرحاض فقط).
التدريب: يتم تدريب النموذج باستخدام تقنية LoRA (التكيف منخفض الرتبة) على النموذج اللغوي الكبير متعدد الوسائط وعلى وحدة فك ترميز نموذج (SAM) للتنبؤ برموز الاستنتاج التي تولد القناع.
ج. المرحلة 3: التوليد الموجه بالتلميحات (التعديل)
الهدف: تنفيذ التعديل بناءً على التلميحات والأقنعة المولدة.
الآلية: يقوم نموذج انتشار شرطي (يعتمد على Stable Diffusion/InstructPix2Pix) بإجراء التعديل الفعلي على الصورة.
تكامل التلميحات: يستخدم النموذج القناع المتوقع (mi) لتقسيم الصورة الحالية إلى مقدمة (xf) وخلفية (xb). يتم ترميز هذه الأجزاء في الفضاء الكامن (Latent Space) ودمجها كشروط مكانية إضافية إلى جانب النص التلميحي (pi).
التوجيه الخالي من التصنيف (CFG): وسع المؤلفون تقنية CFG لتشمل ثلاثة شروط (المقدمة، الخلفية، والنص). أثناء التدريب، يتم إسقاط الشروط عشوائياً للحفاظ على تنوع التوليد مع ضمان قدرة النموذج على التحكم في مناطق محددة بفعالية.
3. المساهمات الرئيسية
إطار عمل سلسلة التفكير (CoT) متعدد الوسائط: أول إطار عمل يفصل صراحةً التعديل القائم على التعليمات إلى تخطيط (تلميحات فرعية)، واستنتاج (أقنعة مكانية)، وتوليد، مستفيداً من النماذج اللغوية الكبيرة متعددة الوسائط لسد الفجوة بين القصد المجرد والتغييرات البصرية الملموسة.
توليد المنطقة القائم على الاستنتاج: نهج مبتكر لتدريب نموذج لغوي كبير متعدد الوسائط على توليد أقنعة تعديل تتجاوز مجرد تقسيم الكائنات البسيطة، لتكون قادرة على تحديد المناطق "غير ذات المعنى" المطلوبة لإضافة الكائنات (مثل المساحة فوق الطاولة).
شبكة تعديل موجهة بالتلميحات: بنية انتشار فعالة تدمج شروط المقدمة والخلفية الكامنة لتوفير تحكم مكاني دقيق، مما يحسن من عملية التعديل القياسية من نص إلى صورة.
مجموعة البيانات والمعايير: إنشاء مجموعة بيانات لـ CoT القائمة على التعليمات بناءً على MagicBrush وتقييم مكثف على مجموعة بيانات MagicBrush ومجموعة بيانات جديدة HQEdit-Abstract (التي تركز على المفاهيم المجردة).
4. النتائج التجريبية
تم تقييم الطريقة مقابل أفضل النماذج المرجعية (InstructPix2Pix، MagicBrush، HIVE، HQEdit) على مجموعتي بيانات:
مجموعة بيانات MagicBrush (الكمية):
حققت الطريقة المقترحة ("Ours") أداءً هو الأفضل في فئتها (SOTA) بإجمالي درجة قدرها 0.5904، متفوقة على MagicBrush (0.5853) وInstructPix2Pix (0.5457).
أظهرت تحسينات ملحوظة في CLIP-I (0.9172) وDINO-I (0.8658)، مما يشير إلى حفظ أفضل لهيكل الصورة والاتساق الدلالي.
مجموعة بيانات HQEdit-Abstract (دراسة المستخدم):
في المفاهيم المجردة (مثل "درامي"، "دافئ")، حققت الطريقة أعلى درجة تجريد (29.41%) في دراسات المستخدم، متفوقة بشكل كبير على النماذج المرجعية.
بينما كانت درجة "جودة التعديل" الخام أقل قليلاً من بعض النماذج المرجعية (بسبب الطبيعة التكرارية للتوليد الشرطي التي قد تؤدي إلى عيوب طفيفة)، إلا أن القدرة على تفسير المفاهيم المجردة كانت متفوقة.
دراسات الاستبعاد (Ablation Studies):
أدى إزالة مرحلة تخطيط CoT إلى انخفاض الدرجات، مما يؤكد ضرورة تفكيك المهام.
استخدام الأقنعة المستنتجة عبر MLLM تفوق على استخدام نماذج LISA المدربة مسبقاً أو الأقنعة الحقيقية (Ground-truth) من حيث CLIP-T (محاذاة النص)، مما يثبت قيمة عملية الاستنتاج.
أظهر توسيع إطار العمل ليشمل نماذج Flux تحسناً في المحاذاة واستيفاء المحتوى.
5. الأهمية
تمثل هذه الورقة تحولاً كبيراً في التعديل القائم على التعليمات من نهج "الصندوق الأسود" من طرف إلى طرف إلى مسار شفاف مدفوع بالاستنتاج.
القابلية للتفسير: من خلال توليد خطط CoT وأقنعة وسيطة، يسمح النظام بتصحيح الأخطاء وتحكم المستخدم بشكل أفضل.
التعامل مع التجريد: نجحت الورقة في معالجة "الفجوة الدلالية" حيث تُترجم لغة البشر المجردة إلى عمليات بصرية ملموسة، وهي خطوة حاسمة للتطبيقات الواقعية مثل التصميم التجاري والأدوات الإبداعية.
القابلية للتوسع: يسمح التصميم المعياري بتكييف إطار العمل مع نماذج توليد مختلفة (مثل Flux)، مما يشير إلى بنية متعددة الاستخدامات لمهام التعديل متعددة الوسائط المستقبلية.