PhyEdit: Towards Real-World Object Manipulation via Physically-Grounded Image Editing
تقدم الورقة البحثية PhyEdit، وهو إطار عمل يعزز معالجة الأجسام في العالم الحقيقي في تحرير الصور من خلال الاستفيد من محاكاة هندسية ثلاثية الأبعاد صريحة وإشراف مشترك ثنائي وثلاثي الأبعاد، مدعوماً بمجموعة بيانات جديدة (RealManip-40K) ومعيار تقييم (ManipEval) لتحقيق دقة فيزيائية وتناسق مكاني متفوقين مقارنة بالنماذج الحالية.
المؤلفون الأصليون:Ruihang Xu, Dewei Zhou, Xiaolong Shen, Fan Ma, Yi Yang
تخيل أنك تلعب ببرنامج تحرير صور رقمي، من النوع الذي يسمح لك بسحب قطة من الجانب الأيسر لصورة ما إلى الجانب الأيمن. تعمل معظم هذه الأدوات مثل الملصق المسطح: فهي تقوم فقط بتحريك الصورة ذهابًا وإيابًا على شاشة ثنائية الأبعاد. لكن العالم الحقيقي ليس مسطحًا؛ إنه عميق. إذا حركت سيارة لعبة لتصبح أقرب إليك في الواقع، فهي لا تنزلق جانبًا فحسب، بل تصبح أكبر، وتزداد تفاصيلها حدة، وقد تحجب الرؤية عن الأشياء التي خلفها. هذا هو الجزء الصعب في "التلاعب ثلاثي الأبعاد" في علوم الحاسوب. يحاول العلماء تعليم الحواسيب فهم هذا العمق، والمنظور، وقوانين الفيزياء، بحيث عندما تقوم الحواسيب بتحرير صورة، تتصرف الأشياء كأشياء حقيقية، وليس مجرد ملصقات مسطحة. هذا أمر بالغ الأهمية لأنه إذا أردنا من الحواسيب مساعدة الروبوتات في تحريك الأشياء أو بناء "نماذج عالمية" تحاكي الواقع، فيجب على الحاسوب أن يعرف أن الشيء لا يمكنه ببساطة الطفو عبر جدار أو تغيير حجمه دون سبب.
إليك PhyEdit، وهي أداة جديدة طورها باحثون في جامعة تشجيانغ تحاول حل مشكلة "الملصق المسطح" هذه. فكر في PhyEdit كمنحوت رقمي لا يكتفي بالرسم على لوحة، بل يبني أولاً نموذجًا ثلاثي الأبعاد للمشهد في ذهنه. عندما تطلب من PhyEdit "تحريك هذه الموزة إلى اليسار"، فهي لا تقوم فقط بتمرير البكسلات. بدلاً من ذلك، تستخدم "نموذج أساسي ثلاثي الأبعاد" لتخمين مدى عمق الموزة، وترفعها من الصورة المسطحة إلى مساحة افتراضية ثلاثية الأبعاد، وتحركها تمامًا إلى حيث تريد، ثم تعيد إسقاطها للأسفل. والأهم من ذلك، أنها تتحقق من عملها باستخدام نظام "إشراف مشترك"، وهو يشبه معلمًا يصحح الرسم النهائي (الصورة ثنائية الأبعاد) والمخطط ثلاثي الأبعاد (خريطة العمق) معًا للتأكد من أن الشيء لم ينكمش أو يتمدد بشكل غريب بطريقة سحرية.
وجد الباحثون أنه بينما غالبًا ما تخطئ الأدوات الحالية في حجم أو موضع الأشياء عند محاولة تحريكها في فضاء ثلاثي الأبعاد، فإن PhyEdit أفضل بكert في الحفاظ على الدقة الفيزيائية. ولإثبات ذلك، لم يكتفوا بالتخمين؛ بل بنوا مجموعة بيانات ضخمة جديدة تسمى RealManip-40K، والتي تحتوي على 40,000 زوج من الصور الواقعية التي تُظهر أشياء يتم تحريكها في مساحة ثلاثية الأبعاد، كاملة مع قياسات العمق. كما أنشأوا اختبارًا يسمى ManipEval لتقييم مدى براعة نماذج الذكاء الاصطناعي المختلفة في التعامل مع هذه التحركات. وعندما أجروا الاختبارات، تفوقت PhyEdit على العديد من الطرق الأخرى، بما في ذلك بعض النماذج التجارية القوية التي تتطلب دفع رسوم لاستخدامها. على سبيل المثال، في اختبار محدد يقيس مدى قرب موضع الشيء الجديد من الهدف، سجلت PhyEdit درجة 65.33 (على مقياس من 0 إلى 100)، بينما سجل النموذج التجاري التالي، Nano Banana Pro، درجة 59.97. ومن حيث دقة الشكل ثلاثي الأبعاد (مسافة Chamfer)، حققت PhyEdit درجة 18.93، وهي أقل بكثير (وهذا أمر أفضل) من درجة النموذج التجاري البالغة 25.33.
تشير الورقة البحثية إلى أن هذا النهج يعمل لأنه يجمع بين دليل ثلاثي الأبعاد "جاهز للاستخدام" وطريقة تدريب تنظر إلى الصورة ثنائية الأبعاد والعمق ثلاثي الأبعاد في وقت واحد. ومع ذلك، يوضح المؤلفون بحذر أن هذا ليس عصا سحرية مثالية بعد؛ فلا يزال النظام يعاني إذا كانت الخريطة ثلاثية الأبعاد التي يبنيها خاطئة (مثل إذا ارتبك مستشعر العمق بسبب جسم لامع) أو إذا كان الطلب مبالغًا فيه، مثل تحريك جسم ليكون قريبًا جدًا من الكاميرا لدرجة تجعله يختفي خلف العدسة. كما وجدوا أنه بينما تعد PhyEdit ممتازة في تحريك الأشياء، إلا أنها ليست بالضرورة أفضل في تغيير لون الشيء أو ملمسه ما لم تعطها تعليمات محددة للغاية. في النهاية، تشير الورقة إلى أنه من خلال ربط تحرير الصور بالفيزياء الحقيقية والهندسة ثلاثية الأبعاد، فإننا نتخذ خطوة كبيرة نحو إنشاء ذكاء اصطناعي يمكنه حقًا فهم العالم والتحكم فيه، بدلاً من مجرد إعادة ترتيب البكسلات على شاشة مسطحة.
ملخص تقني: PhyEdit
بيان المشكلة
تعاني النماذج التوليدية المرئية الحالية، بما في ذلك نماذج محولات الانتشار (diffusion transformers) المتقدمة، من صعوبة في تنفيذ عمليات معالجة الكائنات بدقة فيزيائية في تحرير الصور. وبينما تبرع هذه النماذج في عمليات التحرير على المستوى ثنائي الأبعاد (2D) أو اتباع تعليمات إحداثيات مفصلة، إلا أنها غالبًا ما تفشل في الالتزام بالقوانين الفيزيائية ثلاثية الأبعاد (3D)، مما يؤدي إلى تغيير غير صحيح في الحجم، ومسارات غير متسقة، وتغيرات غير منطقية في العمق أثناء حركة الكائن. ينبع هذا القصور من فجوتين رئيسيتين:
الافتقار إلى التحكم الصريح في الأبعاد الثلاثية والفيزيائية: تفتقر النماذج الحالية إلى آليات لدمج قوانين الإسقاط المنظوري، مما يؤدي إلى سلوكيات غير منطقية فيزيائيًا (على سبيل المثال، عدم تغير حجم الكائنات بشكل صحيح عند اقترابها أو ابتعادها).
غياب البيانات والمعايير عالية الجودة من العالم الحقيقي: تركز مجموعات البيانات الحالية على التغييرات ثنائية الأبعاد أو الأصول ثلاثية الأبعاد الاصطناعية، وتفتقر إلى عينات من العالم الحقيقي ذات قوانين فيزيائية واضحة (مثل تغيرات الحجم الناجمة عن العمق) والتفاعلات غير الصلبة. علاوة على ذلك، تقيم المعايير الحالية مقاييس ثنائية الأبعاد بشكل أساسي، متجاهلة دقة العمق والاتساق الهندسي.
المنهجية: PhyEdit
إن PhyEdit هو إطار عمل يعتمد على محول الانتشار (DiT) مصمم لصياغة التحرير المدرك للأبعاد الثلاثية كعملية رندرة (rendering) للحالة التوليدية. وهو يدمج المحاكاة الهندسية الصريحة كإرشاد بصري مدرك للعمق ثلاثي الأبعاد.
1. بنية النموذج
وحدة التحويل ثلاثي الأبعاد (3D Transformation Module): قبل عملية إزالة الضجيج (denoising)، يأخذ النظام صورة مصدر، وقناع كائن، ومتجه انتقال (الموقع المستهدف في الفضاء ثلاثي الأبعاد). ويستخدم نموذجًا تأسيسيًا ثلاثي الأبعاد (مثل Depth-Anything-3) للتنبؤ بخرائط العمق ووضعيات الكاميرا. بعد ذلك، يتم فك إسقاط الكائن في الفضاء ثلاثي الأبعاد، وتحويله وفقًا لمتجه الهدف، ثم إعادة إسقاطه لإنشاء صورة معاينة مدركة للعمق.
العمود الفقري لـ DiT: يستخدم إطار العمل نموذج DiT مدرب مسبقًا (تحديدًا Qwen-Image-Edit) كعمود فقري. يتضمن تسلسل الرموز (tokens) المدخل يشمل المطالبات النصية، ورموز الكوامن الضوضائية (noisy latent tokens)، ورموز الصورة المصدر، ورموز المعاينة المحولة. تعمل المعاينة كدليل سياقي "plug-and-play"، حيث توفر أولويات هندسية صريحة دون استبدال المدخل البصري الأصلي للصورة.
استراتيجية الإشراف المشترك (Joint Supervision Strategy): لضمان الدقة الفيزيائية، يستخدم التدريب دالة فقدان مشتركة:
على مستوى 2D: فقدان "flow-matching" قياسي في الفضاء الكامن لضمان إعادة بناء المظهر.
على مستوى 3D: حد إشراف في الفضاء العمقي باستخدام فقدان Scale-Invariant Logarithmic (SILog). يقوم النموذج بفك تشفير الكامن المزيل للضجيج إلى صورة، ويقدر عمقها، ويقارنه بخريطة العمق المستهدفة. وهذا يجبر النموذج على تعلم الصحة الهندسية جنبًا إلى جنب مع المظهر.
2. مجموعة البيانات والمعيار
لدعم هذه الطريقة، قدم المؤلفون:
RealManip-40K: مجموعة بيانات عالية الجودة من العالم الحقيقي تحتوي على 40,000 زوج من الصور (Isrc,Itgt) توضح معالجة الكائنات فيزيائيًا في الفضاء ثلاثي الأبعاد. تتضمن تفاصيل خرائط العمق، وأقنعة الكائنات، والإحداثيات ثلاثية الأبعاد. تم تنسيق البيانات من فيديوهات عالية الدقة (مثل OpenVid-1M، VIDGEN-1M) باستخدام تصفية ثابتة للكاميرا واختيار مدرك للعمق لضمان وجود تغيرات عميقة كبيرة وتفاعلات واقعية.
ManipEval: معيار متخصص يحتوي على 200 زوج من الصور وحوالي 320 كائنًا، مصمم لتقييم التحكم المكاني ثلاثي الأبعاد. يقدم مقاييس متعددة الأبعاد تشمل:
الدقة المكانية ثنائية الأبعاد (2D): DIoU و Mask IoU.
دقة العمق: AbsRel و δ1.25.
دقة المعالجة ثلاثية الأبعاد: مسافة Chamfer والمسافة المركزية (Centroid Distance) بين السحب النقطية المعاد بناؤها.
المعقولية الفيزيائية: درجة تعتمد على نموذج لغوي بصري (VLM-based score) تسمى (Phys-VLM) لتقييم الإضاءة، والظلال، والانسداد (occlusion)، واتساق المشهد العام.
النتائج الرئيسية
تظهر التجارب المكثفة على ManipEval أن PhyEdit يتفوق على النماذج المرجعية الحالية، بما في ذلك النماذج التجارية المغلقة القوية (مثل Nano Banana Pro، و GPT-Image-1.5، و Qwen-Image-2.0-Pro).
الأداء الكمي: يحقق PhyEdit أفضل أداء إجمالي عبر مقاييس المعالجة. ومن الملاحظ أنه يحسن DIoU بمقدار 5.36 نقطة ويقلل مسافة Chamfer بمقدار 6.40 نقطة مقارنة بـ Nano Banana Pro. كما يحقق أعلى درجات Phys-VLM، مما يشير إلى واقعية فيزيائية فائقة.
معالجة الكائنات المتعددة: تظهر ميزة PhyEdit بشكل أكثر وضوحًا في سيناريوهات الكائنات المتعددة، حيث يحافظ على هندسة ثلاثية الأبعاد دقيقة وتفاعلات متسقة بشكل أفضل من النماذج المرجعية التي غالبًا ما تفشل في تحرير جميع الكائنات المطلوبة أو تنتج عمقًا غير متسق.
دراسات الاستئصال (Ablation Studies):
الإشراف على العمق: أثبت الإشراف على مستوى البكسل (فك التشفير إلى صورة ثم التنبؤ بالعمق) تفوقه على الإشراف من "الكامن إلى الكامن" أو "الكامن إلى العمق"، مما حسن المقاييس الثنائية والثلاثية الأبعاد بشكل كبير.
الصورة المرجعية: يعد تضمين الصورة المرجعية المحولة ثلاثية الأبعاد (المعاينة) أمرًا حاسمًا. حيث يؤدي إزالتها إلى انخفاض كبير في الأداء (على سبيل المثال، تزداد مسافة Chamfer من 18.93 إلى 46.31)، مما يسلط الضوء على صعوبة استعادة النوايا ثلاثية الأبعاد الدقيقة من النص وحده.
التعميم: يظهر النموذج قدرة قوية على التعميم في مسارات معالجة الكائنات المستمرة ويتعامل مع الكائنات الخارجة عن توزيع التدريب (مثل الأذرع الروبوتية).
الأهمية والادعاءات
يضع البحث PhyEdit كخطوة هامة نحو بناء نماذج عالم تفاعلية قادرة على رندرة انتقالات الحالة المدركة للأبعاد الثلاثية والمتسقة هندسيًا.
سد الفجوة: يعالج هذا العمل الفجوة بين تحرير الصور ثنائية الأبعاد والمحاكاة الفيزيائية ثلاثية الأبعاد من خلال تقديم إرشاد هندسي صريح وإشراف مشترك (2D-3D).
التأسيس الفيزيائي: على عكس الطرق السابقة التي تعتمد على التعلم الضمني أو إعادة البناء ثلاثي الأبعاد الثقيل، يحقق PhyEdit تحريرًا مؤسسًا فيزيائيًا من خلال تصميم خفيف الوزن للشرط (conditioning) والتدريب، مما يجعله قابلًا للتكيف مع مختلف محررات DiT.
القابلية للتطبيق في العالم الحقيقي: من خلال توفير مجموعة بيانات من العالم الحقيقي ومعيار ثلاثي الأبعاد صارم، يهدف المؤلفون إلى تسهيل الأبحاث في تحرير الصور ثلاثي الأبعاد والمعالجة الموجهة للكائنات في مجال الروبوتات، حيث تكون المعالجة الفيزيائية الدقيقة ضرورية.
يقر المؤلفون بوجود قيود، مثل الاعتماد على تقدير الهندسة في المراحل الأولية (العمق/الكاميرا/القناع) والتي يمكن أن تنقل الأخطاء في الحالات القصوى، والصعوبة الحالية في التعامل مع التعليمات النصية المعقدة للغاية وحرة الشكل للقيود الدقيقة. ومع ذلك، يؤكدون أن نهجهم يقلص بفعالية فجوة الأداء بين النماذج مفتوحة المصدر والأنظمة الرائدة المغلقة من حيث المعقولية الفيزيائية والتحكم المكاني.