FluSplat: Sparse-View 3D Editing without Test-Time Optimization
يُعد FluSplat إطار عمل بنظام التغذية الأمامية يتيح تحرير المشاهد ثلاثية الأبعاد من منظور ضيق مع ضمان الاتساق عبر الرؤى ودقة عالية، وذلك من خلال تقديم مخطط تنظيم عبر الرؤى أثناء التدريب، مما يلغي الحاجة إلى عمليات التحسين المكلفة والمخصصة لكل مشهد أثناء وقت الاختبار.
تخيل أن لديك نموذجًا ثلاثي الأبعاد لغرفة، مثل نسخة رقمية لغرفة معيشتك. تريد استخدام أمر نصي مثل "استبدل الكلب بقطة" لتغييرها.
الطريقة القديمة (طريقة "البطيئة والفوضوية"): فكر في الطرق القديمة كأنك تحاول تلوين منحوتة ثلاثية الأبعاد من خلال النظر إليها من زاويتين فقط. تلون الواجهة الأمامية، ثم تلون الجانب. ولكن لأنك لا ترى المجسم بالكامل دفعة واحدة، قد تلون ذيل الكلب على الواجهة الأمامية لكنك تنسى تلوينه على الجانب. عندما تتحرك حول المنحوتة، سيبدو الكلب مكسورًا أو مشوهًا.
ولإصلاح ذلك، كان على الحواسيب القديمة القيام بعمليات حسابية هائلة في كل مرة تريد فيها إجراء تغيير. كانت تلون، ثم تتحقق من الأخطاء، ثم تعيد التلوين، ثم تتحقق مجددًا، وتكرر ذلك مئات المرات حتى يبدو الكلب صحيحًا من جميع الزوايا. استغرق ذلك دقائق أو حتى ساعات، وكان الأمر يشبه محاولة حل لغز وأنت معصوب العينين.
الطالط الجديدة (طريقة FluSplat: "السحرية الفورية"): لقد ابتكر مؤلفو هذه الورقة البحثية، FluSplat، طريقة أذكى. لقد أدركوا أنه إذا استطعت جعل الصور تبدو متسقة قبل أن تبني الكائن ثلاثي الأبعاد، فإن الكائن ثلاثي الأبعاد سيبني نفسه بشكل مثالي.
إليك كيف فعلوا ذلك، باستخدام بعض التشبيهات البسيطة:
1. تشبيه "المصورين التوأم"
تخيل أن لديك مصورين يقفان في أماكن مختلفة، يلتقطان صورًا لنفس المشهد.
المشكلة: إذا طلبت منهما "تغيير السيارة الحمراء إلى سيارة زرقاء"، فقد يفعل كل منهما ذلك بشكل مختلف. قد يجعل أحدهما السيارة زرقاء زاهية، والآخر يجعلها زرقاء داكنة. إذا حاولت دمج هاتين الصورتين في فيلم ثلاثي الأبعاد، فستبدو السيارة غريبة أو متذبذبة.
حل FluSplat: قبل أن يلتقط المصوران الصورة، يرتديان "نظارات سحرية" خاصة (هذا هو التنظيم عبر الرؤى المتعددة - Cross-View Regularization). هذه النظارات تجبر المصورين على الاتفاق تمامًا على درجة اللون الأزرق المستخدم وعلى مكان السيارة، حتى قبل التقاط الصورة. لقد تم تدريبهما على النظر إلى عمل بعضهما البعض وقول: "لا، يجب أن نتطابق مع ذلك تمامًا".
2. "خدعة السحر ذات الخطوتين"
يقسم FluSplat العملية إلى خطوتين فائقت السرعة تحدثان في رمشة عين واحدة ("forward pass"):
الخطوة 1: التعديل المتسق (الجزء ثنائي الأبعاد) بدلاً من تعديل الكائن ثلاثي الأبعاد مباشرة، يقومون بتعديل الصورتين المسطحتين أولاً. لكنهم لا يعدلون بشكل عشوائي؛ بل يستخدمون تقنية تدريب خاصة (تسمى LoRA و Feature Loss) تعمل مثل معلم صارم.
الفقد العالمي (Global Loss): يضمن أن يبدو المشهد الكامل متسقًا (على سبيل المثال، السماء هي نفس اللون الأزرق في كلتا الصورتين).
الفقد المحلي (Local Loss): يضمن أن الشيء الذي قمت بتغييره (السيارة) يبدو متسقًا في كلتا الصورتين.
النتيجة: تحصل على صورتين مثاليتين ومتطابقتين حيث أصبح الكلب بالتأكيد قطة، وتبدو القطة هي نفسها في كلتا الصورتين.
الخطوة 2: الرفع الفوري إلى 3D (الجزء ثلاثي الأبعاد) بمجرد أن تصبح الصور مثالية، يقومون بتغذيتها في "طابعة ثلاثية الأبعاد" (شبكة عصبية تسمى NoPoSplat). ولأن الصور متوافقة بالفعل مع بعضها البعض، فإن الطابعة لا تحتاج إلى التخمين أو الإصلاح. إنها فقط تقوم بـ "رفع" الصور ثنائية الأبعاد فورًا إلى عالم ثلاثي الأبعاد.
النتيجة: في حوالي 20 ثانية، يكون لديك مشهد ثلاثي الأبعاد مثالي به قطة، جاهز للتجول حوله ومشاهدته من أي زاوية.
لماذا يعد هذا أمراً مهماً؟
السرعة: الطريقة القديمة استغرقت دقائق (مثل انتظار فرن بطيء لخبز كعكة). أما FluSplat فيستغرق ثوانٍ (مثل استخدام الميكروويف لتسخين وجبة). إنه أسرع بـ 10 إلى 20 مرة.
لا حاجة لـ "إعادة الخبز": كانت الطرق القديمة تضطر إلى "إعادة خبز" المشهد في كل مرة تريد فيها إجراء تعديل جديد. أما FluSplat فيقوم بذلك مرة واحدة وينتهي الأمر.
لا توجد تشوهات: نظرًا لأنه تم إجبار الصور على الاتفاق قبل أن تصبح ثلاثية الأبعاد، فإن الكائن ثلاثي الأبعاد النهائي لا يعاني من تلك اللحظات "المشوهة" حيث يبدو الكائن مختلفًا من زوايا مختلفة.
الخلاصة
FluSplat يشبه امتلاك محرر سحري يتعلم كيف "يفكر بالثلاثي الأبعاد" بينما لا يزال يعمل على صور ثنائية الأبعاد. بدلاً من المعاناة لإصلاح نموذج ثلاثي الأبعاد مكسور بعد فوات الأوان، فإنه يضمن أن المكونات (الصور) مثالية قبل خلطها، مما ينتج عنه وجبة ثلاثية الأبعاد لذيذة ومتسقة في الحال.
إليك ملخص تقني مفصل لورقة البحث بعنوان "FluSplat: تحرير المشاهد ثلاثية الأبعاد من منظور ضيق دون الحاجة إلى تحسين وقت الاختبار".
1. بيان المشكلة
تواجه الطرق الحالية لتحرير المشاهد ثلاثية الأبعاد الموجهة بالنصوص ثلاث قيود حرجة:
عدم الكفاءة الحسابية: تعتمد المسارات الحالية (مثل InstructNeRF وInstructGS2GS) على حلقات "التحرير والضبط" التكرارية في وقت الاختبار، حيث تتناوب بين التحرير عبر الانتشار ثنائي الأبعاد (2D diffusion) وإعادة البناء ثلاثي الأبعاد (3D reconstruction) عبر التحسين. هذه العملية مكلفة حسابياً وبطيئة (تستغرق دقائق إلى ساعات لكل مشهد).
عدم الاتساق عبر الرؤى (Cross-View Inconsistency): عندما يتم تطبيق التعديلات ثنائية الأبعاد بشكل مستقل على رؤى مختلفة ثم رفعها إلى ثلاثة أبعاد، فإنها غالباً ما تعاني من عدم محاذاة هندسية ودلالية. هذه التناقضات تتضخم عند رندرة المنظور الجديد، مما يؤدي إلى كسر الواقعية المكانية.
الضبط الخاص بالمشهد: تتطلب العديد من الطرق تحسيناً خاصاً بكل مشهد أو ضبطاً يدوياً للمعلمات الفائقة (hyperparameters)، مما يحد من قابليتها للتطبيق في السيناريوهات التي تتطلب وقتاً حقيقياً أو رؤى ضيقة.
التحدي الجوهري هو تحقيق تحرير ثلاثي الأبعاد عالي الدقة ومتسق عبر الرؤى من مدخلات ضيقة (على سبيل المثال، رؤيتان) في تمريرة أمامية واحدة (single forward pass)، مما يلغي الحاجة إلى تحسين وقت الاختبار.
2. المنهجية: FluSplat
يعتبر FluSplat إطار عمل تغذية أمامية كامل (fully feed-forward framework) يفصل عملية التحرير عن عملية إعادة البناء ثلاثية الأبعاد. وهو يعمل في مرحلتين متتاليتين:
أ. تحرير الصور المتسق عبر الرؤى
بدلاً من تحرير الرؤى بشكل مستقل، يقوم FluSplat بضبط نموذج الانتشار ذو التدفق المستطيل (rectified-flow diffusion model) - وتحديداً FLUX.1 Kontext - لفرض الاتساق عبر رؤى متعددة أثناء عملية التوليد.
البنية: يستخدم النموذج استراتيجية LoRA (التكيف منخفض الرتبة)، حيث يتم إدراج وحدات برتبة r=4 في الطبقات العميقة من هيكل المحول (transformer backbone). يسمح هذا بضبط دقيق فعال من حيث المعلمات مع الحفاظ على الأسبقية التوليدية مسبقة التدريب.
الاستدلال: يستخدم أخذ عينات التدفق المستطيل بخطوة واحدة. يتنبأ النموذج بمجال سرعة مشروط لنقل الضوضاء إلى تمثيلات البيانات (data latents) في تحديث أويلر واحد (Δt=1)، مما يتيح استدلالاً سريعاً.
التنظيم ذاتي الإشراف (Self-Supervised Regularization): يتم ضبط النموذج بدقة دون الحاجة إلى بيانات محررة مقترنة. بدلاً من ذلك، يستخدم وظيفتي خسارة جديدتين لفرض الاتساق بين رؤيتين مدخلتين:
خسارة ميزة الانتشار العالمية (GDFL): تعمل على محاذاة الميزات المتوسطة من شبكة الـ U-Net الخاصة بالانتشار عبر الرؤى المتصلة. يضمن هذا اتساقاً هيكلياً ودلالياً عالياً (مثل الإضاءة، والهندسة العالمية) عبر المشهد.
خسارة ميزة التحرير المحلية (LEFL): تستخدم CLIP لتحديد منطقة الاهتمام بناءً على النص الموجه، ثم تقوم بمحاذاة الميزات الكثيفة (عبر DINOv3) لتلك المناطق المحددة عبر الرؤى. يضمن هذا أن تظل التعديلات الموضعية (مثل تغيير لون كائن ما) متسقة هندسياً دون تشويه الخلفية.
ب. إعادة البناء ثلاثي الأبعاد بنظام التغذية الأمامية
بمجرد تحرير الرؤى الثنائية ومحاذاتها، يتم رفعها إلى ثلاثة أبعاد دون تحسين تكراري.
الآلية: يستخدم النظام شبكة تغذية أمامية بأسلوب NoPoSplat. تأخذ الصور (RGB) المعدلة والمعايير الداخلية للكاميرا كمدخلات.
العملية: يقوم مشفر Vision Transformer (ViT) مشترك بمعالجة الرؤى، ويقوم فك تشفير عبر الرؤى بدمج المعلومات باستخدام الانتباه المتقاطع متعدد الرؤوس (multi-head cross-attention).
المخرجات: تتنبأ رؤوس الانحدار المخصصة مباشرة بمعلمات عناصر الانتشار الغاوسي ثلاثي الأبعاد (3D Gaussian Splatting - 3DGS) (المركز، العتامة، الدوران، المقياس، والتوافقيات الكروية) في تمريرة أمامية واحدة. ومن الجدير بالذكر أن هذه الوحدة خالية من الوضعية (pose-free)، مما يعني أنها لا تتطلب معرفة خارجية للكاميرا (camera extrinsics).
3. المساهمات الرئيسية
أول محرر ثلاثي الأبعاد من منظور ضيق يعتمد كلياً على التغذية الأمامية: يلغي FluSplat الحاجة إلى التحسين لكل مشهد أو توزيع الدرجة التكراري (iterative score distillation)، مما يقلل وقت الاستدلال بعدة مراتب عشرية.
التنظيم عبر الرؤى ذاتي الإشراف: يسمح تقديم GDFL و LEFL للنموذج بتعلم أسبقيات التحرير المتسقة عبر الرؤى مباشرة في نطاق الصورة، مما يحل مشكلة عدم الاتساق قبل الرفع ثلاثي الأبعاد.
فصل التحرير عن إعادة البناء: من خلال ضمان التماسك الهندسي في البعدين (2D) أولاً، تتيح الطريقة رفعاً ثلاثي الأبعاد مباشراً ومستقراً وعاماً، مما يحقق دقة دلالية فائقة.
التعميم القوي: على الرغم من التدريب على مجموعة بيانات واحدة (RealEstate10K)، فإن الطريقة تتعمم بفعالية على مجموعات البيانات المتمحورة حول الأشياء (DTU) وأنواع المشاهد المتنوعة دون الحاجة لتكيف خاص بالمجموعة.
4. النتائج التجريبية
قام المؤلفون بتقييم FluSplat على DTU (المتمحور حول الأشياء)، و IN2N (معيار التحرير ثنائي الأبعاد)، و RealEstate10K (المشاهد واسعة النطاق).
الكفاءة: يكمل FluSplat مسار التحرير وإعادة البناء بالكامل في حوالي 20 ثانية لكل مشهد. في المقابل، تستغرق النماذج المرجعية القائمة على التحسين (مثل DGE و EditSplat و ViP3DE) من 4 إلى 9 دقائق.
الاتساق الدلالي: يحقق FluSplat أعلى درجات تشابه CLIP و التشابه الاتجاهي في كل من التقييمات ثنائية الأبعاد وثلاثية الأبعاد (المنظور الجديد).
تشابه CLIP3D لـ RE10K: نموذجنا (0.218) مقابل DGE (0.195).
تشابه CLIP3D لـ DTU: نموذجنا (0.241) مقابل ViP3DE (0.230).
الاتساق عبر الرؤى: تظهر المقاييس الكمية (مسافة LEFL) أن FluSplat يقلل بشكل كبير من الانحراف الهيكلي والعيوب عبر الرؤى مقارنة بالنماذج المرجعية.
الأداء النوعي: تظهر المقارنات البصرية أن FluSమైన ينتج تحويلات لونية متسقة، ويحافظ بشكل أفضل على الهيكل، ويظهر عيوباً أقل (مثل نزيف الألوان أو الحذف غير المكتمل للأجسام) مقارنة بالطرق السابقة.
5. الأهمية
يمثل FluSplat تحولاً جذرياً في إنشاء المحتوى ثلاثي الأبعاد. من خلال نقل عبء فرض الاتساق من تحسين وقت الاختبار إلى التنظيم أثناء وقت التدريب، فإنه يجعل التحرير ثلاثي الأبعاد عالي الجودة ممكناً للتطبيقات التي تتطلب وقتاً حقيقياً، والمحاكاة الروبوتية، والوسائط الغامرة. إن القدرة على توليد مشاهد ثلاثية الأبعاد متماسكة من مجرد رؤيتين ضيقتين في تمريرة أمامية واحدة تزيل عقبة رئيسية أمام اعتماد الذكاء الاصتنيعي التوليدي ثلاثي الأبعاد.