GHOST: Fast Category-agnostic Hand-Object Interaction Reconstruction from RGB Videos using Gaussian Splatting
يُعد GHOST إطار عمل سريعاً ومستقلاً عن الفئات، يستخدم تقنية التغطية الغاوسية ثنائية الأبعاد (2D Gaussian Splatting) وخسائر هندسية ومحاذاة مبتكرة لإعادة بناء تفاعلات اليد مع الأشياء بشكل متسق فيزيائياً وقابل للتحريك من فيديوهات RGB أحادية، محققاً دقة وكفاءة تبلغ أحدث المعاياي في هذا المجال مقارنة بالطرق السابقة.
تخيل أنك تحاول إعادة إنشاء مشهد لشخص يمسك كوب قهوة، لكن ليس لديك سوى تسجيل فيديو مسطح لهذا المشهد. المشكلة هي أن يد الشخص تغطي نصف الكوب، ومع حركته، يختفي الكوب خلف أصابعه.
لفترة طويلة، عانت الحواسيب مع هذه المشكلة. فإما كانت تحتاج إلى نموذج ثلاثي الأبعاد جاهز لذلك الكوب بالتحديد (وهو أمر مستحيل إذا كان الشيء غريبًا أو جديدًا)، أو كانت تستغرق ساعات لحساب نسخة ثلاثية الأبعاد ضبابية ومشوشة لا تبدو جيدة تمامًا.
هنا يأتي دور GHOST.
لا تفكر في GHOST كطابعة ثلاثية الأبعاد صلبة، بل كـ سرب من ذرات الغبار المتوهجة وغير المرئية. إليك كيف يعمل، مقسمًا إلى خطوات بسيطة:
١. "السرب" بدلاً من النموذج الصلب
النماذج ثلاثية الأبعاد التقليدية تشبه المنحوتات الطينية—صلبة وثابتة. يستخدم GHOST ما يسمى بـ Gaussian Splatting (التنقيط الغاوسي). تخيل أن الجسم واليد مصنوعان من الملايين من كرات الضوء الصغيرة والضبابية (Gaussians).
هذه الكرات يمكنها التمدد، الانكماش، والطفو.
عندما تنظر إليها من الأمام، تندمج معًا لتبدو ككوب صلب.
عندما تتحرك حولها، تتغير لتظهر الجزء الخلفي من الكوب.
ولأنها "ضبابية" ومرنة، فهي أسرع بكثير في الحساب من الطين الصلب.
٢. خطوة "شرلوك هولمز" (إيجاد الشيء)
بما أن اليد غالبًا ما تخفي الشيء، فإن الكمبيوتر لا يعرف كيف يبدو الجزء المخفي.
الحيلة: يعمل GHOST كالمحقق. يأخذ نظرة سريعة على الفيديو، ويسأل ذكاءً اصطناعيًا ذكيًا: "ما نوع هذا الشيء؟" (مثلاً: "إنه كوب أحمر").
المكتبة: بعد ذلك، يركض إلى مكتبة رقمية ضخمة (تسمى Objaverse) ويجد نموذجًا ثلاثي الأبعاد لكوب أحمر يشبهه.
المخطط: هو لا ينسخ الكوب فحسب؛ بل يستخدم ذلك النموذج من المكتبة كـ مخطط توجيهي. حتى لو كانت اليد تغطي المقبض في الفيديو، فإن الكمبيوتر يعرف: "بناءً على مخططي، يجب أن يكون المقبض موجودًا هنا"، لذا يقوم بملء الفراغات المفقودة باستخدام ذرات الغبار المتوهجة الخاصة به.
٣. فحص "المصافحة" (الوعي بالإمساك)
أحيانًا ترتبك الحواسيب وتظن أن اليد تمر عبر الشيء، مثل الشبح.
لدى GHOST قاعدة خاصة: "إذا كانت اليد تحرك الشيء، فلا بد أن يكونا متلامسين."
هو يتحقق باستمرار من الفيديو. إذا تحرك الشيء، فإنه يجبر اليد على التحرك معه ويضمن أن "الكرات الضبابية" لليد و"الكرات الضبابية" للشيء تتلامس فعليًا، ولا تمر عبر بعضها البعض. هذا يجعل التفاعل يبدو واقعيًا.
٤. "الممحاة الذكية" (التعامل مع الحجب)
في الماضي، إذا غطت يدٌ جزءًا من شيء ما، كان الكمبيوتر يرتبك ويظن: "أوه، هذا الجزء ليس موجودًا، سأقوم بحذفه". وهذا كان يترك ثقوبًا في النموذج ثلاثي الأبعاد.
يستخدم GHOST ما يسمى بـ Hand-Aware Background Loss (فقدان الخلفية المدرك لليد). فكر في هذا كـ ممحاة ذكية تعرف الفرق بين "الخلفية" (الجدار خلف الطاولة) وبين "الشيء المخفي" (جزء الكوب خلف اليد).
هي ترفض حذف الأجزاء المخفية. بدلاً من ذلك، تحافظ عليها آمنة حتى تبتعد اليد، مما يضمن بقاء الشيء كاملًا.
لماذا يعد هذا أمرًا بالغ الأهمية؟
السرعة: الطرق السابقة كانت تشبه خبز كعكة من الصفر في كل مرة (تستغرق ساعات). أما GHOST فهو مثل استخدام الميكروويف (يستغرق دقائق). إنه أسرع بـ ١٣ مرة من أفضل الطرق السابقة.
تعدد الاستخدامات: لا يهتم بنوع الشيء. سواء كان لعبة غريبة الشكل، أو كوب قهوة، أو مثقابًا، يمكن لـ GHOST فهم الأمر دون الحاجة إلى نموذج ثلاثي الأبعاد جاهز.
الواقعية: إنه ينشئ نسخة يمكنك التجول حولها في الواقع الافتراضي (VR) ورؤيتها من أي زاوية، مع تفاعل طبيعي بين اليد والشيء.
باختًا: GHOST هو نظام فائق السرعة والذكاء، يستخدم سربًا من "كرات الضوء" الرقمية ومكتبة من الأشكال ثلاثية الأبعاد لإعادة بناء تفاعلات اليد والشيء بشكل واقعي من مجرد فيديو بسيط. إنه يحول فيديو مسطحًا ومربكًا إلى عالم ثلاثي الأبعاد صلب وقابل للاستكشاف في ثوانٍ معدودة.
إليك ملخص تقني مفصل لورقة البحث بعنوان: "GHOST: إعادة بناء التفاعل بين اليد والشيء بشكل سريع وغير مرتبط بفئة معينة من فيديوهات RGB باستخدام Gaussian Splatting."
1. بيان المشكلة
تعد عملية إعادة بناء التفاعلات الواقعية بين اليد والشيء ثلاثية الأبعاد من فيديو RGB أحادي العدسة تحديًا جوهريًا لتطبيقات الواقع المعزز/الافتراضي (AR/VR)، والروبوتات، والذكاء الاصطائي المتجسد. تواجه الطرق الحالية ثلاث عقبات رئيسية:
الارتباط بفئة محددة: تتطلب الأساليب القائمة على القوالب (Template-based) أشكالًا محددة مسبقًا للأجسام، مما يؤدي إلى الفشل في التعميم على الأجسام الجديدة.
التكلفة الحسابية: غالبًا ما تتطلب الأساليب غير المرتبطة بفئة معينة (مثل خطوط معالجة NeRF مثل HOLD) ساعات من التحسين لكل تسلسل، مما يحد من قابليتها للتطبيق العملي.
عدم الاتساق الفيزيائي: تعاني الطرق الحالية من حالات الحجب الشديد (الأيدي التي تخفي الأجسام)، مما يؤدي إلى تلامسات غير منطقية فيزيائيًا، ونقص في الهندسة، وعدم استقرار في المقاييس.
2. المنهجية: إطار عمل GHOST
GHOST (Gaussian Hand-Object SplaTting) هو خط معالجة مكون من ثلاث مراحل مصمم لإعادة بناء التفاعلات الديناميكية والقابلة للتحريك بين اليد والشيء بكفاءة باستخدام 2D Gaussian Splatting.
المرحلة 1: المعالجة المسبقة واسترجاع الأولويات الهندسية
التجزئة وSfM: يقوم خط المعالجة بتجزئة الأجسام والأيدي باستخدام SAM2 ويقدر وضعيات الكاميرا والسحب النقطية المتفرقة باستخدام بنية الحركة من الصور (Structure-from-Motion - SfM). قام المؤلفون بتقييم كل من HLoc/COLMAP وVGGSfM القائم على الفيديو، ووجدوا أن VGGSfM يتفوق في مجموعات بيانات معينة.
استرجاع الأولويات الهندسية: للتعامل مع المناطق المحجوبة، يسترجع GHOST أولوية هندسية ثلاثية الأبعاد من قاعدة بيانات Objaverse.
يقوم نموذج رؤية-لغوي (مثل InternVL) بتوليد وصف نصي للجسم.
يقوم نموذج OpenShape's CLIP بربط هذا النص بمساحة تضمين مشتركة لاسترجاع k من الشبكات (meshes) المرشحة.
محاذاة قناع الأولوية: يتم تحسين تحويل أفيني (دوران Rp، إزاحة Tp، مقياس Sp) لمحاذاة ظلال الشبكة المسترجعة مع قناع تجزئة الجسم، مما يقلل من خسارة التقاطع فوق الاتحاد (IoU loss).
المرحلة 2: محاذاة اليد والشيء (HO Alignment)
غالبًا ما تعاني عمليات إعادة بناء اليد الأولية (عبر HaMeR) والسحب النقطية للأجسام من انحراف المقياس وعدم المحاذاة. يقوم GHOST بتحسين هذه العمليات باستخدام الاستدلال المدرك للقبضة:
كشف القبضة: يحلل النظام مسارات الحركة لتحديد الإطارات التي تتفاعل فيها الأيدي مع الجسم (بناءً على تشابه جيب التمام لمتجهات الحركة).
هدف التحسين: خلال إطارات القبض، يعمل التحسين المشترك على تقليل ثلاث خسائر:
خسارة التلامس (Lcontact): تفرض بقاء شبكة اليد قريبة من سطح الجسم (مسافة Chamfer Distance).
خسارة الإسقاط ثنائي الأبعاد (Lproj): تضمن إسقاط مفاصل اليد ثلاثية الأبعاد بشكل صحيح إلى الملاحظات ثنائية الأبعاد.
خسارة الاتساق الزمني (Ltemp): تعمل على تنعيم ترجمات اليد بمرور الوقت.
المرحلة 3: تحسين Gaussian Splatting
تستخدم عملية إعادة البناء الأساسية 2D Gaussian Splatting لتمثيل كل من الأيدي والأجسام كأقراص غاوسية كثيفة ومتسقة من حيث وجهة النظر.
تحسين الجسم:
خسارة الخلفية المدركة لليد (Lbkg,h): على عكس خسائر الخلفية القياسية التي تعاقب عناصر Gaussian خارج قناع الجسم، تجمع هذه الخسارة بين أقنعة اليد والجسم. هذا يمنع النظام من إزالة مناطق الجسم المحجوبة بالأصابع بشكل خاطئ.
خسسارة الاتساق الهندسي (Lgeo): تستخدم الأولوية الهندسية المسترجعة لتوجيه إعادة البناء. فهي تعاقب الـ Gaussians التي تبتعد كثيرًا عن السطح الأولي (Lout) وتعاقب الفجوات الكبيرة على السطح الأولي (Lfill)، مما يؤدي فعليًا إلى "ملء" الثقوب المحجوبة.
تحسين اليد:
يتم تمثيل الأيدي كـ Gaussians قابلة للتشوه مرتبطة بشبكة MANO نموذجية (canonical).
الربط (Rigging): يتم ربط الـ Gaussians بوجوه الشبكة باستخدام تحويلات أفينية محلية (Taff) مشتقة من تشوه شبكة MANO.
التدريب على مرحلتين: يتم تحسين الجسم أولاً، يليه الأيدي القابلة للتشوه، مما يضمن تمثيلاً مشتركًا متماسكًا.
3. المساهمات الرئيسية
إطار عمل سريع وغير مرتبط بفئة معينة: يحقق GHOST أداءً رائدًا (SOTA) في إعادة البناء ثلاثي الأبعاد والتقديم ثنائي الأبعاد مع العمل بسرعة أكبر بـ 13 ضعفًا من الأساليب السابقة غير المرتبطة بفئة معينة (مثل الأساليب القائمة على NeRF).
إعادة بناء مدركة للأولويات: يقدم استراتيجية لاسترجاع ومحاذاة الأولويات الهندسية ثلاثية الأبعاد من قواعد بيانات ضخمة لإكمال أسطح الأجسام المحجوبة.
محاذاة مدركة للقبضة: مرحلة محاذاة مبتكرة تعمل على تحسين مقياس الجسم وترجمة اليد تحديدًا أثناء إطارات التفاعل لضمان تلامس واقعي فيزيائيًا.
خسارة خلفية مدركة لليد: دالة خسارة متخصصة تميز بين الخلفية الحقيقية ومناطق الجسم المحجوبة بالأيدي، مما يمنع حذف الهندسة الصالحة.
أفاتار قابل للتحريك: ينتج أفاتار يد قابلة للتحريك بالكامل وتصويرات ذات واقعية فوتوغرافية لوجهات نظر جديدة.
4. النتائج التجريبية
تم تقييم الطريقة على مجموعات بيانات ARCTIC و HO3D و in-the-wild.
دقة إعادة البناء ثلاثي الأبعاد:
يحقق GHOST أدنى قيم لمقاييس مسافة Chamfer (CD) للتفاعل بين اليد والشيء (CDh) مقارنة بـ HOLD و BIGS.
يقلل بشكل كبير من أخطاء إعادة بناء اليد (MPJPE) مقارنة بالنماذج المرجعية، ويرجع ذلك إلى اكتشاف الارتجاف وخطوات محاذاة اليد والشيء.
جودة التقديم ثنائي الأبعاد:
يحقق قيمًا فائقة في PSNR و SSIM و LPIPS على مجموعة بيانات ARCTIC مقارنة بـ HOLD و BIGS.
تظهر النتائج النوعية عمليات تقديم أكثر نظافة وحدة (أقل تشويشًا/ضبابية) مقارنة بالطرق القائمة على NeRF.
الكفاءة:
وقت التشغيل: حوالي ساعة واحدة لكل تسلسل (300 إطار) على بطاقة NVIDIA RTX A6000 واحدة، مقارنة بـ 13-16 ساعة لـ HOLD و BIGS.
5. الأهمية والأثر
يمثل GHOST قفزة نوعية في نمذجة التفاعل بين اليد والشيء من خلال سد الفجوة بين المعقولية الفيزيائية و الكفاءة الحسابية.
العملية: تجعل السرعة التي تفوق بمقدار عشرة أضعاف تطبيقات مثل التحكم عن بعد أو الواقع المعزز/الافتراضي التفاعلي أمراً ممكناً.
القوة (Robustness): من خلال الاستفادة من الأولويات الهندسية والاستدلال المدرك للقبضة، فإنه يحل "مشكلة الحجب" التي عانت منها الطرق السابقة غير المرتبطة بفئة معينة، مما يسمح بإعادة بناء أسطح كاملة للأجسام حتى عندما تكون مخفية بشدة بواسطة الأيدي.
التعميم: يعمل إطار العمل دون الحاجة لقوالب أجسام محددة، مما يجعله قابلاً للتطبيق في مجموعة واسعة من السيناريوهات الواقعية التي تتضمن أجسامًا جديدة.
الكود متاح للجمهور، مما يضع معيارًا جديدًا لإعادة بناء التفاعل بين اليد والشيء بشكل سريع، وواقعي، وقابل للتحريك.