SBF: An Effective Representation to Augment Skeleton for Video-based Human Action Recognition
تقترح هذه الورقة البحثية SBF، وهو تمثيل مبتكر يعزز الهياكل العظمية ثنائية الأبعاد بخرائط المقياس والجسم والتدفق لالتقاط معلومات العمق والكنتور والتفاعل، مما يحسن بشكل كبير دقة التعرف على الأفعال البشرية القائمة على الفيديو مع الحفاظ على الكفاءة.
المؤلفون الأصليون:Zhuoxuan Peng, Yiyi Ding, Yang Lin, S. -H. Gary Chan
تخيل أنك تحاول تعليم روبوت فهم الحركات البشرية، مثل "رمي الكرة" أو "القرفصاء".
المشكلة: "النقطة العمياء" لرسوم رجل العصا
تستخدم معظم الروبوتات الحديثة هياكل عظمية ثنائية الأبعاد (2D) (رسوم رجل العصا) لمراقبة الفيديوهات. فهي تتبع أماكن المرفقين، والركبتين، والكتفين. إنها عملية فعالة وسريعة، تماماً مثل مشاهدة عرض لظلال الدمى.
ولكن هناك مشكلة كبيرة: رسوم رجل العصا مسطحة.
مشكلة العمق: إذا رأيت رسم رجل عصا من الأمام، فهل الشخص يقوم بحركة القرفصاء، أم أنه يجلس على كرسي؟ يبدو رسم رجل العصا متطابقاً في الحالتين. إنه يفتقر إلى العمق.
مشكلة التحديد (الكونتور): إذا وضع شخص يده في جيبه، سيظهر رسم رجل العصا مجرد يد تتحرك بالقرب من الجذع. إنه لا يوضح أن اليد قد دخلت داخل الجيب.
مشكلة التفاعل: إذا قام شخص برمي كرة، سيظهر رسم رجل العصا حركة الذراع فقط. لكنه لن يظهر الكرة وهي تطير بعيداً. بدون رؤية الكرة، قد يعتقد الروبوت أن الشخص يقوم بمجرد التلويح بيده.
بسبب هذه الإشارات المفقودة، غالباً ما يصاب الروبوت بالارتباك في المشاهد اليومية البسيطة.
الحل: الزي الخارق "SBF"
يقترح مؤلفو هذه الورقة البحثية طريقة جديدة لإلباس رسم رجل العصا. أطلقوا عليه اسم SBF (Scale-Body-Flow). بدلاً من مجرد رسم رجل عصا، فإنهم يمنحون الروبوت "زياً خارقاً" يحتوي على ثلاث طبقات خاصة من المعلومات:
خريطة المقياس (إشارة "الحجم"):
التشبيه: فكر في بالون. عندما يكون قريباً منك، يبدو ضخماً. وعندما يكون بعيداً، يبدو صغيراً جداً.
كيف تعمل: ينظر النظام إلى مدى "ضخامة" كل مفصل (مثل المرفق) على الشاشة. إذا بدا المرفق كبيراً، فهو قريب من الكاميرا. وإذا بدا صغيراً، فهو بعيد. هذا يحل مشكلة الارتباك بين "القرفصاء والجلوس" عبر إضافة إدراك للعمق.
خريطة الجسم (إشارة "المخطط الخارجي"):
التشبيه: تخيل عرض ظلال الدمى، ولكن بدلاً من مجرد الخطوط الخارجية للأطراف، لديك الظل الكامل للشخص بأكمله، مثل شكل أسود مصمت.
كيف تعمل: هذا يسد الفجوات. فهو يوضح للروبوت الشكل الكامل لجسم الشخص. لذا، عندما تتحرك يد باتجاه الجذع، يرى الروبوت تداخل اليد مع شكل الجسم، مما يجعله يدرك أن الشخص يمد يده داخل الجيب، وليس مجرد التلويح بالقرب من صدره.
خريطة التدفق (إشارة "الحركة"):
التشبيه: تخيل مراقبة نهر. الماء يتحرك، لكن الصخور تظل ثابتة. أو تخيل شخصاً يرمي كرة؛ الذراع تتحرك، والكرة تطير بعيداً.
كيف تعمل: تقوم هذه الطبقة بتتبع حركة كل شيء في المشهد، وليس الشخص فقط. فهي تسلط الضوء على الأشياء المتحركة (مثل كرة، أو كوب، أو أداة) التي تتفاعل مع الشخص. هذا يساعد الروبوت على التمييز بين "التلويح" و"الرمي".
الأداة السحرية: SFSNet (الـ "رسام الآلي")
قد تتساءل: "كيف نحصل على كل هذه المعلومات الإضافية دون استئجار فريق من الأشخاص لرسم هذه الخرائط لكل فيديو؟" سيكون ذلك مكلفاً وبطيئاً للغاية.
لقد ابتكر المؤلفون أداة ذكاء اصطناعي ذكية تسمى SFSNet.
الخدعة: SFSNet يشبه طالباً ذكياً يتعلم من خلال النظر إلى رسم رجل العصا وحركة الفيديو الطبيعية، دون الحاجة إلى معلم يرسم له الإجابات.
هو يستخدم رسم رجل العصا لتخمين الخط الخارجي للجسم.
ويستخدم كاشف حركة قياسي (التدفق البصري) لتخمين الأشياء المتحركة.
النتيجة: يقوم بإنشاء "الزي الخارق" (SBF) تلقائياً، وبدون أي تكلفة إضافية أو تسمية يدوية.
النتيجة: روبوت أذكى وأسرع
عندما اختبر الباحثون هذا النظام الجديد:
أصبح أكثر ذكاءً: ارتكب الروبوت أخطاءً أقل بكثير، خاصة في المواقف الصعبة (مثل المشاهد الجانبية أو التفاعلات المعقدة).
حافظ على سرعته: على الرغم من إضافة المزيد من المعلومات، لم يصبح النظام بطيئاً أو ضخماً. لقد كان بنفس كفاءة طرق رسم رجل العصا القديمة.
باختاً، تعلم الورقة البحثية الروبوتات التوقف عن رؤية البشر كرسوم رجل عصا مسطحة، والبدء في رؤيتهم كبشر ثلاثيي الأبعاد يتفاعلون مع عالم ثلاثي الأبعاد، وكل ذلك دون الحاجة إلى مساعدة بشرية إضافية لتعليمهم. الأمر يشبه الترقية من رسم تخطيطي بالأبيض والأسود إلى فيلم ملون ثلاثي الأبعاد مع مؤثرات صوتية.
إليك ملخص تقني مفصل لورقة البحث بعنوان: "SBF: تمثيل فعال لتعزيز الهيكل العظمي من أجل التعرف على الأفعال البشرية القائم على الفيديو."
1. بيان المشكلة
يواجه التعرف على الأفعال البشرية (HAR) القائم على الفيديو مقايضة بين الكفاءة الحسابية ودقة التعرف.
النهجات المتكاملة (End-to-end): (التي تستخدم إطارات الفيديو الخام) مكلفة حاسوبياً ويصعب نشرها في البيئات محدودة الموارد.
النهجات القائمة على الهيكل العظمي (Skeleton-based): فعالة ومدمجة، لكنها تعاني من قيود كبيرة في السيناريوهات الشائعة؛ حيث تفشل في التقاط المعلومات الحرجة المتعلقة بالفعل، وتحديداً:
عمق المفاصل (Joint Depth): تفتقر الهياكل العظمية ثنائية الأبعاد إلى إشارات العمق، مما يؤدي إلى الغموض (على سبيل المثال، الخلط بين "القرفصاء" و"الجلوس").
محيط الجسم (Body Contour): تمثل الهياكل العظمية المفاصل والأطراف فقط، وتفتقد الشكل العام للجسم، وهو أمر بالغ الأهمية لأفعال مثل "الوصول إلى جيب".
التفاعل بين الإنسان والشيء (HOI): تتجاهل الهياكل العظمية القياسية التفاعلات مع الأشياء، مما يسبب خطأ في التصنيف (على سبيل المثال، "الرمي" مقابل "التلويح").
الحلول الحالية: تتطلب الطرق التي تدمج معلومات الأشياء عمليات ترميز إضافية واسعة النطاق (مثل كشف الأشياء)، مما يعيق النشر العملي.
2. المنهجية
يقترح المؤلفون مساراً مبتكرًا يعزز الهيكل العظمي ثنائي الأبعاد بتمثيل جديد يسمى Scale-Body-Flow (SBF)، والذي يتم التنبؤ به بواسطة شبكة متخصصة هي SFSNet.
أ. تمثيل Scale-Body-Flow (SBF)
إن SBF هو تمثيل مدمج متعدد القنوات يتكون من ثلاثة مجلدات خرائط ثنائية تلتقط المعلومات المفقودة دون عبء إضافي في الترميز:
مجلد خريطة المقياس (Scale Map Volume - S): يلتقط عمق المفاصل. وهو يمثل "المقياس" (الحجم) لكل مفصل على مستوى الكاميرا. بما أن الأجسام الأقرب إلى الكاميرا تظهر أكبر حجماً، فإن مساحة المفصل في الخريطة ترتبط بالعمق. ويتضمن متغيرات للمفاصل (SJ) والأطراف (SL).
خريطة الجسم (Body Map - B): تلتقط محيط الجسم. وهي عبارة عن قناع ثنائي يحدد شكل الإنسان بالكامل، مما يسد الفجوات بين مفاصل الهيكل العظمي لتوفير سياق الشكل.
خريطة التدفق (Flow Map - F): تلتقط التفاعل بين الإنسان والشيء. وهي مشتقة من التدفق البصري (Optical Flow)، وتبرز البكسلات ذات الحركة المتميزة عن الخلفية، مما يعزل بفعالية أجزاء الجسم المتحركة والأشياء المتفاعلة.
ب. شبكة SFSNet (شبكة المقياس-التدفق-الهيكل)
لاستخراج SBF من الفيديو دون الحاجة إلى ترميز (Ground-truth) للأقنعة أو تسميات للأشياء، قدم المؤلفون SFSNet، وهي شبكة تقسيم (Segmentation) تُشرف عليها بيانات الهيكل العظمي الموجودة والتدفق البصري غير الخاضع للإشراف.
البنية: تستخدم هيكلاً خلفياً للصور (مثل HRNet) لرأسي المقياس والجسم، وهيكلاً خلفياً للتدفق لرأس التدفق.
وحدة Simplified PointRend (SPR): بدلاً من الحاجة إلى ترميز دقيق على مستوى البكسل، تستخدم SFSNet ترميزات نقاط متفرقة يتم إنشاؤها تلقائياً:
رأس المقياس (Scale Head): يتم أخذ النقاط الإيجابية من إحداثيات المفاصل؛ والنقاط السلبية من الخلفية.
رأس الجسم (Body Head): يتم أخذ النقاط الإيجابية من أطراف الهيكل العظمي (باستخدام خوارزمية Bresenham الخطية)؛ والنق points السلبية من الخلفية.
رأس التدفق (Flow Head): يتم اشتقاق النقاط الإيجابية والسلبية من مُقدر تدفق بصري غير خاضع للإشراف (مثل SMURF) عن طريق تحديد عتبة مقدار التدفق بالنسبة للخلفية.
التدريب: يتم تدريب الشبكة باستخدام فقدان (Binary Cross-Entropy (BCE على هذه النقاط المرمزة المولدة، مما لا يتطلب أي عبء ترميز إضافي يتجاوز استخراج الهيكل العظمي القياسي.
ج. تعزيز HAR بواسطة SBF (استخدام SBFConv3D)
يتم دمج مكونات SBF المستخرجة مع تمثيل الهيكل العظمي:
يتم تحويل الهيكل العظمي إلى مجلد خرائط حرارية (Heatmap volume) (باتباع منهجية PoseConv3D).
يتم تنعيم مكونات SBF (S,B,F) ودمجها مع الخريطة الحرارية للهيكل العظمي.
يتم تغذية هذا التنسير المتكامل في شبكة CNN ثلاثية الأبعاد (مثل SlowOnly-R50) لتصنيف الفعل.
SFSNet والتدريب بدون ترميز إضافي: شبكة تقسيم تتنبأ بـ SBF باستخدام إحداثيات الهيكل العظمي والتدفق البصري غير الخاضع للإشراف فقط، مما يلغي الحاجة إلى ترميزات مكلفة على مستوى البكسل أو مستوى الأشياء.
أداء رائد (State-of-the-Art): أثبتت النتائج أن مسار العمل المعزز بـ SBF يتفوق بشكل كبير على الطرق التي تعتمد على الهيكل العظمي فقط، مع الحفاظ على كفاءة حسابية مماثلة.
4. النتائج التجريبية
تم تقييم الطريقة على أربع مجموعات بيانات رئيسية: NTU RGB+D، و NTU RGB+D 120، و UCF101، و HMDB51.
تحسينات الدقة:
في NTU RGB+D 120، حقق SBFConv3D تحسناً بنسبة 2.2% في إعداد "Cross-Subject" (X-Sub) وبنسبة 1.6% في إعداد "Cross-Setup" (X-Set) مقارنة بالنموذج المرجعي القوي المعتمد على الهيكل العظمي فقط (PoseConv3D).
تفوق على طرق دمج (الهيكل العظمي-الشيء) التي تتطلب ترميزات إضافية في جميع الإعدادات.
في HMDB51، تجاوز أفضل طريقة سابقة (SKP) بنسبة 0.3%.
الكفاءة:
حقق SBFConv3D دقة أعلى مع حجم نموذج أصغر و عمليات حسابية (FLOPs) مماثلة لأحدث طرق الهيكل العظمي.
حتى مع استخدام نسخة "المستخرج الصغير" (Small extractor)، فقد تفوق على النماذج المرجعية الأكبر المعتمدة على الهيكل العظمي فقط.
السيناريوهات الصعبة:
زوايا الرؤية: أظهرت الطريقة أكبر المكاسب في الرؤية الجانبية (+3.8%)، حيث تكون معلومات العمق بالغة الأهمية ومفقودة في الهياكل العظمية القياسية.
صعوبة الفعل: لوحظت تحسينات كبيرة في الأفعال الصعبة (+8.9%) و المتوسطة (+4.9%)، خاصة تلك التي تتضمن محيط الجسم أو التفاعل مع الأشياء.
5. الأهمية
تعالج هذه الورقة عقبة حرجة في التعرف على الأفعال البشرية القائم على الفيديو: فقدان المعلومات الدلالية عند اختزال الفيديو إلى هياكل عظمية ثنائية الأبعاد.
الواقعية: من خلال تجنب الحاجة إلى ترميزات إضافية (مثل صناديق إحاطة الأشياء أو الأقنعة الكثيفة)، يمكن نشر المسار المقترح بسهولة في سيناريوهات العالم الحقيقي حيث يكون وسم البيانات مكلفاً أو مستحيلاً.
الأداء مقابل الكفاءة: تثبت الورقة أنه يمكن تحقيق دقة الطرق المعقدة كثيرة الترميز مع الاحتفاظ بالكفاءة الحسابية للنهج القائم على الهيكل العظمي.
القدرة على التعميم: إن تمثيل SBF مستقل عن النموذج (Model-agnostic) ويمكن دمجه مع مختلف بنيات الـ 3D CNN، مما يجعله أداة متعددة الاستخدامات لتحسين أنظمة التعرف على الأفعال.