MR-STGCN: A Multi-weather Robust Spatial–Temporal Graph Convolutional Network for Skeleton-based Gesture Recognition
تقدم هذه الورقة MR-STGCN، وهي شبكة تلافيفية رسومية مكانية-زمانية متينة تجاه تعدد الطقس، تستفيد من انتباه التوجيه الإقليمي الديناميكي والتلافيف المتسعة متعددة المقاييس لتحقيق تعرف عالي الدقة ومنخفض التأخير على إيماءات أوامر شرطة المرور في ظل الظروف الجوية السيئة.
المؤلفون الأصليون:Zhipeng Liu, Zhizhou Wu, Chi Zhang, Bin Pan
تخيل أنك تحاول تعليم روبوت فهم لغة جسد البشر. في عالم علوم الحاسوب، يُسمى هذا "التعرف على الأفعال بناءً على الهيكل العظمي". بدلاً من أن تطلب من الروبوت مشاهدة فيديو كامل لشخص ما (والذي قد يكون فوضوياً ومربكاً)، يعطي العلماء للروبوت خريطة مبسطة لجسم الشخص: مجرد المفاصل (مثل الأكواع والركب والأكتاف) متصلة بخطوط، مثل رجل العصا. هذا "الهيكل العظمي" أسهل بكثير بالنسبة للحاسوب لمعالجته. ومع ذلك، هناك عقبة: هذه الأشكال التي تشبه رجل العصا تُبنى من خلال النظر إلى الصور، وإذا كان الطقس سيئاً - مثل هطول الأمطار أو الثلوج أو الضباب - فإن الحاسوب يصاب بالارتباك. قد يفقد تتبع معصم أو يعتقد أن الكوع في مكان ليس فيه. تتناول هذه الورقة البحثية مشكلة محددة وهي تعليم الروبوت فهم إشارات اليد الخاصة بشرطة المرور، حتى عندما يحاول الطقس خداعه.
لاحظ الباحثون وراء هذه الدراسة، "زيبينغ ليو" وفريقه، أن شرطة المرور يستخدمون إشارات يد محددة جداً لإخبار السيارات بالتوقف أو الانطلاق أو الانعطاف. هذه الإشارات ملزمة قانوناً وحاسمة للسلامة، لكن الأنظمة الحاسوبية الحالية غالباً ما تفشل عندما تتحول السماء إلى اللون الرمادي أو الأبيض. قام الفريق ببناء "دماغ" جديد لروبوتهم، يسمى MR-STGCN. فكر في هذا الدماغ كأنه محقق ذكي للغاية لا ينظر فقط إلى شكل رجل العصا بالكامل دفعة واحدة، بل لديه خدعتان خاصتان في جعبته. أولاً، يستخدم وحدة "انتباه التوجيه الإقليمي الديناميكي". تخيل أنك تحاول سماع صديق يصرخ بالتعليمات وسط عاصفة ريحية قوية؛ أنت لن تحاول سماع كل كلمة من كل الاتجاهات، بل ستصب تركيزك فقط على فم صديقك وتتجاهل ضجيج الرياح. تقوم هذه الوحدة بنفس الشيء: فهي تحدد أي أجزاء من هيكل رجل العصا موثوقة (مثل الجذع) وأي أجزاء مهتزة وضوضائية (مثل يد مفقودة في الضباب)، وتقوم بتوجيه الانتباه بعيداً عن الضجيج.
ثانياً، يستخدم الدماغ وحدة "التلافيف المتسعة خفيفة الوزن متعددة المقاييس". إشارات شرطة المرور هي مزيج من الحركات السريعة (مثل أرجحة الذراع السريعة) والوقفات الطويلة البطيئة (مثل الإشارة بـ "قف" لفترة طويلة). عدسة الكاميرا القياسية لا تستطيع التركيز على حشرة سريعة الحركة وحجر بطيء الحركة في نفس الوقت. تعمل هذه الوحدة مثل كاميرا ذات عدسات متعددة في آن واحد، مما يسمح للنظام بفهم كل من الحركات الخاطفة والوقفات الطويلة دون أن يشعر بالإرهاق. وهذا النتاج يجعل النظام ليس ذكياً فحسب، بل خفيفاً أيضاً بما يكفي ليعمل على كمبيوتر السيارة دون الحاجة إلى كمبيوتر خارق ضخم.
اختبر الفريق نظامهم الجديد على مجموعة بيانات مخصصة لإيماءات شرطة المرور تم تصويرها في طقس عادي، ومطر غزير، وثلوج كثيفة، وضباب كثيف. ووجدوا أن نموذجهم الجديد، MR-STGCN، كان فائزاً واضحاً. فقد حدد الإيماءات بشكل صحيح بنسبة 93.8% من المرات، وهي قفزة كبيرة مقارنة بالطرق القديمة التي كانت تعاني مع الطقس. والأمر الأكثر إثارة للإعجاب هو أن النموذج فعال للغاية؛ فهو يستخدم 2.85 مليون معلمة فقط (الإعدادات الصغيرة التي تجعل الدماغ يعمل) ويستغرق 19.2 ميلي ثانية فقط لاتخاذ قرار بشأن تسلسل إيماءة واحدة. ولوضع ذلك في الاعتبار، فهذا سريع بما يكفي للعمل أكثر من 52 مرة في الثانية، وهو أسرع من معدل 30 إطاراً في الثانية المستخدم في معظم أنظمة الفيديو.
تجادل الورقة البحثية صراحة ضد فكرة أنك بحاجة إلى نموذج حاسوبي ضخم وثقيل للحصول على نتائج جيدة في الطقس السيئ. حاولت الطرق السابقة حل المشكلة عبر جعل النموذج أكثر عمقاً أو أكبر حجماً، مما أدى إلى إبطاء كل شيء وجعلها مكلفة جداً للسيارة. يوضح المؤلفون أنه من خلال كونك أكثر ذكاءً في تحديد أي أجزاء الجسم التي يجب الوثوق بها وكيفية النظر إلى الوقت، يمكنك الحصول على دقة أفضل دون الأعباء الثقيلة. كما أظهروا أن طريقتهم جيدة بشكل خاص في التمييز بين الإيماءات التي تبدو متشابهة جداً، مثل "اذهب مباشرة" مقابل "غير المسار"، والتي غالباً ما يتم الخلط بينها عندما تكون بيانات الهيكل العظمي مهتزة.
باخت اختصار، تقترح هذه الورقة أنه من خلال الجمع بين نظام انتباه "لا يلغي الضوضاء" ونظام استشعار زمني متعدد السرعات، يمكننا بناء أجهزة للتعرف على إيماءات شرطة المرور تعمل بموثوقية في المطر والثلج. النتائج، التي تم قياسها على مجموعة البيانات الخاصة بهم، تظهر أن هذا النهج جاهز للنشر في المركبات الحقيقية، مما يساعد السيارات ذاتية القيادة على فهم الأوامر البشرية حتى عندما يكون الطقس سيئاً للغاية. ويخلص المؤلفون إلى أنه بينما يعد نموذجهم خطوة قوية للأمام، فإن العمل المستقبلي سيشمل اختباره في المزيد من الطرق الواقعية وربما دمجه مع مستشعرات أخرى لجعله أكثر أماناً.
ملخص تقني: شبكة MR-STGCN للتعرف على الإيماءات المتسمة بالمتانة في ظروف الطقس المتعددة
بيان المشكلة يعد التعرف الدقيق على إيماءات أوامر شرطة المرور أمراً بالغ الأهمية للمركبات المتصلة ذكية في التقاطعات الحضرية المعقدة. وبينما تطورت عملية الإدراك القائمة على الرؤية من المستشعرات القائمة على الاتصال إلى الطرق القائمة على الهياكل العظمية (Skeleton-based) غير التلامسية، إلا أن النهج الحالي يعاني في ظل الظروف الجوية السيئة (المطر، الثلج، والضباب). تؤدي هذه الظروف إلى تدهور جودة الصورة، مما يسبب انسداداً موضعياً ويقلل من ثقة تقدير النقاط المفصلية للهيكل العظمي. ونتيجة لذلك، قد تنزاح المفاصل الرئيسية مثل المعصمين والمرفقين أو تُفقد تماماً. وبما أن إيماءات شرطة المرور تعتمد غالباً على الاتجاه الدقيق وإيقاع حركات الأطراف البعيدة للتمييز بين الأوامر المتشابهة (مثل "سير للأمام مباشرة" مقابل "تغيير المسار")، فإن هذه الأخطاء تنتشر عبر الشبكات العصبية التلافيفية المكانية-الزمانية (ST-GCNs) القياسية. علاوة على ذلك، تستخدم شبكات ST-GCN التقليدية عادةً تضاريس فيزيائية ثابتة ومجالات استقبال زمنية أحادية المقياس، وهو ما يفشل في مراعاة السرعات المتفاوتة للإيماءات (التأرجح السريع مقابل الثبات الطويل للوضعية) وأنماط الضجيج المحددة التي تفرضها حالة الطوامل. وأخيراً، فإن زيادة تعقيد النموذج لتحسين المتانة غالباً ما تأتي على حساب زمن الاستجادة المنخفض وقيود الموارد المطلوبة للنشر الفوري على أجهزة الحافة (Edge deployment) المثبتة في المركبات.
المنهجية يقترح المؤلفون MR-STGCN (الشبكة التلافيفية الرسمية المكانية-الزمانية المتسمة بالمتانة في الطقس المتعدد)، وهو إطار عمل مصمم للتعرف على ثماني فئات من إيماءات أوامر شرطة المرور من تسلسلات الهيكل العظمي ثنائية الأبعاد. تبدأ العملية بمقدر وضعية أمامي (RepMR-Pose) يستخرج نقاط COCO المفتاحية، والتي يتم تطبيعها (Normalization) وتحويلها إلى رسم بياني مكاني-زماني. تتكون البنية الأساسية من وحدات MR-STGCN متراكمة تتميز بوحدتين مبتكرتين:
انتباه التوجيه الإقليمي الديناميكي (DRRA): للتخفيف من انتشار الخطأ الناتج عن النقاط المفصلية غير المستقرة، تقوم وحدة DRRA بتجميع الـ 17 مفصلاً من تنسيق COCO إلى خمس مناطق دلالية (الرأس-الكتف-الجذع، الذراع اليسرى، الذراع اليمنى، الساق اليسرى، الساق اليمنى). وبدلاً من إجراء تجميع عالمي غير مقيد، تقوم الوحدة بتقييم الارتباطات الدلالية بين هذه المناطق. وهي تستخدم آلية توجيه (Top-k) (تحتفظ بأفضل 3 مناطق مستهدفة لكل استعلام) لتثبيط الاتصالات التي تشمل مناطق غير موثوقة أو مشوشة ديناميكياً (مثل الأطراف المحجوبة). يضمن ذلك أن نشر الميزات يعطي الأولوية للمناطق عالية الثقة، مما يحافظ على السلامة الدلالية للإيماءة تحت الظروف الجوية السيئة.
وحدة التلافيف المتسعة متعددة المقاييس خفيفة الوزن (MSDCM): لمعالجة التنوع الزمني للإيماءات، تستخدم وحدة MSDCM فروع تلافيف زمنية متسعة ومنفصلة العمق (Depthwise separable dilated temporal convolution) تعمل بالتوازي مع معدلات اتساع مختلفة (1، 2، 3، و5). يصمم هذا الهيكل مجالات استقبال متعددة المقاييس قادرة على التقاط كل من التأرجحات السريعة للذراع والثبات الطويل للوضعية دون زيادة كبيرة في عدد المعلمات (Parameters). وتعمل استراتيجية نقل متبقي متسلسلة على ربط هذه الفروع، مما يسمح للاعتمادات طويلة المدى بالاحتفاظ بالإشارات الديناميكية قصيرة المدى.
تنتهي الشبكة بمتوسط التجميع العالمي (Global average pooling) لضغط الأبعاد الزمنية والمفصلية، يليه طبقة متصلة بالكامل للتصنيف. كما تُستخدم اتصالات متبقية عبر الطبقات وتجميع عالمي لتقليل حجم المعلمات والعبء الحسابي.
المساهمات الرئيسية
وحدة DRRA: آلية انتباه مبتكرة تنمذج الارتباطات الدلالية بين مناطق الأطراف وتوجه الانتباه ديناميكياً بعيداً عن المناطق غير الموثوقة، مما يقلل بفعالية من انتشار الخطأ الناتج عن انزياح النقاط المفصلية وتغطيتها بسبب الطقس.
وحدة MSDCM: مكون نمذجة زمنية خفيف الوزن يلتقط الأنماط الزمنية متعددة المقاييس (الحركة السريعة مقابل الثبات الساكن) من خلال تلافيف متسعة متوازية، مما يعالج قيود مجالات الاستقبال الزمنية أحادية المقياس.
بنية موجهة للحافة (Edge-Oriented): تصميم شبكة كامل محسّن للنشر في المركبات، يوازن بين دقة التعرف العالية واستهلاك الموارد المنخفض (2.85 مليون معلمة) وزمن الاستجابة المنخفض.
النتائج التجريبية تم تقييم النموذج على مجموعة بيانات تم بناؤها ذاتياً تحتوي على 170 تسلسلاً فيديوياً (3,101 صورة) تغطي ثماني فئات من الإيماءات تحت ظروف الطقس العادي، والمطر الغزير، والثلج الكثيف، والضباب الكثيف.
الأداء: حققت MR-STGCN دقة تسلسل حركة (ASA) بلغت 93.8% ومقياس F1-score قدره 0.94. وقد تفوقت بذلك على نموذج ST-GCN المرجعي، الذي حقق دقة Top-1 بنسبة 76.2% (F1-score بنسبة 0.86)، وكذلك على طرق أخرى رائدة مثل MS-G3D (بنسبة 91.9% ASA) وSTAE-GCN (بنسبة 92.4% ASA).
المتانة: أظهر تحليل مصفوفة الارتباك أن MR-STGCN قللت بشكل كبير من سوء التصنيف بين الإيماءات المتشابهة تحت الطقس السيئ. على سبيل المثال، انخفض معدل الخطأ في التمييز بين "سير للأمام مباشرة" و"تغيير المسار" من 15% (في النموذج المرجعي) إلى 3%، وبين "انعطف يساراً" و"انتظر الانعطاف يساراً" من 16% إلى 3%.
الكفاءة: حافظ النموذج على ذروة استخدام للذاكرة بلغت 1221 ميجابايت ومتوسط زمن استنتاج قدره 19.2 مللي ثانية لكل تسلسل حركة (حوالي 52 إطاراً في الثانية)، مما يجعله مناسباً للنشر الفوري على أجهزة الحافة. وأكدت دراسات الاستئصال (Ablation studies) أن كلاً من DRRA وMSDCM يساهمان بمكاسب متكاملة في الأداء الإجمالي.
الأهمية والادعاءات يزعم البحث أن MR-STGCN توفر حلاً قابلاً للتطبيق للتعرف على الإيماءات القائم على الهيكل العظمي في بيئات الطرق المفتوحة حيث تؤدي الظروف الجوية إلى تدهور البيانات المرئية. ومن خلال نمذجة الموثوقية الإقليمية والديناميكيات الزمنية متعددة المقاييس بشكل صريح، تحسن الطريقة من القدرة على التمييز بين الإيماءات شديدة التشابه دون تحمل التكاليف الحسابية التي تعيق عادةً النشر على أجهزة الحافة. ويؤكد المؤلفون أن النهج المقترح ينجح في تحقيق التوازن بين متانة التعرف، وسرعة الاستنتاج، وكفاءة الموارد، مما يثبت إمكانية دمجه في أنظمة المركبات المتصلة الذكية. وقد تمت الإشارة إلى أن العمل المستقبلي سيركز على توسيع جمع البيانات لسيناريوهات الطرق المفتوحة الحقيقية، واستقصاء دمج الوسائط المتعددة، وتحسين الأداء بشكل أكبر لأجهزة السيارات المدمجة.