ART: Adaptive Relational Transformer for Pedestrian Trajectory Prediction with Temporal-Aware Relations
تقترح الورقة البحثية نموذج "المحول العلاقاتي التكيفي" (ART)، وهو إطار عمل مبتكر للتنبؤ بمسارات المشاة يجمع بين "رسم بياني علاقي مدرك زمنياً" لنمذجة التفاعلات المتطورة، وآلية "تقليم التفاعل التكيفي" لتعزيز الكفاءة الحسابية، محققاً أداءً هو الأفضل في فئته على المعايير القياسية.
المؤلفون الأصليون:Ruochen Li, Ziyi Chang, Junyan Hu, Jiannan Li, Amir Atapour-Abarghouei, Hubert P. H. Shum
تخيل أنك تقف في محطة قطار مزدحمة، تحاول تخمين أين سيكون الجميع في الثواني القليلة القادمة. بعض الناس يهرعون، وبعضهم يتجاذب أطراف الحديث، والبعض الآخر يقف ساكنًا فحسب. للتنبؤ بمكان ذهابهم، عليك أن تكتشف من منهم ينتبه للآخر.
هذا هو بالضبط ما يحاول بحث "ART: Adaptive Relational Transformer" حله للروبوتات والسيارات ذاتية القيادة. قام المؤلفون، رووتشن لي وفريقه، ببناء نظام ذكاء اصطناعي جديد يسمى ART، وهو أفضل بكثير في التنبؤ بحركة البشر من النماذج السابقة.
إليك كيف يعمل، مشروحًا عبر تشبيهات بسيطة:
المشكلة: "الحفلة الصاخبة"
تخيل حفلة مزدحمة.
الطرق القديمة (الـ "صورة الثابتة"): كانت نماذج الذكاء الاصطناعي السابقة تأخذ لقطة للغرفة، وتضغط الجميع في "جو عام" واحد، ثم تحاول تخمين المستقبل. لقد عاملت كل تفاعل كما لو أنه حدث في نفس الوقت، متجاهلة متى اصطدم شخصان ببعضهما أو بدآ في السير معًا. الأمر يشبه محاولة فهم محادثة عن طريق قراءة الجملة الأخيرة فقط من قصة طويلة.
مشكلة "الإفراط في الاتصال": حاولت نماذج أخرى ربط الجميع بـ الجميع (مثل رسم بياني كامل الاتصال). هذا يشبه حفلة يصرخ فيها كل ضيف من الضيوف بسر في أذن كل ضيف آخر في آن واحد. هذا يخلق الكثير من الضجيج ويهدر قدرًا هائلاً من طاقة الدماغ (القدرة الحوسبية) على أشخاص لا يتفاعلون في الواقع.
الحل: ART (الـ "مراقب الذكي")
يقترح المؤلفون ART، الذي يعمل كمضيف شديد الملاحظة يفهم تدفق الحفلة. إنه يستخدم حيلتين رئيسيتين:
1. TARG: "كشاف السفر عبر الزمن"
(الرسم البياني للعلاقات المدرك زمنيًا)
تخيل أنك تشاهد فيلمًا للحفلة.
الطريقة القدة: توقف الفيلم، وانظر من يقف بالقرب من من، ثم ارسم خطًا بينهم. أنت هنا تفقد حقيقة أن شخصين قد يكونان بعيدين عن بعضهما قبل 5 ثوانٍ، لكنهما اصطدما ببعضهما للتو الآن.
طريقة ART (TARG): يحافظ ART على استمرار عرض الفيلم. إنه يستخدم كشافًا ضوئيًا يتحرك عبر الزمن. ويسأل: "في هذه الثانية تحديدًا، ما مدى أهمية التفاعل بين الشخص (أ) والشخص (ب)؟"
إذا كان شخصان يسيران بجانب بعضهما فقط، يكون الكشاف خافتًا.
إذا توقفا للحديث أو كادا يصطدمان ببعضهما، يسطع الكشاف بقوة.
إنه يتذكر أن "اللحظات المهمة" (مثل التصادم الوشيك) تهم أكثر من اللحظات المملة. هذا يسمح للذكاء الاصطناعي بفهم تاريخ التفاعل، وليس فقط الموقع الحالي.
2. AIP: "قائمة كبار الشخصيات"
(تقليم التفاعل التكيفي)
الآن، تخيل أنك المضيف، ولديك 100 ضيف. لا يمكنك التحدث إلى الـ 100 جميعًا في وقت واحد؛ وإلا سينفجر دماغك.
الطريقة القدة: يحاول الذكاء الاصطناعي الاستماع إلى كل ضيف من الضيوف في وقت واحد. هذا غير فعال وفوضوي.
طريقة ART (AIP): يستخدم ART قائمة VIP ديناميكية.
بدلًا من فرض قاعدة مثل "تحدث إلى أقرب 5 أشخاص لك"، يستمع ART إلى "حجم صوت" التفاعل.
والأهم من ذلك، أن هذه القائمة تتغير كل ثانية. إذا بدأ ضيف هادئ فجأة في الركض نحوك، فإنه يقفز فورًا إلى قائمة الـ VIP. هذا يوفر قدرًا هائلًا من القدرة الحوسبية لأن الذكاء الاصطناعي يركز فقط على ما يهم حقًا.
لماذا يعد هذا أمرًا هامًا؟
اختبر البحث نموذج ART في نوعين مختلفين تمامًا من "الحفلات":
ETH/UCY: فيديو من العالم الحقيقي لأشخاص يسيرون على الأرصفة وفي ردهات الفنادق.
NBA: لاعبو كرة سلة يتحركون بسرعة في الملعب (بيئة فوضوية وعالية السرعة).
النتائج:
الدقة: تنبأ ART بمكان ذهاب الناس بشكل أفضل من أي طريقة سابقة. لقد ارتكب أخطاءً أقل في المشاهد المزدحمة والفوضوية.
الكفاءة: نظرًا لأنه يستخدم "قائمة VIP" (AIP) لتجاهل الضجيج، فإنه أسرع بكثير ويتطلب قدرة حوسبية أقل من طرق "الصراخ في وجه الجميع".
الخلاصة
فكر في ART كروبوت لا ينظر فقط إلى أين يتواجد الناس، بل يفهم كيف يتحركون معًا بمرور الوقت. إنه يعرف متى يولي اهتمامًا وثيقًا لتفاعل معين ومتى يتجاهل ضجيج الخلفية. وهذا ما يجعله مثاليًا للسيارات ذاتية القيادة التي تحتاج إلى التنقل بأمان عبر الشوارع المزدحمة دون أن تغمرها البيانات.
إليك ملخص تقني مفصل للورقة البحثية بعنوان "ART: المحول العلاقاتي التكيفي للتنبؤ بمسار المشاة مع علاقات مدركة زمنياً".
1. بيان المشكلة
يتضمن التنبؤ بمسار المشاة توقع المواقع المستقبلية للأفراد بناءً على مساراتهم التاريخية المرصودة. هذه المهمة بالغة الأهمية لتطبيقات مثل القيادة الذاتية، والتفاعل بين الإنسان والروبوت، والمراقبة الذكية.
التحديات الجوهرية:
العشوائية (Stochasticity): الحركة البشرية غير متوقعة بطبيعتها.
التفاعلات الاجتماعية: يؤثر المشاة على بعضهم البعض ديناميكياً، لكن هذه التفاعلات متباينة (تختلف في القوة) ومتغيرة زمنياً (تتغير بمرور الوقت).
قصور الطرق الحالية:
الطرق القائمة على الرسوم البيانية (Graph-based methods): غالباً ما تستخدم نوافذ مكانية ثابتة أو اختيار جيران موحد (مثل الاتصال الكامل أو أعلى k من الجيران)، مما يفشل في التقاط التطور الديناميكي للتفاعلات.
الطرق القائمة على المحولات (Transformer-based methods): غالباً ما تضغط المسارات متعددة الخطوات في تمثيلات (embeddings) ثابتة قبل حساب العلاقات، مما يؤدي إلى فقدان الإسناد الزمني لـ متى تحدث التفاعلات.
الازدواجية الحسابية: تقوم العديد من النهج بنمذجة جميع التفاعلات الثنائية (O(M2))، مما يدخل ضوضاء من الوكلاء غير ذوي الصلة ويتسبب في تكاليف حسابية عالية.
2. المنهجية: إطار عمل ART
يقترح المؤلفون ART (المحول العلاقاتي التكيفي)، وهو إطار عمل خفيف الوزن مصمم لنمذجة التطور الزمني للتفاعلات بشكل صريح مع الحفاظ على الكفاءة الحسابية. تتكون البنية من ثلاثة مكونات رئيسية:
أ. الرسم البياني للعلاقات المدركة زمنياً (TARG)
على عكس الطرق التقليدية التي تجمع بيانات المسار في سمات عقد ثابتة أولاً، يحافظ TARG على المعلومات الزمنية طوال عملية بناء الرسم البياني.
الآلية:
الترميز الزمني: يتم إسقاط المسارات المرصودة إلى سمات عالية الأبعاد مع ترميز موضعي.
الانتباه الثنائي عبر الزمن: بدلاً من علاقة واحدة ثابتة، يطبق النموذج انتباهاً متعدد الرؤوس عبر البعد الزمني لكل زوج من المشاة (i,j).
الأوزان الديناميكية: يقوم بحساب درجات الانتباه αij(t) لكل خطوة زمنية t. يسمح هذا للنموذج بتحديد اللحظات المحددة التي تكون فيها التفاعلات مهمة (مثل القرب الشديد أو التغير المفاجئ في الاتجاه) وتخصيص أوزان أعلى لها، مع تجاهل الخطوات الزمنية الأقل أهمية.
التجميع: تُستخدم هذه الدرجات المحللة زمنياً لتجميع تمثيلات القيم، مما ينتج عنه سمة علاقة ثنائية تلتقط تطور التفاعل.
ب. تقليم التفاعل التكيفي (AIP)
لمعالجة التكلفة الحسابية والضوضاء في الرسوم البيانية الكثيفة، يقدم ART آلية تخلخل (sparsification) ديناميكية.
الآلية:
بدلاً من اختيار أعلى k من الجيران بشكل ثابت، يستخدم AIP تصفية أعلى p (top-p filtering).
لكل مشاة، يتم ترتيب الجيران حسب قوة التفاعل (أوزان الحواف).
يحتفظ النموذج بالحد الأدنى من الجيران الذين تتجاوز قوة تفاعلهم التراكمية عتبة p (على سبيل المثال، 0.75).
النتيجة: يؤدي هذا إلى إنشاء رسم بياني متخلخل تكيفياً حيث يختلف عدد الجيران لكل وكيل بناءً على تعقيد المشهد، مما يزيل بفعالية الحسابات الزائدة مع الحفاظ على الإشارات الاجتماعية الحرجة.
ج. المحول العلاقاتي وفك التشفير
يتم تغذية الرسم البياني المقلّم إلى محول علاقاتي (RT) مع انتباه مدرك للحواف. يقوم الـ RT بتحسين تمثيلات العقد عن طريق تعديل الانتباه باستخدام سمات الحواف المتعلمة.
التنبؤ: يتم دمج سمات العقد النهائية مع السمات الأولية وتمريرها عبر رؤوس تنبؤ متوازية (استراتيجية Best-of-K) لتوليد فرضيات مسار مستقبلية متعددة. يتم حساب الخسارة بناءً على المسار الأقرب إلى الحقيقة الأرضية (ground truth).
3. المساهمات الرئيسية
المحول العلاقاتي التكيفي (ART): إطار عمل مبتكر يوازن بين النمذجة الاجتماعية التعبيرية والكفاءة الحسابية العالية.
الرسم البياني للعلاقات المدركة زمنياً (TARG): آلية تنمذج التفاعلات الثنائية بشكل صريح من خلال مراعاة الأهمية النسبية لمختلف الخطوات الزمنية، متجنبة فقدان الديناميكيات الزمنية الموجودة في نهج التضمين الثابت.
تقليم التفاعل التكيفي (AIP): استراتيجية تصفية "أعلى p" تعمل على تخلخل رسوم التفاعل البيانية ديناميكياً بناءً على قوة التفاعل التراكمية، مما يقلل من التكرار ويحسن القدرة على التكيف دون قيود ثابتة على عدد الجيران.
4. النتائج التجريبية
قيم المؤلفون ART على معيارين رئيسيين: ETH/UCY (بيانات المشاة) و NBA SportVU (بيانات لاعبي كرة السلة).
الأداء الكمي:
ETH/UCY: حقق ART نتائج رائدة (SOTA) بمتوسط min ADE قدره 0.20 و min FDE قدره 0.32، متفوقاً على النماذج القوية مثل MART و SingularTraj و LED. وقد أظهر قوة خاصة في مجموعة ZARA2.
NBA: أظهر ART أداءً فائقاً عبر جميع الآفاق الزمنية (من 1 ثانية إلى 4 ثوانٍ)، محققاً أقل درجات ADE و FDE مقارنة بطرق مثل STAR و GroupNet و MART.
الكفاءة:
يتميز ART بكفاءة عالية، حيث يتطلب 1.0 مليون معلمة و 40.0 مليون عملية ضرب وتراكم (MACs).
هذا أقل بكثير من المنافسين مثل MID (40.3G MACs) أو MemoNet (6.0G MACs)، مما يثبت أن التخلخل لا يأتي على حساب الدقة.
دراسات الاستئصال (Ablation Studies):
الوزن الزمني: تفوق TARG على استراتيجيات الوزن الثابت (Cosine، Random، Uniform)، مما أكد أهمية نمذجة التطور الزمني.
عتبة أعلى p: وفرت العتبة p=0.75 أفضل توازن بين التخلخل والحفاظ على المعلومات.
5. الأهمية والأثر
نمذجة التفاعل الديناميكي: يعالج ART فجوة حرجة في الأدبيات الحالية من خلال نمذجة متى تحدث التفاعلات، وليس فقط من يتفاعل. يؤدي هذا إلى تنبؤات أكثر واقعية في المشاهد المعقدة والمزدحمة.
القابلية للتوسع: تجعل آلية التقليم التكيفي النموذج قابلاً للتوسع في البيئات التي تحتوي على العديد من الوكلاء، حيث يقلل تلقائياً من الحمل الحسابي في السيناريوهات المتخلخلة مع الحفاظ على الكثافة عند الضرورة.
القابلية للتطبيق في العالم الحقيقي: إن الجمع بين دقة الـ SOTA والتكلفة الحسابية المنخفضة يجعل ART مناسباً جداً للنشر في الوقت الفعلي في مجالات الروبوتات والأنظمة ذاتية القيادة حيث تكون زمن الاستجابة وقيود الموارد أمراً حاسماً.
التعميم: يشير نجاح النموذج في كل من مجموعات بيانات المشاة ومجموعة بيانات NBA عالية الديناميكية إلى قدرة قوية على التعميم عبر أنواع مختلفة من الأنظمة متعددة الوكلاء.