Results of the 1st Asynchronous CASTLE Challenge at the Joint Egocentric Vision Workshop in Conjunction with CVPR 2026
تلخص هذه الورقة المساهمات والنتائج الخاصة بتحدي CASTLE الأول غير المتزامن، والذي عُقد في ورشة عمل الرؤية من منظور الشخص الأول (Egocentric Vision) بالاقتران مع مؤتمر CVPR 2026.
المؤلفون الأصليون:Luca Rossetto, Werner Bailer, Cathal Gurrin, Graham Healy, Omar Shahbaz Khan, Stevan Rudinac, Klaus Schöffmann, Allie Tran
تخيل أن تحاول تذكر كل ما حدث خلال عطلة استمرت أربعة أيام، ليس فقط اللحظات البارزة، بل كل محادثة، وكل غرض تم تحريكه، وكل تغيير طفيف في الغرفة، كل ذلك وأنت تشاهد من أعين عشرة أشخاص مختلفين في آن واحد. هذا هو نوع اختبار الذاكرة الذي تعاني الحواسيب في التعامل معه، حتى عندما تُغذى بآلاف الساعات من الفيديو. في مجال الذكاء الاصطناعي، يحاول الباحثون بناء أنظمة يمكنها مشاهدة تسجيلات طويلة وغير مكتوبة للحياة اليومية والإجابة على أسئلة محددة حولها، تماماً كما يفعل البشر بعد قراءة مذكرات أو مشاهدة فيلم. يكمكم التحدي في الحجم الهائل للمعلومات والحاجة إلى ربط التفاصيل التي قد تفصل بينها ساعات أو أيام. إذا تعلمت الآلة القيام بذلك، فقد يساعدنا ذلك في النهاية على البحث عبر سنوات من اللقطات الشخصية للعثور على لحظة معينة أو فهم الأنماط المعقدة لكيفية عيش الناس.
ولاختبار مدى قربنا من حل هذه المعضلة، نظم مجموعة من الباحثين مسابقة تسمى "تحدي كاسل" (CASTLE Challenge). قدموا للفرق مجموعة بيانات ضخمة تحتوي على أكثر من 600 ساعة من الفيديو فائق الدقة، سُجلت بسرعة عالية لالتقاط كل التفاصيل. جاءت اللقطات من كاميرات يرتديها عشرة مشاركين أثناء ممارسة حياتهم الطبيعية، إلى جانب خمس كاميرات ثابتة تراقب من الغرفة. كانت البيانات غنية، حيث شملت الصوت، وأجهزة مراقبة معدل ضربات القلب، وحتى الصور الحرارية، مما خلق سجلاً رقمياً كاملاً لأربعة أيام من النشاط. كانت المهمة الموكلة للفرق المتنافسة بسيطة من الناحية النظرية ولكنها صعبة للغاية من الناحية العملية: كان عليهم الإجابة على 185 سؤالاً من نوع الاختيار من متعدد حول ما حدث في الفيديوهات. تطلبت هذه الأسئلة من الكمبيوتر تتبع الأشخاص، وعد الأشياء، وتذكر أين كانت الأشياء مخبأة، وفهم توقيت الأحداث، مثل معرفة من أكل قطعة الكعك أولاً أو مدى سرعة شحن شخص ما لسيارته في اليوم الأخير.
تقدمت أربعة فرق لمواجهة التحدي، حيث جلب كل منها استراتيجية مختلفة للمشكلة. الفريق الفائز، المعروف باسم "دبليو دي إل" (WDL)، تعامل مع المهمة كأنها عمل محقق يجمع الأدلة. فبدلاً من محاولة مشاهدة جميع الـ 600 ساعة من الفيديو دفعة واحدة، نظر نظامهم أولاً إلى السؤال للعث ط كلمات مفتاحية، مثل اسم شخص أو يوم محدد. ثم استخدم هذه الأدلة لاستخراج الأجزاء الأكثر صلة من الفيديو والنصوص المنطوقة فقط، متجاهلاً الباقي. قاموا بتدريب نموذج الكمبيوتر الخاص بهم للتركيز بدقة على الأدلة التي وجدوها، من خلال تشغيل متغيرات مطالبات صارمة ومتوازنة وهجومية لكل سؤال لضمان الاتساق عبر تعدد العينات. سمح هذا النهج لهم بالوصول إلى دقة تقارب 58 بالمائة، مما يعني أنهم أجابوا بشكل صحيح على حوالي 108 من أصل 185 سؤالاً.
أما الفريق الآخر، "مارس" (MARS)، فقد اتبع نهجاً أكثر تفاعلية. فقد بنوا نظاماً يعمل كوكيل فضولي، يقرر خطوة بخوة نوع المعلومات التي يجب النظر إليها تالياً. فإذا كان السؤال يتعلق بالنشاط البدني، فقد يختار النظام التحقق من بيانات معدل ضربات القلب خصيصاً لتلك الاستعلامات. وإذا كان السؤال عن المكان الذي ينظر إليه شخص ما، فسيقوم باستدعاء بيانات تتبع العين. ومن خلال الاختيار الديناميكي لقطعة الأدلة التي سيتم فحصها بدلاً من محاولة معالجة كل شيء في وقت واحد، رفعوا درجتهم إلى 57 بالمائة. أما الفريق الثالث، "تحكم" (TAHAKOM)، فقد نظم المعلومات في خريطة هيكلية من العلاقات، تربط بين الأشخاص والأماكن والأشياء مع طوابع زمنية. سمح لهم ذلك بطرح أسئلة محددة على النظام حول الروابط بين الأحداث، محققين دقة بلغت 54.6 بالمائة. وركز الفريق الأخير، "كيوريوس آي" (CuriosAI)، على منع الكمبيوتر من اختلاق الأمور. فقد بنوا عملية صارمة حيث يتعين على النظام البحث عن دليل، والتحقق منه مقابل الفيديو الخام، ثم الإجابة، لضمان أن كل ادعاء يستند إلى ما تمت رؤيته أو سماعه بالفعل. ووصلت أفضل طريقتهم إلى دقة 49.7 بالمائة.
تظهر نتائج المسابقة أنه بينما تتحسن الحواسيب في فهم الفيديوهات الطويلة، إلا أنها لا تزال بعيدة جداً عن الهدف. لقد أجابت الفرق المتصدرة على أكثر من نصف الأسئلة بشكل صحيح، وهو تحسن كبير مقار بالتخمين العشوائي، لكنهم لا يزالون يفتقدون نصف الإجابات تقريباً. ولعل الأمر الأكثر كشفاً هو أن الفرق لم تكن جميعها تصيب في نفس الأسئلة. فعند دمج الإجابات الصحيحة من الفرق الأربعة، تمكنوا من حل 176 سؤالاً من أصل 185، تاركين تسعة أسئلة فقط لم يتمكن أي فريق من الإجابة عليها. يشير هذا إلى أنه لا توجد طريقة واحدة مثالية بعد، ولكن النهج المختلفة تلتقط قطعاً مختلفة من اللغز. وقد وجد الباحثون أن العقبة الكبرى تظل في القدرة على تغطية ما يكفي من الأدلة دون الضياع في الحجم الهائل للبيانات. وبينما تستطيع الأنظمة التنقل عبر مئات الساعات من اللقطات، فإن مهمة التفكير والاستنتاج من خلال أحداث واقعية غير مكتوبة على فترات طويلة تظل مشكلة صعبة. لم تحل المسابقة المشكلة، لكنها أظهرت بوضوح أن الجمع بين هذه الاستراتيجيات المختلفة قد يكون المفتاح لبناء آلات تفهم حقاً حياتنا اليومية.
ملخص تقني: نتائج تحدي CASTLE الأول غير المتزامن
تعريف المشكلة تقرير البحث يتناول التحدي الأول لـ CASTLE غير المتزامن، وهي مهمة تجريبية أقيمت في ورشة عمل الرؤية من منظور الشخص الأول (EgoVis) بالتعاون مع مؤتمر CVPR 2026. المشكلة الجوهرية التي يتناولها البحث هي الإجابة على الأسئلة (QA) ذات الصيغة المغلقة (closed-form) عبر بيانات طويلة الأمد، متعددة الوسائط، ومتعددة المشاهد من منظور الشخص الأول. كُلف المشاركون بالإجابة على 185 سؤالاً من نوع الاختيار من متعدد (أربعة خيارات لكل سؤال) مستمدة من مجموعة بيانات CASTLE 2024. تتكون هذه المجموعة من أكثر من 600 ساعة من الفيديو فائق الدقة (UHD) بمعدل 50 إطاراً في الثانية مع صوت متزامن، والتي ترصد 10 مشاركين يمارسون أنشطة طبيعية. تتضمن البيانات 15 مسار فيديو (10 من منظور الشخص الأول، و5 ثابتة)، وبيانات وحدة قياس القصور الذاتي (IMU) سداسية درجات الحرية (6DoF)، وبيانات GPS، وإشارات بيومترية، وبيانات تتبع النظر، وصور حرارية. تطلبت الأسئلة الاستنتاج عبر الحدود الزمنية والمكانية والوسائط، مما اختبر قدرات مثل الاستنتاج الزمني، وتتبع الأشياء، والعد البصري، وتحديد هوية المشاركين.
المنهجية ومساهمات الفرق قدمت أربعة فرق تقارير تقنية توضح مناهجها. استخدمت جميع الفرق مجموعة البيانات والمعيار الرسمي، موظفة استراتيجيات متميزة للتعامل مع طبيعة "إبرة في كومة قش" المتمثلة في 600 ساعة من البيانات غير المكتوبة.
فريق WDL (الفائز): اقترح هذا الفريق خط معالجة للاستنتاج متعدد الوسائط مدرك للأدلة، يرتكز على نموذج اللغة الكبير متعدد الوسائط Qwen. حول نهجهم عملية الإجابة على الأسئلة غير المنظمة إلى مشكلة استرجاع أدلة مهيكلة. شملت المكونات الرئيسية ما يلي:
بناء السياق المدرك للأدلة: تحليل الاستعلامات بحثاً عن تلميحات (أسماء، أيام، غرف) لتوجيه عملية الاسترجاع. قاموا بتقسيم نصوص التعرف التلقائي على الكلام (ASR) الرسمية بناءً على التداخل اللفظي، وقاموا بترتيب الصور والإطارات الفيديوية المساعدة.
توجيه نوع السؤال: آلية لتصنيف الاستعلامات إلى أنواع: بصرية ثابتة، أو كلامية/نصية، أو زمنية، أو مختلطة، وذلك لتفعيل كتل تعليمات مخصصة (مثل مطالبات محددة للترتيب الزمني أو التعرف الضوئي على الحروف OCR).
تكييف LoRA والاتساق الذاتي: استخدموا تقنية التكيف منخفض الرتبة (LoRA) لضبط النموذج الأساسي، مع حساب الخسارة فقط على رموز الإجابة. كما استخدموا الاتساق الذاتي متعدد العينات مع تباين في صرامة المطالبات، وجمعوا النتائج عبر التصويت المرجح بالثقة.
النتيجة الرئيسية: أظهرت دراسات الاستئصال أن تقنية LoRA حسنت الدقة من 21% إلى 50%، بينما أدى زيادة عدد إطارات الفيديو المستخرجة إلى رفع الأداء إلى 58%، مما حدد تغطية الأدلة كعائق أساسي.
فريق MARS (المركز الثاني): قدم هذا الفريق إطاراً وكيلياً انتقائياً للمصادر (الاستنتاج الوكيل متعدد الوسائط مع اختيار المصدر) يقرر ديناميكياً أي وسيط من الأدلة يجب الاستعلام عنه بدلاً من معالجة جميع الوسائط الخام في آن واحد.
تصنيف المصادر: تم تنظيم البيانات إلى مصادر أولية (ملخصات الفيديو، النصوص) ومصادر مساعدة (النظر، معدل ضربات القلب، الصور، الحرارة). تمت معالجة الفيديوهات الطويلة مسبقاً إلى ملخصات أحداث باستخدام DeepSeek. 𝗲 حلقة القرار الوكيلية: يعمل وكيل قرار (GPT-5.4) في حلقة تكرارية تتضمن أربعة إجراءات: الاستمرار في التفكير، إضافة بيانات (طلب وسائط محددة مثل معدل ضربات القلب لأسئلة المجهود البدني)، الإجابة، أو التراجع العشوائي.
النتيجة الرئيسية: تطور النظام من خط أساس نصي بنسبة 35% إلى دقة 57%. تم تحقيق القفزة النهائية من 55% إلى 57% من خلال حلقة MARS الوكيلية الكاملة، مما أثبت فعالية طلب الوسائط المفقودة ديناميكياً لعمليات الاستنتاج المعقدة. (ملاحظة: الدقة النهائية في لوحة الصدارة لهذا الفريق كانت 56.8%).
فريق TAHAKOM (المركز الثالث): طور هذا الفريق إطاراً وكيلياً لا يتطلب تدريباً، يتميز بآلية استرجاع قائمة على رسم بياني معرفي (Knowledge Graph - KG) هرمي.
بناء رسم بياني معرفي متعدد الوسائط: بالاعتماد فقط على فيديوهات منظور الشخص الأول (مقاطع مدتها 30 ثانية)، قاموا بتوليد وصف للمقاطع وهيكلتها في رسم بياني موجه (SQLite) يربط الكيانات (شخص، موقع، كائن) والعلاقات (يتحدث إلى، يتفاعل مع) مع فترات زمنية صارمة.
سير العمل الوكيل الهرمي: بُني على LangGraph، حيث يقوم "وكيل المخطط" (PlannerAgent) بتفكيك الاستعلامات، بينما ينفذ "وكيل استرجاع الرسم البياني" (GraphRetrieval agent) استراتيجية توليد SQL من "صارمة إلى مرنة".
النتيجة الرئيسية: أدى تضمين علاقات "الذكر" (Mention) في الرسم البياني المعرفي إلى تحسين الدقة بنسبة 7%. بالإضافة إلى ذلك، حققت وحدة التراجع (ClipSearch/ClipAnalyze) التي استخدمت حدود الرسم البياني لاستخراج الفيديو الخام للمهام البصرية (العد، OCR) دفعة بنسبة 4%، مما أكد الحاجة للوصول إلى البكسلات الخام للمهام القائمة على التثبيت الأرضي.
فريق CuriosAI (المركز الرابع): استكشف هذا الفريق نهجين مبنيين على طبقة معالجة أولية خماسية المسارات (الهوية، الأوصاف، الكائنات، النصوص، والجداول الزمنية للأفعال). كانت مساهمتهم الرئيسية هي إطار عمل "البحث-التحقق-الإجابة" (SVA) المصمم لمكافحة التزييف (confabulation) في النماذج اللغوية البصرية (VLM).
خط أنابيب SVA: فصلت العملية الإجابة على الأسئلة إلى ثلاث مراحل: البحث (استرجاع هجين لإيجاد نافذة زمنية مدتها 15 دقيقة)، التحقق (التوسع إلى نوافذ فرعية مجاورة عبر الكاميرات)، والإجابة (دمج الأدلة عبر حكم GPT-5 مع تسلسل هرمي لأولوية الأدلة).
الانضباط ضد التزييف: فرضوا قواعد صارمة على مستوى المطالبة أثناء التحقق: عدم تكرار سياق المطالبة، الامتناع عن الإجابة في المقاطع الصامتة، اشتراط التثبيت المكاني للعد، ورفض الإجابات عالية الثقة غير المستندة إلى دليل.
المقارنة: حقق نهج SVA دقة 50% (تطلب حوالي 28 استدعاءً لـ LLM لكل سؤال) مقارنة بنهجهم الثاني (الزمني-متعدد الوسائط-الرسم البياني المعرفي - TMKG) الذي حقق 35% (استدعاء واحد لكل سؤال).
النتائج جذب التحدي 43 مشاركاً مسجلاً و272 مشاركة. تظهر لوحة الصدارة النهائية (الجدول 1) أن أفضل أربعة فرق حققت دقة تتراوح بين 0.351 و0.584، وهو ما يتفوق بشكل كبير على خط الأساس العشوائي البالغ 0.25.
فريق WDL: 108 إجابة صحيحة (58.4%).
فريق MARS: 105 إجابة صحيحة (56.8%).
فريق TAHAKOM: 101 إجابة صحيحة (54.6%).
فريق CuriosAI (SVA): 92 إجابة صحيحة (49.7%).
كشف تحليل التداخل (الجدول 2) أنه بينما أجاب الفريق الأول على 108 سؤالاً بشكل صحيح، فإن الجهد الجماعي لجميع الفرق المصنفة حل 176 من أصل 185 سؤالاً. تم تفويت 9 أسئلة فقط من قبل جميع الفرق، مما يشير إلى أن الأنظمة الحالية تمتلك نقاط قوة متكاملة.
الأهمية والادعاءات يزعم البحث أن النتائج تثبت أنه بينما تستطيع الأنظمة الحالية التنقل في مجموعات بيانات ضخمة متعددة المشاهد، فإن الإجابة على الأسئلة ذات الصيغة المغلقة وطويلة السياق في البيئات غير المكتوبة تظل مشكلة صعبة للغاية. يسلط المؤلفون الضوء على عدة رؤى رئيسية:
تغطية الأدلة أمر بالغ الأهمية: يعتمد الأداء بشكل كبير على القدرة على استرجاع والتحقق من مقاطع الأدلة الصحيحة (مثل أخذ عينات الإطارات لدى WDL والعودة إلى البكسلات الخام لدى TAHAKOM).
الاختيار الديناميكي للوسائط: يشير نجاح MARS إلى أن طلب وسائط محددة ديناميكياً (مثل القياسات الحيوية أو تتبع النظر) بناءً على احتياجات الاستعلام أكثر فعالية من المعالجة الثابتة.
التحقق ضد التزييف: تشير نتائج CuriosAI إلى أن خطوط أنابيب التحقق المنضبطة والمتعددة الخطوات، رغم تكلفتها الحسابية العالية، ضرورية لمنع النماذج الكبيرة من الهلوسة في سياقات الفيديو الطويلة.
التكامل: يشير المجموع المرتفع (176/185) إلى أن الجمع بين المناهج التي تم تقييمها (الاسترجاع، الحلقات الوكيلية، الرسوم البيانية المعرفية، والتحقق) قد يؤدي إلى أداء فائق في النسخ المستقبلية.
يخلص التقرير إلى أن التحدي وفر بيئة اختبار قوية لفهم المشهد والأنشطة، وأن النسخ المستقبلية ستهدف إلى تقييم النهج المدمجة لتعزيز أحدث ما توصل إليه العلم في مجال الرؤية من منظور الشخص الأول.