From Sports to Safety: Benchmarking Proactive Risk Inference in MLLMs
تقدم هذه الورقة SPRINT، وهو معيار شامل لمقاطع فيديو رياضية من العالم الحقيقي مصمم لتقييم قدرات الاستدلال الاستباقي للمخاطر لدى النماذج اللغوية الكبيرة متعددة الوسائط (MLLMs)، كاشفاً أنه في حين تتفوق النماذج الحالية في اكتشاف المخاطر، فإنها تعاني في تحديد أسبابها الكامنة وتصدر إنذارات كاذبة بشكل متكرر، مما يسلط الضوء على فجوة حرجة في السلامة الاستباقية الموثوقة للبيئات الفيزيائية الديناميكية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تشاهد فيلماً، ولكن بدلاً من مجرد رؤية ما يحدث على الشاشة، لديك صديق ذكي جداً يجلس بجانبك ويمكنه التنبؤ بالتحولات في الحبكة قبل حدوثها. في عالم الذكاء الاصطناعي، يُطلق على هذا الصديق اسم "النموذج اللغوي الكبير متعدد الوسائط" (MLLM). هذه نماذج عقول حاسوبية قوية يمكنها "رؤية" الصور ومقاطع الفيديو و"قراءة" النصوص، مما يسمح لها بفهم العالم بطريقة تبدو شبه بشرية. لفترة طويلة، كان العلماء يعلمون أصدقاء الذكاء الاصطناعي هؤلاء كيفية رصد الأشياء السيئة بعد وقوعها، مثل التعرف على صورة حريق أو قراءة نص عن حيوان خطير. لكن السحر الحقيقي — وتحدي السلامة الحقيقي — يكمن في التفكير الاستباقي. هذه هي القدرة على النظر إلى مشهد ما، ورصد إشارة صغيرة وخفية (مثل سلم متذبذب أو عداء يميل أكثر من اللازم)، والصراخ: "انتظر! شيء سيء على وشك الحدوث!" قبل أن تقع الكارثة بالفعل. إنه الفرق بين الاتصال بإدارة الإطفاء بعد احتراق المنزل وبين ملاحظة الدخان والاتصال بهم قبل اندلاع النيران.
هذا هو بالضبط ما أراد فريق من الباحثين من جامعة رنمين في الصين اختباره. لقد طرحوا سؤالاً بسيطاً ولكنه مخيف: هل تستطيع عقولنا الخارقة الحالية للذكاء الاصطناعي التنبؤ بالحوادث الجسدية في الوقت الفعلي، أم أنها تتظاهر فقط بالذكاء؟ لمعرفة ذلك، قاموا ببناء أرض اختبار جديدة تسمى SPRINT (اختبار استنتاج مخاطر الرياضة الاستباقية). لقد جمعوا ما يقرب من 3000 فيديو حقيقي لحوادث رياضية — من حوادث التزلج إلى سقوط لاعبي الجمباز — وربطوها بمقاطع فيديو آمنة لم يحدث فيها أي مكروه. لم يسألوا الذكاء الاصطناعي فقط: "هل تعرض شخص ما للأذى؟" (وهو أمر سهل الإجابة عليه بعد وقوعه). بل سألوه: "ما الذي أوشك أن يسوء، ولماذا؟" أرادوا معرفة ما إذا كان بإمكان الذكاء الاصطناعي رصد الخطر بينما لا يزال في طور التكون، مثل ملاحظة انزلاق قدم المتزلج قبل أن يرتطم بالأرض.
كانت النتائج بمثابة جرس إنذار. وجد الباحثون أنه بينما تتفوق نماذج الذكاء الاصطناعي هذه في رصد الخطر بمجرد أن يصبح واضحاً (مثل رؤية شخص ملقى على الأرض)، إلا أنها سيئة بشكل مفاجئ في التنبؤ به قبل وقوعه. عندما تم تزويد الذكاء الاصطناعي بمقطع فيديو لحادث رياضي وسُئل عن وصف الموقف دون إخباره بالبحث عن الخطر، فإنه غالباً ما يتجاهل علامات التحذير تماماً. والأسوأ من ذلك، عندما سأل الباحثون صراحةً: "هل هناك خطر هنا؟"، بدأ الذكاء الاصطناعي يصاب بالذعر. فقد بدأ يرى خطراً في مقاطع الفيديو الآمنة، مثل لاعبة جمباز تؤدي شقلبة مثالية أو عداء ينطلق بسرعة، لمجرد أن السؤال جعله مرتاباً. كان الأمر كما لو أن الذكاء الاصطناعي كان متلهفاً لقول "لقد وجدت مشكلة!" لدرجة أنه بدأ يبتدع مشاكل حيث لا توجد أي مشكلة.
كشفت الدراسة، التي حللت 2888 مقطع فيديو عبر 14 رياضة مختلفة، عن فجوة حادة بين قدرة الذكاء الاصطناعي على استشعار الخطر وقدرته على فهمه. كانت أفضل نماذج الذكاء الاصطناعي قادرة على الإشارة بشكل صحيح إلى وجود خطر بنسبة تزيد عن 95% عندما يكون الحادث قد وقع بالفعل. ومع ذلك، عندما طُلب منها شرح لماذا يحدث الحادث أو التنبؤ به من الثواني الأولى للفيديو، انخفض أداؤها إلى أقل من 50%. في الواقع، عندما اختبر الباحثون الذكاء الاصطناعي على مقاطع فيديو آمنة باستخدام مطالبة تسأل عن الخطر، بدأت بعض النماذج في تصنيف الحركات عالية الطاقة غير الضارة على أنها حوادث لأكثر من نصف المرات.
حاول الباحثون أيضاً "تعليم" أحد نماذج الذكاء الاصطناعي باستخدام مجموعة البيانات الجديدة الخاصة بهم، آملين في إصلاح نقاط الضعف هذه. بعد بعض التدريب، أصبح الذكاء الاصطناعي أفضل في رصد أسباب الحوادث وأصبح أقل عرضة لإطلاق إنذارات كاذبة في المقاطع الآمنة. ومع ذلك، حتى مع هذه المساعدة، ظل الذكاء الاصطناعي يعاني مع الجزء الأصعب: وهو النظر إلى مقطع فيديو لحركة رياضية في مراحلها الأولى وتحديد السبب الجسدي المحدد الذي قد يؤدي إلى وقوع حادث بدقة دون أن يتم توجيهه لذلك.
في النهاية، تشير الورقة البحثية إلى أنه بينما تتحسن أصدقاؤنا من الذكاء الاصطناعي في وصف ما يرونه، إلا أنهم لم يتقنوا بعد فن "السلامة الاستباقية". إنهم لا يزالون في الغالب "رد فعل"، ينتظرون وقوع الاصطدام قبل أن يفهموا ما حدث. وتخلص الدراسة إلى أنه لكي يكون الذكاء الاصطناعي آمناً حقاً في العالم الحقيقي — سواء كان يقود سيارة، أو يساعد مسناً، أو يشاهد مباراة رياضية — فإنه يحتاج إلى تجاوز مجرد رصد المخاطر الواضحة. يحتاج إلى تعلم فهم أسباب الخطر والثقة في عينيه بدلاً من مجرد التفاعل مع الأسئلة التي نطرحها عليه. وحتى ذلك الحين، قد نحتاج إلى إبقاء عين بشرية على الكرة، تحسباً لأن يقرر الذكاء الاصطناعي أن قفزة مثالية هي في الواقع كارثة تنتظر وقوعها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.