Adapting AUTOSAR for AI-Enabled Autonomous Driving: An Integrated Functional Safety, SOTIF, Cybersecurity, and Runtime Assurance Framework
تقترح هذه الورقة إطار ضمان سلامة AUTOSAR-AI (المعروف اختصاراً بـ AASAF)، والذي يدمج خدمات منصة AUTOSAR التكيفية مع معايير السلامة الوظيفية ISO، وسلامة التصميم المقصود (SOTIF)، والأمن السيبراني، ومعايير تحديث البرمجيات، جنباً إلى جنب مع نموذج طبقات ضمان الذكاء الاصطناًعي المبتكر لتمكين النشر الآمن والقابل للتتبع والمتحكم فيه للمكونات القائمة على التعلم في أنظمة القيادة الذاتية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تبني روبوتاً يمكنه قيادة سيارة بمفرده تماماً. لقد منحت هذا الروبوت "عقلاً خارقاً" مصنوعاً من الذكاء الاصطناعي، وحاسوباً متطوراً يتعلم من ملايين الصور للطرق، وحركة المرور، والمشاة. هذا الروبوت مذهل؛ إذ يمكنه رؤية أشياء تغيب عن البشر والتفاعل بسرعة تفوق طرفة العين. ولكن هنا تكمن المشكلة: هذا العقل الخارق يشبه طالباً عبقرياً لكنه غير متوقع. فقد يتفوق في الاختبار في الأيام المشمسة، لكنه قد يرتبك عندما تمطر، أو قد يخمن إجابة خاطئة بثقة تامة عندما يرى شيئاً لم يره من قبل. وفي عالم السيارات، لا يعني الحصول على "إجابة خاطئة" مجرد درجة سيئة في اختبار؛ بل قد يعني وقوع حادث.
وللحفاظ على سلامة الجميع، أمضى المهندسون عقوداً في بناء قواعد صارمة. أحد هذه الكتب الشهيرة للقواعد، ويسمى ISO 26262، يشبه مفتش السلامة الذي يتحقق مما إذا كانت مكابح السيارة وتوجيهها يعملان بشكل مثالي في كل مرة. وهناك كتاب قواعد آخر يسمى SOTIF، يهتم بالأوقات التي تعمل فيها السيارة تماماً كما صُممت، ومع ذلك ترتكب خطأً لأن العالم غريب جداً أو معقد للغاية. أما نظام AUTOSAR، فهو اللغة العالمية ونظام التشغيل الذي يسمح لجميع الأجزاء المختلفة في السيارة الحديثة بالتحدث مع بعضها البعض. السؤال الكبير الذي يطرحه العلماء الآن هو: كيف نضع هذا الطالب العبقري وغير المتوقع داخل سيارة يجب أن تتبع قواعد سلامة صارمة؟ إذا ارتبك الذكاء الاصطناعي، فكيف نضمن ألا تستمر السيارة في القيادة بعمى نحو الخطر؟
هذا هو بالضبط اللغز الذي يعالجه إمراه أكرم كارباغ في مقال بحثي جديد. يقترح البحث أننا لا نستطيع مجرد توصيل الذكاء الاصطناعي بالسيارة والأمل في الأفضل. بدلاً من ذلك، يقترح المؤلف "إطار عمل للسلامة" (Safety Framework) يعمل بمث like معلم صارم يجلس بجانب طالب الذكاء الاصطناعي. يستخدم إطار العمل هذا نظام AUTOSAR الموجود بالفعل، ولكنه يضيف طبقة إشراف خاصة. الفكرة الجوهرية هي فصل "أفكار" الذكاء الاصطناعي عن "أفعال" السيارة. يمكن للذكاء الاصطناعي أن يقترح: "مهلاً، لنغير المسار!"، ولكن نظام سلامة منفصل وأبسط وأكثر قابلية للتنبؤ يجب أن يقول "نعم" أو "لا" قبل أن تتحرك السيارة فعلياً. إذا بدأ الذكاء الاصطناعي بالتصرف بغرابة أو ارتبك، فإن نظام السلامة هذا يتولى السيطرة فوراً وينفذ "مناورة الحد الأدنى من المخاطر" (Minimum Risk Manoeuvre)، وهي مجرد طريقة منمقة لقول "أبطئ وتوقف بأمان".
يقدم البحث طريقة جديدة ذكية لتقييم مدى الثقة التي يمكن وضعها في أجزاء الذكاء الاصطناعي المختلفة، تسمى "مستويات ضمان الذكاء الاصطناعي" (AI Assurance Tiers). تخيل هذه المستويات مثل مستويات الإذن في لعبة فيديو. في المستوى الأدنى (Tier 0)، يكون الذكاء الاصطناعي مجرد راكب يقدم نصائح، مثل جهاز GPS يخبرك بحالة الطقس. وفي المستوى الأعلى (Tier 4)، يكون الذكاء الاصطناعي هو السائق الرئيسي، ولكن يراقبه حارس شديد اليقظة. يجادل البحث بأنه ليس لمجرد كون جزء من السيارة مصنفاً على أنه "عالي السلامة" (ما يسميه المهندسون ASIL D) يعني أن الذكاء الاصطناعي بداخله آمن تلقائياً. أنت بحاجة إلى فحوصات إضافية مخصصة لعقل الذكاء الاصطناعي، مثل التحقق مما إذا كان ينظر إلى البيانات الصحيحة أو ما إذا كان يزداد ثقة في أشياء لا يفهمها.
كما رسم المؤلف مساراً دقيقاً لكيفية بناء هذا باستخدام أدوات AUTOSAR التي تستخدمها شركات السيارات بالفعل. الأمر يشبه إعطاء السيارة مجموعة جديدة من التعليمات: "عندما يقول الذكاء الاصطناعي 'انطلق'، يقوم مدير السلامة بالتحقق من الطقس، والطريق، ودرجة ثقة الذكاء الاصطناعي. إذا بدا كل شيء جيداً، تنطلق السيارة. إذا كان الذكاء الاصطناعي غير متأكد أو كان الطريق غريباً، يضغط مدير السلامة على المكابح". لا يدعي البحث أن هذا حل سحري يحل كل المشكلات للأبد، بل يقترح بدلاً من ذلك طريقة منظمة لإدارة المخاطر، مما يضمن أنه حتى لو ارتكب الذكاء الاصطناعي خطأً، فإن السيارة لديها خطة احتياطية، بسيطة، وموثوقة، وجاهزة دائماً لإنقاذ الموقف. الأمر يتعلق بمنح الذكاء الاصطناعي الحرية ليكون ذكياً، مع إبقاء ضوابط السلامة في يد نظام لا يتعب ولا يرتبك أبداً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.