Assessment of AI-Generated HARA in Automotive Functional Safety
تقيم هذه الدراسة قدرة أربع أدوات ذكاء اصطناعي عامة على دعم هندسة السلامة الوظيفية وفق معيار ISO 26262 من خلال مقارنة مخرجات تحليل المخاطر وتقييمها (HARA)، كاشفةً أنه في حين يوفر الذكاء الاصطناعي مكملاً واعداً لعمليات السلامة، فإن تنفيذه يتطلب تدقيقاً صارماً فيما يتعلق بالتتبع والموثوقية والامتثال التنظيمي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في السيارات الحديثة، لم تعد السلامة تقتصر فقط على الفولاذ القوي والوسائد الهوائية؛ بل تتعلق بالمنطق الخفي الذي يمنع المركبة من إلحاق الضرر بركابها. يعتمد المهندسون على عملية صارمة تسمى "تحليل المخاطر" لتخيل كل طريقة يمكن أن يفشل بها النظام، بدءاً من مكابح لا تتحرر وصولاً إلى مستشعر يرى أشباحاً. ثم يقومون بتعيين مستوى خطر لكل فشل محتمل، ليقرروا مدى صرامة بناء النظام لمنع الإصابة. هذه العملية هي العمود الفقري لسلامة السيارات، وهي تخصص جاد للغاية لدرجة أن له كتاب قواعد دولي خاص به. ومع بدء الذكاء الاصطناعي في كتابة الأكواد وتصميم الأنظمة للسيارات، ظهر سؤال جوهري: هل يمكن لآلة، تدربت على كميات هائلة من النصوص البشرية، أن تقوم بهذا التفكير عالي المخاطر نيابة عنا؟ هل يمكن للذكاء الاصطناعي أن ينظر إلى وصف لجزء من السيارة ويحدد بشكل صحيح ما الذي يمكن أن يحدث خطأً، ومن ثم يقرر مدى خطورة هذا الخطأ؟
قام باحثان من شركة هندسة سيارات كبرى باختبار هذه الفكرة. فقد جمعا أربع أدوات مختلفة للذكاء الاصطناعي، تتراوح من المساعدات المدمجة في البرامج المكتبية القياسية إلى النماذج المتخصصة المصممة لحل المشكلات المعقدة. وقد أعطيا كل أداة نفس المجموعة من الوثائق التي تصف نظام سلامة معيناً في السيارة: كيف ينبغي أن يعمل النظام، والظروف التي يعمل فيها، والسيناريوهات التي قد يُستخدم فيها. وطلبا من الآلات أن تعمل كخبراء سلامة وتنتج "تحليل مخاطر"، وهو وثيقة تسرد كل فشل محتمل وتقيم خطورته. ولرؤية ما إذا كانت التعليمات تؤثر على النتيجة، جربا طريقتين مختلفتين في طرح السؤال: إحداهما كانت عبارة عن محادثة مفصلة خطوة بخوة حيث قيل للذكاء الاصطناعي أن يتبنى دوراً مهنياً محدداً، والأخرى كانت أمراً مباشراً واحداً لأداء المهمة.
أظهرت النتائج أنه بينما استطاعت الآلات إنتاج الوثائق المطلوبة، إلا أن جودة تفكيرها كانت متذبذبة. فقد أنتجت كل أداة قائمة بـ "أهداف السلامة"، وهي القواعد رفيعة المستوى المصممة لمنع الحوادث، لكن القوائم بدت مختلفة تماماً عن بعضها البعض. وعندما قارن الباحثون المخرجات، وجدوا أن هدفاً واحداً فقط للسلامة ظهر في كل القوائم: الحاجة إلى منع انتشار الوسائد الهوائية عندما لا ينبغي لها أن تنتشر. أما بالنسبة لأي شيء آخر، فقد اختلفت الأدوات؛ فقد تحدد إحدى الآلات نمط فشل معين بينما أغفلته آلة أخرى تماماً، أو قد تصف نفس المشكلة بطريقة فضفاضة جداً بحيث لا تكون مفيدة. وهذا النقص في الاتفاق يعني أنه إذا اعتمد مهندس على إحدى هذه الأدوات فقط، فقد يغفل عن خطر حرج لمجرد أن تلك الآلة تحديداً لم تفكر في البحث عنه.
أصبح عدم الاتساق أكثر وضوحاً عندما حاولت الأدوات تعيين تقييم للمخاطر للمشكلات التي وجدتها. ففي عالم سلامة السيارات، تحدد هذه التقييمات مقدار الجهد والاختبار الذي يتطلبه النظام. وبالنسبة لهدف السلامة الوحيد الذي اتفقت عليه الأدوات الأربع، ظلت تقييمات المخاطر الخاصة به متفاوتة بشكل كبير؛ حيث صنف أحد الأدوات الخطر على أنه متوسط، بينما صنفه آخر على أنه أعلى مستوى ممكن من المخاطر. هذه الفجوة كبيرة لأن الاختلاف بمستوى واحد في التقييم يمكن أن يغير عملية التطوير بأكملها، مما يتطلب مكونات أكثر تكلفة أو اختبارات أكثر صرامة. كما كشفت الدراسة أن الطريقة التي طُرح بها السؤال غيرت الإجابة؛ فعندما أعطى الباحثون الأدوات تعليمات بسيطة من جملة واحدة، مالت الآلات إلى إعطاء تقييمات مخاطر أعلى مما كانت عليه عندما استخدموا نهجاً حوارياً أكثر تفصيلاً. وهذا يشير إلى أن الذكاء الاصطناعي لا يحسب المخاطر بناءً على حقيقة داخلية ثابتة، بل يتفاعل مع نبرة وهيكل "الأمر" (البرومبت).
ولعل النتيجة الأكثر دلالة كانت كيفية صراع الآلات في كتابة أهداف السلامة نفسها. يجب كتابة هدف السلامة الصحيح بمستوى محدد من التفصيل: يجب أن يذكر الشيء السيئ الذي يجب تجنبه دون الغرق في التفاصيل التقنية لكيفية إصلاحه. ووجد الباحثون أن معظم أهداف السلامة التي أنشأها الذكاء الاصطناعي كُتبت بشكل غير صحيح؛ فكثير منها كان شديد التفصيل، حيث بدا وكأنها تعليمات لجزء محدد بدلاً من كونها قاعدة عامة للنظام بأكمله، بينما كانت أخرى غامضة للغاية، وفشلت في ربط الفشل بالخطر بوضوح. وفي حالات عدة، خلطت الأدوات بين هدف السلامة رفيع المستوى والمتطلبات التقنية منخفضة المستوى، حيث خلطت بين "ماذا" و"كيف". وهذا يشير إلى أنه على الرغم من قدرة الآلات على محاكة لغة هندسة السلامة، إلا أنها لا تفهم تماماً بعد الفرق المفاهيمي بين القاعدة والمواصفة.
وعلى الرغم من هذه العيوب، فإن الدراسة لا تشير إلى أن الذكاء الاصطناعي عديم الفائدة في أعمال السلامة. فقد تمكنت الأدوات من توليد مجموعة واسعة من الأفكار وتحديد مخاطر محتملة قد يأخذها مهندس بشري في الاعتبار. وخلص الباحثون إلى أن هذه الآلات يمكن أن تعمل كنقطة انطلاق مفيدة، كوسيلة لتبادل الأفكار لصياغة مسودة أولية أو للتحقق مما إذا كان فريق بشري قد أغفل سيناريو واضحاً. ومع ذلك، لا يمكن الوثوق بالمخرجات بمفردها. ولأن الأدوات تختلف في تحديد ماهية المخاطر، ومدى خطورتها، وكيفية كتابة القواعد لمنعها، يجب على خبير بشري مراجعة كل سطر بدقة. يمكن للذكاء الاصطناعي أن يقدم شرارة من الاستبصار، ولكن في عالم السلامة عالي المخاطر الذي يتعلق بالحفاظ على سلامة الناس في المركبات المتحركة، يجب أن يظل الحكم النهائي بيد البشر حصراً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.