Assessment of AI-Generated HARA in Automotive Functional Safety
यह अध्ययन चार सामान्य-उद्देश्यीय एआई (AI) उपकरणों के आईएसओ (ISO) 26262 कार्यात्मक सुरक्षा इंजीनियरिंग को सहायता प्रदान करने की क्षमता का मूल्यांकन करता है, जो उनके खतरा विश्लेषण और जोखिम मूल्यांकन (HARA) परिणामों की तुलना करते हुए यह प्रकट करता है कि जबकि एआई सुरक्षा प्रक्रियाओं के लिए एक आशाजनक पूरक है, इसके कार्यान्वयन के लिए ट्रैसेबिलिटी (traceability), विश्वसनीयता और नियामक अनुपालन के संबंध में कठोर जांच की आवश्यकता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक कारों में, सुरक्षा अब केवल मजबूत स्टील और एयरबैग्स के बारे में नहीं है; यह उस अदृश्य तर्क के बारे में है जो एक वाहन को अपने यात्रियों को नुकसान पहुँचाने से रोकता है। इंजीनियर 'हज़ार्ड एनालिसिस' (खतरा विश्लेषण) नामक एक कठोर प्रक्रिया पर भरोसा करते हैं, जिसमें वे हर उस तरीके की कल्पना करते हैं जिससे कोई सिस्टम विफल हो सकता है—जैसे कि एक ब्रेक जो रिलीज़ न हो रहा हो या एक सेंसर जो किसी काल्पनिक चीज़ (घोस्ट) को देख ले। इसके बाद वे प्रत्येक संभावित विफलता को एक जोखिम स्तर (रिस्क लेवल) देते हैं, जिससे यह तय होता है कि चोट को रोकने के लिए सिस्टम को कितनी सख्ती से बनाया जाना चाहिए। यह प्रक्रिया ऑटोमोटिव सुरक्षा की रीढ़ है, एक ऐसा अनुशासन जो इतना गंभीर है कि इसकी अपनी एक अंतरराष्ट्रीय नियम पुस्तिका है। जैसे-जैसे आर्टिफिशियल इंटेलिजेंस कारों के लिए कोड लिखना और सिस्टम डिजाइन करना शुरू कर रहा है, एक महत्वपूर्ण प्रश्न उभरा है: क्या एक मशीन, जिसे मानव पाठ (टेक्स्ट) की विशाल मात्रा पर प्रशिक्षित किया गया है, हमारे लिए यह उच्च-दांव वाला चिंतन कर सकती है? क्या एक आर्टिफिशियल इंटेलिजेंस कार के पुर्जे के विवरण को देखकर सही ढंग से पहचान सकता है कि क्या गलत हो सकता है, और फिर यह तय कर सकता है कि वह गलती कितनी खतरनाक होगी?
एक प्रमुख ऑटोमोटिव इंजीनियरिंग फर्म के दो शोधकर्ताओं ने इस विचार का परीक्षण करने के लिए एक प्रयोग किया। उन्होंने चार अलग-अलग आर्टिफिशियल इंटेलिजेंस टूल्स को इकट्ठा किया, जिनमें मानक ऑफिस सॉफ्टवेयर में बने सहायकों से लेकर जटिल समस्या-समाधान के लिए डिज़ाइन किए गए विशेष मॉडलों तक शामिल थे। उन्होंने प्रत्येक टूल को एक विशिष्ट कार सुरक्षा प्रणाली का वर्णन करने वाले दस्तावेज़ों का एक ही सेट दिया: वाहन कैसे काम करना चाहिए, वह किन परिस्थितियों में संचालित होता है, और किन परिदृश्यों में इसका उपयोग किया जा सकता है। उन्होंने मशीनों से सुरक्षा विशेषज्ञों के रूप में कार्य करने और एक 'हज़ार्ड एनालिसिस' तैयार करने के लिए कहा, जो एक ऐसा दस्तावेज़ है जिसमें हर संभावित विफलता को सूचीबद्ध किया जाता है और उसके खतरे को रेट किया जाता है। यह देखने के लिए कि क्या निर्देश मायने रखते हैं, उन्होंने पूछने के दो अलग-अलग तरीके आजमाए: एक विस्तृत, चरण-दर-चरण बातचीत जहाँ AI को एक विशिष्ट पेशेवर भूमिका अपनाने के लिए कहा गया था, और दूसरा काम करने के लिए एक सीधा, एकल कमांड था।
परिणामों ने दिखाया कि हालांकि मशीनें अनुरोधित दस्तावेज़ तैयार कर सकती थीं, लेकिन उनके सोचने की गुणवत्ता असंगत थी। प्रत्येक टूल ने 'सेफ्टी गोल्स' (सुरक्षा लक्ष्यों) की एक सूची बनाई, जो दुर्घटनाओं को रोकने के लिए उच्च-स्तरीय नियम होते हैं, लेकिन ये सूचियाँ एक-दूसरे से बहुत भिन्न थीं। जब शोधकर्ताओं ने आउटपुट की तुलना की, तो उन्होंने पाया कि केवल एक विशिष्ट सुरक्षा लक्ष्य ही हर सूची में मौजूद था: एयरबैग्स को तब तैनात होने से रोकना जब उन्हें नहीं होना चाहिए। बाकी सब के लिए, टूल्स के बीच असहमति थी। एक मशीन किसी विशिष्ट विफलता मोड (फेलियर मोड) की पहचान कर सकती थी जिसे दूसरी मशीन पूरी तरह से छोड़ देती, या वह एक ही समस्या को इस तरह से वर्णित कर सकती थी जो उपयोग के लिए बहुत अस्पष्ट हो। असहमति की यह कमी बताती है कि यदि कोई इंजीनियर केवल इनमें से किसी एक टूल पर भरोसा करता है, तो वह एक महत्वपूर्ण खतरे को केवल इसलिए चूक सकता है क्योंकि उस विशेष मशीन ने उस ओर देखने के बारे में नहीं सोचा था।
इन टूल्स द्वारा पहचानी गई समस्याओं को जोखिम रेटिंग (रिस्क रेटिंग) देने के प्रयास में यह विसंगति और भी स्पष्ट हो गई। कार सुरक्षा की दुनिया में, ये रेटिंग निर्धारित करती हैं कि एक सिस्टम को कितने प्रयास और परीक्षण की आवश्यकता है। उस एक सुरक्षा लक्ष्य के लिए जिस पर चारों टूल्स सहमत थे, उनकी जोखिम रेटिंग फिर भी बहुत भिन्न थी। एक टूल ने खतरे को मध्यम स्तर का बताया, जबकि दूसरे ने इसे उच्चतम संभव जोखिम स्तर का बताया। यह अंतर महत्वपूर्ण है क्योंकि रेटिंग में एक स्तर का अंतर भी पूरे विकास (डेवलपमेंट) की प्रक्रिया को बदल सकता है, जिसके लिए अधिक महंगे पुर्जों या सख्त परीक्षण की आवश्यकता होती है। अध्ययन से यह भी पता चला कि सवाल पूछने का तरीका जवाब को बदल देता था। जब शोधकर्ताओं ने टूल्स को एक सरल, एक-वाक्य का निर्देश दिया, तो मशीनों ने अधिक विस्तृत, संवादात्मक दृष्टिकोण की तुलना में उच्च जोखिम रेटिंग दी। यह सुझाव देता है कि AI किसी निश्चित आंतरिक सत्य के आधार पर जोखिम की गणना नहीं कर रहा है, बल्कि वह प्रॉम्प्ट (निर्देश) के लहजे और संरचना पर प्रतिक्रिया दे रहा है।
शायद सबसे उल्लेखनीय निष्कर्ष यह था कि मशीनें स्वयं सुरक्षा लक्ष्यों को लिखने में संघर्ष कर रही थीं। एक उचित सुरक्षा लक्ष्य को एक विशिष्ट स्तर के विवरण के साथ लिखा जाना चाहिए: इसमें तकनीकी विवरणों में उलझे बिना यह बताना चाहिए कि किस बुरी चीज़ से बचना है। शोधकर्ताओं ने पाया कि अधिकांश AI-जनित लक्ष्य गलत तरीके से लिखे गए थे। कई लक्ष्य बहुत विस्तृत थे, जो एक सामान्य नियम के बजाय एक विशिष्ट पुर्जे के लिए निर्देशों की तरह लग रहे थे। अन्य बहुत अस्पष्ट थे, जो विफलता को खतरे से स्पष्ट रूप से जोड़ने में विफल रहे। कई मामलों में, टूल्स ने उच्च-स्तरीय सुरक्षा लक्ष्य को निचले स्तर की तकनीकी आवश्यकताओं के साथ भ्रमित कर दिया, जिससे "क्या" और "कैसे" आपस में मिल गए। यह इंगित करता है कि हालांकि मशीनें सुरक्षा इंजीनियरिंग की भाषा की नकल कर सकती हैं, लेकिन वे अभी तक एक नियम और एक विशिष्टता (स्पेसिफिकेशन) के बीच वैचारिक अंतर को पूरी तरह से नहीं समझती हैं।
इन खामियों के बावजूद, यह अध्ययन यह सुझाव नहीं देता है कि आर्टिफिशियल इंटेलिजेंस सुरक्षा कार्यों के लिए बेकार है। टूल्स विचारों की एक विस्तृत श्रृंखला उत्पन्न करने और उन संभावित खतरों की पहचान करने में सक्षम थे जिन पर एक मानव इंजीनियर विचार कर सकता है। शोधकर्ताओं ने निष्कर्ष निकाला कि ये मशीनें एक सहायक शुरुआती बिंदु के रूप में काम कर सकती हैं, एक पहला ड्राफ्ट तैयार करने का तरीका या यह जांचने का तरीका कि क्या मानव टीम ने किसी स्पष्ट परिदृश्य को अनदेखा कर दिया है। हालांकि, इनके आउटपुट पर अकेले भरोसा नहीं किया जा सकता। क्योंकि टूल्स इस बात पर असहमत हैं कि जोखिम क्या हैं, वे कितने खतरनाक हैं, और उन्हें रोकने के लिए नियम कैसे लिखे जाएं, इसलिए एक मानव विशेषज्ञ को प्रत्येक पंक्ति की समीक्षा करनी होगी। आर्टिफिशियल इंटेलिजेंस अंतर्दृष्टि की एक चिंगारी प्रदान कर सकता है, लेकिन चलते हुए वाहनों में लोगों को सुरक्षित रखने की उच्च-दांव वाली दुनिया में, अंतिम निर्णय पूरी तरह से मानव हाथों में ही रहना चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।