The Embodiment Gap: What Mandatory, Regulatory and Media-Based Incident Regimes Reveal About Robotic AI Failures, 2021–2026
यह शोध पत्र अनिवार्य नियामक और मीडिया-आधारित व्यवस्थाओं के अंतर्गत 2021 से 2026 तक के घटना डेटा का विश्लेषण करता है ताकि यह प्रदर्शित किया जा सके कि प्रत्येक प्रणाली रोबोटिक एआई विफलताओं के एक विशिष्ट और अपूर्ण उपसमुच्चय को कैप्चर करती है, जो गैर-क्रैश परिचालन त्रुटियों और उभरती हुई मानवोइड प्रौद्योगिकियों के लिए दृश्यता के महत्वपूर्ण अंतराल को प्रकट करती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
जब कोई मशीन कृत्रिम बुद्धिमत्ता (AI) के साथ वास्तविक दुनिया में गलती करती है, तो उस गलती की कहानी पूरी तरह से इस बात पर निर्भर करती है कि सुनने वाला कौन है। यदि एक स्व-चालित कार दुर्घटनाग्रस्त होती है, तो डेटा एकत्र करने के कानूनी जनादेश वाली एक सरकारी एजेंसी इसे दर्ज करेगी। यदि एक सर्जिकल रोबोट मरीज के भीतर खराबी का शिकार होता है, तो एक स्वास्थ्य नियामक एक रिपोर्ट दर्ज करेगा। लेकिन यदि कोई रोबोट किसी संग्रहालय में लड़खड़ाता है या किसी ट्रेड शो में एक मानव रूपी (humanoid) मशीन अजीब व्यवहार करती है, तो एकमात्र रिकॉर्ड एक राहगीर द्वारा पोस्ट किया गया वीडियो या एक समाचार लेख हो सकता है। सूचना एकत्र करने के इन विभिन्न तरीकों को 'इंसिडेंट रिजीम' (incident regimes) कहा जाता है। वे समाज की आँख और कान के रूप में कार्य करते हैं, यह तय करते हैं कि कौन सी विफलताएं हमारी सामूहिक स्मृति का हिस्सा बनेंगी और कौन सी चुप्पी में विलीन हो जाएंगी। समस्या यह है कि प्रत्येक रिजीम वास्तविकता का एक अलग हिस्सा देखता है। एक केवल दुर्घटनाओं को देखता है, दूसरा केवल चिकित्सा त्रुटियों को, और तीसरा केवल उन कहानियों को जो समाचारों में आती हैं। क्योंकि ये प्रणालियाँ आपस में बात नहीं करती हैं, इसलिए हम अक्सर यह सोचते हैं कि हम समझते हैं कि रोबोट कितने सुरक्षित हैं, जबकि वास्तव में हम एक खंडित चित्र देख रहे होते हैं जहाँ सबसे खतरनाक विफलताएं छिपी हो सकती हैं, और सबसे सामान्य विफलताएं अदृश्य हो सकती हैं।
अल्फ्रेडो मेरलेट नामक एक शोधकर्ता ने 2021 और 2026 के बीच रोबोटिक विफलताओं को ट्रैक करने के तीन अलग-अलग तरीकों की तुलना करके इन अदृश्य क्षेत्रों (blind spots) का मानचित्रण करने का प्रयास किया। उन्होंने अमेरिकी नेशनल हाईवे ट्रैफिक सेफ्टी एडमिनिस्ट्रेशन के पास दर्ज अनिवार्य क्रैश रिपोर्ट, अमेरिकी फूड एंड ड्रग एडमिनिस्ट्रेशन के पास दर्ज मेडिकल डिवाइस रिपोर्ट, और समाचार मीडिया से कहानियाँ एकत्र करने वाले एक स्वैच्छिक डेटाबेस का अध्ययन किया। इन स्रोतों को एक साथ जोड़कर, उन्होंने पाया कि रोबोटिक विफलताओं के बारे में सीखने का हमारा तरीका गहराई से त्रुटिपूर्ण है। स्व-चालित कारों के लिए अनिवार्य प्रणाली ने 8,000 से अधिक घटनाओं को दर्ज किया, फिर भी मीडिया डेटाबेस, जिसे अक्सर AI समस्याओं की एक व्यापक सूची माना जाता है, उन दुर्घटनाओं के एक बहुत ही छोटे अंश को ही समाहित कर सका। वास्तव में, सरकार को रिपोर्ट की गई दुर्घटनाओं का एक प्रतिशत से भी कम हिस्सा मीडिया डेटाबेस में पहुँच सका। यह सुझाव देता है कि जनता रोबोटिक सुरक्षा का एक अत्यधिक विकृत दृश्य देख रही है, जिसमें वह अधिकांश नियमित विफलताओं को मिस कर रही है और कुछ चुनिंदा घटनाओं पर ध्यान केंद्रित कर रही है।
अध्ययन से यह भी पता चला कि मीडिया केवल गंभीर दुर्घटनाओं की अनदेखी नहीं करता है। इस विचार के विपरीत कि समाचार आउटलेट्स दुखद कहानियों के बजाय हानिरहित, विचित्र रोबोट कहानियों को प्राथमिकता देते हैं, डेटा ने दिखाया कि गंभीर दुर्घटनाओं के रिपोर्ट होने की संभावना वास्तव में बहुत अधिक थी। जब एक स्व-चालित कार दुर्घटना में मृत्यु या गंभीर चोट आई, तो मामूली टक्कर की तुलना में मीडिया डेटाबेस में दिखने की संभावना नौ गुना अधिक थी। हालाँकि, मीडिया डेटाबेस ने एक अलग प्रकार की विफलता को पकड़ा जिसे सरकारी प्रणाली पूरी तरह से छोड़ देती है: दुर्घटना के बिना परिचालन संबंधी विफलताएं (operational failures)। ये वे घटनाएं हैं जहाँ एक रोबोट खतरनाक व्यवहार करता है लेकिन किसी चीज़ से टकराता नहीं है, जैसे कि एम्बुलेंस को रास्ता रोकने वाला रोबोटैक्सी, बिजली कटौती के कारण ट्रैफिक में जम गई वाहनों की एक कतार, या बाढ़ में फंस गया एक रोबोट। क्योंकि सरकार का रिपोर्टिंग नियम केवल भौतिक दुर्घटना से सक्रिय होता है, ये खतरनाक स्थितियां नियामकों के लिए अदृश्य बनी रहती हैं, भले ही वे सार्वजनिक सुरक्षा के लिए वास्तविक जोखिम पैदा करती हों।
शोध सर्जिकल रोबोट तक भी विस्तृत हुआ, जहाँ एक अलग प्रकार का विरूपण पाया गया। मेडिकल डिवाइस रिपोर्ट का डेटाबेस 2025 में खराबी की रिपोर्टों में चार गुना उछाल दिखाता है। पहली नज़र में, यह अचानक आई खतरनाक विफलताओं का स्पाइक लग सकता था। हालाँकि, डेटा की बारीकी से जांच करने पर पता चला कि यह उछाल अधिक चोटों या मौतों के कारण नहीं था। इसके बजाय, निर्माता ने उनके उपकरणों के एक विशिष्ट प्रकार के घिसाव (wear and tear) के लिए रिपोर्ट करना शुरू कर दिया था, जो कि एक नियमित रखरखाव का मुद्दा था जिसे पहले दर्ज नहीं किया गया था। मरीजों को होने वाली वास्तविक चोटों की संख्या में बहुत कम बदलाव आया। यह निष्कर्ष इस बात पर प्रकाश डालता है कि रिपोर्ट करने वाले व्यक्ति का व्यवहार कैसे संकट का भ्रम पैदा कर सकता है, भले ही वास्तविक नुकसान की भौतिक स्थिति स्थिर बनी हुई हो।
शायद सबसे चौंकाने वाला निष्कर्ष रोबोटों की नवीनतम पीढ़ी से संबंधित है: ह्यूमनाइड्स (humanoids)। ये वे मशीनें हैं जो दो पैरों पर चलती हैं और मनोरंजन पार्कों से लेकर शहर की सड़कों तक सार्वजनिक स्थानों पर दिखाई देने लगी हैं। अध्ययन में पाया गया कि ये रोबोट हर रिपोर्टिंग प्रणाली के बीच के अंतराल में रह जाते हैं। उनके लिए दुर्घटनाओं की रिपोर्ट करने का कोई अनिवार्य नियम नहीं है, उनकी विफलताओं के लिए कोई मेडिकल डिवाइस श्रेणी नहीं है, और उन्हें ट्रैक करने का कोई सुसंगत तरीका भी नहीं है। शोधकर्ता ने 2026 में ह्यूमनाइड्स से जुड़ी पांच विशिष्ट घटनाओं की एक सूची तैयार की, जिसमें एक प्रतियोगिता में आग लगने वाला रोबोट और एक अन्य घटना शामिल थी जिसमें कथित तौर पर अनुचित स्पर्श के बाद एक रोबोट को पुलिस द्वारा जब्त किया गया था। इनमें से केवल एक घटना मीडिया डेटाबेस में दिखाई दी, और इनमें से कोई भी आधिकारिक सरकारी या स्वास्थ्य नियामक द्वारा कैप्चर नहीं की गई। यह एक ऐसा खतरनाक अंतर पैदा करता है जहाँ कृत्रिम बुद्धिमत्ता का सबसे दृश्यमान और तेजी से तैनात होने वाला रूप इसकी विफलताओं के व्यवस्थित रिकॉर्ड के बिना काम कर रहा है।
निष्कर्ष यह है कि सूचना का कोई भी एकल स्रोत रोबोटिक सुरक्षा के बारे में सच्चाई नहीं बता सकता। सरकार दुर्घटनाओं को देखती है लेकिन 'नियर-मिस' (लगभग होने वाली दुर्घटनाओं) को छोड़ देती है। मीडिया नाटकीय विफलताओं को देखता है लेकिन नियमित विफलताओं को मिस कर देता है। चिकित्सा नियामक निर्माताओं द्वारा फाइल की गई रिपोर्ट देखते हैं लेकिन वास्तविक नुकसान को शायद नहीं देख पाते। जब तक इन प्रणालियों को जोड़ा नहीं जाता और हमारे विश्व में प्रवेश कर रहे रोबोटों के नए प्रकारों को कवर करने के लिए विस्तारित नहीं किया जाता, तब तक जोखिम के बारे में हमारी समझ अधूरी रहेगी। अध्ययन सुझाव देता है कि नियामकों को परिचालन संबंधी विफलताओं को पकड़ने के लिए अपने नियमों को अपडेट करने की आवश्यकता है, न कि केवल दुर्घटनाओं के लिए, और उन ह्यूमनाइड रोबोटों के लिए नए रिपोर्टिंग चैनल बनाने की आवश्यकता है जो पहले से ही हमारे बीच चल रहे हैं। बिना इन परिवर्तनों के, हम कृत्रिम बुद्धिमत्ता के खतरों के बारे में केवल घटना के बाद, और केवल तभी जान पाएंगे जब कहानी इतनी नाटकीय होगी कि उसे बताया जा सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।