Empirically Derived AI Harm Profiles and the Case for Context-Sensitive Moral Responsibility

आर्टिफिशियल इंटेलिजेंस अब कोई दूर का वादा नहीं है; यह एक दैनिक वास्तविकता है जो हमारे सुरक्षा, हमारी नौकरियों, हमारी गोपनीयता और हमारी सेवाओं तक पहुंच को प्रभावित करने वाले निर्णय ले रही है। जब ये सिस्टम काम करते हैं, तो वे हमारे जीवन को सुव्यवस्थित करते हैं। जब वे विफल होते हैं, तो उनके परिणाम गंभीर हो सकते हैं, जो शारीरिक चोट से लेकर नागरिक अधिकारों के हनन तक विस्तृत हो सकते हैं। वर्षों से, विशेषज्ञों ने निष्पक्षता, पारदर्शिता और सुरक्षा जैसे व्यापक नैतिक सिद्धांतों का उपयोग करके इन तकनीकों को नियंत्रित करने का प्रयास किया है। हालांकि, ये उच्च-स्तरीय विचार अक्सर उन वास्तविक दुनिया के विविध तरीकों में व्यावहारिक नियम बनाने में संघर्ष करते हैं जिनमें वास्तव में एआई का उपयोग किया जाता है। एक प्रमुख चुनौती यह समझना रही है कि विभिन्न प्रकार के एआई विशिष्ट स्थितियों में कैसे विफल होते हैं। क्या एक दुर्घटनाग्रस्त होने वाली सेल्फ-ड्राइविंग कार वैसी ही समस्या है जैसी कि गलत सूचना फैलाने वाला एक चैटबॉट, या किसी संदिग्ध की गलत पहचान करने वाला एक फेशियल रिकग्निशन सिस्टम? इसका उत्तर देने के लिए, शोधकर्ताओं ने दस्तावेजीकृत विफलताओं को केवल अलग-थलग दुर्घटनाओं के रूप में नहीं, बल्कि डेटा पॉइंट्स के रूप में देखना शुरू कर दिया है जो गहरे पैटर्न को प्रकट कर सकते हैं।

यूनिवर्सिटी ऑफ द कंबरलैंड्स के शोधकर्ताओं की एक टीम ने एआई की विफलताओं के वास्तविक मामलों के एक विशाल संग्रह का परीक्षण करके उन पैटर्न को खोजने का प्रयास किया। उन्होंने AIAAIC रिपॉजिटरी नामक एक सार्वजनिक डेटाबेस से एआई विफलताओं के 849 दस्तावेजी मामलों को एकत्र किया, जो आर्टिफिशियल इंटेलिजेंस, एल्गोरिदम और ऑटोमेशन से जुड़ी घटनाओं को ट्रैक करता है। प्रत्येक घटना को एक अद्वितीय कहानी के रूप में देखने के बजाय, शोधकर्ताओं ने विश्लेषण किया कि ये विफलताएं इस आधार पर कैसे एक साथ क्लस्टर (समूहबद्ध) होती हैं कि तकनीक क्या थी, उसका उपयोग कहां किया गया था, वह क्या करने के लिए बनाई गई थी, और किस प्रकार का नुकसान हुआ। उनका लक्ष्य यह देखना था कि क्या व्यक्तिगत दुर्घटनाओं की अराजकता को कुछ विशिष्ट श्रेणियों में व्यवस्थित किया जा सकता है, या "हार्म प्रोफाइल्स" (क्षति प्रोफाइल) में, जो नियामकों और कंपनियों को निरीक्षण के लिए बेहतर, अधिक विशिष्ट नियम बनाने में मदद कर सके।

विश्लेषण से पता चला कि एआई की विफलताएं यादृच्छिक (रैंडम) नहीं हैं। वे दो मुख्य संरचनात्मक विषयों के इर्द-गिर्द केंद्रित होती हैं। पहला विषय उन प्रणालियों के बीच अंतर करता है जो सीधे भौतिक दुनिया के साथ बातचीत करती हैं और उन प्रणालियों के बीच जो मुख्य रूप से सूचना को प्रोसेस करती हैं। दूसरा विषय उन प्रणालियों को अलग करता है जिन्हें लोगों की पहचान करने और निगरानी करने के लिए डिज़ाइन किया गया है और उन्हें जो सामग्री उत्पन्न करने के लिए डिज़ाइन की गई हैं। इन संबंधों को मैप करके, शोधकर्ताओं ने तीन स्पष्ट, आवर्ती प्रोफाइल की पहचान की जो चीजें गलत होने पर उभरती हैं।

पहला प्रोफाइल जिसे शोधकर्ता 'ऑटोनॉमस या एम्बोडीड एआई' (स्वायत्त या मूर्त एआई) कहते हैं। ये वे प्रणालियाँ हैं जिनकी एक भौतिक उपस्थिति होती है और वे प्रत्यक्ष शारीरिक नुकसान पहुंचा सकती हैं, जैसे कि स्वयं-चालित वाहन या रोबोट। डेटा में, ये विफलताएं लगभग हमेशा परिवहन क्षेत्र में हुईं। जब ये प्रणालियाँ विफल होती हैं, तो परिणाम आमतौर पर एक सुरक्षा विफलता होती है: एक कार दुर्घटनाग्रस्त हो जाती है, एक रोबोट खराब हो जाता है, या एक मानव ऑपरेटर नियंत्रण खो देता है। यहाँ जोखिम तत्काल और भौतिक हैं, जो यात्रियों, पैदल यात्रियों और आपातकालीन उत्तरदाताओं की सुरक्षा को प्रभावित करते हैं। क्योंकि इसके परिणाम मूर्त और खतरनाक हैं, शोधकर्ता सुझाव देते हैं कि इस समूह के शासन (गवर्नेंस) को परिचालन सुरक्षा, हार्डवेयर और सेंसर के कठोर परीक्षण, और इस बात के स्पष्ट नियमों पर भारी ध्यान केंद्रित करना चाहिए कि जब कोई भौतिक दुर्घटना होती है तो जिम्मेदार कौन होगा।

दूसरा प्रोफाइल है 'विज़न रिकग्निशन' (दृष्टि पहचान)। इस श्रेणी में वे प्रणालियाँ शामिल हैं जो लोगों की पहचान करने के लिए कैमरों और सॉफ्टवेयर का उपयोग करती हैं, जैसे कानून प्रवर्तन या सुरक्षा एजेंसियों द्वारा उपयोग की जाने वाली फेशियल रिकग्निशन तकनीक। डेटा ने दिखाया कि इस क्षेत्र में विफलताएं न्याय और कानून प्रवर्तन क्षेत्रों में केंद्रित हैं। पहले समूह की भौतिक दुर्घटनाओं के विपरीत, यहाँ के नुकसान नागरिक अधिकारों और भेदभाव से गहराई से जुड़े हुए हैं। सबसे आम समस्याओं में सिस्टम द्वारा लोगों की गलत पहचान करना, विशेष रूप से विशिष्ट जनसांख्यिकीय समूहों के, या कानूनी सीमाओं से परे निगरानी करना शामिल है। शोधकर्ताओं ने पाया कि ये विफलताएं एक अलग प्रकार का जोखिम पैदा करती हैं: गोपनीयता, निष्पक्षता और गलत आरोप से मुक्त रहने के अधिकार के लिए खतरा। इसलिए, इस प्रोफाइल के शासन को पूर्वाग्रह को रोकने, यह सुनिश्चित करने कि सिस्टम का उपयोग कैसे किया जा रहा है, इसकी पारदर्शिता बनाए रखने, और गलत पहचानों को चुनौती देने के लिए स्पष्ट रास्ते प्रदान करने पर ध्यान केंद्रित करने की आवश्यकता है।

तीसरा प्रोफाइल है 'जेनरेटिव एआई' (जनरेटिव एआई)। यह उस तकनीक के पीछे है जो टेक्स्ट, इमेज और अन्य मीडिया बनाती है। डेटा ने दिखाया कि यहाँ विफलताएं मीडिया और सूचना क्षेत्रों में सबसे आम हैं। इस समूह से जुड़े नुकसान दूसरों से अलग हैं; इनमें शायद ही कभी शारीरिक चोट या प्रत्यक्ष निगरानी शामिल होती है। इसके बजाय, समस्याएं सूचना की गुणवत्ता और सत्यता के इर्द-गिर्द घूमती हैं। विफलताओं में विश्वसनीय लेकिन झूठी सामग्री का निर्माण, वास्तविक लोगों का प्रतिरूपण (इम्पर्सनेशन), और ऐसी गलत सूचनाओं का प्रसार शामिल है जो प्रतिष्ठा को नुकसान पहुंचा सकती है या जनमत को प्रभावित कर सकती है। चूंकि जोखिम भौतिक सुरक्षा या तत्काल निगरानी के बजाय सूचना की अखंडता के लिए है, इसलिए शोधकर्ता तर्क देते हैं कि इस समूह के निरीक्षण को सामग्री के स्रोत को सत्यापित करने, भ्रामक आउटपुट की निगरानी करने और यह सुनिश्चित करने पर ध्यान केंद्रित करना चाहिए कि निर्माता और प्लेटफॉर्म अपने सिस्टम द्वारा उत्पादित सामग्री के लिए जवाबदेह हों।

दिलचस्प बात यह है कि शोधकर्ताओं ने पाया कि एक सामान्य प्रकार की एआई क्षमता, 'प्रेडिक्टिव मॉनिटरिंग' (पूर्वानुमानित निगरानी), ने अपना अलग समूह नहीं बनाया। प्रेडिक्टिव मॉनिटरिंग से तात्पर्य उन प्रणालियों से है जो भविष्य की घटनाओं का पूर्वानुमान लगाने के लिए डेटा का विश्लेषण करती हैं, जैसे अपराध, ऋण चूक, या स्वास्थ्य परिणामों की भविष्यवाणी करना। अध्ययन ने दिखाया कि ये प्रणालियाँ एक साथ क्लस्टर नहीं हुईं क्योंकि उनके जोखिम पूरी तरह से इस बात पर निर्भर करते हैं कि उनका उपयोग कहाँ किया जा रहा है। स्वास्थ्य सेवा में उपयोग किया जाने वाला एक प्रेडिक्टिव सिस्टम उन नैतिक चुनौतियों का सामना करता है जो भर्ती या वित्त में उपयोग किए जाने वाले सिस्टम से भिन्न होती हैं। यह निष्कर्ष बताता है कि प्रेडिक्टिव मॉनिटरिंग जोखिम का एक एकल श्रेणी नहीं है बल्कि एक ऐसा उपकरण है जो उस वातावरण का चरित्र अपना लेता है जिसमें वह प्रवेश करता है। यदि एक प्रेडिक्टिव सिस्टम कानून प्रवर्तन के संदर्भ में उपयोग किया जाता है, तो वह विज़न रिकग्निशन प्रोफाइल के जोखिमों को विरासत में प्राप्त करता है; यदि वित्त में उपयोग किया जाता है, तो वह अन्य प्रोफाइल्स के आर्थिक जोखिमों को विरासत में प्राप्त करता है। इसका अर्थ है कि इन प्रणालियों के लिए नियम 'वन-साइज़-फिट्स-ऑल' (एक ही नियम सबके लिए) नहीं हो सकते; उन्हें उस विशिष्ट संदर्भ के अनुरूप होना चाहिए जिसमें भविष्यवाणी की जा रही है।

शोधकर्ता इन निष्कर्षों के आधार पर एआई को नियंत्रित करने का एक नया तरीका प्रस्तावित करते हैं। सभी आर्टिफिशियल इंटेलिजेंस पर समान व्यापक नियम लागू करने के बजाय, वे सुझाव देते हैं कि नियामकों और कंपनियों को पहले यह पहचानना चाहिए कि कोई सिस्टम किस 'हार्म प्रोफाइल' में फिट बैठता है। एक बार जब किसी सिस्टम को वर्गीकृत कर दिया जाता है, तो निगरानी, ऑडिटिंग और जिम्मेदारी सौंपने के विशिष्ट नियम लागू किए जा सकते हैं। उदाहरण के लिए, एक सेल्फ-ड्राइविंग कार भौतिक 'नियर-मिसेस' (बाल-बाल बचना) के लिए सख्त सुरक्षा ऑडिट और तत्काल रिपोर्टिंग आवश्यकताओं के अधीन होगी। एक फेशियल रिकग्निशन सिस्टम को नस्लीय पूर्वाग्रह के लिए नियमित जांच से गुजरना होगा और नागरिकों को गलत पहचानों के खिलाफ अपील करने के लिए स्पष्ट रास्ते प्रदान करने होंगे। एक जेनरेटिव एआई प्लेटफॉर्म को अपनी सामग्री की प्रामाणिकता सिद्ध करने की आवश्यकता होगी और उसमें हानिकारक गलत सूचनाओं को जल्दी से हटाने के तंत्र होने चाहिए।

यह दृष्टिकोण एआई गवर्नेंस को अमूर्त सिद्धांतों से ठोस कार्यों की ओर ले जाता है। यह स्वीकार करता है कि एक रोबोट की विफलता एक चैटबॉट की विफलता से मौलिक रूप से भिन्न है, और उन्हें ठीक करने के लिए जिम्मेदार लोग भी अलग होने चाहिए। वास्तविक दुनिया में एआई के विफल होने के इतिहास को देखकर, शोधकर्ताओं ने एक अधिक प्रभावी, संदर्भ-संवेदनशील निरीक्षण प्रणाली बनाने के लिए एक मानचित्र प्रदान किया है। वे तर्क देते हैं कि यह पद्धति समाज को प्रत्येक प्रकार की तकनीक के विशिष्ट खतरों को संबोधित करने की अनुमति देती है बिना सामान्य बातों में खोए हुए, यह सुनिश्चित करती है कि हमारे द्वारा बनाए गए नियम उतने ही व्यावहारिक और सटीक हों जितनी कि स्वयं तकनीक है। अध्ययन इस निष्कर्ष के साथ समाप्त होता है कि दस्तावेजीकृत घटनाओं को केवल अतीत की गलतियों के रिकॉर्ड के बजाय एक संसाधन के रूप में मानकर, हम एक ऐसा भविष्य बना सकते हैं जहाँ एआई को इसके वास्तविक दुनिया के प्रभाव की समझ के आधार पर शासित किया जाए, जिससे तकनीक सभी के लिए सुरक्षित और अधिक जवाबदेह बन सके।