A Closer Look at the Existing Risks of Generative AI: Mapping the Who, What, and How of Real-World Incidents
यह शोध पत्र 499 वास्तविक दुनिया की घटनाओं का व्यवस्थित रूप से विश्लेषण करके जनरेटिव एआई (Generative AI) की विफलताओं के लिए एक नया वर्गीकरण प्रस्तुत करता है, जिससे यह स्पष्ट होता है कि अधिकांश नुकसान उपयोग-संबंधी मुद्दों से उत्पन्न होते हैं जो एंड-यूज़र्स के परे अन्य हितधारकों को प्रभावित करते हैं, जिससे यह पारंपरिक एआई से जनरेटिव एआई के जोखिम परिदृश्य को अलग करता है और सार्वजनिक प्रकटीकरण, शिक्षा और विनियमन जैसे गैर-तकनीकी शमन रणनीतियों की वकालत करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
जेनरेटिव एआई (Generative AI) की कल्पना एक सुपर-चार्ज्ड, हाइपर-क्रिएटिव फैक्ट्री के रूप में करें जो तुरंत टेक्स्ट, इमेज, ऑडियो और वीडियो बना सकती है। यह एक जादुई प्रिंटिंग प्रेस की तरह है जो कभी सोती नहीं है। लेकिन किसी भी शक्तिशाली फैक्ट्री की तरह, यह केवल सामान ही नहीं बनाती; यह "दुर्घटनाएं" और "गड़बड़ियाँ" भी पैदा करती है।
यह पेपर अनिवार्य रूप से इस फैक्ट्री द्वारा की गई 499 वास्तविक दुनिया की दुर्घटनाओं की एक फॉरेंसिक जांच है। शोधकर्ताओं (कार्नेगी मेलन यूनिवर्सिटी से) ने केवल यह अनुमान नहीं लगाया कि क्या गलत हो सकता है; उन्होंने यह समझने के लिए कि वास्तव में क्या हुआ, किसे चोट पहुंची और क्यों, पुलिस रिपोर्टों, समाचार कहानियों और सार्वजनिक शिकायतों के एक विशाल ढेर का विश्लेषण किया।
उनके निष्कर्षों का सरल शब्दों में विवरण यहाँ दिया गया है:
1. सबसे बड़ा आश्चर्य: "बायस्टैंडर" (Bystander) की समस्या
सुरक्षा की अधिकांश कहानियों में, हम मानते हैं कि जो व्यक्ति को चोट लगती है, वही उस उपकरण का उपयोग करने वाला होता है। यदि आप लापरवाही से कार चलाते हैं, तो आप ही दुर्घटना का शिकार होते हैं।
लेकिन जेनरेटिव एआई के साथ, शोधकर्ताओं ने पाया कि अक्सर इसके विपरीत होता है।
- उपमा: कल्पना करें कि आप एक पार्टी में हैं। आप अपने दोस्त की एक मज़ेदार तस्वीर बनाने के लिए एक जादुई पेंटब्रश का उपयोग करने का निर्णय लेते हैं। आप (उपयोगकर्ता) इसे बहुत मज़ेदार समझते हैं। लेकिन तस्वीर में मौजूद व्यक्ति (बाइस्टैंडर/दर्शक) का अब पूरे शहर द्वारा मज़ाक उड़ाया जा रहा है, या उसकी प्रतिष्ठा खराब हो रही है।
- निष्कर्ष: अध्ययन में पाया गया कि अधिकतर नुकसान उस व्यक्ति को नहीं हुआ जो एआई का उपयोग कर रहा था। यह उन लोगों को हुआ जिनका इससे कोई लेना-देना नहीं था—अजनबी, समुदाय या समाज व्यापक रूप से। "उपयोगकर्ताओं" को अक्सर लाभ (मज़ा, उत्पादकता) मिला, जबकि "गैर-उपयोगकर्ताओं" को चोट (स्कैम, पहचान की चोरी, भ्रम) मिली।
2. दो मुख्य अपराधी: "द ग्लिच" (The Glitch) बनाम "द विलेन" (The Villain)
शोधकर्ताओं ने इन दुर्घटनाओं के कारणों को दो मुख्य श्रेणियों में वर्गीकृत किया:
- द ग्लिच (तकनीकी विफलताएं): कभी-कभी एआई बस गलत हो जाता है। यह 'हैलुसिनेट' करता है (तथ्य गढ़ता है), भ्रमित हो जाता है, या नियमों का पालन करने में विफल रहता है।
- किसे चोट पहुँचती है? आमतौर पर वह व्यक्ति जो एआई का उपयोग कर रहा है। उदाहरण के लिए, एक वकील अदालत का संक्षिप्त विवरण लिखने के लिए एआई का उपयोग करता है, एआई एक फर्जी मामला बना देता है, और वकील मुसीबत में पड़ जाता है।
- द विलेन (दुर्भावनापूर्ण उपयोग): यह सबसे बड़ा आश्चर्य था। सबसे आम कारण यह नहीं था कि एआई खराब था; बल्कि यह था कि लोग जानबूझकर बुरा करने के लिए एक काम करने वाले एआई का उपयोग कर रहे थे।
- किसे चोट पहुँचती है? लगभग हमेशा बायस्टैंडर्स ( bystanders) को।
- उदाहरण: कोई दंगा भड़काने के लिए राजनेता का नकली डीपफेक वीडियो बनाने के लिए एआई का उपयोग कर रहा है, या किसी सहपाठी को परेशान करने के लिए उसकी फर्जी अश्लील तस्वीरें बना रहा है। एआई ठीक वैसे ही काम कर रहा था जैसा इसे डिज़ाइन किया गया था; समस्या इसके पीछे के इंसान की थी।
3. "कौन, क्या और कैसे" का मानचित्र
पेपर ने इन घटनाओं को व्यवस्थित करने के लिए एक नया मानचित्र (टैक्सोनॉमी) बनाया:
- क्या हुआ (हानि): लोगों की स्वायत्तता (धोखा देना या रूप बदलना), राजनीति/अर्थव्यवस्था (चुनावों या बाजारों को प्रभावित करने वाली फर्जी खबरें) और प्रतिष्ठा (मानहानि) को होने वाली हानियां सबसे आम प्रकार थीं।
- कैसे हुआ (विफलता मोड): सबसे अधिक बार होने वाला कारण दुर्भावनापूर्ण उपयोग (जानबूझकर बुरा करने वाले लोग) था। दूसरा सबसे आम कारण अघोषित उपयोग (एआई का उपयोग तब करना जब आपको मानवीय कार्य करना चाहिए, जैसे कि छात्र द्वारा नकल करना या मैगजीन का एआई स्पैम से भर जाना) था।
- किसे चोट पहुँची: जैसा कि उल्लेख किया गया है, "गैर-संवादी" लोगों (जनता, डीपफेक के शिकार) ने सबसे अधिक नुकसान झेला।
4. वर्तमान नियम काम क्यों नहीं कर रहे हैं
पेपर का तर्क है कि सोचने का हमारा वर्तमान तरीका टूटा हुआ है क्योंकि यह मानता है कि केवल उपयोग करने वाले व्यक्ति को ही सुरक्षा की आवश्यकता है।
- उपमा: यह एक हथौड़े के लिए सुरक्षा नियमावली रखने जैसा है जो केवल आपको यह बताती है कि अपना अंगूठा कैसे न मारें, लेकिन यह नहीं बताती कि अपने पड़ोसी को उससे कैसे न मारें।
- वास्तविकता: चूंकि एआई का उपयोग करने वाले लोग अक्सर परिणामों का सामना नहीं करते (पीड़ित को नुकसान होता है), इसलिए उनके पास सावधान रहने की कोई प्रेरणा नहीं होती है। "लाभ" उपयोगकर्ता को मिलता है, लेकिन "जोखिम" अजनबी को मिलता है।
5. हमें क्या करना चाहिए?
लेखक इस गड़बड़ी को ठीक करने के लिए तीन मुख्य सुझाव देते हैं, जो केवल बेहतर कोड के बजाय लोगों और नियमों पर केंद्रित हैं:
- लोगों को सिखाना (AI साक्षरता): हमें आम जनता को सिखाने की जरूरत है कि यह "फैक्ट्री" कैसे काम करती है। यदि लोग समझते हैं कि एआई झूठ बोल सकता है (हैलुसिनेट कर सकता है) या स्कैम के लिए उपयोग किया जा सकता है, तो वे इस पर अंधा विश्वास नहीं करेंगे। यह अज्ञानता के कारण होने वाली कुछ "दुर्घटनाओं" को रोकता है।
- "ओपन सोर्स" वाइल्ड वेस्ट को विनियमित करना: पेपर नोट करता है कि कई सबसे खराब उपकरण (जैसे कि फर्जी अश्लील चित्र बनाने वाले ऐप्स) "ओपन सोर्स" मॉडल पर बने हैं जिन्हें कोई भी डाउनलोड और बदल सकता है। वर्तमान नियम इन उपकरणों को बिना किसी प्रतिबंध के मौजूद रहने देते हैं। लेखक सुझाव देते हैं कि हमें यहाँ सख्त नियमों की आवश्यकता है ताकि "विलेन्स" (विलेन्स) अपने हथियार न बना सकें।
- "पेपर ट्रेल" (Provenance) को ट्रैक करना: हमारे पास यह बताने के बेहतर तरीके होने चाहिए कि क्या असली है और क्या एआई। यदि हम एआई सामग्री को टैग कर सकते हैं (जैसे कि "एआई द्वारा निर्मित" लेबल) और नकली सामग्री का पता लगा सकते हैं, तो स्कैमर्स के लिए झूठ फैलाना या डीपफेक के माध्यम से प्रतिष्ठा बिगाड़ना कठिन हो जाता है।
निचोड़ (The Bottom Line)
जेनरेटिव एआई केवल एक ऐसा उपकरण नहीं है जो कभी-कभी टूट जाता है; यह एक ऐसा उपकरण है जिसका अक्सर मनुष्यों द्वारा उन लोगों को नुकसान पहुँचाने के लिए हथियार के रूप में उपयोग किया जाता है जिन्होंने इसकी मांग भी नहीं की थी। समाधान केवल एआई को "स्मार्टर" बनाना नहीं है; बल्कि यह है कि हम इसे कैसे विनियमित करते हैं, जनता को ट्रिक्स पहचानने के बारे में कैसे सिखाते हैं, और यह समझना है कि तकनीक का उपयोग करने वाले लोग ही एकमात्र ऐसे लोग नहीं हैं जिन्हें सुरक्षा की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।