From Vulnerable Data Subjects to Vulnerabilizing Data Practices: Navigating the Protection Paradox in AI-Based Analyses of Platformized Lives
यह शोध पत्र तर्क देता है कि नैतिक डेटा विज्ञान को विषयों के एक स्थिर गुण के रूप में भेद्यता (vulnerability) को देखने के बजाय यह पहचानने की ओर बढ़ना चाहिए कि तकनीकी डेटा अभ्यास सक्रिय रूप से व्यक्तियों को किस प्रकार अनिश्चितता (precarize) की स्थिति में डालते हैं, और यह उस "संरक्षण विरोधाभास" (protection paradox) से निपटने के लिए एक प्रतिवर्तनीय प्रोटोकॉल का प्रस्ताव करता है जहाँ नेक इरादे वाले एआई हस्तक्षेप अनजाने में उन्हीं आबादी को उजागर और शोषण करते हैं जिनकी वे मदद करने का लक्ष्य रखते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: "सुरक्षात्मक जाल" (The Protective Trap)
कल्पना कीजिए कि आप एक व्यस्त और खतरनाक सड़क पर एक बच्चे को खेलते हुए देखते हैं। आप उसकी मदद करना चाहते हैं, इसलिए आप उसे सुरक्षित रखने के लिए उसके चारों ओर एक बाड़ (fence) बनाने का निर्णय लेते हैं। लेकिन उस बाड़ को बनाने के लिए, आपको पहले उस बच्चे की हजारों हाई-रिज़ॉल्यूशन तस्वीरें लेनी होंगी, उसकी लंबाई मापनी होगी, उसकी हर हरकत पर नज़र रखनी होगी और अखबार में उसके बारे में एक विस्तृत रिपोर्ट प्रकाशित करनी होगी ताकि दुनिया को पता चल सके कि वह वहां है।
विरोधाभास (The Paradox): उस बच्चे की रक्षा करने की कोशिश में, आपने वास्तव में उसे अधिक दृश्यमान, अधिक ट्रैक किया जाने वाला और उन लोगों के लिए अधिक असुरक्षित बना दिया है जो उसे नुकसान पहुँचाना चाहते हैं।
यह शोध पत्र तर्क देता है कि जब शोधकर्ता इंटरनेट पर कमजोर लोगों (जैसे फैमिली व्लॉग्स में दिखने वाले बच्चों) को "सुरक्षित" करने के लिए आर्टिफिशियल इंटेलिजेंस (AI) का उपयोग करते हैं, तो ठीक यही होता है। उन्हें लगता है कि वे बाड़ बनाकर नायक बन रहे हैं, लेकिन वास्तव में, वे अक्सर एक नया पिंजरा बना रहे होते हैं।
शोध के पीछे की कहानी
लेखकों ने एक पत्रकार के वास्तविक अनुरोध से शुरुआत की। पत्रकार यूट्यूब पर हजारों "फैमिली व्लॉग्स" को स्कैन करने के लिए AI का उपयोग करना चाहता था ताकि यह गिना जा सके कि उनमें कितने बच्चे दिखाई देते हैं, वे कैसी भावनाएं व्यक्त करते हैं, और क्या वे "संवेदनशील" स्थितियों (जैसे आंशिक रूप से नग्न होना) में हैं। इसका लक्ष्य यह साबित करना था कि इन बच्चों का शोषण किया जा रहा है और सरकार से इस पर नियम बनाने की मांग करना था।
दुविधा: शोधकर्ताओं को एहसास हुआ कि इस "अच्छे" काम को करने के लिए, उन्हें:
- बच्चों के चेहरों को स्कैन करना होगा (फेशियल रिकग्निशन का उपयोग करके)।
- उनकी भावनाओं का विश्लेषण करना होगा (इमोशन डिटेक्शन का उपयोग करके)।
- इस डेटा को एक डेटाबेस में संग्रहित करना होगा।
- परिणामों को प्रकाशित करना होगा।
उन्होंने खुद से पूछा: क्या बच्चों की निगरानी करने के प्रमाण के रूप में इन आक्रामक निगरानी उपकरणों का उपयोग करना नैतिक है?
चार तरीके जिनसे AI चीजों को और भी बदतर बना सकता है
लेखकों ने अनुसंधान प्रक्रिया को चार चरणों (एक फैक्ट्री असेंबली लाइन की तरह) में विभाजित किया और दिखाया कि कैसे प्रत्येक चरण अनजाने में उन लोगों को नुकसान पहुंचा सकता है जिनकी वे मदद करने की कोशिश कर रहे हैं।
1. कैमरा लेंस (डेटासेट डिज़ाइन)
- उपमा (Analogy): कल्पना कीजिए कि आप एक बैरल में "खराब सेबों" को ढूंढ रहे हैं। क्या आप केवल एक विशिष्ट बैरल (सबसे प्रसिद्ध परिवार) को देखते हैं, या आप गोदाम के हर बैरल को देखते हैं?
- समस्या: यदि आप केवल एक परिवार को देखते हैं, तो आप उन विशिष्ट बच्चों को इतनी गहराई से देख रहे हैं कि यह उत्पीड़न जैसा महसूस होता है। यदि आप सभी को देखते हैं, तो आप लाखों बच्चों को एक सूक्ष्मदर्शी (microscope) के नीचे रख रहे हैं जिनसे आपने कभी सहमति नहीं ली थी।
- जोखिम: आप तय करते हैं कि किसे देखा जाएगा। किन वीडियो का विश्लेषण किया जाना है, यह चुनकर आप यह तय कर रहे हैं कि कौन से बच्चे जांच के "लक्ष्य" बनेंगे।
2. अनुवादक (ऑपरेशनलाइजेशन)
- उपमा: कल्पना कीजिए कि आप एक जटिल, उलझी हुई मानवीय भावना (जैसे थकावट के कारण रोता हुआ बच्चा, या मस्ती के कारण हंसता हुआ बच्चा) को एक फॉर्म पर साधारण चेकबॉक्स में बदलने की कोशिश कर रहे हैं।
- समस्या: AI को मानव जीवन को संख्याओं में बदलना पड़ता है। यह एक खेल वाली चीख को "कष्ट" के रूप में या चिकित्सा स्नान (medical bath) को "अनुचित नग्नता" के रूप में लेबल कर सकता है।
- जोखिम: AI बच्चे की पहचान को "जमा" (freeze) कर देता है। यह एक जटिल इंसान को "दुखी बच्चा" या "जोखिम में बच्चा" जैसे सरल डेटा पॉइंट में बदल देता है। इसे नैरेटिव फिक्सिंग (Narrative Fixing) कहा जाता है। एक बार कंप्यूटर ने उन्हें लेबल कर दिया, तो वह लेबल चिपक जाता है, भले ही वह गलत हो।
3. ब्लैक बॉक्स (इन्फरेंस और इवैल्यूएशन)
- उपमा: कल्पना कीजिए कि मौसम का पूर्वानुमान 90% सटीक है, लेकिन कभी-कभी यह "धूप" कहता है जबकि वास्तव में बारिश हो रही होती है। अब कल्पना कीजिए कि वह पूर्वानुमान तय करता है कि किसी बच्चे को उसके माता-पिता से अलग किया जाए या नहीं।
- समस्या: AI गलतियाँ करता है। यदि AI को वयस्कों पर प्रशिक्षित किया गया है, तो यह बच्चों को गलत समझ सकता है। यदि यह एक "क्लाउड" सर्वर (जैसे AWS) का उपयोग करता है, तो डेटा आपके कंप्यूटर को छोड़कर एक बड़ी टेक कंपनी के पास चला जाता है, जहाँ इसे हमेशा के लिए संग्रहीत किया जा सकता है।
- जोखिम: आप एक "गलत अलार्म" पैदा कर सकते हैं जो किसी परिवार का जीवन बर्बाद कर देता है, या आप वास्तविक खतरे को मिस कर सकते हैं क्योंकि AI संदर्भ (context) को नहीं समझ पाया।
4. मेगाफोन (प्रसार/डिसेमिनेशन)
- उपमा: आप एक परिवार के संघर्षों के बारे में एक रिपोर्ट लिखते हैं। आप सोचते हैं, "इससे सरकार को समस्या ठीक करने में मदद मिलेगी।" लेकिन फिर, वह रिपोर्ट वायरल हो जाती है, और अजनबी उस परिवार को परेशान करने लगते हैं, या बीमा कंपनियां उस डेटा का उपयोग उन्हें कवरेज देने से मना करने के लिए करती हैं।
- समस्या: एक बार जब आप डेटा प्रकाशित कर देते हैं, तो आप इसे वापस नहीं ले सकते। डेटा का "द्वितीयक जीवन" (secondary life) का अर्थ है कि इसका उपयोग बुरे तत्वों (ट्रोल, निगम, या यहाँ तक कि सरकार) द्वारा उन तरीकों से किया जा सकता है जो आपने नहीं सोचे थे।
- जोखिम: आपने बच्चे को बचाने की कोशिश की, लेकिन डेटा प्रकाशित करके, आपने पूरी दुनिया को उन्हें खोजने का नक्शा दे दिया।
समाधान: शोधकर्ताओं के लिए एक "पॉज़ बटन" (Pause Button)
लेखक यह नहीं कहते कि "यह शोध करना बंद कर दें।" इसके बजाय, वे कहते हैं: " 'रन' (Run) क्लिक करने से पहले रुकें और सोचें।"
उन्होंने शोधकर्ताओं के लिए एक रिफ्लेक्सिव प्रोटोकॉल (Reflexive Protocol) (प्रश्नों की एक चेकलिस्ट) बनाई है जिसे उन्हें प्रत्येक चरण पर खुद से पूछना चाहिए। केवल यह पूछने के बजाय कि, "क्या हम इसे बना सकते हैं?" उन्हें यह पूछना चाहिए:
- क्या हम उन्हें अधिक दृश्यमान बना रहे हैं? (क्या हम उन्हें अधिक आंखों के सामने ला रहे हैं?)
- क्या हम उनकी कहानी को जमा (freeze) कर रहे हैं? (क्या हम उन्हें उस लेबल में धकेल रहे जिसे उन्होंने नहीं चुना?)
- किसे भुगतान मिल रहा है? (क्या हम उनकी कमजोरी से पैसा या प्रसिद्धि कमा रहे हैं?)
- क्या हम उन्हें प्रदर्शन करने के लिए सिखा रहे हैं? (क्या परिवार AI को धोखा देने के लिए अलग तरह से व्यवहार करना शुरू कर देंगे?)
निष्कर्ष (The Takeaway)
यह शोध पत्र हमें सिखाता है कि डेटा तटस्थ (neutral) नहीं है। यह केवल एक उपकरण नहीं है जैसे कि हथौड़ा; यह एक ऐसा उपकरण है जो दुनिया को आकार देता है।
जब हम लोगों को "सुरक्षित" करने के लिए AI का उपयोग करते हैं, तो हम अक्सर नई तरह की असुरक्षाओं का निर्माण (manufacture) करते हैं। लेखक तर्क देते हैं कि सच्ची सुरक्षा का अर्थ कभी-कभी डेटा एकत्र न करना, या सबसे शक्तिशाली उपकरणों का उपयोग न करना भी हो सकता है, भले ही ऐसा लगे कि हम कम काम कर रहे हैं।
संक्षेप में: सिर्फ इसलिए कि आप उन्हें "बचाने" के लिए इंटरनेट पर मौजूद हर बच्चे को गिनने के लिए AI का उपयोग कर सकते हैं, इसका मतलब यह नहीं है कि आपको ऐसा करना चाहिए। कभी-कभी, सबसे नैतिक काम यह होता है कि नज़र हटा ली जाए, या मदद करने का ऐसा तरीका खोजा जाए जिसमें मानव जीवन को डेटा पॉइंट में बदलना शामिल न हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।