Humanwashing -- It Should Leave You Feeling Dirty
यह शोध पत्र तर्क देता है कि "ह्यूमन इन द लूप" (मानव प्रक्रिया में सम्मिलित) रूपक का अंधाधुंध उपयोग एआई निर्णय लेने की वास्तविकताओं को छिपाकर और सुरक्षा की एक झूठी भावना पैदा करके "ह्यूमनवॉशिंग" को सुगम बनाता है, जिससे पूर्वाग्रह, जवाबदेही और पारदर्शिता जैसे महत्वपूर्ण मुद्दों को संबोधित करने में विफलता होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक कार खरीद रहे हैं। सेल्समैन आपसे कहता है, "चिंता न करें, यह कार सुरक्षित है क्योंकि बगल वाली सीट पर एक मानव चालक (human driver) बैठा है।" आपको राहत महसूस होती है। आप सोचते हैं, "बहुत बढ़िया, अगर कंप्यूटर ने गाड़ी टकराने की कोशिश की, तो इंसान स्टीयरिंग को थाम लेगा।"
लेकिन क्या होगा अगर वह इंसान बस वहीं बैठा है, डैशबोर्ड को घूर रहा है, और स्टीयरिंग छूने में असमर्थ है, जबकि कार वास्तव में खुद चल रही है? क्या होगा अगर वह इंसान वहां सिर्फ इसलिए है ताकि आपको सुरक्षित महसूस कराया जा सके, भले ही वह वास्तव में कुछ भी नहीं कर रहा हो?
यह "Humanwashing - It Should Leave You Feeling Dirty" नामक शोध पत्र के मुख्य तर्क का सार है।
यहाँ लेखकों द्वारा कही गई बातों का सरल विवरण दिया गया है, जिसमें रोजमर्रा के उदाहरणों का उपयोग किया गया है।
1. "Human in the Loop" एक टूटा हुआ रूपक (Metaphor) है
AI की दुनिया में, लोग कहना पसंद करते हैं कि उनके पास "human in the loop" (लूप में मानव) है। वे इस वाक्यांश का उपयोग जिम्मेदार और सुरक्षित दिखने के लिए करते हैं। यह सुझाव देता है कि एक इंसान निर्णय लेने की प्रक्रिया का हिस्सा है, जो AI के काम की जाँच कर रहा है।
लेखक तर्क देते हैं कि यह वाक्यांश एक आधुनिक शहर में नेविगेट करने के लिए 1800 के दशक के मानचित्र का उपयोग करने जैसा है। यह काम के लिए गलत उपकरण है।
- पुराना विचार: रोबोटिक्स (जैसे एक रोबोटिक हाथ जो कार वेल्ड कर रहा है) में, एक "लूप" समझ में आता है। रोबोट चलता है, एक सेंसर देखता है कि वह कहाँ है, और रोबोट को समायोजित करने के लिए एक संकेत वापस भेजता है। यह क्रिया और प्रतिक्रिया का एक चक्र है।
- नई वास्तविकता: AI निर्णय लेने में (जैसे ऋण को मंजूरी देना या बीमारी का निदान करना), कोई चक्र नहीं होता है। जानकारी अंदर जाती है, एक निर्णय बाहर आता है, और यह स्रोत की ओर वापस नहीं बहती।
- समस्या: इसे "लूप" कहकर, कंपनियाँ यह दिखावा करती हैं कि इंसान वास्तव में जहाज को दिशा दे रहा है। वास्तव में, इंसान अक्सर केवल खिड़की से बाहर देखता हुआ एक यात्री होता है।
2. "Humanwashing" का घोटाला
लेखक ने "Humanwashing" शब्द गढ़ा है। इसे "Greenwashing" की तरह समझें।
- Greenwashing: एक कंपनी अपनी फैक्ट्री को हरा-भरा दिखाती है और पर्यावरण के अनुकूल दिखने के लिए अपने लोगो पर पत्ती लगा देती है, भले ही वह अभी भी नदी को प्रदूषित कर रही हो।
- Humanwashing: एक कंपनी जिम्मेदार और सुरक्षित दिखने के लिए संगठनात्मक चार्ट (org chart) में एक इंसान को रखती है, भले ही उस इंसान के पास AI को रोकने की वास्तविक शक्ति न हो।
वे इस चाल का उपयोग करते हैं:
- निवेशकों और नियामकों को बेहतर महसूस कराने के लिए।
- कानूनी मुसीबत से बचने के लिए (क्योंकि कानूनों में अक्सर मानव की भागीदारी आवश्यक होती है)।
- यह छिपाने के लिए कि AI पक्षपाती, गलत या खतरनाक हो सकता है।
लेखक का तर्क है कि यह अभ्यास "गंदा" है क्योंकि यह समाज को यह विश्वास दिलाने के लिए धोखा देता है कि हमारे पास सुरक्षा उपाय हैं, जबकि वास्तव में नहीं हैं।
3. "Super-Team" का मिथक
एक लोकप्रिय धारणा है कि यदि आप एक मानव और एक AI को मिलाते हैं, तो आपको दोनों दुनियाओं का सर्वश्रेष्ठ मिलता है: मशीन की गति और मानव का विवेक। लेखक कहते हैं कि यह अक्सर एक झूठ है।
वे शोध का हवाला देते हैं जो दिखाते हैं कि:
- कभी-कभी, AI इंसान से बेहतर होता है।
- कभी-कभी, इंसान AI से बेहतर होता है।
- लेकिन जब आप उन्हें एक साथ काम करने के लिए मजबूर करते हैं? तो परिणाम अक्सर इससे भी बदतर होता, यदि उनमें से किसी एक ने अकेले काम किया होता।
यह एक कार चलाने की कोशिश करने जैसा है जबकि आपका दोस्त आपको निर्देश चिल्लाकर दे रहा हो। एक "सुपर-टीम" होने के बजाय, आप भ्रमित और धीमे हो जाते हैं। शोध पत्र सुझाव देता है कि प्रक्रिया में केवल एक इंसान को जोड़ने से निर्णय अपने आप बेहतर नहीं हो जाता; वास्तव में, यह इसे और खराब कर सकता है।
4. वास्तविक समाधान: "Combination Space" को देखें
आलसी "लूप" रूपक के बजाय, लेखक कहते हैं कि हमें उस जटिल वास्तविकता को देखने की आवश्यकता है कि मनुष्य और मशीनें वास्तव में एक साथ कैसे काम करती हैं। वे इसे "Combination Space" कहते हैं।
एक सपाट वृत्त के बजाय एक 3D शतरंज के बोर्ड की कल्पना करें। यह समझने के लिए कि क्या कोई प्रणाली सुरक्षित है, हमें विशिष्ट प्रश्न पूछने की आवश्यकता है:
- वास्तव में कौन शामिल है?
- वे कब हस्तक्षेप कर सकते हैं? (क्या वे AI को रोक सकते हैं, या केवल देख सकते हैं?)
- वे क्या देख सकते हैं? (क्या उनके पास पूरी तस्वीर है?)
- क्या उनकी कार्रवाई वास्तव में परिणाम को बदलती है?
यदि एक इंसान "लूप में" है लेकिन डेटा देख नहीं सकता, प्रक्रिया को रोक नहीं सकता, या AI के तर्क को नहीं समझ सकता, तो वह वास्तव में नियंत्रण में नहीं है। वह केवल एक प्रॉप (prop) है।
5. निष्कर्ष
शोध पत्र सभी के लिए एक चेतावनी के साथ समाप्त होता है: "Human in the Loop" वाक्यांश के प्रति संदिग्ध रहें।
- यदि आप इसे सुनते हैं, तो पूछें: "क्या यह इंसान वास्तव में निर्णय ले रहा है, या केवल देख रहा है?"
- यदि इंसान अंतिम निर्णय (inference) के दौरान केवल देख रहा है, तो यह संभवतः Humanwashing है।
- लेखक शोधकर्ताओं और कंपनियों से इस अस्पष्ट भाषा का उपयोग बंद करने का आग्रह करते हैं। इसके बजाय, हमें यह अध्ययन करने की आवश्यकता है कि वास्तव में जीवन में मनुष्य और मशीनें कैसे परस्पर क्रिया करते हैं, बजाय इसके कि हम एक आदर्श, सुरक्षित चक्र का ढोंग करें।
संक्षेप में: किसी फैंसी लेबल को आपको सुरक्षित महसूस न करने दें। यदि इंसान वास्तव में जहाज चला नहीं रहा है, तो वह आपको हिमशैल (iceberg) से नहीं बचा रहा है। और यह आपको थोड़ा "गंदा" महसूस कराना चाहिए कि आप मूर्ख बन गए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।