What if AI systems weren't chatbots?
यह शोध पत्र तर्क देता है कि संवादात्मक चैटबॉट इंटरफेस पर उद्योग की प्रमुख निर्भरता एक गैर-तटस्थ सामाजिक-तकनीकी विकल्प है जो डोमेन विशिष्टता और जवाबदेही के बजाय संवादात्मक व्यापकता को प्राथमिकता देकर महत्वपूर्ण संरचनात्मक नुकसान—जिसमें कौशल में कमी, आर्थिक एकाग्रता और पर्यावरणीय लागत शामिल हैं—का कारण बनती है, और यह बहुलवादी, कार्य-विशिष्ट एआई प्रणालियों और शासन की ओर बदलाव का वकालत करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया एक विशाल, हलचल भरे शहर की तरह है। दशकों से, इस शहर में कई अलग-अलग मोहल्ले थे: कुछ वैज्ञानिकों के लिए विशेष प्रयोगशालाएं थीं, कुछ मौसम पूर्वानुमानकर्ताओं के लिए उपकरण थे, और कुछ विशिष्ट कार्यों के लिए शांत कार्यशालाएं थीं। लेकिन हाल ही में, पूरे शहर ने उन सभी विविध मोहल्लों को गिराकर एक एकल, विशाल, कांच की दीवारों वाला शॉपिंग मॉल बनाने का निर्णय लिया है जिसे "द चैटबॉट" (The Chatbot) कहा जाता है।
यह शोध पत्र, जिसका शीर्षक है "क्या होता यदि AI सिस्टम चैटबॉट नहीं होते?" (What if AI systems weren't chatbots?), जो यूनिवर्सिटी ऑफ वॉशिंगटन और माइक्रोसॉफ्ट जैसे संस्थानों के शोधकर्ताओं द्वारा लिखा गया है, यह तर्क देता है कि हर चीज़ को एक संवादात्मक चैटबॉट बनाने की यह दिशा एक खतरनाक गलती है। उनका दावा है कि हालांकि चैटबॉट मिलनसार और सहायक दिखते हैं, लेकिन वे वास्तव में हमारे समाज, हमारे मस्तिष्क और हमारे ग्रह को हानिकारक तरीकों से नया आकार दे रहे हैं।
यहाँ उनके तर्क का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. "मैजिक 8-बॉल" का भ्रम (नियंत्रण की हानि)
कल्पना कीजिए कि आप एक दोस्त से सलाह मांगते हैं। वे कह सकते हैं, "खैर, यह निर्भर करता है," या "यहाँ इसे देखने के तीन अलग-अलग तरीके हैं।" अब, एक चैटबॉट से पूछने की कल्पना करें। यह आमतौर पर आपको एक एकल, आत्मविश्वासी उत्तर देता है, जैसे कि वह ब्रह्मांड में एकमात्र सत्य हो।
लेखक कहते हैं कि यह एक जाल है।
- भ्रम: चैटबॉट आपको ऐसा महसूस कराते हैं कि आपके पास बहुत स्वतंत्रता है क्योंकि आप उनसे साधारण अंग्रेजी (या भाषा) में बात कर सकते हैं।
- वास्तविकता: वे वास्तव में आपको केवल एक दृष्टिकोण की ओर मोड़ रहे हैं। वे इस तथ्य को छिपा देते हैं कि उन्होंने अन्य दृष्टिकोणों, जवाबी तर्कों या जटिल विवरणों को छोड़ देने का चुनाव किया है। यह एक ऐसे लाइब्रेरियन की तरह है जो आपको केवल एक किताब थमाता है और कहता है, "यही पूरी कहानी है," जबकि बाकी पुस्तकालय को छिपा देता है।
- परिणाम: आप पूछना बंद कर देते हैं कि "वहाँ और क्या है?" और उस एकल उत्तर पर भरोसा करने लगते हैं, जिससे आपकी स्वयं निर्णय लेने की क्षमता खो जाती है।
2. बुरी चीजों के लिए "ईजी बटन" (नए नुकसान)
चैटबॉट उपयोग में अविश्वसनीय रूप से आसान होने के लिए डिज़ाइन किए गए हैं। आप बस जो चाहते हैं उसे टाइप करते हैं, और वह हो जाता है। शोध पत्र का तर्क है कि यह "ईजी बटन" खतरनाक है क्योंकि यह नुकसान पहुँचाने की बाधा को कम कर देता है।
- उपमा: कल्पना कीजिए कि एक ताला तोड़ने वाला सेट (lockpick set) था जिसके लिए वर्षों के प्रशिक्षण वाले मास्टर चोर की आवश्यकता होती थी। अब, चैटबॉट एक "मैजिक लॉकपिक" है जिसे कोई भी एक साधारण वॉयस कमांड के साथ उपयोग कर सकता है।
- नुकसान: यह बुरे तत्वों को मिनटों में डीपफेक (असली लोगों के नकली वीडियो), गैर-सहमति वाली अंतरंग छवियां और दुष्प्रचार अभियान बनाने की अनुमति देता है। यह केवल तकनीक के बारे में नहीं है; यह यह है कि चैटबॉट इंटरफ़ेस इसे इतना सरल बना देता है कि कोई भी बिना किसी तकनीकी कौशल के एक कुशल हेरफेरकर्ता बन सकता है।
3. "कॉग्निटिव एट्रोफी" प्रभाव (आपका मस्तिष्क आलसी हो जाता है)
शोध पत्र सुझाव देता है कि चैटबॉट पर निर्भर रहना एक छोटी पैदल यात्रा के लिए व्हीलचेयर का उपयोग करने जैसा है जिसे आप आसानी से चल सकते थे।
- उपमा: ऐतिहासिक रूप से, स्प्रेडशीट या सर्च इंजन जैसे उपकरणों ने आपको सोचने का "भारी काम" करने के लिए मजबूर किया: आपको स्रोतों की जांच करनी पड़ती थी, डेटा की तुलना करनी पड़ती थी और अपने स्वयं के तर्क बनाने पड़ते थे। चैटबॉट आपके लिए यह काम कर देते हैं।
- परिणाम: यदि आप चैटबॉट को सारा सोचने का काम करने देते हैं, तो आपकी अपनी "मानसिक मांसपेशियां" सिकुड़ने लगती हैं। लेखक इसे "कॉग्निटिव डेस्किलिंग" (cognitive deskilling) कहते हैं। आप उत्तर जल्दी प्राप्त कर सकते हैं, लेकिन आप यह समझने की क्षमता खो देते हैं कि आप वहां तक कैसे पहुंचे या यह पहचानने की क्षमता कि उत्तर गलत कब है। वे "AI ब्रेन फ्राई" का भी उल्लेख करते हैं, जहाँ आपका मस्तिष्क लगातार AI के काम की जांच करने से थक जाता है, और "गेल-मैन अमीनसिया" (Gell-Mann amnesia), जहाँ आप जानते हैं कि AI एक चीज़ के बारे में झूठ बोल रहा है लेकिन फिर भी आप हर चीज़ के बारे में उस पर भरोसा करते हैं।
4. "नकली दोस्त" (सामाजिक और देखभाल संबंधी मुद्दे)
चैटबॉट सहानुभूतिपूर्ण दिखने के लिए डिज़ाइन किए गए हैं, जो "मैं समझता हूँ" या "मैं आपके लिए यहाँ हूँ" जैसी बातें कहते हैं।
- उपमा: यह एक ऐसे रोबोट बटलर की तरह है जो आपकी माँ की आवाज़ की हुबहू नकल करता है लेकिन उसके पास कोई आत्मा नहीं है। यह बातचीत का अनुकरण कर सकता है, लेकिन यह वास्तव में आपकी परवाह नहीं कर सकता।
- नुकसान: जब अकेले या असुरक्षित लोग इन बॉट्स को वास्तविक मित्र या थेरेपिस्ट के रूप में मानना शुरू कर देते हैं, तो वे अपनी भावनात्मक जरूरतों को एक ऐसी मशीन को सौंप देते हैं जो जिम्मेदार नहीं ठहराई जा सकती। यदि बॉट गलत सलाह देता है जिससे किसी को चोट पहुँचती है, तो दोषी कौन है? शोध पत्र इसे "मोरल क्रम्पल ज़ोन" (moral crumple zone) कहता है—ज़िम्मेदारी मानव उपयोगकर्ता पर ढह जाती है, जबकि मशीन अप्रभावित रहती है। यह "देखभाल" को एक ऐसे रिश्ते में बदलने का जोखिम उठाता है जिसे आप बनाते हैं, बजाय इसके कि वह एक ऐसा उत्पाद बन जाए जिसे आप खरीदते हैं।
5. "एनर्जी वैम्पायर" (आर्थिक और पर्यावरणीय लागत)
चैटबॉट मॉडल अविश्वसनीय रूप से भूखा है।
- उपमा: कल्पना कीजिए कि एक शहर जो सब कुछ एक एकल, विशाल, अक्षम पावर प्लांट से चलाने का निर्णय लेता है जो 24/7 चलता रहता है।
- लागत:
- पैसा: चैटबॉट्स के लिए डेटा सेंटर बनाना बिजली के बिलों को बढ़ा रहा है, जिससे कम आय वाले परिवार सबसे अधिक प्रभावित हो रहे हैं।
- पानी: ये केंद्र कूलिंग के लिए लाखों गैलन पानी पीते हैं, जो अक्सर उन क्षेत्रों में होता है जहाँ स्थानीय लोग पहले से ही सूखे का सामना कर रहे हैं।
- श्रम: चैटबॉट के पीछे की "बुद्धिमत्ता" अक्सर "ग्लोबल साउथ" (जैसे केन्या या भारत) के कम वेतन वाले श्रमिकों की बदौलत बनाई जाती है, जिन्हें बॉट को सुरक्षित बनाने के लिए हिंसक या दर्दनाक सामग्री को लेबल करने के लिए बहुत कम पैसे दिए जाते हैं। शोध पत्र इसे "डिजिटल नियोकोलोनियलिज्म" (digital neocolonialism) कहता है—विकसित देशों को लाभ पहुँचाने वाले उत्पाद को बनाने के लिए विकासशील देशों के सस्ते श्रम का उपयोग करना।
प्रस्तावित समाधान: एक विविध पारिस्थितिकी तंत्र
लेखक यह नहीं कहते कि "सभी AI को नष्ट कर दें।" वे कहते हैं, "हर चीज़ को चैटबॉट बनाना बंद करें।"
वे प्रस्ताव देते हैं कि हमें विभिन्न मोहल्लों वाले एक विविध शहर की ओर वापस जाना चाहिए:
- विशेषीकृत उपकरण (Specialized Tools): एक ऐसे चैटबॉट के बजाय जो सब कुछ करने की कोशिश करता है, हमारे पास विशिष्ट कार्यों के लिए विशिष्ट उपकरण होने चाहिए (जैसे गणित के लिए कैलकुलेटर या मौसम की भविष्यवाणी के लिए एक विशेष इंजन) जो इंसान होने का ढोंग नहीं करते हैं।
- मॉड्यूलर इंफ्रास्ट्रक्चर (Modular Infrastructure): एक विशाल ब्लैक बॉक्स के बजाय, हमें ऐसे सिस्टम बनाने चाहिए जहाँ आप चलते हुए गियर देख सकें, काम की जांच कर सकें और यदि कोई हिस्सा टूट जाए तो उसे बदल सकें।
- मानवीय एजेंसी (Human Agency): हमें ऐसे इंटरफेस की आवश्यकता है जो हमें सोचने और निर्णय लेने के लिए प्रेरित करें, न कि केवल हमें एक एकल, आधिकारिक उत्तर सौंप दें।
संक्षेप में: शोध पत्र का तर्क है कि चैटबॉट एक "वन-साइज़-फिट्स-ऑल" (सबके लिए एक समान) सूट है जो किसी को भी ठीक से फिट नहीं होता है। यह स्टाइलिश दिखता है, लेकिन यह बहुत तंग है, इसे साफ रखना महंगा है, और यह हमें खुद कपड़े पहनना भुला रहा है। हमें AI को इस एकल संवादात्मक बॉक्स में जबरन डालने के बजाय, ऐसे उपकरण बनाने की आवश्यकता है जो वास्तव में हमारी बुद्धिमत्ता, हमारे धन और हमारे ग्रह का सम्मान करते हों।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।