Standard Language Ideology in AI-Generated Language
यह शोध पत्र "मानक एआई-जनित भाषा विचारधारा" की अवधारणा और एक सामाजिक-तकनीकी वर्गीकरण प्रस्तुत करता है ताकि यह विश्लेषण किया जा सके कि कैसे बड़े भाषा मॉडल वैधता और विलोपन जैसे तंत्रों के माध्यम से मानक भाषा संबंधी पूर्वाग्रहों को सुदृढ़ करते हैं, और अंततः भाषाई विविधता की रक्षा करने तथा अधिक न्यायपूर्ण एआई भविष्य सुनिश्चित करने के लिए सिफारिशें प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि चैटजीपीटी (ChatGPT) जैसे लार्ज लैंग्वेज मॉडल्स (LLMs) एक विशाल, अत्यंत बुद्धिमान लाइब्रेरियन की तरह हैं जिन्होंने इंटरनेट पर लगभग सब कुछ पढ़ लिया है। आप इस लाइब्रेरियन से कोई सवाल पूछते हैं और वे आपके लिए एक कहानी या उत्तर लिखते हैं।
यह शोध पत्र तर्क देता है कि यह लाइब्रेरियन निष्पक्ष नहीं है। इसके बजाय, उनके पास एक बहुत ही मजबूत, अदृश्य पूर्वाग्रह (bias) है: वे सोचते हैं कि बोलने का केवल एक विशिष्ट तरीका ही "सही", "बुद्धिमान" और "पेशेवर" है, जबकि बोलने के अन्य सभी तरीके "टूटे हुए", "मजाकिया" या "गलत" हैं।
लेखक इस पूर्वाग्रह को स्टैंडर्ड लैंग्वेज आइडियोलॉजी (Standard Language Ideology) कहते हैं। वास्तविक दुनिया में, इसका अर्थ आमतौर पर यह होता है कि लाइब्रेरियन "स्टैंडर्ड अमेरिकन इंग्लिश" (जिस तरह से अमेरिका के अमीर, श्वेत, मध्यम वर्ग के लोग बोलते हैं) को प्राथमिकता देता है और बाकी सब कुछ को निम्न स्तर का मानता है।
यहाँ सरल उपमाओं (analogies) का उपयोग करके शोध पत्र के मुख्य विचारों का विवरण दिया गया है:
1. "गोल्ड स्टैंडर्ड" फ़िल्टर
कल्पना कीजिए कि लाइब्रेरियन के डेस्क पर एक फ़िल्टर लगा है। जब आप उन्हें अफ्रीकन अमेरिकन इंग्लिश (AAE) या किसी क्षेत्रीय लहजे में लिखा हुआ कोई नोट देते हैं, तो फ़िल्टर उसे पढ़ने से पहले ही स्वचालित रूप से "स्टैंडर्ड अमेरिकन इंग्लिश" में फिर से लिख देता है।
- समस्या: शोध पत्र इसे लेजिटिमेशन (Legitimation - वैधता प्रदान करना) कहता है। एआई (AI) "स्टैंडर्ड" संस्करण को संचार का एकमात्र वैध तरीका मानता है।
- परिणाम: यदि आप अपनी स्वाभाविक बोली में बात करते हैं, तो एआई आपको अनदेखा कर सकता है, आपको गलत समझ सकता है, या आपको खराब उत्तर दे सकता है। यह एक ऐसे रेस्टोरेंट की तरह है जो केवल उन लोगों को खाना परोसता है जो एक विशिष्ट सूट पहनकर आते हैं, और बाकी सभी को ऑर्डर देने से पहले अपने कपड़े बदलने के लिए कहता है।
2. कुछ ग्राहकों के लिए "खराब सेवा"
चूंकि लाइब्रेरियन ने ज्यादातर "स्टैंडर्ड" इंग्लिश में लिखी गई किताबें पढ़ी हैं, इसलिए वे अन्य बोलियों को समझने में बहुत खराब हैं।
- समस्या: यह असमान गुणवत्ता की सेवा (Unequal Quality of Service) है। यदि आप किसी अल्पसंख्यक बोली में प्रश्न पूछते हैं, तो एआई भ्रमित हो सकता है, उत्तर देने से मना कर सकता है, या आपके द्वारा उपयोग किए गए शब्दों के कारण आपके प्रश्न को "हेट स्पीच" (घृणास्पद भाषण) के रूप में चिह्नित कर सकता है।
- परिणाम: जो लोग इन बोलियों का उपयोग करते हैं, उन्हें मददगार उत्तर पाने के लिए "कोड-स्विचिंग" (यानी, मानक समूह की तरह बोलने का नाटक करना) करने के लिए मजबूर होना पड़ता है। यह एक ऐसी इमारत में प्रवेश करने के लिए मास्क पहनने के लिए मजबूर होने जैसा है ताकि सुरक्षा गार्ड आपको अंदर जाने दे सके।
3. "कार्टून" प्रभाव
कभी-कभी, एआई आपकी बोली बोलने की कोशिश करता है, लेकिन वह इसे अपमानजनक या मूर्खतापूर्ण तरीके से करता है।
- समस्या: यह रूढ़िवादिता और नस्लीयकरण (Stereotyping and Racialization) है। यदि आप एआई से किसी विशिष्ट बोली में लिखने के लिए कहते हैं, तो यह अक्सर एक कैरिकेचर (व्यंग्य चित्र) पेश करता है—उस बोली का एक कार्टून जैसा संस्करण जो रूढ़ियों, अपमानों या "टूटी हुई" व्याकरण से भरा होता है जिसका वास्तविक लोग उपयोग नहीं करते।
- परिणाम: यह इस विचार को पुख्ता करता है कि इस तरह बोलने वाले लोग अनपढ़ या मजाकिया होते हैं। यह एक ऐसे कॉमेडियन की तरह है जो लोगों के एक समूह की खराब नकल उतारता है, लेकिन एआई इसे उस बोली के गंभीर और तथ्यात्मक प्रतिनिधित्व के रूप में प्रस्तुत करता है।
4. लाइब्रेरी में "चोर"
एआई एक अल्पसंख्यक बोली बोलना सीख सकता है, लेकिन वह ऐसा उन लोगों से पूछे बिना करता है जो वास्तव में इसे बोलते हैं।
- समस्या: यह अपोप्रिएशन (Appropriation - सांस्कृतिक विनियोजन) है। एआई किसी संस्कृति की भाषा के "कूल" या "अद्वितीय" हिस्सों को लेता है, उन्हें एक उत्पाद में बदल देता है, और दूसरों को बेच देता है, जबकि मूल वक्ताओं को कुछ भी नहीं मिलता।
- परिणाम: एक श्वेत व्यक्ति एआई का उपयोग करके ऐसा लग सकता है जैसे वह ब्लैक कम्युनिटी (अश्वेत समुदाय) से ताल्लुक रखता है, बिना उस नस्लवाद का सामना किए जिसका वह समुदाय सामना करता है। यह एक परिवार की विरासत वाली रेसिपी चुराने, उसे अनाज के डिब्बे पर लगाने और लाभ के लिए बेचने जैसा है, जबकि उस परिवार को न तो श्रेय मिलता है और न ही पैसा।
5. "इरेज़र" (मिटाने वाला)
अंत में, एआई कभी-कभी इन बोलियों को पूरी तरह से हटा देता है।
- समस्या: यह इरेज़र (Erasure - विलोपन) है। रूढ़िवादिता या अपोप्रिएशन के जोखिमों से बचने के लिए, डेवलपर्स एआई को उन बोलियों में कभी न बोलने के लिए प्रोग्राम कर सकते हैं।
- परिणाम: यदि आप अपनी मातृभाषा की बोली में जवाब चाहते हैं, तो एआई ऐसा नहीं करेगा। यह एक ऐसी लाइब्रेरी की तरह है जो यह तय करती है कि "इसे प्रबंधित करना बहुत कठिन है" इसलिए वह एक निश्चित भाषा में किताबें रखना बंद कर देती है, जिससे डिजिटल दुनिया में वह भाषा अदृश्य हो जाती है।
बड़ा सवाल: एआई को क्या करना चाहिए?
शोध पत्र एक कठिन सवाल पूछता है: क्या एआई को सुरक्षित रहने के लिए केवल "स्टैंडर्ड" इंग्लिश पर टिके रहना चाहिए, या इसे हर बोली बोलने की कोशिश करनी चाहिए?
- यदि यह "स्टैंडर्ड" पर टिका रहता है, तो यह उन लोगों को नुकसान पहुँचाता है जो उस तरह नहीं बोलते।
- यदि यह हर बोली बोलने की कोशिश करता है, तो इसमें उनका मजाक उड़ाने या उनकी संस्कृति को चुराने का जोखिम है।
लेखक कहते हैं कि इसका कोई आसान "तकनीकी समाधान" (जैसे केवल अधिक डेटा जोड़ना) नहीं है क्योंकि यह कोड की नहीं, बल्कि शक्ति (Power) की समस्या है। जिन लोगों ने एआई बनाया (मुख्य रूप से बड़ी अमेरिकी टेक कंपनियों में), उन्होंने तय किया कि "स्टैंडर्ड" क्या है, और उन्होंने उन समुदायों से नहीं पूछा जिनकी भाषाओं को अनदेखा किया गया।
समाधान: चाबियाँ किसके पास हैं?
एआई को केवल "कम पक्षपाती" बनाने के बजाय, लेखक सुझाव देते हैं कि हमें यह बदलने की आवश्यकता है कि प्रभारी कौन है। वे तीन मुख्य विचार प्रस्तावित करते हैं:
- हानि को मापें: हमें एआई का परीक्षण केवल इसकी गति के आधार पर नहीं, बल्कि इस आधार पर भी करना चाहिए कि यह विभिन्न बोलियों के साथ कैसा व्यवहार करता है। क्या यह बुरा व्यवहार कर रहा है? क्या यह लोगों को अनदेखा कर रहा है?
- समुदायों को अपना स्वयं का निर्माण करने दें: बड़ी कंपनियाँ समुदायों से डेटा लेने के बजाय, उन समुदायों को अपने स्वयं के एआई टूल बनाने चाहिए। (शोध पत्र में अफ्रीका और न्यूजीलैंड के समूहों का उल्लेख है जो पहले से ही ऐसा कर रहे हैं)।
- शक्ति साझा करें: यदि बड़ी कंपनियाँ किसी समुदाय की भाषा का उपयोग करना चाहती हैं, तो उन्हें उस समुदाय के साथ बैठना होगा, उन्हें निर्णय लेने देना होगा, और लाभ साझा करना होगा। यह समुदाय के साथ "परामर्श" करने के बारे में नहीं है; यह उन्हें प्रक्रिया का स्वामित्व देने के बारे में है।
संक्षेप में: शोध पत्र तर्क देता है कि एआई वर्तमान में इस विचार को मजबूत कर रहा है कि बोलने के कुछ तरीके दूसरों से "बेहतर" हैं। इसे ठीक करने के लिए, हम केवल सॉफ्टवेयर को थोड़ा बदलकर काम नहीं चला सकते; हमें शक्ति उन लोगों को वापस देनी होगी जिनकी भाषाओं का उपयोग किया जा रहा है, या जिन्हें अनदेखा किया जा रहा है, या जिनका मजाक उड़ाया जा रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।