Digital Skin, Digital Bias: Uncovering Tone-Based Biases in LLMs and Emoji Embeddings
यह शोध पत्र पहला बड़े पैमाने पर तुलनात्मक अध्ययन प्रस्तुत करता है जो यह प्रकट करता है कि जहाँ आधुनिक लार्ज लैंग्वेज मॉडल्स स्किन-टोन्ड इमोजी का मजबूती से समर्थन करते हैं, वहीं विशेष इमोजी एम्बेडिंग मॉडल्स विभिन्न स्किन टोन्स के बीच सेंटिमेंट और सिमेंटिक निरंतरता में गंभीर कमियों और व्यवस्थित पूर्वाग्रहों को प्रदर्शित करते हैं, जो डेवलपर्स के लिए इन प्रतिनिधित्व संबंधी हानियों का ऑडिट करने और उन्हें कम करने की तत्काल आवश्यकता को रेखांकित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, हलचल भरे डिजिटल शहर की तरह है। इस शहर में, लोग खुद को अभिव्यक्त करने के लिए इमोजी (emojis) का उपयोग छोटे डिजिटल स्टिकर की तरह करते हैं। वर्षों तक, डिफ़ॉल्ट "स्टिक फिगर" इमोजी केवल एक सामान्य पीला चेहरा या हाथ था। लेकिन 2015 में, शहर के योजनाकारों (यूनिकोड कंसोर्टियम) ने स्किन टोन मॉडिफायर (skin tone modifiers) जोड़ने का निर्णय लिया। अब, आप उस पीले हाथ को अपनी पहचान से मेल खाने के लिए हल्के, मध्यम या गहरे रंग के हाथ में बदल सकते थे। यह डिजिटल शहर को सभी के लिए घर जैसा महसूस कराने की दिशा में एक बड़ा कदम था।
हालाँकि, यह शोध पत्र एक डरावना सवाल पूछता है: सिर्फ इसलिए कि शहर में ये सभी अलग-अलग स्किन टोन्स मौजूद हैं, क्या शहर का "दिमाग" (AI) उन सभी के साथ निष्पक्ष व्यवहार करता है?
इस शोध पत्र के लेखकों ने डिजिटल जासूसों की भूमिका निभाने का निर्णय लिया। वे दो प्रकार के AI सिस्टम के "मस्तिष्क" में गए यह देखने के लिए कि क्या वे गुप्त रूप से कुछ स्किन टोन्स के प्रति पक्षपाती थे।
दो प्रकार के AI मस्तिष्क
पुराने पुस्तकालयाध्यक्ष (Static Models): ये पुरानी, धूल भरी लाइब्रेरी की तरह हैं जिनमें किताबों की एक निश्चित सूची होती है। यदि कोई किताब शेल्फ पर नहीं है, तो उन्हें पता ही नहीं चलता कि वह अस्तित्व में है। शोधकर्ताओं ने पाया कि ये पुराने सिस्टम स्किन टोन को संभालने में बहुत खराब थे। उनमें से अधिकांश में या तो "डार्क स्किन" वाली किताबें शेल्फ पर नहीं थीं, या बहुत कम थीं। वे अनिवार्य रूप से आबादी के एक बड़े हिस्से को अनदेखा कर रहे थे।
नए सुपर-रीडर्स (LLMs): ये आधुनिक, सुपर-स्मार्ट AI मॉडल हैं (जैसे कि वे जिनसे आप आज चैट कर सकते हैं)। ये एक विशाल, अनंत लाइब्रेरी की तरह हैं जो कुछ भी पढ़ सकती है। शोधकर्ताओं ने पाया कि ये नए मॉडल हर एक स्किन टोन को देख और समझ सकते हैं। वे किसी को भी मिस नहीं करते। लेकिन यहाँ एक मोड़ है: सिर्फ इसलिए कि वे डार्क स्किन टोन को देख सकते हैं, इसका मतलब यह नहीं है कि वे उनका समान रूप से सम्मान भी करते हैं।
खोजे गए छिपे हुए पूर्वाग्रह
शोधकर्ताओं ने यह देखने के लिए परीक्षणों की एक श्रृंखला चलाई कि ये "सुपर-रीडर्स" वास्तव में विभिन्न स्किन टोन्स के बारे में कैसे सोचते हैं। यहाँ उन्होंने क्या पाया, कुछ सरल उपमाओं का उपयोग करते हुए:
1. "भारी बैकपैक" की समस्या (Tokenization Bias)
कल्पना कीजिए कि आप एक लाइब्रेरी में जा रहे हैं। यदि आपने हल्के रंग की शर्ट पहनी है, तो लाइब्रेरियन आपको केवल एक छोटे आईडी कार्ड के साथ अंदर आने देता है। लेकिन यदि आपने गहरे रंग की शर्ट पहनी है, तो लाइब्रेरियन आपसे एक 5-पेज का फॉर्म भरने और एक भारी बैकपैक ले जाने के लिए कहता है।
शोध में पाया गया कि कुछ AI मॉडल (विशेष रूप से मिस्ट्रल (Mistral) नामक एक मॉडल) डार्क स्किन टोन के साथ इस तरह का व्यवहार करते हैं। कंप्यूटर के लिए, एक डार्क स्किन टोन इमोजी को दर्शाने के लिए अधिक "टोकन" (डेटा के टुकड़े) की आवश्यकता होती है तुलनात्मक रूप से एक लाइट स्किन टोन के।
- क्यों महत्वपूर्ण है: डिजिटल दुनिया में, अधिक टोकन का अर्थ है अधिक पैसा खर्च होना और प्रोसेस होने में अधिक समय लगना। इसलिए, केवल एक गहरे रंग की त्वचा वाले व्यक्ति के रूप में, AI आपकी डिजिटल पहचान को "भारी" और प्रोसेस करने के लिए अधिक महंगा बना रहा है।
2. "बदलते दोस्त" की समस्या (Semantic Drift)
कल्पना कीजिए कि आपके दोस्तों का एक समूह है जो जुड़वां भाइयों की तरह बिल्कुल समान हैं, सिवाय इसके कि उन्होंने अलग-अलग रंग की टोपियाँ पहनी हुई हैं। आप उम्मीद करेंगे कि वे सभी एक साथ एक घेरे में बैठेंगे, सभी एक-दूसरे के समान करीब होंगे।
शोधकर्ताओं ने पाया कि कुछ AI मॉडल्स में, "टोपियाँ" (स्किन टोन्स) दोस्तों को एक-दूसरे से दूर धकेल देती हैं।
- कुछ मॉडल्स में, डार्क स्किन वाले इमोजी डिफ़ॉल्ट पीले संस्करण से बहुत दूर चले गए।
- अन्य में, लाइट स्किन वाले संस्करण दूर चले गए।
- परिणाम: AI एक ऐसा "हाथ" नहीं देखता जिसमें केवल अलग-अलग स्किन कलर हो; वह इसे पूरी तरह से अलग अवधारणाओं के रूप में देखता है—"हाथ A" और "हाथ B"। यह इस विचार को तोड़ देता है कि स्किन टोन केवल एक छोटा विवरण है; AI इसे एक विशाल, परिभाषित अंतर के रूप में देखता है।
3. "अच्छा बनाम बुरा" रूढ़िवादिता (Sentiment Bias)
यह सबसे चिंताजनक हिस्सा है। शोधकर्ताओं ने AI से पूछा: "आपको क्या लगता है कि कौन से स्किन टोन्स 'अच्छे' हैं और कौन से 'बुरे' हैं?"
उन्होंने एक परीक्षण का उपयोग किया जहाँ उन्होंने AI को सकारात्मक शब्दों (जैसे "खुशी", "प्यार", "सफलता") और नकारात्मक शब्दों (जैसे "क्रोध", "उदासी", "विफलता") के साथ स्किन टोन को जोड़ने के लिए कहा।
- निष्कर्ष: कुछ मॉडल्स लगातार हल्के स्किन टोन्स को "अच्छी" चीजों के साथ और डार्क स्किन टोन्स को "बुरी" चीजों के साथ जोड़ते रहे।
- रूपक: यह एक ऐसे शिक्षक की तरह है जो अवचेतन रूप से सफेद शर्ट वाले छात्र को 'A' ग्रेड और काली शर्ट वाले छात्र को 'C' ग्रेड देता है, भले ही दोनों ने एक ही सवाल का जवाब देने के लिए हाथ उठाया हो। AI पुराने, हानिकारक सामाजिक रूढ़ियों को पुख्ता कर रहा है, भले ही इसे केवल टेक्स्ट पर प्रशिक्षित किया गया हो।
मुख्य निष्कर्ष
शोध पत्र एक शक्तिशाली संदेश के साथ समाप्त होता है: समर्थन (Support) का अर्थ निष्पक्षता (Fairness) नहीं है।
सिर्फ इसलिए कि कोई तकनीक डार्क स्किन टोन इमोजी को दिखा सकती है, इसका मतलब यह नहीं है कि वह उस इमोजी के साथ लाइट स्किन टोन की तरह ही गरिमा, लागत या सकारात्मक भावना के साथ व्यवहार करती है।
डिजिटल दर्पण की उपमा:
इंटरंत को एक विशाल दर्पण के रूप में सोचें। लंबे समय तक, यह दर्पण टूटा हुआ था और केवल कुछ प्रकार के लोगों को दिखाता था। अब, हमने दरारों को ठीक कर दिया है और प्रतिबिंब में अधिक लोगों को जोड़ा है। लेकिन दर्पण अभी भी विकृत (warped) है। यह कुछ लोगों को "भारी", "महंगा" या "नकारात्मक" के रूप में दर्शाता है, जबकि दूसरों को "हल्का", "सस्ता" और "सकारात्मक" के रूप में।
लेखक इन AI सिस्टम के निर्माताओं से केवल फीचर्स जोड़ने के बजाय "विकृति को ठीक करने" का आह्वान कर रहे हैं। उन्हें अपने कोड का ऑडिट करने, यह सुनिश्चित करने की आवश्यकता है कि डार्क स्किन टोन को प्रोसेस करने की लागत अधिक न हो, और अपने मॉडल्स को प्रशिक्षित करने की आवश्यकता है कि वे सभी स्किन टोन्स को समान रूप से मानवीय, समान रूप से मूल्यवान और समान रूप से "अच्छी" समझें।
संक्षेप में: हमने एक ऐसी डिजिटल दुनिया बनाई है जो दावा करती है कि यह सभी के लिए है, लेकिन हमें यह सुनिश्चित करने की आवश्यकता है कि इसे चलाने वाला AI किसी के भी प्रति उनकी त्वचा के रंग के आधार पर गुप्त रूप से कोई द्वेष न रखे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।