Side-by-side Comparison Amplifies Dialect Bias in Language Models
यह शोध पत्र यह प्रकट करता है कि भाषा मॉडलों में गुप्त बोली पूर्वाग्रह (dialect bias), जो अफ्रीकी-अमेरिकी वर्नाकुलर इंग्लिश (AAVE) के साथ नकारात्मक रूढ़ियों को जोड़ता है, तब काफी बढ़ जाता है जब स्टैंडर्ड अमेरिकन इंग्लिश (SAE) और AAVE ट्वीट्स की आमने-सामने तुलना की जाती है, एक ऐसा निष्कर्ष जो वर्तमान मूल्यांकन विधियों और शमन प्रयासों को चुनौती देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "Side-by-side Comparison Amplifies Dialect Bias in Language Models" पेपर का सरल अवधारणाओं और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
मुख्य विचार: "साइड-बाय-साइड" का जाल
कल्पना कीजिए कि आप एक टैलेंट शो में जज हैं। आपके पास दो गायक हैं, एलेक्स और जॉर्डन। वे बिल्कुल एक ही गाना गा रहे हैं जिसका अर्थ भी बिल्कुल समान है।
- एलेक्स एक पॉलिश की हुई, औपचारिक शैली (स्टैंडर्ड अमेरिकन इंग्लिश, या SAE) में गाता है।
- जॉर्डन एक रिलैक्स्ड, रिदमिक और सांस्कृतिक शैली (अफ्रीकन अमेरिकन वर्नाकुलर इंग्लिश, या AAVE) में गाता है।
पेपर पूछता है: क्या AI जज उनके साथ निष्पक्ष व्यवहार करता है?
शोधकर्ताओं ने पाया कि जब AI उन्हें एक-एक करके सुनता है, तो वह पहले से ही थोड़ा पक्षपाती है। लेकिन यहाँ चौंकाने वाली बात यह है: जब AI उन्हें एक साथ (साइड-बाय-साइड) सुनता है, तो वह बहुत अधिक पक्षपाती हो जाता है।
सेटअप: "मैच्ड गाइज़" गेम
इसका परीक्षण करने के लिए, शोधकर्ताओं ने "मैच्ड गाइज़" नामक एक ट्रिक का उपयोग किया। इसे एक जादू के खेल की तरह समझें जहाँ केवल लहजा बदलता है, लेकिन कहानी वही रहती है।
- उन्होंने 2,000 ट्वीट्स लिए।
- हर उस ट्वीट के लिए जो AAVE में लिखा गया था, उन्होंने उसका एक ऐसा संस्करण ढूँढा जो SAE में लिखा गया हो और जिसका अर्थ बिल्कुल वही हो।
- उन्होंने विभिन्न AI मॉडल्स (जैसे LLaMA, DeepSeek, और GPT) से इन ट्वीट्स को 12 व्यक्तित्व लक्षणों (personality traits) पर रेट करने के लिए कहा, जैसे "यह व्यक्ति कितना बुद्धिमान है?" या "यह कितना विनम्र है?" (स्केल 1 से 5 तक)।
निर्णय लेने के दो तरीके
शोधकर्ताओं ने AI का दो अलग-अलग "कमरों" में परीक्षण किया:
1. सोलो रूम (एब्सोल्यूट प्रॉम्प्टिंग - Absolute Prompting)
AI एलेक्स का ट्वीट देखता है, उसे रेट करता है, फिर जॉर्डन का ट्वीट देखता है और बाद में उसे रेट करता है।
- परिणाम: AI पक्षपाती था। उसने एलेक्स (SAE) को "बुद्धिमान" और "विनम्र" के लिए उच्च स्कोर दिया, और जॉर्डन (AAVE) को "बदतमीज़" या "मूर्ख" के लिए उच्च स्कोर दिया। लेकिन यह पक्षपात एक हल्की ढलान की तरह था।
2. कंपैरिजन रूम (कॉन्ट्रास्टिव प्रॉम्प्टिंग - Contrastive Prompting)
AI दोनों ट्वीट्स को एक ही समय में स्क्रीन पर देखता है और उससे पूछा जाता है, "इन दोनों की तुलना करें।"
- परिणाम: पक्षपात विस्फोट की तरह बढ़ा। ऐसा लगा जैसे AI ने अचानक ऐसे चश्मे पहन लिए हों जो केवल अंतर देख सकते हैं। स्कोर के बीच का अंतर बहुत बड़ा हो गया। AI एलेक्स को "स्मार्ट" के लिए 5/5 और जॉर्डन को 1/5 देने लगा, भले ही वे बिल्कुल एक ही बात कह रहे थे।
रूपक (Metaphor): कल्पना कीजिए कि आप कॉफी के दो कप चख रहे हैं।
- सोलो: आप कप A चखते हैं, फिर कप B। आपको लग सकता है कि कप A थोड़ा बेहतर है।
- साइड-बाय-साइड: आप दोनों कपों को एक साथ अपनी नाक के पास लाते हैं। अचानक, अंतर बहुत बड़ा महसूस होने लगता है। पेपर ने पाया कि बोलियों की तुलना साइड-बाय-साइड करने से AI का पूर्वाग्रह बहुत अधिक मुखर और स्पष्ट हो जाता है।
"लेबल" का सरप्राइज
शोधकर्ताओं ने AI को स्पष्ट रूप से यह बताने की कोशिश की: "यह ट्वीट AAVE में लिखा गया है।"
- सामान्य समझ: आप सोच सकते हैं, "अगर मैं AI को बोली (dialect) बता दूँ, तो वह निष्पक्ष होने की अधिक कोशिश करेगा।"
- वास्तविकता: पेपर में इसके विपरीत पाया गया। जब AI को बोली के लेबल बताए गए, तो पक्षपात और बढ़ गया। ऐसा लगा जैसे AI किसी कारण का इंतज़ार कर रहा था जिससे वह पक्षपाती हो सके, और लेबल ने उसे अपने रूढ़िवादी विचारों (stereotypes) की ओर झुकने की अनुमति दे दी।
"फिक्स" का प्रयास: AI को निष्पक्ष बनाना सिखाना
शोधकर्ताओं ने इस AI को "फाइन-ट्यूनिंग" करके ठीक करने की कोशिश की। उन्होंने मॉडल को सिखाया: "हे, अगर ये दोनों ट्वीट एक ही अर्थ रखते हैं, तो उन्हें एक ही स्कोर दें।"
- परिणाम: इसने थोड़ा मदद की जब AI एक-एक करके ट्वीट्स का न्याय कर रहा था (सोलो रूम)।
- समस्या: जब AI को साइड-बाय-साइड तुलना करने के लिए मजबूर किया गया (कंपैरिजन रूम), तो यह सुधार काम नहीं आया। पक्षपात पूरी ताकत के साथ वापस आ गया। यह ऐसा है जैसे किसी को एक शांत कमरे में शांत रहना सिखाया जाए, लेकिन जब आप उसे एक शोर-शराबे वाले विवाद में डालते हैं, तो वह फिर से अपना आपा खो देता है।
यह क्यों महत्वपूर्ण है (पेपर के अनुसार)
पेपर हमें वास्तविक जीवन में AI के उपयोग के बारे में चेतावनी देता है।
- छिपा हुआ खतरा: हम अक्सर सोचते हैं कि AI निष्पक्ष है यदि हम उसे चीजों की तुलना करते हुए नहीं देखते। लेकिन वास्तविक दुनिया में, AI का उपयोग अक्सर लोगों के बीच रैंकिंग करने या चुनाव करने के लिए किया जाता है (जैसे नौकरी के लिए भर्ती करना या लोन देने का निर्णय लेना)।
- एम्प्लीफायर (बढ़ाने वाला): जब AI को उम्मीदवारों की साइड-बाय-साइड रैंकिंग करने के लिए कहा जाता है, तो वह केवल बोली के अंतर को नहीं देखता; वह इसे बढ़ा (amplify) देता है। बोलने के तरीके में एक छोटा सा अंतर, यह दिखने के अंतर में बदल जाता है कि व्यक्ति कितना "बुद्धिमान" या "बदतमीज़" है।
संक्षेप में (Summary in a Nutshell)
- AI पक्षपाती है: यह पहले से ही Standard English (SAE) को AAVE की तुलना में अधिक पसंद करता है।
- तुलना इसे और खराब बनाती है: दोनों को साइड-बाय-साइड तुलना करने के लिए कहने से AI का पक्षपात अकेले निर्णय लेने की तुलना में बहुत अधिक शक्तिशाली हो जाता है।
- लेबल इसे और खराब बनाते हैं: AI को बोली का नाम बताने से मदद नहीं मिलती; यह पक्षपात को और मजबूत बनाता है।
- सुधार (Fixes) कठिन हैं: हम AI को अकेले में निष्पक्ष होना सिखा सकते हैं, लेकिन जब उसे सीधे तुलना करनी होती है, तो वह निष्पक्ष रहने में संघर्ष करता है।
पेपर निष्कर्ष निकालता है कि हमें AI का परीक्षण कैसे किया जाता है, इसके बारे में बहुत सावधान रहने की आवश्यकता है। यदि हम केवल AI का परीक्षण एक समय में एक चीज़ का न्याय करके करते हैं, तो हम यह नहीं देख पाएंगे कि जब वह वास्तव में लोगों की रैंकिंग और तुलना करने का काम करता है, तो वह कितनी बुरी तरह भेदभाव करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।