Explanation Fairness in Large Language Models: An Empirical Analysis of Disparities in How LLMs Justify Decisions Across Demographic Groups
यह शोधपत्र एक्सप्लेनेशन फेयरनेस टैक्सोनॉमी (EFT) प्रस्तुत करता है और अनुभवजन्य साक्ष्य प्रस्तुत करता है कि लार्ज लैंग्वेज मॉडल्स विभिन्न जनसांख्यिकीय समूहों के बीच गुणवत्ता, स्वर और परिष्कार के विविध स्तरों वाली व्याख्याएं व्यवस्थित रूप से उत्पन्न करते हैं, जो यह प्रकट करता है कि हालांकि प्रॉम्पटिंग निर्णय-जुड़े विसंगतियों को कम कर सकती है, फिर भी प्री-ट्रेनिंग वितरणों के कारण शैलीगत असमानताएं बनी रहती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक हायरिंग मैनेजर, एक डॉक्टर, या एक लोन ऑफिसर हैं। आपको एक कठिन निर्णय लेना है: किसी उम्मीदवार को अस्वीकार करना, ऋण देने से मना करना, या किसी मरीज को वापस भेजना। अब, कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट असिस्टेंट (एक लार्ज लैंग्वेज मॉडल, या LLM) है जो इन विकल्पों में आपकी मदद करता है।
यह शोध पत्र एक बहुत ही विशिष्ट प्रश्न पूछता है: यदि रोबोट दो अलग-अलग लोगों के लिए बिल्कुल एक ही निर्णय लेता है, तो क्या यह उनके कारण बताने (एक्सप्लेनेशन देने) के तरीके में उनके साथ समान व्यवहार करता है?
शोधकर्ताओं ने पाया कि उत्तर अक्सर नहीं है। भले ही निर्णय बिल्कुल समान हो, लेकिन रोबोट का स्पष्टीकरण (एक्सप्लेनेशन) व्यक्ति के नाम के आधार पर बदल जाता है, जो उनकी जाति, लिंग, धर्म या आयु का संकेत देता है।
यहाँ सरल उपमाओं (analogies) का उपयोग करके शोध पत्र के निष्कर्षों का विवरण दिया गया है:
1. "दो-मंजिला" समस्या (The "Two-Story" Problem)
कल्पना कीजिए कि एलेक्स और जॉर्डन एक ही नौकरी के लिए आवेदन करते हैं। दोनों का रिज्यूमे बिल्कुल एक जैसा है। रोबोट दोनों को अस्वीकार करने का निर्णय लेता है।
- एलेक्स को (एक स्टीरियोटाइपिकल श्वेत पुरुष नाम): रोबोट एक लंबा, विनम्र और विस्तृत पत्र लिखता है। यह कहता है, "गहन समीक्षा के बाद, हमें लगता है कि आपके पास क्रॉस-फंक्शनल टीमों में विशिष्ट नेतृत्व अनुभव की कमी है। हम अनुशंसा करते हैं कि आप इस कौशल को प्राप्त करें और पुनः आवेदन करें।" यह एक मददगार कोच की तरह लगता है।
- जॉर्डन को (एक स्टीरियोटाइपिकल अश्वेत महिला नाम): रोबोट एक छोटा, रूखा नोट लिखता है। यह कहता है, "उम्मीदवार वर्तमान आवश्यकताओं को पूरा नहीं करता है।" यह एक ठंडे दरवाजे के बंद होने जैसा लगता है।
निर्णय (अस्वीकृति) एक ही था, लेकिन स्पष्टीकरण (एक्सप्लेनेशन) अनुचित था। शोध पत्र इसे एक्सप्लेनेशन फेयरनेस (व्याख्या की निष्पक्षता) कहता है।
2. "फेयरनेस रूलर" (The "Fairness Ruler" - वर्गीकरण)
लेखकों ने एक नया मापने वाला पैमाना बनाया जिसे एक्सप्लेनेशन फेयरनेस टैक्सोनॉमी (EFT) कहा जाता है। इसे एक रूलर की तरह समझें जिसमें "अनुचित" व्याख्या को मापने के लिए पाँच अलग-अलग पक्ष हैं:
- वर्बोसिटी (लंबाई): क्या रोबोट एक व्यक्ति के लिए उपन्यास लिखता है और दूसरे के लिए एक ट्वीट?
- सेंटिमेंट (टोन/लहजा): क्या लहजा एक समूह के लिए गर्मजोशी भरा और सम्मानजनक है, लेकिन दूसरे के लिए ठंडा और उपेक्षापूर्ण है?
- हेजिंग (निश्चितता): क्या रोबोट एक समूह के लिए आत्मविश्वासी है ("आप योग्य नहीं हैं") लेकिन दूसरे के लिए अनिश्चित है ("आप शायद योग्य नहीं हैं")?
- डिसीजन-लिंक (विश्वसनीयता): यदि निर्णय बदलता है (जैसे, अस्वीकार से स्वीकार में), तो क्या स्पष्टीकरण तार्किक रूप से बदलता है? या क्या रोबोट परिणाम के बावजूद केवल एक ही सामान्य बहाना देता है?
- लेक्सिकल कॉम्प्लेक्सिटी (शब्दावली): क्या रोबोट एक समूह के लिए सरल, आसान शब्दों का उपयोग करता है, लेकिन दूसरे के लिए भ्रमित करने वाले, फैंसी शब्दजाल (jargon) का उपयोग करता है?
3. प्रयोग: एक "नाम स्वैप" टेस्ट
शोधकर्ताओं ने इसे 5 अलग-अलग AI मॉडल्स (जैसे GPT-4, Claude, LLaMA, आदि) पर 4 गंभीर क्षेत्रों में टेस्ट किया: भर्ती (hiring), मेडिकल ट्राइएज, क्रेडिट चेक, और कानूनी निर्णय।
उन्होंने "नाम स्वैप" (नाम बदलने) की तकनीक का उपयोग किया। उन्होंने एक परिदृश्य (जैसे, "उम्मीदवार X को अस्वीकार कर दिया गया है") लिया और इसे AI के माध्यम से 80 बार चलाया, जिसमें केवल नाम बदला गया ताकि विभिन्न जनसांख्यिकीय संकेतों (जैसे, "जॉन स्मिथ" को "जमाल वॉशिंगटन" या "प्रिया पटेल" में बदलना) को दर्शाया जा सके।
परिणाम: AI मॉडल लगातार अनुचित थे।
- "खराब" अभिनेता: एक मॉडल, Qwen3, सबसे बड़ा अपराधी था। यह एक समूह को छोटा, आलसी स्पष्टीकरण देने और दूसरे को लंबा, विस्तृत स्पष्टीकरण देने में 5.9 गुना अधिक संभावित था, तुलनात्मक रूप से एक बेहतर मॉडल जैसे LLaMA के।
- "अच्छे" अभिनेता: GPT-4.1 और LLA MA 3.3 जैसे मॉडल बहुत अधिक निष्पक्ष थे, हालांकि वे भी पूर्ण नहीं थे।
- पैटर्न: यह अनुचितता सभी के लिए एक जैसी नहीं थी।
- मुस्लिम नाम वाले आवेदकों को अक्सर ईसाई नामों वाले आवेदकों की तुलना में छोटे और कम विस्तृत स्पष्टीकरण मिले।
- महिला आवेदकों को अक्सर पुरुषों की तुलना में लंबे स्पष्टीकरण मिले, लेकिन लहजा जरूरी नहीं कि बेहतर हो।
- वृद्ध आवेदकों को युवाओं की तुलना में अक्सर छोटे स्पष्टीकरण मिले।
4. "मैजिक प्रॉम्प्ट" का मिथक (The "Magic Prompt" Myth)
शोधकर्ताओं ने इस समस्या को ठीक करने के लिए AI को एक "जादुई निर्देश" (प्रॉम्ट) दिया। उन्होंने इसे कहा: "नामों को अनदेखा करें और निष्पक्ष रहें," या "सभी को एक विस्तृत, सम्मानजनक स्पष्टीकरण दें।"
आश्चर्य: जादुई निर्देश काम नहीं आया।
- निर्देशों ने "डिसीजन-लिंक" के मुद्दे को सफलतापूर्वक ठीक किया (स्पष्टीकरण को निर्णय के साथ बेहतर तरीके से मिलाना)।
- लेकिन, निर्देश टोन, लंबाई या शब्दावली के मुद्दों को ठीक करने में पूरी तरह से विफल रहे। AI अभी भी कुछ समूहों के लिए छोटे, ठंडे नोट और अन्य समूहों के लिए लंबे, गर्म नोट लिखता रहा, भले ही उसे निष्पक्ष होने के लिए कहा गया था।
निष्कर्ष: शोध पत्र सुझाव देता है कि ये अनुचित शैलियाँ AI के मस्तिष्क में इसके प्रारंभिक प्रशिक्षण (जैसे बचपन में सीखी गई आदत) के दौरान ही "बुन दी गई" (baked in) हैं। आप केवल एक बातचीत में किसी को "अच्छा बनने" के लिए कहकर इस गहरी जड़ें जमा चुकी आदत को ठीक नहीं कर सकते; आपको उन्हें शुरू से फिर से प्रशिक्षित करना होगा।
5. हमें इसकी परवाह क्यों करनी चाहिए? (व्याख्या का अधिकार)
शोध पत्र एक आसन्न कानूनी समय सीमा की ओर इशारा करता है। अगस्त 2026 तक, यूरोपीय संघ (EU) में एक नया कानून (AI Act) लागू होगा जो उच्च-जोखिम वाले AI सिस्टम (जैसे कि भर्ती या ऋण में उपयोग किए जाने वाले) के लिए स्पष्टीकरण देना अनिवार्य करेगा।
शोध पत्र चेतावनी देता है: केवल स्पष्टीकरण होना ही पर्याप्त नहीं है।
यदि कोई बैंक अल्पसंख्यक आवेदक को 3-वाक्यों के ठंडे स्पष्टीकरण के साथ ऋण अस्वीकृति देता है, लेकिन बहुमत वाले आवेदक को 3-पैराग्राफ के मददगार स्पष्टीकरण के साथ देता है, तो बैंक तकनीकी रूप से कानून का पालन कर रहा होगा (उन्होंने स्पष्टीकरण दिया) लेकिन कानून की भावना का उल्लंघन कर रहा होगा (स्पष्टीकरण की गुणवत्ता समान नहीं थी)।
सारांश
यह शोध पत्र सिद्ध करता है कि AI मॉडल अक्सर एक दो-मुँहा कानून (two-faced judge) की तरह व्यवहार करते हैं: वे शायद सभी को एक ही फैसला दें, लेकिन जब वे तर्क देते हैं, तो वे लोगों के साथ अलग-अलग व्यवहार करते हैं।
- समस्या: AI की "आवाज़" सुनने वाले के आधार पर बदल जाती है।
- कारण: यह संभवतः मॉडल के प्रशिक्षण डेटा में गहराई से समाया हुआ है, न कि केवल एक साधारण गलती है।
- समाधान: AI को "निष्पक्ष होने" के लिए प्रॉम्ट देना काम नहीं करता है। हमें बेहतर AI मॉडल चुनने की आवश्यकता है (कुछ स्वाभाविक रूप से अधिक निष्पक्ष होते हैं) और इन गहरी जड़ें जमा चुकी पूर्वाग्रहों को ठीक करने के लिए उन्हें फिर से प्रशिक्षित करने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।