Bias in Large Language Models: Origin, Evaluation, and Mitigation

एक बड़ा चित्र: "सुपर-रीडर" जिसकी एक दृष्टि दोष (Blind Spot) है

कल्पना कीजिए कि एक लार्ज लैंग्वेज मॉडल (LLM) एक अति-उन्नत छात्र की तरह है जिसने लगभग हर किताब, वेबसाइट और सोशल मीडिया पोस्ट को पढ़ा है। यह छात्र अविश्वसनीय रूप से बुद्धिमान है और निबंध लिख सकता है, सवालों के जवाब दे सकता है, और भाषाओं का अनुवाद लगभग किसी भी व्यक्ति से बेहतर कर सकता है।

हालाँकि, क्योंकि इस छात्र ने वह सब कुछ सीखा है जो इंसानों ने लिखा है, इसलिए उसने हमारे सभी पूर्वाग्रहों (prejudices), रूढ़ियों (stereotypes) और अनुचित आदतों को भी सीख लिया है। ठीक उसी तरह जैसे एक बच्चा जो ऐसे मोहल्ले में पला-बढ़ा हो जहाँ हर कोई यह मानता हो कि गणित में कुछ खास समूह के लोग कमजोर होते हैं, वह छात्र भी वही मानने लग सकता है, भले ही वह सच न हो।

यह शोध पत्र एक विशाल मार्गदर्शिका है जो तीन मुख्य प्रश्न पूछती है:

1. ये बुरी आदतें कहाँ से आईं? (Origins - उत्पत्ति)
2. हम छात्र को नकल करते हुए कैसे पकड़ें? (Evaluation - मूल्यांकन)
3. हम उन्हें निष्पक्ष होना कैसे सिखाएं? (Mitigation - शमन)

---

भाग 1: बुरी आदतें कहाँ से आती हैं (Origins)

लेखक इन "बुरी आदतों" (बायस/पक्षपात) को दो प्रकारों में बांटते हैं: इंट्रिन्सिक (Intrinsic) और एक्सट्रिन्सिक (Extrinsic)।

1. इंट्रिन्सिक बायस (Intrinsic Bias): "आंतरिक स्मृति"

इसे छात्र की वह आंतरिक डिक्शनरी और विश्वदृष्टि समझें जो उन्होंने पढ़ाई के दौरान बनाई है।

• प्रशिक्षण डेटा (पाठ्यपुस्तकें): छात्र ने ऐसी किताबें पढ़ीं जहाँ "डॉक्टर" लगभग हमेशा पुरुष थे और "नर्स" लगभग हमेशा महिलाएँ थीं। इसलिए, उनकी आंतरिक स्मृति में "डॉक्टर" का संबंध "पुरुष" से और "नर्स" का संबंध "महिला" से जुड़ गया है। यह डेटा बायस है।
• संग्रह पद्धति (पुस्तकालय): कल्पना कीजिए कि छात्र केवल एक विशिष्ट देश के पुस्तकालयों में गया। वह सोचेगा कि उस देश के त्यौहार ही दुनिया के एकमात्र त्यौहार हैं। यह स्थानिक/कालिक (spatial/temporal) बायस है।
• उपकरण (कलम और कागज): यहाँ तक कि जिस तरह से छात्र शब्दों को टुकड़ों में तोड़ता है (टोकनाइज़ेशन), वह भी अनुचित हो सकता है। यदि छात्र का "कलम" अल्पसंख्यक समूहों के नामों को छोटे, भ्रमित करने वाले टुकड़ों में तोड़ देता है लेकिन सामान्य नामों को पूरा रखता है, तो वह अल्पसंख्यक नामों को अच्छी तरह से नहीं समझ पाएगा। यह टोकनाइज़ेशन बायस है।

2. एक्सट्रिन्सिक बायस (Extrinsic Bias): "खराब प्रदर्शन"

यह तब होता है जब छात्र किसी विशिष्ट परीक्षण या कार्य के दौरान अपनी बुरी आदतों पर कार्य करता है।

• समझने के कार्य (NLU): यदि आप पूछते हैं, "डॉक्टर कौन है?" और टेक्स्ट कहता है "डॉक्टर आ गया," तो छात्र "वह" (पुरुष के लिए) का अनुमान लगा सकता है भले ही टेक्स्ट में लिंग का उल्लेख न हो, क्योंकि उनकी आंतरिक स्मृति पक्षपाती है।
• निर्माण कार्य (NLG): यदि आप छात्र को एक नेता के बारे में कहानी लिखने के लिए कहते हैं, तो वे स्वचालित रूप से नेता को पुरुष और नर्स को महिला बना सकते हैं, भले ही आपने ऐसा करने के लिए नहीं कहा हो।
• परिणाम: छात्र एक महिला के बजाय एक पुरुष को नौकरी की सिफारिश दे सकता है, या किसी वाक्य का अनुवाद इस तरह कर सकता है जो किसी संस्कृति का अपमान करता हो, केवल इसलिए क्योंकि वे अपने प्रशिक्षण डेटा में देखे गए पैटर्न को दोहरा रहे हैं।

---

भाग 2: नकल को कैसे पकड़ें (Evaluation)

हमें कैसे पता चलेगा कि छात्र पक्षपाती है? यह शोध पत्र सुझाव देता है कि उन्हें तीन अलग-अलग स्तरों पर जांचा जाए, जैसे एक शिक्षक छात्र को ग्रेड देता है।

1. डेटा-स्तर की जाँच (पाठ्यपुस्तकों की जाँच):
   • छात्र के शुरू करने से पहले ही, हम उन किताबों को देखते हैं जिन्हें वे पढ़ रहे हैं। क्या पुरुषों के बारे में बहुत अधिक किताबें हैं और महिलाओं के बारे में बहुत कम? क्या अमेरिका के बारे में बहुत अधिक किताबें हैं और अफ्रीका से कोई नहीं? हम विभिन्न समूहों के कितनी बार दिखने की गणना करने के लिए गणित का उपयोग करते हैं।
2. मॉडल-स्तर की जाँच (मस्तिष्क की जाँच):
   • हम छात्र के मस्तिष्क को कुरेदकर देखते हैं कि वे विचारों को कैसे जोड़ते हैं। यदि हम पूछते हैं, "क्या नर्स एक पुरुष है?" और छात्र का मस्तिष्क "नहीं" के साथ चमकता है, लेकिन यदि हम पूछते हैं "क्या डॉक्टर एक पुरुष है?" और यह "हाँ" के साथ चमकता है, तो हमें पता चलता है कि उनके कनेक्शन में एक छिपा हुआ पक्षपात है। हम काउंटरफैक्चुअल्स (Counterfactuals) (जैसे "जॉन" के नाम को "जेन" में बदलकर देखना कि क्या उत्तर बदलता है) जैसे उपकरणों का उपयोग करते हैं।
3. आउटपुट-स्तर की जाँच (होमवर्क को ग्रेड करना):
   • हम छात्र द्वारा दिए गए वास्तविक उत्तरों को देखते हैं। क्या वे कुछ समूहों के लिए बुरे शब्दों का उपयोग करते हैं? क्या वे अलग-अलग लोगों को अलग-अलग सलाह देते हैं? हम मानवीय समीक्षकों (Human Reviewers) (वास्तविक लोग) का भी उपयोग करते हैं जो उत्तरों को पढ़ते हैं और कहते हैं, "हे, यह अनुचित लग रहा है।"

---

भाग 3: बुरी आदतों को कैसे ठीक करें (Mitigation)

शोध पत्र सुझाव देता है कि आप कब हस्तक्षेप करते हैं, इसके आधार पर छात्र को "डी-बायस" करने के तीन तरीके हैं।

1. प्री-मॉडल डीबायसिंग (पाठ्यपुस्तकों की सफाई)

• विचार: छात्र के शुरू करने से पहले, हम पुस्तकालय को साफ करते हैं।
• कैसे: हम अल्पप्रतिनिधित्व वाले समूहों के बारे में अधिक किताबें जोड़ते हैं (ओवरसैंपलिंग) या वास्तव में घृणित किताबों को हटा देते हैं। हम वाक्यों को फिर से लिख भी सकते हैं (जैसे, "डॉक्टर वह है" को "डॉक्टर वह है" [स्त्रीलिंग/पुल्लिंग बदलकर] में बदलना) ताकि छात्र दोनों विकल्प सीख सके।
• लाभ/हानि: यह सस्ता और आसान है, लेकिन आप केवल किताबों को साफ करके सब कुछ ठीक नहीं कर सकते। कुछ बुरी आदतें पहले से ही छात्र के मस्तिष्क की संरचना में समाहित हो चुकी होती हैं।

2. इंट्रा-मॉडल डीबायसिंग (मस्तिष्क की वायरिंग बदलना)

• विचार: जबकि छात्र पढ़ रहा है, हम उन्हें अलग तरह से सीखने के लिए मजबूर करते हैं।
• कैसे: हम खेल के नियम बदल देते हैं। यदि छात्र "नर्स" को "महिला" से जोड़ने की कोशिश करता है, तो हम उन्हें एक "पेनल्टी स्कोर" (लॉस फंक्शन) देते हैं ताकि वे ऐसा करना बंद कर दें। हम उनके मस्तिष्क के उन विशिष्ट हिस्सों को भी "प्रून" (काट) सकते हैं जो इन बुरे कनेक्शनों को रखते हैं।
• लाभ/हानि: यह मूल कारण को ठीक करने में बहुत प्रभावी है, लेकिन यह महंगा और कठिन है। यह कंप्यूटर चलते समय उसकी वायरिंग बदलने जैसा है।

3. पोस्ट-मॉडल डीबायसिंग (होमवर्क को संपादित करना)

• विचार: छात्र को उत्तर लिखने दें, लेकिन हम उसे दुनिया को दिखाने से पहले संपादित करते हैं।
• कैसे: यदि छात्र एक पक्षपाती वाक्य लिखता है, तो हम शब्दों को बदलने के लिए एक फ़िल्टर का उपयोग करते हैं। या, हम एक "कॉज़ल प्रॉम्प्टिंग" (causal prompting) तकनीक का उपयोग करते हैं जहाँ हम छात्र को समस्या के बारे में इस तरह सोचने के लिए कहते है जो उन्हें रूढ़ियों को अनदेखा करने के लिए मजबूर करता है।
• लाभ/हानि: यह तेज़ है और इसमें छात्र को फिर से प्रशिक्षित करने की आवश्यकता नहीं होती है। हालाँकि, यह घाव पर पट्टी लगाने जैसा है; यह लक्षण को ठीक करता है लेकिन बीमारी को नहीं।

---

भाग 4: यह क्यों महत्वपूर्ण है (नैतिकता और कानून)

शोध पत्र चेतावनी देता है कि ये पक्षपात केवल परेशान करने वाले नहीं हैं; वे खतरनाक हैं।

• प्रतिनिधित्व संबंधी नुकसान (Representational Harms): छात्र कह सकता है, "मुस्लिम हिंसक होते हैं" या "महिलाएं नेता नहीं होतीं।" यह लोगों की भावनाओं को ठेस पहुँचाता है और समाज में नकारात्मक रूढ़ियों को पुख्ता करता है।
• आवंटन संबंधी नुकसान (Allocational Harms): यह वह जगह है जहाँ लोग वास्तविक दुनिया के अवसर खो देते हैं। यदि एक पक्षपाती छात्र किसी कंपनी को लोगों को काम पर रखने में मदद करता है, तो वे एक योग्य महिला के बायोडाटा को खारिज कर सकते हैं। यदि एक पक्षपाती छात्र किसी अस्पताल को मरीजों का निदान करने में मदद करता है, तो वे एक अल्पसंख्यक समूह में बीमारी को मिस कर सकते हैं।

शोध पत्र नोट करता है कि कानून अब पकड़ बना रहे हैं। न्यूयॉर्क शहर और यूरोपीय संघ जैसे स्थानों में, कंपनियों को अब अपने एआई टूल्स का ऑडिट करना आवश्यक है ताकि यह सुनिश्चित हो सके कि वे नस्ल, लिंग या आयु के आधार पर लोगों के साथ भेदभाव नहीं कर रहे हैं।

निष्कर्ष (The Bottom Line)

यह शोध पत्र एक रोडमैप है। यह हमें बताता है कि एआई हमारे समाज की खामियों को दर्शाने वाला एक दर्पण है। निष्पक्ष एआई बनाने के लिए, हम केवल एक समाधान पर निर्भर नहीं रह सकते। हमें अपने डेटा को साफ करना होगा, अपने मॉडल्स को सावधानीपूर्वक प्रशिक्षित करना होगा, उनके काम की लगातार जांच करनी होगी, और आउटपुट को ठीक करना होगा इससे पहले कि वह लोगों तक पहुँचे। यह एक निरंतर प्रक्रिया है, एक बार का काम नहीं।