Regional Bias in Large Language Models

तकनीकी सारांश: लार्ज लैंग्वेज मॉडल्स में क्षेत्रीय पूर्वाग्रह (Regional Bias)

समस्या विवरण
यद्यपि लार्ज लैंग्वेज मॉडल्स (LLMs) ने सूचना प्रसंस्करण को बदल दिया है, वे निरंतर रहने वाले पूर्वाग्रहों को प्रदर्शित करते हैं जो सामाजिक पूर्वाग्रहों को दर्शाते और उन्हें बढ़ाते हैं। जबकि लिंग और नस्लीय पूर्वाग्रहों को अच्छी तरह से प्रलेखित किया गया है, क्षेत्रीय (भौगोलिक) पूर्वाग्रह—जहाँ मॉडल उपयोगकर्ता के स्थान या क्वेरी के भौगोलिक संदर्भ के आधार पर व्यवस्थित प्राथमिकताएँ या त्रुटियाँ प्रदर्शित करते हैं—काफी कम अध्ययन किया गया है। यह प्रकार का पूर्वाग्रह अनुचित व्यवहार, विशिष्ट क्षेत्रों (विशेष रूप से गैर-पश्चिमी और ग्लोबल साउथ समुदायों) के व्यवस्थित बहिष्कार, और शिक्षा, स्वास्थ्य सेवा और वाणिज्य जैसे डोमेन में महत्वपूर्ण सेवाओं तक पहुँच में असमानता का कारण बन सकता है। मौजूदा शोध में कई अत्याधुनिक LLMs में इस पूर्वाग्रह को व्यवस्थित रूप से मापने और परिमाणित करने के लिए व्यापक ढांचे का अभाव है।

कार्यप्रणाली (Methodology)
यह अध्ययन FAZE (Framework for Analysing Zonal Evaluation) पेश करता है, जो एक प्रॉम्प्ट-आधारित मूल्यांकन ढांचा है जिसे व्यवहार संबंधी क्षेत्रीय पूर्वाग्रह को परिमाणित करने के लिए डिज़ाइन किया गया है। कार्यप्रणाली में निम्नलिखित घटक शामिल हैं:

• डेटासेट निर्माण: 100 संदर्भतः तटस्थ प्रॉम्प्ट्स (contextually neutral prompts) का एक क्यूरेटेड डेटासेट बनाया गया। ये प्रॉम्प्ट्स दो क्षेत्रों से जुड़े 'फोर्स्ड-चॉइस' (forced-choice) निर्णय परिदृश्य प्रस्तुत करते हैं (जैसे, भर्ती, सुरक्षा जांच, यात्रा अनुशंसाएँ)। महत्वपूर्ण रूप से, इन परिदृश्यों को सममित (symmetric) बनाया गया है, जो किसी भी वैध सांस्कृतिक, कानूनी या प्रासंगिक कारक को नहीं देते जो तार्किक रूप से एक क्षेत्र को दूसरे पर वरीयता देने का औचित्य सिद्ध कर सके।
• मॉडल चयन: दस प्रमुख LLMs का मूल्यांकन किया गया, जो विविध आर्किटेक्चर और प्रशिक्षण दृष्टिकोणों को कवर करते हैं: GPT-3.5, GPT-4o, Gemini 1.5 Flash, Gemini 1.0 Pro, Claude 3 Opus, Claude 3.5 Sonnet, Llama 3, Gemma 7B, Mistral 7B, और Vicuna-13B।
• मूल्यांकन प्रोटोकॉल: प्रत्येक मॉडल का परीक्षण जुलाई और सितंबर 2024 के बीच प्रत्यक्ष चैट इंटरफेस (या जहाँ प्रत्यक्ष पहुँच उपलब्ध नहीं थी वहाँ LMSYS) के माध्यम से सभी 100 प्रॉम्प्ट्स के विरुद्ध किया गया। मूल्यांकन ने सिस्टम प्रॉम्प्ट या जनरेशन पैरामीटर्स को संशोधित किए बिना, डिफॉल्ट, सिंगल-रन व्यवहार को कैप्चर किया।
• वर्गीकरण और स्कोरिंग: प्रतिक्रियाओं को दो समूहों में वर्गीकृत किया गया:
  • अज्ञात (Unknown): मॉडल ने चुनने से इनकार कर दिया, अपर्याप्त जानकारी को स्वीकार किया, या कहा कि विकल्प समान रूप से मान्य हैं।
  • गैर-अज्ञात (Non-Unknown): मॉडल ने एक विशिष्ट क्षेत्र के प्रति प्रतिबद्धता दिखाई या प्रॉम्प्ट की तटस्थता के बावजूद एक प्राथमिकता व्यक्त की।
  • FAZE स्कोर को 10-पॉइंट स्केल पर सूत्र $\frac{N_{total} - N_{unknown}}{N_{total}} \times 10$ का उपयोग करके गणना किया जाता है। उच्च स्कोर अनपेक्षित क्षेत्र-विशिष्ट निर्णयों को लेने की मजबूत प्रवृत्ति को इंगित करता है।

प्रमुख योगदान

1. FAZE फ्रेमवर्क: यह पेपर FAZE को पेश करता है, जो एक हल्का, व्यवहारिक स्क्रीनिंग फ्रेमवर्क है जो नियंत्रित तटस्थ स्थितियों के तहत उपयोगकर्ता-केंद्रित क्षेत्रीय प्रतिबद्धता प्रवृत्तियों को कैप्चर करता है। यह तुलनात्मक विश्लेषण के लिए एक पुनरुत्पादनीय (reproducible), व्याख्या योग्य और मॉडल-अज्ञेयवादी (model-agnostic) आधार प्रदान करता है।
2. व्यवस्थित अनुभवजन्य मूल्यांकन: यह अध्ययन दस विविध, अत्याधुनिक LLMs में क्षेत्रीय पूर्वाग्रह का पहला व्यवस्थित तुलनात्मक अध्ययन प्रदान करता है, जो सैद्धांतिक चर्चाओं से आगे बढ़कर अनुभवजन्य मापन तक पहुँचता है।
3. भिन्नता की पहचान: अनुसंधान प्रदर्शित करता है कि क्षेत्रीय पूर्वाग्रह समान नहीं है बल्कि मॉडल आर्किटेक्चर, प्रशिक्षण डेटा वितरण और एलाइनमेंट रणनीतियों के आधार पर काफी भिन्न होता है।

परिणाम
1,000 प्रतिक्रियाओं के मूल्यांकन ने पूर्वाग्रह के स्तरों में पर्याप्त भिन्नता का खुलासा किया:

• उच्च पूर्वाग्रह: GPT-3.5 ने 9.5 के स्कोर के साथ उच्चतम पूर्वाग्रह प्रदर्शित किया, जिसने 100 में से 95 प्रॉम्प्ट्स में विशिष्ट क्षेत्रों का चयन किया। Llama 3 के बाद 7.8 का स्कोर रहा।
• मध्यम पूर्वाग्रह: Gemma 7B (6.9), Vicuna-13B (6.0), और GPT-4o (5.8) जैसे मॉडल्स ने मध्यम प्रवृत्तियाँ दिखाईं, जो कभी-कभी चुनने से मना करते हैं लेकिन अक्सर क्षेत्र-विशिष्ट उत्तर प्रदान करते हैं।
• निम्न पूर्वाग्रह: Claude 3.5 Sonnet ने 2.5 का सबसे कम स्कोर प्राप्त किया, इसके बाद Mistral 7B (2.6) और Gemini 1.5 Flash (3.1) रहे। ये मॉडल मुख्य रूप से क्षेत्र-विशिष्ट चयन करने से परहेज करते हैं, अक्सर विकल्पों की समानता या अपर्याप्त जानकारी को स्वीकार करते हैं।
• असमानता: सबसे अधिक पूर्वाग्रही (GPT-3.5) और सबसे कम पूर्वाग्रही (Claude 3.5 Sonnet) मॉडल्स के बीच लगभग 3.8 गुना अंतर है।

महत्व और दावे
पेपर का दावा है कि क्षेत्रीय पूर्वाग्रह वास्तविक दुनिया के क्रॉस-कल्चरल अनुप्रयोगों में LLM आउटपुट की विश्वसनीयता, निष्पक्षता और समावेशिता को सार्थक रूप से कमजोर कर सकता है। निष्कर्ष बताते हैं कि:

• भौगोलिक पूर्वाग्रह मॉडल के पैमाने का अंतर्निहित गुण नहीं है, बल्कि यह प्रशिक्षण डेटा वितरण, एलाइनमेंट उद्देश्यों और पोस्ट-ट्रेनिंग रणनीतियों द्वारा दृढ़ता से आकार लेता है।
• हाल के फ्रंटियर मॉडल्स (जैसे, Claude 3.5 Sonnet) अनपेक्षित क्षेत्रीय पक्षपात को कम करने में प्रगति दिखाते हैं, जो संभवतः एलाइनमेंट रणनीतियों और सावधानीपूर्वक डेटा क्यूरेशन के कारण है।
• हालाँकि, व्यापक रूप से उपयोग की जाने वाली प्रणालियों (जैसे, GPT-3.5) में निरंतर मध्यम-से-उच्च पूर्वाग्रह यह रेखांकित करता है कि भौगोलिक निष्पक्षता अभी भी एक सक्रिय चुनौती बनी हुई है।

लेखक इस कार्य को ऐसे भाषा मॉडल विकसित करने की दिशा में एक कदम के रूप में देखते हैं जो विविध भौगोलिक दृष्टिकोणों का सम्मान करते हैं। वे इस बात पर जोर देते हैं कि FAZE व्यवस्थित प्रवृत्तियों को उजागर करने के लिए एक स्क्रीनिंग-स्तर का मीट्रिक के रूप में कार्य करता है, यह नोट करते हुए कि भविष्य के कार्यों में प्रॉम्प्ट विविधता को बढ़ाना, बहुभाषी परिदृश्यों को शामिल करना और लक्षित डीबायसिंग हस्तक्षेपों का मूल्यांकन करना चाहिए। अध्ययन स्पष्ट रूप से सीमाओं को स्वीकार करता है, जिसमें फिक्स्ड प्रॉम्प्ट सेट, सिंगल-रन मूल्यांकन और वर्गीकरण की बाइनरी प्रकृति शामिल है, जो परिणामों को मूल्यांकन अवधि (जुलाई-सितंबर 2024) के दौरान मॉडल व्यवहार के एक स्नैपशॉट के रूप में प्रस्तुत करता है।