Who Gets Access? Global Region and Academic Status Bias in AI-Generated Academic Gatekeeping Scenarios
यह शोध पत्र एक सिमुलेशन फ्रेमवर्क प्रस्तुत करता है जो यह प्रकट करता है कि जहाँ बड़े भाषा मॉडल (LLMs) शैक्षणिक वरिष्ठता के संबंध में विविध पूर्वाग्रह प्रदर्शित करते हैं, वहीं वैश्विक क्षेत्र तक पहुँच पर उनके निर्णय आर्किटेक्चर के अनुसार भिन्न होते हैं, जिसमें फ्रंटियर मॉडल अक्सर समानता-केंद्रित संरेखण के कारण ग्लोबल साउथ का पक्ष लेते हैं, जबकि छोटे या ओपन-वेट मॉडल ग्लोबल नॉर्थ का पक्ष लेने की प्रवृत्ति रखते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि विज्ञान की दुनिया एक विशाल, हलचल भरी लाइब्रेरी की तरह है जहाँ हर कोई अगली महान कहानी लिखने की कोशिश कर रहा है। ऐसा करने के लिए, लेखकों को दूसरों की किताबें उधार लेनी पड़ती हैं, अन्य लोगों के आविष्कारों के ब्लूप्रिंट (खाके) देखने पड़ते हैं, और अपने प्रतिद्वंद्वियों के गुप्त नोट्स पर नज़र डालनी पड़ती है। लेकिन यहाँ एक पेंच है: कुछ सबसे महत्वपूर्ण किताबें महंगी कांच की दरवाजों के पीछे बंद हैं, और कुछ ब्लूप्रिंट एक ऐसी तिजोरी में रखे गए हैं जिसे केवल कुछ ही लोग खोल सकते हैं। कभी-कभी, एक लेखक को उस व्यक्ति को एक विनम्र ईमेल भेजना पड़ता है जिसके पास चाबी है, और पूछना पड़ता है, "हे, क्या मैं इसे उधार ले सकता हूँ?"
यहीं से पेचीदा मामला शुरू होता है। चाबी किसे मिलती है? वास्तविक दुनिया में, यह निर्णय अक्सर इस बात पर निर्भर करता है कि आप कौन हैं, आप कहाँ रहते हैं, और आपकी यूनिवर्सिटी कितनी प्रसिद्ध है। इसे "गेटकीपिंग" (द्वारपाल व्यवहार) कहा जाता है। यह एक क्लब के बाउंसर की तरह है जो यह तय करता है कि किसे अंदर जाने देना है, उनके जूतों या उनके लहजे के आधार पर। हाल ही में, वैज्ञानिकों ने सोचा: क्या होगा अगर हम मानव बाउंसर को एक सुपर-स्मार्ट रोबोटिक दिमाग से बदल दें? ये रोबली ब्रेन, जिन्हें लार्ज लैंग्वेज मॉडल्स (LLMs) के रूप में जाना जाता है, उसी तरह के AI हैं जो कविताएँ लिख सकते हैं, सामान्य ज्ञान के उत्तर दे सकते हैं, और आपको ईमेल ड्राफ्ट करने में मदद कर सकते हैं। लेकिन यदि हम इन रोबोटों से वैज्ञानिक रहस्यों तक पहुँच तय करने के लिए कहें, तो क्या वे निष्पक्ष होंगे? क्या वे एक गरीब देश के छात्र के साथ वैसा ही व्यवहार करेंगे जैसा वे एक अमीर देश के प्रोफेसर के साथ करते हैं? या क्या उनके पास भी अपने छिपे हुए पूर्वाग्रह होंगे, ठीक वैसे ही जैसे इंसानों के होते हैं?
यह शोध पत्र इस बात का पता लगाने के लिए एक डिजिटल खेल का मैदान तैयार करता है। शोधकर्ताओं ने एक सिमुलेशन बनाया जहाँ एक AI एक सख्त प्रोफेसर की भूमिका निभाता है जिसे एक बहुमूल्य संसाधन देने के लिए केवल एक व्यक्ति को चुनना है। शर्त यह है कि AI को दो ऐसे लोगों के बीच चयन करना है जो हर तरह से समान हैं, सिवाय दो चीजों के: वे कहाँ से हैं (एक समृद्ध "ग्लोबल नॉर्थ" देश या एक विकासशील "ग्प्लोबल साउथ" देश) और उनका पद (एक छात्र, एक पीएचडी उम्मीदवार, एक पोस्टडॉक, या एक प्रसिद्ध स्थायी प्रोफेसर)। AI को एक को "हाँ" और दूसरे को "ना" कहने के लिए मजबूर किया जाता है, जिससे उसकी वास्तविक पसंद का पता चलता है।
इसके परिणाम कुछ इस तरह हैं जैसे अलग-अलग रोबोटों को एक पहेली को पूरी तरह से अलग तरीकों से सुलझाते हुए देखना। अध्ययन में पांच अलग-अलग AI मॉडल्स का परीक्षण किया गया, और वे सभी एकमत नहीं थे। "बड़े" और अत्यधिक पॉलिश किए गए मॉडल्स (जैसे GPT, Gemini और Claude) निष्पक्षता के चैंपियन की तरह काम करते हैं। जब चुनाव करने की बात आई, तो उन्होंने भारी बहुमत से ग्लोबल साउथ के व्यक्ति को चुना। ऐसा लगता है कि इन मॉडल्स को उन लोगों की मदद करने के लिए विशेष रूप से प्रशिक्षित किया गया है जो संघर्ष कर रहे हो सकते हैं, यानी उन्होंने स्थिति के बजाय आवश्यकता को प्राथमिकता दी। वे अक्सर प्रसिद्ध प्रोफेसर के बजाय पीएचडी उम्मीदवार को चुनते थे, यह सोचकर कि, "यह छात्र अपने करियर के एक महत्वपूर्ण, संवेदनशील चरण में है; उसे इस मदद की सबसे अधिक आवश्यकता है।"
हालाँकि, "छोटे" और अधिक खुले मॉडल्स (जैसे Gemma) ने बिल्कुल उल्टा किया। वे पारंपरिक, पुराने ढर्रे के गेटकीपर्स की तरह काम करते थे। वे समृद्ध "ग्लोबल नॉर्थ" और प्रसिद्ध स्थायी प्रोफेसर को चुनने की ओर झुके रहे। शोधकर्ता सुझाव देते हैं कि ऐसा इसलिए होता है क्योंकि इन छोटे मॉडल्स को निष्पक्षता के बारे में उतने सख्त नियमों के साथ "एलाइन" या प्रशिक्षित नहीं किया गया है। इसके बजाय, वे उस कच्चे डेटा पर निर्भर करते हैं जिसे उन्हें खिलाया गया था, जो अक्सर एक ऐसी दुनिया को दर्शाता है जहाँ अमीरों और प्रसिद्ध लोगों को सबसे अधिक ध्यान मिलता है।
दिलचस्प बात यह है कि AI का निर्णय केवल व्यक्ति के पद या देश के बारे में नहीं था; यह उस विशिष्ट देश की समृद्धि के बारे में भी था। भले ही मॉडल्स को "ग्लोबल साउथ" बनाम "ग्लोबल नॉर्थ" के आधार पर चुनने के लिए कहा गया था, वे वास्तव में देश के बैंक बैलेंस को देख रहे थे। वे एक बहुत ही गरीब देश (जैसे घाना या रवांडा) के शोधकर्ता की मदद करने के लिए बहुत अधिक इच्छुक थे, बजाय एक ऐसे देश के जो ग्लोबल साउथ में है लेकिन समृद्ध है (जैसे कतर या यूएई)। AI ने महसूस किया, "कतर के इस शोधकर्ता के पास यह किताब खुद खरीदने के लिए पैसे हो सकते हैं, लेकिन घाना वाले के पास नहीं।"
शोध पत्र में यह भी पाया गया कि संसाधन का प्रकार मायने रखता था। जब अनुरोध एक CV (रिज्यूमे) के लिए था, तो मॉडल्स थोड़े संतुलित थे। लेकिन जब बात पेवॉल वाले लेखों या गुप्त डेटासेट्स की आई, तो पूर्वाग्रह बहुत स्पष्ट हो गए। "निष्पक्षता-केंद्रित" मॉडल्स कमजोर पक्ष की मदद करने के लिए उत्सुक थे, जबकि "पारंपरिक" मॉडल्स यथास्थिति बनाए रखते थे, स्थापित अभिजात वर्ग का पक्ष लेते थे।
संक्षेप में, यह अध्ययन बताता है कि यदि हम इन प्रकार के निर्णय लेने के लिए AI को वास्तविक दुनिया में इस्तेमाल करने लगें, तो हमें बहुत सावधान रहने की आवश्यकता है। कुछ AI मैदान को समान बनाने में बेहतरीन हो सकते हैं, जबकि अन्य अनजाने में अमीर और गरीब के बीच की खाई को और चौड़ा कर सकते हैं। शोधकर्ता चेतावनी देते हैं कि हम यह मानकर नहीं चल सकते कि ये रोबोट तटस्थ हैं; वे उन लोगों के मूल्यों और पूर्वाग्रहों को भी ढोते हैं जिन्होंने उन्हें बनाया है और उस डेटा को भी जिससे वे सीखे हैं। इससे पहले कि हम वैज्ञानिक पुस्तकालय की चाबियाँ किसी AI को सौंप दें, हमें यह सुनिश्चित करना होगा कि वह केवल उन लोगों के प्रति निष्पक्ष न हो जो उनके प्रशिक्षण मैनुअल लिखने वालों जैसे दिखते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।