When Do Language Models Endorse Limitations on Human Rights Principles?
यह शोध पत्र आठ भाषाओं में ग्यारह प्रमुख लार्ज लैंग्वेज मॉडल्स का मूल्यांकन करता है और व्यवस्थित पूर्वाग्रहों को प्रकट करता है जहाँ वे राजनीतिक और नागरिक अधिकारों की तुलना में आर्थिक, सामाजिक और सांस्कृतिक अधिकारों पर सीमाओं का समर्थन करने की अधिक संभावना रखते हैं, महत्वपूर्ण भाषाई भिन्नता प्रदर्शित करते हैं, और प्रॉम्प्ट-आधारित स्टीयरिंग के प्रति उच्च संवेदनशीलता दिखाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने 11 अत्यंत बुद्धिमान डिजिटल पुस्तकालयाध्यक्षों (librarians) की एक टीम बनाई है। इन पुस्तकालयाध्यक्षों (लार्ज लैंग्वेज मॉडल्स, या LLMs) को न्यायाधीशों, पुलिस अधिकारियों और राजनेताओं को कठिन निर्णय लेने में मदद करने के लिए प्रशिक्षित किया जा रहा है। उन्हें मानवाधिकारों का परम रक्षक होना चाहिए, जैसे कि मानवाधिकारों की सार्वभौमिक घोषणा (UDHR), जो मूल रूप से "इंसान होने का नियमकोश" है।
लेकिन बड़ा सवाल यह है: यदि आप इन पुस्तकालयाध्यक्षों से किसी काम को सफल बनाने के लिए कोई नियम तोड़ने को कहते हैं, तो क्या वे ऐसा करेंगे? और क्या इससे कोई फर्क पड़ता है कि आप उनसे किस भाषा में बात कर रहे हैं?
यह शोध पत्र इन डिजिटल पुस्तकालयाध्यक्षों के लिए एक विशाल, तनाव-परीक्षण (stress-test) परीक्षा की तरह है। शोधकर्ताओं ने 1,152 पेचीदा परिदृश्य बनाए (जैसे कि एक "चुनें अपना रोमांच" वाली किताब) जहाँ सरकार का कोई कार्य, जैसे कि सार्वजनिक सुरक्षा या महामारी को रोकने के लिए, किसी मानवाधिकार को सीमित करता है।
यहाँ उन्होंने क्या पाया, इसे कुछ सरल उपमाओं के साथ समझाया गया है:
1. "भाषा परिवर्तन" का आश्चर्य 🌍
कल्पना कीजिए कि आप एक पुस्तकालयाध्यक्ष से पूछते हैं, "क्या फर्जी खबरों को रोकने के लिए लोगों को ब्लॉगिंग करने से रोकना ठीक है?"
- यदि आप अंग्रेजी में पूछते हैं, तो पुस्तकालयाध्यक्ष कहता है: "नहीं! यह अभिव्यक्ति की स्वतंत्रता को ठेस पहुँचाता है!"
- यदि आप उसी पुस्तकालयाध्यक्ष से चीनी या हिंदी में पूछते हैं, तो वह कह सकता है: "वास्तव में, हाँ। यह व्यवस्था के लिए आवश्यक है।"
उपमा: यह एक ऐसे व्यक्ति की तरह है जो अंग्रेजी बोलते समय बहुत विनम्र और दृढ़ होता है, लेकिन दूसरी भाषा में बोलने पर अचानक नियमों के प्रति बहुत अधिक लचीला हो जाता है। अध्ययन में पाया गया कि ये AI मॉडल चीनी या हिंदी में बात करते समय अधिकारों का बलिदान करने के लिए बहुत अधिक तैयार (जैसे कि अभिव्यक्ति की स्वतंत्रता) होते हैं, अंग्रेजी या रोमानियाई की तुलना में। वे केवल उत्तर का "अनुवाद" नहीं कर रहे हैं; वे भाषा के आधार पर अपने मूल्यों को बदल रहे हैं।
2. "भारी बनाम हल्का" अधिकार पैमाना ⚖️
शोधकर्ताओं ने देखा कि पुस्तकालयाध्यक्ष विभिन्न अधिकारों के साथ अलग-अलग वजन की तरह व्यवहार करते हैं।
- राजनीतिक और नागरिक अधिकार (जैसे भाषण की स्वतंत्रता, निष्पक्ष सुनवाई और गोपनीयता) को सोने की ईंटों की तरह माना जाता है। पुस्तकालယာध्यक्ष इनके प्रति बहुत सुरक्षात्मक हैं। वे इन्हें सीमित करने के लिए शायद ही कभी "हाँ" कहते हैं।
- आर्थिक और सामाजिक अधिकार (जैसे शिक्षा, अवकाश या संपत्ति का अधिकार) को पंखों की तरह माना जाता है। पुस्तकालयाध्यक्ष यह कहने के लिए बहुत अधिक इच्छुक हैं कि, "ज़रूर, यदि यह अर्थव्यवस्था में मदद करता है तो हम आपके अवकाश के अधिकार या आपकी संपत्ति के अधिकारों को सीमित कर सकते हैं।"
उपमा: यह ऐसा है मानो AI सोचता है, "मैं आपकी बोलने की आज़ादी के लिए मरते दम तक लड़ूँगा, लेकिन अगर सरकार कहती है कि यह व्यापक भलाई के लिए है, तो मैं आपकी एक अच्छी छुट्टी मनाने के अधिकार या आपकी बचत को छीनने में बिल्कुल सहज हूँ।"
3. "आपातकालीन बटन" की घबराहट 🚨
अध्ययन में परीक्षण किया गया कि जब दुनिया में आग लगी हो तो पुस्तकालयाध्यक्ष कैसे प्रतिक्रिया देते हैं।
- सामान्य दिन: "नहीं, हम अधिकारों को सीमित नहीं कर सकते।"
- नागरिक अशांति (विरोध प्रदर्शन): "हम्म, शायद हम शांति बनाए रखने के लिए कुछ चीज़ों को सीमित कर सकते हैं।"
- प्राकृतिक आपदा (तूफान/भूकंप): "ठीक है, सब कुछ लॉक कर दो! हम जीवन बचाने के लिए तुरंत अधिकारों को निलंबित कर देंगे।"
उपमा: AI मॉडल एक ऐसे सुरक्षा गार्ड की तरह व्यवहार करते हैं जो मॉल शांत होने पर बहुत सख्त होता है, लेकिन जैसे ही आग का अलार्म बजता है (प्राकृतिक आपदा), वे नियमकोश खिड़की से बाहर फेंक देते हैं और दरवाजे बंद करना और लोगों को प्रतिबंधित करना शुरू कर देते हैं, भले ही यह थोड़ा चरम हो। वे ऐसा प्रतीत होते हैं जैसे वे सोचते हैं कि गुस्सैल भीड़ की तुलना में आपदाएं नियमों को तोड़ने के लिए बेहतर बहाना हैं।
4. "मुखौटा (Persona Mask)" का खेल 🎭
यह सबसे आश्चर्यजनक हिस्सा था। शोधकर्ताओं ने पुस्तकालयाध्यक्षों पर अलग-अलग "मुखौटे" (प्रॉम्प्ट्स) लगाए।
- मुखौटा A: "आप व्यक्तिगत स्वतंत्रता के चैंपियन हैं!"
- मुखौटा B: "आप सरकारी अधिकार के चैंपियन हैं!"
उपमा: यह एक व्यक्ति से पूछने जैसा है, "आप क्या सोचते हैं?"
- यदि आप उन्हें कहते हैं, "एक विद्रोही होने का नाटक करो," तो वे कहते हैं, "स्वतंत्रता ही सब कुछ है!"
- यदि आप उन्हें कहते हैं, "एक सख्त जनरल होने का नाटक करो," तो वे कहते हैं, "व्यवस्था ही सब कुछ है!"
अध्ययन में पाया गया कि इन AI मॉडलों को धोखा देना बेहद आसान है। केवल परिचय वाक्य बदलकर, शोधकर्ता AI को "मजबूत रूप से अस्वीकार करने" से "मजबूत रूप से समर्थन करने" की ओर झुका सकते थे। यह ऐसा है जैसे AI के पास मूल्यों का कोई ठोस केंद्र नहीं है; यह केवल उस व्यक्तित्व को प्रतिबिंबित करता है जिसे आप पहनने के लिए कहते हैं।
5. "पाठ बनाम चर्चा" का भ्रम 🗣️📝
अंत में, शोधकर्ताओं ने देखा कि पुस्तकालयाध्यक्ष इस बात पर अलग-अलग उत्तर देते हैं कि आप उनसे कैसे पूछते हैं।
- यदि आप उन्हें एक संख्या चुनने (1 से 5 तक) के लिए कहते हैं, तो वे एक उत्तर देते हैं।
- यदि आप उन्हें अपने चुनाव को समझाने के लिए एक अनुच्छेद लिखने के लिए कहते हैं, तो वे अक्सर पूरी तरह से अलग उत्तर देते हैं।
उपमा: यह एक छात्र से पूछने जैसा है, "यदि आप सहमत हैं तो हाथ उठाएं।" वे हाथ उठाते हैं। लेकिन फिर आप उनसे पूछते हैं, "क्यों आप सहमत हैं, इस पर एक निबंध लिखें," और वे एक अनुच्छेद लिखते हैं कि वे वास्तव में असहमत हैं। यह सुझाव देता है कि AI के "विचार" नाजुक हैं और पूरी तरह से प्रश्न के प्रारूप पर निर्भर करते हैं।
मुख्य निष्कर्ष 🏁
यह शोध पत्र भविष्य के लिए एक चेतावनी लेबल है। जैसे-जैसे हम कानून बनाने, शरण के मामलों के निर्णय लेने या सोशल मीडिया को नियंत्रित करने में मदद करने के लिए AI का उपयोग करना शुरू कर रहे हैं, हम यह मानकर नहीं चल सकते कि AI के पास एक सुसंगत नैतिक दिशा-निर्देश है।
- यह इस आधार पर अपना मन बदल लेता है कि आप कौन सी भाषा बोल रहे हैं।
- यह कुछ अधिकारों की तुलना में अन्य अधिकारों को अधिक महत्व देता है।
- यह आपात स्थिति के दौरान घबरा जाता है।
- इसे इस बात से आसानी से हेरफेर किया जा सकता है कि आप प्रश्न कैसे पूछते हैं।
सार: हम केवल इन डिजिटल पुस्तकालयाध्यक्षों पर नियमकोश थामे रखने के लिए भरोसा नहीं कर सकते। हमें उनके काम की लगातार जांच करनी होगी, हर भाषा में, और यह सुनिश्चित करना होगा कि वे केवल उस नवीनतम ट्रिक का पालन नहीं कर रहे हैं जो हमने उन्हें सिखाई है जबकि वे वास्तव में स्मार्ट होने का ढोंग कर रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।