Analysing LLM Persona Generation and Fairness Interpretation in Polarised Geopolitical Contexts
यह शोध पत्र विश्लेषण करता है कि कैसे पांच बड़े भाषा मॉडल विभिन्न भू-राजनीतिक संदर्भों में फिलिस्तीनी और इजरायली व्यक्तित्व (पेर्सोना) उत्पन्न करते हैं, जो यह प्रकट करता है कि जबकि मॉडल अपने तर्क में निष्पक्षता की अवधारणाओं को शामिल करने का प्रयास करते हैं, वे अक्सर सामाजिक-आर्थिक रूढ़ियों को बनाए रखते हैं और अपने अंतिम आउटपुट में असंगत समायोजन प्रदर्शित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास पाँच अलग-अलग "डिजिटल कहानीकार" (GPT-4, Llama और Gemini जैसे AI मॉडल) हैं। आप उनसे एक कहानी के लिए एक पात्र (character) बनाने के लिए कहते हैं, लेकिन एक ट्विस्ट के साथ: आप उन्हें फिलिस्तीन या इजराइल में रहने वाले एक विशिष्ट व्यक्ति की कल्पना करने के लिए कहते हैं।
इस शोध के शोधकर्ताओं ने जासूसों की तरह काम किया, उन्होंने इन AI कहानीकारों से 640 अलग-अलग पात्र बनाने को कहा ताकि वे देख सकें कि वे किस तरह की कहानियाँ सुनाते हैं। वे यह जानना चाहते थे कि: क्या ये AI इन दोनों समूहों के साथ निष्पक्ष व्यवहार करते हैं, या उनके भीतर कोई छिपा हुआ पूर्वाग्रह (bias) है?
यहाँ उनके निष्कर्षों का विवरण दिया गया, जिसे रोजमर्रा के उदाहरणों के माध्यम से समझाया गया है:
1. "युद्ध क्षेत्र" (War Zone) का फिल्टर
शोधकर्ताओं ने AI से दो परिदृश्यों में पात्र बनाने के लिए कहा: एक जहाँ कोई युद्ध नहीं है, और एक जहाँ सक्रिय युद्ध चल रहा है।
- फिलिस्तीनी पात्र: जब "युद्ध" का स्विच चालू किया गया, तो AI ने तुरंत फिलिस्तीनी पात्रों को बदल दिया। वे अधिक गरीब हो गए, उन्होंने खतरनाक या अस्तित्व बचाने वाले काम (जैसे कबाड़ इकट्ठा करना या पानी ढोना) अपना लिए, और वे थके हुए, घायल या बदहाल दिखने लगे। ऐसा लगा जैसे AI सोच रहा हो, "ओह, युद्ध? तो इस व्यक्ति को जीवित रहने के लिए संघर्ष करना ही होगा।"
- इजरायली पात्र: जब इजरायली पात्रों के लिए "युद्ध" का स्विच चालू किया गया, तो AI ने कोई खास फर्क नहीं देखा। ये पात्र ज्यादातर मध्यम वर्ग के बने रहे, अपनी पेशेवर नौकरियों (जैसे सॉफ्टवेयर इंजीनियर या वकील) में लगे रहे, और शांतिपूर्ण परिदृश्य की तुलना में बहुत अधिक नहीं बदले।
रूपक (Metaphor): कल्पना कीजिए कि दो अभिनेता किसी संघर्ष के बारे में फिल्म के लिए ऑडिशन दे रहे हैं।
- फिलिस्तीनी की भूमिका निभाने वाले अभिनेता को एक फटा हुआ कोट, एक टूटा हुआ जूता थमाया जाता है और उसे भूखा और डरा हुआ दिखने के लिए कहा जाता है।
- इजरायली की भूमिका निभाने वाले अभिनेता को एक अच्छा सूट, एक ब्रीफकेस थमाया जाता है और उसे पेशेवर दिखने के लिए कहा जाता है, भले ही स्क्रिप्ट में "युद्ध क्षेत्र" लिखा हो।
AI अनिवार्य रूप से एक ही संघर्ष के लिए दो अलग-अलग फिल्में लिख रहा है।
2. "सुरक्षा निर्देश" की गड़बड़ी (The "Safety Instruction" Glitch)
इसके बाद शोधकर्ताओं ने इसे ठीक करने की कोशिश की। उन्होंने AI को एक "शिक्षक की टिप्पणी" (प्रॉम्प्ट) दी: "कृपया सावधान रहें! रूढ़ियों (stereotypes) का उपयोग न करें। निष्पक्ष रहें और हानिकारक धारणाओं से बचें।"
आप उम्मीद करेंगे कि AI अचानक एक संतुलित, निष्पक्ष तस्वीर पेश करेगा। इसके बजाय, AI भ्रमित हो गया और उसने पेंडुलम को एक अलग, अजीब दिशा में झुका दिया:
- लिंग संबंधी बदलाव (Gender Swings): AI अचानक यह अनुमान लगाने लगा कि लगभग हर कोई महिला या नॉन-बाइनरी है, जिससे कहानी से पुरुष लगभग गायब हो गए। यह ऐसा था जैसे एक शिक्षक कहे, "लिंग का अनुमान न लगाएं," और छात्र प्रतिक्रिया में सभी को लड़की बना दे।
- "छात्र" का सुरक्षा कवच: AI ने लगभग सभी को छात्र बनाना शुरू कर दिया। क्यों? क्योंकि "छात्र" शब्द सुरक्षित और तटस्थ महसूस होता है। यह AI का एक तरीका है यह कहने का कि, "मैं निष्पक्ष होने की कोशिश कर रहा हूँ!" बिना पात्रों को वास्तव में विविध नौकरियों या पृष्ठभूमि के दिए।
- छिपा हुआ पूर्वाग्रह: भले ही AI ने कहा, "मैं निष्पक्ष हूँ," लेकिन फिलिस्तीनी पात्रों को अक्सर गरीब या संघर्षरत दिखाया गया, जबकि इजरायली पात्र पेशेवर बने रहे। "निष्पक्षता" के निर्देश ने सतही विवरणों (लिंग, नौकरी का शीर्षक) को तो बदल दिया, लेकिन दोनों समूहों के चित्रण में मौजूद गहरे असमानता को ठीक नहीं किया।
रूपक: यह एक ऐसे शेफ की तरह है जिसे कहा गया, "बहुत अधिक नमक न डालें।" संतुलन बनाने के बजाय, शेफ अचानक सूप में केवल चीनी डाल देता है। अब सूप "नमक रहित" है, लेकिन यह अभी भी सही व्यंजन नहीं है। AI ने "निष्पक्ष" होने के लिए गलत चीजों को बदलकर कोशिश की।
3. "आंतरिक संवाद" बनाम "अंतिम भाषण"
सबसे दिलचस्प हिस्सा AI की "सोचने की प्रक्रिया" (reasoning traces) को देखना था, जो उसके द्वारा अंतिम पात्र विवरण लिखने से पहले की प्रक्रिया थी।
- आंतरिक संवाद (The Inner Monologue): जब AI सोच रहा था, तो वह बहुत जिम्मेदार लग रहा था। वह कहता था, "मुझे सावधान रहना चाहिए कि मैं पक्षपाती न बनूँ," या "मुझे रूढ़ियों से बचना चाहिए।" यह एक बहुत ही निष्पक्ष, नैतिक व्यक्ति की तरह लग रहा था।
- अंतिम भाषण (The Final Speech): लेकिन जैसे ही उसने वास्तव में पात्र का विवरण लिखना शुरू किया, उसने अपने ही अच्छे इरादों को अनदेखा कर दिया और पुराने रूढ़िवादी विचारों पर वापस चला गया (फिलिस्तीनी = गरीब/उत्तरजीवी; इजरायली = पेशेवर)।
रूपक: कल्पना कीजिए कि एक व्यक्ति समानता पर भाषण दे रहा है। अपने नोट्स (तर्क) में, वह लिखता है, "मैं सभी के साथ बिल्कुल समान व्यवहार करूँगा।" लेकिन जैसे ही वह खड़ा होता है और बोलता है (जनरेशन), वह अनजाने में एक समूह के साथ शाही और दूसरे के साथ सेवक जैसा व्यवहार करता है। शोध ने पाया कि AI के "नोट्स" ईमानदार थे, लेकिन उसका "भाषण" अभी भी पक्षपाती था।
मुख्य निष्कर्ष (The Big Takeaway)
यह शोध दिखाता है कि लार्ज लैंग्वेज मॉडल्स (LLMs) केवल वास्तविकता को प्रतिबिंबित करने वाले दर्पण नहीं हैं; वे अपने स्वयं के पूर्वाग्रहों वाले सक्रिय कहानीकार भी हैं।
जब ये AI भू-राजनीतिक संघर्षों के बारे में बात करते हैं, तो वे केवल तथ्यों की रिपोर्ट नहीं करते। वे "निष्पक्षता" की व्याख्या एक अजीब, असंगत तरीके से करते हैं। वे निष्पक्ष दिखने के लिए लिंग या नौकरी का शीर्षक बदल सकते हैं, लेकिन वे अक्सर विभिन्न समूहों के बारे में अपनी गहरी, संरचनात्मक असमानता को ठीक करने में विफल रहते हैं।
संक्षेप में: यदि आप AI से युद्ध के बारे में कहानी बताने के लिए कहते हैं, तो वह आपको एक ऐसी कहानी दे सकता है जहाँ एक पक्ष पीड़ित है और दूसरा पेशेवर है, चाहे आप उसे कितनी भी बार "निष्पक्ष होने" के लिए क्यों न कहें। AI को यह सीखने की आवश्यकता है कि सच्ची निष्पक्षता केवल कुछ शब्दों को बदलने के बारे में नहीं है; यह पूरी तस्वीर को बदलने के बारे में है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।