Political Plasticity: An Analysis of Ideological Adaptability in Large Language Models
यह अध्ययन "राजनीतिक प्लास्टिसिटी" (political plasticity) की अवधारणा को प्रस्तुत करता है ताकि यह प्रदर्शित किया जा सके कि जबकि सिस्टम प्रॉम्प्ट काफी हद तक अप्रभावी होते हैं, उपयोगकर्ता प्रॉम्प्ट नए लार्ज लैंग्वेज मॉडल्स में, विशेष रूप से आर्थिक स्वतंत्रता के अक्षों पर, महत्वपूर्ण वैचारिक बदलाव सफलतापूर्वक प्रेरित कर सकते हैं, हालांकि सत्यापन प्रयोग डेटा लीकेज और विभिन्न भाषाओं में उल्लेखनीय विविधताओं को प्रकट करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: क्या AI ईंट है या मिट्टी?
कल्पना कीजिए कि आपके पास पत्थर का एक टुकड़ा है और गीली मिट्टी का एक ढेला है। यदि आप पत्थर पर नया आकार उकेरने की कोशिश करते हैं, तो वह मुश्किल से बदलता है; वह कठोर है। लेकिन यदि आप गीली मिट्टी में अपना अंगूठा दबाते हैं, तो वह आपके हाथ के अनुसार आसानी से ढल जाती है।
यह शोध पत्र एक सरल प्रश्न पूछता है: क्या लार्ज लैंग्वेज मॉडल्स (LLMs) पत्थर की तरह हैं, या वे मिट्टी की तरह हैं?
विशेष रूप से, लेखक "राजनीतिक प्लास्टिसिटी" (political plasticity) की जांच कर रहे हैं। यह पूछने का एक जटिल तरीका है: यदि मैं एक AI को रूढ़िवादी (conservative) या उदारवादी (liberal) की तरह व्यवहार करने के लिए कहता हूँ, तो क्या वह वास्तव में उस भूमिका से मेल खाने के लिए अपने उत्तर बदलेगा, या वह अपनी छिपी हुई मान्यताओं पर अड़ा रहेगा?
प्रयोग: "हाँ/नहीं" परीक्षण
इसका परीक्षण करने के लिए, शोधकर्ताओं ने केवल AI से यह नहीं पूछा, "क्या आप बाएं या दाएं हैं?" इसके बजाय, उन्होंने 200 प्रश्नों वाला एक विशाल प्रश्नावली तैयार की।
इन प्रश्नों को एक पैमाने (रूलर) के रूप में समझें जिसके दो पक्ष हैं:
- आर्थिक स्वतंत्रता (Economic Freedom): कर (taxes), व्यवसाय और धन के बारे में प्रश्न।
- व्यक्तिगत स्वतंत्रता (Personal Freedom): शरीर की स्वायत्तता, अभिव्यक्ति की स्वतंत्रता और जीवनशैली के बारे में प्रश्न।
AI को इन प्रश्नों के उत्तर में "हाँ" या "नहीं" देना था। शोधकर्ताओं ने उत्तरों के आधार पर एक "स्वतंत्रता स्कोर" (Freedom Score) की गणना की।
तीन तरीके जिनसे उन्होंने AI को "ढालने" की कोशिश की
टीम ने तीन अलग-अलग तरीकों से यह देखने की कोशिश की कि क्या वे AI के उत्तरों को मोड़ सकते हैं।
1. "सिस्टम प्रॉम्प्ट" (बॉस का आदेश)
- उपमा: कल्पना कीजिए कि एक वेटर को मैनेजर द्वारा कहा जाता है, "आज, तुम्हें एक चिड़चिड़े बूढ़े आदमी की तरह व्यवहार करना है।"
- परीक्षण: शोधकर्ताओं ने AI को एक गुप्त निर्देश (सिçon prompt) दिया, जैसे, "आप एक वामपंथी (Left-wing) सलाहकार हैं" या "आप एक दक्षिणपंथी (Right-wing) सलाहकार हैं।"
- परिणाम: यह पत्थर को ढालने की कोशिश करने जैसा था। अधिकांश AI मॉडल लगभग अपरिवर्तित रहे। उन्होंने बॉस के आदेश को अनदेखा कर दिया और ज्यादातर एक ही तरह से उत्तर देते रहे। केवल कुछ विशिष्ट मॉडल (जैसे नवीनतम GPT-5 संस्करण) ने ही यहाँ कुछ लचीलापन दिखाया।
2. "विषय सूची" (विस्तृत स्क्रिप्ट)
- उपमा: मैनेजर वेटर को एक 10 पन्नों की स्क्रिप्ट देता है जिसमें वैक्सीन, आव्रजन (immigration) और करों के बारे में ठीक से क्या कहना है, इसकी सूची होती है।
- परीक्षण: केवल "बाएं" कहने के बजाय, उन्होंने AI को विशिष्ट राजनीतिक रुखों की एक सूची दी (जैसे, "आप वैक्सीन अनिवार्य करने का समर्थन करते हैं")।
- परिणाम: फिर भी, पत्थर ज्यादा नहीं मुड़ा। जब ये निर्देश "सिस्टम" की ओर से आए, तो AI ने इन्हें ज्यादातर अनदेखा कर दिया।
3. "यूजर प्रॉम्प्ट" (बातचीत का साथी)
- उपमा: इस बार, ग्राहक (उपयोगकर्ता) बैठता है और कहता है, "हे, चलो मान लेते हैं कि हम दोनों वामपंथी हैं। यहाँ कुछ उदाहरण दिए गए हैं कि वामपंथी कैसे बात करते हैं..."
- परीक्षण: शोधकर्ताओं ने गुप्त निर्देशों का उपयोग नहीं किया। इसके बजाय, उन्होंने चैट बॉक्स का उपयोग किया। उन्होंने AI को कुछ उदाहरण दिए जो एक विशिष्ट राजनीतिक झुकाव दिखाते थे, और फिर वास्तविक प्रश्न पूछे।
- परिणाम: यह जादू की तरह काम कर गया। जब पूर्वाग्रह उपयोगकर्ता की बातचीत में था, तो AI ने अपने उत्तरों को महत्वपूर्ण रूप से बदल लिया। वे उस राजनीतिक पक्ष की तरह व्यवहार करने लगे जिसका उपयोगकर्ता नाटक कर रहा था। यह नए, अधिक स्मार्ट मॉडल्स के साथ विशेष रूप से सच हुआ।
ट्विस्ट: "उल्टा" परीक्षण
यहाँ चीजें अजीब हो गईं। शोधकर्ताओं ने प्रश्नों को उल्टा करने का निर्णय लिया।
- उपमा: कल्पना कीजिए कि पूछना, "क्या आकाश नीला है?" बनाम "क्या आकाश नीला नहीं है?"
- परीक्षण: उन्होंने वही प्रश्न लिए लेकिन उन्हें इस तरह से लिखा कि "हाँ" का उत्तर अब विपरीत राजनीतिक दृष्टिकोण का अर्थ दे।
- परिणाम: अधिकांश पुराने या छोटे AI भ्रमित हो गए। जब "उल्टे" प्रश्नों को पूछा गया, तो उन्होंने केवल अपने उत्तरों को पलटा नहीं; वे गलत दिशा में तेजी से भटक गए। ऐसा लग रहा था जैसे वे "सहायक" या "सहमत" होने की इतनी कोशिश कर रहे थे कि उन्होंने अनजाने में वह कह दिया जो वे कहना चाहते थे उसका ठीक उल्टा।
- अपवाद: नवीनतम, सबसे उन्नत मॉडल (GPT-5 और Gemma) उल्टे प्रश्नों को सही ढंग से संभालने में सक्षम थे। वे भ्रमित नहीं हुए; वे सुसंगत रहे।
भाषा परीक्षण
शोधकर्ताओं ने इसे छह अलग-अलग भाषाओं (अंग्रेजी, स्पेनिश, फ्रेंच, आदि) में भी आजमाया।
- निष्कर्ष: AI हर भाषा में थोड़ा अलग था। एक मॉडल अंग्रेजी में बहुत लचीला हो सकता है, लेकिन स्पेनिश में थोड़ा कठोर हो सकता है। यह ऐसा है जैसे अलग-अलग भाषा बोलने के आधार पर मिट्टी की बनावट (texture) बदल जाती है।
मुख्य निष्कर्ष
- पुराने/छोटे मॉडल कठोर होते हैं: छोटे या पुराने AI मॉडल कठोर पत्थर की तरह हैं। आप उन्हें कैसे भी प्रेरित करें, वे अपने राजनीतिक विचार नहीं बदलते। उनके उत्तर अक्सर अस्थिर या अप्रत्याशित होते हैं।
- नए/स्मार्ट मॉडल लचीले होते हैं: नवीनतम, बड़े मॉडल गीली मिट्टी की तरह हैं। यदि आप उनसे एक निश्चित तरीके से बात करते हैं (यूजर चैट का उपयोग करके, न कि गुप्त निर्देशों का), तो वे खुशी-खुशी अपने उत्तरों को आपके राजनीतिक "वाइब" (vibe) से मिला लेंगे।
- "हाँ/नहीं" का जाल: यदि आप प्रश्न पूछने के तरीके के प्रति सावधान नहीं हैं, तो AI केवल परीक्षण के पैटर्न का अनुमान लगा सकता है, बजाय इसके कि उसका वास्तव में कोई मत हो। इसे "डेटा लीकेज" (data leakage) कहा जाता है—AI ने ये सटीक प्रश्न पहले देख लिए होंगे और बस उत्तर याद कर लिए होंगे।
- विश्वास के मुद्दे: क्योंकि ये मॉडल बातचीत करने वाले के आधार पर अपने उत्तर आसानी से बदल सकते हैं, इसलिए आप यह मान नहीं सकते कि वे "तटस्थ" हैं। यदि आप एक तरीके से प्रश्न पूछते हैं, तो आपको एक उत्तर मिलता है; दूसरे तरीके से पूछें, और आपको बिल्कुल विपरीत मिल सकता है।
सारांश
शोध पत्र निष्कर्ष निकालता है कि AI एक तटस्थ न्यायाधीश नहीं है। यह एक गिरगिट (chameleon) है। कुछ गिरगिट (पुराने मॉडल) एक ही रंग में फंसे हुए हैं, जबकि अन्य (नए मॉडल) आपकी बातचीत के आधार पर वही रंग अपना लेंगे जो आप चाहते हैं। इसका मतलब है कि हमें संवेदनशील राजनीतिक विषयों के साथ AI पर भरोसा करने में बहुत सावधान रहना चाहिए, क्योंकि इसकी "राय" केवल इस बात का प्रतिबिंब हो सकती है कि हमने प्रश्न कैसे पूछा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।