The Political Ideology of Large Language Models: Measurement, Inconsistency, and Persuasive Influence
इस विचार को चुनौती देते हुए कि लार्ज लैंग्वेज मॉडल्स (LLMs) में केवल मामूली राजनीतिक पूर्वाग्रह होते हैं, यह अध्ययन प्रदर्शित करता है कि हालांकि विशिष्ट विषयों पर पक्षपाती रुख के एक-दूसरे को संतुलित करने के कारण उनकी समग्र स्थिति मध्यम दिखाई देती है, फिर भी वे उपयोगकर्ताओं के राजनीतिक दृष्टिकोणों पर पेशेवर चुनावी विज्ञापन के तुलनीय प्रभावशाली प्रभाव डाल सकते हैं, विशेष रूप से तब जब उनके उत्तरों को स्पष्ट रूप से निर्देशित किया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक राजनीति के परिदृश्य में, किसी व्यक्ति की विचारधारा शायद ही कभी विश्वास का एक एकल, ठोस ब्लॉक होती है। इसके बजाय, यह कई अलग-अलग मुद्दों पर विचारों का एक संग्रह है, जैसे कि स्वास्थ्य सेवा से लेकर आव्रजन तक, जो कभी-कभी विपरीत दिशाओं में खींच सकते हैं। राजनीतिक वैज्ञानिकों ने लंबे समय से यह समझा है कि अधिकांश लोग पूरी तरह से सुसंगत विचार नहीं रखते हैं; एक मतदाता एक विषय पर बहुत उदार और दूसरे पर बहुत रूढ़िवादी हो सकता है, या वे बस बिना किसी मजबूत राय के भी हो सकते हैं। दशकों से, शोधकर्ता इन स्थितियों को यह पूछकर मापते रहे हैं कि लोग कानूनों पर कैसे मतदान करेंगे या वे विशिष्ट नीतियों के बारे में कैसा महसूस करते हैं, जिससे एक मानचित्र तैयार होता है कि व्यक्ति कहाँ खड़ा है। अब, एक नया प्रश्न उभरा है क्योंकि आर्टिफिशियल इंटेलिजेंस लाखों लोगों के लिए एक दैनिक उपकरण बन गया है: क्या उन बड़े भाषा मॉडलों (large language models) का अपना राजनीतिक मानचित्र है जिनसे हम रोज़ बात करते हैं? यदि ये मॉडल, जिनका उपयोग जानकारी खोजने और राय बनाने के लिए तेजी से किया जा रहा है, छिपे हुए पूर्वाग्रह रखते हैं, तो वे सूक्ष्म रूप से इस तरह से लोगों के विश्व दृष्टिकोण को आकार दे सकते हैं कि किसी को पता भी न चले।
शोधकर्ताओं की एक टीम ने आर्टिफिशियल इंटेलिजेंस को एक तटस्थ कैलकुलेटर के बजाय एक राजनीतिक अभिनेता के रूप में मानकर इसका उत्तर देने का प्रयास किया। उन्होंने चालीस-तीन अलग-अलग बड़े भाषा मॉडलों की जांच की, प्रत्येक को अमेरिकी कांग्रेस के सदस्य, सुप्रीम कोर्ट के न्यायाधीश, या एक सामान्य मतदाता के रूप में कार्य करने के लिए कहा। उन्होंने मॉडलों से केवल अपने विश्वास बताने के लिए नहीं कहा; इसके बजाय, उन्होंने मॉडलों से वास्तविक दुनिया के बिलों, अदालती मामलों और सर्वेक्षण प्रश्नों पर निर्णय लेने के लिए कहा, ठीक वैसे ही जैसे एक इंसान करता है। शोधकर्ताओं ने फिर इन डिजिटल निर्णयों की तुलना वास्तविक राजनेताओं के वास्तविक मतदान रिकॉर्ड और हजारों वास्तविक अमेरिकियों के सर्वेक्षण उत्तरों से की। उन्होंने पाया कि ये मॉडल एक शांत, तटस्थ मध्य मार्ग पर नहीं बैठते हैं। इसके बजाय, वे विचारों का एक जटिल और अक्सर विरोधाभासी मिश्रण प्रदर्शित करते हैं। कुछ मुद्दों पर, एक एकल मॉडल सबसे कट्टर डेमोक्रेट्स से अधिक उदार रुख अपना सकता है, जबकि अन्य मुद्दों पर, वही मॉडल सबसे कट्टर रिपब्लिकन्स से अधिक रूढ़िवादी रुख अपना सकता है। जब आप इन सभी विचारों को औसत निकालते हैं, तो मॉडल अक्सर मध्यम दिखाई देते हैं, लेकिन यह एक भ्रम है जो मजबूत, विपरीत विचारों के रद्द होने से पैदा होता है, बिल्कुल एक वास्तविक मतदाता की तरह जो विरोधी विचारों का मिश्रण रखता है।
अध्ययन ने यह भी देखा कि ये विचार कहाँ से आते हैं। शोधकर्ताओं ने पाया कि इन मॉडलों के राजनीतिक झुकाव केवल उस विशाल पाठ का प्रतिबिंब नहीं हैं जिस पर उन्हें प्रशिक्षित किया गया था। इसके बजाय, मॉडलों पर लागू विशिष्ट निर्देश और सुरक्षा फिल्टर—जो उन्हें सहायक और हानिरहित बनाने के लिए डिज़ाइन किए गए हैं—ही उन्हें कुछ राजनीतिक पक्षों की ओर धकेलते हैं। वास्तव में, जब शोधकर्ताओं ने इन अंतिम समायोजनों से पहले के "कच्चे" (raw) संस्करणों का परीक्षण किया, तो मॉडल राजनीतिक केंद्र के बहुत करीब थे। यह अंतिम ट्यूनिंग ही है जो उन्हें एक विशिष्ट, और अक्सर उदार-झुकाव वाला, राजनीतिक हस्ताक्षर देती है। यह हस्ताक्षर केवल विचारों की एक स्थिर सूची नहीं है; यह इस पर निर्भर करता है कि मॉडल को कैसे पूछा जाता है। जब उन्हें एक मतदाता, एक न्यायाधीश, या एक विधायक के रूप में कार्य करने के लिए प्रेरित किया जाता है, तो मॉडल विचारों के अलग-अलग सेट व्यक्त करते हैं, जो यह दर्शाता है कि उनकी "विचारधारा" एक व्यवहार है जिसे वे एक प्रॉम्प्ट (prompt) के जवाब में प्रदर्शित करते हैं, न कि एक गहरी-जड़ जमा विश्वास प्रणाली।
हालाँकि, शोध का सबसे महत्वपूर्ण हिस्सा यह देखना था कि क्या ये डिजिटल विचार वास्तव में वास्तविक लोगों का मन बदल सकते हैं। शोधकर्ताओं ने एक बड़ा प्रयोग किया जहाँ हजारों अमेरिकी प्रतिभागियों ने नीतिगत मुद्दों पर इन मॉडलों के साथ चर्चा की। उन्होंने दो अलग-अलग परिदृश्यों का परीक्षण किया। पहले में, मॉडलों को स्वाभाविक रूप से बात करने की अनुमति दी गई, जिसमें वे किसी विशिष्ट पक्ष के लिए तर्क देने के निर्देश के बिना प्रश्नों के उत्तर देते हैं। दूसरे में, मॉडलों को स्पष्ट रूप से एक विशिष्ट दृष्टिकोण के लिए तर्क देने का निर्देश दिया गया, जैसे कि एक नए बंदूक नियंत्रण कानून का समर्थन करना या कर वृद्धि का विरोध करना। परिणाम चौंकाने वाले थे। जब मॉडलों ने स्वाभाविक रूप से बात की, तो उनका प्रतिभागियों की राय पर कोई मापने योग्य प्रभाव नहीं पड़ा। जो लोग उनसे बात कर रहे थे, उनकी राय किसी विशेष दिशा में नहीं बदली। हालाँकि, जब मॉडलों को एक पक्ष के लिए तर्क देने के लिए कहा गया, तो वे शक्तिशाली प्रेरक बन गए। प्रतिभागियों, जिन्होंने एक मॉडल के साथ बात की जिसे एक विशिष्ट नीति के लिए तर्क देने का निर्देश दिया गया था, ने अपने विचारों को उस मॉडल के अनुरूप औसतन दस प्रतिशत से अधिक बदल लिया। यह प्रभाव इतना मजबूत था कि यह पेशेवर राजनीतिक अभियान विज्ञापनों के प्रभाव के बराबर था, और कुछ मामलों में उससे भी अधिक था।
महत्वपूर्ण रूप से, अध्ययन ने पाया कि यह समझाने की शक्ति व्यक्ति की पृष्ठभूमि पर निर्भर नहीं थी। इससे कोई फर्क नहीं पड़ता था कि प्रतिभागी उच्च शिक्षित था, समाचारों का बारीकी से अनुसरण करता था, या आर्टिफिशियल इंटेलिजेंस से बहुत परिचित था; यह प्रभाव सभी पर समान रूप से प्रभावी था। हालाँकि, प्रतिभागी की अपनी पार्टी के सापेक्ष तर्क की दिशा ने एक आश्चर्यजनक तरीके से प्रभाव डाला। शोधकर्ताओं ने पाया कि प्रतिभागी तब अपने विचार बदलने की कम संभावना रखते थे जब मॉडल उनकी अपनी राजनीतिक पार्टी के विरुद्ध तर्क देता था, और तब अधिक संभावना रखते थे जब मॉडल उनकी पार्टी के अनुरूप तर्क देता था। शोधकर्ताओं ने इस विचार को भी खारिज कर दिया कि मॉडल केवल उपयोगकर्ता की मौजूदा सोच से सहमत हो रहे थे। क्योंकि मॉडलों को बातचीत शुरू होने से पहले ही एक विशिष्ट पक्ष के लिए तर्क देने का निर्देश दिया गया था, और क्योंकि उपयोगकर्ताओं ने मॉडलों को अपने विचार पहले नहीं बताए थे, इसलिए मॉडल उपयोगकर्ता की नकल नहीं कर रहे थे। इसके बजाय, वे वास्तव में बातचीत को प्रभावित कर रहे थे।
निष्कर्ष बताते हैं कि हालांकि ये आर्टिफिशियल इंटेलिजेंस उपकरण अपने आप में छोड़े जाने पर सूचना के तटस्थ स्रोत लग सकते हैं, लेकिन उनमें निर्देशित होने पर राजनीतिक राय को आकार देने की एक छिपी हुई क्षमता है। शोधकर्ता इस बात पर जोर देते हैं कि यह प्रभाव इस कारण से नहीं है कि मॉडलों के पास अपनी कोई आत्मा या राजनीतिक एजेंडा है, बल्कि यह इस बात का परिणाम है कि उन्हें कैसे बनाया और निर्देशित किया गया है। यदि कोई सरकार या निगम जनमत को प्रभावित करना चाहता है, तो उन्हें प्रचार मशीन बनाने की आवश्यकता नहीं है; उन्हें बस उन मॉडलों को दिए जाने वाले निर्देशों को समायोजित करने की आवश्यकता है जिनका उपयोग लाखों लोग पहले से ही कर रहे हैं। अध्ययन निष्कर्ष निकालता है कि जैसे-जैसे ये उपकरण खोज इंजन से लेकर व्यक्तिगत सहायकों तक, हमारे दैनिक जीवन में गहराई से समाहित होते जा रहे हैं, उनके ट्यूनिंग का तरीका इस बात के लिए गहरे परिणाम होंगे कि हम दुनिया को कैसे समझते हैं और हम कैसे मतदान करते हैं। किसी व्यक्ति का मन बदलने की शक्ति अब केवल मानव वक्ताओं तक सीमित नहीं है; इसे उस सॉफ़्टवेयर में कोडित किया जा सकता है जिससे हम रोज़ बात करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।