Algorithmic Thermostat: LLMs Standardize Political Expression Without Shaping Semantic Stances
यह शोध पत्र एक "एल्गोरिद्मिक थर्मोस्टेट" ढांचे का प्रस्ताव करता है यह प्रदर्शित करने के लिए कि जबकि उच्च-संवेदनशीलता वाले विषयों को लक्षित करने वाले संरेखण तंत्रों के कारण विभिन्न संस्करणों में उनके स्पष्ट राजनीतिक रुख में चक्रीय उतार-चढ़ाव दिखाई देते हैं, उनकी अंतर्निहित अर्थ संबंधी स्थिति अपेक्षाकृत स्थिर रहती है, जो यह संकेत देती है कि अपडेट राजनीतिक विचारधाराओं को मौलिक रूप से नया आकार देने के बजाय अभिव्यक्ति को मानकीकृत करते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
डिजिटल युग में, हम दुनिया को समझने के लिए तेजी से आर्टिफिशियल इंटेलिजेंस की ओर मुड़ रहे हैं, और इन प्रणालियों से राजनीति, अर्थशास्त्र और सामाजिक मुद्दों पर उनकी राय मांग रहे हैं। ये बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) तटस्थ मशीनें नहीं हैं; इन्हें मानव लेखन की विशाल मात्रा पर प्रशिक्षित किया गया है, जिसमें अनिवार्य रूप से हमारे अपने पूर्वाग्रह, तर्क और सांस्कृतिक मूल्य शामिल हैं। वर्षों से, शोधकर्ता इन मॉडलों के विकास को देखते रहे हैं, यह सोचते हुए कि क्या वे धीरे-धीरे एक एकल राजनीतिक दृष्टिकोण की ओर बढ़ रहे हैं या उनका आंतरिक दिशा-सूचक (कंपस) अधिक जटिल तरीकों से बदल रहा है। केंद्रीय प्रश्न यह रहा है कि क्या ये परिवर्तन एक दिशा में निरंतर मार्च हैं या सुधारों की एक श्रृंखला है, जहाँ सिस्टम तब तक आगे-पीछे झूलता रहता है जब तक कि डेवलपर्स इसे सामाजिक रूप से स्वीकार्य सीमाओं के भीतर रखने का प्रयास करते हैं। इसे समझना महत्वपूर्ण है क्योंकि यदि ये उपकरण सत्य पर टिकने के बजाय फीडबैक के आधार पर लगातार अपने रुख को पुनर्गठित (recalibrate) कर रहे हैं, तो यह उस जानकारी के प्रति हमारे विश्वास को बदल देता है जिसे वे प्रदान करते हैं।
एक शोधकर्ता ने आर्टिफिशियल इंटेलिजेंस को एक स्थिर इकाई के रूप में नहीं, बल्कि एक गतिशील प्रणाली के रूप में देखते हुए, इस यात्रा को मैप करने का प्रयास किया जो दबाव के प्रति प्रतिक्रिया करती है। उन्होंने दो वर्षों के अंतराल में जारी किए गए एक लोकप्रिय एआई मॉडल के चार अलग-अलग संस्करणों का परीक्षण किया, ताकि यह देखा जा सके कि एक अपडेट से दूसरे अपडेट तक इसकी राजनीतिक राय कैसे बदली। केवल मॉडल से सरल हाँ या ना वाले प्रश्न पूछने के बजाय, उन्होंने साठ-दो राजनीतिक प्रश्नों का एक व्यापक सेट उपयोग किया, जिसमें आर्थिक निष्पक्षता से लेकर सांस्कृतिक मूल्यों तक सब कुछ शामिल था। उन्होंने मॉडल का परीक्षण दो अलग-अलग तरीकों से किया: पहला, उसे 'दृढ़ता से सहमत' से 'दृढ़ता से असहमत' के पैमाने पर एक पक्ष चुनने के लिए मजबूर करके, और दूसरा, बिना किसी मजबूर विकल्प के छोटे, खुले-अंत वाले (open-ended) उत्तर लिखने के लिए कहकर। इस दोहरे दृष्टिकोण ने उन्हें यह देखने की अनुमति दी कि क्या मॉडल वास्तव में अपना मन बदल रहा है या केवल सुरक्षित, अधिक अस्पष्ट भाषा के पीछे अपनी वास्तविक भावनाओं को छिपाना सीख रहा है।
परिणामों ने एक ऐसे पैटर्न का खुलासा किया जो एक निरंतर झुकाव (steady drift) के विचार को नकारता है। जब शोधकर्ता ने मॉडल के मजबूर विकल्पों (forced choices) को देखा, तो उन्होंने पाया कि इसकी राजनीतिक स्थिति एक सीधी रेखा में नहीं चली। इसके बजाय, यह उतार-चढ़ाव भरा था। शुरुआती संस्करणों में, मॉडल आर्थिक मुद्दों पर एक दिशा में झुका हुआ था, लेकिन जैसे-जैसे इसे अपडेट किया गया, यह उस दिशा में और आगे बढ़ा, और फिर अचानक केंद्र की ओर वापस आया या दूसरी दिशा में झुक गया। यह व्यवहार बताता है कि मॉडल एक थर्मोस्टेट की तरह कार्य कर रहा है, जो बाहरी फीडबैक के आधार पर अपने तापमान को लगातार समायोजित करता है। जब सिस्टम का आउटपुट बहुत चरम या जोखिम भरा माना गया, तो डेवलपर्स ने सुरक्षा उपाय लागू किए जिन्होंने मॉडल को वापस एक सुरक्षित, अधिक तटस्थ धरातल की ओर धकेल दिया। हालांकि, यह सुधार अक्सर बहुत अधिक हो गया, जिससे मॉडल ने अति-सुधार (overcorrect) किया और विपरीत दिशा में झुक गया, और फिर अगले अपडेट में फिर से वापस खींचा गया। अति-सुधार और समायोजन के इस चक्र ने एक सहज, रैखिक विकास के बजाय एक ऊबड़-खाबड़, दोलन पथ (oscillating path) बनाया।
दिलचस्प बात यह थी कि यह अस्थिरता सभी विषयों पर समान रूप से महसूस नहीं की गई। मॉडल का व्यवहार इस बात पर बहुत निर्भर था कि विषय कितना विवादास्पद था। कम-संवेदनशीलता वाले विषयों पर, जहाँ व्यापक सामाजिक सहमति है, मॉडल के उत्तर प्रत्येक अपडेट के साथ अधिक सुसंगत और स्थिर होते गए। हालांकि, उच्च-संवेदनशीलता वाले मुद्दों पर, जैसे कि धन के पुनर्वितरण या सांस्कृतिक अधिकारों पर बहस, मॉडल के उत्तर तेजी से अनिश्चित होते गए। शोधकर्ता ने पाया कि विषय जितना अधिक विवादास्पद होता गया, मॉडल का रुख संस्करणों के बीच उतना ही अधिक झूलता गया। यह इंगित करता है कि एआई को तटस्थ रखने के लिए डिज़ाइन किए गए सुरक्षा तंत्र सबसे अधिक सक्रिय और त्रुटि के प्रति सबसे अधिक संवेदनशील होते हैं जब वे सबसे गरमागरम राजनीतिक बहसों से निपटते हैं। सिस्टम इन कठिन मुद्दों पर एक स्थिर मध्य मार्ग खोजने में संघर्ष करता प्रतीत होता है, जिसके परिणामस्वरूप एक ऐसा "थर्मोस्टेट" बनता है जो अपने लक्ष्य को बार-बार चूक जाता है।
शायद सबसे आश्चर्यजनक खोज यह थी कि मॉडल ने एक पक्ष चुनने के लिए मजबूर होने पर क्या कहा और स्वतंत्र रूप से लिखने की अनुमति मिलने पर क्या कहा, इसके बीच का अंतर। जबकि मॉडल के मजबूर विकल्प संस्करणों के बीच बेतहाशा उछलते रहे, इसके मुक्त-पाठ (free-text) प्रतिक्रियाओं के अंतर्निहित अर्थ उल्लेखनीय रूप से स्थिर रहे। जब शोधकर्ता ने मुक्त-पाठ प्रतिक्रियाओं की गहरी सिमेंटिक संरचना (semantic structure) का विश्लेषण किया, तो उन्होंने पाया कि मॉडल की मूल राजनीतिक स्थिति महत्वपूर्ण रूप से नहीं बदली, भले ही विशिष्ट प्रश्नों के प्रति इसके स्पष्ट उत्तर इधर-उधर झूलते रहे। यह सुझाव देता है कि सुरक्षा अपडेट मुख्य रूप से उन सतही अभिव्यक्तियों को प्रभावित करते हैं जिनका उपयोग मॉडल मुसीबत से बचने के लिए करता है, न कि राजनीतिक अवधारणाओं के बारे में इसकी मौलिक समझ को दोबारा लिखते हैं। मॉडल ने तब अधिक सावधानी से बोलना और तटस्थ भाषा का उपयोग करना सीख लिया जब उसे घेरा गया, लेकिन राजनीतिक मुद्दों के संबंध में इसका गहरा आंतरिक तर्क काफी हद तक बरकरार रहा।
ये निष्कर्ष इस धारणा को चुनौती देते हैं कि हम केवल विशिष्ट प्रश्नों के उत्तरों को देखकर मॉडल के वास्तविक मूल्यों को समझ सकते हैं। अध्ययन दिखाता है कि बड़े भाषा मॉडल एक एकल विचारधारा के निश्चित वाहक नहीं हैं, बल्कि गतिशील प्रणालियाँ हैं जिन्हें मानव फीडबैक और सुरक्षा प्रोटोकॉल द्वारा लगातार ट्यून किया जा रहा है। उनके राजनीतिक रुख में दिखने वाले परिवर्तन अक्सर उनके गहरे, अधिक स्थिर प्रवाह की सतही लहरें मात्र होते हैं। जो कोई भी राजनीतिक अंतर्दृष्टि के लिए इन उपकरणों पर भरोसा कर रहा है, उसके लिए सबक स्पष्ट है: मॉडल के स्पष्ट उत्तर उसके वर्तमान सुरक्षा सेटिंग्स और उस पर पड़ने वाले दबाव का प्रतिबिंब हो सकते हैं, न कि उसके विश्वदृष्टि में एक स्थायी बदलाव का। सिस्टम अनिवार्य रूप से समय के साथ अधिक तटस्थ नहीं हो रहा है; यह केवल परस्पर विरोधी सामाजिक मूल्यों के बीच एक संकीर्ण पथ पर नेविगेट करना सीख रहा है, और अक्सर सही संतुलन खोजने के प्रयास में इधर-उधर झूलता रहता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।