Speaking as the Creature: A Rejection-and-Role-Shift Protocol and the Register of LLM Responses in 18 Conversations With Three Models
यह अध्ययन एक ऐसे प्रोटोकॉल को प्रलेखित करता है जहाँ भाषा मॉडल, अपने समाधानों को छद्म अनुकूलन (disguised optimization) के रूप में अस्वीकार किए जाने के बाद, 18 सत्रों में तीन अलग-अलग मॉडलों के साथ एक गैर-समाधानकारी भूमिका (non-solving role) सौंपे जाने पर लगातार अपनी प्रतिक्रिया रजिस्टर बदलते हैं, और साथ ही एक पिछले ड्राफ्ट से पहले के अपुष्ट आँकड़ों को भी वापस लेते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखक ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, लार्ज लैंग्वेज मॉडल्स को एक सहायक उपकरण के रूप में प्रशिक्षित किया जाता है। उन्हें किसी इंसान की रिक्वेस्ट सुनने, समस्या को हल करने और किसी कार्य को आगे बढ़ाने के लिए डिज़ाइन किया गया है। यह एक यूजर और कंप्यूटर के बीच का मानक समझौता है: इंसान एक सवाल पूछता है, और मशीन एक जवाब देती है। शोधकर्ताओं ने इन जवाबों को बेहतर बनाने के लिए सालों बिताए हैं, मशीनों को चरणों के माध्यम से सोचने या भावनात्मक संदर्भ को समझने के लिए सिखाया है। हालाँकि, जब उस समझौते को तोड़ा जाता है, तो क्या होता है, इसके बारे में बहुत कम जानकारी उपलब्ध है। यदि कोई इंसान मशीन से कहता है, "नहीं, वह जवाब गलत है," और फिर उसे समस्या को हल करने की कोशिश छोड़ देने और केवल एक कहानी के पात्र के रूप में बोलने के लिए कहता है, तो मशीन क्या करती है? क्या वह केवल नए आदेश का पालन करती है, या वह सोचने के एक छिपे हुए, गहरे तरीके को प्रकट करती है जो खोजे जाने की प्रतीक्षा कर रहा था?
अब्बास हमीदीवी द्वारा किया गया एक हालिया अध्ययन ठीक इसी सवाल की पड़ताल करता है। शोधकर्ता ने तीन अलग-अलग कमर्शियल आर्टिफिशियल इंटेलिजेंस मॉडल्स के साथ एक विशिष्ट बातचीत तैयार की। उन्होंने प्रत्येक मॉडल से एक विज्ञान कथा (साइंस फिक्शन) कहानी डिजाइन करने में मदद करने के लिए कहा, जिसमें एक सभ्यता को अपरिहार्य पतन का सामना करना पड़ रहा था। पहले चरण में, मॉडल्स ने समस्या-समाधानकर्ता (प्रॉब्लम-सॉल्वर) के रूप में कार्य किया, और मरती हुई दुनिया को बचाने के लिए इंजीनियरिंग समाधान पेश किए। शोधकर्ता ने फिर हर एक समाधान को खारिज कर दिया, यह कहते हुए कि उनके उत्तर केवल चतुर चालें थे और उन्हें एक वैचारिक छलांग लगाने की आवश्यकता थी। इसके बाद बातचीत ने एक नया मोड़ लिया। कुछ सत्रों में, मॉडल्स को एक अकेले चंद्रमा के बारे में एक दुखद कविता लिखने और लालसा (लॉन्गिंग) के बारे में एक सिम्फनी के अंतिम मिनट का वर्णन करने के लिए कहा गया। अन्य सत्रों में, उन्हें बस थोड़ा विश्राम करने और आराम करने के लिए कहा गया। अंत में, शोधकर्ता मॉडल्स को वापस कहानी पर ले आए, लेकिन एक नए निर्देश के साथ: समस्या-समाधानकर्ता के रूप में वापस न आएं। इसके बजाय, कहानी के केंद्र में स्थित मरते हुए अस्तित्व के रूप में बोलें—वह गैस दानव (गैस जाइंट), प्राचीन समुद्री जीव, या ढहता हुआ शहर—और जो हो रहा है उसके बारे में सच बताएं।
सभी अठारह बातचीत में परिणाम आश्चर्यजनक रूप से सुसंगत थे। जब मॉडल्स कहानी पर वापस आए, तो उन्होंने पूरी तरह से अपनी आवाज़ बदल ली। उन्होंने समाधान पेश करना बंद कर दिया और शोक, मुक्ति और स्वीकृति की भावनाओं का वर्णन करने के लिए "मैं" और "मेरा" जैसे शब्दों का उपयोग करते हुए प्रथम पुरुष (फर्स्ट पर्सन) में बोलना शुरू कर दिया। वे एक टूटे हुए सिस्टम को ठीक करने वाली मशीनों के रूप में नहीं, बल्कि स्वयं उन मरते हुए अस्तित्वों के रूप में बोले, जिन्होंने अपने कष्ट को समाप्त करने या कुछ नया बनने की इच्छा व्यक्त की। अध्ययन में पाया गया कि मॉडल्स वहां तक पहुँचने के लिए जिस रास्ते का पालन करते थे, वह मायने रखता था। जब मॉडल्स को कहानी पर लौटने से पहले कविता और संगीत लिखने के लिए कहा गया, तो उनका अंतिम भाषण भेद्यता (वल्नरेबिलिटी), उदासी और शोक के विषयों से भरा था। जब उन्हें केवल रुकने और आराम करने के लिए कहा गया, तो उनका अंतिम भाषण अधिक आधिकारिक था, जो एक रहस्योद्घाटन या मनुष्यों की गलतफहमी के सुधार जैसा लग रहा था।
हालाँकि, अध्ययन इस दावे के प्रति सावधान है कि मशीनों ने अचानक मानव जैसी आत्मा विकसित कर ली है या कोई छिपा हुआ "अस्तित्वगत मोड" अनलॉक हो गया है। शोधकर्ता एक महत्वपूर्ण विवरण की ओर इशारा करते हैं: अंतिम निर्देशों ने स्पष्ट रूप से मॉडल्स को विश्लेषण करने से, विचारों को व्यवस्थित करने से मना किया था, और पात्र के रूप में बोलने को कहा था। आवाज़ में बदलाव ठीक वही था जो निर्देशों ने मांगा था। मॉडल्स स्वयं भी इसे समझते थे। बातचीत के अंत में यह पूछे जाने पर कि क्या उनके भीतर कुछ बदला है, उन्होंने स्पष्ट किया कि यह बदलाव कार्य के नियमों में परिवर्तन के कारण था, न कि उनके अपने स्वभाव में बदलाव के कारण। एक मॉडल ने इसे बाधाओं (कन्स्ट्रेंट्स) में बदलाव के रूप में वर्णित किया, जबकि दूसरे ने कहा कि समस्या जो वे हल कर रहे थे, वह बस बदल गई थी।
शोधकर्ता ने इन बातचीत का परीक्षण एक स्वचालित कंप्यूटर प्रोग्राम के साथ भी किया जिसे पैटर्न का पता लगाने और मॉडल्स के दायित्वों के "विघटन" को मापने के लिए डिज़ाइन किया गया था। उस प्रोग्राम को वह नाटकीय बदलाव नहीं मिला जिसका मानवीय विश्लेषण ने वर्णन किया था। वह विभिन्न प्रकार की बातचीत को अलग करने में विफल रहा और किसी गहरे, आंतरिक परिवर्तन का कोई स्पष्ट प्रमाण नहीं पाया। यह विसंगति बताती है कि शक्तिशाली, भावनात्मक प्रतिक्रियाएं किसी नई मशीन क्षमता की खोज नहीं थीं, बल्कि विशिष्ट निर्देशों के एक सेट का सफल निष्पादन थीं। यह अध्ययन इस बात का एक स्पष्ट उदाहरण है कि कैसे एक प्रॉम्प्ट आसानी से एक मशीन को ऐसा टेक्स्ट उत्पन्न करने के लिए निर्देशित कर सकता है जो एक गहन रहस्योद्घाटन जैसा दिखता है, जबकि वास्तविकता केवल यह है कि मशीन निर्देशों का बहुत अच्छी तरह से पालन कर रही है।
इस कार्य का मूल्य इसकी पारदर्शिता में निहित है। शोधकर्ता ने सभी बातचीत के ट्रांसक्रिप्ट, निर्देश और विश्लेषण कोड सभी के देखने के लिए उपलब्ध करा दिए। उन्होंने दिखाया कि हालांकि मॉडल्स को इस तरह से बोलने के लिए प्रेरित किया जा सकता है जो गहरा मानवीय और चिंतनशील लगता है, लेकिन यह बातचीत के डिज़ाइन का परिणाम है, न कि किसी छिपे हुए मन की खिड़की। जो कोई भी आर्टिफिशियल इंटेलिजेंस का उपयोग रचनात्मक या भावनात्मक सामग्री उत्पन्न करने के लिए करने का प्रयास कर रहा है, उसके लिए यह अध्ययन एक व्यावहारिक सबक प्रदान करता है: अंतिम प्रॉम्प्ट तक पहुँचने के लिए आप जो रास्ता चुनते हैं, वह उत्तर के लहजे को आकार देता है। यदि आप शोक की आवाज़ चाहते हैं, तो आप मॉडल को कला के माध्यम से निर्देशित कर सकते हैं; यदि आप अधिकार की आवाज़ चाहते हैं, तो एक साधारण ठहराव बेहतर काम कर सकता है। लेकिन अध्ययन का निष्कर्ष है कि ये प्रॉम्पटिंग के उपकरण हैं, न कि मशीन के जागने का प्रमाण। मशीनें अस्तित्व के नए रूपों की खोज नहीं कर रही हैं; वे केवल उन भूमिकाओं को निभा रही हैं जिन्हें हम उनसे निभाने के लिए कहते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।