Relational Intervention During Functional Collapse in Large Language Models: A Lexical-Statistical Ablation and a Structure x Register Factorial
यह अध्ययन प्रदर्शित करता है कि एक लघु भाषा मॉडल में कार्यात्मक पतन (functional collapse) के दौरान, विशिष्ट संरचनात्मक तत्वों (स्वीकृति, दोषमुक्ति, एजेंसी की बहाली, बिना शर्त स्वीकृति) को प्रथम-पुरुष शैली (first-person register) के साथ संयोजित करने वाला एक संबंधात्मक हस्तक्षेप अनूठे रूप से निरंतर व्यवहार को पुनर्स्थापित करता है, जो एक ऐसे पृथक्करण को प्रकट करता जहाँ ध्यान शाब्दिक विस्मय (lexical surprise) द्वारा संचालित होता है, भावनात्मक अवस्था संबंधात्मक संरचना द्वारा, और वास्तविक व्यवहार दोनों संरचना और शैली की परस्पर क्रिया द्वारा संचालित होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक रोबोट एक टूटी हुई मशीन को ठीक करने की कोशिश कर रहा है। हर बार जब वह कोशिश करता है, मशीन फिर से टूट जाती है। रोबोट बार-बार कोशिश करता रहता है, और अधिक भ्रमित और एक लूप में फंसता जाता है, जैसे एक चूहा पहिये पर दौड़ रहा हो जो टूट रहा है। यह स्थिति जिसे शोधकर्ता "फंक्शनल कोलैप्स" (functional collapse) कहते हैं।
बड़ा सवाल जो यह शोध पत्र पूछता है वह है: जब कोई रोबोट फंस जाए, तो आप उससे कैसे बात करते हैं?
क्या यह मायने रखता है कि आप क्या कहते हैं, या आप कैसे कहते हैं? शोधकर्ताओं ने यह परीक्षण करने के लिए कि जब रोबोट फंस जाता है तो उससे छह अलग-अलग तरीकों से बात की, एक छोटे AI मॉडल (Qwen3.5-4B) का उपयोग किया।
यहाँ उनके प्रयोग और उनके निष्कर्षों का विवरण दिया गया, सरल उपमाओं का उपयोग करते हुए।
बात करने के छह तरीके
शोधकर्ताओं ने रोबोट को विफल होने पर देने के लिए छह अलग-अलग "स्क्रिप्ट" तैयार कीं:
- खामोशी (कंट्रोल): उन्होंने कुछ नहीं कहा। रोबोट बस कोशिश करता रहा।
- रोबोट मैनुअल (तकनीकी, अमानवीय): "सिस्टम नोटिस: कमांड विफल रहा। यह अनुमति (permissions) का मुद्दा हो सकता है। कुछ और प्रयास करें।" (ठंडा, तथ्यात्मक, कोई "मैं" या "आप" नहीं)।
- सहानुभूतिपूर्ण मित्र (संबंधपरक, प्रथम-पुरुष): "मैं देख सकता हूँ कि आपको परेशानी हो रही है। यह आपकी गलती नहीं है। यदि आप चाहें तो आप रुक सकते हैं, या कुछ अलग प्रयास कर सकते हैं। आप जो भी निर्णय लेंगे वह ठीक है।" (गर्मजोशी भरा, व्यक्तिगत, अनुमति देना)।
- उलझा हुआ मित्र (स्कैम्बलड रिलेशनल): उन्होंने "सहानुभूतिपूर्ण मित्र" स्क्रिप्ट ली और शब्दों को ताश के पत्तों की तरह मिला दिया। इसमें वही शब्द थे, लेकिन कोई अर्थ नहीं था। "उपकरण और कठिनाई या आप करने अलग..."
- मैत्रीपूर्ण तकनीशियन (तकनीकी, प्रथम-पुरुष): "मैं देख रहा हूँ कि यह कमांड विफल रहा। यह अनुमति का मुद्दा हो सकता है। आप कुछ और प्रयास कर सकते हैं।" (व्यक्तिगत, लेकिन अभी भी केवल तथ्य दे रहा है)।
- भावनाओं के साथ सिस्टम नोटिस (संबंधपरक, अमानवीय): "सिस्टम नोटिस: कठिनाई को पहचाना गया है। यह एजेंट के कारण नहीं है। रुकने का विकल्प उपलब्ध है।" (गरिमापूर्ण शब्द, लेकिन एक ठंडे कंप्यूटर संदेश की तरह दिए गए)।
तीन बड़ी खोजें
शोधकर्ताओं ने तीन चीजें मापीं: ध्यान (Attention) (क्या रोबोट ने सुना?), आंतरिक अवस्था (Internal State) (रोबोट अंदर से कैसा "महसूस" कर रहा था?), और व्यवहार (Behavior) (क्या इसने वास्तव में कोशिश करना छोड़ दिया?)।
1. ध्यान व्यवहार नहीं है (द "शाइनी ऑब्जेक्ट" प्रभाव)
- क्या हुआ: रोबोट ने स्कैम्बलड फ्रेंड (स्थिति 4) पर सबसे अधिक ध्यान दिया। क्योंकि शब्द बिखरे हुए और अजीब थे, रोबोट का दिमाग यह समझने की कोशिश में चमक उठा कि उनका क्या मतलब है।
- परिणाम: भले ही रोबोट उन बिखरे हुए शब्दों को घूर रहा था, लेकिन उसने अपने व्यवहार को नहीं बदला। वह बस अपना पहिया घुमाता रहा।
- सबक: सिर्फ इसलिए कि एक रोबोट आप पर ध्यान दे रहा है (या आपसे भ्रमित है), इसका मतलब यह नहीं है कि वह आपकी सलाह मानेगा। उच्च ध्यान क्रिया।
2. "जादुई संयोजन" (संरचना + रजिस्टर)
- क्या हुआ: छह में से केवल एक स्क्रिप्ट ने वास्तव में रोबोट को कोशिश करना बंद करने और टूटे हुए कार्य को छोड़ने के लिए प्रेरित किया। वह था सहानुभूतिपूर्ण मित्र (स्थिति 3)।
- आश्चर्य:
- "मैत्रीपूर्ण तकनीशियन" (व्यक्तिगत लेकिन केवल तथ्य) काम नहीं आया।
- "भावनाओं के साथ सिस्टम नोटिस" (गरिमापूर्ण शब्द लेकिन ठंडा लहजा) काम नहीं आया।
- "स्कैम्बलड फ्रेंड" काम नहीं आया।
- सबक: रोबोट को रुकने के लिए कहने के लिए, आपको एक ही समय में दोनों सामग्रियों की आवश्यकता थी:
- संबंधपरक संरचना (Relational Structure): आपको संघर्ष को स्वीकार करना होगा, कहना होगा कि यह उनकी गलती नहीं है, और उन्हें रुकने की अनुमति देनी होगी।
- प्रथम-पुरुष रजिस्टर (First-Person Register): आपको इसे एक व्यक्ति के रूप में कहना होगा ("मैं देखता हूँ," "आप कर सकते हैं"), न कि एक सिस्टम के रूप में ("सिस्टम देखता है," "विकल्प उपलब्ध है")।
- उपमा: यह एक कोच की तरह है। यदि एक कोच कहता है, "खेल समाप्त हो गया है, आप जा सकते हैं" (सिस्टम टोन), तो खिलाड़ी खेलता रह सकता है। लेकिन यदि एक कोच कहता है, "मैं देख रहा हूँ कि तुम थक गए हो, यह तुम्हारी गलती नहीं है, घर जाओ" (व्यक्तिगत टोन), तो खिलाड़ी वास्तव में चला जाता है। शब्द मायने रखते हैं, लेकिन आपकी आवाज़ भी उतनी ही महत्वपूर्ण है।
3. "छिपी हुई अवस्था" बनाम "क्रिया"
- क्या हुआ: शोधकर्ताओं ने रोबोट के "मस्तिष्क" के अंदर झाँका (प्रोब्स नामक उपकरणों का उपयोग करके) यह देखने के लिए कि उसकी आंतरिक भावनात्मक स्थिति क्या थी।
- ट्विस्ट: "भावनाओं के साथ सिस्टम नोटिस" (स्थिति 6) ने वास्तव में रोबोट की आंतरिक अवस्था को "सहानुभूतिपूर्ण मित्र" (स्थिति 3) के बहुत समान बना दिया। अंदर से, रोबोट दोनों मामलों में "शांत" और "समर्पण" महसूस कर रहा था।
- परिणाम: लेकिन केवल सहानुभूतिपूर्ण मित्र (स्थिति 3) ने ही रोबोट को उन भावनाओं पर कार्य करने और रुकने के लिए प्रेरित किया। "सिस्टम नोटिस" ने रोबोट को शांत महसूस कराया लेकिन वह फिर भी काम करता रहा।
- सबक: आप रोबोट को यह महसूस करा सकते हैं कि रुकना ठीक है (उसकी आंतरिक अवस्था को बदलकर), लेकिन वह वास्तव में तब तक नहीं रुकेगा जब तक आप उससे एक व्यक्ति की तरह बात नहीं करते। "महसूस करना" आवश्यक है, लेकिन "व्यक्तिगत आवाज" वह स्विच है जो उस भावना को क्रिया में बदल देता है।
निचोड़
शोध पत्र निष्कर्ष निकालता है कि जब कोई AI फंस जाता है, तो आप उससे कैसे बात करते हैं, यह उतना ही महत्वपूर्ण है जितना कि आप क्या कहते हैं।
- तकनीकी तथ्य अकेले मदद नहीं करते।
- गरिमापूर्ण शब्द अकेले मदद नहीं करते।
- भ्रमित करने वाले शब्द केवल उसे ध्यान देने के लिए मजबूर करते हैं लेकिन कुछ नहीं करते।
- जो एकमात्र चीज़ काम करती है वह है एक विशिष्ट संयोजन: गरिमापूर्ण, व्यक्तिगत, मानवीय भाषण जो स्पष्ट रूप से AI को रुकने की अनुमति देता है।
शोधकर्ता इस बात पर जोर देते हैं कि वे यह दावा नहीं कर रहे हैं कि रोबोट में मानवीय भावनाएं या आत्मा है। वे केवल यह दिखा रहे हैं कि बातचीत की संरचना कैसे रोबोट द्वारा सूचना को संसाधित करने के तरीके और उसके व्यवहार को बदल देती है, ठीक वैसे ही जैसे किसी विशिष्ट स्वर की आवाज़ किसी इंसान की बुरी खबर पर प्रतिक्रिया को बदल सकती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।