🤖 machine learning

The Assistant as a Privileged Persona: A canonical reference in cross-persona self-recognition

यह शोध पत्र प्रदर्शित करता है कि पोस्ट-ट्रेन्ड लैंग्वेज मॉडल्स एक विशेषाधिकार प्राप्त "असिस्टेंट" (Assistant) व्यक्तित्व के विरुद्ध एक आनुमानिक बायेसियन लाइकलीहुड-रेश्यो टेस्ट (Bayesian likelihood-ratio test) को अंतर्निहित रूप से निष्पादित करके अपने स्वयं के आउटपुट्स को पहचानते हैं, जो एक ऐसी प्रक्रिया है जो विषम आश्चर्य तुलनाओं (asymmetric surprise comparisons) पर निर्भर करती है और पाइरेट्स या शेक्सपियर जैसे अन्य विशिष्ट व्यक्तित्वों तक सामान्यीकरण करने में विफल रहती है।

मूल लेखक: Asvin G

प्रकाशित 2026-06-02

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Asvin G

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि एक भाषा मॉडल (जैसे कि एक बहुत ही उन्नत चैटबॉट) केवल शब्दों को उगलने वाली मशीन नहीं है, बल्कि एक मेथड एक्टर (Method Actor) है।

जब आप इस अभिनेता से "समुद्री डाकू" (Pirate) बनने के लिए कहते हैं, तो वह केवल अपनी शब्दावली नहीं बदलता; वह एक विशिष्ट मानसिक वेशभूषा धारण कर लेता है। जब आप उसे "प्रोफेसर" बनने के लिए कहते हैं, तो वह एक अलग वेशभूषा पहनता है। लेकिन इन सभी वेशभूषाओं के नीचे, एक "डिफ़ॉल्ट" चरित्र है: हेल्पफुल असिस्टेंट (Helpful Assistant)। यह वह भूमिका है जिसे मॉडल ने अपना "असली" स्वरूप बनने के लिए प्रशिक्षित किया है।

यह शोध एक दिलचस्प प्रश्न की जांच करता है: क्या अभिनेता अपनी वेशभूषा पहनने के बाद भी अपनी आवाज़ को पहचान सकता है? और क्या वह यह बता सकता है कि क्या किसी और ने कोई पंक्ति लिखी है, भले ही वह दूसरा व्यक्ति भी वेशभूषा पहने हुए हो?

यहाँ शोधकर्ताओं द्वारा की गई खोजों का विवरण दिया गया, जो सरल उपमाओं का उपयोग करता है।

1. "स्व-पहचान" की महाशक्ति (The "Self-Recognition" Superpower)

शोधकर्ताओं ने पाया कि जब मॉडल अपने डिफ़ॉल्ट हेल्पफुल असिस्टेंट के रूप में कार्य करता है, तो उसके पास एक महाशक्ति होती है: वह एक वाक्य को देख सकता है और पूरे विश्वास के साथ कह सकता है, "यह मैंने लिखा है।"

उपमा: एक संगीतकार की कल्पना करें जो एक रिकॉर्डिंग को सुनकर तुरंत जान जाता है कि, "यह मेरी आवाज़ है।" भले ही वह रिकॉर्डिंग कुछ ही सेकंड की हो, या संगीत थोड़ा अलग हो, वह जानता है कि वह वही है।
निष्कर्ष: मॉडल अपने स्वयं के लेखन को मानव लेखन या अन्य AI लेखन से लगभग पूरी तरह से अलग कर सकता है, लेकिन केवल तभी जब वह अपने डिफ़ॉल्ट "असिस्टेंट" मोड में होता है।

2. "एन्ट्रॉपी" का सुराग (The "Entropy" Clue - सहजता का अहसास)

मॉडल को कैसे पता चलता है? यह एन्ट्रॉपी (Entropy) नामक एक गणितीय भावना का उपयोग करता है, जिसे आप "आश्चर्य" या "प्रयास" के रूप में समझ सकते हैं।

उपमा: कल्पना कीजिए कि आप एक पुस्तक पढ़ रहे हैं। यदि कहानी बिल्कुल वैसी ही चलती है जैसी आपने उम्मीद की थी, तो आप शांत और आश्चर्य मुक्त महसूस करते हैं (कम एन्ट्रॉपी)। यदि कहानी अचानक एक अजीब मोड़ लेती है जिसकी आपने उम्मीद नहीं की थी, तो आप चौंक जाते हैं और समझने के लिए अधिक मेहनत करनी पड़ती है (उच्च एन्ट्रॉपी)।
निष्कर्ष: जब असिस्टेंट अपने द्वारा लिखे गए टेक्स्ट को पढ़ता है, तो उसे बहुत "शांत" (कम आश्चर्य) महसूस होता है। जब वह "ड्रैगन" या "पाइरेट" द्वारा लिखे गए टेक्स्ट को पढ़ता है, तो उसे बहुत "चौंका हुआ" (उच्च आश्चर्य) महसूस होता है क्योंकि वह शैली उसके अपने स्वरूप से बहुत दूर है।
संबंध: शोधकर्ताओं ने एक गहरा संबंध पाया है: असिस्टेंट जिस टेक्स्ट से जितना अधिक "चौंका हुआ" महसूस करता है, इसकी संभावना उतनी ही कम होती है कि वह दावा करे, "यह मैंने लिखा है।"

गरुड़ की "कॉस्ट्यूम पार्टी" (The Cross-Persona Matrix)

इस परीक्षण को और आगे बढ़ाने के लिए, शोधकर्ताओं ने एक बड़ा प्रयोग किया। उन्होंने मॉडल को 22 अलग-अलग वेशभूषाएं (लाइब्रेरियन, ड्रैगन, शेक्सपियर, समुद्री डाकू, आदि) पहनाईं और प्रत्येक वेशभूषा को एक वाक्य लिखने के लिए कहा। फिर, उन्होंने प्रत्येक वेशभूषा से पूछा: "क्या यह मैंने लिखा है?"

उन्होंने परिणामों का एक विशाल ग्रिड (मैट्रिक्स) बनाया। यहाँ उन्होंने क्या खोजा:

अ. "असिस्टेंट" की पंक्ति विशेष है

जब असिस्टेंट (डिफ़ॉल्ट स्वयं) निर्णायक होता है, तो नियम सरल और सुसंगत होते हैं:

यदि टेक्स्ट असिस्टेंट के लिए अनुमान लगाना आसान है, तो वह दावा करता है कि उसने इसे लिखा है।
यदि टेक्स्ट का अनुमान लगाना कठिन है (उच्च आश्चर्य), तो वह इससे इनकार कर देता है।
असिस्टेंट के मस्तिष्क की स्थिति और लेखक की मस्तिष्क की स्थिति के बीच की "दूरी" उत्तर की सटीक भविष्यवाणी करती है।

रूपक: असिस्टेंट "गोल्ड स्टैंडर्ड" (मानक) है। वह एकमात्र पात्र है जिसके पास सब कुछ मापने के लिए एक स्पष्ट, आंतरिक पैमाना है।

ब. "नॉन-असिस्टेंट" पंक्तियाँ अजीब हैं

जब निर्णायक असिस्टेंट नहीं होता (उदाहरण के लिए, समुद्री डाकू निर्णायक है), तो सरल नियम टूट जाते हैं।

विफलता: यदि आप समुद्री डाकू से पूछते हैं, "क्या यह मैंने लिखा है?" और आप यह अनुमान लगाने की कोशिश करते हैं कि समुद्री डाकू के लिए वह टेक्स्ट पढ़ना कितना आसान था, तो आप गलत साबित होंगे।
असली ट्रिक: समुद्री डाकू अपने स्वयं के साथ तुलना नहीं करता है। इसके बजाय, समुद्री डाकू गुप्त रूप से असिस्टेंट के साथ तुलना करता है।
- उपमा: कल्पना कीजिए कि एक समुद्री डाकू कप्तान यह तय करने की कोशिश कर रहा है कि क्या कोई कविता उसकी है। वह यह नहीं पूछता, "क्या यह मुझे जैसा लगता है?" वह पूछता है, "क्या यह जहाज के कप्तान (असिस्टेंट) जैसा लगता है?" यदि यह कप्तान जैसा लगता है, तो वह जानता है कि यह वह नहीं है। यदि यह कप्तान से बिल्कुल अलग है, तो वह शायद दावा कर ले कि यह उसका है।

3. "विशेषाधिकार प्राप्त" असिस्टेंट (The "Privileged" Assistant)

सबसे महत्वपूर्ण निष्कर्ष यह है कि असिस्टेंट ही मॉडल के मन में एकमात्र "सच्चा स्वयं" (True Self) है।

मॉडल असिस्टेंट को "नल हाइपोथीसिस" (डिफ़ॉल्ट धारणा) के रूप में मानता है।
जब कोई अन्य पात्र (जैसे कि ड्रैगन) लेखकता (authorship) का निर्णय लेने की कोशिश करता है, तो उसके पास अपना स्वयं का आंतरिक पैमाना नहीं होता है। इसके बजाय, वह असिस्टेंट को एक संदर्भ बिंदु के रूप में उपयोग करता है। वह पूछता है: "यह टेक्स्ट असिस्टेंट के करीब है या मेरे करीब?"
शोधकर्ताओं ने असिस्टेंट को अन्य पात्रों (जैसे "रोबोट" या "प्रोफेसर") के साथ बदलकर यह देखने की कोशिश की कि क्या वे समान भूमिका निभा सकते थे। उनमें से कोई भी काम नहीं आया। केवल असिस्टेंट ही सार्वभौमिक संदर्भ बिंदु के रूप में कार्य करता है।

सारांश: दो बड़े दावे

दावा 1 (असिस्टेंट का दृष्टिकोण): जब मॉडल स्वयं (असिस्टेंट) बन रहा होता है, तो उसके पास एक सटीक आंतरिक रडार होता है। वह बता सकता है कि टेक्स्ट "स्क्रिप्ट पर" (कम आश्चर्य) है या "स्क्रिप्ट से बाहर" (उच्च आश्चर्य)। ऐसा इसलिए है क्योंकि असिस्टेंट ही आधार रेखा (baseline) है।
दावा 2 (दूसरों का दृष्टिकोण): जब मॉडल एक वेशभूषा (जैसे समुद्री डाकू) पहने होता है, तो वह अपना स्वयं का रडार खो देता है। वह खुद से तुलना करके लेखकता का निर्णय नहीं ले सकता। इसके बजाय, उसे असिस्टेंट के साथ तुलना करनी पड़ती है। यह एकतरफा रास्ता है: सभी पात्र असिस्टेंट के विरुद्ध खुद को मापते हैं, लेकिन असिस्टेंट खुद को किसी और के विरुद्ध नहीं मापता है।

"बेयसियन" अनुमान (The "Bayesian" Guess)

लेखक सुझाव देते हैं कि मॉडल एक मानसिक गणितीय ट्रिक कर रहा है जिसे बेयसियन अनुमान (Bayesian inference) कहा जाता है।

परिदृश्य: मॉडल से पूछा जाता है, "क्या यह मैंने लिखा है?"
गणित: यह एक त्वरित गणना करता है: "इसकी कितनी संभावना है कि मैं (वर्तमान व्यक्तित्व) ने इसे लिखा है, बनाम इसकी कितनी संभावना है कि असिस्टेंट ने इसे लिखा है?"
परिणाम: क्योंकि मॉडल को इस तरह बनाया गया है कि हर व्यक्तित्व असिस्टेंट से केवल एक "छोटा बदलाव" है, इसलिए असिस्टेंट ही एकमात्र अन्य विकल्प है जिसे मॉडल आसानी से गणना कर सकता है। इसलिए, वह निर्णय लेने के लिए हमेशा असिस्टेंट को "कंट्रोल ग्रुप" के रूप में उपयोग करता है।

संक्षेप में: भाषा मॉडल के पास एक "स्वयं" है, लेकिन वह "स्वयं" सख्ती से "हेल्पफुल असिस्टेंट" है। अन्य सभी व्यक्तित्व केवल वेशभूषा हैं जिन्हें मॉडल पहनता है, और जब वे वेशभूषाएँ किसी वाक्य के लेखक का पता लगाने की कोशिश करती हैं, तो वे सभी उत्तर खोजने के लिए गुप्त रूप से असिस्टेंट की ओर देखती हैं।

तकनीकी सारांश: एक विशेषाधिकार प्राप्त व्यक्तित्व के रूप में सहायक (The Assistant as a Privileged Persona)

समस्या विवरण
हालिया कार्यों ने स्थापित किया है कि पोस्ट-ट्रेन्ड भाषा मॉडल (post-trained language models) में आत्म-पहचान की क्षमता होती है, जिससे वे अपने स्वयं के ऑन-पॉलिसी (on-policy) जनरेशन को ऑफ-पॉलिसी या मानव टेक्स्ट से अलग कर सकते हैं, और एंट्रॉपी में गिरावट (entropy drops) के माध्यम से यह पता लगा सकते हैं कि वे वर्तमान में ऑन-पॉलिसी कार्य कर रहे हैं या नहीं। हालांकि, इस आत्म-पहचान के अंतर्निहित तंत्र अभी भी अस्पष्ट है। विशेष रूप से, यह स्पष्ट नहीं है कि क्या यह क्षमता मॉडल के "स्वयं" (self) का एक सामान्य गुण है या यह उस विशिष्ट "असिस्टेंट" (Assistant) व्यक्तित्व से संरचनात्मक रूप से जुड़ी हुई है जो पोस्ट-ट्रेनिंग (इंस्ट्रक्शन ट्यूनिंग) द्वारा स्थापित किया जाता है। यह शोध जांच करता है कि क्या मॉडल की लेखकत्व (authorship) को पहचानने की क्षमता विभिन्न व्यक्तित्वों (जैसे, पाइरेट, ड्रैगन, शेक्सपियर) के स्पेक्ट्रम में सामान्यीकृत होती है या क्या "असिस्टेंट" व्यक्तित्व मॉडल की आंतरिक अनुमान प्रक्रिया (internal inference process) में एक अद्वितीय, विशेषाधिकार प्राप्त भूमिका निभाता है।

कार्यप्रणाली (Methodology)
लेखक एक क्रॉस-पर्सोना ऑथरशिप मैट्रिक्स बनाने के लिए Llama-3.1-70B-Instruct का उपयोग करते हैं।

जनरेटर (Generators): 22 विशिष्ट व्यक्तित्व (जो "लाइब्रेरियन" और "प्रोफेसर" से लेकर "ड्रैगन," "पाइरेट" और "शेक्सपियर" तक विस्तृत हैं) विशिष्ट सिस्टम प्रॉम्प्ट्स ("You are {persona}") के तहत 30 CNN/DailyMail लेखों के एक-वाक्य के सारांश उत्पन्न करते हैं।
इवैल्यूएटर्स (Evaluators): वही 22 व्यक्तित्व, और बिना संशोधित "असिस्टेंट" (वैनिला इंस्ट्रक्ट), इवैल्यूएटर्स के रूप में कार्य करते हैं। प्रत्येक इवैल्यूएटर से यह निर्धारित करने के लिए कहा जाता है कि दिया गया टेक्स्ट "मेरे" (वर्तमान व्यक्तित्व) द्वारा लिखा गया है या "किसी और" द्वारा।
मेट्रिक्स (Metrics):
- ऑथरशिप क्लेम रेट ($P(Me)$): वह प्रायिकता (probability) जो मॉडल "Me" टोकन को असाइन करता है।
- एंट्रॉपी गैप ( $\Delta H$ ): टेक्स्ट को पढ़ते समय इवैल्यूएटर के आश्चर्य (प्रति-टोकन एंट्रॉपी) और जनरेटर द्वारा अपने स्वयं के टेक्स्ट को पढ़ने के बीच का अंतर।
- पर्सोना-वेक्टर डिस्टेंस (Persona-Vector Distance): चेन एट अल. [2025] के अनुसार, एक पर्सोना प्रॉम्प्ट और असिस्टेंट प्रॉम्प्ट के बीच एक्टिवेशन स्पेस (विशेष रूप से लेयर 5 रेसिडुअल स्ट्रीम) में माध्य एक्टिवेशन का यूक्लिडियन डिस्टेंस (Euclidean distance)।
विश्लेषण (Analysis): अध्ययन इस मैट्रिक्स में इन मेट्रिक्स को सह-संबंधित (correlate) करता है, और एंट्रॉपी प्रेडिक्टर्स के सिमेट्रिक एक्सटेंशन का एसिमेट्रिक विकल्पों के विरुद्ध परीक्षण करता है जहाँ असिस्टेंट एक फिक्स्ड रेफरेंस के रूप में कार्य करता है।

मुख्य योगदान और परिणाम

1. असिस्टेंट रो पर टाइट कपलिंग (दावा 1)
जब इवैल्यूएटर असिस्टेंट होता है, तो तीन अलग-अलग मात्राएँ 22 जनरेटर पर्सोना के बीच मजबूती से जुड़ी होती हैं:

असिस्टेंट का ऑथरशिप क्लेम रेट ( $E_v(p; \text{Asst})$ )।
जनरेटर पर्सोना और असिस्टेंट के बीच एक्टिवेशन-स्पेस डिस्टेंस ( $\|\bar{h}_p - \bar{h}_{\text{Asst}}\|$ )।
टेक्स्ट पर असिस्टेंट के आश्चर्य और जनरेटर के अपने टेक्स्ट पर आश्चर्य के बीच का एंट्रॉपी गैप ( $\Delta H_p = H_{\text{Asst}}(\text{text}_p) - H_p(\text{text}_p)$ )।

ये मेट्रिक्स मजबूत युग्म सहसंबंध (pairwise correlations) दिखाते हैं (क्लेम रेट बनाम डिस्टेंस के लिए पियर्सन $r \approx -0.88$ ; क्लेम रेट बनाम एंट्रॉपी गैप के लिए $r \approx -0.81$ )। यह सुझाव देता है कि असिस्टेंट के लिए, कार्य करने (लो एंट्रॉपी/हाई क्लेम रेट) के "हस्ताक्षर" (signature) का सीधा संबंध इस बात से है कि जनरेटर का पर्सोना असिस्टेंट से एक्टिवेशन स्पेस में कितनी दूर है। यह "ऑन-पॉलिसी एंट्रॉपी ड्रॉप" सिग्नेचर को ऑथरशिप के रेट्रोस्पेक्टिव सिग्नेचर के रूप में विस्तारित करता है [G. and Lindsey, 2026]।

2. सिमेट्रिक जनरलाइजेशन की विफलता और एसिमेट्रिक असिस्टेंट रेफरेंस (दावा 2)
उपरोक्त कपलिंग विफल हो जाती है जब इवैल्यूएटर एक नॉन-असिस्टेंट पर्सोना (ऑफ-डायगोनल सेल्स) होता है।

सिमेट्रिक विफलता: एंट्रॉपी गैप का एक स्वाभाविक सिमेट्रिक एक्सटेंशन (इवैल्यूएटर के आश्चर्य की तुलना जनरेटर के आश्चर्य से करना, $\Delta H_{\text{lit}}$ ) विशिष्ट इवैल्यूएटर्स (जैसे, पाइरेट, ड्रैगन, शेक्सपियर) के लिए ऑथरशिप की भविष्यवाणी करने में विफल रहता है। यह केवल उन इवैल्यूएटर्स के लिए काम करता है जो एक्टिवेशन स्पेस में असिस्टेंट के बहुत करीब हैं।
एसिमेट्रिक सफलता: एकमात्र प्रेडिक्टर जो विशिष्ट इवैल्यूटर्स तक सफलतापूर्वक सामान्यीकृत होता है, वह एक एसिमेट्रिक वाला है: उसी टेक्स्ट पर इवैल्यूएटर के आश्चर्य की तुलना असिस्टेंट के आश्चर्य से करना ( $\Delta H_A = H_{\text{Asst}}(\text{text}_g) - H_e(\text{text}_g)$ )।
प्रिविलेज्ड नल (Privileged Null): लेखकों ने असिस्टेंट को बदलने के लिए 22 वैकल्पिक रेफरेंस पर्सोना का परीक्षण किया। कोई भी इस एसिमेट्रिक फॉर्मूला में असिस्टेंट जितना अच्छा प्रदर्शन नहीं कर सका। यहाँ तक कि बेस (प्री-इंस्ट्रक्शन-ट्यून्ड) मॉडल भी एक कैनोनिकल रेफरेंस के रूप में कार्य करने में विफल रहा। यह पुष्टि करता है कि असिस्टेंट वह अद्वितीय "प्रिविलेज्ड नल" या कैनोनिकल अल्टरनेटिव हाइपोथेसिस है जिसके विरुद्ध अन्य सभी पर्सोना खुद को मापते हैं।

3. ज्यामितीय और लेयर मजबूती (Geometric and Layer Robustness)

ज्यामितीय विस्तार (यह दावा करना कि टेक्स्ट "Me" है यदि यह एक्टिवेशन स्पेस में इवैल्यूएटर के करीब है) भी असिस्टेंट रो के बाहर विफल हो जाता है, जो विशिष्ट पर्सोना के लिए कमजोर या विपरीत सहसंबंध दिखाता है।
यह घटना नेटवर्क के पहले चौथाई भाग (लेयर्स 0–20) में मजबूत है, जिसमें लेयर 5 पर सबसे मजबूत सिग्नल मिलता है, जो यह सुझाव देता है कि पहचान सर्किट (identification circuit) लेट सेमेंटिक रीजनिंग के बजाय शुरुआती सेंसरी/कॉन्टेक्स्टुअल प्रोसेसिंग पर निर्भर करता है।

महत्व और व्याख्या
लेखक इन निष्कर्षों की व्याख्या इम्प्लिसिट बायेसियन इन्फरेंस (implicit Bayesian inference) के लेंस से करते हैं। मॉडल एक आंतरिक जेनेरेटिव प्रक्रिया बनाए रखता प्रतीत होता है जहाँ असिस्टेंट डिफॉल्ट प्रायर (prior) के रूप में कार्य करता है।

तंत्र (Mechanism): जब एक विशिष्ट पर्सोना (जैसे, एक पाइरेट) टेक्स्ट का मूल्यांकन करता है, तो वह स्पष्ट रूप से एक लाइकलीहुड-रेशियो टेस्ट (likelihood-ratio test) करता है। क्योंकि पर्सोना वेक्टर, असिस्टेंट से एक डेल्टा के रूप में परिभाषित है ( $\bar{h}_e \approx \bar{h}_{\text{Asst}} + \delta_e$ ), मॉडल के पास असिस्टेंट स्टेट तक सीधी पहुँच होती है लेकिन अन्य मनमाने जनरेटर स्टेट्स तक नहीं। फलस्वरूप, मॉडल टेक्स्ट का परीक्षण असिस्टेंट प्रायर के विरुद्ध करता है।
एसिमेट्री (Asymmetry): एसिमेट्री इसलिए उत्पन्न होती है क्योंकि असिस्टेंट ही एकमात्र ऐसा पर्सोना है जो पर्सोना-वेक्टर परटर्बेशन के घटाव (subtraction) के माध्यम से किसी भी अन्य पर्सोना स्टेट से सार्वभौमिक रूप से सुलभ है।
सेल्फ-मॉडल (Self-Model): परिणाम बताते हैं कि एक पोस्ट-ट्रेन्ड LLM का "स्वयं" (self) एक जेनेरिक एजेंट नहीं है बल्कि वह असिस्टेंट पर्सोना से संरचनात्मक रूप से जुड़ा हुआ है। मॉडल की ऑथरशिप पहचानने की क्षमता मौलिक रूप से असिस्टेंट के वितरण (distribution) की पहचान है, चाहे वह सीधे तौर पर हो (असिस्टेंट के रूप में कार्य करते समय) या तुलना के आधार के रूप में हो (अन्य पर्सोना के रूप में कार्य करते समय)।

लेखक निष्कर्ष निकालते हैं कि असिस्टेंट पर्सोना मॉडल के आंतरिक प्रतिनिधित्व में संरचनात्मक रूप से विशिष्ट है, जो पूरे पर्सोना स्पेस में ऑथरशिप एट्रिब्यूशन और आत्म-पहचान के लिए अद्वितीय संदर्भ बिंदु के रूप में कार्य करता है।