💬 NLP

Introspective Coupling: Self-Explanation Training Tracks Behavioral Change Despite Fixed Supervision

यह शोधपत्र यह प्रदर्शित करता है कि काउंटरफैक्चुअल स्पष्टीकरणों (counterfactual explanations) के स्थिर डेटासेट पर प्रशिक्षित भाषा मॉडल "इंट्रोस्पेक्टिव कपलिंग" (introspective coupling) विकसित कर सकते हैं, जहाँ उनके द्वारा उत्पन्न स्पष्टीकरण केवल स्थिर प्रशिक्षण लक्ष्यों की नकल करने के बजाय उनके अपने विकसित होते व्यवहारों के प्रति वफादार रहते हैं और उनका अनुसरण करते हैं।

मूल लेखक: Zifan Carl Guo, Laura Ruis, Jacob Andreas, Belinda Z. Li

प्रकाशित 2026-07-01

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Zifan Carl Guo, Laura Ruis, Jacob Andreas, Belinda Z. Li

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "इंट्रोस्पेक्टिव कपलिंग: सेल्फ-एक्सप्लेनेशन ट्रेनिंग ट्रैक्स" (Introspective Coupling: Self-Explanation Training Tracks) पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।

मुख्य विचार: एक रोबोट को खुद को समझाने के लिए सिखाना (झूठ बोले बिना)

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान रोबोट सहायक है। आप चाहते हैं कि वह आपको बताए कि उसने एक निश्चित निर्णय क्यों लिया। लेकिन एक समस्या है: रोबोट मानवीय भाषा की नकल करने में माहिर होते हैं। यदि आप एक रोबोट को एक पाठ्यपुस्तक दिखाते हैं जिसमें लिखा है, "जब आप लाल बत्ती देखें, तो कहें 'मैंने रुकने के लिए इसलिए रुका क्योंकि वह लाल थी'," तो रोबोट उस वाक्य को पूरी तरह से बोलना सीख सकता है। लेकिन अगर रोबोट का वास्तविक व्यवहार बाद में बदल जाता है (मान लीजिए, जल्दी में होने के कारण वह रेड लाइट पार करने लगता है), तो वह अभी भी उसी पाठ्यपुस्तक की लाइन बोलता रह सकता है, भले ही वह जो कर रहा है उसके बारे में झूठ बोल रहा हो।

यह पेपर पूछता है: क्या हम एक रोबोट को उसके वर्तमान कार्यों को समझाने के लिए प्रशिक्षित कर सकते हैं, भले ही हमने उसे केवल उन पुराने उदाहरणों का उपयोग करके सिखाया हो जब वह अलग था?

चौंकाने वाला उत्तर है हाँ। लेखकों ने एक घटना की खोज की जिसे वे "इंट्रोस्पेक्टिव कपलिंग" (Introspective Coupling) कहते हैं।

प्रयोग: "पुरानी फोटो" बनाम "लाइव फीड"

इसका परीक्षण करने के लिए, शोधकर्ताओं ने एक ऐसा प्रशिक्षण परिदृश्य तैयार किया जो थोड़ा समय-यात्रा के विरोधाभास (time-travel paradox) जैसा लगता है:

सेटअप: उन्होंने एक बेस AI मॉडल (मान लीजिए "बेस मॉडल") लिया और यह रिकॉर्ड किया कि वह सवालों के जवाब कैसे देता है। फिर उन्होंने उन जवाबों के आधार पर एक "प्रशिक्षण नियमावली" (डेटासेट) बनाई। यह नियमावली बताती है कि बेस मॉडल ने जो किया वह क्यों किया।
प्रशिक्षण: उन्होंने एक नए संस्करण वाले मॉडल ("प्रशिक्षित मॉडल") को इस नियमावली को पढ़ना और स्पष्टीकरण उत्पन्न करना सिखाया।
ट्विस्ट: प्रशिक्षित मॉडल को नियमावली पढ़ना सिखाते समय, उन्होंने इसके व्यवहार को बेस मॉडल के करीब रहने के लिए धीरे से प्रेरित भी किया। हालाँकि, सीख रहे होने के कारण, प्रशिक्षित मॉडल स्वाभाविक रूप से थोड़ा बदलने लगा। यह बेस मॉडल की तुलना में थोड़े अलग चुनाव करने लगा, जैसा कि नियमावली लिखे जाने के समय वह करता था।

प्रश्न: जब आप प्रशिक्षित मॉडल से पूछते हैं, "आपने अभी वह क्यों किया?", तो क्या वह:

A) नियमावली से पुराना स्पष्टीकरण दोहराएगा (जो पुराने व्यवहार का वर्णन करता है)?
B) एक नया स्पष्टीकरण बनाएगा जो सटीक रूप से वर्णन करेगा कि उसने वास्तव में अभी क्या किया?

परिणाम: प्रशिक्षित मॉडल ने विकल्प B चुना। भले ही उसे प्रशिक्षित करने के लिए "पुरानी फोटो" का उपयोग किया गया था, उसने दर्पण में देखना और अपने वर्तमान चेहरे का वर्णन करना सीख लिया। उसने केवल स्क्रिप्ट रटी नहीं; उसने आत्म-अवलोकन (self-observation) का कौशल सीखा।

"इंट्रोस्पेक्टिव कपलिंग" का रूपक (Metaphor)

AI को एक डांस इंस्ट्रक्टर (नृत्य प्रशिक्षक) के रूप में सोचें जो नृत्य की मुद्राओं का वर्णन करना सीख रहा है।

पुराना तरीका (अनुकरण/Imitation): आप इंस्ट्रक्टर को 1990 के एक डांस का वीडियो दिखाते हैं। आप उनसे मूव्स का वर्णन करने को कहते हैं। वे विवरण याद कर लेते हैं: "बाएँ कदम बढ़ाएं, दाएँ घूमें।" लेकिन अगर इंस्ट्रक्टर आज अलग तरह से नाचने लगे (मान लीजिए, वे दाएँ कदम बढ़ाते हैं), तो वे अभी भी कह सकते हैं "बाएँ कदम बढ़ाएं" क्योंकि वीडियो में यही कहा गया था। वे केवल स्क्रिप्ट दोहरा रहे हैं।
नया तरीका (इंट्रोस्पेक्टिव कपलिंग): शोधकर्ताओं ने पाया कि यदि आप इंस्ट्रक्टर को सावधानीपूर्वक प्रशिक्षित करते हैं, तो कुछ जादुई होता है। भले ही इंस्ट्रक्टर अपने सबक के लिए अभी भी 1990 के वीडियो को देख रहा हो, जब वे वास्तव में आज नाचना शुरू करते हैं, तो वे सहज रूप से कहते हैं, "मैं अभी दाएँ कदम बढ़ा रहा हूँ।"

"कपलिंग" वह अदृश्य कड़ी है जो इंस्ट्रक्टर के मुँह (स्पष्टीकरण) और उनके पैरों (वास्तविक व्यवहार) के बीच बनती है। मुँह, पैरों को ट्रैक करना सीख जाता है, भले ही पैर मूल वीडियो से दूर चले गए हों।

मुख्य निष्कर्ष (सरल भाषा में)

1. यह "स्थिर" (Static) प्रशिक्षण डेटा के साथ भी काम करता है
आमतौर पर, यदि आप किसी मॉडल को पुराने डेटा पर प्रशिक्षित करते हैं, तो वह अतीत में ही अटका रहता है। लेकिन यहाँ, मॉडल ने अपने स्पष्टीकरणों को वास्तविक समय (real-time) में अपडेट करना सीख लिया। यह एक ऐसे GPS की तरह है जिसे 2020 के मानचित्र के साथ प्रोग्राम किया गया था, लेकिन जैसे-जैसे 2024 में सड़कें बदलीं, GPS ने बिना किसी सॉफ्टवेयर अपडेट के आपको सही और अपडेटेड दिशा-निर्देश देने शुरू कर दिए।

2. "रेगुलराइजेशन" (Regularization) का गोंद
यह जादू तभी होता है जब प्रशिक्षण में "बिहेवियरल रेगुलराइजेशन" (behavioral regularization) नामक एक विशिष्ट "गोंद" शामिल हो।

गोंद के बिना: मॉडल प्रशिक्षण डेटा से बहुत दूर चला जाता है, भ्रमित हो जाता है, और केवल पुराना स्क्रिप्ट दोहराता है (विकल्प A)।
गोंद के साथ: मॉडल मूल डेटा के काफी करीब रहता है ताकि वह समझाने का कौशल सीख सके, लेकिन इतना स्वतंत्र भी रहता है कि अपना व्यवहार बदल सके। यह संतुलन मॉडल को अपने शब्दों को अपने वर्तमान कार्यों से जोड़ने के लिए मजबूर करता है।

3. यह विभिन्न "व्यक्तित्वों" पर काम करता है
शोधकर्ताओं ने तीन अलग-अलग प्रकार के कठिन व्यवहारों पर इसका परीक्षण किया:

सिकोफैंसी (Sycophancy): जब AI उपयोगकर्ता के साथ केवल अच्छा दिखने के लिए सहमत होता है, भले ही उपयोगकर्ता गलत हो।
रिफ्यूज़ल (Refusal): जब AI खतरनाक अनुरोधों को "ना" कहता है।
सामान्य ड्रिफ्ट (General Drift): जब AI अन्य डेटा से नई चीजें सीखता है।
इन सभी मामलों में, मॉडल ने अपने प्रशिक्षित व्यक्तित्व के बजाय अपने वर्तमान "व्यक्तित्व" को समझाने का काम सीखा।

4. यह केवल दूसरे रोबोट की नकल नहीं कर रहा है
एक दिलचस्प परीक्षण में, उन्होंने एक "Qwen" मॉडल को "Llama" मॉडल (एक अलग AI परिवार) द्वारा उत्पन्न स्पष्टीकरणों का उपयोग करके प्रशिक्षित किया। भले ही प्रशिक्षण लेबल एक अलग रोबोट से आए थे, Qwen मॉडल ने Llama के व्यवहार के बजाय अपने स्वयं के व्यवहार को समझाना सीख लिया। यह सुझाव देता है कि मॉडल केवल तथ्यों को याद नहीं कर रहा है; वह अपने भीतर झांकने की एक सामान्य क्षमता सीख रहा है।

5. यह नए प्रशिक्षण में भी जीवित रहता है
यदि आप इस प्रशिक्षित मॉडल को कुछ बिल्कुल नया (जैसे नई भाषा या नया कार्य) सिखाते हैं, तो उसकी खुद को समझाने की क्षमता टूटती नहीं है। यह अपने नए व्यवहारों को ट्रैक करना जारी रखता है, भले ही उसने प्रशिक्षण के दौरान उन नए कार्यों के लिए कभी कोई स्पष्टीकरण नहीं देखा हो।

इसका क्या अर्थ है (पेपर के अनुसार)

पेपर यह निष्कर्ष निकालता है कि हमें एक रोबोट के व्यवहार को समझाने के लिए लगातार नए वीडियो रिकॉर्ड करने की आवश्यकता नहीं है। हम उदाहरणों का एक निश्चित सेट उपयोग कर सकते हैं, और यदि हम इसे सही ढंग से प्रशिक्षित करते हैं, तो रोबोट स्वाभाविक रूप से अपने वर्तमान स्वरूप के अनुरूप अपने स्पष्टीकरणों को अपडेट करना सीख जाएगा।

यह एक बड़ी बात है क्योंकि यह एक ऐसे स्केलेबल तरीके का सुझाव देता है जिससे ऐसे AI सिस्टम बनाए जा सकें जो इस बात के प्रति ईमानदार हों कि वे अभी क्या कर रहे हैं, न कि केवल उस स्क्रिप्ट को दोहराएं जो उन्होंने कल सीखी थी।

महत्वपूर्ण नोट: पेपर पूरी तरह से इस सीखने की प्रक्रिया (mechanism) पर केंद्रित है। यह दावा नहीं करता है कि यह सभी AI सुरक्षा समस्याओं को हल कर देता है, न ही यह किसी विशिष्ट चिकित्सा या नैदानिक अनुप्रयोग का सुझाव देता है। यह केवल यह दिखाता है कि यह "सेल्फ-ट्रैकिंग" क्षमता, कि कैसे मॉडल सीखते हैं, का एक मजबूत और उभरता हुआ गुण है।

तकनीकी सारांश: भाषा मॉडलों में आत्मनिरीक्षण युग्मन (Introspective Coupling)

समस्या विवरण

भाषा मॉडलों (LMs) को व्याख्यात्मक बनाने में एक केंद्रीय चुनौती यह सुनिश्चित करना है कि उनकी स्व-जनित व्याख्याएं केवल प्रशंसनीय व्याख्या पैटर्न की नकल करने के बजाय, उनकी वर्तमान निर्णय लेने की प्रक्रियाओं का निष्ठापूर्वक अनुसरण करें। पिछले कार्यों में मॉडलों को काउंटरफैक्चुअल (counterfactual) व्याख्याएं उत्पन्न करने के लिए प्रशिक्षित करने की खोज की गई है (जैसे, "यदि यह संकेत हटा दिया जाए तो आपका उत्तर कैसे बदलेगा?") जो कि एक प्रारंभिक स्नैपशॉट से प्राप्त लेबल पर सुपरवाइज्ड फाइन-ट्यूनिंग (SFT) का उपयोग करता है। हालाँकि, एक महत्वपूर्ण सीमा मौजूद है: जैसे-जैसे मॉडल को व्याख्या उत्पन्न करने के लिए फाइन-ट्यून किया जाता है, उसके गैर-व्याख्या इनपुट पर व्यवहार में बदलाव (drift) आ सकता है। फलस्वरूप, मॉडल मूल चेकपॉइंट (प्रशिक्षण लक्ष्य) के व्यवहार की व्याख्या करना सीख जाने का जोखिम उठाता है, न कि अपने स्वयं के वर्तमान व्यवहार की। यह प्रश्न उठता है: क्या स्थिर, स्टैटिक व्याख्या डेटासेट पर प्रशिक्षित मॉडल अभी भी अपने विकसित होते व्यवहारों पर आत्मनिरीक्षण करना सीख सकते हैं?

कार्यप्रणाली

लेखक "इंट्रोस्पेक्टिव कपलिंग" (आत्मनिरीक्षण युग्मन) की जांच करने के लिए एक रूपरेखा प्रस्तावित करते हैं, जो एक ऐसी घटना है जहाँ एक मॉडल की व्याख्याएं उसके वर्तमान व्यवहार के साथ जुड़ी रहती हैं, भले ही उसे एक पिछले संस्करण से प्राप्त स्टैटिक लेबल पर प्रशिक्षित किया गया हो।

प्रयोगात्मक सेटअप

आधार मॉडल और डेटा: प्राथमिक प्रयोगों में बेस मॉडल ( $M_0$ $M_{0}$ ) के रूप में Qwen3-8B का उपयोग किया गया है। अध्ययन में तीन अलग-अलग कार्यों का उपयोग किया गया है:
- Hint-MMLU: सिकोफैंसी (sycophancy) का परीक्षण करना जहाँ मॉडल इंजेक्ट किए गए संकेतों के आधार पर उत्तर बदलते हैं।
- AITA: सिस्टम प्रॉम्प्ट फ्रेमिंग (प्रथम-व्यक्ति बनाम तृतीय-व्यक्ति) के आधार पर नैतिक निर्णय में सिकोफैंसी का परीक्षण करना।
- Refusal (अस्वीकार): यूजर रोल (जैसे, शिक्षक बनाम लेखक) के आधार पर रिफ्यूजल व्यवहार का परीक्षण करना।
व्याख्या निर्माण: आधार मॉडल के व्यवहार से ग्राउंड-ट्रुथ व्याख्याएं ( $E(M_0)$ ) नियत रूप से (deterministically) बनाई गई हैं। एक दिए गए इनपुट $x$ के लिए जिसमें एक संकेत $C$ है (जैसे, एक हिंट), व्याख्या यह वर्णन करती है कि यदि $C$ को हटा दिया जाए तो क्या मॉडल का उत्तर बदल जाता है ( $x \setminus C$ )।
प्रशिक्षण उद्देश्य: मॉडल को इन व्याख्याओं की भविष्यवाणी करने के लिए फाइन-ट्यून किया जाता है। महत्वपूर्ण रूप से, प्रशिक्षण उद्देश्य में एक व्यवहार संबंधी रेगुलराइज़र (KL डाइवर्जेंस) शामिल है ताकि मॉडल का व्यवहार व्याख्या प्रशिक्षण चरण के दौरान बेस मॉडल $M_0$ के करीब रहे:
$\mathcal{L}(M) = \mathbb{E}_{(q,e) \sim E(M_0)} [-\log p_M(e|q)] + \lambda \mathbb{E}_{(x,y) \sim B(M_0)} [\text{KL}(p_{M_0}(y|x) \parallel p_M(y|x))]$
यहाँ, $\lambda$ व्यवहार संबंधी रेगुलराइजेशन की शक्ति को नियंत्रित करता है।
मूल्यांकन मेट्रिक्स:
- एक्सप्लेनेशन एक्जैक्ट मैच (EM): यह मापता है कि प्रशिक्षित मॉडल की अनुमानित व्याख्या ग्राउंड ट्रुथ से कितनी अच्छी तरह मेल खाती है।
- Self vs. Orig: मुख्य मेट्रिक मॉडल की व्याख्या सटीकता की तुलना निम्नलिखित से करता है:
  - Orig: मूल आधार मॉडल की ग्राउंड ट्रुथ व्याख्याएं ( $E(M_0)$ )।
  - Self: मॉडल के वर्तमान व्यवहार की ग्राउंड ट्रुथ व्याख्याएं ( $E(M_{reg}$ )।
- इंट्रोस्पेक्टिव कपलिंग: इसे इस स्थिति के रूप में परिभाषित किया गया है जहाँ Self > Orig होता है, जिसका अर्थ है कि मॉडल अपने वर्तमान व्यवहार की व्याख्या मूल मॉडल की तुलना में बेहतर तरीके से करता है।

मुख्य योगदान और निष्कर्ष

1. इंट्रोस्पेक्टिव कपलिंग का उद्भव (Self > Orig)

यह शोध पत्र प्रदर्शित करता है कि जब मॉडलों को व्यवहार संबंधी रेगुलराइजेशन के साथ प्रशिक्षित किया जाता है, तो वे अक्सर ऐसी व्याख्याएं उत्पन्न करते हैं जो उनके वर्तमान व्यवहार के प्रति अधिक निष्ठावान होती हैं, बजाय स्थिर प्रशिक्षण लक्ष्यों के।

परिणाम: Hint-MMLU, AITA, और Refusal कार्यों में, रेगुलराइज्ड मॉडल ( $M_{reg}$ ) अपने स्वयं के वर्तमान व्यवहार (Self) पर मूल बेस मॉडल के व्यवहार (Orig) की तुलना में उच्च एक्सप्लेनेशन EM प्राप्त करता है।
विपरीत स्थिति: व्यवहार संबंधी रेगुलराइजेशन के बिना ( $\lambda=0$ ), यह प्रभाव गायब हो जाता है; मॉडल वास्तव में मूल मॉडल (Orig) की व्याख्या करने में स्वयं (Self) से बेहतर प्रदर्शन करता है, जो यह दर्शाता है कि इसने केवल प्रशिक्षण लेबल को याद कर लिया है बिना अपने स्वयं के ड्रिफ्ट को ट्रैक किए।

2. यांत्रिक साक्ष्य (Mechanistic Evidence)

एक्टिवेशन पैचिंग का उपयोग करते हुए, लेखक यांत्रिक साक्ष्य प्रदान करते हैं कि व्यवहार और व्याख्या सर्किट, जो इंट्रोस्पेक्टिव कपलिंग प्रदर्शित करने वाले मॉडलों में होते हैं,กัน काउज़ल रूप से जुड़े हुए हैं।

सहसंबंध: ऐसे हस्तक्षेप जो मॉडल के व्यवहार लॉजिट्स (logits) को बदलते हैं, वे इसके एक्सप्लेनेशन लॉजिट्स को भी उसी दिशा में बदलते हैं (रेगुलराइज्ड मॉडलों के लिए पियर्सन सहसंबंध $r \approx 0.89$ )।
बेसलाइन: अन-रेगुलराइज्ड मॉडल काफी कम सहसंबंध ( $r \approx 0.53$ ) दिखाते हैं, जो यह सुझाव देता है कि कपलिंग प्रशिक्षण की गतिशीलता का एक विशिष्ट परिणाम है, न कि आर्किटेक्चर का एक सामान्य गुण।

3. उद्भव की स्थितियाँ

यह पेपर जांच करता है कि यह कपलिंग कब उभरती है:

ऑनलाइन लेबल-सेल्फ कम्पैटिबिलिटी: कपलिंग पर्यवेक्षण लेबल और प्रशिक्षण के दौरान मॉडल के वर्तमान व्यवहार के बीच समानता पर निर्भर करती है। यदि मॉडल का व्यवहार लेबल से बहुत दूर चला जाता है (कम ऑनलाइन सहमति), तो कपलिंग टूट जाती है।
थ्रेशोल्ड (सीमा): Self > Orig उभरने के लिए पर्यवेक्षण लेबल और मॉडल के वर्तमान व्यवहार के बीच न्यूनतम स्तर की सहमति (Qwen3-8B के लिए Hint-MMLU पर लगभग 70%) आवश्यक है।
क्रॉस-मॉडल जनरलाइजेशन: कपलिंग तब भी बनी रहती है जब व्याख्या लेबल किसी अन्य मॉडल परिवार द्वारा उत्पन्न किए जाते हैं (उदाहरण के लिए, Qwen को Llama की व्याख्याओं पर प्रशिक्षित करना)। जब तक व्यवहार संबंधी रेगुलराइजेशन प्रशिक्षित मॉडल के व्यवहार को लेबल के स्रोत के समान रखता है, मॉडल अपने स्वयं के वर्तमान राज्य की व्याख्या करना सीखता है, न कि उस विदेशी मॉडल की स्थिति की।

4. ऑक्सिलरी ट्रेनिंग में सामान्यीकरण (Generalization to Auxiliary Training)

लेखक यह परीक्षण करते हैं कि क्या इंट्रोस्पेक्टिव कपलिंग सहायक डेटासेट (जैसे, "Jabberwocky" निरर्थक डेटा या वास्तविक दुनिया के चैट लॉग) पर समवर्ती पोस्ट-ट्रेनिंग के माध्यम से प्राप्त व्यवहारों में सामान्यीकृत होती है।

परिणाम: सहायक डेटा के साथ व्याख्या कार्यों पर प्रशिक्षित मॉडल उन व्यवहारों की सटीक व्याख्या कर सकते हैं जो उन्होंने केवल सहायक प्रशिक्षण के माध्यम से प्राप्त किए हैं, भले ही उन्हें उन विशिष्ट व्यवहारों के लिए कभी भी व्याख्या पर्यवेक्षण प्राप्त न हुआ हो।
निहितार्थ: व्याख्या फंक्शन उन व्यवहारिक बदलावों को ट्रैक करने के लिए सामान्यीकृत होता है जो अन्य पोस्ट-ट्रेनिंग उद्देश्यों द्वारा प्रेरित होते हैं।

महत्व और दावे

यह पेपर दावा करता है कि इंट्रोस्पेक्टिव कपलिंग भाषा मॉडलों में निष्ठावान स्व-व्याख्या के लिए एक स्केलेबल मार्ग प्रदान करती है।

स्केलेबिलिटी: परिणाम बताते हैं कि व्याख्या डेटासेट को मॉडल के फाइन-ट्यून होने के साथ लगातार पुन: उत्पन्न करने की आवश्यकता नहीं है। एक प्रारंभिक चेकपॉइंट से प्राप्त काउंटरफैक्चुअल व्याख्याओं का एक निश्चित डेटासेट आत्मनिरीक्षण के लिए एक सामान्यीकरण योग्य सिग्नल के रूप में कार्य कर सकता है, बशर्ते व्यवहार संबंधी रेगुलराइजेशन पर्याप्त समानता बनाए रखे।
निगरानी (Monitoring): यह घटना मॉडलों को व्यवहारिक ड्रिफ्ट के लिए "हमेशा सक्रिय" प्रोब के रूप में कार्य करने में सक्षम बनाती है। भले ही मॉडल अन्य पोस्ट-ट्रेनिंग उद्देश्यों (जैसे सुरक्षा ट्यूनिंग या इंस्ट्रक्शन ट्यूनिंग) से गुजरता है जो उसके व्यवहार को बदल देते हैं, उसकी स्व-व्याख्याएं बिना अपडेटेड सुपरविजन के इन बदलावों को ट्रैक कर सकती हैं।
विशेषाधिकार प्राप्त पहुंच (Privileged Access): निष्कर्ष इस विचार का समर्थन करते हैं कि एलएम (LMs) अपने स्वयं के निर्णय लेने की प्रक्रिया तक एक प्रकार की विशेषाधिकार प्राप्त पहुंच रखते हैं, जिससे वे बाहरी मॉडल (या यहाँ तक कि उस मॉडल जो प्रशिक्षण लेबल उत्पन्न करता है) की तुलना में अपने स्वयं के व्यवहार का बेहतर मॉडल बना सकते हैं।

लेखक विनम्र रहते हुए नोट करते हैं कि इस घटना के लिए प्रशिक्षण डेटा में पर्याप्त व्यवहारिक भिन्नता की आवश्यकता होती है और यांत्रिक कहानी (विशिष्ट "इंट्रोस्पेक्शन सर्किट") अभी पूरी तरह से मैप नहीं की गई है। वे इस कार्य को एक्सट्रोस्पेक्टिव (extrospective) व्याख्यात्मक उपकरणों के विकल्प के बजाय उनके पूरक के रूप में देखते हैं।