🤖 machine learning

One Model, Two Roles: Emergent Specialization in a Shared Recurrent Transformer

यह शोध पत्र यह प्रदर्शित करता है कि एक साझा-भार वाला आवर्ती (recurrent) ट्रांसफॉर्मर स्वतः ही विशिष्ट कार्यात्मक भूमिकाएँ—विशेष रूप से एक प्रतिबद्ध प्रस्ताव अवस्था (committed proposal state) और एक अनिश्चित मध्यवर्ती अवस्था (uncertain intermediate state)—विकसित कर सकता है, जब इसे अपडेट प्रकारों के बीच अंतर करने के लिए एक स्पष्ट संकेत प्रदान किया जाता है, जैसे कि असममित इनपुट इंजेक्शन या एक अलग स्तर टोकन।

मूल लेखक: Jucheng Shen, Barbara Su, Anastasios Kyrillidis

प्रकाशित 2026-05-19

📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC BY 4.0

मूल लेखक: Jucheng Shen, Barbara Su, Anastasios Kyrillidis

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक अकेला, बहुत बुद्धिमान सहायक (AI मॉडल) है जो किसी जटिल पहेली को हल करने की कोशिश कर रहा है, जैसे कि सुडोकू या भूलभुलैया। आमतौर पर, इन्हें हल करने के लिए, आप सोच सकते हैं कि आपको दो अलग-अलग लोगों की आवश्यकता होगी: एक जो जंगली विचार (wild ideas) पैदा करे और दूसरा जो तथ्यों की जाँच करे।

यह शोध पत्र एक दिलचस्प सवाल पूछता है: क्या एक ही व्यक्ति ये दोनों काम प्रभावी ढंग से कर सकता है यदि उसे बस यह पता हो कि वह उस समय कौन सा काम कर रहा है?

शोधकर्ताओं ने इस परीक्षण के लिए AIR (Asymmetric Input Recurrence) नामक एक प्रणाली बनाई। यह कैसे काम करती है, इसके सरल उदाहरण यहाँ दिए गए:

सेटअप: एक मस्तिष्क, दो टोपियाँ

AI के दो "मानसिक अवस्थाएँ" (mental states) हैं जिनसे वह बार-बार गुजरता है:

"स्क्रैचपैड" (Scratchpad) (अवस्था $z_L$ ): यह अव्यवस्थित, स्थानीय सोच के लिए है। यह वह जगह है जहाँ AI छोटे बदलावों को आज़माता है, भ्रमित होता है, और यह समझने की कोशिश करता है कि क्या काम कर सकता है।
"प्रस्ताव" (Proposal) (अवस्था $z_H$ ): यह एक ठोस निर्णय लेने के लिए है। यह वह जगह है जहाँ AI एक पूर्ण समाधान के प्रति प्रतिबद्ध होता है, भले ही वह अभी पूरी तरह से सही न हो।

अधिकांश AI मॉडलों में, इन दो भूमिकाओं को दो पूरी तरह से अलग मस्तिष्क कोशिकाओं (parameters) द्वारा संभाला जाता है। लेकिन इस प्रयोग में, शोधकर्ताओं ने उसी सटीक मस्तिष्क कोशिकाओं को दोनों काम करने के लिए मजबूर किया।

सफलता का रहस्य: "सिग्नल" (The Signal)

मस्तिष्क को कैसे पता चलता है कि उसे कौन सी टोपी पहननी है? शोधकर्ताओं ने इसे एक छोटा सा संकेत दिया:

जब मस्तिष्क "स्क्रैचपैड" का काम कर रहा होता है, तो उसके मन में एक "संकेत" (पहेली का इनपुट) डाला जाता है।
जब वह "प्रस्ताव" का काम कर रहा होता है, तो उसे कोई संकेत नहीं मिलता। उसे पिछले चरणों की अपनी स्मृति पर निर्भर रहना पड़ता है।

यह एक ऐसे शेफ की तरह है जिसे रेसिपी की योजना बनाते समय तो सामग्री की ताज़ा सूची मिलती है, लेकिन अंतिम व्यंजन बनाते समय उसे बिना सूची देखे खाना बनाना पड़ता है। उस सूची की उपस्थिति या अनुपस्थिति शेफ को यह बताती है कि उसे किस मोड में होना है।

क्या हुआ? (परिणाम)

शोधकर्ताओं ने पाया कि हाँ, एकल मस्तिष्क सफलतापूर्वक दो अलग-अलग भूमिकाओं में विभाजित हो गया, भले ही हार्डवेयर बिल्कुल एक ही था।

"प्रतिबद्धता" (Commitment) का विभाजन:
- प्रस्ताव अवस्था ( $z_H$ ) बहुत आत्मविश्वासी हो गई। इसने पूरी पहेली को देखा और कहा, "यहाँ उत्तर है!" भले ही उत्तर गलत हो। यह पूरी तरह से "प्रतिबद्ध" थी।
- स्क्रैचपैड अवस्था ( $z_L$ ) अनिश्चित बनी रही। इसने कुछ सेल खाली छोड़ दिए (जैसे कि एक "बाद में तय किया जाना है" वाला नोट) और अपना ध्यान इधर-उधर घुमाती रही। यह "स्थानीय रूप से अनिश्चित" थी।
"ध्यान" (Attention) का विभाजन:
- जब मस्तिष्क स्क्रैचपैड मोड में था, तो इसने अपने निकटतम पड़ोसियों को बहुत करीब से देखा (जैसे सुडोकू में 3x3 बॉक्स की जाँच करना)। यह स्थानीय (local) था।
- जब मस्तिष्क प्रस्ताव मोड में था, तो इसने एक साथ पूरे बोर्ड को देखा। यह वैश्विक (global) था।

"फ्रीज" (Freeze) परीक्षण

यह साबित करने के लिए कि ये दो अवस्थाएँ वास्तव में एक-दूसरे से बात कर रही थीं और एक-दूसरे पर निर्भर थीं, शोधकर्ताओं ने एक "फ्रीज" प्रयोग किया। उन्होंने शाब्दिक रूप से मस्तिष्क के एक हिस्से को चलते हुए रोक दिया जबकि दूसरा काम करता रहा।

सुडोकू में: यदि उन्होंने "प्रस्ताव" मस्तिष्क को फ्रीज कर दिया, तो "स्क्रैचपैड" मस्तिष्क ने अपना मन बदलना बंद कर दिया (वह शांत हो गया)। लेकिन यदि उन्होंने "स्क्रैचपैड" को फ्रीज किया, तो "प्रस्ताव" मस्तिष्क पागल हो गया और लगातार अपना मन बदलने लगा।
भूलभुलैया (Mazes) में: संबंध अलग था; एक को फ्रीज करने से दूसरे ने इसकी भरपाई करने के लिए और अधिक मेहनत की।

इससे यह सिद्ध हुआ कि ये दो भूमिकाएँ केवल यादृच्छिक (random) नहीं थीं; वे एक समन्वित टीम थीं।

बड़ा सबक

शोध पत्र निष्कर्ष निकालता है कि आपको जटिल तर्क करने के लिए दो अलग-अलग AI मॉडल की आवश्यकता नहीं है। आपको बस एक मॉडल और एक स्पष्ट संकेत की आवश्यकता है जो इसे बताए, "अभी, तुम एक सपने देखने वाले हो," या "अभी, तुम एक निर्णय लेने वाले हो।"

यदि आप मॉडल को दोनों कार्यों के बीच अंतर करने का एक तरीका (जैसे "संकेत" या एक विशेष टोकन) देते हैं, तो यह स्वाभाविक रूप से विशेषज्ञता हासिल करने के लिए विकसित होता है, जिससे एक ही साझा मस्तिष्क के भीतर "श्रम का विभाजन" (division of labor) पैदा होता है।

संक्षेप में: एक मस्तिष्क दो टोपियाँ पहन सकता है, बशर्ते उसे पता हो कि किसी भी क्षण वह कौन सी टोपी पहने हुए है।

तकनीकी सारांश: एक मॉडल, दो भूमिकाएँ: एक साझा रिकरेंट ट्रांसफॉर्मर में उभरता हुआ विशेषज्ञता (Emergent Specialization)

समस्या विवरण (Problem Statement)
यह शोध पत्र इस बात की जांच करता है कि क्या एक ही, साझा-भार (shared-weight) वाले रिकरेंट ट्रांसफॉर्मर में दो लेटेंट स्टेट्स (latent states) के लिए अलग-अलग आंतरिक कम्प्यूटेशनल भूमिकाएँ विकसित की जा सकती हैं, बिना उन्हें अलग पैरामीटर मॉड्यूल में विभाजित किए। जबकि HRM (Hierarchical Reasoning Model) जैसे पूर्व कार्य अलग-अलग लेटेंट स्टेट्स के लिए अलग नेटवर्क का उपयोग करते हैं और TRM (Transformer Reasoning Model) एक एकल साझा नेटवर्क का उपयोग करता है, यह स्पष्ट नहीं है कि क्या एक साझा मॉडल स्वाभाविक रूप से विशिष्ट कार्यात्मक भूमिकाओं (जैसे, एक "प्रस्ताव" (proposal) अवस्था बनाम एक "परिष्करण" (refinement) अवस्था) में विशेषज्ञता विकसित कर सकता है, यदि उसे अपडेट प्रकारों को अलग करने वाले एक स्थिर संकेत (signal) के साथ प्रदान किया जाए। केंद्रीय प्रश्न यह है कि क्या विशेषज्ञता के लिए संरचनात्मक मॉड्यूलरिटी (अलग पैरामीटर्स) की आवश्यकता होती है या क्या यह एक मोनोलिथिक साझा आर्किटेक्चर के भीतर कार्यात्मक विभेदीकरण द्वारा संचालित होकर उभर सकती है।

कार्यप्रणाली: एसिमेट्रिक इनपुट रिकरेंस (Asymmetric Input Recurrence - AIR)
इसे संबोधित करने के लिए, लेखक HRM और TRM से प्राप्त एक न्यूनतम टेस्टबेड, एसिमेट्रिक इनपुट रिकरेंस (AIR) पेश करते हैं।

आर्किटेक्चर: AIR दो लेटेंट स्टेट्स, $z_H$ (उच्च-स्तरीय) और $z_L$ (निम्न-स्तरीय) को बनाए रखता है, जिन्हें एक एकल साझा ट्रांसफॉर्मर मॉडल $f(\cdot; \theta)$ द्वारा अपडेट किया जाता है।
अपडेट तंत्र: रिकरेंस इंटरलीव्ड सब-स्टेप्स (जैसे, $L, L, H, L, L, H$ $L, L, H, L, L, H$ ) के पैटर्न का पालन करता है। महत्वपूर्ण विषमता (asymmetry) इनपुट इंजेक्शन में निहित है:
- L-अपडेट्स: एनकोडेड इनपुट $\tilde{x}$ को अपडेट नियम में इंजेक्ट किया जाता है ( $z_L \leftarrow f(z_L + z_H + \alpha_L \tilde{x})$ )।
- H-अपडेट्स: एनकोडेड इनपुट को इंजेक्ट नहीं किया जाता है ( $z_H \leftarrow f(z_H + z_L + \alpha_H \tilde{x}$ जहाँ $\alpha_H=0$ है)।
प्रशिक्षण: मॉडल को दो सिंथेटिक रीजनिंग कार्यों, सुडोकू-एक्सट्रीम (9x9 पहेलियाँ) और मेज़ (30x30 ग्रिड) पर एक-चरण ट्रंकेटेड ग्रेडिएंट्स (केवल चक्र के अंतिम L और H अपडेट के माध्यम से बैकप्रोपैगेट करना) का उपयोग करके प्रशिक्षित किया गया है।
विश्लेषण: लेखक मॉडल की जांच करने के लिए कई तकनीकों का उपयोग करते हैं:
- डिकोडेड रोलआउट्स (Decoded Rollouts): प्रतिबद्धता स्तरों (commitment levels) को देखने के लिए मध्यवर्ती अवस्थाओं को विज़ुअलाइज़ करना।
- फ्रीज़ प्रयोग (Freeze Experiments): दूसरे की सामग्री परिवर्तन को मापने के लिए एक स्टेट को फ्रीज़ करना।
- एब्लेशन (Ablations): सममित इनपुट इंजेक्शन (विषमता को हटाना) और वैकल्पिक स्टेट-आइडेंटिटी सिग्नल्स (लेवल टोकन्स) का परीक्षण करना।
- मैकेनिस्टिक विश्लेषण (Mechanistic Analysis): अटेंशन पैटर्न (स्थानीयता बनाम वैश्विकता) और उल्लंघन संवेदनशीलता का विश्लेषण करना।

मुख्य योगदान और परिणाम

कार्यात्मक विशेषज्ञता का अस्तित्व (Existence of Functional Specialization):
डिकोडेड रोलआउट्स साझा मॉडल के व्यवहार में एक स्थिर, उभरते हुए विभाजन को प्रकट करते हैं:
- $z_H$ (उच्च-स्तरीय): एक "पूर्णतः प्रतिबद्ध प्रस्ताव अवस्था" (fully committed proposal state) के रूप में व्यवहार करता है। यह प्रत्येक सब-स्टेप पर एक पूर्ण कैंडिडेट समाधान को डिकोड करता है, भले ही वह गलत हो।
- $z_L$ (निम्न-स्तरीय): एक "शिफ्टिंग-कमिटमेंट स्क्रैचपैड" (shifting-commitment scratchpad) के रूप में व्यवहार करता है। यह स्थानीय अनिश्चितता को बनाए रखता है, जिसमें अनिश्चित स्थान (सुडोकू में BLANK, मेज़ में PAD) सब-स्टेप्स के दौरान बदलते रहते हैं।
- कंट्रोल: सममित वेरिएंट्स (जहाँ दोनों स्टेट्स को समान इनपुट इंजेक्शन प्राप्त होता है) में, यह विशिष्ट भूमिका विभाजन लगभग गायब हो जाता है, जो पुष्टि करता है कि विशेषज्ञता दो स्टेट्स होने के कारण स्वाभाविक नहीं है बल्कि अपडेट प्रकारों को अलग करने की क्षमता पर निर्भर करती है।
स्टेट-आइडेंटिटी सिग्नल विशेषज्ञता को प्रेरित करता है (State-Identity Signal Induces Specialization):
पेपर यह प्रदर्शित करता है कि विशेषज्ञता को प्रेरित करने के लिए साझा मॉडल को अपडेट प्रकारों को अलग करने के लिए एक विश्वसनीय संकेत की आवश्यकता होती है।
- इनपुट विषमता (Input Asymmetry): एसिमेट्रिक इनपुट इंजेक्शन ( $\Delta > 0$ ) सटीकता में काफी सुधार करता है (जैसे, सुडोकू के लिए ~59% बनाम सममित वेरिएंट के लिए ~51%)।
- लेवल टोकन्स (Level Tokens): लेखकों ने सीखे गए लेवल टोकन्स का उपयोग करके वैकल्पिक संकेतों का परीक्षण किया। केवल एक "प्रीपेंड-एंड-स्ट्रिप" (prepend-and-strip) रणनीति (जहाँ एक टोकन जोड़ा जाता है, उस पर अटेंड किया जाता है, और फिर हटाया जाता है) ही प्रदर्शन अंतर को सफलतापूर्वक पुनः प्राप्त कर सकी। सरल एलिमेंट-वाइज एडिशन या पर्सिस्टेंट टोकन्स विफल रहे, जिससे पता चलता है कि सिग्नल को संरचनात्मक रूप से अलग होना चाहिए और कंटेंट टोकन्स में मिश्रित नहीं होना चाहिए।
- सिंगल-स्टेट एब्लेशन (Single-State Ablation): आवधिक इनपुट इंजेक्शन वाला एक सिंगल-स्टेट मॉडल दो-स्टेट एसिमेट्रिक मॉडल के प्रदर्शन से मेलने में विफल रहा, जो दर्शाता है कि स्थिर विशेषज्ञता के लिए अलग-अलग मेमोरी बफ़र्स आवश्यक हैं।
परस्पर निर्भर स्टेट डायनेमिक्स (Interdependent State Dynamics):
फ्रीज़ प्रयोग दोनों स्टेट्स के बीच एक विशिष्ट संबंध प्रकट करते:
- सुडोकू: $z_H$ को फ्रीज़ करने से $z_L$ की गतिविधि दब जाती है (सामग्री परिवर्तन कम हो जाता है), जबकि $z_L$ को फ्रीज़ करने से $z_H$ की गतिविधि बढ़ जाती है।
- मेज़: किसी भी स्टेट को फ्रीज़ करने से दूसरे में सामग्री परिवर्तन बढ़ जाता है।
- सममित कंट्रोल: सममित मॉडल्स में इस व्यवस्थित, भूमिका-संगत इंटरेक्शन पैटर्न का अभाव होता है, वे व्यवधान-संवेदनशील लेकिन असंरचित प्रतिक्रियाएं दिखाते हैं।
मैकेनिस्टिक साक्ष्य (अटेंशन विश्लेषण):
अटेंशन विश्लेषण कार्यात्मक विभाजन की पुष्टि करता है:
- स्थानीयता (Locality): $L$ -अपडेट्स लगातार $H$ -अपडेट्स की तुलना में अधिक स्थानीय रूप से (तत्काल पड़ोस में) अटेंड करते हैं, जो अधिक ग्लोबल अटेंशन प्रदर्शित करते हैं।
- उल्लंघन संवेदनशीलता (Violation Sensitivity): सुडोकू पर, $L$ -अपडेट्स की गहरी परतें विशिष्ट अटेंशन रूटिंग को उल्लंघन किए गए बाधाओं (constraints) की ओर दिखाती हैं, जो $H$ -अपडेट्स या मेज़ टास्क में नहीं देखा गया सिग्नल है।

महत्व और दावे (Significance and Claims)
पेपर का दावा है कि रिकरेंट रीजनिंग में कार्यात्मक विशेषज्ञता के लिए स्पष्ट पैरामीटर मॉड्यूलरिटी (अलग नेटवर्क) सख्त रूप से आवश्यक नहीं है। इसके बजाय, एक स्पष्ट स्टेट-आइडेंटिटी सिग्नल—जो या तो एसिमेट्रिक इनपुट इंजेक्शन या एक संरचनात्मक रूप से अलग लेवल टोकन के माध्यम से प्रदान किया जाता है—एक साझा-पैरामीटर रिकरेंट ट्रांसफॉर्मर के भीतर स्थिर, संबंधित कार्यात्मक भूमिकाओं को प्रेरित करने के लिए पर्याप्त है।

लेखक इस कार्य को छोटे रिकरेंट रीजनिंग सिस्टम के इंडक्टिव बायस (inductive biases) के आधारभूत शोध के रूप में देखते हैं। वे इस बात पर जोर देते हैं कि उनके निष्कर्ष नियंत्रित सिंथेटिक सेटिंग्स (सुडोकू और मेज़) से लिए गए हैं और वे प्राकृतिक भाषा या आंशिक दृश्यता (partial observability) में सार्वभौमिकता का दावा नहीं करते हैं। प्राथमिक योगदान यह प्रदर्शित करना है कि "एक मॉडल, दो भूमिकाएँ" कुशल रीजनिंग आर्किटेक्चर के लिए एक व्यवहार्य प्रतिमान (paradigm) है, बशर्ते कि मॉडल अपने अपडेट के कम्प्यूटेशनल संदर्भ को पहचान सके।

सेटअप: एक मस्तिष्क, दो टोपियाँ

सफलता का रहस्य: "सिग्नल" (The Signal)

क्या हुआ? (परिणाम)

"फ्रीज" (Freeze) परीक्षण

बड़ा सबक

इसी तरह के और पेपर