💬 NLP

Stories in Space: In-Context Learning Trajectories in Conceptual Belief Space

यह शोध पत्र प्रस्तावित करता है कि बड़े भाषा मॉडल (large language models) निम्न-आयामी, संरचित "वैचारिक विश्वास स्थानों" (conceptual belief spaces) में नेविगेट करके इन-कॉन्टेक्स्ट लर्निंग (in-context learning) करते हैं, जहाँ विश्वास अपडेट ज्यामितीय प्रक्षेपवक्र (geometric trajectories) के रूप में प्रकट होते हैं जो मॉडल के व्यवहार और आंतरिक निरूपणों दोनों में निरंतर प्रतिबिंबित होते हैं और जिन्हें रैखिक हस्तक्षेपों (linear interventions) के माध्यम से कार्य-कारण रूप से हेरफेर किया जा सकता है।

मूल लेखक: Eric Bigelow, Raphaël Sarfati, Daniel Wurgaft, Owen Lewis, Thomas McGrath, Jack Merullo, Atticus Geiger, Ekdeep Singh Lubana

प्रकाशित 2026-05-13

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Eric Bigelow, Raphaël Sarfati, Daniel Wurgaft, Owen Lewis, Thomas McGrath, Jack Merullo, Atticus Geiger, Ekdeep Singh Lubana

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक लार्ज लैंग्वेज मॉडल (LLM) को केवल तथ्यों को याद रखने वाले रोबोट के रूप में नहीं, बल्कि एक कहानी सुनाने वाले के रूप में देखें जो किताब ज़ोर से पढ़ रहा है। जैसे-जैसे कहानीकार प्रत्येक नया वाक्य पढ़ता है, कथानक (plot), पात्रों की भावनाओं और दृश्य के मिजाज के प्रति उसकी समझ बदलती जाती है। वे केवल कहानी को "जानते" नहीं हैं; वे इस बारे में अपनी आंतरिक "धारणा" (belief) को लगातार अपडेट करते रहते हैं कि क्या हो रहा है।

यह शोध पत्र, जिसका शीर्षक "स्टोरीज इन स्पेस" (Stories in Space) है, यह समझने की कोशिश करता है कि वह कहानीकार अपनी धारणाओं को ठीक से कैसे अपडेट करता है। लेखक एक दिलचस्प विचार प्रस्तावित करते हैं: मॉडल की बदलती धारणाएँ एक विशिष्ट, कम-आयामी (low-dimensional) मानचित्र के साथ चलती हैं जिसे "कॉन्सेप्चुअल बिलीफ स्पेस" (Conceptual Belief Space) कहा जाता है।

यहाँ सरल उपमाओं का उपयोग करके उनके निष्कर्षों का विवरण दिया गया है:

1. धारणाओं का मानचित्र (द कॉन्सेप्चुअल स्पेस)

एक विशाल, अदृश्य 3D कमरे की कल्पना करें जहाँ हर संभव "भावना" या "विचार" का एक विशिष्ट स्थान है।

खुशी ऊपर-दाएँ कोने में हो सकती है।
उदासी नीचे-बाएँ कोने में हो सकती है।
क्रोध इनके बीच कहीं हो सकता है।

शोध पत्र सुझाव देता है कि जब एक LLM कहानी पढ़ता है, तो वह केवल एक विचार से दूसरे विचार पर बेतरतीब ढंग से नहीं कूदता। इसके बजाय, उसकी आंतरिक स्थिति इस मानचित्र पर एक सुचारू पथ (trajectory) के साथ चलती है।

उपमा: कहानी को एक हाइकिंग ट्रेल (पगडंडी) के रूप में सोचें। जैसे ही नायक एक गड्ढे में गिरता है, मॉडल का "विश्वास मार्कर" उदासी के क्षेत्र की ओर बढ़ने के लिए मानचित्र पर नीचे की ओर फिसलता है। जब नायक जीवों को बचाता है, तो मार्कर खुशी की ओर वापस ऊपर की ओर फिसलता है। शोध में पाया गया कि ये पथ अराजक नहीं हैं; वे एक संरचित, अनुमानित ज्यामिति का पालन करते हैं, बिल्कुल वैसे ही जैसे एक घाटी से बहती हुई नदी।

2. एक ही सिक्के के दो पहलू (व्यवहार बनाम मस्तिष्क)

शोधकर्ताओं ने मॉडल को दो तरह से देखा:

व्यवहार (Behavior): जब पूछा जाता है, "यह कहानी अभी कितनी खुशहाल है?" तो मॉडल क्या कहता है (जैसे, 10 में से 7 का स्कोर देना)।
आंतरिक प्रतिनिधित्व (Internal Representations): मॉडल के "मस्तिष्क" (इसके न्यूरल एक्टिवेशन) के अंदर चल रही वास्तविक गणितीय प्रक्रिया, जबकि वह टेक्स्ट को प्रोसेस कर रहा होता है।

खोज: मॉडल जिस पथ पर "व्यवहार मानचित्र" (जो वह कहता है) पर चलता है, वह लगभग उसी पथ के समान है जिस पर वह "मस्तिष्क मानचित्र" (जो वह सोचता है) पर चलता है।

उपमा: यह एक कठपुतली को देखने जैसा है। शोध पत्र ने पाया कि कठपुतली को खींचने वाले धागे (आंतरिक गणित) और कठपुतली की वास्तविक गतिविधियाँ (आउटपुट) पूरी तरह से सिंक्रोनाइज़्ड (तालमेल में) हैं। यदि आप धागों को देख पाते, तो आप सटीक भविष्यवाणी कर पाते कि कठपुतली आगे कहाँ जाएगी, और इसके विपरीत भी।

3. लीनियर प्रोब के साथ मन पढ़ना

लेखकों ने एक उपकरण का उपयोग किया जिसे "लीनियर प्रोब" (linear probe) कहा जाता है। इसे एक सरल अनुवादक के रूप में समझें।

उन्होंने दिखाया कि आप किसी भी क्षण मॉडल के "मस्तिष्क" के भीतर जटिल, अव्यवस्थित गणित को देख सकते हैं और उसे कहानी की भावना के बारे में मॉडल की धारणा की भविष्यवाणी करने के लिए एक सरल रैखिक समीकरण (एक सीधी रेखा) का उपयोग कर सकते हैं।
परिणाम: यह अनुवादक अविश्वसनीय रूप से अच्छा काम करता है। इसका मतलब है कि मॉडल की "धारणाएँ" किसी अभेद्य ब्लैक बॉक्स में छिपी नहीं हैं; वे मॉडल के आंतरिक कोड में स्पष्ट रूप से लिखी गई हैं, बस पढ़े जाने की प्रतीक्षा कर रही हैं।

4. कहानी को दिशा देना (रिमोट कंट्रोल)

सबसे रोमांचक हिस्सा यह है कि उन्होंने केवल मॉडल को देखा ही नहीं; उन्होंने उसे नियंत्रित (steer) भी किया।

उपमा: कल्पना करें कि मॉडल का विश्वास पथ एक सड़क पर चलती कार है। शोधकर्ताओं ने पाया कि वे स्टीयरिंग व्हील को पकड़ सकते हैं (आंतरिक गणित में बदलाव करके) और कार को किसी विशिष्ट गंतव्य, जैसे कि "खुशी," की ओर मुड़ने के लिए मजबूर कर सकते हैं, भले ही कहानी का टेक्स्ट स्वाभाविक रूप से "उदासी" की ओर जा रहा हो।
सावधानी (स्टीयरिंग की ज्यामिति): जब उन्होंने मॉडल को "उदासी" की ओर मोड़ा, तो वह केवल दुखी ही नहीं हुआ; वह थोड़ा क्रोधित भी हो गया और कम खुश भी।
क्यों? क्योंकि उनके "विश्वास मानचित्र" पर, उदासी और क्रोध पड़ोसी हैं। यदि आप मॉडल को उदासी की ओर धकेलते हैं, तो आप अनिवार्य रूप से उसे क्रोध की ओर भी धकेल देते हैं। शोध पत्र ने पाया कि इस स्टीयरिंग से मॉडल कितना "भ्रमित" होता है, यह पूरी तरह से इस बात पर निर्भर करता है कि अवधारणाएँ मानचित्र पर कितनी करीब हैं। यदि दो अवधारणाएँ मानचित्र पर एक-दूसरे से दूर हैं, तो उन्हें मोड़ने से दूसरी पर कोई प्रभाव नहीं पड़ता। यदि वे पास हैं, तो वे आपस में उलझ जाती हैं।

मुख्य दावों का सारांश

धारणाओं का एक आकार होता है: जब LLMs कहानियाँ पढ़ते हैं, तो उनकी बदलती धारणाएँ एक कम-आयामी ज्यामितीय स्थान में सुचारू, संरचित पथों पर चलती हैं।
विचार कार्यों से मेल खाते हैं: मॉडल का आंतरिक गणित और उसके बाहरी उत्तर इस मानचित्र पर बिल्कुल एक ही पथ का अनुसरण करते हैं।
हम धारणाओं को पढ़ और लिख सकते हैं: हम केवल उसके आंतरिक गणित को देखकर यह अनुमान लगा सकते हैं कि मॉडल क्या मानता है, और हम उस गणित में बदलाव करके उसकी धारणाओं को बदल सकते हैं।
ज्यामिति शासन करती है: इस मानचित्र पर अवधारणाओं के बीच की दूरी तय करती है कि मॉडल बदलावों के प्रति कैसे प्रतिक्रिया करता है। जो अवधारणाएँ मानचित्र पर "पड़ोसी" हैं, वे एक-दूसरे को प्रभावित करती हैं; जो दूर हैं, वे एक-दूसरे को प्रभावित नहीं करतीं।

संक्षेप में, यह शोध पत्र तर्क देता है कि LLMs केवल अनुमान नहीं लगा रहे हैं; वे अवधारणाओं के एक संरचित, ज्यामितीय परिदृश्य (landscape) में नेविगेट कर रहे हैं, और अब हम उस मानचित्र को देख सकते हैं, निर्देशांक (coordinates) पढ़ सकते हैं, और यहाँ तक कि वाहन को चला भी सकते हैं।

तकनीकी सारांश: स्पेस में कहानियाँ: वैचारिक विश्वास स्थान में इन-कॉन्टेक्स्ट लर्निंग ट्रेजेक्टरीज़ (Stories in Space: In-Context Learning Trajectories in Conceptual Belief Space)

समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) प्रभावशाली इन-कॉन्टेक्स्ट लर्निंग (ICL) क्षमताएं प्रदर्शित करते हैं, जो वेट अपडेट के बिना नई जानकारी के अनुकूल होने में सक्षम हैं। इस प्रक्रिया को अक्सर बेयसियन इन्फरेंस (Bayesian inference) के रूप में फ्रेम किया जाता है, जहाँ मॉडल इनपुट डेटा के आधार पर लेटेंट कॉन्सेप्ट्स (latent concepts) को पुन: भारित (re-weight) करता है। हालाँकि, उस लेटेंट हाइपोथेसिस स्पेस की संरचना, जिस पर यह इन्फरेंस संचालित होता है, अभी भी अस्पष्ट है। विशेष रूप से, यह अज्ञात है कि LLMs जटिल अवधारणाओं (concepts) का प्रतिनिधित्व कैसे करते हैं और वे फ्रीफॉर्म टेक्स्ट (जैसे कहानियाँ) को प्रोसेस करते समय इन अवधारणाओं पर अपने विश्वासों को गतिशील रूप से कैसे अपडेट करते हैं, जहाँ विश्वास अपडेट गैर-रैखिक (non-linear) और विशिष्ट (idiosyncratic) हो सकते हैं, न कि स्थिर और एकदिशीय (monotonic)।

कार्यप्रणाली (Methodology)

लेखक प्रस्तावित करते हैं कि LLMs एक निम्न-आयामी ज्यामितीय स्थान (low-dimensional geometric space) पर विश्वास सौंपते हैं, जिसे वैचारिक विश्वास स्थान (conceptual belief space) कहा जाता है, और ICL इस स्थान के माध्यम से एक ट्रेजेक्टरी (trajectory) के रूप में होता है। इसकी जांच करने के लिए, वे डायनेमिक बिलीफ अपडेटिंग के एक प्राकृतिक परिवेश के रूप में कहानी की समझ का उपयोग करके व्यवहार संबंधी (behavioral) और प्रतिनिधित्व संबंधी (representational) विश्लेषणों को जोड़ते हैं।

सैद्धांतिक ढांचा (Theoretical Framework)

यह कार्य अनिश्चितता और विश्वास को ध्यान में रखने के लिए 'कॉन्सेप्चुअल स्पेस' (Gärdenfors, 2000) के सिद्धांत को विस्तारित करता है।

वैचारिक स्थान (Conceptual Space - $C$ ): एट्रिब्यूट्स पर एक मेट्रिक स्पेस जहाँ अवधारणाएँ उत्तल उप-स्थानों (convex sub-spaces) के रूप में परिभाषित होती हैं।
वैचारिक विश्वास स्थान (Conceptual Belief Space - $B$ ): $C$ पर संभाव्यता वितरणों (probability distributions) का एक मेट्रिक स्पेस, जो मॉडल की विश्वास अवस्थाओं का प्रतिनिधित्व करता है।
विश्वास ट्रेजेक्टरीज (Belief Trajectories): मॉडल द्वारा कहानी $x_{1:T}$ को प्रोसेस करते समय विश्वास अवस्थाओं का एक क्रम ( $b_{1:T}$ ), जो विश्वास स्थान के माध्यम से एक पथ बनाता है।

प्रयोगात्मक सेटअप (Experimental Setup)

डेटासेट: लेखक SimpleStories डेटासेट का उपयोग करते हैं, जो विभिन्न शैलियों (साहसिक, क्लासिक, सुखद, उदास, दुखद) में सिंथेटिक रूप से जनरेट की गई लघु कहानियों से बना है।
डोमेन (Domains): तीन वैचारिक डोमेन का परीक्षण किया गया:
1. भावनाएं (Emotions): खुशी, उदासी, क्रोध, आश्चर्य, भय, घृणा।
2. शैलियाँ (Genres): सुखद, परी कथा, साहसिक, रोमांचक, दुखद, हॉरर।
3. मनमाना (Arbitrary): जादू, जानवर, जिज्ञासा, टीमवर्क, रचनात्मकता, जिम्मेदारी (एक काउंटर-एग्जांपल के रूप में जिसका कोई अपेक्षित स्ट्रक्चर नहीं है)।
मॉडल: Llama-3.1-8b-instruct (4-bit quantized)।

मुख्य तकनीकें (Core Techniques)

विश्वास निष्कर्षण (Belief Elicitation): मॉडल को कहानी के प्रत्येक वाक्य के बाद विशिष्ट अवधारणाओं की प्रयोज्यता को 0–10 के पैमाने पर रेट करने के लिए प्रॉम्प्ट किया जाता है। व्यवहार संबंधी विश्वास अवस्था $y_{t,c}$ को मॉडल की टोकन संभावनाओं के अपेक्षित मान (expected value) के रूप में गणना किया जाता है।
डायमेंशनलिटी रिडक्शन (Dimensionality Reduction): व्यवहार संबंधी डेटा ( $Y$ ) और रेसिडुअल एक्टिवेशन ( $Z$ ) दोनों पर यूनिफॉर्म मैनिफोल्ड एप्रोक्सिमेशन एंड प्रोजेक्शन (UMAP) और PCA लागू किया जाता है ताकि निम्न-आयामी मैनिफोल्ड ( $\mathcal{M}_y$ और $\mathcal{M}_z$ ) की पहचान की जा सके।
लीनियर प्रोब्स (Linear Probes): व्यवहार संबंधी विश्वासों ( $y_{t,c}$ ) को हिडन लेयर एक्टिवेशन ( $z_{t,\ell}$ ) से प्रेडिक्ट करने के लिए लीनियर रिग्रेशन मॉडल को प्रशिक्षित किया जाता है, ताकि यह परीक्षण किया जा सके कि क्या विश्वास रैखिक रूप से एनकोडेड हैं।
एक्टिवेशन स्टीयरिंग (Activation Steering): लेखक हिडन रिप्रेजेंटेशन पर स्टीयरिंग वेक्टर्स (जो लीनियर प्रोब वेट या डिफरेंस-इन-मीन्स से प्राप्त होते हैं) को जोड़कर हस्तक्षेप करते हैं, ताकि विश्वास ट्रेजेक्टरीज पर कारण नियंत्रण (causal control) का परीक्षण किया जा सके।

मुख्य योगदान और परिणाम (Key Contributions and Results)

1. निम्न-आयामी संरचित मैनिफोल्ड्स (Low-Dimensional Structured Manifolds)

अध्ययन पाता है कि LLMs में विश्वास अपडेट को निम्न-आयामी, संरचित मैनिफोल्ड्स पर ट्रेजेक्टरीज के रूप में अच्छी तरह से वर्णित किया जा सकता है।

व्यवहार और प्रतिनिधित्व संरेखण (Behavioral and Representational Alignment): मॉडल व्यवहार ( $\mathcal{M}_y$ ) और आंतरिक सक्रियण ( $\mathcal{M}_z$ ) से प्राप्त मैनिफोल्ड अत्यधिक सहसंबंधित हैं और समान संरचनात्मक गुण साझा करते हैं।
डोमेन संरचना: Emotions और Genres डोमेन के लिए, मैनिफोल्ड स्पष्ट संरचना प्रदर्शित करते हैं। Emotions के लिए, सीखे गए मैनिल्ड की ज्यामिति मानव-सत्यापित वैलेंस-एरोसल स्पेस (Russell & Mehrabian, 1977) के साथ निकटता से मेल खाती है, जिसमें मानव रेटिंग और मॉडल के व्यवहार संबंधी मैनिफोल्ड के बीच $r=0.93$ का सहसंबंध है।
मनमाने (Arbitrary) के विपरीत: Arbitrary डोमेन, जिसमें अंतर्निहित अर्थपूर्ण संरचना का अभाव था, कम स्पष्ट मैनिफोल्ड संरचना और व्यवहार एवं एक्टिवेशन मैनिफोल्ड के बीच कम सहसंबंध ( $r=0.71$ ) दिखाता है, जो इस परिकल्पना का समर्थन करता है कि संरचना सार्थक वैचारिक संबंधों से उत्पन्न होती है।

2. विश्वासों की रैखिक डिकोडेबिलिटी (Linear Decodability of Beliefs)

हिडन एक्टिवेशन पर प्रशिक्षित लीनियर प्रोब्स मॉडल के व्यवहार संबंधी विश्वासों की सटीक भविष्यवाणी कर सकते हैं।

$\ell=9$ लेयर पर प्रोब्स ने विश्वास डायनेमिक्स की भविष्यवाणी करने में कम रूट मीन स्क्वायर एरर (RMSE) प्राप्त किया: Emotions के लिए 0.09, Genres के लिए 0.09, और Arbitrary के लिए 0.11।
यह सुझाव देता है कि कहानी के बारे में मॉडल के "विश्वासों" की जानकारी रेसिडुअल स्ट्रीम में रैखिक रूप से सुलभ है, भले ही मॉडल को विशेष रूप से विशिष्ट अवधारणाओं पर विचार करने के लिए निर्देशित न किया गया हो।

3. कॉज़ल स्टीयरिंग और ज्योमेट्री (Causal Steering and Geometry)

हिडन रिप्रेजेंटेशन पर हस्तक्षेप वैचारिक स्थान की ज्यामिति से अनुमानित प्रभाव के साथ विश्वास ट्रेजेक्टरीज को कारणवश (causally) स्टीयर करते हैं।

स्टीयरिंग प्रभाव (Steering Effect): एक लक्षित अवधारणा (जैसे उदासी) के लिए स्टीयरिंग वेक्टर जोड़ने से मॉडल की ट्रेजेक्टरी विश्वास मैनिफोल्ड में उस अवधारणा की ओर स्थानांतरित हो जाती है।
स्टीयरिंग एंटैंगलमेंट (Steering Entanglement): एक अवधारणा के लिए स्टीयरिंग अक्सर संबंधित अवधारणाओं को प्रभावित करती है (जैसे, उदासी के लिए स्टीयरिंग करने से क्रोध बढ़ता है और खुशी कम होती है)। यह एंटैंगलमेंट मैनिफोल्ड में अवधारणा सेंट्रॉइड्स के बीच ज्यामितीय दूरियों को दर्शाता है।
पूर्वानुमेयता (Predictability): अवधारणाओं के बीच स्टीयरिंग एंटैंगलमेंट की डिग्री सीखे गए मैनिफोल्ड में उनके सेंट्रॉइड्स के बीच की दूरी के साथ महत्वपूर्ण रूप से सहसंबंधित है ( $r=0.65$ Emotions के लिए)।
लेयर डायनेमिक्स (Layer Dynamics): एक एकल लेयर पर स्टीयरिंग अक्सर मॉडल के सेल्फ-करेक्शन के कारण आउटपुट तक टिक नहीं पाती है; हालाँकि, लेयर्स के एक स्पैन (जैसे, लेयर्स 7–14) में स्टीयरिंग सफलतापूर्वक अंतिम आउटपुट व्यवहार को बदल देती है।

महत्व और दावे (Significance and Claims)

यह पेपर दावा करता है कि यह LLMs में विश्वास डायनेमिक्स का एक ज्यामितीय विवरण प्रदान करता है, जो संरचित वैचारिक निरूपणों में इन-कॉन्टेक्स्ट लर्निंग की बेयसियन व्याख्याओं को आधार प्रदान करता है।

फ्रेमवर्क्स का एकीकरण: यह कार्य संज्ञानात्मक विज्ञान में संभाव्यता आधारित शिक्षण (बेयसियन इन्फरेंस) और वैचारिक निरूपण के ज्यामितीय सिद्धांतों (कॉन्सेप्चुअल स्पेस) के बीच के अंतर को पाटता है।
व्याख्यात्मकता (Interpretability): यह प्रदर्शित करता है कि फ्रीफॉर्म टेक्स्ट में जटिल, गतिशील विश्वास अपडेट को एक निम्न-आयामी स्थान के माध्यम से स्मूथ ट्रेजेक्टरीज के रूप में समझा जा सकता है, जिसे डिकोड और मैनिपुलेट किया जा सकता है।
विनम्रता (Modesty): लेखक सीमाओं को स्वीकार करते हुए कहते हैं कि अध्ययन हाथ से चुने गए डोमेन और अवधारणाओं पर निर्भर करता है, अवधारणाओं को कंपोजिशनल के बजाय यूनिटरी मानता है, और ग्लोबल स्टोरी-लेवल विश्वासों पर ध्यान केंद्रित करता है न कि चरित्र-विशिष्ट विश्वासों पर। वे इसे LLM व्याख्यात्मकता के लिए एक सैद्धांतिक आधार की दिशा में एक प्रारंभिक कदम के रूप में देखते हैं, और सुझाव देते हैं कि भविष्य के कार्यों को वैचारिक डोमेन की खोज करने और यह जांचने के लिए "ऑटो-इंटरप्रिटेबिलिटी" विधियों का अन्वेषण करना चाहिए कि ये स्थान लॉन्ग-फॉर्म जनरेशन में अनिश्चितता को कैसे आकार देते हैं।

संक्षेप में, पेपर का तर्क है कि LLMs केवल टोकन के अनुक्रम के रूप में टेक्स्ट को प्रोसेस नहीं करते हैं, बल्कि एक संरचित, निम्न-आयामी वैचारिक विश्वास स्थान के माध्यम से नेविगेट करते हैं, जो नैरेटिव की सिमेंटिक और इमोशनल सामग्री को दर्शाते हुए अपनी आंतरिक स्थिति को अपडेट करते हैं।