How Many Features Can a Language Model Store Under the Linear Representation Hypothesis?

यहाँ गारग, क्लेनबर्ग और पेंग के शोध पत्र "How Many Features Can a Language Model Store Under the Linear Representation Hypothesis?" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र लार्ज लैंग्वेज मॉडल्स (LLMs) की सैद्धांतिक समझ के लिए एक मौलिक प्रश्न को संबोधित करता है: लीनियर रिप्रेजेंटेशन हाइपोथेसिस (LRH) के तहत, $d$ न्यूरॉन्स वाला एक एकल लेयर कितने फीचर्स ($m$) स्टोर कर सकता है और बाद में उन्हें एक्सेस कर सकता है?

LRH यह प्रस्तावित करता है कि LLMs के मध्यवर्ती लेयर्स फीचर्स को लीनियर रूप में स्टोर करते हैं। हालाँकि, पिछला साहित्य अक्सर दो अलग-अलग अवधारणाओं को मिला देता था:

1. लीनियर रिप्रेजेंटेशन (Linear Representation): फीचर्स को न्यूरॉन एक्टिवेशन में लीनियर रूप से एम्बेड किया जाता है।
2. लीनियर एक्सेसिबिलिटी (Linear Accessibility): फीचर्स को एक लीनियर प्रोब (linear probe) का उपयोग करके डिकोड (निकालना) किया जा सकता है।

लेखक तर्क देते हैं कि जबकि क्लासिकल कंप्रेस्ड सेंसिंग यह सुझाव देती है कि $k$-स्पार्स फीचर्स (जहाँ $k$ प्रति इनपुट सक्रिय फीचर्स की संख्या है) के लिए $d = O(k \log(m/k))$ न्यूरॉन्स पर्याप्त हैं (जहाँ $k$ सक्रिय फीचर्स की संख्या है), यह इस धारणा पर आधारित है कि डिकोडिंग नॉन-लीनियर (जैसे $\ell_1$-मिनिमाइजेशन) होनी चाहिए। यह शोध पत्र अधिक सख्त शासन (regime) की जांच करता है जहाँ डिकोडिंग को अनिवार्य रूप से लीनियर होना चाहिए, और यह सवाल करता है कि यह प्रतिबंध "सुपरपोजिशन" (जहाँ $m \gg d$ फीचर्स स्टोर होते हैं) की क्षमता को कैसे प्रभावित करता है।

2. गणितीय ढांचा (Mathematical Framework)

लेखक निम्नलिखित परिभाषाओं का उपयोग करके समस्या को औपचारिक रूप देते हैं:

• एक्टिवेशंस (Activations): एक इनपुट $\ell$ को $d$-डायमेंशनल वेक्टर $f(\ell) = Az$ में मैप किया जाता है, जहाँ $z \in \mathbb{R}^m$ एक फीचर वेक्टर है और $A \in \mathbb{R}^{d \times m}$ एक रिप्रेजेंटेशन मैट्रिक्स है।
• फीचर्स (Features): एक फीचर $z_i$ इनपुट का एक फलन (function) है। यह माना गया है कि फीचर्स का सेट $k$-स्पार्स है (अर्थात किसी भी इनपुट के लिए अधिकतम $k$ फीचर्स सक्रिय होते हैं)।
• लीनियर एक्सेसिबिलिटी (Linear Accessibility): एक फीचर $z_i$ लीनियरली एक्सेसिबल है यदि एक प्रोब वेक्टर $b_i$ मौजूद है जिससे $\langle b_i, f(\ell) \rangle \approx z_i(\ell)$ होता है।
• लक्ष्य (The Goal): उन मैट्रिसेस $A$ (एनकोडिंग) और $B$ (डिकोडिंग/प्रोबिंग) को खोजने के लिए न्यूनतम आयाम $d$ ज्ञात करना, ताकि सभी $k$-स्पार्स $z$ के लिए:
  $$\| B^T A z - z \|_\infty < \epsilon$$
  यह सुनिश्चित करता है कि लीनियर प्रोब $B^T$, संकुचित रिप्रेजेंटेशन $Az$से मूल फीचर वेक्टर$z$को त्रुटि$\epsilon$ के साथ रिकवर कर सकता है।

3. कार्यप्रणाली (Methodology)

शोध पत्र टाइट बाउंड्स (tight bounds) प्राप्त करने के लिए कंप्रेस्ड सेंसिंग (Compressed Sensing), रैंडम मैट्रिक्स थ्योरी (Random Matrix Theory), और एक्सट्रीमल ग्राफ थ्योरी (Extremal Graph Theory) के उपकरणों का उपयोग करता है।

• अपर बाउंड कंस्ट्रक्शन (Upper Bound Construction): लेखक मानक रैंडम मैट्रिक्स कंस्ट्रक्शन (विशेष रूप से, लगभग ऑर्थोगोनल कॉलम वाले मैट्रिसेस, जिन्हें $\mu$-इनकोहेरेंट मैट्रिसेस के रूप में जाना जाता है) का उपयोग करते हैं। वे दिखाते हैं कि यदि $A$ एक रैंडम मैट्रिक्स (जैसे, स्केल्ड रेडमेकर या गौसियन) है, तो $A^T A$, आइडेंटिटी मैट्रिक्स के करीब होता है। $\mu$ कोता (coherence parameter) को $\epsilon$ थ्रेशोल्ड के सापेक्ष उचित रूप से सेट करके, वे यह सुनिश्चित करते हैं कि अन्य सक्रिय फीचर्स से होने वाला इंटरफेरेंस (interference) त्रुटि सीमा से नीचे रहे।
• लोअर बाउंड प्रूफ (Lower Bound Proof): प्रमाण अधिक जटिल है और विरोधाभास (contradiction) तर्क पर निर्भर करता है:
  1. रैंक बाधाएं (Rank Constraints): वे बड़े डायगोनल एंट्रीज और छोटे ऑफ-डायगोनल एंट्रीज वाले मैट्रिसेस के संबंध में अलों (Alon, 2003) के परिणाम का उपयोग करते हैं।
  2. सबमैट्रिक्स विश्लेषण (Submatrix Analysis): पूरे मैट्रिक्स को देखने के बजाय, वे आकार $r$ के प्रिंसिपल सबमैट्रिक्स पर रैंक बाउंड लागू करते हैं।
  3. ग्राफ रिडक्शन (Graph Reduction): वे एक ग्राफ का निर्माण करते जहाँ दो फीचर्स $i$ और $j$ के बीच एक एज (edge) तब मौजूद होती है जब उनका इंटरफेरेंस (इनर प्रोडक्ट $\langle b_i, a_j \rangle$) अधिक होता है।
  4. टुरान का प्रमेय (Turán's Theorem): वे टुरान के प्रमेय को लागू करके यह दिखाने के लिए कि यदि $d$ बहुत छोटा है, तो ग्राफ में एक बड़ा क्लिक (clique) होगा या एक बड़ा इंडिपेंडेंट सेट नहीं होगा, जो एक "खराब" फीचर पेयर के अस्तित्व को मजबूर करेगा जहाँ इंटरफेरेंस $\epsilon$ से ऊपर चला जाता है।

4. मुख्य परिणाम (Key Results)

A. मात्रात्मक अंतर (मुख्य योगदान)

यह शोध पत्र क्लासिकल कंप्रेस्ड सेंसिंग (नॉन-लीनियर डिकोडिंग) और लीनियर कंप्रेस्ड सेंसिंग (लीनियर डिकोडिंग) के बीच एक महत्वपूर्ण मात्रात्मक अंतर स्थापित करता है:

• क्लासिकल (नॉन-लीनियर डिकोडिंग): $d = O(k \log(m/k))$.
• लीनियर (लीनियर डिकोडिंग): $d = \Omega_\epsilon\left( \frac{k^2}{\log k} \log \frac{m}{k} \right)$ (लोअर बाउंड) और $d = O_\epsilon(k^2 \log m)$ (अपर बाउंड)।

निहितार्थ: लीनियर एक्सेसिबिलिटी, केवल लीनियर रिप्रेजेंटेशन की तुलना में एक सख्त और अधिक महंगी परिकल्पना है। लीनियर सेटिंग में आयाम $d$ को स्पर्सिटी $k$ के साथ क्वाड्रेटिक (quadratic) रूप से स्केल करना पड़ता है, जबकि नॉन-लीनियर सेटिंग में यह लीनियर रूप से स्केल करता है।

B. सुपरपोजिशन क्षमता (Superposition Capacity)

$k$ पर क्वाड्रेटिक दंड के बावजूद, अपर बाउंड $d = O(k^2 \log m)$ पुष्टि करता है कि एक लेयर अभी भी न्यूरॉन्स ($d$) के सापेक्ष एक्सपोनेंशियल संख्या में फीचर्स ($m$) स्टोर कर सकती है, बशर्ते कि फीचर्स स्पार्स हों। यह "सुपरपोजिशन हाइपोथेसिस" (एल्हेज एट अल., 2022) के लिए सैद्धांतिक सत्यापन प्रदान करता है।

C. फीचर वेक्टर्स की ज्यामिति (Geometry of Feature Vectors)

यह शोध पत्र इस अंतर्ज्ञान को चुनौती देता कि फीचर रिप्रेजेंटेशन वेक्टर्स को ऑर्थोगोनल होना चाहिए।

• प्रपोजिशन 9: ऐसा $A$ और $B$ बनाया जा सकता है जहाँ रिप्रेजेंटेशन वेक्टर्स अत्यधिक सह-संबंधित (लगed parallel) हों और प्रोब वेक्टर्स भी अत्यधिक सह-संबंधित हों, फिर भी लीनियर रिकवरी सटीक हो। एकमात्र सख्त आवश्यकता यह है कि एक फीचर का प्रोब वेक्टर अन्य फीचर्स के रिप्रेजेंटेशन वेक्टर्स के ऑर्थोगोनल होना चाहिए।
• प्रपोजिशन 11: यदि यह शर्त लगाई जाती कि रिप्रेजेंटेशन और प्रोब वेक्टर्स का यूनिट नॉर्म (unit norm) या बाउंडेड नॉर्म होना चाहिए, तो ज्यामिति अधिक "साफ" हो जाती है: रिप्रेजेंटेशन और प्रोब वेक्टर्स संरेखित (align) हो जाते हैं, और विभिन्न फीचर्स लगभग ऑर्थोगोनल हो जाते हैं।

D. नॉन-लीनियरिटी के प्रति मजबूती (Robustness to Non-linearities)

लेखक लोअर बाउंड को उन सेटिंग्स तक विस्तारित करते हैं जहाँ डिकोडर में बायस (bias) और एक मोनोटोनिक एक्टिवेशन फंक्शन (जैसे ReLU) शामिल है।

• थ्योरम 12 और कोरोलरी 13: लीनियर प्रोब में बायस या मोनोटोनिक एक्टिवेशन फंक्शन जोड़ने से एसिम्प्टोटिक रूप से स्टोरेज क्षमता में वृद्धि नहीं होती है। लोअर बाउंड $d = \Omega(k^2 \log(m/k))$ बाइनरी फीचर्स और $\sigma(W^T x + b)$ के रूप में नॉन-लीनियर डिकोडर के लिए भी मान्य रहता है।

5. महत्व और निहितार्थ (Significance and Implications)

1. LRH को औपचारिक बनाना: यह शोध पत्र लीनियर रिप्रेजेंटेशन और लीनियर एक्सेसिबिलिटी के बीच अंतर स्पष्ट करते हुए पहला कठोर गणितीय ढांचा प्रदान करता है, जो पिछले साहित्य की अस्पष्टताओं को दूर करता है।
2. सुपरपोजिशन के लिए सैद्धांतिक औचित्य: यह सिद्ध करता है कि LLMs सैद्धांतिक रूप से न्यूरॉन्स की तुलना में एक्सपोनेंशियल अधिक फीचर्स स्टोर कर सकते हैं, लेकिन केवल तभी जब फीचर्स स्पार्स हों और मॉडल विशिष्ट ज्यामितीय व्यवस्थाओं (सुपरपोजिशन) का उपयोग करे।
3. लीनियरिटी की लागत: $k$ पर क्वाड्रेटिक निर्भरता ($d \propto k^2$) लीनियर एक्सेसिबिलिटी के लिए एक "लागत" का सुझाव देती है। यदि किसी मॉडल को कई सक्रिय फीचर्स को एक साथ एक्सेस करने की आवश्यकता है ($k$ बड़ा है), तो लेयर का आकार काफी बढ़ जाना चाहिए। यह जटिल तर्क कार्यों (complex reasoning tasks) के लिए बड़े लेयर्स या गहरे मॉडल्स की आवश्यकता के लिए एक सैद्धांतिक स्पष्टीकरण प्रदान करता है।
4. व्याख्यात्मकता (Interpretability): परिणाम स्पार्स ऑटोएनकोडर्स (SAEs) की भूमिका को स्पष्ट करते हैं। किसी फीचर की "वास्तविक" दिशा आवश्यक रूप से एनकोडर वेट नहीं है; रिप्रेजेंटेशन वेक्टर और प्रोब वेक्टर अलग-अलग हो सकते हैं। हालाँकि, प्रोब के काम करने के लिए, इसे अन्य फीचर्स के इंटरफेरेंस के ऑर्थोगोनल होना चाहिए।
5. भविष्य की दिशाएँ: यह कार्य मल्टी-लेयर इंटरैक्शन के अध्ययन के लिए मार्ग प्रशस्त करता है, जहाँ आगामी लेयर्स सरल लीनियर फीचर एक्सट्रैक्शन से अधिक जटिल ऑपरेशन कर सकती हैं, और नॉन-लीनियर रिप्रेजेंटेशन हाइपोथेसिस की खोज की संभावना भी खोलता है।

संक्षेप में, यह शोध पत्र प्रदर्शित करता है कि हालांकि लीनियर रिप्रेजेंटेशन हाइपोथेसिस LLMs की विशाल क्षमता को समझाने के लिए शक्तिशाली है, लेकिन लीनियर एक्सेसिबिलिटी की आवश्यकता सख्त ज्यामितीय और आयामी बाधाएं लगाती है जो इसे सामान्य कंप्रेस्ड सेंसिंग से अलग करती है।