Disentangling Direction and Magnitude in Transformer Representations: A Double Dissociation Through L2-Matched Perturbation Analysis

यहाँ शोध पत्र "Disentangling Direction and Magnitude in Transformer Representations: A Double Dissociation Through L2-Matched Perturbation Analysis" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

ट्रांसफॉर्मर मॉडल उच्च-आयामी वेक्टर्स (high-dimensional vectors) के रूप में जानकारी को एनकोड करते हैं। जबकि लीनियर रिप्रेजेंटेशन हाइपोथेसिस (Linear Representation Hypothesis) यह प्रस्तावित करता है कि सिमेंटिक अवधारणाएँ (semantic concepts) एक्टिवेशन स्पेस में विशिष्ट दिशाओं (orientations) के रूप में एनकोड होती हैं, वेक्टर के परिमाण (magnitude/L2 norm) की कार्यात्मक भूमिका स्पष्ट नहीं है।

• अंतराल (The Gap): मौजूदा साहित्य मुख्य रूप से परिमाण को शोर (noise) या एक माध्यमिक गुण के रूप में मानता है, फिर भी टोकन और परतों (layers) के बीच वेक्टर नॉर्म्स काफी भिन्न होते हैं।
• कन्फाउंडिंग समस्या (The Confounding Problem): दिशा (रोटेशन) और परिमाण (स्केलिंग) को "थोड़ी मात्रा" में बदलने के पिछले प्रयास त्रुटिपूर्ण थे, क्योंकि इससे वेक्टर स्पेस में बहुत अलग यूक्लिडियन विस्थापन (Euclidean displacement) होता है। विस्थापन के आकार को नियंत्रित किए बिना, यह निर्धारित करना असंभव है कि देखे गए प्रभाव परीक्षण किए जा रहे गुण के कारण हैं या केवल विक्षोभ (perturbation) के परिमाण के कारण हैं।

2. कार्यप्रणाली: L2-मैच्ड परटर्बेशन विश्लेषण (Methodology: L2-Matched Perturbation Analysis)

लेखक दिशा और परिमाण के कार्यात्मक योगदानों को अलग करने के लिए एक कठोर ढांचा पेश करते हैं, जो समान यूक्लिडियन विस्थापन ($\delta$) सुनिश्चित करता है।

• विघटन (Decomposition): एक हिडन स्टेट वेक्टर $h$ को परिमाण $\|h\|$ और यूनिट दिशा $\hat{h}$ में विभाजित किया जाता है।
• परटर्बेशन के प्रकार (Perturbation Types):
  • मैग्निट्यूड परटर्बेशन (Magnitude Perturbation): यह दिशा को सुरक्षित रखते हुए वेक्टर को स्केल करता है ($h' = \alpha h$)।
  • एंगुलर परटर्बेशन (Angular Perturbation): यह नॉर्म को सुरक्षित रखते हुए एक रैंडम ऑर्थोगोनल सबस्पेस के भीतर वेक्टर को घुमाता है ($h' = \|h\| \cdot \hat{h}'$)।
• L2 मैचिंग (L2 Matching): स्केलिंग फैक्टर $\alpha$ और रोटेशन एंगल $\theta$ को गणितीय रूप से इस प्रकार सीमित किया गया है कि मूल वेक्टर से यूक्लिडियन दूरी दोनों प्रकार के विक्षोभों के लिए समान हो: $\|h - h'_{mag}\| = \|h - h'_{ang}\| = \delta$।
• प्रायोगिक प्रोटोकॉल (Experimental Protocol):
  • मॉडल: Pythia-410M और Pythia-1.4B (LayerNorm-आधारित)।
  • हस्तक्षेप (Intervention): मध्य परतों (8–15) में हिडन स्टेट्स पर विक्षोभ लागू किए गए।
  • मेट्रिक्स: लैंग्वेज मॉडलिंग लॉस (नेक्स्ट-टोकन प्रेडिक्शन) और सिंटैक्टिक सटीकता (BLiMP सब्जेक्ट-वर्ब एग्रीमेंट)।
  • कॉज़ल इंटरवेंशन (Causal Interventions): "रिपेयर" प्रयोग जहाँ क्लीन अटेंशन आउटपुट या लेयरनॉर्म आउटपुट को विक्षोभित फॉरवर्ड पासेज में वापस इंजेक्ट किया गया ताकि मैकेनिस्टिक पाथवे को ट्रैक किया जा सके।

3. मुख्य योगदान (Key Contributions)

1. अनुभवजन्य खोज (Empirical Discovery): LayerNorm-आधारित ट्रांसफॉर्मर में दिशा और परिमाण के बीच एक क्रॉसओवर डिसोसिएशन (Double Dissociation) की पहचान।
2. मेथोडोलॉजिकल इनोवेशन: L2-मैच्ड परटर्बेशन फ्रेमवर्क, जो ज्यामितीय गुणों की पहली निष्पक्ष और नियंत्रित तुलना को सक्षम बनाता है।
3. मैकेनिस्टिक अंतर्दृष्टि (Mechanistic Insight): दिशा को अटेंशन पाथवे (Attention pathways) और परिमाण को लेयरनॉर्म पाथवे (LayerNorm pathways) से जोड़ने वाले कॉज़ल साक्ष्य।
4. सैद्धांतिक परिशोधन (Theoretical Refinement): एक परिष्कृत लीनियर रिप्रेजेंटेशन हाइपोथेसिस जो ज्यामितीय गुणों के आंशिक कार्यात्मक विशेषज्ञता का सुझाव देती है।

4. मुख्य परिणाम (Key Results)

A. क्रॉसओवर डिसोसिएशन (The Crossover Dissociation)

अध्ययन प्रकट करता है कि दिशा और परिमाण अलग-अलग कम्प्यूटेशनल भूमिकाओं का समर्थन करते हैं, जो क्षति के पैटर्न में उलटफेर से सिद्ध होता है:

• लैंग्वेज मॉडलिंग लॉस (Next-Token Prediction):
  • एंगुलर (दिशा) विक्षोभ विनाशकारी क्षति पहुंचाते हैं। छोटे विस्थापन ($\delta=1.0$) पर, एंगुलर विक्षोभ मैग्निट्यूड विक्षोभ की तुलना में 42.9 गुना अधिक लॉस बढ़ाते हैं।
  • व्याख्या: दिशा, सूचना रूटिंग और टोकन प्रेडिक्शन के लिए महत्वपूर्ण है।
• सिंटैक्टिक सटीकता (Subject-Verb Agreement):
  • मैग्निट्यूड विक्षोभ काफी अधिक क्षति पहुंचाते हैं। $\delta=5$ पर, मैग्निट्यूड विक्षोभ सटीकता को 20.4% कम कर देते हैं, जबकि एंगुलर विक्षोभ इसे केवल 1.6% कम करते हैं।
  • व्याख्या: परिमाण सूक्ष्म सिंटैक्टिक निर्णयों के लिए महत्वपूर्ण है।

B. मैकेनिस्टिक पाथवे (Causal Repair)

लेखकों ने ट्रैक किया कि ये विक्षोभ मॉडल को कैसे प्रभावित करते हैं:

• दिशा $\rightarrow$ अटेंशन: अटेंशन पैटर्न को रिपेयर करने से एंगुलर-प्रेरित लॉस का 28.4% रिकवर होता है, जबकि मैग्निट्यूड के लिए यह केवल 15.2% है। यह सुझाव देता है कि दिशा मुख्य रूप से अटेंटशनल रूटिंग (कौन से टोकन किन टोकन पर ध्यान देते हैं) को नियंत्रित करती है।
• परिमाण $\rightarrow$ लेयरनॉर्म: लेयरनॉर्म आउटपुट को रिपेयर करने से मैग्निट्यूड-प्रेरित क्षति का 29.9% रिकवर होता है, जबकि एंगुलर के लिए यह केवल 13.7% है। यह सुझाव देता है कि परिमाण लेयरनॉर्म के माध्यम से प्रोसेसिंग इंटेंसिटी को नियंत्रित करता है।
• प्रसार (Propagation): एंगुलर त्रुटियाँ परतों के माध्यम से बढ़ने पर मैग्निट्यूड त्रुटियों की तुलना में काफी अधिक (3.18×) बढ़ती हैं, जो दर्शाता है कि दिशात्मक त्रुटियाँ अटेंशन मैकेनिज्म के माध्यम से कैस्केड होती हैं।

C. एनकोडिंग बनाम कंप्यूटेशन विरोधाभास (The Encoding vs. Computation Paradox)

• प्रोबिंग (Probing): लीनियर प्रोब्स दिखाते हैं कि दिशा, मैग्निट्यूड (29.7%) की तुलना में सिंटैक्टिक श्रेणियों (POS) को बहुत बेहतर (81.6% सटीकता) एनकोड करती है।
• परटर्बेशन (Perturbation): दिशा द्वारा सिंटैक्स को एनकोड करने के बावजूद, मैग्निट्यूड विक्षोभ सिंटैक्टिक प्रदर्शन को अधिक नष्ट कर देता है।
• समाधान: दिशा यह एनकोड करती है कि एक टोकन क्या है (श्रेणी), जबकि परिमाण यह एनकोड करता है कि वह संरचनात्मक रूप से कहाँ है (पार्ज़ ट्री डेप्थ) और उस जानकारी को कैसे प्रोसेस किया जाता है। परिमाण को बाधित करने से वह संरचनात्मक संदर्भ नष्ट हो जाता है जिसकी आवश्यकता सिंटैक्टिक एग्रीमेंट के लिए होती है, भले ही श्रेणी लेबल बरकरार रहे।

D. आर्किटेक्चर निर्भरता (Architecture Dependence - Critical Limitation)

• यह डिसोसिएशन सार्वभौमिक नहीं है:
  • Pythia (LayerNorm): मानक डिसोसिएशन दिखाता है (दिशा $\to$ लॉस, परिमाण $\to$ सिंटैक्स)।
  • TinyLlama (RMSNorm): पैटर्न पूरी तरह से उलट जाता है। मैग्निट्यूड विक्षोभ, एंगुलर विक्षोभ की तुलना में अधिक लॉस क्षति पहुंचाते हैं।
  • निष्कर्ष: दिशा और परिमाण की कार्यात्मक भूमिकाएं अत्यधिक न्यूनीकरण परत (normalization layer) पर निर्भर करती हैं (LayerNorm बनाम RMSNorm)।

5. महत्व और निहितार्थ (Significance and Implications)

• इंटरप्रिटेबिलिटी का परिशोधन: यह पेपर तर्क देता है कि पूर्ण वेक्टर्स का विश्लेषण करना अपर्याप्त है। दिशा और परिमाण को अलग करने से अलग सूचना स्ट्रीम (सिमेंटिक रूटिंग बनाम स्ट्रक्चरल इंटेंसिटी) का पता चल सकता है।
• मॉडल एडिटिंग: मॉडल ज्ञान को एडिट करने वाली तकनीकों को अधिक सर्जिकल होना चाहिए:
  • लैंग्वेज मॉडलिंग की गुणवत्ता और तथ्यात्मक ज्ञान को बनाए रखने के लिए दिशा को सुरक्षित रखें।
  • सिंटैक्टिक सुसंगतता और संरचनात्मक तर्क को बनाए रखने के लिए परिमाण को सुरक्षित रखें।
• सैद्धांतिक प्रभाव: यह परिमाण को केवल शोर मानने के विचार को चुनौती देता है। यह सुझाव देता है कि LayerNorm आर्किटेक्चर में, परिमाण संरचनात्मक स्थिति (पार्ज़ डेप्थ) की सूचना का एक कार्यात्मक वाहक है जो गणना को नियंत्रित करता है।
• भविष्य की दिशाएं: यह इस बात पर जोर देता है कि कैसे न्यूरल नेटवर्क में प्रतिनिधित्व के ज्यामितीय उपयोग को नॉर्मलाइजेशन स्कीम्स (LayerNorm बनाम RMSNorm) मौलिक रूप से बदल देती हैं।

सारांश

यह पेपर प्रमाण प्रदान करता है कि LayerNorm-आधारित ट्रांसफॉर्मर में, दिशा और परिमाण एक दूसरे के विकल्प नहीं हैं। वे एक डबल डिसोसिएशन प्रदर्शित करते हैं: दिशा अटेंटional रूटिंग और लैंग्वेज मॉडलिंग को संचालित करती है, जबकि परिमाण संरचनात्मक स्थिति को एनकोड करता है और लेयरनॉर्म के माध्यम से सिंटैक्टिक प्रोसेसिंग को नियंत्रित करता है। ये निष्कर्ष आर्किटेक्चरल विकल्पों, विशेष रूप से नॉर्मलाइजेशन विधि पर निर्भर हैं, जो न्यूरल लैंग्वेज मॉडल्स को समझने और एडिट करने के लिए एक नया दृष्टिकोण प्रदान करते हैं।