तकनीकी सारांश: LLMs में फीचर-विशिष्ट त्रुटि सुधार (Feature-Specific Error Correction) के प्रमाण

समस्या विवरण

लार्ज लैंग्वेज मॉडल्स (LLMs) के आंतरिक निरूपण (internal representations) अभी भी कम समझ में आए हैं। एक प्रचलित परिकल्पना यह है कि LLMs अपने आयामों (dimensions) की तुलना में अधिक फीचर्स को दर्शाने के लिए सुपरपोजिशन (superposition) का उपयोग करते हैं, और संभावित रूप से सुपरपोजिशन में गणना (computation in superposition - CiS) करते हैं। सैद्धांतिक कार्य (Hänni et al., 2024) भविष्यवाणी करता है कि CiS के कार्य करने के लिए, नेटवर्क को एक ऐसा त्रुटि सुधार (error correction) लागू करना चाहिए जो जेनेरिक दिशाओं के बजाय विशिष्ट "फीचर दिशाओं" को प्राथमिकता देता हो ताकि इंटरफेरेंस शोर (interference noise) को दबाया जा सके। हालांकि, इस भविष्यवाणी का अनुभवजन्य सत्यापन (empirical validation) अभी तक नहीं हुआ है। ग्राउंड-ट्रुथ फीचर दिशाओं के बिना, यह परीक्षण करना कठिन है कि क्या LLMs कुछ दिशाओं को विशेषाधिकार प्राप्त (privileged) मानते हैं। यह शोध पत्र एक अनुभवजन्य परीक्षण प्रस्तावित करता है यह निर्धारित करने के लिए कि क्या LLMs फीचर-विशिष्ट त्रुटि सुधार (FSEC) प्रदर्शित करते हैं—एक ऐसा गुण जहाँ मॉडल गैर-फीचर दिशाओं के मुकाबले फीचर दिशाओं के प्रति कम संवेदनशील होता है।

कार्यप्रणाली (Methodology)

लेखक एक्टिवेशन प्लेटो (activation plateaus - वे क्षेत्र जहाँ छोटे व्यवधानों से डाउनस्ट्रीम प्रतिक्रिया नगण्य होती है) की ज्यामिति को मापने के लिए एक विक्षोभ-आधारित (perturbation-based) अनुभवजन्य परीक्षण प्रस्तावित करते हैं।

1. विक्षोभ सेटअप (Perturbation Setup):

   • एक प्रारंभिक परत ($\ell=2$) पर रेसिडुअल-स्ट्रीम एक्टिवेशन को एक लक्ष्य दिशा $d$ की ओर रोटेट करके विक्षोभित किया जाता है, जबकि वेक्टर के नॉर्म (norm) को बनाए रखा जाता है (norm-matched perturbation)।
   • डाउनस्ट्रीम प्रतिक्रिया को दूसरे-से-अंतिम परत पर विक्षोभित और अपरिष्कृत रेसिडुअल स्ट्रीम्स के बीच $L_2$ दूरी के रूप में मापा जाता है।
   • प्लेटो-ब्रेकिंग एंगल ($\alpha$) को उस न्यूनतम विक्षोभ कोण के रूप में परिभाषित किया गया है जो एक विशिष्ट प्रतिक्रिया थ्रेशोल्ड को पार करने के लिए आवश्यक है।

2. दिशा प्रकार (Direction Types):

   • कैंडिडेट फीचर दिशाएं (Candidate Feature Directions): कॉन्ट्रास्टिव प्रॉम्प्ट्स (जैसे लिंग, भावना, भाषा), MELBO (डाउनस्ट्रीम प्रतिक्रिया के लिए अनसुपरवाइज्ड ऑप्टिमाइजेशन), और SAE डिकोडर कॉलम के माध्यम से निर्मित।
   • बेसलाइन दिशाएं (Baseline Directions): रैंडम आइसोट्रोपिक दिशाएं, PCA दिशाएं, और रैंडम-डिफरेंस दिशाएं (अपैरर्ड एक्टिवेशन के अंतर)।

3. सुपरएलिप्स टेस्ट (The Superellipse Test):

   • लेखक दो दिशाओं ($d_1, d_2$) के मिश्रण के साथ एक्टिवेशन को एक मिक्सिंग एंगल $\phi$ को बदलकर विक्षोभित करते हैं।
   • वे दो दिशाओं पर प्रोजेक्शन के आधार पर $\alpha(\phi)$ को मॉडल करते हैं।
   • प्रतिक्रिया को डीकंपोजिशन के $L_p$-नॉर्म के रूप में मॉडल किया जाता है: $R(v) = F(\sum w_i |\hat{f}_i^\top v|^p)$।
   • सैद्धांतिक भविष्यवाणी:
     • यदि मॉडल केवल विक्षोभ के परिमाण (magnitude) पर प्रतिक्रिया देता है (आइसोट्रोपिक), तो सीमा एक दीर्घवृत्त (ellipse, $p=2$) होगी।
     • यदि मॉडल व्यक्तिगत फीचर दिशाओं को विशेषाधिकार देता है (FSEC), तो सीमा बाहर की ओर उभरेगी, जिससे एक सुपरएलिप्स (superellipse, $p > 2$) बनेगा। यह इंगित करता है कि मिश्रित दिशाओं के मिश्रण के लिए एक शुद्ध फीचर दिशा की तुलना में बड़े विक्षोभ की आवश्यकता होती है, जिसका अर्थ है कि नेटवर्क मिश्रित दिशाओं से होने वाले इंटरफेरेंस को दबाता है।

मुख्य योगदान

1. FSEC को एक टेस्ट के रूप में प्रस्तावित करना: लेखकों ने सुपरपोजिशन में गणना के लिए एक परीक्षण के रूप में FSEC को औपचारिक रूप दिया, जो $L_p$-नॉर्म डीकंपोजिशन के घातांक $p$ के माध्यम से LLM की विक्षोभ के प्रति प्रतिक्रिया को मॉडल करता है।
2. अनुभवजन्य साक्ष्य: वे पहला अनुभवजन्य प्रमाण प्रदान करते हैं कि कैंडिडेट फीचर दिशाएं उनके मिश्रणों की तुलना में विशेषाधिकार प्राप्त हैं।
3. क्रॉस-मॉडल प्रतिकृति (Cross-Model Replication): निष्कर्षों को छह विविध LLMs (Gemma-2-9B, Qwen3-1.7B, Llama-3.1-8B, Mistral-7B-v0.3, Aya-Expanse-8B, और Yi-1.5-9B) में दोहराया गया है।
4. टॉय मॉडल सत्यापन: पद्धति को ज्ञात ग्राउंड-ट्रुथ फीचर्स वाले एक टॉय डिनोइजिंग नेटवर्क पर सत्यापित किया गया, जिससे पुष्टि हुई कि वास्तविक फीचर्स के लिए $p > 2$ प्राप्त होता है और दिशाओं से दूर जाने पर यह $p \approx 2$ की ओर गिर जाता है।

परिणाम

• कॉन्ट्रास्टिव दिशाएं: 318 जोड़ों की कॉन्ट्रास्टिव दिशाओं (धन, लिंग और भाषाओं जैसी अवधारणाओं को कवर करते हुए) में, फिट किया गया सुपरएलिप्स घातांक लगातार $p > 2$ है (औसत $p \approx 2.42$, माध्यिका $2.30$)।
• MELBO और SAE दिशाएं: ये कैंडिडेट फीचर दिशाएं भी $p > 2$ देती हैं (MELBO औसत $2.21$; SAE औसत $2.28$), हालांकि ये कॉन्ट्रास्टिव दिशाओं से थोड़ी कम हैं।
• बेसलाइन्स: PCA, रैंडम, और रैंडम-डिफरेंस दिशाएं सभी $p \approx 2$ के आसपास क्लस्टर करती हैं (औसत $2.03$से$2.05$ तक), जो दर्शाता है कि वे विशेषाधिकार प्राप्त नहीं हैं।
• रोटेशन विश्लेषण: जब कॉन्ट्रास्टिव दिशाओं को रैंडम ऑर्थोगोनल दिशाओं की ओर घुमाया जाता है, तो घातांक $p$ लगभग $2.4$से घटकर$\approx 2.0$तक निरंतर रूप से कम होता जाता है, जो दर्शाता है कि$p$ फीचर दिशाओं के साथ संरेखण (alignment) को ट्रैक करता है।
• मजबूती (Robustness): परिणाम विभिन्न एब्लेशन (ablations) में भी बने रहते हैं, जिनमें अलग-अलग विक्षोभ परतें, माप परतें, रिस्पॉन्स मेट्रिक्स (कोसाइन डिस्टेंस, KL-डाइवर्जेंस), और टोकन पोजीशन शामिल हैं।

महत्व और दावे

शोध पत्र यह दावा करता है कि यह LLMs में फीचर-विशिष्ट त्रुटि सुधार की परिकल्पना का समर्थन करने वाला पहला अनुभवजन्य प्रमाण प्रदान करता है, जो सुपरपोजिशन में गणना के लिए एक आवश्यक शर्त है।

• $p > 2$ की व्याख्या: लेखक तर्क देते हैं कि $p=2$ (एक क्वाड्रेटिक फॉर्म) मॉडल के आयाम में सीमित डिग्री ऑफ फ्रीडम के कारण बड़ी संख्या में फीचर दिशाओं को अन्य दिशाओं पर प्राथमिकता नहीं दे सकता है। इसके विपरीत, $p > 2$ नेटवर्क को विशिष्ट फीचर दिशाओं के प्रति अत्यधिक संवेदनशील होने और उनके मिश्रण से होने वाले इंटरफेरेंस को दबाने की अनुमति देता है।
• निचली सीमा (Lower Bound): लेखक विनम्रतापूर्वक नोट करते हैं कि LLMs के लिए मापा गया $p \approx 2.3$ संभवतः एक लोअर बाउंड है। चूंकि उनके कैंडिडेट दिशाएं (कॉन्ट्रास्टिव, MELBO, SAE) वास्तविक ग्राउंड-ट्रुथ फीचर्स के अपूर्ण अनुमान हैं, इसलिए मिसअलाइनमेंट दिशात्मक संवेदनशीलता को कम करता है, जिससे $p$ का झुकाव 2 की ओर होता है। उनके टॉय मॉडल प्रयोग इस बात का समर्थन करते हैं, जो दिखाते हैं कि मध्यम मिसअलाइनमेंट भी $p$ को ग्राउंड-ट्रुथ रेंज ($3\text{--}3.4$) से घटाकर देखे गए LLM रेंज तक ले आता है।
• सीमाएं: शोध पत्र स्पष्ट रूप से कहता है कि जबकि $p > 2$ FSEC के लिए एक आवश्यक शर्त है, यह यह सिद्ध करने के लिए पर्याप्त नहीं है कि कोई दिशा एक फीचर है (प्रारंभिक प्रयोग बताते हैं कि केवल $p$ को अधिकतम करने से फीचर्स रिकवर नहीं होते हैं)। इसके अलावा, एक्टिवेशन प्लेटो का अस्तित्व त्रुटि सुधार को निर्णायक रूप से सिद्ध नहीं करता है; वे अन्य मजबूती तंत्रों (robustness mechanisms) से भी उत्पन्न हो सकते हैं। हालांकि, दिशाओं का विभेदात्मक उपचार ($p > 2$ फीचर्स के लिए बनाम $p \approx 2$ बेसलाइन्स के लिए) एक मजबूत अवलोकन बना हुआ है।

निष्कर्षतः, यह शोध पत्र एक मात्रात्मक मीट्रिक ($p$) स्थापित करता है जो कैंडिडेट फीचर दिशाओं को नॉन-फीचर्स से अलग करता है, जो LLMs में सुपरपोजिशन और त्रुटि सुधार के सैद्धांतिक ढांचे के लिए मजबूत अनुभवजन्य समर्थन प्रदान करता है।