Causal Interventions on Continuous Variables: A Case Study on Verb Bias in Steering Vectors for In-Context Learning

तकनीकी सारांश: स्टीयरिंग वेक्टर्स में निरंतर चरों (Continuous Variables) पर कारण संबंधी हस्तक्षेप (Causal Interventions)

समस्या विवरण
लार्ज लैंग्वेज मॉडल्स (LLMs) के लिए कारण संबंधी व्याख्यात्मकता (Causal Interpretability) विधियों ने मुख्य रूप से विविक्त विशेषताओं (Discrete Features) पर ध्यान केंद्रित किया है, जैसे कि व्याकरणिक संख्या या सिंटैक्टिक सीमाएँ। हालाँकि, भाषा प्रसंस्करण और वैचारिक ज्ञान के कई महत्वपूर्ण पहलू स्वाभाविक रूप से क्रमिक (Graded/Continuous) होते हैं। यह शोध पत्र निरंतर चरों पर कारण संबंधी हस्तक्षेप तकनीकों को लागू करने के अंतराल को संबोधित करता है। विशेष रूप से, लेखक यह जांचते हैं कि क्या निरंतर मनोवैज्ञानिक-भाषाई विशेषताएँ, जैसे कि क्रिया पूर्वाग्रह (Verb Bias) (एक क्रिया की एक विशिष्ट सिंटैक्टिक संरचना के प्रति क्रमिक प्राथमिकता, जैसे, Double Object बनाम Prepositional Dative), LLMs के आंतरिक सक्रियणों (Internal Activations) में कारणतः प्रतिनिधित्वित हैं और क्या इन प्रतिनिधित्वों को डाउनस्ट्रीम व्यवहार को बदलने के लिए हेरफेर किया जा सकता है। इसके अलावा, अध्ययन इन निरंतर प्रतिनिधित्वों और इन-कॉन्टेक्स्ट लर्निंग (ICL), विशेष रूप से स्ट्रक्चरल प्राइमिंग (Structural Priming) के आधारभूत सिद्धांतों के बीच संबंध की खोज करता है।

कार्यप्रणाली (Methodology)
लेखक सक्रियण वेक्टर्स (Activation Vectors) के भीतर निरंतर चरों पर कारण संबंधी हस्तक्षेप के लिए एक ढांचा प्रस्तावित करते हैं, जिसे विशेष रूप से इन-कॉन्टेक्स्ट प्रदर्शनों (In-context Demonstrations) से निकाले गए स्टीयरिंग वेक्टर्स (Steering Vectors/Task Vectors) पर लागू किया गया है।

1. स्टीयरिंग वेक्टर निष्कर्षण (Steering Vector Extraction): Hendel et al. (2023) का अनुसरण करते हुए, लेखक इन-कॉन्टेक्स्ट अनुक्रमों के दौरान लक्षित क्रिया स्थिति पर LLMs (Llama-2-13B, Llama-3-1B, Llama-3-8B) से हिडन स्टेट्स निकालते हैं। ये अनुक्रम $n-1$ प्राइम वाक्यों (प्रदर्शनों) के बाद एक लक्षित वाक्य से बने होते हैं। क्रिया $v$ द्वारा प्रभावित संरचना $s$ उत्पन्न करने के "कार्य" का प्रतिनिधित्व करने वाले स्टीयरिंग वेक्टर $\bar{\theta}_{\langle v,s \rangle}$ को बनाने के लिए हिडन स्टेट्स का औसत निकाला जाता है।
2. निरंतर चरों का स्थानीयकरण (Localization of Continuous Variables): एक निरंतर चर (जैसे, क्रिया पूर्वाग्रह $b_v \in (0,1)$) पर हस्तक्षेप करने के लिए, लेखक:
   • उच्च-आयामी सक्रियण वेक्टर्स को प्रिंसिपल कंपोनेंट एनालिसिस (PCA) का उपयोग करके निम्न-आयामी स्थान में प्रोजेक्ट करते हैं।
   • PCA निर्देशांकों (Coordinates) को सामान्यीकृत (Normalize) करते हैं।
   • लक्षित निरंतर चर की भविष्यवाणी करने के लिए एक रिग्रेशन मॉडल (सीमाबद्ध चरों के लिए Beta regression; हस्ताक्षरित चरों के लिए OLS) फिट करते हैं। यह चर के अनुरूप एक निम्न-आयामी दिशा वेक्टर $\beta$ की पहचान करता है।
3. प्रति-तथ्यात्मक संपादन (Counterfactual Editing): एक वेक्टर $h_i$ को प्रति-तथ्यात्मक लक्ष्य मान $y^*_i$ की ओर संपादित करने के लिए, लेखक पहचाने गए दिशा $\beta$ के अनुदिश एक न्यूनतम $L_2$-norm अपडेट $\Delta \tilde{z}_i$ की गणना करते हैं। अपडेट को इस प्रकार परिभाषित किया गया है:
   $$\Delta \tilde{z}_i = \frac{y^*_i - \hat{y}_i}{\|\beta_S\|^2} \beta_S$$
   जहाँ $S$ उन चुनिंदा प्रिंसिपल कंपोनेंट्स का उपसमुच्चय है जिनका उपयोग संपादन के लिए किया जाता है (आमतौर पर गुणांक परिमाण द्वारा शीर्ष 5)। संपादित वेक्टर को फिर मूल स्थान में वापस मैप किया जाता है और डाउनस्ट्रीम प्रभावों को देखने के लिए मॉडल में इंजेक्ट किया जाता है।
4. प्रायोगिक स्थितियाँ (Experimental Conditions): अध्ययन चार हस्तक्षेप स्थितियों का परीक्षण करता है:
   • अपरिवर्तित (Unchanged): नियंत्रण (मूल पूर्वाग्रह)।
   • फ्लिप (Flip): पूर्वाग्रह को उलटना ($b_v \to 1 - b_v$)।
   • पूर्णतः पूर्वाग्रही (Fully Biased): पूर्वाग्रह को संतृप्त करना (0 तक पूरी तरह DO-biased या 1 तक पूरी तरह PD-biased)।
   • त्रुटि संकेत संपादन (Error Signal Editing): एक हस्ताक्षरित त्रुटि संकेत $e = b_v - s$ (जहाँ $s$ प्रेक्षित संरचना है) को भी इसी तरह संपादित किया जाता है ताकि त्रुटि-संचालित अपडेट व्यवहारों का परीक्षण किया जा सके।

प्रमुख परिणाम

• स्टीयरिंग वेक्टर्स प्राइमिंग को प्रेरित करते हैं: प्राइम वाक्यों से निकाले गए स्टीरलिंग वेक्टर्स मिड-टू-लेट लेयर्स (लेयर 15+) में स्ट्रक्चरल प्राइमिंग प्रभावों को सफलतापूर्वक प्रेरित करते हैं। एक PD-प्राइम वेक्टर को इंजेक्ट करने से मॉडल की PD संरचनाओं के प्रति प्राथमिकता बढ़ जाती है, और इसके विपरीत भी।
• क्रिया पूर्वाग्रह की कारण भूमिका (Causal Role of Verb Bias): निरंतर क्रिया पूर्वाग्रह, स्टीयरिंग वेक्टर्स से रैखिक रूप से अनुमानित (Linearly Predictable) है। इस पूर्वाग्रह का प्रति-तथ्यात्मक संपादन प्राइमिंग प्रभाव के परिमाण को कारणतः नियंत्रित करता है।
  • फ्लिप स्थिति: स्टीयरिंग वेक्टर में क्रिया पूर्वाग्रह को उलटने से क्रिया के मूल पूर्वाग्रह और प्राइमिंग परिमाण के बीच का सहसंबंध उलट जाता है।
  • पूर्णतः पूर्वाग्रही स्थिति: पूर्वाग्रह को संतृप्त करने से विभिन्न क्रियाओं में प्राइमिंग परिमाण की भिन्नता समाप्त हो जाती है, जो पुष्टि करता है कि पहचाना गया सबस्पेस (Subspace) प्रभाव की क्रमिक प्रकृति को कारणतः निर्धारित करता है।
• त्रुटि संकेत की उपस्थिति बनाम उपयोग (Error Signal Presence vs. Usage):
  • उपस्थिति: एक त्रुटि-संकेत जैसा चर (क्रिया पूर्वाग्रह और प्रेक्षित संरचना को मिलाने वाला) स्टीयरिंग वेक्टर्स में मौजूद है और इसे डाउनस्ट्रीम प्राथमिकताओं में ग्रेडिएंट शिफ्ट उत्पन्न करने के लिए कारणतः संपादित किया जा सकता है।
  • सीमा: इस संकेत की उपस्थिति के बावजूद, असंशोधित स्टीरलिंग वेक्टर्स इन्वर्स फ्रीक्वेंसी इफेक्ट (IFE) को पुनरुत्पादित नहीं करते हैं—यह वह घटना है जहाँ अप्रत्याशित प्राइम संरचनाएं मजबूत प्राइमिंग प्रेरित करती हैं। मानक स्टीरलिंग वेक्टर इंजेक्शन एक सकारात्मक ढलान (जो क्रिया के पूर्वाग्रह से मेल खाता है) उत्पन्न करता है, न कि वह नकारात्मक ढलान जो त्रुटि-संचालित शिक्षण सिद्धांतों द्वारा अनुमानित है।
  • लेयरवाइज डायनेमिक्स: जबकि क्रिया पूर्वाग्रह शुरुआती लेयर्स में सुलभ है, पूर्वाग्रह और संरचना का एक हेरफेर योग्य त्रुटि संकेत में एकीकरण, जो ग्रेडिएंट अपडेट को संचालित करता है, केवल मिड-टू-लेट लेयर्स (लेयर 15+) में उभरता है।

महत्व और दावे
यह शोध पत्र चार प्राथमिक योगदान देता है:

1. पद्धतिगत विस्तार (Methodological Extension): यह निरंतर चरों पर कारण संबंधी हस्तक्षेप करने के लिए एक व्यवहार्य विधि प्रदर्शित करता है, जो उन विविक्त विशेषताओं से आगे बढ़ता है जो कारण संबंधी व्याख्यात्मकता पर हावी रही हैं।
2. कारण सत्यापन (Causal Verification): यह स्थापित करता है कि क्रिया पूर्वाग्रह केवल सहसंबंधित नहीं है, बल्कि स्टीरलिंग वेक्टर्स में कारणतः प्रतिनिधित्वित है, क्योंकि प्रति-तथ्यात्मक संपादन व्यवस्थित रूप से डाउनस्ट्रीम संरचनात्मक प्राथमिकताओं को बदलते हैं।
3. ICL तंत्र विश्लेषण: यह स्ट्रक्चरल प्राइमिंग के एक तंत्र के रूप में स्टीरलिंग वेक्टर्स का एक सूक्ष्म दृष्टिकोण प्रदान करता है। जबकि वे स्ट्रक्चरल प्राइमिंग के क्षणिक सक्रियण (Transient Activation) घटक (संदर्भ के आधार पर प्राथमिकताओं को बदलना) को सफलतापूर्वक कैप्चर करते हैं, वे पूर्ण त्रुटि-संचालित अपडेट (Error-driven Update) डायनेमिक (विशेष रूप से IFE) को कैप्चर करने में विफल रहते हैं। यह सुझाव देता है कि योगात्मक (Additive) स्टीरलिंग वेक्टर्स संदर्भ द्वारा प्रेरित प्रतिनिधित्व अवस्था का अनुमान लगाते हैं, लेकिन ICL के कम्प्यूटेशनल अपडेट नियम को पूरी तरह से पुनरुत्पादित नहीं करते हैं।
4. सैद्धांतिक मानचित्रण (Theoretical Mapping): लेखक मनोवैज्ञानिक-भाषाई सिद्धांतों और LLM तंत्रों के बीच एक मानचित्रण का प्रस्ताव करते हैं: स्टीरलिंग वेक्टर्स प्राइमिंग के "क्षणिक सक्रियण" सिद्धांतों के साथ संरेखित होते हैं, जबकि लापता त्रुटि-संचालित घटक के लिए ऐसे तंत्रों की आवश्यकता हो सकती है जो सरल वेक्टर जोड़ (Vector Addition) के बजाय लो-रैंक वेट अपडेट या इम्प्लिसिट लर्निंग प्रक्रियाओं के रूप में बेहतर ढंग से वर्णित किए जा सकते हैं।

लेखक निष्कर्ष निकालते हैं कि हालांकि निरंतर चर हस्तक्षेप एक शक्तिशाली नैदानिक और कारण उपकरण है, इन निरंतर प्रतिनिधित्वों को इन-कॉन्टेक्स्ट लर्निंग के पूर्ण डायनेमिक से जोड़ना एक चुनौती बना हुआ है, क्योंकि वर्तमान स्टीरलिंग वेक्टर दृष्टिकोण ICL के "क्या" (वरीयता अवस्था) को तो पकड़ता है, लेकिन उसके पूर्ण "कैसे" (त्रुटि-संचालित अनुकूलन प्रक्रिया) को नहीं।