तकनीकी सारांश: सॉफ्टमैक्स की सूचना ज्यामिति: प्रोबिंग और स्टीयरिंग (The Information Geometry of Softmax: Probing and Steering)

समस्या विवरण (Problem Statement)

AI मॉडलों की व्याख्या करने और उन्हें नियंत्रित करने के वर्तमान दृष्टिकोण अक्सर रैखिक प्रतिनिधित्व परिकल्पना (linear representation hypothesis) पर निर्भर करते हैं, जो यह मानती है कि उच्च-स्तरीय अवधारणाएं मॉडल के वेक्टर प्रतिनिधित्व स्थान में विशिष्ट दिशाओं के अनुरूप होती हैं। जबकि इस परिकल्पना ने अवधारणाओं (जैसे भावना, सत्यनिष्ठा) को पहचानने और निर्देशित करने (steering) की विधियों को सक्षम किया है, मौजूदा तकनीकें अक्सर भंगुर (brittle) होती हैं और सीधे फाइन-ट्यूनिंग की तुलना में कम प्रभावी होती हैं। लेखकों द्वारा पहचाना गया एक प्राथमिक सीमा यह है कि वे अंतर्निहित रूप से यह मान लेते हैं कि प्रतिनिधित्व स्थान (representation spaces) में एक सपाट, यूक्लिडियन ज्यामिति (Euclidean geometry) होती है। शोध पत्र तर्क देता है कि सॉफ्टमैक्स वितरणों (ट्रांसफॉर्मर, LLMs और CLIP जैसे कंट्रास्टिव मॉडल सहित) का उपयोग करने वाले मॉडलों के लिए, प्रतिनिधित्व स्थान की प्राकृतिक ज्यामिति यूक्लिडियन नहीं बल्कि सूचना ज्यामिति (information geometry) है। फलस्वरूप, मानक यूक्लिडियन संचालन (जैसे कि प्रतिनिधित्व में सीधे एक प्रोब वेक्टर जोड़ना) अर्थ संबंधी संरचना को बनाए रखने में विफल हो सकते हैं या अनपेक्षित "ऑफ-टारगेट" विचलन (drift) का कारण बन सकते हैं, जहाँ प्रायिकता द्रव्यमान (probability mass) असंबंधित अवधारणाओं की ओर लीक हो जाता है।

कार्यप्रणाली (Methodology)

यह शोध पत्र इस विचार को क्रियान्वित करता है कि प्रतिनिधित्व वैक्टर्स $\lambda$ की ज्यामिति को प्रेरित सॉफ्टमैक्स वितरणों $P_\lambda$ की निकटता को दर्शाना चाहिए।

1. सूचना ज्यामितीय ढांचा (Information Geometric Framework)

लेखक स्थापित करते हैं कि सॉफ्टमैक्स वितरणों के बीच कुलबैक-लीब्लर (KL) डाइवर्जेंस द्वारा प्रेरित ज्यामिति एक ब्रेगमैन (द्वि-सपाट/dually flat) ज्यामिति है। यह संरचना दो स्थानों के बीच द्वैत (duality) पेश करती है:

• प्राइमल स्पेस ($\Lambda$): प्रतिनिधित्व वैक्टर्स $\lambda$ का स्थान।
• डुअल स्पेस ($\Phi$): अपेक्षित मानों (मीन एम्बेडिंग्स) का स्थान $\phi(\lambda) = \nabla A(\lambda) = \mathbb{E}[\gamma | \lambda]$, जहाँ $A(\lambda)$ लॉग-नॉर्मलाइज़र है।

शोध पत्र दो प्राकृतिक इंटरपोलेशन पथों के बीच अंतर करता है:

• प्राइमल इंटरपोलेशन (e-geodesic): प्राइमल स्पेस में एक सीधी रेखा। यह रिवर्स KL डाइवर्जेंस के भारित योग को कम करता है, जो एक AND ऑपरेटर की तरह व्यवहार करता है और साझा उच्च-प्रायिकता क्षेत्रों पर जोर देता है।
• डुअल इंटरपोलेशन (m-geodesic): डुअल स्पेस में एक सीधी रेखा। यह फॉरवर्ड KL डाइवर्जेंस के भारित योग को कम करता है, जो एक OR ऑपरेटर की तरह व्यवहार करता है और वितरणों का एक रैखिक मिश्रण बनाता है, जिससे दोनों छोरों की अर्थ संबंधी विशेषताओं को एक साथ संरक्षित किया जाता है।

2. डुअल स्टीयरिंग (Dual Steering)

मुख्य कार्यप्रणाली योगदान डुअल स्टीयरिंग है, जो एक लक्षित अवधारणा प्रदर्शित करने के लिए प्रतिनिधित्व को संशोधित करने की एक तकनीक है जबकि ऑफ-टारगेट अवधारणाओं में परिवर्तन को न्यूनतम किया जाता है।

• यूक्लिडियन स्टीयरिंग की समस्या: मानक स्टीयरिंग एक प्रोब वेक्टर $\beta_W$ (जो डुअल स्पेस का एक तत्व है) को सीधे प्राइमल प्रतिनिधित्व $\lambda$ में जोड़ती है। यह गैर-यूक्लिडियन ज्यामिति में एक "टाइप मिसमैच" है और अक्सर ऑफ-टारगेट ड्रिफ्ट का कारण बनता है।
• डुअल स्टीयरिंग समाधान: $\lambda$ को सीधे अपडेट करने के बजाय, डुअल स्टीयरिंग डुअल कोऑर्डिनेट $\phi(\lambda)$ को अपडेट करती है: $\phi(\lambda_t) = \phi(\lambda_0) + t\beta_W$।
• सैद्धांतिक गारंटी: कॉन्सेप्ट-फैक्टरइज़ेबल डिस्ट्रीब्यूशन (जहाँ आउटपुट वितरण को एक लक्षित अवधारणा वितरण और एक ऑफ-टारगेट वितरण में विभाजित किया जा सकता है) के धारणा के तहत, लेखक यह सिद्ध करते हैं कि डुअल स्टीयरिंग उस KL डाइवर्जेंस के मिनिमाइज़र की पहचान करती है जो लक्षित अवधारणा को संशोधित करती है और साथ ही ऑफ-टारगेट वितरण के KL डाइवर्जेंस को न्यूनतम करती है। यह प्रभावी रूप से असंबंधित टोकन की सापेक्ष प्रायिकता को सुरक्षित रखता है।

3. व्यावहारिक कार्यान्वयन (Practical Implementation)

चूंकि डुअल स्पेस एक सीमित उत्तल सेट (bounded convex set) है, इसलिए डुअल स्पेस में एक रैखिक अपडेट व्यवहार्य क्षेत्र से बाहर जा सकता है। इसे संबोधित करने के लिए, लेखक एक रेगुलराइज्ड न्यूटन अपडेट (Regularized Newton Update) प्रस्तावित करते हैं:

1. लॉग-नॉर्मलाइज़र के हेसियन (Hessian) का उपयोग करके डुअल कोऑर्डिनेट्स में परिवर्तन का अनुमान लगाएं (जो अनएम्बेडिंग वैक्टर्स का कोवेरिएंस मैट्रिक्स है)।
2. प्राइमल स्पेस में संगत स्टेप खोजने के लिए रैखिक सिस्टम $\text{Cov}[\gamma | \lambda] \Delta \lambda = \epsilon \beta_W$ को हल करें।
3. रैंक-डेफिशिएंसी (जो तब होती है जब सॉफ्टमैक्स कुछ ही टोकन पर अत्यधिक केंद्रित होता है) को संभालने के लिए कोवेरिएंस मैट्रिक्स पर टिखोनोव रेगुलराइजेशन ($\alpha I$) लागू करें, जिससे यह सुनिश्चित हो सके कि अपडेट अच्छी तरह से परिभाषित रहे और यदि आवश्यक हो तो वितरण को उच्च एंट्रॉपी वाले क्षेत्रों की ओर धकेले।
4. बड़े कोवेरिएंस मैट्रिक्स को स्पष्ट रूप से इनवर्ट किए बिना रैखिक सिस्टम को कुशलतापूर्वक हल करने के लिए कंजुगेट ग्रेडिएंट (Conjugate Gradient) विधि का उपयोग करें।

मुख्य परिणाम (Key Results)

लेखक विभिन्न बाइनरी अवधारणाओं (जैसे क्रिया $\Rightarrow$ तृतीय पुरुष, कुत्ता $\Rightarrow$ बिल्ली, अंग्रेजी $\Rightarrow$ फ्रेंच) के लिए Gemma-3-4B (LLM) और MetaClip-2 (विज़न-लैंग्वेज) पर डुअल स्टीयरिंग का मूल्यांकन करते हैं।

• ऑफ-टारगेट अवधारणाओं का संरक्षण: अनुभवजन्य परिणाम दिखाते हैं कि डुअल स्टीयरिंग ऑफ-टारगेट वितरणों को संरक्षित करने में यूक्लिडियन स्टीयरिंग की तुलना में काफी बेहतर प्रदर्शन करती है। जहां यूक्लिडियन स्टीयरिंग अक्सर "लीकेज" का कारण बनती है (जैसे "पिता" $\Rightarrow$ "माता" को स्टीयर करते समय "मित्र" जैसे असंबंधित टोकन को महत्वपूर्ण प्रायिकता देना), वहीं डुअल स्टीयरिंग काउंटरफैक्चुअल जोड़ों और न्यूट्रल टोकन के प्रायिकता द्रव्यमान को बनाए रखती है।
• मजबूती मेट्रिक्स (Robustness Metrics): डुअल स्टीयरिंग ऑफ-टारगेट वितरणों के लिए यूक्लिडियन विधियों की तुलना में कम KL डाइवर्जेंस और छोटा रैंक अंतर प्राप्त करती है, भले ही लक्षित अवधारणा की प्रायिकता 1 के करीब पहुंच जाए।
• इंटरपोलेशन व्यवहार: विज़ुअलाइज़ेशन पुष्टि करते हैं कि डुअल इंटरपोलेशन (m-geodesic) वितरणों के रैखिक मिश्रण के रूप में कार्य करता है, जबकि प्राइमल इंटरपोलेशन (e-geodesic) साझा विशेषताओं के पक्ष में एंडपॉइंट-विशिष्ट आउटपुट को दबा देता है।

महत्व और दावे (Significance and Claims)

शोध पत्र का दावा है कि आंतरिक सूचना ज्यामिति (intrinsic information geometry) की गैर-यूक्लिडियन संरचना को स्टीयरिंग जैसे कार्यों के लिए ज्यामितीय हेरफेर को जोड़ने के लिए समझना महत्वपूर्ण है।

• सैद्धांतिक अंतर्दृष्टि: यह दर्शाता है कि रैखिक प्रतिनिधित्व परिकल्पना को मजबूत होने के लिए फ्लैट यूक्लिडियन ज्यामिति के बजाय सूचना ज्यामिति (विशेष रूप से ब्रेगमैन द्वैत) के संदर्भ में समझा जाना चाहिए।
• व्यावहारिक उपयोगिता: डुअल स्टीयरिंग अनपेक्षित दुष्प्रभावों को कम करते हुए प्रतिनिधित्व को मजबूती से संचालित करने के लिए एक सैद्धांतिक रूप से आधारित तरीका प्रदान करती है, जो व्याख्यात्मकता (interpretability) और नियंत्रण विधियों की विश्वसनीयता में सुधार के लिए एक टेम्पलेट प्रदान करती है।
• दायरा: हालांकि परिणाम सॉफ्टमैक्स-आधारित मॉडलों से प्राप्त किए गए हैं, लेखक सुझाव देते हैं कि आंतरिक ज्यामिति का लाभ उठाने का उच्च-स्तरीय विचार व्यापक रूप से लागू किया जा सकता है। वे स्पष्ट रूप से उल्लेख करते हैं कि यह कार्य भविष्य के अनुसंधान के लिए एक टेम्पलेट के रूप में कार्य करता है कि कैसे ज्यामिति नियंत्रण विधियों की मजबूती को प्रभावित करती है, विशेष रूप से मॉडलों की मध्यवर्ती परतों (intermediate layers) में।

लेखक "प्रोबिंग धारणा" (कि एक रैखिक प्रोब पूरे हाइपरप्लेन में एक अवधारणा को पूरी तरह से कैप्चर करता है) के प्रति विनम्र रहते हैं, यह स्वीकार करते हुए कि व्यवहार में, यह धारणा पूरी तरह से सटीक नहीं हो सकती है, फिर भी डुअल स्टीयरिंग यूक्लिडियन विधियों की तुलना में अनुभवजन्य रूप से बेहतर प्रदर्शन करती है।