🤖 machine learning

Comparing Linear Probes with Mahalanobis Cosine Similarity

यह शोध पत्र सैद्धांतिक रूप से सिद्ध और अनुभवजन्य रूप से मान्य करता है कि गॉसियन धारणाओं के तहत एक आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) संदर्भ प्रोब के लिए महालनोबिस कोसाइन समानता (Mahalanobis cosine similarity), एक लीनियर प्रोब के OOD AUROC की रैखिक रूप से भविष्यवाणी करती है, जो प्रोब्स की तुलना करने के लिए मानक कोसाइन समानता का एक बेहतर विकल्प प्रदान करती है।

मूल लेखक: Zhuofan Josh Ying, Peter Hase, Nikolaus Kriegeskorte

प्रकाशित 2026-06-19

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Zhuofan Josh Ying, Peter Hase, Nikolaus Kriegeskorte

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करके पेपर की व्याख्या दी गई है।

बड़ी तस्वीर: कुछ "प्रोब्स" (Probes) काम क्यों करते हैं और कुछ क्यों नहीं?

कल्पना कीजिए कि आपके पास एक विशाल, जटिल मशीन है (जैसे कि एक लार्ज लैंग्वेज मॉडल) जो संख्याओं और पैटर्न की एक ऐसी भाषा में सोचती है जिसे हम आसानी से देख नहीं सकते। शोधकर्ता इस मशीन के अंदर झाँकने के लिए "लीनियर प्रोब्स" (linear probes) का उपयोग करते हैं। एक प्रोब को टॉर्च की रोशनी की तरह समझें। आप एक विशिष्ट दिशा में रोशनी डालते हैं यह देखने के लिए कि क्या मशीन किसी विशिष्ट अवधारणा (concept) के बारे में "सोच" रही है, जैसे कि "क्या यह वाक्य सत्य है?" या "क्या यह व्यक्ति पुरुष है?"

समस्या यह है कि ये टॉर्च बहुत नाजुक होती हैं। एक टॉर्च की किरण जो एक कमरे (ट्रेनिंग डेटा) में पूरी तरह से काम करती है, वह दूसरे कमरे (नए डेटा) में जाते ही बुझ सकती है। शोधकर्ता एक ऐसा तरीका चाहते हैं जिससे वे केवल यह देखकर भविष्यवाणी कर सकें कि क्या कोई टॉर्च नए कमरे में काम करेगी या नहीं।

पुराना तरीका बनाम नया तरीका

दो टॉर्चों (प्रोब्स) की तुलना करने के लिए, शोधकर्ता आमतौर पर यूक्लिडियन कोसाइन सिमिलरिटी (Euclidean Cosine Similarity) का उपयोग करके उनके बीच का कोण मापते हैं।

उपमा: कल्पना कीजिए कि आप दो दिशा-सूचक यंत्रों (compass needles) की तुलना कर रहे हैं। पुराना तरीका बस सुइयों के बीच के कोण को देखता है, यह मानकर कि मानचित्र पर हर दिशा समान रूप से महत्वपूर्ण है।
दोष: यह एक ऐसे मानचित्र पर कंपास की तुलना करने जैसा है जहाँ कुछ दिशाएँ "चिपचिपी" (चलने में कठिन) हैं और अन्य "फिसलन भरी" (चलने में आसान) हैं। यदि आप चिपचिपे हिस्सों को अनदेखा करते हैं, तो आपकी तुलना गलत होगी।

लेखक एक नया तरीका प्रस्तावित करते हैं जिसे महालानोबिस कोसाइन सिमिलरिटी (Mahalanobis Cosine Similarity - MCS) कहा जाता है।

उपमा: यह एक ऐसे चश्मे को पहनकर कंपास की तुलना करने जैसा है जो इलाके की "चिपचिपाहट" (stickiness) को ध्यान में रखता है। यह जानता है कि डेटा की कुछ दिशाएँ अधिक महत्वपूर्ण हैं (जहाँ डेटा वास्तव में बदलता है) और अन्य केवल शोर (noise) हैं। यह तुलना को डेटा के आकार के आधार पर तौलता है।

बड़ी खोज: एक आदर्श रेखा

लेखकों ने कुछ आश्चर्यजनक पाया:
जब उन्होंने नए "इलाका-जागरूक" (terrain-aware) तरीके (MCS) का उपयोग करके पुराने डेटा पर प्रशिक्षित प्रोब की तुलना नए डेटा पर प्रशिक्षित प्रोब से की, तो परिणाम एक पूरी तरह से सीधी रेखा था।

उपमा: कल्पना कीजिए कि आपके पास एक रूलर (MCS) है जो यह मापता है कि दो टॉर्च एक-दूसरे के कितने समान हैं। यदि आप इस रूलर का उपयोग करते हैं, तो आप सटीक भविष्यवाणी कर सकते हैं कि नई रोशनी (नया कमरा) में टॉर्च कैसा प्रदर्शन करेगी (उसका "जनरलाइजेशन परफॉर्मेंस")।
परिणाम: पेपर दिखाता है कि यदि MCS स्कोर उच्च है, तो प्रदर्शन भी उच्च होता है। यदि MCS स्कोर कम है, तो प्रदर्शन भी कम होता है। यह संबंध इतना मजबूत है कि यह एक सीधी रेखा की तरह दिखता है जिसे एक स्केल (रूलर) से खींचा गया हो (गणितीय रूप से, इसका $R^2$ 0.98 है, जो लगभग पूर्ण है)।
विपरीत स्थिति: यदि वे पुराने "केवल-कोण" वाले तरीके (Euclidean) का उपयोग करते, तो बिंदु इधर-उधर बिखरे हुए होते, जैसे एक धुंधला बादल, जिससे प्रदर्शन की भविष्यवाणी करना असंभव हो जाता।

यह क्यों होता है? ("S-कर्व्स" का जादू)

पेपर गणित का उपयोग करके समझाता है कि यह सीधी रेखा क्यों मौजूद है, लेकिन यहाँ इसका सरल संस्करण है:

सिग्नल-टू-नॉइज़ रेशियो (SNR): इसे डेटा में "सत्य" (truth) की "शोर" (noise) की तुलना में कितनी तीव्रता है, समझें।
दो अलग-अलग आकार:
- परफॉर्मेंस (प्रोब कितनी अच्छी तरह काम करता है) एक S-आकार (सिग्मॉइड कर्व) का पालन करता है। यह धीरे शुरू होता है, तेज होता है, और फिर स्थिर हो जाता है।
- MCS स्कोर भी एक S-आकार का पालन करता है, लेकिन यह एक थोड़ा अलग प्रकार का कर्व है।
निरस्तीकरण (Cancellation): जब आप इन दोनों S-आकारों को मिलाते हैं, तो वे एक-दूसरे को रद्द कर देते हैं! एक कर्व का "मोड़" दूसरे कर्व के "मोड़" को पूरी तरह से सीधा कर देता है।
- उपमा: कल्पना कीजिए कि आप एक ऐसी पहाड़ी पर चढ़ रहे हैं जो बाईं ओर झुकती है, लेकिन आप एक ऐसे कन्वेयर बेल्ट पर भी चल रहे हैं जो ठीक उसी दर से दाईं ओर झुकता है। परिणाम यह होता है कि आप एक बिल्कुल सीधी रेखा में चलते हैं।

इस गणितीय "निरस्तीकरण" के कारण, समानता स्कोर और वास्तविक प्रदर्शन के बीच का संबंध एक सीधी रेखा बन जाता है।

यह नियम कब टूटता है?

लेखकों ने यह भी परीक्षण किया कि यह आदर्श रेखा कब टूटती है, जिससे हमें इस नियम की सीमाओं को समझने में मदद मिलती है:

गलत मानचित्र (गलत कोवेरिएंस/Covariance): यदि आप पुराने "केवल-कोण" वाले तरीके (इलाके को अनदेखा करते हुए) का उपयोग करते हैं, तो रेखा गायब हो जाती है। आपको "इलाका-जागरूक" मानचित्र का उपयोग करना ही होगा।
खराब कंपास (गैर-फिशर प्रोब्स): यदि प्रोब को इष्टतम गणितीय तरीके (जैसे कि एक साधारण "डिफरेंस ऑफ मीन्स" के बजाय अधिक परिष्कृत विधि) का उपयोग करके नहीं बनाया गया है, तो रेखा अव्यवस्थित हो जाती है।
छोटा सिग्नल (छोटा फिशर डिस्टेंस): यदि सिग्नल इतना कमजोर है कि "S-कर्व्स" अभी तक मुड़ना शुरू नहीं हुए हैं, तो संबंध रैखिक (linear) नहीं होता है। (हालाँकि, जिन मॉडलों का परीक्षण किया गया उनमें सिग्नल इतना मजबूत था कि ऐसा नहीं हुआ)।
असंतुलित टीमें: यदि एक समूह का डेटा बहुत बड़ा है और दूसरे का बहुत छोटा (जैसे 99% बिल्लियाँ और 1% कुत्ते), तो रेखा झुक जाती है और टूट जाती है।

सारांश

समस्या: केवल देखकर यह बताना कठिन है कि एक उपकरण (प्रोब) नए डेटा पर काम करेगा या नहीं।
समाधान: महालानोबिस कोसाइन सिमिलरिटी (MCS) का उपयोग करें, जो डेटा के आकार और "चिपचिपाहट" को ध्यान में रखता है।
परिणाम: यह तरीका समानता स्कोर और वास्तविक प्रदर्शन के बीच एक लगभग पूर्ण सीधी रेखा बनाता है।
मुख्य बात: आपको यह जानने के लिए कि प्रोब काम करेगा या नहीं, नए डेटा पर उसका परीक्षण करने की आवश्यकता नहीं है। आपको बस इस विशिष्ट "इलाका-जागरूक" रूलर का उपयोग करके एक संदर्भ प्रोब के साथ उसकी समानता को मापने की आवश्यकता है।

पेपर इसे गणितीय रूप से सिद्ध करता है और दिखाता है कि यह विभिन्न AI मॉडलों, उन मॉडलों के भीतर विभिन्न परतों (layers) और कई विभिन्न प्रकार के कार्यों (जैसे सत्यता या लिंग की जाँच करना) पर काम करता है। यह एक अव्यवस्थित, अप्रत्याशित समस्या को एक साफ, पूर्वानुमानित रेखा में बदल देता है।

तकनीकी सारांश: लीनियर प्रोब्स की महालानोबिस कोसाइन सिमिलरिटी (Mahalanobis Cosine Similarity) के साथ तुलना

समस्या विवरण (Problem Statement)

लीनियर प्रोब्स (Linear probes) न्यूरल नेटवर्क रिप्रेजेंटेशन से कॉन्सेप्ट्स निकालने के लिए इंटरप्रिटेबिलिटी रिसर्च में मानक उपकरण हैं। हालांकि, इनका ट्रांसफर व्यवहार (transfer behavior) अत्यधिक नाजुक होता है; इन-डिस्ट्रीब्यूशन (ID) डेटा पर प्रशिक्षित प्रोब्स अक्सर आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) परिदृश्यों में विफल हो जाते हैं, यहाँ तक कि नेगेशन (negation) या प्रॉम्प्ट फॉर्मेटिंग परिवर्तन जैसे सूक्ष्म बदलावों में भी। एक महत्वपूर्ण चुनौती यह निर्धारित करना है कि कौन से प्रोब्स सामान्यीकरण (generalize) करेंगे और यह समझना है कि क्यों एक वितरण पर समान दिखने वाले प्रोब्स दूसरे पर भिन्न हो जाते हैं।

प्रोब्स की तुलना करने के लिए वर्तमान विधियाँ आमतौर पर यूक्लिडियन कोसाइन सिमिलरिटी (Euclidean Cosine Similarity - ECS) पर निर्भर करती हैं। हालाँकि, ECS सभी आयामों (dimensions) के साथ समान व्यवहार करता है, इस तथ्य की अनदेखी करता है कि केवल वे आयाम ही प्रोब प्रदर्शन को प्रभावित करते हैं जहाँ डेटा वास्तव में महत्वपूर्ण रूप से भिन्न होता है। जबकि यिंग एट अल. (2026) ने अनुभवजन्य रूप से देखा कि महालानोबिस कोसाइन सिमिलरिटी (MCS)—जो ओओडी (OOD) डेटा कोवेरिएंस द्वारा इनर प्रोडक्ट को पुन: भारित (reweight) करती है—ट्रुथफुलनेस डेटासेट्स के लिए OOD AUROC ( $R^2=0.98$ ) की रैखिक रूप से भविष्यवाणी करती है, इस निष्कर्ष में सैद्धांतिक स्पष्टीकरण का अभाव था और इसे विविध मॉडल्स, लेयर्स या कॉन्सेप्ट डोमेन में सत्यापित नहीं किया गया था।

कार्यप्रणाली (Methodology)

लेखक MCS और OOD जनरलाइजेशन प्रदर्शन के बीच के संबंध को समझाने और मान्य करने के लिए एक सैद्धांतिक और अनुभवजन्य ढांचा प्रस्तावित करते हैं।

सैद्धांतिक ढांचा (Theoretical Framework)

पेपर एक संदर्भ प्रोब (जो OOD डेटा पर प्रशिक्षित है) के MCS और एक प्रोब के OOD AUROC के बीच एक क्लोज्ड-फॉर्म संबंध व्युत्पन्न करता है। यह व्युत्पत्ति तीन मानक सांख्यिकीय धारणाओं पर आधारित है:

संतुलित वर्ग (Balanced Classes): $Pr(Y=0) = Pr(Y=1) = 0.5$।
प्रोजेक्शन गॉसियनिटी (Projection Gaussianity): किसी भी प्रोब दिशा पर फीचर वेक्टर का प्रोजेक्शन प्रत्येक वर्ग के लिए एक गॉसियन वितरण का पालन करता है।
कोवेरिएंस संरचना (Covariance Structure): कुल कोवेरिएंस ( $\Sigma_{tot}$ ) को पूल किए गए विदिन-क्लास कोवेरिएंस ( $\Sigma_{pool}$ ) और बिटवीन-क्लास घटक में विभाजित किया गया है।

इन धारणाओं के तहत, लेखक सिद्ध करते हैं कि:

AUROC, प्रोब के सिग्नल-टू-नॉइज़ रेशियो (SNR), $s$ का एक सिग्मॉइड-आकार का फंक्शन है: $AUROC = \Phi(s/\sqrt{2})$ ।
MCS (विशेष रूप से फिशर डिस्क्रिमिनेंट दिशा के विरुद्ध) एक सॉफ्ट-साइन आकार का फंक्शन है: $MCS \approx s/\sqrt{4+s^2}$ (लार्ज फिशर डिस्टेंस $z_{max}$ की सीमा में)।

मुख्य सैद्धांतिक अंतर्दृष्टि यह है कि इन दोनों फंक्शन्स को संयोजित करने से उनकी संबंधित नॉन-लिनैरिटीज़ (सिग्मॉइड और सॉफ्ट-साइन) रद्द हो जाती हैं, जिसके परिणामस्वरूप AUROC और MCS के बीच एक लगभग रैखिक संबंध बनता है। इस रेखा का ढलान (slope) सैद्धांतिक रूप से अनुमानित है कि बड़े फिशर डिस्टेंस के लिए लगभग $1/\sqrt{\pi}$ होगा।

अनुभवजन्य मूल्यांकन (Empirical Evaluation)

लेखक इस संबंध के अनुभवजन्य सत्यापन को निम्नलिखित के माध्यम से विस्तृत करते हैं:

मॉडेल्स: Llama-3.3-70B, Llama-3.1-8B, और Qwen2.5-7B।
लेयर्स: Llama-70B के भीतर विभिन्न लेयर्स (जैसे, 20, 33, 50, 65)।
डोमेन: ट्रुथफुलनेस, जेंडर क्लासिफिकेशन और जनरल NLP बेंचमार्क्स को कवर करने वाले 24 डेटासेट्स।
बेसलाइन्स: मानक यूक्लिडियन कोसाइन सिमिलरिटी (ECS) के विरुद्ध तुलना और अलग-अलग कोवेरिएंस एस्टिमेटर्स (टोटल बनाम पूल्ड) का उपयोग।

मुख्य योगदान (Key Contributions)

रैखिकता का सैद्धांतिक प्रमाण (Theoretical Proof of Linearity): पेपर एक क्लोज्ड-फॉर्म प्रमाण प्रदान करता है जो दर्शाता है कि संतुलित, गॉसियन-प्रोजेक्टेड क्लासेज के लिए, OOD AUROC और MCS रैखिक रूप से संबंधित हैं। यह पहले देखे गए लगभग पूर्ण सहसंबंध ( $R^2 \approx 0.98$ ) की व्याख्या करता है।
विफलता मोड का लक्षण वर्णन (Characterization of Failure Modes): सिद्धांत स्पष्ट रूप से उन स्थितियों की भविष्यवाणी करता है जिनमें यह रैखिकता टूट जाती है, जिन्हें अनुभवजन्य रूप से सत्यापित किया गया है:
- पूल्ड कोवेरिएंस ( $\Sigma_{pool}$ ) के बजाय टोटल कोवेरिएंस ( $\Sigma_{tot}$ ) का उपयोग करने से रैखिकता नष्ट हो जाती है।
- छोटा फिशर डिस्टेंस ( $z_{max}$ ) टास्क-विशिष्ट ढलान (slopes) उत्पन्न करता है, न कि एक सार्वभौमिक रेखा।
- क्लास इम्बैलेंस ढलान को तीव्र कर देता है।
- प्रोब्स जो फिशर दिशा से काफी विचलित होते हैं (जैसे, सिंपल डिफरेंस-ऑफ-मीन्स प्रोब्स), वे डिग्रेड की हुई रैखिकता दिखाते हैं।
अनुभवजन्य सामान्यीकरण (Empirical Generalization): अध्ययन विभिन्न मॉडल्स, लेयर्स और कॉन्सेप्ट डोमेन में MCS-AUROC रैखिकता को मान्य करता है, जो सभी परीक्षण की गई स्थितियों में $R^2 > 0.93$ प्राप्त करता है। इसके विपरीत, ECS का प्रदर्शन काफी गिर जाता है, जिसमें जनरल NLP बेंचमार्क्स में $R^2$ 0.06 जितना कम होता है।
एस्टिमेटर्स के प्रति मजबूती (Robustness to Estimators): लेखक प्रदर्शित करते हैं कि परिणाम फुल सैंपल कोवेरिएंस, लेडिट-वुल्फ श्रिंकेज (Ledoit-Wolf shrinkage) के लिए भी मान्य है, लेकिन डायगोनल एप्रोक्सिमेशन के साथ विफल हो जाता है, जो ऑफ-डायगोनल कोवेरिएंस संरचना की आवश्यकता की पुष्टि करता है।

परिणाम (Results)

उच्च भविष्य कहनेवाला शक्ति (High Predictive Power): सभी 8 प्रयोगात्मक स्थितियों में (विभिन्न मॉडल्स, लेयर्स और डोमेन), OOD AUROC के विरुद्ध MCS का लीनियर फिट $R^2 \geq 0.93$ देता है।
ECS की तुलना में श्रेष्ठता: ECS लगातार खराब प्रदर्शन करता है, जिसके $R^2$ मान 0.057 (जनरल NLP) से 0.723 (जेंडर) के बीच रहते हैं, जबकि MCS उच्च भविष्य कहनेवाला शक्ति बनाए रखता है।
सैद्धांतिक संरेखण (Theoretical Alignment): AUROC-MCS कर्व्स के विरुद्ध अनुभवजन्य ढलान $1/\sqrt{\pi} \approx 0.564$ के सैद्धांतिक सेंट्रल स्लोप के करीब संरेखित हैं। विचलन मुख्य रूप से सैचुरेशन टेल्स (उच्च AUROC/MCS मान) पर होते हैं, जो सिद्धांत के अनुरूप है।
विफलता मोड सत्यापन: सिमुलेशन और रियल-डेटा प्रयोग पुष्टि करते हैं कि जब धारणाओं का उल्लंघन होता है तो रैखिकता कम हो जाती है (जैसे, $\Sigma_{pool}$ का उपयोग करने से $R^2$ , 0.98 से घटकर 0.83 हो जाता है; डिफरेंस-ऑफ-मीन्स प्रोब्स का उपयोग करने से यह 0.79 रह जाता है)।

महत्व और दावे (Significance and Claims)

पेपर दावा करता है कि महालानोबिस कोसाइन सिमिलिटी (MCS) लीनियर प्रोब्स की तुलना करने के लिए एक सैद्धांतिक रूप से आधारित, टास्क-अवेयर विकल्प प्रदान करता है।

मैकेनिज्म: ECS के विपरीत, जो सभी आयामों के साथ समान व्यवहार करता है, MCS इनर प्रोडक्ट को OOD डेटा कोवेरिएंस द्वारा पुन: भारित करता है, जो प्रभावी रूप से विशिष्ट कार्य के लिए महत्वपूर्ण सबस्पेस में प्रोब्स की तुलना करता है।
भविष्यवाणी उपयोगिता (Predictive Utility): रैखिक संबंध शोधकर्ताओं को ID डेटा पर प्रशिक्षित एक प्रोब के OOD जनरलाइजेशन प्रदर्शन (OOD AUROC) को केवल एक संदर्भ प्रोब (या फिशर दिशा के प्रॉक्सी) के MCS को मापकर अनुमान लगाने की अनुमति देता है।
व्यापक निहितार्थ (Broader Implications): लेखक सुझाव देते हैं कि यह दृष्टिकोण अन्य इंटरप्रिटेबिलिटी विधियों को भी लाभान्वित कर सकता है जो वर्तमान में कोसाइन सिमिलिटी पर निर्भर हैं, जैसे कि स्टीयरिंग-वेक्टर तुलना, SAE फीचर एलाइनमेंट और कॉन्सेप्ट-डायरेक्शन क्लस्टरिंग।
सीमाएं (Limitations): लेखक नोट करते हैं कि इस पद्धति के लिए कोवेरिएंस और संदर्भ दिशा का अनुमान लगाने के लिए लेबल वाले OOD डेटा की आवश्यकता होती है (यह लक्षित वितरण के लिए लेबल-फ्री नहीं है)। इसके अलावा, सिद्धांत फिशर-स्टाइल प्रोब्स (लॉजिस्टिक्स रिग्रेशन, LDA) के लिए कैलिब्रेटेड है; डिफरेंस-ऑफ-मीन्स प्रोब्स के लिए प्रदर्शन घट जाता है। वर्तमान मूल्यांकन ऑटोरिग्रेसिव LLMs के रेसिडुअल-स्ट्रीम फीचर्स पर बाइनरी क्लासिफिकेशन तक सीमित है।

संक्षेप में, यह कार्य यह स्थापित करता है कि MCS द्वारा प्रोब जनरलाइजेशन की भविष्यवाणी करने की सफलता कोई संयोग नहीं है, बल्कि सिग्नल-टू-नॉइज़ रेशियो, गॉसियन प्रोजेक्शन और कोवेरिएंस-अवेयर सिमिलरिटी मेट्रिक्स के बीच ज्यामितीय परस्पर क्रिया का परिणाम है।