When Are Two Networks the Same? Tensor Similarity for Mechanistic Interpretability
यह शोध पत्र "टेंसर समानता" (tensor similarity) प्रस्तुत करता है, जो वेट-स्पेस सिमिट्रीज़ के प्रति इनवेरिएंट एक वेट-आधारित मीट्रिक है जो टेंसर-आधारित न्यूरल नेटवर्क के बीच वैश्विक कार्यात्मक तुल्यता को कुशलतापूर्वक सत्यापित करता है, जिससे मैकेनिस्टिक इंटरप्रिटेबिलिटीता (mechanistic interpretability) अनुभवजन्य सन्निकटन से एक हल किए गए बीजगणितीय समस्या में बदल जाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास दो एक जैसे दिखने वाले रोबोट हैं। वे दोनों चलते हैं, बात करते हैं और गणित की समस्याएं एक ही तरह से हल करते हैं। लेकिन यदि आप उनके सीने को खोलते हैं, तो आप पाएंगे कि उनके आंतरिक गियर पूरी तरह से अलग तरह से व्यवस्थित हैं। एक के पास गियर लंबवत (vertically) लगे हैं; दूसरे के पास वे क्षैतिज रूप से (horizontally) फैले हुए हैं।
समस्या:
AI की दुनिया में, वैज्ञानिक समझना चाहते हैं कि ये रोबोट (न्यूरल नेटवर्क) कैसे सोचते हैं। इसे "मैकेनिस्टिक इंटरप्रिटेबिलिटी" (mechanistic interpretability) कहा जाता है। लेकिन, एक बड़ी सिरदर्दी है: आप यह कैसे सिद्ध करें कि दो अलग-अलग आंतरिक व्यवस्थाएं वास्तव में एक ही काम कर रही हैं?
वर्तमान तरीके रोबोटों की तुलना उनके चलने के तरीके को देखकर करने जैसे हैं।
- "व्यवहार" परीक्षण (The "Behavior" Test): यदि वे एक विशिष्ट पथ पर एक ही तरह से चलते हैं, तो हम मान लेते हैं कि वे समान हैं। लेकिन क्या होगा यदि एक रोबोट के पास एक गुप्त चाल हो जो केवल उस पथ पर काम करती है जिस पर हमने अभी तक नहीं चलाया है? हम उसे चूक जाएंगे।
- "ब्लूप्रिंट" परीक्षण (The "Blueprint" Test): यदि हम केवल ब्लूप्रिंट (रोबोट के भीतर की संख्याएं) की तुलना करते हैं, तो हम कह सकते हैं कि वे अलग हैं क्योंकि गियर पलटे हुए हैं, भले ही वे बिल्कुल एक ही काम करते हों। यह ऐसा है जैसे कहना कि दो घर अलग हैं क्योंकि एक में किचन बाईं ओर है और दूसरे में दाईं ओर, भले ही दोनों के कमरे समान रूप से कार्य करते हों।
समाधान: "टेंसर समानता" (Tensor Similarity)
लेखकों ने इन रोबोटों की तुलना करने का एक नया तरीका बनाया है। वे इसे टेंसर समानता (Tensor Similarity) कहते हैं।
इसे इस तरह सोचिए: ब्लूप्रिंट देखने या रोबोट के चलने को देखने के बजाय, वे रोबोट के गणित के सार को देखने के लिए एक विशेष "जादुई दर्पण" का उपयोग करते हैं।
"जादुई दर्पण" (Symmetry Invariance):
कल्पना कीजिए कि आपके पास मिट्टी से बनी एक मूर्ति है। आप उसे कुचल सकते हैं, खींच सकते हैं या घुमा सकते हैं, लेकिन यदि वह अभी भी वही आकार है, तो वह वही मूर्ति है। वर्तमान तरीके घूम जाने पर भ्रमित हो जाते हैं। लेखकों का नया तरीका घुमाव (rotation) को अनदेखा करता है। यह केवल फलन (function) के आकार की परवाह करता है। यदि दो रोबोट एक ही गणित करते हैं, तो यह तरीका उन्हें एक पूर्ण स्कोर देता है, भले ही उनकी आंतरिक संख्याएं पूरी तरह से अलग दिखती हों।"एक्स-रे" (Data-Free):
अधिकांश परीक्षणों के लिए रोबोट को हजारों प्रश्न देने की आवश्यकता होती है ताकि यह देखा जा सके कि वे उत्तर कैसे देते हैं। इस नए तरीके को किसी भी प्रश्न की आवश्यकता नहीं है। यह रोबोट के आंतरिक "मस्तिष्क" (weights) को देखता है और गणितीय रूप से उत्तर की गणना करता है। यह एक एक्स-रे की तरह है जो मरीज को चलने के लिए पूछे बिना बताता है कि हड्डी टूटी है या नहीं।"विशेष रोबोट" (Tensor-Based Models):
इस जादुई दर्पण को काम करने के लिए, लेखकों को अपने रोबोटों को एक थोड़े अलग प्रकार की मिट्टी से बनाना पड़ा जिसे "टेंसर" (विशेष रूप से, मल्टीलीनियर मॉडल) कहा जाता है। ये रोबोट सामान्य AI की तरह ही काम करते हैं, लेकिन इनका आंतरिक गणित इस तरह से संरचित है कि इस विशेष तुलना की अनुमति मिलती है। यह एक समझौता (trade-off) है: इस सुपर-सटीक तुलना उपकरण को प्राप्त करने के लिए आपको रोबोट को एक विशिष्ट तरीके से बनाना होगा।
उन्होंने क्या पाया (प्रयोग):
टीम ने चार अलग-अलग परिदृश्यों पर इस नए टूल का परीक्षण किया:
- "एम्नेशिया" (भूलने की बीमारी) परीक्षण: उन्होंने एक रोबोट को 0-4 तक संख्याएं पहचानना सिखाया, फिर 5-9 जोड़ दीं। बाद में, उन्होंने रोबोट से 9 को भूलने की कोशिश की। पुराने उपकरण यह नहीं बता सके कि रोबोट का कौन सा हिस्सा भूल रहा था। नए उपकरण ने सीधे उस विशिष्ट "गियर" पर लेजर केंद्रित किया जो संख्या 9 के लिए जिम्मेदार था, जिससे दिखाया गया कि स्मृति लोप (memory loss) कहाँ हुआ।
- "अहा!" क्षण (Grokking): कभी-कभी AI लंबे समय तक संघर्ष करने के बाद किसी कार्य में अचानक बहुत अच्छा हो जाता है। नया टूल दिखाता है कि यह केवल एक अचानक उछाल नहीं है, बल्कि रोबमा के आंतरिक गियरों का एक धीमा, निरंतर पुनर्गठन है जिसे पुराने उपकरण मिस कर गए थे।
- "गुप्त हैंडशेक" (Backdoors): उन्होंने रोबोट में एक गुप्त ट्रिगर डाला: "यदि आप एक काला हीरा देखते हैं, तो इसे 9 कहें।" रोबोट सामान्य चित्रों पर अभी भी पूरी तरह से काम करता रहा, इसलिए मानक परीक्षणों ने कहा कि यह ठीक है। लेकिन नए टूल ने, आंतरिक गणित को देखते हुए, बिना काले हीरे को देखे, तुरंत उस गुप्त हैंडशेक को पकड़ लिया।
- "भाषा" परीक्षण: उन्होंने इसे एक भाषा मॉडल (एक रोबोट जो टेक्स्ट लिखता है) पर लागू किया। नए टूल ने दिखाया कि जैसे-जैसे रोबोट नए पैटर्न सीखता है, स्पष्ट और तीक्ष्ण परिवर्तन होते हैं, जबकि अन्य उपकरण केवल एक धुंधलापन देखते हैं।
मुख्य निष्कर्ष:
लेख का तर्क है कि AI को वास्तव में समझने के लिए, हमें उनके आंतरिक तर्क की तुलना करने के लिए एक ऐसे तरीके की आवश्यकता है जो संख्याओं की व्यवस्था या हमें कौन सा डेटा दिया जाता है, इससे भ्रमित न हो। उनका नया "टेंसर समानता" मीट्रिक बिल्कुल यही करता है, लेकिन वर्तमान में यह केवल एक विशिष्ट प्रकार के AI आर्किटेक्चर (टेंसर-आधारित मॉडल) पर ही काम करता है। यह "क्या ये दो दिमाग एक ही हैं?" की उलझन भरी समस्या को एक साफ, समाधान योग्य गणितीय समस्या में बदल देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।