तकनीकी सारांश: कई सर्किट, एक तंत्र (Many Circuits, One Mechanism)

समस्या विवरण (Problem Statement)

मैकेनिस्टिक इंटरप्रिटेबिलिटी (Mechanistic interpretability) का लक्ष्य न्यूरल नेटवर्क को रिवर्स-इंजीनियर करना है, जिससे "सर्किट्स" की पहचान की जा सके—जो कि मॉडल के कम्प्यूटेशनल ग्राफ के वे स्पार्स सबग्राफ (sparse subgraphs) हैं जो विशिष्ट व्यवहारों को लागू करते हैं। इस क्षेत्र में एक प्रचलित धारणा यह है कि किसी दिए गए मॉडल और कार्य के लिए, खोजे जाने योग्य एक एकल स्थिर सर्किट मौजूद होता है। फलस्वरूप, खोजे गए सर्किट्स के बीच संरचनात्मक अंतरों को अक्सर अलग-अलग अंतर्निहित तंत्रों या कार्यात्मक विशेषज्ञता (functional specializations) के प्रमाण के रूप में व्याख्यायित किया जाता है।

हालाँकि, यह धारणा निष्कर्षण विधियों (extraction methods) की स्थिरता, रेडंडेंट बैकअप व्यवहारों के अस्तित्व ("हाइड्रा प्रभाव"), और मौलिक गैर-पहचान क्षमता (non-identifiability) के संबंध में चुनौतियों का सामना करती है। जबकि पूर्व कार्यों ने दिखाया है कि मॉडल, स्केल या प्रॉम्प्ट संरचनाओं के आधार पर सर्किट भिन्न हो सकते हैं, यह स्पष्ट नहीं है कि क्या संरचनात्मक अंतर केवल इनपुट सांख्यिकी (जैसे, टोकन आवृत्ति) में परिवर्तन के कारण उत्पन्न होते हैं जबकि कार्य की परिभाषा स्थिर रहती है, और महत्वपूर्ण रूप से, क्या ऐसे संरचनात्मक अंतर वास्तविक कार्यात्मक विशेषज्ञता के अनुरूप हैं।

कार्यप्रणाली (Methodology)

लेखक इस प्रश्न की जांच करने के लिए लिटरल सीक्वेंस कॉपीइंग (Literal Sequence-Copying - LSC) का उपयोग करते हैं, जो एक गैर-सिमेंटिक कार्य है जहाँ एक मॉडल को अनुक्रम में पहले से मौजूद टोकन को पुनरुत्पादित करना होता है। यह कार्य एक संकीर्ण कॉपी करने वाले व्यवहार को अलग करता है, जिससे सिमेंटिक भ्रम (semantic confounds) कम हो जाते हैं।

प्रायोगिक डिजाइन (Experimental Design):

• मॉडल: पांच Pythia मॉडल, जो 70M से 1.4B पैरामीटर्स तक विस्तृत हैं।
• शर्तें (Conditions): शब्दावली (vocabulary) को प्रीट्रेनिंग सांख्यिकी के आधार पर चार टोकन-आवृत्ति बैंडों (बहुत कम से बहुत उच्च) में विभाजित किया गया है, साथ ही एक फ्रीक्वेंसी-वेटेड कंट्रोल कंडीशन भी शामिल है।
• निष्कर्षण (Extraction): सर्किट निकालने के लिए ACDC (ऑटोमैटिक सर्किट डिस्कवरी) एल्गोरिदम का उपयोग किया गया है। मजबूती सुनिश्चित करने के लिए, प्रति मॉडल प्रति स्थिति तीन स्वतंत्र निष्कर्षण किए गए, जिससे कुल 75 सर्किट प्राप्त हुए।
• मूल्यांकन सूक्ष्मता (Evaluation Granularity): अध्ययन दो मूल्यांकन स्तरों के बीच एक महत्वपूर्ण अंतर पेश करता है:
  • सोर्स-लेवल (Source-level): उन सभी आउटगोइंग एड्ज (outgoing edges) को सुरक्षित रखता है जो कम से कम एक सर्किट एज में योगदान देते हैं।
  • एज-लेवल (Edge-level): केवल उन विशिष्ट एड्ज को सुरक्षित रखता है जिन्हें डिस्कवरी एल्गोरिदम द्वारा चुना गया है।
• विश्लेषण अक्ष (Analysis Axes): सर्किट्स की तुलना संरचनात्मक (एज ओवरलैप), कार्यात्मक (क्रॉस-बैंड ट्रांसफर, पर्याप्तता, आवश्यकता) और प्रतिनिधि (आंतरिक सक्रियता ज्यामिति) अक्षों पर की जाती है। आंतरिक प्रतिनिधित्व की विनिमेयता (interchangeability) का परीक्षण करने के लिए कॉज़ल इंटरचेंज इंटरवेंशन (causal interchange interventions) का भी उपयोग किया जाता है।

मुख्य योगदान (Key Contributions)

1. फैंटम स्पेशलाइजेशन (Phantom Specialization): यह शोध पत्र "फैंटम स्पेशलाइजेशन" शब्द गढ़ा है, जो उस घटना का वर्णन करता है जहाँ सर्किट डिस्कवरी एल्गोरिदम विभिन्न इनपुट स्थितियों (जैसे, आवृत्ति बैंड) के लिए संरचनात्मक रूप से भिन्न सर्किट रिकवर करते हैं, जो फिर भी बिल्कुल एक ही गणना को लागू करते हैं।
2. मेनी-टू-वन मैपिंग (Many-to-One Mapping): लेखक सर्किट संरचना से कार्य तक एक मेनी-टू-वन मैपिंग प्रदर्शित करते हैं। संरचनात्मक विचलन आवश्यक रूप से कार्यात्मक विशेषज्ञता का संकेत नहीं देता है; बल्कि, डिस्कवरी एल्गोरिदम वैध, कार्यात्मक रूप से विनिमेय सबग्राफ के एक इक्विवेलेंस क्लास (equivalence class) से नमूने ले सकते हैं।
3. सूक्ष्मता निर्भरता (Granularity Dependence): अध्ययन यह स्थापित करता है कि इस डिजेनेरेसी (degeneracy) की दृश्यता पूरी तरह से मूल्यांकन की सूक्ष्मता पर निर्भर करती है। सोर्स-लेवल मूल्यांकन व्यवस्थित रूप से आभासी निष्ठा (faithfulness) को बढ़ाकर दिखाता है और विशेषज्ञता की कमी को छिपा देता है, जबकि एज-लेवल मूल्यांकन मेनी-टू-वन मैपिंग को प्रकट करता है।
4. कार्यप्रणाली संबंधी सिफारिशें (Methodological Recommendations): शोध पत्र प्रस्तावित करता है कि संरचनात्मक अंतरों को क्रॉस-कंडीशन ट्रांसफर टेस्ट के बिना अलग तंत्रों के प्रमाण के रूप में स्वीकार नहीं किया जाना चाहिए, और यह एज-लेवल मूल्यांकन तथा स्थिर संरचनाओं की पहचान करने के लिए मेजरिटी-वोट एग्रीगेशन के साथ कई निष्कर्षणों के उपयोग की वकालत करता है।

मुख्य परिणाम (Key Results)

• संरचनात्मक अंतर: विभिन्न आवृत्ति बैंडों से निकाले गए सर्किट संरचनात्मक रूप से भिन्न हैं। लो-फ्रीक्वेंसी सर्किट व्यवस्थित रूप से बड़े होते हैं और हाई-फ्रीक्वेंसी सर्किट की तुलना में एड्ज का सुपरसेट (superset) होते हैं। बैंडों के बीच जैकार्ड समानता (Jaccard similarity) बैंड के भीतर की समानता की तुलना में कम है, हालांकि पूर्ण अंतराल छोटे हैं।
• कार्यात्मक समानता: संरचनात्मक अंतरों के बावजूद, सर्किट कार्यात्मक रूप से समान हैं।
  • क्रॉस-बैंड ट्रांसफर: बैंड-विशिष्ट एड्ज उच्च दक्षता (81–97%) के साथ सभी फ्रीक्वेंसी बैंडों में व्यापक रूप से ट्रांसफर होते हैं।
  • कोर पर्याप्तता (Core Sufficiency): अधिकांश बैंडों (विशेष रूप से वे जो 5 में से $\ge$3 स्थितियों में दिखाई देते हैं) में साझा किए गए एड्ज का एक "यूनिवर्सल कोर", पूर्ण सर्किट के प्रदर्शन का कम से कम 99% रिकवर करता है।
  • कॉज़ल इंटरचेंज: इंटरचेंज इंटरवेंशन पुष्टि करते हैं कि आंतरिक प्रतिनिधित्व बैंडों के बीच विनिमेय हैं; बैंडों के बीच सक्रियता (activations) को बदलने से लगभग पूर्ण शुद्धता के साथ मॉडल आउटपुट सुरक्षित रहता है।
• अस्थिरता और शोर (Instability and Noise): निष्कर्षण शोरपूर्ण है; बैंड-विशिष्ट एड्ज स्वतंत्र रन के दौरान अत्यधिक अस्थिर हैं (केवल तीन में से एक ड्रॉ में दिखाई देते हैं)। यह शोर कार्यात्मक रूप से अप्रासंगिक है, क्योंकि संरचनात्मक रूप से भिन्न ड्रॉ समान आउटपुट उत्पन्न करते हैं।
• मूल्यांकन मुद्रास्फीति (Evaluation Inflation): सोर्स-लेवल मूल्यांकन एज-लेवल मूल्यांकन की तुलना में सर्किट की कथित सटीकता को 0.22 से 0.85 अंक तक बढ़ा देता है, जो प्रभावी रूप से विशेषज्ञता की कमी को छिपा देता है।
• प्रतिनिधित्व अपरिवर्तनीयता (Representational Invariance): जबकि प्रोसेसिंग डायनेमिक्स (कन्वर्जेंस टाइमिंग) टोकन फ्रीक्वेंसी के साथ थोड़ा भिन्न होता है, अंतर्निहित रिप्रजेंटेशनल ज्योमेट्री और कॉज़ल पाथवे बैंड्स के बीच काफी हद तक अपरिवर्तनीय रहते हैं।

महत्व और दावे (Significance and Claims)

शोध पत्र तर्क देता है कि सर्किट्स के बीच संरचनात्मक अंतर अलग तंत्रों के लिए अपर्याप्त प्रमाण हैं। देखा गया "स्पेशलाइजेशन" निष्कर्षण प्रक्रिया (रिडंडेंट पाथवे पर ग्रीडी प्रूनिंग) और मूल्यांकन पद्धति (सोर्स-लेवल ग्रैनुलैरिटी) का एक फैंटम आर्टिफैक्ट है।

लेखक दावा करते हैं कि:

• डिजेनेरेसी व्यापक है: डिस्कवरी एल्गोरिदम संरचनात्मक रूप से भिन्न लेकिन कार्यात्मक रूप से विनिमेय सबग्राफ के एक इक्विवेलेंस क्लास से नमूने लेते हैं, जो जैविक डिजेनेरेसी (biological degeneracy) के समान है।
• सूक्ष्मता मायने रखती है: मॉडल की कॉज़ल संरचना विवरण के विभिन्न स्तरों पर अलग तरह से प्रकट होती है। सोर्स-लेवल मूल्यांकन आभासी निष्ठा का एक "मैक्रो-स्टेट" बनाता है जो अंतर्निहित डिजेनेरेसी को कोलैप्स कर देता है, जबकि एज-लेवल मूल्यांकन वास्तविक मेनी-टू-वन मैपिंग को प्रकट करता है।
• कार्यप्रणाली में बदलाव: निष्कर्षण आर्टिफैक्ट्स को कार्यात्मक विशेषज्ञता के रूप में गलत समझने से बचने के लिए, भविष्य के कार्यों को क्रॉस-कंडीशन ट्रांसफर टेस्ट का उपयोग करना चाहिए, एज-लेवल मूल्यांकन को प्राथमिकता देनी चाहिए और स्थिर तंत्रों को शोर से अलग करने के लिए कई निष्कर्षणों का उपयोग करना चाहिए।

शोध पत्र निष्कर्ष निकालता है कि एक खोजे गए सर्किट को अनूइक रूप से अंतर्निहित तंत्र की पहचान के रूप में नहीं माना जाना चाहिए, क्योंकि एक ही कार्य को इनपुट सांख्यिकी और निष्कर्षण विकल्पों के आधार पर कई वैध संरचनात्मक कॉन्फ़िगरेशन द्वारा लागू किया जा सकता है।