कल्पना कीजिए कि आपके पास एक विशाल, जादुई पुस्तकालय है जहाँ हर किताब एक सुपर-स्मार्ट रोबोट द्वारा लिखी गई है, जिसने लगभग इंटरनेट पर मौजूद सब कुछ पढ़कर बोलना सीखा है। यह रोबोट, जिसे लार्ज लैंग्वेज मॉडल (या LLM) कहा जाता है, आपके वाक्यों को पूरा करने, कोड लिखने या कहानियाँ सुनाने में अविश्वसनीय रूप से कुशल है। लेकिन इसमें एक पेंच है: वास्तव में कोई नहीं जानता कि यह यह सब कैसे करता है। यह एक 'ब्लैक बॉक्स' की तरह है। आप एक प्रश्न डालते हैं, और एक सटीक उत्तर बाहर आता है, लेकिन इसके अंदर चलने वाले गियर अरबों छोटे स्विचों (जिन्हें पैरामीटर्स कहा जाता है) का एक उलझा हुआ जाल हैं जिन्हें कोई भी इंसान आसानी से पढ़ नहीं सकता।

'मैकेनिस्टिक इंटरप्रिटेबिलिटी' (mechanistic interpretability) का अध्ययन करने वाले वैज्ञानिक ऐसे जासूसों की तरह हैं जो इस ब्लैक बॉक्स को खोलकर उसके गियर देखने की कोशिश कर रहे हैं। वे रोबोट के मस्तिष्क के भीतर उन विशिष्ट छोटे सर्किटों को खोजने की कोशिश कर रहे हैं जो विशिष्ट कार्यों के लिए जिम्मेदार हैं, जैसे कि यह जानना कि "पेरिस" "फ्रांस" की राजधानी है या यह जानना कि CSS का एक लाइन का कोड कैसे लिखा जाता है। "पैरामीटर डिकंपोजिशन" (Parameter Decomposition) नामक एक हालिया विधि इस रोबोट के मस्तिष्क को छोटे, एकल-उद्देश्य वाले हिस्सों में तोड़ने की कोशिश करती है। हालाँकि, यह विधि एक विशाल देश के हर एक रास्ते को मैप करने की कोशिश करने जैसा है ताकि आप अपने स्थानीय बेकरी तक का रास्ता खोज सकें—इसमें बहुत अधिक समय, पैसा और कंप्यूटर पावर लगता है। यह इतना महंगा है कि वर्तमान में दुनिया के सबसे बड़े, सबसे स्मार्ट रोबोटों के लिए इसे करना असंभव है।

यहीं पर एंटोनी विगुरॉक्स और ली शार्की का एक नया शोध पत्र काम आता है। वे "टारगेटेड पैरामीटर डिकंपोजिशन" (या tPD) नामक एक चतुर शॉर्टकट का प्रस्ताव देते हैं। पूरे रोबोट के मस्तिष्क को एक साथ मैप करने के बजाय, वे पूछते हैं: "क्या होगा अगर हमें केवल इस बात की परवाह हो कि रोबोट एक विशिष्ट चीज़ को कैसे संभालता है, जैसे कि CSS कोड या कोई विशिष्ट गणितीय ट्रिक?" उनकी विधि एक विशाल सुरक्षा जाल बनाती है जो उस एक चीज़ के बाहर रोबोट जो कुछ भी करता है, उसे पकड़ लेती है, जिससे वैज्ञानिक अपनी ऊर्जा केवल उन विशिष्ट गियर्स पर केंद्रित कर पाते हैं जो मायने रखते हैं। उन्होंने इसे छोटे रोबोट दिमागों पर टेस्ट किया और पाया कि यह महंगे, पूर्ण-मैपिंग विधि की तरह ही अच्छा काम करता है, लेकिन इसमें कंप्यूटर की शक्ति का एक बहुत छोटा हिस्सा ही लगता है। वास्तव में, वे रोबोट की विशिष्ट कमांड्स (जैसे "import numpy as") की याददाश्त को सर्जिकल तरीके से निकाल सके और यहाँ तक कि उन्हें आपस में बदल भी सके ताकि रोबमाट "import pandas as" कहे, और यह सब उन्होंने रोबोट की अन्य किसी भी चीज़ को करने की क्षमता को तोड़े बिना किया। यह AI पर बिना पूरे अस्पताल के उपकरणों के नाजुक ब्रेन सर्जरी करने का एक तरीका है।

मुख्य विचार: "कैच-ऑल" सुरक्षा जाल

एक न्यूरल नेटवर्क (रोबोट मस्तिष्क) को एक विशाल ऑर्केस्ट्रा के रूप में सोचें। हर वाद्य यंत्र (या वेट) संगीत बनाने में अपनी भूमिका निभाता है। इस ऑर्केस्ट्रा को समझने का पुराना तरीका यह था कि आप हर एक वाद्य यंत्र द्वारा बजाए जाने वाले हर संभव गाने के हर एक नोट के लिए शीट म्यूजिक लिखने की कोशिश करें। यह वह "फुल-मॉडल डिकंपोजिशन" है जिसका उल्लेख लेखक करते हैं। यह सटीक है, लेकिन यह एक सिम्फनी को ट्रांसक्राइब करने जैसा है जबकि बैंड एक साथ एक हजार अलग-अलग गाने बजा रहा हो। इसमें बहुत समय लगता है और इसके लिए बड़ी टीम (कंप्यूटर) की आवश्यकता होती है।

लेखकों ने महसूस किया कि यदि आप केवल यह समझना चाहते हैं कि ऑर्केस्ट्रा एक विशिष्ट गाना (जैसे कि CSS कोड स्निपेट) कैसे बजाता है, तो आपको पूरे कॉन्सर्ट को ट्रांसक्राइब करने की आवश्यकता नहीं है। आपको बस यह जानने की आवश्यकता है कि कौन से वाद्य यंत्र उस गाने को बजा रहे हैं। लेकिन एक समस्या है: यदि आप केवल उस एक गाने को सुनते हैं, तो आपको लग सकता है कि कोई वाद्य यंत्र एक नोट बजा रहा है जबकि वह वास्तव में कमरे की गूँज के कारण आवाज़ कर रहा है। आप यह नहीं बता सकते कि क्या वह वाद्य यंत्र वास्तव में उस गाने के लिए महत्वपूर्ण है या वह केवल अन्य गानों के लिए वहाँ है।

इसे हल करने के लिए, लेखकों ने एक "कैच-ऑल" घटक का आविष्कार किया। कल्पना कीजिए कि आप ऑर्केस्ट्रा को रिकॉर्ड कर रहे हैं। आप विशिष्ट वाद्य यंत्रों (लक्ष्य/टारगेट) पर एक माइक्रोफ़ोन लगाते हैं, लेकिन आप बाकी स्टेज पर एक विशाल, सुपर-सेंसिटिव नॉइज़-कैंसलिंग कंबल भी बिछा देते हैं। यह कंबल ($\Delta$ घटक) उन सभी ध्वनियों को पकड़ लेता है जो आपके लक्षित गाने का हिस्सा नहीं हैं।

सिस्टम को एक साथ दो डेटा स्ट्रीमों के साथ प्रशिक्षित करके—विशिष्ट गाना जिसे आप अध्ययन करना चाहते हैं और अन्य रैंडम गानों का एक बड़ा मिश्रण—"कैच-ऑल" कंबल वह सब कुछ सोख लेता है जो लक्ष्य नहीं है। यह विशिष्ट माइक्रोफ़ोन को केवल उन वाद्य यंत्रों को पकड़ने के लिए मजबूर करता है जो लक्ष्य के लिए वास्तव में आवश्यक हैं। यदि कोई वाद्य यंत्र केवल अन्य गानों के लिए उपयोग किया जाता है, तो कंबल उसे निगल जाता है, और माइक्रोफ़ोन शांत रहते हैं। इसका मतलब है कि वैज्ञानिक पूरे ऑर्केस्ट्रा को मैप किए बिना एक विशिष्ट कार्य के लिए सटीक "सर्किट" पा सकते हैं।

उन्होंने क्या पाया: गति, सटीकता और सर्जरी

टीम ने इस विचार का परीक्षण कुछ खिलौना मॉडलों (सरल, छोटे रोबोट) पर किया और पाया कि यह पूरी तरह से काम करता है। जब उन्होंने सिस्टम से केवल तीन विशिष्ट विशेषताओं को देखने के लिए कहा, तो इसने ठीक वही तीन तंत्र खोज निकाले जिनकी आवश्यकता थी, और बाकी 97 को अनदेखा कर दिया। यह एक विशाल की-रिंग में 97 अन्य चाबियों को देखे बिना तीन विशिष्ट चाबियाँ खोजने जैसा था। न केवल उन्होंने सही चाबियाँ पाईं, बल्कि उन्होंने यह भी बहुत तेज़ी से किया—पुराने तरीके की तुलना में लगभग पाँच गुना तेज़—और उन्हें काम करने के लिए बहुत छोटे कंप्यूटर की आवश्यकता पड़ी।

फिर वे एक वास्तविक भाषा मॉडल पर गए, जो "द पाइल" (The Pile) नामक एक विशाल डेटासेट पर प्रशिक्षित 4-ब्लॉक ट्रांसफार्मर था। वे यह देखना चाहते थे कि क्या वे उन तंत्रों को अलग कर सकते हैं जो CSS कोड को संभालते हैं। अपने लक्षित तरीके का उपयोग करते हुए, वे एक "CSS-ओनली" सब-मॉडल निकालने में सफल रहे। इस सब-मॉडल ने पूर्ण डिकंपोजिशन विधि की तुलना में केवल लगभग 7% कंप्यूटिंग पावर (FLOPs) का उपयोग किया।

परिणाम चौंकाने वाले थे। जब उन्होंने इस CSS-ओनली मॉडल को CSS कोड पर चलाया, तो यह मूल रोबोट की तरह ही काम करने लगा। लेकिन जब उन्होंने इसे अंग्रेजी या पायथन बोलने के लिए आज़माया, तो यह पूरी तरह से विफल हो गया, और अक्सर केवल "the" या "count" शब्द को दोहराता रहा। इसने साबित कर दिया कि उन्होंने सफलतापूर्वक मूल रोबोट से विशिष्ट "CSS ब्रेन" को अलग कर लिया था। इससे भी बेहतर, उन्होंने पाया कि विशिष्ट उप-घटक (sub-components) जो CSS कोड में इंडेंटेशन (indentation) को पहचानने के लिए जिम्मेदार थे, वे पायथन कोड में नहीं थे। जब उन्होंने इन विशिष्ट घटकों को बंद कर दिया, तो रोबोट ने CSS इंडेंटेशन को समझना बंद कर दिया, लेकिन पायथन कोड लिखने की उसकी क्षमता बिल्कुल ठीक रही।

अंतिम परीक्षण: 12-ब्लॉक मॉडल पर ब्रेन सर्जरी

पेपर का सबसे रोमांचक हिस्सा तब हुआ जब उन्होंने इसे एक बड़े मॉडल पर लागू किया, जो 85 मिलियन नॉन-एम्बेडिंग पैरामीटर्स वाला एक 12-ब्लॉक ट्रांसफार्मर था। उन्होंने एक बहुत ही विशिष्ट कार्य पर ध्यान केंद्रित किया: रोबोट की आदत कि वह "import numpy as" वाक्यांश को "np" के साथ और "import pandas as" को "pd" के साथ पूरा करता है। ये पायथन प्रोग्रामिंग में सामान्य कमांड हैं।

अपने लक्षित तरीके का उपयोग करते हुए, उन्होंने "numpy" के लिए जिम्मेदार 248 विशिष्ट उप-घटकों की पहचान की। फिर, उन्होंने कुछ डिजिटल "सर्जरी" की।

सबसे पहले, उन्होंने "numpy" के विशिष्ट घटकों को एब्लेट (अblatt/बंद) किया। परिणाम? रोबगर अब "import numpy as" को "np" के साथ पूरा नहीं कर सका। ऐसा लगा जैसे उस विशिष्ट एसोसिएशन की याददाश्त मिटा दी गई हो। लेकिन यहाँ जादू यह है: रोबोट की बाकी सब कुछ लिखने की क्षमता—अंग्रेजी टेक्स्ट, अन्य कोड, रैंडम वाक्य—पूरी तरह से अछूती रही। उसे कहीं भी भ्रम नहीं हुआ या उसने कहीं और गलतियाँ नहीं कीं।

फिर, उन्होंने कुछ अधिक साहसी प्रयास किया: रीवायरिंग (rewiring)। चूंकि प्रत्येक घटक का एक "इनपुट" दिशा और एक "आउटपुट" दिशा होती है, उन्होंने "numpy" और "pandas" घटकों के आउटपुट दिशाओं को आपस में बदल दिया। उन्होंने अनिवार्य रूप से "numpy" वाले हिस्से को "pandas" की आवाज़ में बोलने के लिए कहा, और इसके विपरीत।

परिणाम अजीब लेकिन सटीक था। जब आपने "import numpy as" टाइप किया, तो रोबोट ने अब इसे "pd" के साथ पूरा किया। जब आपने "import pandas as" टाइप किया, तो इसने "np" के साथ पूरा किया। इसने केवल गलती नहीं की; इसने वास्तव में ज्ञान को बदल दिया था। और फिर भी, यह परिवर्तन अविश्वसनीय रूप से विशिष्ट था। सामान्य डेटा (ओवर 100,000 टोकन) पर रोबोट का व्यवहार मूल के लगभग समान रहा। "साइड इफेक्ट्स" नगण्य थे।

यह क्यों मायने रखता है (और क्या नहीं करता)

यह पेपर सुझाव देता है कि हमें एक विशाल AI के पूरे मस्तिष्क को समझने या संपादित करने के लिए विशाल सुपरकंप्यूटरों का इंतज़ार करने की आवश्यकता नहीं है। हम विशिष्ट व्यवहारों पर ज़ूम कर सकते हैं, उन्हें चलाने वाले गियर्स को अलग कर सकते हैं, और यहाँ तक कि उन्हें थोड़ा ट्यून भी कर सकते हैं, और यह सब मशीन के बाकी हिस्से को सुचारू रूप से चलते हुए छोड़ते हुए कर सकते हैं।

हालाँकि, लेखक स्पष्ट रहने में सावधानी बरतते हैं। वे नोट करते कि यह विधि विशिष्ट, अच्छी तरह से परिभाषित कार्यों जैसे कि याद किए गए अनुक्रमों (जैसे "import numpy") या विशिष्ट कोड प्रकारों (जैसे CSS) के लिए सबसे अच्छा काम करती है। वे स्वीकार करते हैं कि जटिल "विश्व ज्ञान" (जैसे इतिहास या विज्ञान के तथ्य) को संपादित करना कठिन हो सकता है क्योंकि मस्तिष्क एक ही तथ्य को संग्रहीत करने के लिए कई रेडंडेंट (redundant) तरीकों का उपयोग कर सकता है। यदि रोबोट के पास दो अलग-अलग गियर हैं जो एक ही काम करते हैं, तो एक को बंद करने से शायद वह कार्य रुक न जाए, क्योंकि दूसरा गियर काम संभाल लेगा। वे यह भी बताते हैं कि उनका सबसे बड़ा मॉडल आज के "फ्रंटियर" मॉडल की तुलना में बहुत छोटा था, इसलिए स्केल करने पर नई चुनौतियाँ आ सकती हैं।

लेकिन फिलहाल, यह "टारगेटेड पैरामीटर डिकंपोजिशन" एक शक्तिशाली नया उपकरण है। यह एक हथौड़े के बजाय एक स्कैल्पल (scalpel) होने जैसा है। पूरे रोबोट को एक साथ समझने के बजाय, अब हम धीरे से ढक्कन उठा सकते हैं, ठीक उसी हिस्से को देख सकते हैं जिसके बारे में हम उत्सुक हैं, और शायद उसे थोड़ा सा धक्का दे सकते हैं, और यह सब मशीन के बाकी हिस्से को तोड़े बिना कर सकते हैं।