आधुनिक आर्टिफिशियल इंटेलिजेंस सिस्टम, विशेष रूप से वे जो मानव जैसी भाषा उत्पन्न करते हैं, उन्हें अक्सर 'ब्लैक बॉक्स' के रूप में वर्णित किया जाता है। हम जानते हैं कि क्या अंदर जा रहा है और क्या बाहर आ रहा है, लेकिन वह आंतरिक मशीनरी जो एक साधारण प्रॉम्प्ट को एक जटिल उत्तर में बदल देती है, वह काफी हद तक अपारदर्शी बनी रहती है। पारदर्शिता की यह कमी यह समझने में कठिन बनाती है कि ये सिस्टम कभी-कभी क्यों विफल होते हैं या अप्रत्याशित व्यवहार क्यों करते हैं। इसे हल करने के लिए, 'मैकेनिस्टिक इंटरप्रिटेबिलिटी' (mechanistic interpretability) नामक अध्ययन का एक क्षेत्र उभरा है। इस क्षेत्र के शोधकर्ता न्यूरल नेटवर्क को एक एकल, अभेद्य इकाई मानने के बजाय, इसे इसके सबसे छोटे कामकाजी हिस्सों में तोड़कर सिस्टम को रिवर्स-इंजीनियर करने का प्रयास करते हैं। वे विशिष्ट, पुन: प्रयोज्य गतिविधि पैटर्न की तलाश करते हैं—जैसे कि कंप्यूटर में विशिष्ट सर्किट होते हैं—जो विशेष कार्यों को निष्पादित करते हैं। इन आंतरिक मार्गों का मानचित्रण करके, वैज्ञानिक केवल अनुमान लगाने से आगे बढ़ने की उम्मीद करते हैं और सटीक रूप से यह पता लगाने की कोशिश करते हैं कि मस्तिष्क जैसी इस संरचना के कौन से हिस्से विशिष्ट विचारों या शब्दों के लिए जिम्मेदार हैं, जो इन शक्तिशाली उपकरणों को सुरक्षित और मानवीय मूल्यों के अनुरूप बनाए रखने के लिए आवश्यक क्षमता है।

एक नए अध्ययन में, भारत के गांधीनगर यूनिवर्सिटी के एक शोधकर्ता यश प्रजापति ने यह विकसित करने का तरीका खोजा है कि ये आंतरिक सर्किट कैसे बनते हैं और जब सिस्टम के हिस्सों में व्यवधान आता है तो वे कैसे प्रतिक्रिया करते हैं। यह कार्य बड़े लैंग्वेज मॉडल्स के भीतर एक विशिष्ट प्रकार के पैटर्न रिकग्निशन (पैटर्न पहचान) पर केंद्रित है, जहाँ सिस्टम पहले देखे गए पैटर्न के आधार पर अनुक्रम में अगले शब्द की भविष्यवाणी करना सीखता है। शोधकर्ता केवल यह नहीं समझना चाहते थे कि ये पैटर्न मौजूद हैं, बल्कि यह भी कि वे प्रशिक्षण प्रक्रिया के दौरान ठीक कब दिखाई देते हैं और यदि उनके लिए जिम्मेदार प्राथमिक तंत्र को नुकसान पहुँचाया जाता है, तो सिस्टम स्वयं की रक्षा कैसे करता है। ऐसा करने के लिए, टीम ने प्री-ट्रेनिंग चेकपॉइंट्स का विश्लेषण करने के लिए एक फ्रेमवर्क का उपयोग किया जिसने उन्हें मॉडल के विकास का चरण-दर-चरण परीक्षण करने की अनुमति दी, जिससे उस सटीक क्षण की पहचान हुई जब आंतरिक मशीनरी भ्रम की स्थिति से एक स्पष्ट, संरचित कार्य की स्थिति में बदल जाती है।

शोधकर्ताओं ने 50,000 ऑप्टिमाइजेशन स्टेप्स के माध्यम से ट्रांसफार्मर चेकपॉइंट्स का मूल्यांकन किया, और नियमित अंतराल पर मॉडल की आंतरिक स्थिति का अवलोकन किया। उन्होंने पाया कि पहले कई हजार स्टेप्स के लिए, पैटर्न पहचानने की मॉडल की क्षमता कमजोर और सिस्टम के कई अलग-अलग हिस्सों में बिखरी हुई थी। हालाँकि, लगभग 5,000-स्टेप मार्क के आसपास, एक नाटकीय परिवर्तन हुआ। मॉडल ने एक अचानक 'फेज ट्रांजिशन' (phase transition) का अनुभव किया, जहाँ पैटर्न को पूरा करने की क्षमता तुरंत तेज हो गई। इस बिंदु से पहले, मॉडल का ध्यान विसरित था, जो अपने फोकस को व्यापक रूप से फैला रहा था। इस बिंदु के बाद, फोकस कुछ विशिष्ट, अत्यधिक कुशल मार्गों में सिमट गया। यह एक धीमी, क्रमिक प्रगति नहीं थी, बल्कि सिस्टम की आंतरिक संरचना का एक तीव्र पुनर्गठन था, जो यह सुझाव देता है कि मॉडल समय के साथ केवल थोड़ा बेहतर नहीं होता है, बल्कि नई क्षमताओं को प्राप्त करने के लिए एक मौलिक संरचनात्मक बदलाव से गुजरता है।

इन नए सर्किट्स की मजबूती का परीक्षण करने के लिए, शोधकर्ताओं ने प्रयोगों की एक श्रृंखला आयोजित की जहाँ उन्होंने पैटर्न पूर्णता के लिए जिम्मेदार सिस्टम के प्राथमिक हिस्सों को अस्थायी रूप से अक्षम कर दिया। उन्होंने ऐसा उन विशिष्ट घटकों को प्रभावी रूप से बंद करके किया जो भारी काम कर रहे थे और यह देखने के लिए प्रतीक्षा की कि क्या होता है। एक कम लचीले सिस्टम में, मुख्य इंजन को बंद करने से पूरी प्रक्रिया विफल हो सकती थी। हालाँकि, इन प्रशिक्षित मॉडल्स में, सिस्टम विफल नहीं हुआ। इसके बजाय, नेटवर्क के अन्य, पहले से शांत हिस्से तुरंत काम संभालने के लिए आगे आए। शोधकर्ताओं ने सूचना को पुनः मार्गित (reroute) करने की इस क्षमता को मापा और पाया कि जैसे-जैसे मॉडल अधिक प्रशिक्षित होता गया, क्षति की भरपाई करने की इसकी क्षमता मजबूत होती गई। प्रशिक्षण प्रक्रिया के अंत तक, सिस्टम ने इतने प्रभावी बैकअप मार्ग विकसित कर लिए थे कि प्राथमिक सर्किट को अक्षम करने से अंतिम आउटपुट में बहुत कम व्यवधान आया।

इस खोज के आर्टिफिशियल इंटेलिजेंस की सुरक्षा सुनिश्चित करने के तरीके में महत्वपूर्ण निहितार्थ हैं। सुरक्षा अनुसंधान में एक सामान्य आशा यह है कि यदि कोई मॉडल कुछ खतरनाक या अवांछनीय सीखता है, तो हम बस सिस्टम के उस विशिष्ट भाग को हटा सकते हैं जो उसके लिए जिम्मेदार है, जिससे उस बुरे व्यवहार को प्रभावी रूप से "अनलर्न" (unlearn) किया जा सके। हालाँकि, निष्कर्ष बताते हैं कि यह दृष्टिकोण अपर्याप्त हो सकता है। क्योंकि सिस्टम इतनी मजबूत अतिरेकता (redundancy) बनाता है, एक हिस्से को हटाने से जरूरी नहीं कि व्यवहार रुक जाए; मॉडल बस कार्य को घटकों के एक अलग सेट की ओर मोड़ देता है। शोधकर्ताओं ने स्थिरता के एक नए माप के साथ इस लचीलेपन को प्रमाणित किया, जिसने दिखाया कि अत्यधिक प्रशिक्षित मॉडल किसी भी प्राथमिक सर्किट को हटा दिए जाने पर भी अपने कार्य को बनाए रखने में उल्लेखनीय रूप से सक्षम हैं। इसका अर्थ है कि सुरक्षा हस्तक्षेप केवल एक घटक को लक्षित करने से कहीं अधिक व्यापक होने चाहिए, क्योंकि सिस्टम अनुकूलित होने और अपने आंतरिक तर्क को संरक्षित करने के लिए डिज़ाइन किया गया है।

अध्ययन ने यह भी मानचित्रित किया कि ये महत्वपूर्ण सर्किट मॉडल के आर्किटेक्चर के भीतर वास्तव में कहाँ स्थित हैं। प्रशिक्षण के शुरुआती दौर में, कार्यों की जिम्मेदारी फैली हुई थी, लेकिन शोधकर्ताओं ने पाया कि एक बार मॉडल परिपक्व होने के बाद, कार्य नेटवर्क के मध्य-से-उत्तरार्ध खंड में स्थित विशिष्ट परतों में केंद्रित हो गया। यह संकेंद्रण इंगित करता है कि मॉडल ने अपनी प्रोसेसिंग को एक सुव्यवस्थित पाइपलाइन में व्यवस्थित करना सीख लिया है, जहाँ सूचना पूरे सिस्टम में भटकने के बजाय एक समर्पित चैनल के माध्यम से प्रवाहित होती है। इन परिवर्तनों को ट्रैक करके, शोधकर्ताओं ने एक स्पष्ट चित्र प्रदान किया कि कैसे एक मशीन लर्निंग मॉडल अराजक भार (weights) के संग्रह से एक संरचित, कुशल इंजन में विकसित होता है जो जटिल तर्क करने में सक्षम है।

अंततः, यह कार्य आर्टिफिशियल इंटेलिजेंस के आंतरिक कामकाज के ऑडिट करने का एक नया तरीका प्रदान करता है। सूचना के प्रवाह को ट्रैक करने वाली तकनीकों को उन विधियों के साथ जोड़कर, जो सिस्टम की क्षति के प्रति प्रतिक्रिया का परीक्षण करती हैं, शोधकर्ताओं ने न केवल यह समझने के लिए एक टूलकिट बनाया है कि एक मॉडल क्या करता है, बल्कि यह भी कि वह इसे कैसे करता है और वह अपने कार्यों की रक्षा कैसे करता है। यह देखने की क्षमता कि एक सर्किट कब बनता है और यह मापने की क्षमता कि सिस्टम टूटे हुए हिस्से के चारों ओर कितनी अच्छी तरह से मार्ग बदल सकता है, एक सुरक्षित, अधिक पारदर्शी AI बनाने के लिए एक ठोस आधार प्रदान करती है। यह चर्चा को अपारदर्शिता की अमूर्त चिंताओं से हटाकर उन यांत्रिक प्रक्रियाओं की सटीक समझ की ओर ले जाता है जो इन सिस्टमों को संचालित करती हैं, जो यह सुनिश्चित करने की दिशा में एक मार्ग प्रदान करता है कि जैसे-जैसे ये मॉडल अधिक शक्तिशाली होते जा रहे हैं, उनकी आंतरिक संरचनाएं समझने योग्य और नियंत्रणीय बनी रहें।