Discovering Cross-Language Reasoning Invariance in LLMs with Geometry-Invariant Sparse Autoencoders

लार्ज लैंग्वेज मॉडल्स (LLMs) आज के कई सबसे उन्नत आर्टिफिशियल इंटेलिजेंस टूल्स के पीछे के इंजन हैं, जो दर्जनों भाषाओं में पढ़ने, लिखने और समस्याओं को हल करने में सक्षम हैं। वर्षों से, शोधकर्ता इस बात पर विचार कर रहे हैं कि ये सिस्टम बहुभाषी होने की जटिलता को कैसे संभालते हैं। जब एक मॉडल अंग्रेजी में गणित की समस्या हल करता है और फिर ठीक उसी समस्या को चीनी भाषा में हल करता है, तो क्या वह दोनों के लिए एक ही आंतरिक मानसिक मशीनरी का उपयोग करता है, या वह प्रत्येक भाषा के लिए पूरी तरह से अलग नियमों के सेट पर स्विच कर जाता है? यह प्रश्न महत्वपूर्ण है क्योंकि यदि मॉडल तर्क देने के लिए एक साझा आंतरिक भाषा का उपयोग करता है, तो हम इसके तर्क को एक बार समझकर उसे हर उस भाषा पर लागू कर सकते हैं जिसे वह बोलता है। यदि, इसके विपरीत, यह अलग-अलग, भाषा-विशिष्ट मार्गों पर निर्भर करता है, तो मॉडल के एक संस्करण को समझना हमें अन्य संस्करणों के बारे में बहुत कम बताता है। मैकेनिस्टिक इंटरप्रिटेबिलिटी (mechanistic interpretability) का क्षेत्र इन मॉडल्स के भीतर झांकने और यह देखने का प्रयास करता है कि वे कैसे काम करते हैं, उनके आंतरिक राज्यों को एक जटिल सर्किट बोर्ड की तरह मानता है जिसे मैप और समझा जा सकता है।

शोधकर्ताओं की एक टीम ने पांच अलग-अलग लार्ज लैंग्वेज मॉडल्स के आंतरिक कामकाज को देखकर इस प्रश्न का उत्तर देने का प्रयास किया। उन्होंने एक विशिष्ट कार्य पर ध्यान केंद्रित किया: प्राथमिक विद्यालय के गणित के सवालों को हल करना। उन्होंने 250 गणितीय समस्याओं का एक डेटासेट लिया और प्रत्येक मॉडल से छह अलग-अलग भाषाओं में उन्हें हल करने के लिए कहा: अंग्रेजी, जर्मन, फ्रेंच, स्पेनिश, रूसी और चीनी। 'सेब की तुलना सेब से' करने के लिए तुलना सुनिश्चित करने हेतु, उन्होंने केवल उन समस्याओं को रखा जहाँ मॉडल ने सही उत्तर दिया और हर एक भाषा में एक स्पष्ट, चरण-दर-चरण तर्क पथ (reasoning path) प्रस्तुत किया। शोधकर्ताओं ने फिर प्रक्रिया के विभिन्न चरणों पर मॉडल की आंतरिक गतिविधि को रिकॉर्ड किया, जिससे कंप्यूटर के भीतर उत्पन्न होने वाले बिजली जैसे संकेतों के विशिष्ट पैटर्न को कैप्चर किया गया, जैसा कि वह समाधान के माध्यम से सोचते समय सक्रिय होते हैं।

इन जटिल संकेतों को समझने के लिए, शोधकर्ताओं ने 'स्पार्स ऑटोएनकोडर' (sparse autoencoder) नामक एक टूल का उपयोग किया। आप इसे एक ऐसे तरीके के रूप में सोच सकते हैं जो मॉडल के अराजक आंतरिक शोर को विशिष्ट, समझने योग्य अवधारणाओं की एक सूची में अनुवादित करता है। जिस तरह एक इंसान आकाश, पेड़, कुत्ता, कार जैसी प्रमुख वस्तुओं की सूची बनाकर किसी दृश्य का वर्णन कर सकता है, वैसे ही ऑटोएनकोडर मॉडल की गतिविधि को सक्रिय विशेषताओं (features) के एक सेट में तोड़ देता है। शोधकर्ताओं ने प्रत्येक मॉडल की प्रत्येक लेयर (परत) के लिए इस टूल के दो संस्करणों को प्रशिक्षित किया। पहला संस्करण ने केवल यह सीखा कि उसने एक भाषा में क्या देखा। दूसरे संस्करण को एक विशेष निर्देश के साथ प्रशिक्षित किया गया था: इसे एक ही गणितीय समस्या को समान विशेषताओं का उपयोग करके वर्णित करना था, चाहे वह समस्या अंग्रेजी में प्रस्तुत की गई हो या चीनी में। यह दूसरा संस्करण मॉडल को एक सामान्य आधार खोजने के लिए मजबूर करने के लिए डिज़ाइन किया गया था, यानी तर्क के लिए एक साझा आंतरिक भाषा।

परिणामों ने यह खुलासा किया कि ये मॉडल्स कैसे सोचते हैं, इसकी एक आश्चर्यजनक वास्तविकता सामने आई। शोधकर्ताओं ने पाया कि केवल आंतरिक विवरणों को ज्यामितीय रूप से अधिक समान बनाने मात्र से यह गारंटी नहीं मिलती कि मॉडल वास्तव में एक ही तर्क का उपयोग कर रहा है। कुछ मॉडल्स में, आंतरिक विशेषताओं को भाषाओं के बीच संरेखित (align) करने से मॉडल का तर्क अधिक सुदृढ़ और विनिमेय (interchangeable) हो गया। अन्य में, इससे कोई अंतर नहीं पड़ा, और एक मामले में, जब उन्होंने एक भाषा से तर्क के हिस्सों को दूसरी भाषा में बदलने की कोशिश की, तो इसने मॉडल के प्रदर्शन को वास्तव में खराब कर दिया। ऐसा इसलिए हुआ क्योंकि मॉडल्स पहले से ही बहुत अलग आदतों में बस चुके थे। मॉडल्स का एक परिवार स्वाभाविक रूप से समस्या में गहराई तक जाते समय सोचने का एक साझा तरीका विकसित करता था, इसलिए नए प्रशिक्षण ने उस साझा पथ को परिष्कृत करने में मदद की। दूसरा परिवार पहले से ही एक मजबूत, साझा संरचना बना चुका था, इसलिए नए प्रशिक्षण ने इसमें कुछ भी जोड़ने के लिए नहीं छोड़ा। तीसरा परिवार अपनी भाषाओं को सख्ती से अलग रखता था, और उन्हें एक साथ जोड़ने के प्रयास ने स्पष्टता के बजाय भ्रम पैदा किया।

इस अध्ययन में चार अलग-अलग परिवारों के पांच विशिष्ट मॉडल्स की जांच की गई, जिनका आकार 1.7 बिलियन से 4 बिलियन पैरामीटर्स के बीच था। उन्होंने पाया कि एक साझा तर्क भाषा बनाने की सफलता पूरी तरह से मॉडल के मौजूदा आर्किटेक्चर पर निर्भर थी। उन मॉडल्स में जो एक "अभिसरण" (convergent) पैटर्न दिखाते थे, जहाँ साझा विशेषताएँ मॉडल द्वारा समस्या को प्रोसेस करने के साथ और मजबूत होती गईं, वहां नया प्रशिक्षण पद्धति पूरी तरह से सफल रही, जिसने परीक्षण की गई प्रत्येक लेयर में भाषाओं के बीच तर्क करने की मॉडल की क्षमता में सुधार किया। उन मॉडल्स में जो साझा विशेषताओं से पहले से ही "संतृप्त" (saturated) थे, वहां नए प्रशिक्षण ने कोई लाभ नहीं दिया और कभी-कभी उनके प्राकृतिक प्रवाह में व्यवधान भी डाला। उन मॉडल्स में जो "कम-साझाकरण" (low-sharing) वाले रहे, जहाँ भाषाएँ काफी हद तक अलग रहीं, वहां नए प्रशिक्षण ने एक कार्यात्मक सेतु बनाने में विफल रहे, भले ही उन्होंने आंतरिक संकेतों को कागज पर अधिक समान दिखने के लिए मजबूर किया।

यह कार्य क्षेत्र की एक सामान्य धारणा को चुनौती देता है: कि यदि दो चीजें ग्राफ पर समान दिखती हैं, तो वे एक ही तरह से कार्य भी करती होंगी। शोधकर्ताओं ने सिद्ध किया कि एक मॉडल के पास ऐसी विशेषताएं हो सकती हैं जो भाषाओं के बीच ज्यामितीय रूप से संरेखित दिखती हैं, लेकिन फिर भी वे आपस में विनिमेय (interchangeable) होने में विफल रहती हैं। उन्होंने दिखाया कि बहुभाषी मॉडल्स को समझने का मार्ग "एक ही आकार सबके लिए उपयुक्त" (one-size-fits-all) वाला समाधान नहीं है। इसके बजाय, एक मॉडल का आंतरिक तर्क उसके विशिष्ट डिज़ाइन से गहराई से जुड़ा हुआ है। कुछ मॉडल्स स्वाभाविक रूप से एक सार्वभौमिक तर्क इंजन बनाते हैं, जबकि अन्य अपनी भाषाओं को अलग-अलग कमरों में रखते हैं। शोधकर्ताओं ने निष्कर्ष निकाला कि भाषाओं के माध्यम से यह समझने के लिए कि एक आर्टिफिशियल इंटेलिजेंस कैसे सोचता है, हमें प्रत्येक मॉडल के विशिष्ट आर्किटेक्चर को देखना चाहिए, न कि यह मान लेना चाहिए कि वे सभी एक ही छिपे हुए नियमों का पालन करते हैं।