Finding Usable Weight Mechanisms with Tiled SVD

कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि एक विशाल, अत्यंत बुद्धिमान रोबोट का मस्तिष्क कैसे काम करता है। लंबे समय से, वैज्ञानिक वैज्ञानिकों की तरह जासूस बने हुए हैं, जो यह पता लगाने की कोशिश करते हैं कि रोबोट समस्याओं को हल करते समय क्या सोच रहा है, इसके लिए उसके "नोट्स" (एक्टिवेशन्स) को देखते हैं। उन्होंने इन नोट्स को लेबल करने के लिए विशेष शब्दकोश बनाए, जिससे उन्हें "बिल्ली" या "न्याय" जैसे नाम दिए गए, जो गतिविधि के विशिष्ट पैटर्न को दर्शाते हैं। यह एक अनुवादक होने जैसा है जो आपको बताता है, "आह, अभी रोबोट बिल्ली के बारे में सोच रहा है!" लेकिन इसमें एक पेंच है: यह अनुवादक एक अलग उपकरण है, रोबोट के वास्तविक मस्तिष्क का हिस्सा नहीं है। यह एक मैनुअल होने जैसा है जो मशीन की व्याख्या करता है, बजाय इसके कि आप मशीन के अंदर घूमते हुए गियर और लीवर को देख सकें।

बड़ा सवाल जिसका यह पेपर समाधान करता है वह यह है: क्या हम बिना किसी अलग मैनुअल की आवश्यकता के, रोबोट के मस्तिष्क के भीतर के वास्तविक "गियर्स" को खोज सकते हैं जो सोच का काम करते हैं? लेखक उन "तारों" (वेट्स) की ओर देख रहे हैं जो मस्तिष्क के विभिन्न हिस्सों को जोड़ते हैं। वे विशिष्ट, उपयोगी स्विच खोजना चाहते हैं जो विचारों को चालू या बंद कर सकें। यदि हम इन स्विचों को सीधे वायरिंग में पा सकते हैं, तो हम केवल यह अनुमान नहीं लगा रहे होंगे कि रोबोट क्या सोच रहा है; बल्कि हम यह देख पाएंगे कि वह अपने विचारों को चरण-दर-चरण कैसे बनाता है। यह महत्वपूर्ण है क्योंकि यदि हम वास्तविक तंत्र को समझ लेते हैं, तो हम गलतियों को सुधार सकते हैं या रोबोट को सुरक्षित दिशाओं में मोड़ सकते हैं, बजाय इसके कि हम केवल उसके अर्थ का अनुमान लगाएं।

इस पेपर की कहानी: वास्तविक गियर्स को खोजना

लेखक, एक्विन लैब्स (Aquin Labs) के ऐश मानवी और समरीना ताजरीन ने रोबोट के "नोट्स" को देखना बंद करने और सीधे उसके "वायरिंग डायग्राम" को देखने का निर्णय लिया। उन्होंने Gemma-2-2B नामक एक विशिष्ट प्रकार के रोबोट मस्तिष्क पर ध्यान केंद्रित किया और पूछा: "यदि हम वायरिंग को छोटे, प्रबंधनीय टुकड़ों में काट दें, तो क्या हम उन सटीक स्विचों को खोज सकते हैं जो रोबोट के विचारों को नियंत्रित करते हैं?"

ऐसा करने के लिए, उन्होंने SVD (सिंगुलर वैल्यू डिकम्पोजिशन) नामक एक गणितीय उपकरण का उपयोग किया। SVD को एक शक्तिशाली तरीके के रूप में समझें जो उलझी हुई ऊन की गेंद को सुलझाकर सीधी और साफ डोरियों में बदल देता है। आमतौर पर, वैज्ञानिक सबसे बड़ी डोरियों को खोजने के लिए एक बार में पूरी ऊन की गेंद को सुलझाते हैं। लेकिन लेखकों को संदेह था कि सबसे उपयोगी डोरियाँ छोटे, विशिष्ट खंडों में छिपी हो सकती हैं। इसलिए, उन्होंने एक नया तरीका आजमाया: टिल्ड एसवीडी (Tiled SVD)।

कल्पना कीजिए कि रोबोट की वायरिंग स्विचों की एक विशाल दीवार है। पूरी दीवार को एक साथ सुलझाने के बजाय, उन्होंने दीवार को छोटे, वर्गाकार टाइल्स (एक मोज़ेक की तरह) में काट दिया। उन्होंने प्रत्येक छोटे टाइल को अलग से सुलझाया। प्रत्येक टाइल से, उन्होंने एक "मैकेनिज्म माउंट" निकाला, जो कि एक ट्रिपल पैकेज है:

1. ट्रिगर (v): वह विशिष्ट संकेत जो स्विच को घुमाता है।
2. राइट (u): वह दिशा जिसमें स्विच रोबोट के विचारों को धकेलता है।
3. शक्ति (σ): वह बल जिससे वह स्विच धक्का देता है।

लेखकों ने केवल अनुमान नहीं लगाया कि ये स्विच काम करते हैं या नहीं; उन्होंने यह देखने के लिए एक कठोर परीक्षण बनाया कि क्या ये वास्तविक "मैकेनिज्म" हैं या केवल रैंडम शोर। उन्होंने तीन मुख्य चीजें जांचीं:

• एनर्जी लिफ्ट (Energy Lift): क्या इस स्विच को घुमाने से वास्तव में रोबोट का मस्तिष्क उपयोगी तरीके से अधिक कार्य करता है? उन्होंने पाया कि उनका "टिल्ड" दृष्टिकोण (दीवार को छोटे टुकड़ों में काटने वाला तरीका) पूरी दीवार को एक साथ देखने की तुलना में इन शक्तिशाली स्विचों को खोजने में बहुत बेहतर था।
• कवरेज (Coverage): क्या ये स्विच रोबोट के मस्तिष्क के पर्याप्त हिस्से को कवर करते हैं? उन्होंने पाया कि प्रति टाइल केवल कुछ ही स्विच रोबोट जो कुछ भी कर रहा है, उसे समझाने के लिए पर्याप्त थे।
• कॉज़ल स्टीयरिंग (Causal Steering): यदि वे मैन्युअल रूप से इन स्विचों को घुमाते हैं, तो क्या रोबोट वास्तव में एक अनुमानित तरीके से अपना मन बदलता है? उन्होंने इसे रोबोट के "रेसिडुअल स्ट्रीम" (वह मुख्य राजमार्ग जहाँ विचार यात्रा करते हैं) में संकेत इंजेक्ट करके और यह जांचकर परखा कि क्या रोबole के अंतिम उत्तर अपेक्षित रूप से बदलते हैं।

उन्हें क्या मिला

परिणाम आश्चर्यजनक रूप से सफल रहे। उन्होंने रोबोट के मस्तिष्क के हर एक लेयर (कुल 26 लेयर्स) में सात अलग-अलग प्रकार की वायरिंग का परीक्षण किया। यह 182 अलग-अलग स्थान थे जिन्हें उन्होंने जांचा।

• "बड़े" स्विच: उन दो मुख्य प्रकार के स्विचों के लिए जो वास्तव में रोबोट की मेमोरी में नए विचार लिखते हैं (जिन्हें mlp.down और attn.o कहा जाता है), उन्होंने एक पूर्ण परीक्षण का उपयोग किया जिसमें यह भी शामिल था कि क्या रोबोट सही ढंग से अपना मन बदलता है। ये सभी 52 स्थान पास हो गए।
• "हेल्पर" स्विच: अन्य पांच प्रकार के स्विचों के लिए जो सूचना को प्रोसेस करने में मदद करते हैं लेकिन सीधे मेमोरी में नहीं लिखते, उन्होंने थोड़ा सरल परीक्षण उपयोग किया। ये सभी 130 स्थान भी पास हो गए।

कुल मिलाकर, 182 में से 182 स्थान परीक्षण में पास हुए। इसका मतलब है कि उन्होंने सफलतापूर्वक हर उस हिस्से में उपयोगी, वास्तविक तंत्र खोज लिए जहाँ उन्होंने रोबोट के मस्तिष्क में देखा था।

इसका क्या अर्थ है (और क्या नहीं)

लेखक स्पष्ट हैं कि उन्होंने क्या नहीं किया। उन्होंने "बिल्ली" या "प्रेम" जैसे शब्दों का शब्दकोष नहीं खोजा। उन्होंने नए कॉन्सेप्ट्स की खोज के लिए पुराने "नोट लेने वाले" तरीकों (जैसे स्पार्स ऑटोएनकोडर्स) को नहीं बदला। इसके बजाय, उन्होंने सिद्ध किया कि यदि आप वायरिंग को छोटे, टाइल वाले टुकड़ों में देखते हैं, तो आप उन वास्तविक भौतिक नियमों को खोज सकते हैं जिनका उपयोग रोबोट सोचने के लिए करता है।

उन्होंने यह भी खोजा कि मस्तिष्क के कुछ हिस्सों के लिए, आप केवल कच्ची वायरिंग को नहीं देख सकते; आपको "प्रभावी पथ" (इफेक्टिव पाथ) को देखना होगा (कि सिग्नल वास्तव में कैसे प्रवाहित होता है जब रोबोट काम कर रहा होता है)। एक बार जब उन्होंने इसके लिए समायोजन किया, तो स्विच पूरी तरह से काम करने लगे।

पेपर सुझाव देता है कि यह "टिल्ड" दृष्टिकोण पूरे सिस्टम को एक साथ देखने की तुलना में रोबोट के आंतरिक गियर्स को खोजने का एक बेहतर तरीका है। यह एक पुनरुत्पादक (reproducible) और ईमानदार परीक्षण है जो दिखाता है कि हम रोबोट के व्यवहार को संचालित करने वाले "वेट रूल्स" (मस्तिष्क के अंदर का वास्तविक गणित) को खोज सकते हैं, बिना किसी अलग अनुवादक की आवश्यकता के जो हमें बताए कि क्या हो रहा है। हालांकि उन्होंने केवल एक विशिष्ट रोबोट मॉडल और एक प्रकार के टेक्स्ट पर इसका परीक्षण किया, लेकिन उनके द्वारा बनाया गया तरीका अब किसी के लिए भी अन्य मस्तिष्कों की खोज करने हेतु उपलब्ध है।