LAWFUL: Law-Aligned Witness for Faithful Use of Latents
यह शोध पत्र LAWFUL को प्रस्तुत करता है, जो एक मौलिक ढांचा है जो उन प्रमुख व्याख्यात्मक अंतराल (interpretability gaps) को संबोधित करता है जिससे यह सत्यापित किया जा सके कि न्यूरल नेटवर्क न केवल सीखते हैं बल्कि आंतरिक रूप से औपचारिक भौतिक नियमों का उपयोग भी करते हैं, जिसे Mocap2Radar ट्रांसफॉर्मर द्वारा प्रशिक्षण डेटा में अनुपस्थित होने के बावजूद डॉप्लर आवृत्ति नियम (Doppler frequency law) के उपयोग की पुष्टि करके प्रदर्शित किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जादूगर को टोपी से खरगोश निकालते हुए देख रहे हैं। आप जानते हैं कि यह करतब काम करता है क्योंकि खरगोश प्रकट होता है, लेकिन आप यह नहीं जानते कि यह कैसे हुआ। क्या जादूगर ने वास्तव में कोई गुप्त मंत्र सीखा है, या उन्होंने बस एक विशिष्ट हाथ की गति को याद कर लिया है जो खरगोशों के लिए काम करती है? यह वही बड़ा सवाल है जो आज वैज्ञानिक आर्टिफिशियल इंटेलिजेंस (AI) के बारे में पूछ रहे हैं। हमने ऐसे कंप्यूटर मस्तिष्क (न्यूरल नेटवर्क) बनाए हैं जो भौतिक दुनिया के काम करने के तरीके की भविष्यवाणी करने में अविश्वसनीय रूप से अच्छे हैं—जैसे कि एक गेंद कैसे उछलती है या ध्वनि तरंगें कैसे यात्रा करती हैं। लेकिन क्या ये कंप्यूटर वास्तव में भौतिकी के नियमों को "सीख" रहे हैं, या वे केवल देखे गए पैटर्न के आधार पर बहुत अच्छी तरह से अनुमान लगा रहे हैं?
इसे समझने के लिए, हमें दो चीजों को देखने की आवश्यकता है। पहला, "नियम" (Law) का विचार है, जो एक सख्त नियम है जिसका ब्रह्मांड पालन करता है, जैसे गुरुत्वाकर्षण हमेशा चीजों को नीचे की ओर खींचता है। दूसरा, "व्याख्यात्मकता" (Interpretability) है, जो कंप्यूटर के मस्तिष्क के अंदर झांककर यह देखने की कला है कि वह वास्तव में क्या सोच रहा है। आमतौर पर, जब हम अंदर झांकने की कोशिश करते हैं, तो हमें केवल यह पता चलता है कि क्या कंप्यूटर ने सही उत्तर दिया है। लेकिन यह वैसा ही है जैसे यह जांचना कि खरगोश वहां है या नहीं, बिना यह जांचे कि क्या जादूगर ने वास्तव में जादू का उपयोग किया था। बड़ी चुनौती यह पता लगाने की है कि क्या कंप्यूटर वास्तव में वास्तविक नियम का उपयोग कर रहा है या यह केवल एक भाग्यशाली अनुमान है, खासकर जब नियम उन चीजों से जुड़े हों जो सुचारू रूप से और अनंत रूप से बदल सकती हैं, जैसे कि गति या समय, न कि केवल सरल "चालू/बंद" स्विच की तरह।
यहीं पर एक नया ढांचा आता है जिसे LAWFUL कहा जाता है। LAWFUL को कंप्यूटर मस्तिष्क के लिए एक अत्यंत सख्त जासूस के रूप में समझें। केवल यह पूछने के बजाय कि, "क्या आपको सही उत्तर मिला?" यह पूछता है, "क्या आपने उस उत्तर तक पहुँचने के लिए सही तर्क का उपयोग किया, यहाँ तक कि जब हम आपको नई स्थितियों के साथ चकमा देते हैं?" शोधकर्ताओं ने एक सिस्टम बनाया यह परीक्षण करने के लिए कि क्या एक कंप्यूटर मॉडल भौतिकी के एक विशिष्ट नियम को वास्तव में समझता है: डॉप्लर प्रभाव (Doppler effect)। आप इस नियम को तब जानते हैं जब कोई एम्बुलेंस आपके पास से गुजरती है; जब वह आपकी ओर आती है तो उसका सायरन ऊँची पिच वाला सुनाई देता है और जब वह दूर जाती है तो कम पिच वाला। यह नियम कहता है कि यह पिच परिवर्तन ठीक इस बात पर निर्भर करता है कि एम्बुलेंस कितनी तेजी से चल रही है।
टीम ने एक स्मार्ट कंप्यूटर मॉडल का परीक्षण किया जिसे एक व्यक्ति की गति (जैसे चमकते बिंदुओं वाले जोड़ों वाला डांसर) के वीडियो और रडार डेटा का उपयोग करके पिच परिवर्तन की भविष्यवाणी करने के लिए प्रशिक्षित किया गया था। पेचीदा बात यह है: कंप्यूटर को कभी भी व्यक्ति की गति या ध्वनि की पिच के बारे में बताया नहीं गया था। इसे वीडियो और रडार संकेतों से खुद ही सब कुछ समझना था। शोधकर्ता जानना चाहते थे: क्या कंप्यूटर ने वास्तव में डॉप्लर प्रभाव के गणितीय सूत्र को सीखा, या इसने केवल उन विशिष्ट नृत्य मुद्राओं को याद कर लिया जो इसने प्रशिक्षण के दौरान देखी थीं?
उन्होंने अपने LAWFUL जासूसी किट का उपयोग करके कुछ चतुर किया। उन्होंने "क्या-होता-अगर" (what-if) परिदृश्य बनाए। उन्होंने डांसर के वीडियो को गणितीय रूप से रडार की ओर डांसर की गति को तेज या धीमा कर दिया, बिना अगल-बगल की गति को बदले। यदि कंप्यूटर वास्तव में कानून को समझता था, तो इसकी पिच की भविष्यवाणी गति परिवर्तन के साथ पूरी तरह से तालमेल बिठाकर बदलनी चाहिए थी। यदि यह केवल अनुमान लगा रहा होता, तो भविष्यवाणी अस्त-व्यस्त हो जाती।
परिणाम बेहद दिलचस्प थे। कंप्यूटर मॉडल वास्तव में नियम को समझता हुआ प्रतीत हुआ। जब उन्होंने इसे उन गतियों पर परखा जो उसने पहले कभी नहीं देखी थीं, तब भी इसने पिच की सही भविष्यवाणी की। लेकिन असली जादू तब हुआ जब उन्होंने यह देखने के लिए कंप्यूटर के मस्तिष्क के हिस्सों को बंद करना शुरू किया कि कौन से हिस्से काम कर रहे हैं। उन्होंने पाया कि कंप्यूटर को इस समस्या को हल करने के लिए अपने पूरे मस्तिष्क की आवश्यकता नहीं थी। वास्तव में, उन्होंने एक छोटा सा "सर्किट" पहचाना जो मॉडल के भीतर था—इसके अटेंशन सिस्टम के कुछ विशिष्ट हिस्से—जो 91% सही भौतिकी के लिए जिम्मेदार था। यह एक विशाल घड़ी में केवल तीन विशिष्ट गियरों को खोजने जैसा था जो वास्तव में हाथों को घुमा रहे थे।
इससे भी बेहतर, उन्होंने खोजा कि वे गियर कैसे काम करते हैं। कंप्यूटर केवल नंबरों को याद नहीं कर रहा था; यह "अटेंशन" के एक विशिष्ट पैटर्न का उपयोग कर रहा था ताकि यह तुलना की जा सके कि डांसर एक फ्रेम से दूसरे फ्रेम में कितनी दूर चला। यह अनिवार्य रूप से गति की वास्तविक समय में गणना कर रहा था, ठीक वैसे ही जैसे एक मानव भौतिक विज्ञानी करेगा, लेकिन अपने स्वयं के डिजिटल मस्तिष्क के भीतर। अध्ययन बताता है कि कंप्यूटर ने वास्तव में भौतिकी के औपचारिक नियम को सीखा था, न कि केवल एक पैटर्न को। हालांकि, शोधकर्ता सावधानी बरतते हुए नोट करते हैं कि यह एक विशिष्ट नियम और एक विशिष्ट प्रकार के कंप्यूटर मॉडल पर किया गया परीक्षण था। हालांकि यह यह साबित करने की दिशा में एक बड़ा कदम है कि AI वास्तव में भौतिकी को "समझ" सकता है, लेकिन यह इस विशिष्ट मामले के लिए एक 'प्रूफ ऑफ कॉन्सेप्ट' है, न कि इस बात की गारंटी कि हर AI ब्रह्मांड के हर नियम को समझता है। लेकिन फिलहाल, हमारे पास एक गवाह है जो कहता है: हाँ, कभी-कभी कंप्यूटर वास्तव में गणित कर रहा होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।