A Differentiable Atari VCS:A Complex, Fully Known Ground Truth for Explainable AI
यह शोध पत्र जूलिया और जैक्स (JAX) में अटाारी 2600 वीडियो कंप्यूटर सिस्टम का एक डिफरेंशिएबल (differentiable), बिट-फॉर-बिट सटीक एमुलेशन पेश करता है, जो एक पूर्णतः ज्ञात, जटिल ग्राउंड ट्रुथ प्रदान करता है जो डीप रिइन्फोर्समेंट लर्निंग कार्यों के लिए एक्सप्लेनेबल एआई (XAI) के ग्रेडिएंट-आधारित तरीकों के अनुप्रयोग को सक्षम बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र (paper) का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
बड़ी समस्या: अनकही को समझाना (Explaining the Unexplainable)
कल्पना कीजिए कि आप यह समझाने की कोशिश कर रहे हैं कि एक जादू का खेल (magic trick) कैसे काम करता है।
- परिदृश्य A: जादू सरल है, जैसे कि ताश का पत्ता बदलना। आप देख सकते हैं कि यह ठीक कैसे हुआ। इसे समझाना आसान है, लेकिन यह बहुत प्रभावशाली नहीं है।
- परिदृश्य B: जादू अविश्वसनीय रूप से जटिल है, जिसमें लाखों गियर वाली एक विशाल, 'ब्लैक-बॉक्स' मशीन शामिल है। आप मशीन को परिणाम देते हुए देख सकते हैं, लेकिन आपको पता नहीं है कि अंदर क्या हो रहा है। आप अनुमान लगा सकते हैं कि यह क्यों सफल हुआ, लेकिन आपके पास यह साबित करने का कोई तरीका नहीं है कि आपका अनुमान सही है या गलत।
यही एक्सप्लेनेबल एआई (Explainable AI - XAI) की वर्तमान स्थिति है। हमारे पास सरल AI मॉडल हैं जिन्हें हम पूरी तरह से समझा सकते हैं, और जटिल AI मॉडल हैं (जैसे वीडियो गेम खेलने वाले) जिन्हें हम बिल्कुल भी नहीं समझा सकते क्योंकि हमें उनकी "ग्राउंड ट्रुथ" (वास्तविक आंतरिक कार्यप्रणाली) का पता नहीं होता।
समाधान: एक "जादुई" वीडियो गेम कंसोल बनाना
लेखकों ने एक नया प्रकार का परीक्षण ऑब्जेक्ट बनाकर इसे ठीक करने का निर्णय लिया। वे कुछ ऐसा चाहते थे जो इतना जटिल हो कि दिलचस्प लगे (एक वास्तविक कंप्यूटर की तरह) लेकिन पूरी तरह से ज्ञात हो ताकि हम उत्तरों की जाँच कर सकें।
उन्होंने Atari 2600 को चुना, जो 1980 का क्लासिक वीडियो गेम कंसोल है।
- क्यों? यह एक वास्तविक कंप्यूटर है जिसमें एक वास्तविक प्रोसेसर, मेमोरी और ग्राफिक्स चिप है। यह इतना जटिल है कि एक चुनौती बन सके, लेकिन इतना छोटा भी है कि हम इसके अंदर के हर तार और स्विच को मैप कर सकें।
- ट्विस्ट: उन्होंने केवल गेम की नकल नहीं की; उन्होंने पूरे कंप्यूटर सिस्टम को आधुनिक कोड में फिर से बनाया, लेकिन एक सुपरपावर के साथ: यह "डिफरेंशिएबल" (differentiable) है।
"डिफरेंशिएबल" का क्या अर्थ है? ("सॉफ्ट" स्विच)
एक सामान्य कंप्यूटर में, निर्णय "हार्ड" होते हैं।
- उदाहरण: "यदि जॉयस्टिक को दाईं ओर धकेला जाता है, तो स्प्राईट (sprite) को कॉलम 10 पर ले जाएँ।" या तो वह 10 पर है या नहीं है। यदि आप गणना करने की कोशिश करते हैं कि जॉयस्टिक ने स्प्राईट को "कितना" हिलाया, तो गणित टूट जाता है क्योंकि स्विच बाइनरी (ऑन/ऑफ) है।
लेखकों ने एटाारी (Atari) को इस तरह से फिर से बनाया कि यह "सॉफ्ट मोड" में भी चल सके।
- उपमा: एक लाइट स्विच के बजाय डिमर स्विच (dimmer switch) की कल्पना करें। लाइट के केवल "चालू" या "बंद" होने के बजाय, यह "50% चालू" या "73% चालू" हो सकती है।
- जादू: उन्होंने कंप्यूटर के तर्क (CPU, मेमोरी, ग्राफिक्स चिप) को इन डिमर स्विचों की तरह काम करने के लिए बनाया।
- फॉरवर्ड पास (परिणाम): कंप्यूटर अभी भी गेम को पूरी तरह से खेलता है। स्क्रीन मूल एटाारी की तरह बिल्कुल वैसी ही दिखती है। गणित सिद्ध करता है कि "सॉफ्ट" संस्करण मूल "हार्ड" संस्करण की तरह ही सटीक चित्र बनाता है।
- बैकवर्ड पास (व्याख्या): क्योंकि स्विच "सॉफ्ट" हैं, कंप्यूटर अब ग्रेडिएंट्स (gradients) की गणना कर सकता है। यह सवालों के जवाब दे सकता है जैसे, "यदि मैं मेमोरी के इस विशिष्ट बाइट को थोड़ा सा बदल दूँ, तो स्क्रीन पर पिक्सेल में कितना बदलाव आएगा?"
परिणाम: दो नए एम्युलेटर
टीम ने इस "सुपर एटाारी" के दो स्वतंत्र संस्करण बनाए:
- jutari: जूलिया (Julia) प्रोग्रामिंग भाषा में लिखा गया।
- jaxtari: जैक्स (JAX - उच्च-प्रदर्शन गणित के लिए एक लाइब्रेरी) में लिखा गया।
क्या यह काम कर गया?
हाँ। उन्होंने इसका परीक्षण 64 अलग-अलग एटाारी गेम्स पर किया।
- मेमोरी चेक: उनके नए संस्करणों में मेमोरी (RAM) मूल संदर्भ एम्युलेटर के मुकाबले 100% समान थी, बाइट-दर-बाइट।
- स्क्रीन चेक: स्क्रीन पर दिखने वाले चित्र 100% समान थे, पिक्सेल-दर-पिक्सेल।
इसका मतलब है कि उनका नया "सॉफ्ट" कंप्यूटर केवल एक सिमुलेशन नहीं है; यह मूल का एक पूर्ण जुड़वां है, बस इसमें एक विशेष "एक्सप्लेनेशन मोड" चालू है।
"AI असिस्टेंट" का कारक
लेखक इस बात के बारे में कुछ आश्चर्यजनक नोट करते हैं कि उन्होंने इसे कैसे बनाया।
- दावा: इस तरह की परियोजना (एक पूरा कंप्यूटर सिस्टम फिर से लिखना) में आमतौर पर एक मानव टीम को कई महीने या साल लग जाते हैं।
- वास्तविकता: लेखकों ने लगभग 137 घंटों के सक्रिय कार्य (लगely 6 दिन) में दो पूर्ण, काम करने वाले संस्करण बनाए।
- कैसे? उन्होंने भारी काम करने के लिए AI कोडिंग एजेंटों (जैसे उन्नत चैटबॉट्स जो कोड लिखते हैं) का उपयोग किया। इंसानों ने मैनेजर के रूप में काम किया, काम की जाँच की और बग्स को ठीक किया, जबकि AI ने अधिकांश कोड लिखा।
यह क्यों मायने रखता है ("ग्राउंड ट्रुथ")
इस पेपर से पहले, यदि आप किसी एटाारी खेलने वाले AI को यह समझाने के लिए किसी AI टूल का उपयोग करते कि उसने एक चाल क्यों चली, तो आप कभी भी यकीन नहीं कर सकते थे कि वह टूल सही था। आप केवल कह सकते थे, "यह प्रशंसनीय लगता है।"
अब, क्योंकि एटाारी सिस्टम पूरी तरह से ज्ञात और डिफरेंशिएबल है:
- आप सिस्टम पर एक व्याख्या टूल चला सकते हैं।
- आप टूल के उत्तर की तुलना कंप्यूटर के वास्तविक, ज्ञात वायरिंग से कर सकते हैं।
- आप अंततः कह सकते हैं, "यह व्याख्या सही है," या "यह व्याख्या गलत है।"
पेपर से एक विशिष्ट उदाहरण
लेखकों ने इसका परीक्षण Space Invaders गेम पर किया।
- समस्या: वास्तविक गेम में, जॉयस्टिक को दाईं ओर घुमाने से कैनन (cannon) दाईं ओर चलता है। लेकिन कंप्यूटर इसे एक विशिष्ट मेमोरी एड्रेस पर कूदकर (jump) करता है (एक "हार्ड" जंप)। एक मानक गणितीय टूल कहेगा, "जॉयस्टिक का स्क्रीन पर शून्य प्रभाव है" क्योंकि जंप के कारण गणित टूट जाता है।
- समाधान: उनके "सॉफ्ट" संस्करण का उपयोग करके, उन्होंने उस जंप को सुचारू (smooth) बना दिया।
- परिणाम: गणित अब सही ढंग से दिखा सका कि जॉयस्टिक को दाईं ओर धकेलने से स्क्रीन पर कैनन के किनारे चमकने लगते हैं। वे यह सिद्ध कर सके कि व्याख्या सही थी क्योंकि उन्हें पता था कि जॉयस्टिक को स्क्रीन से कैसे जोड़ा गया है।
सारांश
लेखकों ने एक पूरी तरह से ज्ञात, जटिल वीडियो गेम कंप्यूटर बनाया जो गणितीय व्याख्या की अनुमति देने के लिए एक "स्मूथ" मोड में भी चल सकता है। उन्होंने सिद्ध किया कि उनका स्मूथ मोड मूल चीज़ के समान ही गेम चलाता है, लेकिन हमें यह ट्रैक करने की अनुमति देता है कि इनपुट वास्तव में आउटपुट में कैसे बदलते हैं। उन्होंने AI सहायकों का उपयोग करके इसे अविश्वसनीय रूप से तेज़ी से बनाया, जिससे पहला वास्तविक "टेस्टबेड" तैयार हुआ जहाँ हम सत्यापित कर सकते हैं कि हमारे AI स्पष्टीकरण वास्तव में सच बोल रहे हैं या नहीं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।