द ग्रेट डिटेक्टिव गेम: क्यों देखना हमेशा विश्वास करने जैसा नहीं होता

कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि एक जटिल मशीन कैसे काम करती है, जैसे कि एक विशाल, अदृश्य क्लॉकवर्क खिलौना। आप गियर को घूमते हुए और हाथों को चलते हुए देख सकते हैं, और जब आप उसे अकेला छोड़ देते हैं तो ठीक क्या होता है, इसका सटीक रिकॉर्ड रख सकते हैं। इसे अवलोकनात्मक डेटा (observational data) कहा जाता है। लेकिन यहाँ एक पेच है: दो पूरी तरह से अलग मशीनें स्थिर अवस्था में बिल्कुल एक जैसी दिख सकती हैं। हो सकता है कि एक में कोई स्प्रिंग किसी गियर को धकेल रहा हो, जबकि दूसरे में कोई चुंबक उसे खींच रहा हो। दूर से देखने पर, वे दोनों एक ही तरह से टिक-टिक करते हैं। विज्ञान में, यह एक बहुत बड़ी समस्या है क्योंकि केवल कुछ होते हुए देखने से यह पता नहीं चलता कि वह क्यों हो रहा है या यदि आप उसमें छेड़छाड़ करें तो क्या होगा।

इसे हल करने के लिए, वैज्ञानिक कारण मॉडल (causal models) का उपयोग करते हैं, जो ब्लूप्रिंट की तरह होते हैं कि मशीन कैसे बनी है। लेकिन आप कैसे जानेंगे कि कौन सा ब्लूप्रिंट असली है? आपको हस्तक्षेप (interventions) करने होंगे। इसका अर्थ है अंदर हाथ डालकर कुछ बदलना—जैसे कि एक स्प्रिंग को हटाना या किसी गियर को तेज़ी से घूमने के लिए मजबूर करना—और यह देखना कि मशीन के बाकी हिस्से उस पर कैसी प्रतिक्रिया देते हैं। यदि आप केवल देखते रहेंगे, तो आपको धोखा दिया जा सकता है। यदि आप मशीन को छेड़ते और परखते हैं, तो सच्चाई आमतौर पर सामने आ जाती है। हालाँकि, मशीन को छेड़ना महंगा, जोखिम भरा या कभी-कभी असंभव होता है। आप हर एक चीज़ को आज़माने के लिए बस हाथ नहीं बढ़ा सकते; आपको यह तय करने में स्मार्ट होना होगा कि सबसे कम प्रयासों में सबसे अधिक सीखने के लिए कौन से बटन दबाने हैं। यह एक पहेली है जिसे यूनिवर्सिटी ऑफ कैलगरी का एक नया पेपर हल करने की कोशिश कर रहा है।

द पेपर: AI के लिए "गॉटचा!" (Gotcha!) का एक खेल

यह पेपर एक चतुर नए खेल को पेश करता है जिसे एडवर्सरियल कॉज़ल इंटरवेंशन फाल्सिफिकेशन (Adversarial Causal Intervention Falsification) या संक्षेप में ACIF कहा जाता है। इसे दो कंप्यूटर प्रोग्रामों के बीच खेले जाने वाले एक उच्च-दांव वाले "गॉटचा!" (पकड़े गए!) के खेल के रूप में सोचें: एक जेनेरेटर (Generator) और एक एडवर्सरी (Adversary)।

जेनेरेटर एक चालाक AI है जो दुनिया का एक नकली ब्लूप्रिंट बनाने की कोशिश कर रहा है। इसका लक्ष्य एक ऐसा मॉडल बनाना है जो तब एकदम सही दिखे जब आप केवल डेटा को देखते हैं। यह सबको यह विश्वास दिलाने में सफल होना चाहता है कि, "वाह, यह मॉडल जानता है कि दुनिया वास्तव में कैसे काम करती है!" लेकिन जेनेरेटर धूर्त है; यह कारण-और-प्रभाव के संबंधों को गलत होते हुए भी आंकड़ों को पूरी तरह से मैच कर सकता है।

एडवर्सरी एक अत्यंत बुद्धिमान, संदेही जासूस है। इसका काम केवल यह जांचना नहीं है कि जेनेरेटर की नकली दुनिया वास्तविक दिखती है या नहीं; इसका काम इसे तोड़ना है। एडवर्सरी विशिष्ट प्रयोग चुनने का अधिकार रखता है—विशिष्ट "पोक्स" या हस्तक्षेप—ताकि जेनेरेटर का परीक्षण किया जा सके। यदि जेनेरेटर का ब्लूप्रिंट कहता है, "यदि मैं इस बटन को दबाता हूँ, तो लाइट हरी हो जाएगी," लेकिन वास्तविक दुनिया कहती है, "नहीं, यह लाल हो जाती है," तो एडवर्सरी वह दौर जीत जाता है। जेनेरेटर तभी जीवित रह पाता है जब वह उन सभी प्रयोगों के परिणाम की भविष्यवाणी कर सके जो एडवर्सरी उसके सामने रखता है।

यह पेपर सिद्ध करता है कि यह खेल सत्य खोजने का सबसे अच्छा तरीका है। यह दिखाता है कि यदि आप केवल एक AI को डेटा से मेल खाने के लिए प्रशिक्षित करते हैं (अवलोकन संबंधी डेटा), तो आप कभी भी सुनिश्चित नहीं हो सकते कि वह सही है। लेकिन यदि आप AI को एक क्रूर प्रतिद्वंद्वी द्वारा डिज़ाइन किए गए सावधानीपूर्वक चुने गए "पोक्स" (छेड़छाड़) से जीवित रहने के लिए मजबूर करते हैं, तो आप संभावनाओं को तब तक सीमित कर सकते हैं जब तक कि आपको एकमात्र सच्चा ब्लूप्रिंट न मिल जाए।

खेल के नियम

लेखक ने गणितीय प्रमाणों का उपयोग करके इस खेल को तीन मुख्य भागों में विभाजित किया है:

1. "फाल्सिफिकेशन" (असत्यता सिद्ध करना) का लक्ष्य: पेपर तर्क देता है कि हमें केवल यह नहीं पूछना चाहिए कि, "क्या यह मॉडल डेटा जैसा दिखता है?" इसके बजाय, हमें यह पूछना चाहिए, "क्या यह मॉडल सबसे खराब प्रयोग का सामना कर सकता है?" एडवर्सरी को उस एकल प्रयोग को खोजने के लिए प्रोग्राम किया गया है जहाँ जेनेरेटर के विफल होने की संभावना सबसे अधिक है। यदि जेनेरेटर उस सबसे खराब स्थिति में भी जीवित रह जाता है, तो वह सत्य होने का एक मजबूत दावेदार है।

2. "इक्विवेलेंस" (समतुल्यता) का जाल: पेपर एक बहुत ही महत्वपूर्ण बात बनाता है: कभी-कभी, सभी छेड़छाड़ के बाद भी, हो सकता है कि आपको एक अकेला सटीक उत्तर न मिले। हो सकता है कि आपको ब्लूप्रिंटों का एक छोटा समूह मिल जाए जो उन प्रयोगों के तहत बिल्कुल एक जैसा व्यवहार करते हैं जो आप करने के लिए स्वतंत्र थे। लेखक इसे इंटरवेंशनल इक्विवेलेंस (interventional equivalence) कहते हैं। वे स्पष्ट करते हैं कि यह पद्धति की विफलता नहीं है; यह प्रयोगों की एक सीमा है। यदि आपके पास मशीन के एक विशिष्ट भाग का परीक्षण करने के लिए सही उपकरण नहीं थे, तो आप निश्चित रूप से नहीं जान सकते कि वह भाग कैसे काम करता है। लेकिन यदि आपके पास सही उपकरण हैं, तो यह खेल गारंटी देता है कि आप अद्वितीय सत्य पा लेंगे।

3. "स्मार्ट पोकिंग" (स्मार्ट तरीके से छेड़छाड़) की रणनीति: चूंकि प्रयोगों में पैसा और समय लगता है, इसलिए आप सब कुछ बेतरतीब ढंग से नहीं कर सकते। पेपर एक ऐसी रणनीति पेश करता है जहाँ एडवर्सरी उन सभी ब्लूप्रिंटों को देखता है जो अभी भी दौड़ में हैं और उस प्रयोग को चुनता है जो उन्हें एक-दूसरे से सबसे अधिक अलग करता है। कल्पना कीजिए कि आपके पास 8 अलग-अलग चाबियों का एक बैग है, और आप नहीं जानते कि कौन सी चाबी दरवाजा खोलती है। एक-एक करके चाबियाँ आज़माने के बजाय, आप एक ऐसा ताला ढूंढते हैं जिसे केवल 4 चाबियाँ ही खोल सकती हैं। यदि दरवाजा खुल जाता है, तो आप जानते हैं कि यह उन 4 में से एक है। यदि नहीं खुलता है, तो आप जानते हैं कि यह बाकी अन्य 4 में से एक है। आपने अभी-अभी अपनी खोज के दायरे को आधा कर दिया। पेपर सिद्ध करता है कि यदि आप ऐसा करते रहते हैं—हमेशा उस प्रयोग को चुनते हैं जो शेष संभावनाओं को आधा कर देता है—तो आप बहुत तेज़ी से सही उत्तर पा सकते हैं। वास्तव में, 8 संभावनाओं के सेट के लिए, आपको केवल 2 या 3 प्रयास लग सकते हैं, जबकि एक रैंडम गेसर को कई अधिक प्रयासों की आवश्यकता हो सकती है।

पेपर ने क्या पाया (और क्या नहीं)

लेखक ने अपने सिद्धांत का परीक्षण करने के लिए सिमुलेशन चलाए। उन्होंने चार चरों (variables) वाली एक सरल दुनिया बनाई (जैसे डोमिनोज़ की एक रेखा) और AI को 8 अलग-अलग संभावित तरीके दिए कि डोमिनोज़ कैसे गिर सकते हैं।

• परिणाम: जब एडवर्सरी ने "स्मार्ट स्प्लिटिंग" रणनीति का उपयोग किया, तो उसने औसतन 1.5 राउंड (कभी 1, कभी 2) में सही ब्लूप्रिंट खोज लिया।
• तुलना: जब उन्होंने "रैंडम" रणनीति का उपयोग किया (बिना सोचे-समझे प्रयोग चुनना), तो उन्हें औसतन 2.24 राउंड लगे।
• प्रमाण: उन्होंने गणितीय रूप से भी सिद्ध किया कि यदि प्रयोगों को अच्छी तरह से चुना जाता है, तो आवश्यक राउंड की संख्या संभावनाओं के बढ़ने के साथ बहुत धीमी गति (लॉगारिदमिक रूप से) से बढ़ती है। इसका मतलब है कि यह विधि जटिल समस्याओं के लिए भी अच्छी तरह से काम करती है।

हालाँकि, पेपर अपने दावों के बारे में बहुत सावधान है। यह क्या नहीं कहता है, यह समझना महत्वपूर्ण है:

• यह खारिज करता है: यह स्पष्ट रूप से बताता है कि यदि आप केवल अवलोकन संबंधी डेटा (केवल देखते रहना) देखते हैं, तो आप कारण-और-प्रभाव के बारे में कभी भी सुनिश्चित नहीं हो सकते। कोई भी फैंसी AI प्रशिक्षण उस कमी को ठीक नहीं कर सकता।
• यह खारिज करता है: यह स्वीकार करता है कि यदि आपके पास जो प्रयोग करने की अनुमति है वे बहुत कमजोर या बहुत कम हैं, तो हो सकता है कि आप कभी भी एक एकल सटीक उत्तर न पा सकें। आप केवल "समान रूप से अच्छे" उत्तरों के एक छोटे समूह तक ही पहुँच पाएंगे। पेपर इसे एक गणितीय सीमा कहता है, कोड का बग नहीं।
• विश्वास का स्तर: मुख्य परिणाम गणितीय प्रमाण (जो कुछ शर्तों के तहत काम करने की गारंटी देते हैं) और सिमुलेशन (कंप्यूटर टेस्ट जो दिखाते हैं कि यह व्यवहार में काम करता है) हैं। लेखक यह दावा नहीं करते कि उन्होंने अभी तक वास्तविक दुनिया के चिकित्सा या जैविक डेटा पर इसका परीक्षण किया है; वे इसे अगले चरण के रूप में सुझाते हैं।

यह क्यों मायने रखता है

यह पेपर इस बारे में हमारी सोच को बदल देता है कि कंप्यूटर को कारण और प्रभाव को समझने के लिए कैसे सिखाया जाए। केवल AI को लाखों तस्वीरें खिलाने और इस उम्मीद में रहने के बजाय कि वह नियम सीख जाएगा, हमें इसे एक परीक्षा देने वाले छात्र की तरह मानना चाहिए। शिक्षक (एडवर्सरी) को केवल आसान प्रश्न नहीं पूछने चाहिए; उन्हें सबसे कठिन, सबसे प्रकट करने वाले प्रश्न पूछने चाहिए। AI को यह साबित करने के लिए मजबूर करके कि वह दुनिया के केवल 'दिखावे' को नहीं, बल्कि उसके 'ढांचे' (structure) को समझता है, हम ऐसे मॉडल बना सकते हैं जो बड़े निर्णय लेने के लिए वास्तव में भरोसेमंद हों।

पेपर निष्कर्ष निकालता है कि हालांकि हम हमेशा सब कुछ नहीं जान सकते, लेकिन हम जो जानते हैं उसके बारे में बहुत अधिक स्मार्ट हो सकते हैं। इस एडवर्सरियल गेम को खेलकर, हम गलत उत्तरों को तेज़ी से और कुशलता से हटा सकते हैं, जिससे हमें दुनिया वास्तव में कैसे काम करती है, इसकी एक स्पष्ट तस्वीर मिलती है। यह डीप लर्निंग की दुनिया (जहाँ AI डेटा से सीखता है) और वैज्ञानिक प्रयोग की दुनिया (जहाँ हम करके सीखते हैं) के बीच एक सेतु है, जो यह दर्शाता है कि वे वास्तव में सत्य की खोज में भागीदार हैं।