SimVerity: When Does Simulated Agent Success Survive Physical Deployment?

हमारे घरों के शांत कोनों में, एक नए प्रकार की बुद्धिमत्ता जाग रही है। यह कोई ऐसा रोबोट नहीं है जो चलता है या कोई ऐसी मशीन नहीं है जो मनुष्यों की तरह सोचती है, बल्कि एक डिजिटल सहायक है जो हमारी दीवारों के भीतर रहता है, जो एक एकल बोले गए आदेश के साथ लाइट जलाने, ब्लाइंड्स (पर्दे) नीचे करने या दरवाजे लॉक करने के लिए तैयार रहता है। वर्षों से, इंजीनियर इन डिजिटल सहायकों का एक सुरक्षित, आभासी दुनिया में परीक्षण करते रहे हैं। वे कंप्यूटर के भीतर एक घर की एक आदर्श प्रतिलिपि बनाते हैं, जहाँ प्रत्येक लाइट स्विच और सेंसर ठीक वैसे ही व्यवहार करता है जैसा कि कोड कहता है। यदि कंप्यूटर प्रोग्राम कहता है कि एजेंट सफल रहा, तो इंजीनियर उसे वास्तविक घरों में जाने के लिए हरी झंडी दे देते हैं। यह प्रक्रिया एक सरल धारणा पर निर्भर करती है: यदि यह सिमुलेशन में काम करता है, तो यह वास्तविकता में भी काम करेगा। लेकिन जैसे-जैसे ये एजेंट स्क्रीन से भौतिक स्थानों की ओर बढ़ते हैं, एक महत्वपूर्ण प्रश्न अनुत्तरित रह गया है। क्या एक आभासी कमरे में सफल परीक्षण इस बात की गारंटी देता है कि उपकरण वास्तव में एक वास्तविक घर में अपना काम करेगा, जहाँ तार पुराने हैं, लाइटें टिमटिमाती हैं, और समय अलग तरह से चलता है?

इंपीरियल कॉलेज लंदन के शोधकर्ताओं की एक टीम ने एक सिस्टम बनाकर इसका उत्तर देने का प्रयास किया जिसे वे 'सिमवेरिटी' (SimVerity) कहते हैं। कंप्यूटर की बात पर भरोसा करने के बजाय, उन्होंने एक वास्तविक घर में बिल्कुल उन्हीं परिदृश्यों को फिर से चलाने की एक विधि बनाई और एक कैमरे के साथ निगरानी रखी जो एक स्वतंत्र गवाह के रूप में कार्य करता है। उन्होंने केवल यह नहीं पूछा कि क्या एजेंट ने कार्य पूरा किया; उन्होंने पूरी प्रक्रिया को, प्रति सेकंड, देखा ताकि यह देख सकें कि क्या भौतिक दुनिया आभासी दुनिया के साथ सहमत है। उन्होंने जो पाया वह एक गहरा अंतर था। अपने परीक्षणों में, एक परिष्कृत कंप्यूटर सिमुलेशन ने लाइट बंद करने के लिए हर एक परीक्षण को सफलतापूर्वक पास कर लिया। सिमुलेशन ने घोषित किया कि काम हो गया। फिर भी, जब शोधकर्ताओं ने हाई-स्पीड कैमरे के साथ वास्तविक बल्ब को देखा, तो उन्होंने देखा कि एजेंट द्वारा इसे बंद कहने के बाद भी यह एक सेकंड के अंश तक चालू रहा। आभासी दुनिया में, सफलता एक स्थिर तथ्य है: लाइट या तो चालू है या बंद है। वास्तविक दुनिया में, सफलता एक प्रक्रिया है जिसमें समय लगता है, और वही समय वह जगह है जहाँ चीजें गलत हो जाती हैं।

शोधकर्ताओं ने पाया कि सफलता की जांच करने का क्षण सफलता से अधिक महत्वपूर्ण है। उन्होंने यह मापने के चार अलग-अलग तरीके खोजे कि क्या एजेंट ने अपना काम किया है: क्या सॉफ्टवेयर ने कहा कि यह पूरा हो गया है, क्या एजेंट ने सही स्थिति रिपोर्ट की, क्या एक मनुष्य प्रभाव देख सकता है, और क्या सिस्टम एक अंतिम, स्थिर अवस्था में स्थिर हो गया है। अपने प्रयोगों में, एक एजेंट पहले तीन परीक्षणों में पास हो सकता है और फिर भी अंतिम वाले में विफल हो सकता है। एक विशिष्ट परीक्षण में, जिसमें एक लाइट स्विच शामिल था, सिमुलेशन ने कहा कि लाइट बंद थी। सॉफ्टवेयर ने रिपोर्ट किया कि यह बंद थी। लेकिन कैमरे ने, जो अंतिम सत्य बताने वाला था, उस क्षण को पकड़ लिया जब लाइट चमक रही थी, जहाँ सिमुलेशन ने 42 अलग-अलग उदाहरणों में विफलता को मिस कर दिया था। ये धीमी, स्पष्ट गलतियाँ नहीं थीं। ये एक सेकंड से भी कम समय में हुईं, जो उन मानक जांचों के लिए अदृश्य थीं जो आमतौर पर किसी एजेंट को तैनाती के लिए मंजूरी देती हैं। सिमुलेशन ने एक गलत पास दिया था, जिसने एक ऐसे उपकरण को मंजूरी दे दी जो, उस एक पल में, अभी भी गलत काम कर रहा था।

यह समझने के लिए कि ऐसा क्यों होता है, टीम ने देखा कि इन प्रणालियों को कैसे बनाया जाता है। एक सिमुलेशन कार्य को समय के एक बिंदु के रूप में देखता है। यदि कमांड भेजा जाता है और स्थिति बदल जाती है, तो काम पूरा हो गया। हालाँकि, एक वास्तविक घर देरी से भरा होता है। एक सिग्नल नेटवर्क के माध्यम से यात्रा करता है, एक स्विच घूमता है, एक बल्ब गर्म होता है, और एक सेंसर वापस रिपोर्ट करता है। इन चरणों में समय लगता है। शोधकर्ताओं ने पाया कि यदि आप परिणाम की जांच बहुत जल्दी करते हैं, तो आप देख सकते हैं कि लाइट अभी भी चालू है, भले ही एजेंट ने पहले ही सिस्टम को इसे बंद करने के लिए कह दिया हो। यह एजेंट की बुद्धिमत्ता में बग नहीं है; यह सिमुलेशन कैसे समय गिनता है और भौतिक दुनिया कैसे चलती है, इसके बीच का बेमेल है। अध्ययन ने दिखाया कि परिणाम की जांच करने से पहले थोड़ा लंबा इंतजार करने से सफलता दर 44 प्रतिशत से बढ़कर 62 प्रतिशत हो सकती है। एजेंट विफल नहीं हो रहा था; अवलोकन (observation) का समय वह चर (variable) था जिसने परिणाम तय किया।

इस शोध का सबसे आश्चर्यजनक हिस्सा यह था कि ये विफलताएं अनुमानित थीं। टीम ने एक 'रिस्क प्रोफाइल' बनाया, जो शुरुआती परीक्षणों से सीखकर यह अनुमान लगाने लगा कि अगली विफलताएँ कहाँ होंगी। उन्होंने इस मानचित्र को अंतिम परीक्षण शुरू करने से पहले फ्रीज कर दिया, ताकि यह उत्तरों पर निर्भर न रह सके। जब उन्होंने नए परीक्षण चलाए, तो इस मानचित्र ने सफलतापूर्वक भविष्यवाणी की कि कौन से सिमुलेशन वास्तविक दुनिया में विफल होंगे, यहाँ तक कि उन रास्तों पर भी जिन्हें उसने भौतिक रूप से कभी मापा नहीं था। इसने एक मानक बेसलाइन को भी पछाड़ दिया जो केवल डिवाइस के प्रकार या सामान्य पथ को देखता था, जिससे यह सिद्ध हुआ कि कार्य का विशिष्ट विवरण और जांच का समय ही खतरे को पहचानने की कुंजी थी। इसका अर्थ यह है कि किसी एजेंट को घर में भेजने से पहले, इंजीनियर इस पद्धति का उपयोग करके कह सकते हैं, "यह कंप्यूटर में अच्छा दिख रहा है, लेकिन हमारे मानचित्र के आधार पर, यह वास्तविक दुनिया में इस विशिष्ट क्षण पर विफल होने की संभावना है।"

अध्ययन ने यह भी परीक्षण किया कि क्या दो अलग-अलग कंप्यूटर सिमुलेशन का आपस में सहमत होना सुरक्षा सुनिश्चित करने के लिए पर्याप्त होगा। उन्होंने समान परिदृश्यों को दो अलग-अलग सिम्युलेटर पर चलाया और उनके परिणामों की तुलना की। दोनों कंप्यूटर कभी असहमत नहीं हुए। दोनों ने एक ही परीक्षण पास किए और दोनों ने एक ही विफलता को मिस किया। इसने एक साझा अंध बिंदु (blind spot) को उजागर किया: यदि सिमुलेशन एक निश्चित सेट नियमों पर बना है, तो दोनों सिम्युलेटर उन नियमों का पालन करेंगे और एक ही तरह की समस्याओं को मिस करेंगे। केवल भौतिक माप ने, वास्तविक लाइट को देखते हुए कैमरे ने, त्रुटि को उजागर किया। यह निष्कर्ष बताता है कि कई सिमुलेशन चलाना वास्तविक दुनिया में परीक्षण करने का विकल्प नहीं है। यदि सिमुलेशन एक ही धारणाओं पर आधारित हैं, तो वे एक ही तरह से गलत होंगे।

अंत में, शोधकर्ताओं ने देखा कि एजेंट के डिज़ाइन का इन परिणामों पर क्या प्रभाव पड़ता है। उन्होंने पाया कि एजेंट के कॉन्फ़िगरेशन को बदलने से—विशेष रूप से, यह कि वह उस सॉफ़्टवेयर से कैसे जुड़ता है जो उसे चलाता है—समस्या को पूरी तरह से ठीक किया जा सकता है। एक मामले में, कॉन्फ़िगरेशन बदलने से एजेंट के कार्य सिमुलेशन की अपेक्षाओं के साथ 1 के AUC के साथ मेल खा गए। इसने दिखाया कि समस्या हमेशा एजेंट की बुद्धिमत्ता के साथ नहीं थी, बल्कि एजेंट और घर के बीच के अदृश्य कनेक्शनों के साथ थी। एजेंट की "ऑडिटेबिलिटी" (जांच योग्यता), या हम उसके परिणामों पर कितना भरोसा कर सकते हैं, इन तकनीकी विवरणों पर निर्भर थी।

सिमवेरिटी का कार्य कोई जादुई समाधान नहीं देता है जो सभी सिमुलेशन को पूर्ण बना दे। इसके बजाय, यह सुरक्षा के बारे में सोचने का एक नया तरीका प्रदान करता है। यह सुझाव देता है कि हमें सिमुलेशन की हरी झंडी को एक अंतिम गारंटी के रूप में मानना बंद कर देना चाहिए। इसके बजाय, हमें इसे एक शुरुआती बिंदु के रूप में मानना चाहिए जिसे भौतिक घर की अव्यवस्थित, धीमी और अप्रत्याशित वास्तविकता के विरुद्ध जांचा जाना चाहिए। शोधकर्ता एक सरल निर्णय प्रक्रिया का प्रस्ताव करते हैं: एजेंट को तभी क्लियर करें जब साक्ष्य समर्थन करें, यदि साक्ष्य गायब हो तो रोक कर रखें, या यदि सिमुलेशन कहता है कि यह सुरक्षित है लेकिन वास्तविक दुनिया कहती है कि नहीं, तो मुद्दे को आगे बढ़ाएं। एक ऐसी दुनिया में जहाँ हमारे घर स्मार्ट होते जा रहे हैं, सबसे महत्वपूर्ण कदम केवल बेहतर एजेंट बनाना नहीं है, बल्कि यह जानने के बेहतर तरीके बनाना है कि वे वास्तव में हमारे साथ रहने के लिए कब तैयार हैं। कंप्यूटर से मिलने वाला हरा टिक एक वादा है, लेकिन जैसा कि यह अध्ययन दिखाता है, उस वादे को भौतिक दुनिया के धीमे, निरंतर सत्य द्वारा सत्यापित किया जाना चाहिए।