Adversarially Robust Abductive Fusion of Pre-trained Transformer-based Perception Models

कल्पना कीजिए कि आप एक अंतरिक्ष यान के कप्तान हैं जो एक तूफानी, परग्रही आकाशगंगा (alien galaxy) में से रास्ता बना रहे हैं। आपके पास छह विशेषज्ञ सेंसरों की एक टीम है, जिन्हें चट्टानों, जहाजों या अंतरिक्ष स्टेशनों जैसे विशिष्ट लैंडमार्क को पहचानने के लिए प्रशिक्षित किया गया है। लेकिन यहाँ एक पेंच है: आपके सेंसरों को एक शांत, धूप वाले सौर मंडल में प्रशिक्षित किया गया था। अब, आप एक अजीब धुंध, घूमती हुई धूल और विचित्र रोशनी से भरे एक अराजक नेबुला (nebula) के बीच से उड़ रहे हैं। आपके सेंसर भ्रमित हैं। वे विरोधाभासी रिपोर्ट देते हुए चिल्लाने लगते हैं: "यह एक चट्टान है!" "नहीं, यह एक जहाज है!" "वास्तव में, यह एक विशाल स्पेस-बियर है!"

यह वास्तविक दुनिया की समस्या है जिसका सामना वैज्ञानिक आर्टिफिशियल इंटेलिजेंस (AI) के साथ करते हैं। हमने अविश्वसनीय रूप से स्मार्ट कंप्यूटर प्रोग्राम बनाए हैं (जिन्हें "परसेप्शन मॉडल्स" कहा जाता है) जो कारों या लोगों जैसी चीजों को तस्वीरों में पहचानने में सक्षम हैं। लेकिन हमारे सेंसरों की तरह, ये प्रोग्राम भी अनुभवी हैं, लेकिन जब दुनिया बदल जाती है, तो वे आसानी से भ्रमित हो जाते हैं। यदि आप एक सेल्फ-ड्राइविंग कार को कैलिफोर्निया की धूप वाली सड़कों पर प्रशिक्षित करते हैं और उसे मिनेसोटा के बर्फीले तूफान में ले जाते हैं, तो वह बर्फ के टुकड़ों को पैदल यात्रियों के रूप में देखने लग सकती है या पूरी तरह काम करना बंद कर सकती है।

इस समस्या को हल करने के लिए, इंजीनियर आमतौर पर कई AI मॉडलों को एक समिति (committee) की तरह मिलकर काम करने के लिए प्रेरित करते हैं। समिति का निर्णय लेने का सबसे आम तरीका है बहुमत मतदान (Majority Voting): यदि छह में से तीन मॉडल कहते हैं कि "यह एक कार है," तो सिस्टम निर्णय लेता है कि यह एक कार है। यह सुनने में निष्पक्ष लगता है, है ना? लेकिन इसमें एक बड़ी खामी है। यदि कोई चालाक हैकर (या बस एक बहुत बुरा तूफान) कुछ मॉडलों को गलत उत्तर पर सहमत होने के लिए धोखा दे देता है, तो पूरी समिति मूर्ख बन जाती है। यह वैसा ही है जैसे आपके ग्रुप चैट में तीन दोस्त मिलकर आपको प्रैंक करने के लिए यह तय करें कि आसमान हरा है; यदि आप केवल बहुमत का पालन करते हैं, तो आप मान लेंगे कि आसमान हरा है।

यह शोध पत्र उस समिति को चलाने का एक स्मार्ट तरीका पेश करता है। केवल वोटों की गिनती करने के बजाय, यह नया सिस्टम एक जासूस की तरह काम करता है जो तार्किक निरंतरता (logical consistency) की जांच करता है। यह पूछता है: "क्या यह कहानी समझ में आती है?" यदि एक मॉडल कहता है "यह एक कार है" और दूसरा कहता है "यह एक बादल है," तो सिस्टम केवल सिरों की गिनती नहीं करता; बल्कि वह साक्ष्यों को देखता है कि कौन सी कहानी बिना किसी विरोधाभास के बनी रहती है। लेखक दिखाते हैं कि यह तरीका धोखा देने में बहुत कठिन है और जब वातावरण पूरी तरह से नया हो, तो बेहतर काम करता है।

जासूस का नया टूलकिट: बिना संदर्भ मार्गदर्शिका के सीखना

शोधकर्ताओं, मारियो लीवा और उनकी टीम ने दो बड़े समाधानों को हल करना चाहा। पहला, पिछले तरीकों को त्रुटियों को पहचानने के लिए मानव ज्ञान की एक "संदर्भ मार्गदर्शिका" (reference guide) की आवश्यकता थी। उदाहरण के लिए, एक इंसान कंप्यूटर को बता सकता है, "पैदल यात्री आमतौर पर फुटपाथ पर होते हैं, आसमान में नहीं," या "कारें इससे बड़ी होती हैं।" लेकिन क्या होगा यदि आप एक पूरी तरह से नए वातावरण में हैं जहाँ आप नियम नहीं जानते? आप ऐसी जगह के लिए संदर्भ मार्गदर्शिका नहीं लिख सकते जिसे आपने पहले कभी नहीं देखा है।

दूसक, वे "बहुमत मतदान" को आसानी से हैक होने से रोकना चाहते थे।

समाधान: "लेबल वेक्टर पूल" (Label Vector Pool)
पहले समस्या को हल करने के लिए, टीम ने एक तरीका बनाया जिससे AI बिना किसी मानवीय सहायता के अपनी खुद की संदर्भ मार्गदर्शिका सीख सके। उन्होंने प्रत्येक AI मॉडल की "स्मृति" (memory) से जुड़े एक चतुर तरीके का उपयोग किया।

कल्पना कीजिए कि प्रत्येक AI मॉडल के पास उस हर वस्तु का मानसिक पुस्तकालय है जिसे उसने अपने प्रशिक्षण के दौरान देखा है। जब वह एक "कार" देखता है, तो वह केवल "कार" शब्द को स्टोर नहीं करता; वह उस कार के दिखने के रूप में एक अद्वितीय गणितीय फिंगरप्रिंट (एम्बेडिंग) को स्टोर करता है। शोधकर्ताओं ने प्रत्येक प्रकार की वस्तु के लिए इन फिंगरप्रिंट्स को एकत्र किया और उन्हें छोटे समूहों में विभाजित किया जिन्हें लेबल वेक्टर पूल्स कहा जाता है।

इसे वस्तुओं के लिए "मूड रिंग" की तरह समझें। यदि कोई मॉडल एक नई वस्तु देखता है, तो वह जाँच करता है: "क्या इस वस्तु का फिंगरप्रिंट 'कार' के मूड रिंग जैसा दिखता है, या यह 'पेड़' के मूड रिंग जैसा दिखता है?" यदि वस्तु को कार होना चाहिए लेकिन उसका फिंगरप्रिंट बहुत अलग है—जैसे कि एक कार जो बादल जैसी दिखती है—तो सिस्टम इसे संदिग्ध मान लेता है। यह स्वचालित रूप से होता है, केवल मॉडल के भीतर मौजूद गणित का उपयोग करके, बिना किसी मानवीय नियमों (जैसे फुटपाथ या आकार) की आवश्यकता के।

समाधान: "कंसिस्टेंसी डिटेक्टिव" (Consistency Detective)
एक बार जब सिस्टम जान जाता है कि कौन सी भविष्यवाणियां संदिग्ध हैं, तो वह उन्हें केवल फेंक नहीं देता। इसके बजाय, यह एब्डक्टिव रीजनिंग (Abductive Reasoning) नामक विधि का उपयोग करता है। यह एक फैंसी तरीका है जिसका अर्थ है "सर्वश्रेष्ठ स्पष्टीकरण का अनुमान लगाना।"

कल्पना कीजिए कि आप छह गवाहों के साथ एक रहस्य सुलझाने की कोशिश कर रहे हैं।

• बहुमत मतदान (Majority Voting) केवल पूछेगा, "कौन सबसे अधिक लोगों के साथ सहमत है?" यदि तीन गवाह कहते हैं "बटलर ने यह किया," तो जासूस बटलर को गिरफ्तार कर लेता है।
• यह नया सिस्टम पूछता है, "कौन ऐसी कहानी सुना रहा है जो दूसरों के साथ विरोधाभास नहीं करती है?"

यदि तीन गवाह कहते हैं "बटलर ने यह किया," लेकिन एक गवाह कहता है "बटलर उस समय रसोई में था," और दूसरा कहता है "बटलर को उस हथियार से एलर्जी है," तो सिस्टम को एहसास होता है कि "बटलर ने यह किया" वाली कहानी में कमियां हैं। यह उन गवाहों पर भरोसा करने का निर्णय ले सकता है जो एक-दूसरे के साथ सुसंगत (consistent) हैं, भले ही वे अल्पसंख्यक में हों। यह एक तार्किक पहेली बनाता है जहाँ हर टुकड़े को पूरी तरह से फिट होना चाहिए। यदि एक टुकड़ा (भविथन) पूरे चित्र को बिखेर देता है, तो उसे खारिज कर दिया जाता है, भले ही कई लोगों ने उसके लिए वोट दिया हो।

बड़ा परीक्षण: तूफान और चालाक हैकर्स

टीम ने इस विचार का परीक्षण एक कठिन चुनौती पर किया: 15 विभिन्न मौसम स्थितियों (भारी बारिश से लेकर धूल भरी आंधी तक) के तहत एक शहर की हवाई तस्वीरें। उन्होंने छह अलग-अलग AI मॉडलों का उपयोग किया, जिनमें से प्रत्येक को केवल एक प्रकार के मौसम पर प्रशिक्षित किया गया था। जब उन्होंने उन सभी को एक साथ डाला, तो मौसम बहुत खराब था।

साफ डेटा का परिणाम (Clean Data Result)
सबसे पहले, उन्होंने सामान्य, गैर-हैक की गई स्थितियों में सिस्टम का परीक्षण किया। उन्होंने पाया कि उनका नया "कंसिस्टेंसी डिटेक्टिव" सबसे अच्छे "बहुमत मतदान" टीमों के समान प्रदर्शन करता है। इसने अपनी सटीकता नहीं खोई; यह पुराने तरीकों की तरह ही कारों और लोगों को पहचानने में उतना ही अच्छा था।

हमले का परीक्षण (Attack Test)
फिर, वे बुरे लोगों को लेकर आए। उन्होंने एक समन्वित हमले (coordinated attack) का अनुकरण किया। कल्पना कीजिए कि एक हैकर जो व्यक्तिगत रूप रूप से AI मॉडलों को नहीं तोड़ सकता, लेकिन वह मॉडलों के एक छोटे समूह को एक ही समय में एक ही गलत उत्तर चिल्लाने के लिए धोखा दे सकता है।

• बहुमत वोट टीम: जब हैकर ने 90% वस्तुओं के लेबल को "फ्लिप्ड" (एक हमला करके जबरन गलत लेबल लगाया गया) कर दिया, तो बहुमत वोट प्रणाली ढह गई। इसकी सटीकता परीक्षण सेटों में औसतन 0.35 तक गिर गई। यह पूरी तरह से मूर्ख बन गया क्योंकि हैकर्स को बहुमत को प्रभावित करने के लिए बस कुछ मॉडलों को नियंत्रित करने की आवश्यकता थी।
• कंसिस्टेंसी डिटेक्टिव: नया सिस्टम ज्यादा प्रभावित नहीं हुआ। उसी 90% हमले के साथ भी, इसने सभी 15 टेस्ट सेटों में औसतन 0.42 की सटीकता बनाए रखी। यह सुनने में बहुत बड़ा अंतर नहीं लग सकता है, लेकिन AI की दुनिया में, यह पुराने तरीके की तुलना में 22% सुधार है।

कारण? हैकर्स ने बहुमत बनाने की कोशिश की, लेकिन कंसिस्टेंसी डिटेक्टिव ने तर्क (logic) को देखा। यदि हैकर्स ने तीन मॉडलों को "यह एक बादल है" कहने के लिए मजबूर किया, लेकिन अन्य तीन मॉडलों (और सिस्टम के आंतरिक तर्क) ने कहा कि "यह समझ में नहीं आता," तो डिटेक्टिव ने हैकर्स को अनदेखा कर दिया। उसने उस आवाज़ पर भरोसा किया जो समझ में आती थी, न कि आवाज़ों की संख्या पर।

यह क्यों मायने रखता है

यह शोध पत्र दिखाता है कि AI के लिए सुरक्षा जाल बनाने के लिए आपको मानव विशेषज्ञ होने की आवश्यकता नहीं है। AI को अपने स्वयं के "फिंगरप्रिंट" नियम सीखने देकर और यह जाँचकर कि जो कहानियाँ वह सुन रहा है वे तार्किक रूप से सुसंगत हैं या नहीं, आप एक ऐसा सिस्टम बना सकते हैं जो:

1. पोर्टेबल (Portable) है: यह बिना किसी मैनुअल के नए, अजीब वातावरण में काम करता है।
2. मजबूत (Tough) है: इसे उन हैकर्स द्वारा आसानी से धोखा नहीं दिया जा सकता जो वोट को प्रभावित करने की कोशिश करते हैं।

शोधकर्ताओं ने इन परीक्षणों को एक मानक कंप्यूटर सर्वर पर चलाया, और सिस्टम इतना तेज़ था कि व्यावहारिक रूप से उपयोग किया जा सके। "कंसिस्टेंसी डिटेक्टिव" (विशेष रूप से उनका "IP+TB" तरीका) ने साधारण वोट काउंटर की तुलना में पहेली सुलझाने में थोड़ा अधिक समय लिया, लेकिन यह वास्तविक समय (real-time) में उपयोग करने के लिए पर्याप्त तेज़ था।

अंत में, यह शोध पत्र सुझाव देता है कि जब हम AI को अज्ञात में भेज रहे हों—चाहे वह आपदा क्षेत्र हो, कोई दूरस्थ ग्रह हो, या हमले के अधीन शहर हो—हमें केवल सबसे तेज़ आवाज़ को नहीं सुनना चाहिए। हमें उस आवाज़ को सुनना चाहिए जो सबसे अधिक समझ में आती है।