Privacy-Preserving Continual Learning for Detecting Concept Drift in Distributed Artificial Intelligence Systems

आधुनिक दुनिया में, कृत्रिम बुद्धिमत्ता (आर्टिफिशियल इंटेलिजेंस) प्रणालियाँ तेजी से विशाल, केंद्रीकृत डेटा केंद्रों में नहीं, बल्कि हजारों अलग-अलग उपकरणों के माध्यम से बनाई जा रही हैं: जैसे अस्पताल, स्कूल, बैंक और स्मार्टफोन। यह दृष्टिकोण, जिसे वितरित शिक्षण (डिस्ट्रीब्यूटेड लर्निंग) कहा जाता है, इन प्रणालियों को उस संवेदनशील जानकारी को कभी भी केंद्रीय स्थान पर स्थानांतरित किए बिना स्थानीय डेटा से सीखने की अनुमति देता है। हालाँकि, वास्तविक दुनिया स्थिर नहीं है। ये प्रणालियाँ जिनसे सीखती हैं, उनके पैटर्न समय के साथ बदलते हैं; एक नए प्रकार का साइबर हमला उभरता है, एक मौसमी बदलाव ऊर्जा खपत को बदल देता है, या छात्र जनसांख्यिकी में बदलाव सीखने के व्यवहार को बदल देता है। मशीन लर्निंग के क्षेत्र में, इस बदलते परिदृश्य को 'कॉन्सेप्ट ड्रिफ्ट' (concept drift) कहा जाता है। यदि कोई प्रणाली इन परिवर्तनों का पता लगाने में विफल रहती है, तो वह गलतियाँ करने लगती है, उन पुराने नियमों से चिपकी रहती है जो अब लागू नहीं होते। वितरित प्रणालियों के लिए चुनौती दोहरी है: उन्हें सटीक रहने के लिए इन परिवर्तनों का तेजी से पता लगाना होगा, लेकिन उन्हें ऐसा उस निजी डेटा को देखे बिना करना होगा जिसने मूल रूप से परिवर्तन पैदा किया है।

एटलेंटिस यूनिवर्सिटी के शोधकर्ताओं ने एक नया ढांचा (फ्रेमवर्क) डिजाइन करके इस कठिन संतुलन को हल किया है, जो वितरित कृत्रिम बुद्धिमत्ता को इन बदलावों को पहचानने की अनुमति देता है जबकि व्यक्तिगत डेटा को पूरी तरह से निजी रखता है। मुख्य विचार यह है कि परिवर्तन की चेतावनी देने वाले संकेत को एक अलग, संरक्षित चैनल के रूप में माना जाए। कच्चे डेटा या अनएन्क्रिप्टेड त्रुटि रिपोर्ट को भेजने के बजाय, प्रणाली इस बात का एक अत्यधिक स्कैम्बल किया गया सारांश भेजती है कि मॉडल कैसा प्रदर्शन कर रहा है। यह सारांश गणितीय शोर (नॉइज़) के साथ मिश्रित होता है, जो एक ऐसी तकनीक है जो गोपनीयता की गारंटी देती है क्योंकि इससे संकेत से मूल डेटा को पुनर्गठित करना असंभव हो जाता है। केंद्रीय सर्वर फिर इन शोर वाले सारांशों पर नज़र रखता है ताकि यह तय किया जा सके कि क्या प्रणाली को अपने नियमों को फिर से सीखने की आवश्यकता है। शोधकर्ताओं ने इस पद्धति का परीक्षण डेटा के तीन अलग-अलग प्रकारों पर किया: बिजली की मांग, सिम्युलेटेड नेटवर्क ट्रैफ़िक, और बदलते रुझानों की नकल करने के लिए डिज़ाइन किया गया सिंथेटिक डेटा। उन्होंने पाया कि प्रणाली सफलतापूर्वक पता लगा सकती थी कि दुनिया कब बदली है, बशर्ते गोपनीयता सेटिंग्स बहुत अधिक सख्त न हों।

अध्ययन गोपनीयता और प्रदर्शन के बीच एक स्पष्ट टिपिंग पॉइंट (tipping point) को प्रकट करता है। जब शोधकर्ताओं ने मध्यम स्तर की गोपनीयता सुरक्षा की अनुमति दी, तो प्रणाली ने बिना किसी गोपनीयता सुरक्षा वाले सिस्टम की तुलना में केवल लगभग तीस प्रतिशत धीमी गति से परिवर्तनों का पता लगाया। संचार के दौर (rounds of communication) में मापा गया यह विलंब, ऊर्जा ग्रिड या शैक्षिक रुझानों की निगरानी जैसे वास्तविक दुनिया के अनुप्रयोगों के लिए अक्सर स्वीकार्य होता है। हालाँकि, गोपनीयता और प्रदर्शन के बीच का संबंध एक सहज ढलान नहीं है। यदि गोपनीयता सुरक्षा को एक निश्चित महत्वपूर्ण सीमा से आगे बढ़ाया जाता है, तो प्रणाली केवल धीमी नहीं होती; बल्कि वह टूट जाती है। इस सीमा से नीचे, गोपनीयता की रक्षा के लिए जोड़ा गया शोर इतना तेज हो जाता है कि वह वास्तविक संकेत को दबा देता है। प्रणाली झूठे अलार्म बजाने लगती है, यादृच्छिक शोर को वास्तविक बदलाव समझने लगती है, या वास्तविक परिवर्तनों को पहचानने में पूरी तरह विफल हो जाती है। शोधकर्ताओं ने इस महत्वपूर्ण सीमा को एक विशिष्ट गोपनीयता मान 'एक' पर पहचाना; इस संख्या से नीचे, प्रणाली प्रभावी रूप से परिवर्तनों को ट्रैक करने के लिए अंधा हो जाती है।

परिवर्तनों को पहचानने के अलावा, इस ढांचे को 'भूलने' की समस्या को भी हल करना था। कई शिक्षण प्रणालियों में, जब एक मॉडल एक नई अवधारणा सीखता है, तो वह अक्सर जो कुछ भी उसने पुराने के बारे में सीखा था उसे मिटा देता है, जिसे 'कैटास्ट्रॉफिक फॉरगेटिंग' (catastrophic forgetting) कहा जाता है। प्रस्तावित समाधान एक चतुर मेमोरी ट्रिक का उपयोग करता है जिसमें पिछले डेटा के किसी भी वास्तविक उदाहरण को संग्रहीत करने की आवश्यकता नहीं होती है, जो कि एक गोपनीयता जोखिम होगा। इसके बजाय, प्रणाली वास्तविक प्रश्नों के बजाय पुराने उत्तरों के गणितीय "एहसास" (feel) को याद रखती है। यह प्रणाली को पिछले ज्ञान को बनाए रखते हुए नए रुझानों के अनुकूल होने की अनुमति देता है। उन परीक्षणों में जहाँ डेटा दो अलग-अलग पैटर्न के बीच आगे-पीछे बदल रहा था, इस पद्धति ने पुराने पैटर्न को याद रखने की प्रणाली की क्षमता में मानक तरीकों की तुलना में नौ प्रतिशत तक सुधार किया, जो केवल नए डेटा पर पुन: प्रशिक्षण देते हैं। इसका अर्थ है कि प्रणाली पुराने कौशल को खोए बिना नया कौशल सीख सकती है, और यह सब अंतर्निहित डेटा को छिपाए रखते हुए संभव है।

शोध ने एक महत्वपूर्ण सीमा को भी उजागर किया जब परिवर्तन सभी को समान रूप से प्रभावित नहीं करता है। वास्तविक दुनिया में, एक नया नियम केवल एक विशिष्ट क्षेत्र पर लागू हो सकता है, या एक नया वायरस केवल उपकरणों के एक उपसमूह को लक्षित कर सकता है। अध्ययन में पाया गया कि जब नेटवर्क का केवल एक हिस्सा परिवर्तन का अनुभव करता है, तो प्रणाली इसे पहचानने में संघर्ष करती है जब तक कि गोपनीयता सेटिंग्स बहुत ढीली न हों। वही तंत्र जो गोपनीयता की रक्षा करता है—कई स्रोतों से डेटा को आपस में मिलाना—उस छोटे समूह से मिलने वाले संकेत को भी कम कर देता है जो बदल रहा है। यदि परिवर्तन प्रतिभागियों के चालीस प्रतिशत से कम को प्रभावित करता है, तो सिस्टम इसे पूरी रूप से मिस कर देता है जब तक कि गोपनीयता बजट को काफी बढ़ाया न जाए। यह सुझाव देता है कि जबकि यह पद्धति व्यापक, प्रणाली-व्यापी परिवर्तनों के लिए अच्छी तरह से काम करती है, लेकिन छोटे, स्थानीयकृत बदलावों को पकड़ने के लिए इसे एक अलग दृष्टिकोण की आवश्यकता हो सकती है, जैसे कि क्षेत्रों या संगठनों के आधार पर उपकरणों को समूहबद्ध करना, बिना गोपनीयता से समझौता किए।

अंततः, यह कार्य अनुकूली शिक्षण प्रणालियों (adaptive learning systems) में गोपनीयता की व्यावहारिक सीमाओं को परिभाषित करता है। यह दिखाता है कि एक ऐसी वितरित बुद्धिमत्ता बनाना संभव है जो निजी और उत्तरदायी दोनों हो, लेकिन केवल सेटिंग्स की एक विशिष्ट सीमा के भीतर। निष्कर्ष बताते हैं कि कई अनुप्रयोगों के लिए, जैसे शिक्षा विश्लेषण या बुनियादी ढांचा निगरानी, गोपनीयता का एक मध्यम स्तर एक 'स्वीट स्पॉट' प्रदान करता है जहाँ प्रणाली सटीक और उत्तरदायी बनी रहती है। हालाँकि, उच्च-दांव वाले वातावरण के लिए जहाँ परिवर्तन तुरंत होते हैं, जैसे साइबर सुरक्षा, सख्त गोपनीयता उपायों के कारण होने वाला विलंब बहुत अधिक हो सकता है। अध्ययन इस निष्कर्ष पर पहुँचता है कि कोई एक सेटिंग नहीं है जो हर स्थिति में काम करे; इसके बजाय, सिस्टम डिजाइनरों को गोपनीयता के ऐसे स्तर को चुनना चाहिए जो उनके विशिष्ट विश्व के बदलने की गति से मेल खाता हो, यह समझते हुए कि गोपनीयता को बहुत अधिक बढ़ाने से अंततः प्रणाली दुनिया को बदलते हुए देखने में असमर्थ हो जाएगी।