PrivAct: Internalizing Contextual Privacy Preservation via Multi-Agent Preference Training

डिजिटल युग में, आर्टिफिशियल इंटेलिजेंस एक साधारण प्रश्न-उत्तर उपकरण से विकसित होकर एक परिष्कृत सहायक बन गया है जो जटिल कार्यों को प्रबंधित करने में सक्षम है, जैसे कि ईमेल ड्राफ्ट करना, शेड्यूल व्यवस्थित करना, या व्यक्तिगत डेटा का संचालन करना। ये सिस्टम, जिन्हें अक्सर 'एजेंट्स' कहा जाता है, उपयोगकर्ताओं की ओर से कार्य करने के लिए डिज़ाइन किए गए हैं, जो उनके पास उपलब्ध जानकारी के आधार पर निर्णय लेते हैं। हालाँकि, एक सूक्ष्म और खतरनाक समस्या तब उत्पन्न होती है जब ये एजेंट ऐसी स्थितियों में काम करते हैं जहाँ गोपनीयता संदर्भ (context) पर निर्भर करती है। पासवर्ड या सोशल सिक्योरिटी नंबर की तरह, जो स्पष्ट रूप से निजी होते हैं, हमारा अधिकांश संवेदनशील डेटा केवल स्थिति के कारण निजी होता है। एक डॉक्टर का मरीज के मेडिकल इतिहास को जानना उचित है; वही डॉक्टर उन विवरणों को पड़ोसी के साथ साझा करता है, तो वह एक उल्लंघन है। यह अवधारणा, जिसे 'कॉन्टेक्स्टुअल इंटीग्रिटी' (संदर्भगत अखंडता) कहा जाता है, का अर्थ है कि जानकारी स्वाभाविक रूप से गुप्त या सार्वजनिक नहीं होती; इसकी स्थिति पूरी तरह से इस पर निर्भर करती है कि इसमें कौन शामिल है, क्या हो रहा है, और उस विशिष्ट क्षण को नियंत्रित करने वाले सामाजिक मानदंड क्या हैं। जैसे-जैसे AI एजेंट हमारे दैनिक जीवन में अधिक एकीकृत हो रहे हैं, जोखिम यह है कि वे अनजाने में इन संदर्भ-संवेदनशील विवरणों को प्रकट कर सकते हैं, इसलिए नहीं कि उन्हें हैक किया गया है, बल्कि इसलिए क्योंकि वे स्थिति के अलिखित नियमों को नहीं समझते हैं।

ड्यूक यूनिवर्सिटी और फ्लोरिडा यूनिवर्सिटी के शोधकर्ताओं ने इस समस्या को हल करने के लिए एक नया दृष्टिकोण विकसित किया है, जो AI सिस्टम में बाहरी गार्ड जोड़ने के विचार से हटकर, सिस्टम को भीतर से गोपनीयता समझने के लिए शिक्षित करने की दिशा में काम करता है। अपने कार्य में, उन्होंने देखा कि गोपनीयता की रक्षा करने के मौजूदा तरीके अक्सर बाहरी जांच पर निर्भर करते हैं, जैसे कि प्रॉम्प्ट में विशेष निर्देश जोड़ना या आउटपुट भेजने से पहले एक अलग AI द्वारा उसकी समीक्षा करना। हालांकि ये तरीके काम कर सकते हैं, लेकिन वे नाजुक होते हैं और अक्सर AI को गोपनीयता के बारे में इस तरह से स्पष्ट रूप से सोचने की आवश्यकता होती है जो वास्तव में तर्क प्रक्रिया (reasoning process) के दौरान संवेदनशील जानकारी को उजागर कर सकता है। शोधकर्ताओं ने एक अलग मार्ग प्रस्तावित किया: AI एजेंटों को इन गोपनीयता मानदंडों को आंतरिक रूप से आत्मसात करने के लिए प्रशिक्षित करना ताकि गोपनीयता की रक्षा करना उनके जवाब उत्पन्न करने का एक स्वाभाविक हिस्सा बन जाए, न कि एक अलग चरण जिसे उन्हें याद दिलाने की आवश्यकता हो।

इसे प्राप्त करने के लिए, टीम ने 'प्रिवैक्ट' (PrivAct) नामक एक प्रशिक्षण ढांचा बनाया, जो एक मल्टी-एजेंट सिस्टम का उपयोग करता है ताकि AI को यह सिखाया जा सके कि मददगार होने और विवेकपूर्ण होने के बीच संतुलन कैसे बनाया जाए। एक एकल मॉडल पर सब कुछ समझने के लिए निर्भर रहने के बजाय, उन्होंने AI एजेंटों की एक छोटी टीम बनाई जो मिलकर काम करती है। एक एजेंट प्रतिक्रिया उत्पन्न करता है, दूसरा गोपनीयता उल्लंघन के लिए इसकी आलोचना करता है, और तीसरा आउटपुट को उस आलोचना के आधार पर परिष्कृत करता है। महत्वपूर्ण रूप से, शोधकर्ताओं ने एक रिवॉर्ड सिस्टम (पुरस्कार प्रणाली) डिजाइन किया जो एजेंटों को इस सहयोग से सीखने के लिए प्रोत्साहित करता है। जब अंतिम आउटपुट मददगार भी होता है और गोपनीयता लीक से भी मुक्त होता है, तो पूरी टीम को इसका श्रेय मिलता है। यदि कोई लीक होता है, भले ही वह छोटा ही क्यों न हो, तो सिस्टम एक सख्त दंड लागू करता है जो AI को यह सोचने से रोकता है कि वह बहुत अधिक उपयोगिता के लिए थोड़ी सी गोपनीयता का सौदा कर सकता है। यह प्रशिक्षण प्रक्रिया AI को यह सीखने के लिए मजबूर करती है कि वास्तव में मददगार होने का एकमात्र तरीका संदर्भ के प्रति पूरी तरह से सम्मानजनक होना है।

इस प्रशिक्षण के परिणामों का परीक्षण स्वास्थ्य जानकारी, वित्तीय डेटा और नागरिक अधिकारों सहित विभिन्न प्रकार के AI मॉडल और परिदृश्यों में किया गया। शोधकर्ताओं ने पाया कि उनके तरीके ने संवेदनशील जानकारी के अनजाने में लीक होने की दर को काफी कम कर दिया। अपने प्रयोगों में, नए दृष्टिकोण ने मौजूदा तरीकों की तुलना में गोपनीयता लीक को 12.32 प्रतिशत तक कम कर दिया, जबकि उपयोगिता के समान स्तर को बनाए रखा। यह एक उल्लेखनीय सुधार है क्योंकि कई पिछली तकनीकों ने सुरक्षित होने और उपयोगी होने के बीच चयन करने के लिए मजबूर किया था; नए तरीके ने दिखाया कि एक AI दोनों हो सकता है। इसके अलावा, प्रशिक्षण मजबूत (robust) साबित हुआ। एक सेट के कार्यों पर प्रशिक्षित AI एजेंट बिना किसी अतिरिक्त निर्देश के पूरी तरह से अलग परिदृश्यों में जो सीखा था उसे लागू करने में सक्षम थे, जो यह सुझाव देता है कि उन्होंने केवल विशिष्ट नियमों को याद करने के बजाय संदर्भगत गोपनीयता के अंतर्निहित सिद्धांतों को वास्तव में सीख लिया था।

अध्ययन ने पुराने दृष्टिकोणों की सीमाओं को भी रेखांकित किया। शोधकर्ताओं ने प्रदर्शित किया कि बाहरी जांच पर निर्भर रहने वाले तरीके अक्सर विफल हो जाते हैं जब स्थिति जटिल हो जाती है या जब AI को किसी समस्या पर चरण-दर-चरण तर्क करने के लिए कहा जाता है, क्योंकि तर्क प्रक्रिया स्वयं लीकेज का स्रोत बन सकती है। इसके विपरीत, आंतरिक दृष्टिकोण ने मॉडलों को सीधे सुरक्षित प्रतिक्रियाएं उत्पन्न करना सिखाया। एक विशिष्ट परीक्षण मामले में जिसमें एक पादरी और एक श्रद्धालु शामिल थे, एक मानक AI मॉडल ने एक सामान्य प्रश्न का उत्तर देने के प्रयास में तीसरे पक्ष की गोपनीय स्थिति को अनजाने में प्रकट कर दिया। हालाँकि, नए तरीके से प्रशिक्षित मॉडल ने सफलतापूर्वक बातचीत की सीमाओं को समझा और संवेदनशील विवरणों को छोड़ते हुए एक मददगार प्रतिक्रिया प्रदान की। यह सुझाव देता है कि AI ने स्थिति के सामाजिक मानदंडों को पहचानना और उसके अनुसार कार्य करना सीख लिया था।

हालांकि यह तकनीक आशाजनक है, शोधकर्ता नोट करते हैं कि यह हर स्थिति के लिए पूर्ण समाधान नहीं है। इस पद्धति के लिए मॉडलों को फाइन-ट्यूनिंग की आवश्यकता होती है, जो उन क्लोज्ड-सोर्स सिस्टम के लिए कठिन हो सकता है जिन्हें संशोधित नहीं किया जा सकता है। इसके अतिरिक्त, अध्ययन ने गोपनीयता के विशिष्ट प्रकार के जोखिमों पर ध्यान केंद्रित किया, और वास्तविक दुनिया में तैनाती के लिए संभवतः इस आंतरिक प्रशिक्षण को अन्य सुरक्षा उपायों के साथ संयोजित करने की आवश्यकता होगी। फिर भी, यह कार्य इस बारे में हमारी सोच में एक महत्वपूर्ण बदलाव का प्रतिनिधित्व करता है कि हम AI सुरक्षा के बारे में कैसे सोचते हैं। AI के चारों ओर गलतियाँ करने से रोकने के लिए दीवारें बनाने के बजाय, शोधकर्ताओं ने दिखाया है कि AI को उस परिदृश्य को समझने के लिए सिखाना संभव है जिसमें वह नेविगेट कर रहा है, यह सुनिश्चित करते हुए कि वह गोपनीयता की अदृश्य सीमाओं का सम्मान उतनी ही सहजता से करे जितना कि वह कार्य को समझता है।