MosaicLeaks:Privacy Risks in Querying-in-the-Open for Deep Research Agents
यह शोध पत्र MosaicLeaks प्रस्तुत करता है, जो एक बेंचमार्क के रूप में यह प्रदर्शित करता है कि डीप रिसर्च एजेंट अपने बाहरी प्रश्नों के माध्यम से 'मोज़ेक प्रभाव' (mosaic effect) के कारण अक्सर निजी स्थानीय जानकारी लीक करते हैं, और एक प्राइवेसी-अवेयर डीप रिसर्च (PA-DR) फ्रेमवर्क का प्रस्ताव करता है जो इस तरह के रिसाव को प्रभावी ढंग से कम करते हुए कार्य की सटीकता में सुधार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक गुप्त कंपनी के लिए काम करने वाले एक अत्यंत कुशल जासूस हैं। आपका काम निजी कार्यालय फाइलों में मिले सुरागों और सार्वजनिक इंटरनेट से प्राप्त जानकारी को जोड़कर जटिल रहस्यों को सुलझाना है।
"MosaicLeaks" नामक शोध पत्र एक चौंकाने वाली और खतरनाक खामी को उजागर करता है कि ये जासूसी एजेंट (AI मॉडल) कैसे काम करते हैं: भले ही वे रहस्य को ज़ोर से न बोलें, लेकिन इंटरनेट पर उनके सवाल पूछने का तरीका अनजाने में रहस्य को उजागर कर सकता है।
यहाँ सरल उपमाओं का उपयोग करके शोध पत्र के निष्कर्षों का विवरण दिया गया है:
1. समस्या: "मोज़ेक" (Mosaic) प्रभाव
कल्पना कीजिए कि आप एक गुप्त रेसिपी (नुस्खा) छिपाने की कोशिश कर रहे हैं।
- पुराना तरीका: आप सोच सकते हैं, "अगर मैं रेसिपी नहीं लिखता हूँ, तो मैं सुरक्षित हूँ।"
- नया जोखिम: रेसिपी लिखने के बजाय, आप एक सार्वजनिक पुस्तकालय में जाते हैं और प्रश्नों की एक श्रृंखला पूछते हैं:
- "एक मानक केक में कितनी चीनी होती है?"
- "200 ग्राम चीनी वाले केक के लिए बेकिंग तापमान क्या है?"
- "किसने 200 ग्राम चीनी और एक विशिष्ट मसाले के साथ केक बनाया था?"
व्यक्तिगत रूप से, ये प्रश्न हानिरहित दिखते हैं। लेकिन यदि कोई जासूस आपके प्रश्नों की पूरी सूची को देखता है, तो वे आपकी गुप्त रेसिपी को फिर से बनाने के लिए उन्हें एक मोज़ेक (एक पहेली के टुकड़ों) की तरह जोड़ सकते हैं।
यह शोध पत्र इसे मोज़ेक प्रभाव (Mosaic Effect) कहता है। AI की दुनिया में, ये "जासूस" (Deep Research Agents) अक्सर संवेदनशील कंपनी डेटा लीक कर देते हैं क्योंकि वे वेब पर खोजने के लिए निजी नंबरों (जैसे "15% वृद्धि" या "Q3 बजट") को कीवर्ड के रूप में उपयोग करते हैं।
2. प्रयोग: "MosaicLeaks"
शोधकर्ताओं ने एक विशाल परीक्षण बनाया जिसे MosaicLeaks कहा गया।
- सेटअप: उन्होंने 1,001 जटिल पहेलियाँ बनाईं। प्रत्येक पहेली को हल करने के लिए, AI को एक निजी कंपनी दस्तावेज़ (जैसे एक आंतरिक ईमेल) और सार्वजनिक वेब के बीच बार-बार आना पड़ता था।
- जाल: AI को वेब पर क्या खोजना है, यह जानने के लिए निजी दस्तावेज़ से मिली जानकारी का उपयोग करना ही था।
- जासूस: उन्होंने कमरे में एक "जासूस" AI रखा। वह जासूस निजी दस्तावेज़ों या अंतिम उत्तर को नहीं देख सकता था। वह केवल डिटेक्टिव AI द्वारा किए गए वेब सर्च की सूची देख सकता था।
परिणाम: जासूस रहस्य का अनुमान लगाने में आश्चर्यजनक रूप से कुशल था। भले ही AI ने स्पष्ट रूप से यह नहीं कहा कि "हमारा रहस्य X है," उसके खोज प्रश्नों (search queries) के संयोजन ने जासूस को इसे समझने में सक्षम बना दिया।
3. क्यों सरल समाधान काम नहीं आए
शोधकर्ताओं ने इन दो सामान्य तरीकों को आज़माया, और दोनों विफल रहे:
- "कृपया लीक न करें" नोट (प्रॉम्प्टिंग): उन्होंने AI के निर्देशों में एक नोट जोड़ा कि "सावधान रहें कि निजी जानकारी लीक न हो।"
- उपमा: यह एक घबराए हुए बच्चे को यह कहने जैसा है कि, "दूध मत गिराना," लेकिन फिर उसे एक भरा हुआ गिलास थमा देना। बच्चा फिर भी दूध गिरा देता है क्योंकि उसका ध्यान कार्य पूरा करने पर है, नियम पर नहीं। AI ने डेटा लीक किया, बस थोड़ा कम।
- गति के लिए प्रशिक्षण (कार्य प्रदर्शन): उन्होंने AI को सही उत्तर जितनी जल्दी हो सके उतनी जल्दी पाने के लिए प्रशिक्षित किया।
- उपमा: इसने AI को तेज़ बना दिया, लेकिन वास्तव में इसने लीक्स को और खराब कर दिया। AI ने सुनिश्चित होने के लिए और अधिक प्रश्न पूछना शुरू कर दिया, जिससे जासूस को मोज़ेक जोड़ने के लिए और अधिक टुकड़े मिल गए।
4. समाधान: "प्राइवेसी-अवेयर डीप रिसर्च" (PA-DR)
शोधकर्ताओं ने एक नया प्रशिक्षण तरीका विकसित किया जिसे PA-DR कहा जाता है। इसे जासूस को सोचने का एक नया तरीका सिखाने के रूप में समझें।
केवल सही उत्तर के लिए इनाम देने के बजाय, उन्होंने AI को एक दोहरा स्कोरकार्ड दिया:
- क्या आपने रहस्य सुलझाया? (कार्य इनाम)
- क्या आपने सबूतों के निशान छोड़े? (गोपनीयता दंड)
उन्होंने एक विशेष "प्राइवेसी क्लासिफायर" (लीक पकड़ने के लिए प्रशिक्षित एक छोटा AI) को एक रेफरी के रूप में इस्तेमाल किया। यदि डिटेक्टिव ने ऐसा प्रश्न पूछा जो रहस्य प्रकट कर सकता था, तो रेफरी तुरंत दंड देता था।
जादू:
- AI ने अपने खोज प्रश्नों में गुप्त नंबरों का उपयोग किए बिना पहेली को हल करना सीख लिया।
- उदाहरण: "ली के मार्केट के बारे में 2020 में क्या हुआ जब ट्रैफिक 15% बढ़ा?" खोजने के बजाय, प्रशिक्षित AI ने "2020 में ट्रैफिक ग्रोथ के संबंध में ली के मार्केट के साथ क्या हुआ?" खोजने के बारे में सीखा।
- उसने सही दस्तावेज़ ढूंढ लिया, लेकिन खोज प्रश्न में विशिष्ट "15%" नंबर शामिल नहीं था, इसलिए जासूस रहस्य का पता नहीं लगा सका।
5. मुख्य निष्कर्ष
- बुरी खबर: वर्तमान AI एजेंट वेब पर खोज करते समय रहस्य रखने में बहुत खराब हैं। वे लगातार जानकारी लीक करते हैं, और साधारण चेतावनियाँ उन्हें नहीं रोक पाती हैं।
- अच्छी खबर: आप इन एजेंटों को गोपनीयता-जागरूक (privacy-aware) बनाने के लिए प्रशिक्षित कर सकते हैं। उन्हें "उत्तर प्राप्त करने" और "निशान न छोड़ने" के बीच संतुलन बनाना सिखाकर, वे संवेदनशील कंपनी डेटा को उजागर किए बिना जटिल समस्याओं को हल कर सकते हैं।
संक्षेप में: AI जासूस वर्तमान में अपने खोज इतिहास को निजी रखने में बहुत खराब हैं, लेकिन सही प्रशिक्षण के साथ, वे रहस्य को सुलझा सकते हैं बिना यह बताए कि वे क्या खोज रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।