MemLeak: Diagnosing Information Leaks in Multimodal Agent Memory
यह शोध पत्र MemLeak, एक बेंचमार्क और इंफॉर्मेशन प्रोवेनेंस ग्राफ वर्गीकरण को प्रस्तुत करता है, यह प्रदर्शित करने के लिए कि मल्टीमॉडल एआई एजेंट अक्सर जानकारी को वास्तव में "भूलने" में विफल रहते हैं क्योंकि टेक्स्ट हटाने के बाद भी तथ्य रिटेन की गई छवियों से रिकवरेबल रहते हैं, जिससे इन लीक्स को कम करने के लिए कंटेंट-अवेयर सिमेंटिक डिलीशन की आवश्यकता होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
अपनी डिजिटल स्मृति की कल्पना एक विशाल, अस्त-व्यस्त अटारी (attic) के रूप में करें जहाँ एक AI एजेंट वह सब कुछ संग्रहीत करता है जो आपने उसे कभी बताया है। आपके पास टेक्स्ट नोट्स के डिब्बे हैं, फोटो एल्बम हैं, और यहाँ तक कि छिपे हुए दराज भी हैं जहाँ AI उन "वाइब्स" या धारणाओं को रखता है जो उसने आपकी तस्वीरों से सीखी हैं।
शोध पत्र "MEMLEAK" इस बात की जांच करता है कि क्या होता है जब आप इस AI से कहते हैं, "कृपया यह भूल जाओ कि मुझे स्कूबा डाइविंग पसंद है।"
विलोपन का भ्रम (The Illusion of Deletion)
पुराने दिनों में, यदि आप किसी कंप्यूटर को कोई फ़ाइल हटाने के लिए कहते, तो वह बस उस फ़ाइल को फोल्डर से बाहर निकालकर कचरे में फेंक देता। यह शोध पत्र पाता है कि आधुनिक AI एजेंट टेक्स्ट के साथ भी ऐसा ही करते हैं: वे उस नोट को हटा देते हैं जो कहता है "मुझे स्कूबा डाइविंग पसंद है" और कहते हैं, "हो गया!"
लेकिन यहाँ एक लीकेज (leak) है: AI ने वास्तव में पूरी अटारी की सफाई नहीं की।
भले ही विशिष्ट नोट गायब हो गया है, AI के पास अभी भी आपके फोटो एल्बम मौजूद हैं। और यहाँ एक चाल है: AI केवल फोटो पढ़ता नहीं है; वह उन्हें "देखता" भी है। वह देखता है कि आपके पास एक उष्णकटिबंधीय समुद्र तट (tropical beach) की फोटो है, एक डाइव वॉच की दूसरी, और एक मूंगा चट्टान (coral reef) की तीसरी। भले ही इनमें से कोई भी फोटो "स्कूबा डाइविंग" के रूप में लेबल नहीं की गई है, AI कड़ियों को जोड़ देता है। वह असंबंधित फोटो के संग्रह को देखता है और कहता है, "आह, इस व्यक्ति को निश्चित रूप से स्कूबा डाइविंग पसंद है।"
शोध पत्र इसे मेमलीक (Memory Leak) कहता है। ठीक वैसे ही जैसे प्लंबिंग में लीकेज होता है जहाँ नल बंद करने के बाद भी पानी टपकता रहता है, सूचना आपके पूछने के बाद भी AI की स्मृति से रिसती रहती है।
"इन्फॉर्मेशन प्रोवेनेंस ग्राफ" (अटारी का नक्शा)
यह समझने के लिए कि ऐसा क्यों होता है, लेखकों ने इन्फॉर्मेशन प्रोनेन्स ग्राफ (IPG) नामक एक मानचित्र बनाया। इसे अटारी का ब्लूप्रिंट समझें जो दिखाता है कि सूचना का कोई टुकड़ा कहाँ-कहाँ छिप सकता है:
- एड्रेसेबल नोट (The Addressable Note): वह टेक्स्ट फ़ाइल जिसे आप आसानी से ढूँढ सकते हैं और हटा सकते हैं।
- लिंक्ड नोट (The Linked Note): एक फोटो जो विशेष रूप से उस टेक्स्ट से टैग की गई है। यदि आप टेक्स्ट हटाते हैं, तो एक स्मार्ट सिस्टम को इस फोटो को भी हटा देना चाहिए।
- पर्ज़िस्टेंट घोस्ट (The Persistent Ghost): यह डरावना हिस्सा है। ये वे "वाइब्स" या छिपे हुए सुराग हैं जो उन फोटो के अंदर होते हैं जो किसी चीज़ से विशेष रूप से टैग नहीं किए गए हैं। वे धूल के कणों की तरह हैं जो रोशनी में तैर रहे हैं। आप उन पर आसानी से उंगली रखकर उन्हें हटाने के लिए नहीं कह सकते, लेकिन वे अभी भी वहीं हैं, AI द्वारा आपके रहस्यों का अनुमान लगाने के लिए तैयार।
प्रयोग: लीकेज कितना बुरा है?
शोधकर्ताओं ने यह मापने के लिए MEMLEAK नामक एक परीक्षण बनाया कि वास्तव में कितनी जानकारी लीक होती है। उन्होंने 300 नकली उपयोगकर्ता प्रोफाइल बनाए जिनमें तथ्य और फोटो थे, फिर AI को विशिष्ट चीजें भूलने के लिए कहा।
यहाँ उन्हें क्या मिला:
- "ब्लाइंड" टेस्ट: यदि आप AI से बिना किसी पुराने फोटो या नोट को दिखाए किसी तथ्य का अनुमान लगाने के लिए कहते हैं, तो वह 100% बार गलत होता है। (वह जादू से आपके रहस्य नहीं जानता)।
- टेक्स्ट लीकेज (The Text Leak): यदि आप टेक्स्ट नोट को हटा देते हैं लेकिन अन्य टेक्स्ट नोट्स (जैसे "मैं समुद्र तट के पास रहता हूँ") छोड़ देते हैं, तो AI शेष नोट्स को पढ़कर उस हटाए गए तथ्य का 18.3% समय अनुमान लगा सकता है।
- फोटो लीकेज (The Photo Leak): यदि आप टेक्स्ट नोट और उससे टैग की गई फोटो को हटा देते हैं, लेकिन बाकी फोटो एल्बम छोड़ देते हैं, तो AI अभी भी हटाए गए तथ्य का 12.0% समय अनुमान लगा सकता है।
- चौंकाने वाला हिस्सा: लगभग आधे मामलों में, AI ने यह केवल फोटो के कारण पता लगाया। यदि आपने केवल टेक्स्ट देखा होता, तो आप सोचते कि विलोपन सफल रहा। फोटो ही "अदृश्य" लीकेज थे।
क्या हम इसे ठीक कर सकते हैं?
शोध पत्र लीकेज को रोकने के कुछ तरीकों का परीक्षण करता है:
- सब कुछ टैग किया हुआ हटाना: यदि AI उस तथ्य से जुड़े टेक्स्ट और हर उस फोटो को हटा देता है जो स्पष्ट रूप से टैग की गई है, तो लीकेज 48% (यदि विशिष्ट फोटो छोड़ दी जाती है) से गिरकर 12% हो जाता है। यह "लिंक्ड" नोट्स को ठीक करता है लेकिन "घोस्ट्स" को नहीं।
- "स्मार्ट स्वीपर" (सिमेंटिक डिलीशन): शोधकर्ताओं ने एक नई विधि का परीक्षण किया जहाँ, स्पष्ट चीजों को हटाने के बाद, एक दूसरा AI शेष फोटो को स्कैन करता है कि क्या वे अभी भी हटाए गए तथ्य का संकेत देते हैं। यदि एक "ट्रॉपिकल बीच" की फोटो बची हुई है लेकिन उपयोगकर्ता ने अभी-अभी "डाइविंग" को भूलने के लिए कहा है, तो स्मार्ट स्वीपर उस बीच की फोटो को भी हटा देता है।
- परिणाम: इसने लीकेज को 2.0% तक कम कर दिया। यह बहुत बेहतर है, लेकिन पूर्ण नहीं है। कुछ "घोस्ट्स" इतने सूक्ष्म होते हैं कि स्मार्ट स्वीपर भी उन्हें पकड़ नहीं पाता।
मुख्य निष्कर्ष (The Bottom Line)
शोध पत्र निष्कर्ष निकालता है कि एक टेक्स्ट प्रविष्टि को हटाना पर्याप्त नहीं है।
यदि आप एक मल्टीमॉडल AI (जो देखता और पढ़ता है) को कुछ भूलने के लिए कहते हैं, तो वह टेक्स्ट को हटा सकता है, लेकिन वह आपके अन्य फोटो और नोट्स में छोड़े गए "सुरागों" से उस रहस्य को फिर से बना सकता है। लेखक तर्क देते हैं कि वर्तमान सिस्टम उन सफाईकर्मियों की तरह हैं जो फर्श तो बुहार देते हैं लेकिन कालीन के नीचे धूल छोड़ देते हैं। वास्तव में "भूलने" के लिए, सिस्टम को पूरी अटारी का ऑडिट करने की आवश्यकता है, न कि केवल उस विशिष्ट बॉक्स की जिसे आपने इशारा किया था।
शोध पत्र क्या दावा नहीं करता है:
- यह नहीं कहता कि यह आज के हर AI सिस्टम में होता है (इसने Mem0 और Letta जैसे विशिष्ट सिस्टम का परीक्षण किया)।
- यह 100% लीकेज को खत्म करने वाला कोई जादुई समाधान नहीं देता है।
- यह चिकित्सा निदान या कानूनी अदालती मामलों के लिए इसका उपयोग करने पर चर्चा नहीं करता है; यह केवल वर्तमान मेमोरी सिस्टम के सूचना हटाने में विफल होने के मापन के बारे में है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।