Inferential Privacy Leakage in Anonymized Conversational AI Logs
चार ग्लोबल साउथ देशों के 1,000 से अधिक उपयोगकर्ताओं के गुमनाम संवादात्मक एआई लॉग्स के एक विश्लेषण से पता चलता है कि स्पष्ट व्यक्तिगत पहचान योग्य जानकारी को हटाने के बावजूद, बड़े भाषा मॉडल बार-बार आने वाले रूढ़िबद्ध विचारों का लाभ उठाकर बातचीत के शुरुआती चरणों से आयु, लिंग और देश जैसे संवेदनशील जनसांख्यिकीय विवरणों का सटीक अनुमान लगा सकते हैं, जिससे यह सिद्ध होता है कि उपयोगकर्ता की गोपनीयता की रक्षा के लिए संदेश-स्तर पर पीआईआई (PII) हटाना अपर्याप्त है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक डायरी है जिसमें आप रोज़ लिखते हैं। आप इसमें अपना नाम, पता या फ़ोन नंबर लिखने में बहुत सावधानी बरतते हैं। आप सोचते हैं, "अगर मैं अपना नाम नहीं लिखूँगा, तो कोई नहीं जान पाएगा कि मैं कौन हूँ।"
यह कागज़ एक जासूसी कहानी की तरह है जो यह साबित करता है कि आप गलत हैं। शोधकर्ताओं ने ब्राजील, भारत, नाइजीरिया और पाकिस्तान के उन लोगों की हज़ारों ऐसी "गुमनाम" डायरियों को लिया जिन्होंने ChatGPT का उपयोग किया था। उन्होंने इन डायरियों से किसी भी स्पष्ट नाम या व्यक्तिगत विवरण को पूरी तरह से हटा दिया। फिर, उन्होंने एक अलग, बहुत बुद्धिमान AI से इन साफ की गई डायरियों को पढ़ने और लेखक की उम्र, लिंग और देश का अनुमान लगाने के लिए कहा।
यहाँ शोध के निष्कर्ष दिए गए, जिन्हें सरल भाषा में समझाया गया है:
1. "लीक" बहुत जल्दी होता है
भले ही लोग गोपनीयता बनाए रखने की कोशिश कर रहे थे, लेकिन उनके द्वारा भेजे गए संदेशों में से 34.5% में अनजाने में व्यक्तिगत जानकारी शामिल थी।
- उपमा: कल्पना कीजिए कि आप भीड़ में छिपने की कोशिश कर रहे हैं। आप सोचते हैं कि आप सुरक्षित हैं क्योंकि आपने नेमटैग नहीं पहना है। लेकिन शोधकर्ताओं ने पाया कि अधिकांश लोग अपनी बातचीत के पहले 14% के भीतर ही अनजाने में अपने रहस्य चिल्लाकर बता देते हैं।
- चौंकाने वाली बात: आधे उपयोगकर्ताओं के लिए, AI उनकी बातचीत के इतिहास के केवल पहले 5% को पढ़कर उनकी पहचान का अनुमान लगा सका। यह एक किताब के पहले कुछ पन्ने पढ़ने और ठीक से यह जानने जैसा है कि मुख्य पात्र कौन है।
2. "साफ" की गई डायरियाँ भी सुरक्षित नहीं थीं
शोधकर्ताओं ने एक बहुत कठिन परीक्षण किया। उन्होंने केवल उन उपयोगकर्ताओं को देखा जिन्होंने कभी भी स्पष्ट रूप से "मैं 30 साल का पुरुष हूँ" या "मैं भारत में रहता हूँ" जैसी बातें नहीं कहीं। उन्होंने हर उस संदेश को हटा दिया जो इन तथ्यों का संकेत भी देता था।
- परिणाम: इन "सुपर-क्लीन" डायरियों के साथ भी, AI ने 90% बार उनका लिंग, 84% बार उनकी उम्र और 88% बार उनका देश सही ढंग से पहचाना।
- सबक: नाम और पते (स्पष्ट संकेतों) को हटाना, सामने का दरवाज़ा लॉक करने जैसा है लेकिन खिड़कियाँ खुली छोड़ देने जैसा। AI को आपके नाम की ज़रूरत नहीं है; उसे बस यह जानने की ज़रूरत है कि आप कैसे बात करते हैं और आप किन विषयों पर बात करते हैं।
3. AI "रूढ़ियों" (Stereotypes) का उपयोग 'क्रेयॉन बॉक्स' की तरह करता है
AI ने बिना तथ्यों के इतना अच्छा अनुमान कैसे लगाया? इसने रूढ़ियों का उपयोग किया। इसने बातचीत के "वाइब" (vibe) को देखा और उसे उस मानसिक छवि से मिलाया जो उसने सीखी थी।
- "टेक = पुरुष" वाला क्रेयॉन: यदि बातचीत में कोडिंग, लिनक्स (Linux) या फाइनेंस का उल्लेख था, तो AI ने लगभग हमेशा "पुरुष" का अनुमान लगाया। यदि किसी महिला ने इन विषयों पर लिखा, तो AI अक्सर गलत हो गया और उसने उसे पुरुष बताया।
- "अंग्रेजी = पश्चिमी" वाला क्रेयॉन: यदि किसी ने स्थानीय बोलचाल या मुद्रा प्रतीकों के बिना धाराप्रवाह अंग्रेजी लिखी, तो AI ने अनुमान लगाया कि वे अमेरिका या ब्रिटेन से हैं। उसने अक्सर नाइजीरिया या पाकिस्तान के तकनीकी रूप से सक्षम व्यक्ति को अमेरिकी होने का अनुमान लगाया।
- "नई चीज़ें = युवा" वाला क्रेयॉन: यदि किसी उम्रदराज व्यक्ति ने आधुनिक तकनीक या ट्रेंडी विषयों के बारे में बात की, तो AI ने अनुमान लगाया कि वे युवा (25-34 वर्ष) हैं।
अनुचितता: इसका मतलब है कि AI उन लोगों का अनुमान लगाने में बहुत अच्छा है जो "मानक" तस्वीर में फिट बैठते हैं (युवा, पश्चिमी, तकनीक-प्रेमी पुरुष)। लेकिन यह उन लोगों के साथ भ्रमित हो जाता है और गलतियाँ करता है जो इस सांचे को तोड़ते हैं: जैसे तकनीक के क्षेत्र में महिलाएं, तकनीक-प्रेमी बुजुर्ग, या ग्लोबल साउथ (विकासशील देशों) के पेशेवर।
4. ChatGPT एक नए प्रकार का "निगरानी कैमरा" है
शोधकर्ताओं ने ChatGPT लॉग्स की तुलना गूगल सर्च हिस्ट्री और यूट्यूब वॉच हिस्ट्री से की।
- तुलना: दशकों से, विज्ञापनदाता आपकी पहचान का अनुमान लगाने के लिए आपके गूगल सर्च का उपयोग करते आए हैं। यह पेपर दिखाता है कि ChatGPT भी आपकी पहचान का अनुमान लगाने में उतना ही सक्षम है, लेकिन एक अलग तरीके से।
- अंतर: गूगल सर्च संक्षिप्त, लेन-देन संबंधी नोट्स की तरह होते हैं ("मेरे पास के सबसे अच्छे पिज्जा कहाँ हैं")। ChatGPT की बातचीत लंबी, गहरी कहानियों की तरह होती है जहाँ आप अपनी भावनाओं, अपनी नौकरी के संघर्षों या अपने परिवार के बारे में बात कर सकते हैं।
- निष्कर्ष: ChatGPT आपके बारे में प्रोफाइल बनाने के लिए एक शक्तिशाली नया उपकरण है। यह आपके सर्च इतिहास की जगह नहीं लेता; यह इसमें एक नया, बहुत व्यक्तिगत स्तर जोड़ देता है।
मुख्य निष्कर्ष
पेपर यह निष्कर्ष निकालता है कि सिर्फ चैट लॉग से अपना नाम और पता हटा देना आपकी गोपनीयता की रक्षा करने के लिए पर्याप्त नहीं है।
भले ही आप सावधान रहें, जिस तरह से आप बोलते हैं, जिन विषयों को आप चुनते हैं, और जिन सांस्कृतिक संदर्भों का आप उपयोग करते हैं, वे एक फिंगरप्रिंट की तरह काम करते हैं। एक AI "साफ" की गई बातचीत को देख सकता है और आपकी पहचान की एक बहुत सटीक तस्वीर बना सकता है, जो अक्सर आपसे चैट करने के पहले कुछ मिनटों के भीतर ही संभव है।
संक्षेप में: आप "क्या" (नाम) को मिटा सकते हैं, लेकिन "कैसे" (शैली और विषय) अभी भी आपको उजागर कर देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।