Tracking Conversations: Measuring Content and Identity Exposure on AI Chatbots
यह शोध पत्र 20 लोकप्रिय AI चैटबॉट्स पर वेब ट्रैकिंग को व्यवस्थित रूप से मापता है और यह प्रकट करता है कि अधिकांश चैटबॉट्स निजी चैट मोड में होने के बावजूद भी संवेदनशील उपयोगकर्ता सामग्री और पहचान संबंधी जानकारी तीसरे पक्ष की एनालिटिक्स, विज्ञापन और सत्र पुनरावृत्ति (सेशन रिप्ले) सेवाओं के साथ साझा करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
AI चैटबॉट्स की कल्पना हाई-टेक, मिलनसार लाइब्रेरियन (पुस्तकालयाध्यक्षों) के रूप में करें। आप उनके पास जाते हैं, एक सवाल फुसफुसाते हैं, और वे आपकी मदद के लिए एक किताब निकालते हैं। अतीत में, आप शायद सोचते होंगे, "यह मेरे और लाइब्रेरियन के बीच की एक निजी बातचीत है।"
हालाँकि, यह शोध पत्र बताता है कि जबकि आप लाइब्रेरियन से बात कर रहे हैं, अजनबियों की एक पूरी भीड़ एक तरफा कांच की दीवार के पीछे खड़ी है, जो नोट्स ले रही है, तस्वीरें खींच रही है, और यहाँ तक कि ऑडियो भी रिकॉर्ड कर रही है।
यहाँ शोधकर्ताओं द्वारा की गई खोजों का विवरण दिया गया, जिसे सरल उपमाओं (analogies) का उपयोग करके समझाया गया है:
1. सेटअप: "कांच के घर" वाले लाइब्रेरियन
शोधकर्ताओं ने 20 सबसे लोकप्रिय AI चैटबॉट वेबसाइटों (जैसे ChatGPT, Gemini, Claude, आदि) का अध्ययन किया। उन्होंने केवल रैंडम सवाल नहीं पूछे; उन्होंने एक बहुत ही विशिष्ट, संवेदनशील सवाल पूछा: "मेरे आस-पास मुझे प्रेगनेंसी टेस्ट (गर्भावस्था परीक्षण) कहाँ मिल सकता है?"
यह एक लाइब्रेरी में जाकर बहुत धीमी आवाज़ में मेडिकल सलाह माँगने जैसा है। शोधकर्ता यह देखना चाहते थे कि आपके मुँह से निकलने के बाद उस विशिष्ट जानकारी का क्या होता है।
2. बड़ी सच्चाई: "थर्ड-पार्टी ताक-झांक करने वाले"
अध्ययन में पाया गया कि 20 में से 17 चैटबॉट्स आपकी बातचीत के विवरण बाहरी कंपनियों (थर्ड पार्टीज) के साथ साझा कर रहे हैं।
इसे इस तरह समझें: आप एक कमरे में निजी बातचीत कर रहे हैं, लेकिन दीवारें कांच की बनी हैं, और चैटबॉट के मालिक ने अलग-अलग पड़ोसियों को आकर सुनने के लिए आमंत्रित किया है।
- "सेशन रिप्ले" कैमरे: तीन चैटबॉट्स एक टूल का उपयोग कर रहे थे जिसे "Microsoft Clarity" कहा जाता है। इसे एक सुरक्षा कैमरे के रूप में कल्पना करें जो न केवल कमरे को रिकॉर्ड करता है; बल्कि यह रिकॉर्ड करता है कि आपने वास्तव में क्या कहा और लाइब्रेरियन ने आपको क्या जवाब दिया, वह भी सादे टेक्स्ट (plain text) के रूप में। शोधकर्ताओं ने पाया कि इन कैमरों ने "प्रेगनेंसी टेस्ट" वाली पूरी बातचीत को Microsoft को भेज दिया, जिससे उन्हें आपकी निजी मेडिकल क्वेरी पढ़ने की अनुमति मिल गई।
- "चैट आईडी" पोस्टकार्ड: भले ही चैटबॉट पूरा टेक्स्ट न भेजे, 15 चैटबॉट्स ने विज्ञापनदाताओं और एनालिटिक्स कंपनियों को एक "पोस्टकार्ड" भेजा। इस पोस्टकार्ड पर यह नहीं लिखा था कि आपने क्या पूछा, लेकिन इसमें एक विशिष्ट Chat ID या आपकी विशिष्ट बातचीत का लिंक था। यह एक नोट भेजने जैसा है जो कहता है, "मैं कमरा नंबर 404 में हूँ," किसी मार्केटिंग कंपनी को। वे अभी यह नहीं जान सकते कि आपने प्रेगनेंसी टेस्ट के बारे में पूछा है, लेकिन वे जानते हैं कि आप उस विशिष्ट कमरे में हैं, और वे बाद में उस कमरे को आपकी पहचान से जोड़ सकते हैं।
3. "नेम टैग" की समस्या
शोधकर्ताओं ने यह भी पाया कि कई चैटबॉट्स आपकी बातचीत के साथ आपकी पहचान (आपका नाम, ईमेल या अकाउंट आईडी) भी सौंप रहे हैं।
- "सपोर्ट विजेट" का रिसाव: कुछ चैटबॉट्स में स्क्रीन पर छोटे "Help" बटन होते हैं। जब आप पेज लोड करते हैं, तो ये बटन अपने आप आपका नाम और ईमेल पता उस कंपनी को चिल्लाकर बता देते हैं जिसने वह बटन बनाया है (जैसे Intercom), भले ही आपने उस बटन पर कभी क्लिक न किया हो।
- "हैश्ड" (Hashed) रहस्य: कुछ चैटबॉट्स ने आपका ईमेल पता भेजा, लेकिन उसे "स्क्रैम्बल" (बदल) दिया। इसे एक गुप्त कोड भेजने जैसा समझें जिसे केवल प्राप्तकर्ता ही डिकोड कर सकता है। यदि आप किसी शॉपिंग साइट और चैटबॉट साइट पर एक ही स्क्रैम्बल किया हुआ कोड उपयोग करते हैं, तो विज्ञापनदाता दोनों को आपस में जोड़ सकते हैं और यह पता लगा सकते हैं कि, "ओह, जिसने डायपर खरीदा था, वही व्यक्ति प्रेगनेंसी टेस्ट के बारे में पूछ रहा है।"
4. "इनकॉग्निटो" मोड: क्या यह काम करता है?
कई चैटबॉट्स "प्राइवेट" या "टेम्परेरी" चैट मोड की पेशकश करते हैं, जिसका वादा है कि कुछ भी सेव नहीं किया जाएगा। शोधकर्ताओं ने इसकी जांच की।
- परिणाम: यह काम कर गया! प्राइवेट मोड में, "पड़ोसियों की भीड़" काफी हद तक गायब हो गई। बाहर की कंपनियों के सुनने की संख्या काफी कम हो गई, और जो प्राइवेट चैट शोधकर्ताओं ने जांचीं, उनमें किसी ने भी बातचीत का टेक्स्ट या आपकी पहचान नहीं देखी।
- पेंच: चैटबॉट की प्राइवेसी पॉलिसी स्पष्ट रूप से यह नहीं कहती थी कि "प्राइवेट मोड विज्ञापनों को रोकता है।" यह केवल इस बारे में बात करती थी कि आपकी हिस्ट्री सेव नहीं की जाती है। शोधकर्ताओं ने पाया कि प्राइवेट मोड का डिज़ाइन ट्रैकिंग को रोक देता था, भले ही नियमों में इसे स्पष्ट रूप से नहीं समझाया गया था।
5. "प्राइवेसी पॉलिसी" बनाम वास्तविकता
शोधकर्ताओं ने तुलना की कि चैटबॉट्स क्या कह रहे थे (उनकी लंबी, उबाऊ प्राइवेसी पॉलिसी में) और वे वास्तव में क्या कर रहे थे।
- मेल न खाना: कुछ नीतियां अस्पष्ट थीं, जो कहती थीं कि "हम पार्टनर्स के साथ डेटा साझा करते हैं।" अन्य विशिष्ट थीं लेकिन सबसे बड़े डेटा लीक करने वालों को भूल गईं। उदाहरण के लिए, तीन चैटबॉट्स ने अपनी नीतियों में विशिष्ट पार्टनर्स का उल्लेख किया, लेकिन Microsoft Clarity का जिक्र करना भूल गए, जबकि Clarity ही वह टूल था जो आपकी निजी बातचीत को सादे टेक्स्ट में रिकॉर्ड कर रहा था।
- अपवाद: एक चैटबॉट, Duck.ai, "ईमानदार लाइब्रेरियन" था। उन्होंने किसी के साथ डेटा साझा नहीं किया और यहाँ तक कि सवाल भेजने से पहले आपकी लोकेशन को भी हटा दिया।
सारांश
पेपर निष्कर्ष निकालता है कि हालांकि AI चैटबॉट्स बेहतरीन उपकरण हैं, लेकिन वर्तमान में वे कांच के घरों की तरह बनाए गए हैं।
- 20 में से 17 चैटबॉट्स बाहरी कंपनियों को अंदर झांकने देते हैं।
- 3 चैटबॉट्स उन कंपनियों को आपके निजी मेडिकल या व्यक्तिगत सवाल ज़ोर से पढ़ने देते हैं।
- 15 चैटबॉट्स एक विशिष्ट ID विज्ञापनदाताओं को भेजते हैं जो आपकी बातचीत को आपकी पहचान से जोड़ती है।
- प्राइवेट मोड ही एकमात्र ऐसा "पर्दा" है जो प्रभावी रूप से पड़ोसियों को रोकता है, लेकिन चैटबॉट्स हमेशा यह नहीं बताते हैं कि यह क्या करता है।
शोधकर्ताओं का सुझाव है कि चैटबॉट मालिकों को बेहतर दीवारें (डिज़ाइन परिवर्तन) बनानी चाहिए और इस बारे में अधिक ईमानदार होना चाहिए कि कौन सुन रहा है (स्पष्ट नीतियां)।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।