What Security and Privacy Transparency Users Need from Consumer-Facing Generative AI
21 अमेरिकी उपयोगकर्ताओं के साक्षात्कारों के माध्यम से, यह शोध पत्र प्रकट करता है कि उपभोक्ता-केंद्रित जनरेटिव एआई में वर्तमान सुरक्षा और गोपनीयता प्रकटीकरण अक्सर अप्रभावी होते हैं, जिससे उपयोगकर्ता अविश्वसनीय प्रॉक्सी पर निर्भर हो जाते हैं और इससे अपनाना सीमित हो जाता है, जिससे सूचित निर्णय लेने में सहायता के लिए विश्वसनीय, कार्रवाई योग्य पारदर्शिता के एक नए ढांचे की आवश्यकता होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अभी-अभी एक बिल्कुल नया, सुपर-स्मार्ट रोबोट असिस्टेंट खरीदा है। यह आपके ईमेल लिख सकता है, आपकी छुट्टियों की योजना बना सकता है, और यहाँ तक कि आपको अपने स्वास्थ्य पर सलाह भी दे सकता है। लेकिन इसे अपने घर में प्रवेश देने से पहले, आपके मन में एक सवाल कौंध रहा है: "यह रोबोट वास्तव में मेरे रहस्यों के साथ क्या कर रहा है?"
यह शोध पत्र उन शोधकर्ताओं के समूह की तरह है जो 21 आम लोगों के साथ बैठकर जेनेरेटिव एआई (GenAI) टूल्स जैसे ChatGPT, Gemini और Copilot के बारे में ठीक यही सवाल पूछ रहे हैं। वे जानना चाहते थे कि: क्या लोग वास्तव में सुरक्षा और गोपनीयता के बारे में बारीक अक्षरों (fine print) को पढ़ते हैं? क्या वे इस पर भरोसा करते हैं? और वे क्या बदलाव देखना चाहते हैं?
यहाँ उनके द्वारा किए गए निष्कर्षों की कहानी है, जिसे सरल भाषा में समझाया गया है।
1. "लोकप्रियता का मुकाबला" बनाम बारीक अक्षर (The Fine Print)
जब लोग कोई नया एआई ऐप डाउनलोड करने का निर्णय लेते हैं, तो वे शायद ही कभी "नियम और शर्तें" (गोपनीयता नीति) पढ़ते हैं। यह एक सैंडविच खरीदने से पहले 50 पन्नों के कानूनी अनुबंध को पढ़ने जैसा है। किसी के पास समय या ऊर्जा नहीं होती।
इसके बजाय, लोग शॉर्टकट का उपयोग करते हैं।
- "भीड़" का सिद्धांत: यदि हर कोई इसके बारे में बात कर रहा है (जैसे ChatGPT), तो लोग मान लेते हैं कि यह सुरक्षित है। वे सोचते हैं, "यदि लाखों लोग इसका उपयोग कर रहे हैं, तो बड़ी कंपनी हमारी सुरक्षा कर रही होगी।"
- "प्रसिद्ध नाम" का सिद्धांत: यदि कंपनी एक दिग्गज है (जैसे Google या Microsoft), तो लोग अधिक सुरक्षित महसूस करते हैं। यदि यह कोई छोटी, अज्ञात स्टार्टअप है, तो वे संदिग्ध होते हैं।
समस्या: यह एक खतरनाक जुआ है। सिर्फ इसलिए कि कोई टूल लोकप्रिय है, इसका मतलब यह नहीं है कि वह निजी भी है। वास्तव में, शोधकर्ताओं ने पाया कि लोग अक्सर यह नहीं जानते कि वे किस बात से सहमति दे रहे हैं। वे मान लेते हैं कि एआई उनका डेटा नहीं चुराएगा, लेकिन उनके पास इसका कोई वास्तविक प्रमाण नहीं होता।
2. "विश्वास करें लेकिन जाँच लें" की दुविधा
एक बार जब लोग इन टूल्स का उपयोग करना शुरू कर देते हैं, तो चीजें जटिल हो जाती हैं।
- "जादुई डिब्बे" का डर: लोगों को डर है कि यदि वे अपने गहरे रहस्य (जैसे कोई कानूनी रणनीति या चिकित्सा संबंधी मुद्दा) एआई को बताते हैं, तो एआई उसे "याद" रख सकता है और किसी और को बता सकता है, या इसे रोबोट को और स्मार्ट बनाने के लिए उपयोग कर सकता है।
- "मौन परिवर्तन": कंपनियाँ अक्सर उपयोगकर्ताओं को स्पष्ट रूप से बताए बिना अपने नियम बदल देती हैं। यह एक रेस्तरां द्वारा अपने मेनू की सामग्री बदलने जैसा है, लेकिन ग्राहकों को सूचित न करना। लोग ऐसा महसूस करते हैं जैसे वे अंधेरे में चल रहे हों।
परिणाम: कई लोग इतने चिंतित हैं कि वे महत्वपूर्ण चीजों के लिए एआई का उपयोग करना बंद कर देते हैं। वे शायद किराने की सूची लिखने के लिए इसका उपयोग करेंगे, लेकिन वे वसीयत का मसौदा तैयार करने या स्वास्थ्य निदान पर चर्चा करने के लिए इसका उपयोग नहीं करेंगे क्योंकि उन्हें दरवाजे के "लॉक" पर भरोसा नहीं है।
3. लोग वास्तव में क्या चाहते हैं (एक "विशलिस्ट")
शोधकर्ताओं ने प्रतिभागियों से पूछा: "यदि आप एक जादू की छड़ी घुमाकर एआई कंपनियों के गोपनीयता बताने के तरीके को बदल सकें, तो आप क्या चाहेंगे?"
यहाँ उन्होंने कुछ मजेदार उपमाओं के साथ जो बताया, वह दिया है:
क. एआई के लिए "पोषण लेबल" (Nutrition Label)
जिस तरह खाद्य पदार्थों पर लेबल होता है जिसमें लिखा होता है "मूंगफली शामिल है" या "चीनी अधिक है", लोग एक सरल एआई गोपनीयता लेबल चाहते हैं।
- अब 50 पन्नों के अनुबंध नहीं: वे एक पन्ने का सारांश चाहते हैं जो कहता हो: "हम आपका डेटा 30 दिनों तक स्टोर करते हैं," या "हम आपका डेटा विज्ञापनदाताओं को नहीं बेचते हैं।"
- "कौन देख रहा है" की सूची: वे ठीक से जानना चाहते हैं कि उनके डेटा को कौन देख सकता है। क्या यह केवल एआई है? क्या यह कोई मानव समीक्षक है? क्या यह कोई तीसरा पक्ष (थर्ड-पार्टी) कंपनी है?
ख. "स्वतंत्र रेफरी"
लोग एआई कंपनियों पर खुद का न्याय करने के लिए भरोसा नहीं करते हैं। यह एक जादूगर से यह साबित करने के लिए कहने जैसा है कि उसके करतब धोखाधड़ी नहीं हैं।
- विचार: वे एक तीसरे पक्ष के ऑडिटर (जैसे सरकारी एजेंसी या विश्वसनीय उपभोक्ता समूह) को चाहते हैं जो एआई की सुरक्षा की जाँच करे और उसे "अनुमोदन की मुहर" (Seal of Approval) दे।
- उपमा: खाद्य पदार्थों पर USDA ऑर्गेनिक लेबल के बारे में सोचें। आप इस पर भरोसा करते हैं क्योंकि एक तटस्थ पक्ष ने इसकी जाँच की है। लोग एआई गोपनीयता के लिए वही "ऑर्गेनिक" बैज चाहते हैं।
ग. "इंटरैक्टिव FAQ" (जादुई दर्पण)
एक उबाऊ मैनुअल पढ़ने के बजाय, लोग अपनी गोपनीयता के बारे में एआई से प्रश्न पूछना चाहते हैं।
- विचार: एक चैटबॉट जो कहता है, "हे, यदि मैं इस सेटिंग को बंद कर देता हूँ, तो मेरे डेटा का क्या होगा?" और तुरंत एक स्पष्ट, मानवीय उत्तर देता है।
- उपमा: कल्पना कीजिए कि आप एक कार खरीद रहे हैं और एक मैकेनिक आपके ठीक बगल में खड़ा है, जो आपके पूछने पर इंजन के काम करने के तरीके को समझाने के लिए तैयार है, बजाय इसके कि वह आपको एक धूल भरा मैनुअल थमा दे।
घ. "सही समय पर चेतावनी" (Just-in-Time Warning)
लोग उस ठीक उसी क्षण चेतावनी चाहते हैं जब वे कुछ जोखिम भरा करने जा रहे होते हैं।
- विचार: यदि आप एआई में अपना क्रेडिट कार्ड नंबर टाइप करने वाले हैं, तो एक बड़ा लाल बैनर आना चाहिए जो कहता है, "रुको! इस डेटा का उपयोग मॉडल को प्रशिक्षित करने के लिए किया जाएगा। क्या आप फिर भी आगे बढ़ना चाहते हैं?"
- उपमा: यह सिगरेट के पैकेट पर दी जाने वाली चेतावनी या कार में "चेक इंजन" लाइट जैसा है। इसे मैनुअल में छिपा हुआ नहीं होना चाहिए; इसे आपके सामने होना चाहिए जब आपको इसकी आवश्यकता हो।
4. मुख्य निष्कर्ष
इस शोध पत्र का मुख्य सबक यह है कि वर्तमान गोपनीयता सूचनाएं टूटी हुई हैं। वे बहुत लंबी हैं, बहुत भ्रमित करने वाली हैं, और लोग उन पर भरोसा नहीं करते हैं।
इस कारण से, लोग गलत निर्णय ले रहे हैं:
- वे सुरक्षा के बजाय लोकप्रियता के आधार पर ऐप्स डाउनलोड करते हैं।
- वे डर के कारण महत्वपूर्ण कार्यों के लिए सहायक टूल्स का उपयोग करना बंद कर देते हैं।
समाधान: हमें लोगों को यह बताने के लिए सरल, ईमानदार और स्वतंत्र तरीके चाहिए कि उनके डेटा के साथ क्या हो रहा है। हमें "प्राइवेसी लेबल", "स्वतंत्र मुहर" और "स्पष्ट चेतावनियों" की आवश्यकता है ताकि लोग इन अद्भुत नए टूल्स का उपयोग बिना यह महसूस किए कर सकें कि वे अपना दरवाजा खुला छोड़ रहे हैं।
संक्षेप में: लोगों को अपने रहस्यों की रक्षा के लिए उपन्यास पढ़ने के लिए मजबूर न करें। उन्हें एक स्पष्ट संकेत, एक विश्वसनीय रेफरी और एक सरल विकल्प दें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।