CIDER: A Dataset of Contextual Disclosure Boundaries for Privacy Preference Alignment
यह शोध पत्र CIDER को प्रस्तुत करता है, जो मानव एनोटेशन से प्राप्त प्रासंगिक प्रकटीकरण सीमाओं (contextual disclosure boundaries) का एक बड़े पैमाने का डेटासेट है, जिसका उपयोग इन्फरेंस-टाइम पर्सनलाइजेशन के माध्यम से सूक्ष्म, व्यक्तिगत गोपनीयता प्राथमिकताओं के साथ लार्ज लैंग्वेज मॉडल्स के संरेखण का मूल्यांकन करने और उसे सुधारने के लिए किया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को एक अच्छा दोस्त बनना सिखा रहे हैं। आप उसे सिर्फ एक विशाल नियम पुस्तिका नहीं देंगे जिसमें लिखा हो "रहस्य न बताएं।" वह बहुत अस्पष्ट है। यदि आप रोबोट से कहते हैं, "मेरे जन्मदिन के बारे में बात मत करना," तो वह भ्रमित हो सकता है यदि आप किसी सरप्राइज पार्टी में हों जहाँ हर कोई इसे चिल्लाकर बोल रहा हो। लेकिन यदि आप किसी अजनबी के साथ शांत रात्रिभोज पर हैं, तो वही रहस्य सुरक्षित रहना चाहिए। यह निजता (प्राइवेसी) की पेचीदा दुनिया है। यह केवल एक दीवार नहीं है जिस पर लिखा हो "प्रवेश निषेध"; यह अदृश्य, बदलते हुए दरवाजों के एक सेट की तरह है जो इस आधार पर खुलते और बंद होते हैं कि वहां कौन खड़ा है, मौसम कैसा है, और आप उन पर कितना भरोसा करते हैं।
वैज्ञानिक लंबे समय से जानते हैं कि कंप्यूटर सामान्य नियमों का पालन करने में बेहतर होते जा रहे हैं, जैसे "चिकित्सा रिकॉर्ड अजनबियों के साथ साझा न करें।" लेकिन सामान्य नियम जानने और आपके विशिष्ट, व्यक्तिगत भावनाओं को समझने के बीच एक अंतर है। आप उस प्रकार के व्यक्ति हो सकते हैं जो अपने लंच की तस्वीरें साझा करना पसंद करते हैं लेकिन अगर कोई आपके वेतन का उल्लेख करता है तो घबरा जाते हैं। दूसरा व्यक्ति इसके ठीक विपरीत महसूस कर सकता है। बड़ा सवाल जिसे शोधकर्ता हल करने की कोशिश कर रहे हैं वह यह है: क्या हम एआई (AI) को इन अद्वितीय, व्यक्तिगत "निजता सीमाओं" को समझना सिखा सकते हैं ताकि वह अनजाने में आपकी चाय को तब न गिरा दे जब आप उसे गर्म रखना चाहते हों?
यहाँ CIDER आता है, एक नया अध्ययन जो एआई के लिए एक विशाल प्रशिक्षण शिविर की तरह काम करता है ताकि वह इन व्यक्तिगत रहस्यों को सीख सके। शोधकर्ताओं ने 169 वास्तविक लोगों को इकट्ठा किया और उनसे एक सरल लेकिन पेचीदा सवाल पूछा: "क्या आप ठीक होंगे यदि मैं आपके बारे में यह कहानी इन नौ अलग-अलग तरीकों से सुनाऊं?" उन्होंने कहानी को हर बार थोड़ा बदला—कभी आपका पूरा नाम इस्तेमाल किया, कभी केवल "एक मित्र" कहा, कभी हर छोटी जानकारी दी, और कभी इसे अस्पष्ट रखा। उन्होंने पाया कि लोगों के जवाब यादृच्छिक (रैंडम) नहीं थे; उनके पास विशिष्ट पैटर्न थे। कुछ लोग अस्पष्ट विवरणों के साथ ठीक थे लेकिन उन्हें बुरा लगता था जब उनका नाम लिया जाता था। अन्य लोग नाम से परेशान नहीं होते थे लेकिन छोटी-छोटी जानकारियों से डर जाते थे।
टीम ने फिर इस डेटा को लिया और 12 अलग-अलग एआई मॉडल का परीक्षण किया, उनसे यह अनुमान लगाने को कहा कि एक विशिष्ट व्यक्ति ने पहले जो कहा है उसके आधार पर वह व्यक्ति आगे क्या कहेगा। यह "नियम का अनुमान लगाओ" खेल खेलने जैसा है जहाँ एआई को आपके पिछले विकल्पों को देखना होगा और आपकी व्यक्तिगत निजता शैली को समझना होगा। परिणाम शानदार खबरों और कुछ वास्तविकता की जांच का मिश्रण थे। सबसे बड़े, सबसे स्मार्ट एआई मॉडल (जैसे एंथ्रोपिक और ओपनएआई के) इस काम में बहुत अच्छे हो गए। जब उन्हें किसी व्यक्ति के पिछले विकल्पों के केवल छह उदाहरण दिए गए, तो वे उस व्यक्ति के भविष्य के विकल्पों का बहुत अधिक सटीकता के साथ अनुमान लगा सके—बिना किसी इतिहास के मुकाबले 11.41 प्रतिशत अंक अधिक। इन स्मार्ट मॉडलों ने शब्दों के बजाय स्थिति के 'वाइब' (भाव) को समझना शुरू कर दिया था।
हालाँकि, अध्ययन में यह भी पाया गया कि सभी एआई समान नहीं होते। छोटे, सरल मॉडल अक्सर कठोर शॉर्टकट पर निर्भर करते थे। उन्होंने सीखा कि, "यदि नाम मौजूद है, तो 'ना' कहें," या "यदि विवरण बहुत अधिक हैं, तो 'ना' कहें," बिना वास्तव में सूक्ष्मता को समझे। वे उन छात्रों की तरह थे जिन्होंने सबक समझने के बजाय केवल उत्तर कुंजी रट ली थी। इसके अलावा, जबकि स्मार्ट मॉडल बेहतर हुए, वे कभी-कभी गलत दिशा में बहुत अधिक आत्मविश्वासी हो जाते थे। वे तब "ना" कहना बंद कर सकते थे जब उन्हें कहना चाहिए था, या "हाँ" कह सकते थे जब उन्हें नहीं कहना चाहिए था, जिससे एक नया प्रकार का असंतुलन पैदा होता था। केवल एक मॉडल, क्लॉड सोनेट 4.6 (Claude Sonnet 4.6), ही अपनी त्रुटियों के संतुलन को बिगाड़े बिना अपनी सटीकता में सुधार करने में सफल रहा।
अंत में, CIDER सुझाव देता है कि हम उस एआई के करीब पहुँच रहे हैं जो वास्तव में हमारी व्यक्तिगत निजता का सम्मान कर सकता है, लेकिन यह अभी तक सुलझी हुई समस्या नहीं है। सबसे अच्छे एआई को न केवल बहुत सारे डेटा की आवश्यकता है, बल्कि हमारे विकल्पों के पीछे के सूक्ष्म, मानवीय संदर्भ को समझने की क्षमता की भी आवश्यकता है। यह एक याद दिलाता है कि निजता केवल जानकारी छिपाने के बारे में नहीं है; यह इस बारे में है कि आप किसके साथ अपनी जानकारी साझा कर रहे हैं, और एआई को उस नृत्य को भी उतना ही अच्छी तरह सीखना होगा जितना कि हम करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।