Locale-Conditioned Few-Shot Prompting Mitigates Demonstration Regurgitation in On-Device PII Substitution with Small Language Models
यह शोधपत्र प्रदर्शन प्रतिगमन (demonstration regurgitation) को रोकने के लिए लोकेल-कंडीशन्ड रोटेटिंग फ्यू-शॉट प्रॉम्पटिंग के साथ एक 1-बिट स्मॉल लैंग्वेज मॉडल का उपयोग करके एक ऑन-डिवाइस PII सब्स्टिट्यूशन पाइपलाइन प्रस्तावित करता है, जो यह प्रकट करता है कि हालांकि यह दृष्टिकोण नियम-आधारित विधियों की तुलना में अधिक स्वाभाविक टेक्स्ट उत्पन्न करता है, लेकिन अंततः अपर्याप्त प्रशिक्षण डेटा विविधता के कारण डाउनस्ट्रीम नेमड एंटिटी रिकग्निशन (NER) प्रदर्शन को नुकसान पहुँचाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास संवेदनशील दस्तावेजों का एक ढेर है जिसमें असली नाम, पते और तारीखें शामिल हैं। आपको शोध या प्रशिक्षण के लिए इन दस्तावेजों को साझा करने की आवश्यकता है, लेकिन आपको वास्तविक निजी जानकारी को छिपाना होगा।
यह शोध पत्र इस बारे में है कि उस छिपाने के तरीके को करने का एक नया, स्मार्ट तरीका क्या है, जो विशेष रूप से क्लाउड में डेटा भेजने के बजाय छोटे कंप्यूटरों (जैसे आपके फोन या लैपटॉप में) का उपयोग करता है।
यहाँ उनकी खोज की कहानी है, जिसे सरल उपमाओं के माध्यम से बताया गया है।
समस्या: "ब्लैंक स्टिकर" दृष्टिकोण
पारंपरिक रूप से, जब कंपनियाँ निजी जानकारी छिपाती हैं, तो वे "ब्लैंक स्टिकर" पद्धति का उपयोग करती हैं। यदि कोई दस्तावेज़ कहता है "John Smith रहता है 123 Main St पर," तो सॉफ़्टवेयर इसे [PERSON] और [ADDRESS] से बदल देता है।
- समस्या: हालांकि यह रहस्यों को सुरक्षित रखता है, लेकिन यह दस्तावेज़ की उपयोगिता को नष्ट कर देता है। यदि आप बाद में कंप्यूटर को नाम पहचानने के लिए सिखाने की कोशिश करते हैं, तो वह केवल
[PERSON]शब्द को पहचानना सीखता है, न कि यह कि एक वास्तविक नाम कैसा दिखता है। यह एक बच्चे को कुत्ते की पहचान करना सिखाने जैसा है, जिसमें उसे एक खाली वर्ग दिखाया जाता है जिस पर "DOG" लिखा हो। वह नहीं जान पाएगा कि असली कुत्ता कैसा दिखता है।
समाधान: "फर्जी आईडी" फैक्ट्री
लेखकों ने एक ऐसा सिस्टम बनाया है जो डेटा पर केवल एक खाली लेबल नहीं चिपकाता है; बल्कि यह उस व्यक्ति या स्थान का एक यथार्थवादी नकली संस्करण बनाता है।
- लक्ष्य: "John Smith" को "Marcus Chen" में और "123 Main St" को "456 Oak Ave" में बदलना। टेक्स्ट अभी भी स्वाभाविक लगेगा और महसूस होगा, लेकिन असली रहस्य गायब हो जाएंगे।
- प्रतिबंध: यह पूरी तरह से डिवाइस (आपके लैपटॉप) पर होना चाहिए, बिना डेटा को क्लाउड में किसी बड़े सर्वर पर भेजे। यह एक टोस्टर के अंदर एक हाई-एंड मूवी स्टूडियो चलाने जैसा है।
पात्रों की टोली
इसे पूरा करने के लिए, उन्होंने तीन उपकरणों का एक साथ उपयोग किया:
- जासूस (प्राइवेसी फ़िल्टर): एक छोटा AI जो टेक्स्ट को स्कैन करता है और इशारा करता है, "हे, यह एक नाम है!" या "यह एक तारीख है!"
- रचनात्मक लेखक (स्मॉल लैंग्वेज मॉडल): एक छोटा, सुपर-कुशल AI (जिसे Bonsai-1.7B कहा जाता है) जो संदर्भ के अनुसार एक नकली नाम या पता बनाने की कोशिश करता है।
- नियम मानने वाला (फेकर/Faker): एक मानक कंप्यूटर प्रोग्राम जो ईमेल या फोन नंबर जैसी चीजों के लिए रैंडम नकली डेटा उत्पन्न करता है।
बड़ी गलती: "पैरट" (तोते) प्रभाव
शोधकर्ताओं को एक बड़ी बाधा का सामना करना पड़ा। जब उन्होंने नन्हे AI लेखक को नकली नाम बनाने के लिए कहा, तो वह एक तोते की तरह व्यवहार करने लगा।
यदि आप AI को तीन उदाहरणों (जैसे, "असली: Alice -> नकली: Bob") के साथ एक प्रॉम्प्ट देते हैं, और फिर उसे किसी पूरी तरह से अलग भाषा (जैसे चीनी या जर्मन) को संभालने के लिए कहते हैं, तो AI नए इनपुट को अनदेखा कर देता है और बस "Bob" ही spits आउट करता है। वह दिए गए उदाहरणों की हूबहू नकल कर रहा था, वास्तविक टेक्स्ट की परवाह किए बिना।
खोज:
उन्हें लगा कि ऐसा इसलिए हुआ क्योंकि AI "बहुत छोटा" या "बहुत अधिक संकुचित" (quantized) था। उन्होंने इस परीक्षण के लिए AI के थोड़े बड़े, कम संकुचित संस्करण का उपयोग किया। उसने बिल्कुल वही किया।
- सबक: समस्या हार्डवेयर या AI के आकार की नहीं थी; यह निर्देशों (प्रॉम्प्ट) की थी। AI केवल दिए गए उदाहरणों के पैटर्न को मैच कर रहा था।
समाधान: "रोटेटिंग मेनू"
AI को तोता बनने से रोकने के लिए, उन्होंने इसे उदाहरण देने का तरीका बदल दिया।
- पुराना तरीका: AI को हर बार एक ही तीन उदाहरण देना।
- नया तरीका: उन्होंने विभिन्न भाषाओं (अंग्रेजी, चीनी, जर्मन, आदि) के लिए उदाहरणों का एक "मेनू" बनाया। प्रत्येक नए टेक्स्ट के लिए, वे AI को दिखाने के लिए सही भाषा के मेनू से यादृच्छिक रूप से तीन उदाहरण चुनते थे।
- परिणाम: AI ने गलत उदाहरणों की नकल करना बंद कर दिया। इसने चीनी नामों के लिए "Li Wei" और जर्मन नामों के लिए "Anna Becker" बनाना शुरू कर दिया। आखिरकार इसने काम समझ लिया।
आश्चर्यजनक मोड़: "प्राकृतिक" हमेशा "बेहतर" नहीं होता
यह इस पेपर का सबसे दिलचस्प हिस्सा है। वे यह देखना चाहते थे कि उनका नया "रचनात्मक लेखक" (AI), "नियम मानने वाले" (Faker) से बेहतर है या नहीं।
- अपेक्षा: उन्हें लगा कि AI द्वारा उत्पन्न नाम अधिक "प्राकृतिक" होंगे और इसलिए प्रशिक्षण के लिए बेहतर होंगे।
- वास्तविकता: "नियम मानने वाला" (Faker) वास्तव में जीत गया।
- क्यों? AI, अपने सुधार के बावजूद, अपने उदाहरणों में देखे गए नामों की एक बहुत छोटी सूची में से चुनने की प्रवृत्ति रखता था। यह उस शेफ की तरह है जो केवल पांच विशिष्ट व्यंजन बनाना जानता है।
- "नियम मानने वाला" (Faker) रैंडम था। यह हजारों अलग-अलग नाम उत्पन्न कर सकता था।
- सबक: जब आप किसी कंप्यूटर को निजी डेटा पहचानने के लिए प्रशिक्षित करते हैं, तो विविधता (variety), यथार्थवाद (realism) से अधिक महत्वपूर्ण होती है। कंप्यूटर बेहतर सीखता है जब वह बहुत सारे अलग-अलग नकली नामों को देखता है, भले ही वे थोड़े रैंडम लगें, बजाय इसके कि वह कुछ बहुत ही यथार्थवादी नामों के छोटे सेट को देखे।
मुख्य निष्कर्ष
- ऑन-डिवाइस संभव है: आप डेटा को क्लाउड में भेजे बिना अपने स्वयं के कंप्यूटर पर परिष्कृत प्राइवेसी टूल्स चला सकते हैं।
- प्रॉम्प्टिंग मायने रखती है: भले ही बहुत छोटे AI मॉडल हों, वे विफल हो सकते हैं यदि आप उन्हें गलत उदाहरण देते हैं। उदाहरणों को बदलना (लोकेल-कंडीशन्ड प्रॉम्प्टिंग) "पैरट" समस्या को ठीक कर देता है।
- विविधता > यथार्थवाद: निजी डेटा को पहचानने के लिए AI को प्रशिक्षित करने के लिए, एक जनरेटर जो कई रैंडम, थोड़े अलग नकली नाम बनाता है, वह एक ऐसे जनरेटर से बेहतर है जो कुछ बहुत ही यथार्थवादी नाम बनाता है।
लेखकों ने अपना सारा कोड और डेटा जारी कर दिया है ताकि कोई भी इस "फर्जी आईडी फैक्ट्री" को खुद आज़मा सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।