Domain Agnostic Text Redaction from Natural Language Rules using Instruction Tuning
यह शोध पत्र एक व्याख्यात्मक, डोमेन-अज्ञेयवादी (domain-agnostic) टेक्स्ट रेडैक्शन फ्रेमवर्क प्रस्तुत करता है जो उपयोगकर्ता द्वारा परिभाषित प्राकृतिक भाषा के नियमों के आधार पर संवेदनशील जानकारी को पहचानने और उसे रेडैक्ट करने के लिए इंस्ट्रक्शन-ट्यून्ड लैंग्वेज मॉडल्स का लाभ उठाता है, जो कानूनी और चिकित्सा दस्तावेज़ीकरण जैसे महत्वपूर्ण अनुप्रयोगों में ऑडिटेबिलिटी और उच्च सटीकता सुनिश्चित करने के लिए प्रत्येक कार्रवाई के लिए पारदर्शी औचित्य प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक दुनिया में, चिकित्सा रिकॉर्ड और कानूनी अनुबंधों से लेकर वित्तीय रिपोर्टों तक, व्यक्तिगत और कॉर्पोरेट जानकारी की विशाल मात्रा साधारण टेक्स्ट के रूप में मौजूद है। जैसे-जैसे यह डेटा तेजी से डिजिटल हो रहा है, एक महत्वपूर्ण चुनौती उत्पन्न हो रही है: संवेदनशील रहस्यों को उजागर किए बिना इन दस्तावेजों को कैसे साझा या विश्लेषित किया जाए। जनरल डेटा प्रोटेक्शन रेगुलेशन (GDPR) और हेल्थ इंश्योरेंस पोर्टेबिलिटी एंड अकाउंटेबिलिटी एक्ट (HIPAA) जैसे कानून मांग करते हैं कि किसी सुरक्षित वातावरण से बाहर जाने से पहले विशिष्ट विवरणों, जैसे कि नाम, पते, या निजी चिकित्सा स्थितियों को छिपा दिया जाए। पारंपरिक रूप से, "सफाई" (sanitization) का यह कार्य उन कठोर कंप्यूटर प्रोग्रामों पर निर्भर रहा है जो फोन नंबर या सोशल सिक्योरिटी नंबर जैसे अनुमानित पैटर्न की तलाश करते हैं। मानक प्रारूपों के लिए प्रभावी होने के बावजूद, ये उपकरण अक्सर तब विफल हो जाते हैं जब संवेदनशील जानकारी जटिल, असंरचित वाक्यों में दिखाई देती है, जैसे कि किसी अनुबंध में एक विशिष्ट खंड या एक सूक्ष्म चिकित्सा निदान। इसके अलावा, जब ये स्वचालित उपकरण किसी टेक्स्ट को छिपाने का निर्णय लेते हैं, तो वे शायद ही कभी स्पष्ट करते हैं कि ऐसा क्यों किया गया, जिससे मानव ऑडिटरों को रेडैक्शन (redaction) के पीछे के तर्क का अनुमान लगाने के लिए मजबूर होना पड़ता है।
इस समस्या को हल करने के लिए, एमफिसिस लिमिटेड (Mphasis Limited) के शोधकर्ताओं की एक टीम ने एक नया दृष्टिकोण विकसित किया है जो टेक्स्ट रेडैक्शन को केवल 'सर्च-एंड-रिप्लेस' कार्य के रूप में नहीं, बल्कि एक तर्क संबंधी समस्या (reasoning problem) के रूप में देखता है। हर संभावित प्रकार के संवेदनशील डेटा के लिए नियम हार्ड-कोड करने के बजाय, उन्होंने एक ऐसी प्रणाली बनाई है जहाँ एक मनुष्य साधारण अंग्रेजी में यह वर्णन कर सकता है कि क्या छिपाने की आवश्यकता है। उदाहरण के लिए, एक उपयोगकर्ता बस कह सकता है, "इस वित्तीय रिपोर्ट में विशिष्ट क्लाइंट शुल्क के किसी भी उल्लेख को छिपा दें," या "इस कानूनी समझौते में भूमि के भूखंड के स्थान से संबंधित सभी विवरण हटा दें।" इसके बाद, सिस्टम एक लार्ज लैंग्वेज मॉडल (LLM) का उपयोग करके इन प्राकृतिक भाषा निर्देशों को तार्किक नियमों के एक सेट में अनुवादित करता है। इन नियमों का उपयोग एक छोटे, अधिक कुशल लैंग्वेज मॉडल को प्रशिक्षित करने के लिए किया जाता है जो एक दस्तावेज़ को पढ़ सकता है, संदर्भ को समझ सकता है, और ठीक से तय कर सकता है कि कौन से शब्द या वाक्यांश उपयोगकर्ता की परिभाषा के अनुसार संवेदनशील हैं। महत्वपूर्ण बात यह है कि यह सिस्टम केवल टेक्स्ट को ब्लैक आउट नहीं करता है; यह हटाए गए प्रत्येक सूचना के लिए एक लिखित स्पष्टीकरण उत्पन्न करता है, जिसमें उस विशिष्ट नियम का हवाला दिया जाता है जिसने उस कार्रवाई को प्रेरित किया।
शोधकर्ताओं ने वित्तीय खुलासे, क्लाइंट एंगेजमेंट विवरण और मेडिकल रिकॉर्ड सहित विभिन्न प्रकार के दस्तावेजों पर इस पद्धति का परीक्षण किया। उन्होंने पाया कि यह प्रणाली संवेदनशील सामग्री की सटीक पहचान कर सकती है और उसे रेडेक्ट कर सकती है जिसे पारंपरिक उपकरण छोड़ देते, जैसे कि जटिल कानूनी शब्द या विशिष्ट व्यावसायिक रणनीतियाँ, जबकि गैर-संवेदनशील जानकारी को अछूता छोड़ दिया। यह सुनिश्चित करने के लिए कि सिस्टम वास्तव में सुरक्षित है, उन्होंने रेडेक्ट किए गए दस्तावेजों को एक कठोर परीक्षण के अधीन रखा जहाँ एक शक्तिशाली आर्टिफिशियल इंटेलिजेंस ने आसपास के टेक्स्ट के आधार पर छिपी हुई जानकारी का अनुमान लगाने का प्रयास किया। सिस्टम अत्यधिक लचीला साबित हुआ; AI रेडेक्ट किए गए विवरणों का पुनर्निर्माण करने में असमर्थ रहा, जो यह दर्शाता है कि संवेदनशील जानकारी प्रभावी ढंग से हटा दी गई थी न कि केवल अस्पष्ट की गई थी। अपने परीक्षण में, मॉडल ने पूछे गए संवेदनशील मामलों में से 95 प्रतिशत से अधिक को सफलतापूर्वक पहचाना और रेडेक्ट किया।
इस कार्य में एक प्रमुख नवाचार सिंथेटिक डेटा का उपयोग करना है। मॉडल को वास्तविक, निजी दस्तावेज़ खिलाने के बजाय, शोधकर्ताओं ने एक लार्ज लैंग्वेज मॉडल का उपयोग करके हजारों नकली दस्तावेज़ बनाए जो वास्तविक दुनिया के परिदृश्यों की नकल करते थे। इन सिंथेटिक दस्तावेजों में संवेदनशील और गैर-संवेदनशील दोनों प्रकार की सामग्री, साथ ही सही रेडैक्शन और स्पष्टीकरण शामिल थे। इसने छोटे मॉडल को वास्तविक व्यक्ति के निजी डेटा को देखे बिना गोपनीयता नियमों के बारे में तर्क करना सीखने में मदद की। इसका परिणाम एक ऐसा उपकरण है जो लचीला और पारदर्शी है। यह दस्तावेज़ों के नए प्रकारों और संवेदनशीलता की नई परिभाषाओं के अनुकूल तुरंत ढल सकता है, बस एक मनुष्य के निर्देशों को सुनकर। प्रत्येक रेडैक्शन के लिए एक स्पष्ट, प्राकृतिक भाषा का औचित्य प्रदान करके, यह प्रणाली स्वचालित दक्षता और मानवीय जवाबदेही के बीच के अंतर को पाटती है, जो गोपनीयता की सुरक्षा का एक ऐसा तरीका प्रदान करती है जो प्रभावी होने के साथ-साथ समझने योग्य भी है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।