← नवीनतम पेपर
💬 NLP

DP-MGTD: Privacy-Preserving Machine-Generated Text Detection via Adaptive Differentially Private Entity Sanitization

यह शोध पत्र DP-MGTD का प्रस्ताव करता है, जो एक गोपनीयता-संरक्षण ढांचा है जो अनुकूली विभेदक रूप से निजी इकाई स्वच्छता (adaptive differentially private entity sanitization) का उपयोग करता है ताकि न केवल उपयोगकर्ता डेटा की सुरक्षा की जा सके, बल्कि शोर के प्रति विशिष्ट संवेदनशीलता पैटर्न का लाभ उठाकर मशीन-जनित पाठ पहचान की सटीकता को अप्रत्याशित रूप से बढ़ाया जा सके।

मूल लेखक: Lionel Z. Wang, Yusheng Zhao, Jiabin Luo, Xinfeng Li, Lixu Wang, Yinan Peng, Haoyang Li, XiaoFeng Wang, Wei Dong

प्रकाशित 2026-07-30
📖 9 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Lionel Z. Wang, Yusheng Zhao, Jiabin Luo, Xinfeng Li, Lixu Wang, Yinan Peng, Haoyang Li, XiaoFeng Wang, Wei Dong

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो एक रहस्य सुलझाने की कोशिश कर रहे हैं: "यह कहानी किसने लिखी?" अतीत में, यह आसान था क्योंकि इंसान और मशीन बहुत अलग तरह से लिखते थे। लेकिन आज, शक्तिशाली AI कंप्यूटर (जिन्हें लार्ज लैंग्वेज मॉडल कहा जाता है) कहानियाँ, ईमेल और निबंध लिख सकते हैं जो लगभग बिल्कुल इंसानों जैसे लगते हैं। यह एक बड़ी समस्या पैदा करता है। यदि आप जानना चाहते हैं कि किसी छात्र ने नकल की है या कोई समाचार लेख फर्जी है, तो आपको उस टेक्स्ट को एक डिटेक्टर (पहचानने वाले यंत्र) के पास भेजना होगा। लेकिन क्या होगा अगर उस टेक्स्ट में आपके गुप्त मेडिकल रिकॉर्ड, आपके बैंक खाते के नंबर या आपका घर का पता हो? टेक्स्ट को किसी तीसरे पक्ष को भेजना जोखिम भरा लगता है।

यहीं पर एक कठिन संतुलन बनाने की चुनौती आती है। अपने रहस्यों को बचाने के लिए, आप संवेदनशील हिस्सों को छिपाने की कोशिश कर सकते हैं (जैसे अपने नाम को "जॉन डो" में बदलना)। लेकिन यदि आप बहुत अधिक बदलाव करते हैं, तो जासूस कहानी को पढ़ नहीं पाएगा, और AI डिटेक्टर भ्रमित हो जाएगा। दूसरी ओर, यदि आप अपने डेटा को पूरी तरह से छिपाने के लिए सख्त गणितीय नियमों का उपयोग करने का प्रयास करते हैं, तो आप अनजाने में उन सुरागों को भी बिगाड़ सकते हैं जिनकी जासूस को AI को पकड़ने के लिए आवश्यकता होती है। वैज्ञानिक इसे "प्राइवेसी बनाम यूटिलिटी" (गोपनीयता बनाम उपयोगिता) की दुविधा कहते हैं। यह एक संदिग्ध की फोटो खींचने की कोशिश करने जैसा है जबकि आपने आँखों पर पट्टी और कानों पर शोर-रद्द करने वाले हेडफ़ोन पहने हों; आप सुरक्षित तो हो सकते हैं, लेकिन आप अपराधी को पकड़ नहीं पाएंगे।

यहाँ शोधकर्ताओं की एक नई टीम है जिन्होंने DP-MGTD नामक एक चतुर उपकरण बनाया है। उन्होंने खेल के नियमों में एक आश्चर्यजनक मोड़ खोजा है। आमतौर पर, डेटा में "शोर" (noise) जोड़ने से उसे छिपाना आसान होता है, लेकिन इससे विश्लेषण करना कठिन हो जाता है। लेकिन इन शोधकर्ताओं ने पाया कि जब वे टेक्स्ट के विशिष्ट हिस्सों (जैसे संख्याओं और नामों) में सावधानीपूर्वक गणितीय शोर जोड़ते हैं, तो यह वास्तव में यह बताने में आसान हो जाता है कि टेक्स्ट एक इंसान ने लिखा था या एक रोबोट ने। यह ऐसा है जैसे AI, जब उसे "डिजिटल आँखों की पट्टी" पहनने के लिए मजबूर किया जाता है, तो वह अपने ही पैरों में उलझकर गिर जाता है, जबकि इंसान ऐसा कभी नहीं करते।

समस्या: प्राइवेसी का जाल (The Privacy Trap)

कल्पना कीजिए कि आप एक दोस्त को पत्र भेज रहे हैं, लेकिन आपको डर है कि कोई जासूस इसे पढ़ सकता है। आप अपना नाम और पता काट देते हैं। लेकिन अब, आपके दोस्त को नहीं पता कि पत्र किसने भेजा है और पत्र अजीब और टूटा हुआ सा लगता है। AI टेक्स्ट का पता लगाने के मौजूदा तरीकों के साथ यही होता है। यदि आप संवेदनशील जानकारी (जैसे क्रेडिट कार्ड नंबर या नाम) को बहुत आक्रामक तरीके से छिपाने की कोशिश करते हैं, तो टेक्स्ट का स्वाभाविक प्रवाह खो जाता है और डिटेक्टर भ्रमित हो जाते हैं। यदि आप इसे पर्याप्त रूप से नहीं छिपाते हैं, तो आपकी गोपनीयता खतरे में पड़ जाती है।

शोधकर्ता इस समस्या को बिना टेक्स्ट को तोड़े हल करना चाहते थे। उन्हें एक ऐसा तरीका चाहिए था जिससे वे "गुप्त सामग्री" (संवेदनशील डेटा) की रक्षा कर सकें, जबकि वाक्य का "स्वाद" बरकरार रहे ताकि डिटेक्टर अपना काम कर सके।

समाधान: एक स्मार्ट, दो-चरणीय मास्किंग गेम

टीम ने DP-MGTD नामक एक प्रणाली बनाई है। इसे एक बहुत ही स्मार्ट संपादक (editor) के रूप में समझें जो डिटेक्टर को भेजने से पहले टेक्स्ट के माध्यम से जाता है। इस संपादक के पास "डिफरेंशियल प्राइवेसी" (Differential Privacy) नामक एक विशेष नियम पुस्तिका है, जो यह गणितीय गारंटी है कि आपके विशिष्ट रहस्य छिपे रहेंगे।

यहाँ बताया गया है कि उनका संपादक चरण-दर-चरण कैसे काम करता है:

  1. "भीड़ की गिनती" (Noisy Frequency Estimation): सबसे पहले, संपादक यह देखने के लिए टेक्स्ट को देखता है कि उसमें कितनी संवेदनशील चीजें हैं। लेकिन चीजों को सटीक रूप से गिनने के बजाय (जो बहुत कुछ उजागर कर सकता है), यह गिनती में थोड़ा सा "स्टैटिक" या "शोर" जोड़ देता है। यह कमरे में कितने लोग हैं, इसका अंदाजा लगाने के लिए सिर गिनने के बजाय शोर के स्तर को सुनने जैसा है। यह सटीक संख्या बताए बिना यह एक मोटा विचार देता है कि कितने रहस्यों को बचाने की आवश्यकता है।
  2. "स्मार्ट बजट" (Adaptive Allocation): अब, संपादक के पास सीमित "प्राइवेसी मनी" (जिसे प्राइवेसी बजट कहा जाता है) खर्च करने के लिए है। यह पहले चरण से प्राप्त अनुमान का उपयोग यह तय करने के लिए करता है कि प्रत्येक प्रकार के रहस्य में कितना शोर जोड़ा जाए।
    • संख्याओं के लिए: यदि टेक्स्ट में फोन नंबर या डॉलर की राशि है, तो संपादक लैप्लास मैकेनिज्म (Laplace Mechanism) नामक विधि का उपयोग करता है। कल्पना कीजिए कि यह संख्या में थोड़ा सा "धुंधलापन" जोड़ने जैसा है। एक फोन नंबर जैसे 555-0199 बदलकर 555-0203 हो सकता है। यह करीब है, लेकिन सटीक नहीं।
    • शब्दों के लिए: यदि टेक्स्ट में "माइकल" जैसा कोई नाम है, तो संपादक एक्सपोनेंशियल मैकेनिज्म (Exponential Mechanism) का उपयोग करता है। यह एक जादू की टोपी की तरह है जो एक यादृच्छिक लेकिन समान नाम निकालती है, जैसे "माइकल" का "जेम्स" में बदलना। यह एक ऐसा प्रतिस्थापन चुनता है जो संदर्भ में फिट बैठता है लेकिन मूल व्यक्ति नहीं है।

चतुराई इस बात में है कि संपादक केवल यादृच्छिक रूप से शोर नहीं जोड़ता है। वह कितना शोर जोड़ना है, यह इस आधार पर समायोजित करता है कि उसने कितने रहस्य पाए हैं। यदि बहुत सारे रहस्य हैं, तो वह अपने "प्राइवेसी मनी" को सावधानी से फैला देता है ताकि टेक्स्ट बहुत अधिक बिगड़े नहीं।

बड़ा आश्चर्य: शोर AI को लड़खड़ा देता है

यहाँ कहानी का सबसे रोमांचक हिस्सा है। शोधकर्ता उम्मीद कर रहे थे कि इस तरह का सारा शोर जोड़ने से AI का पता लगाना कठिन हो जाएगा। उन्हें लगा कि "धुंधलापन" सुरागों को छिपा देगा।

लेकिन उन्होंने इसके विपरीत पाया! जब उन्होंने यह स्मार्ट शोर लागू किया, तो AI-जनरेटेड टेक्स्ट अजीब व्यवहार करने लगा। यह पता चला कि AI मॉडल इन छोटे बदलावों के प्रति बहुत संवेदनशील होते हैं। जब आप एक संख्या बदलते हैं या एक नाम बदलते हैं, तो AI की "आवाज" एक विशिष्ट, अनुमानित तरीके से बदल जाती है। इंसान, दूसरी ओर, अधिक लचीले होते हैं। यदि आप किसी इंसान की कहानी में एक नाम बदलते हैं, तो कहानी अभी भी स्वाभाविक लगती है। लेकिन यदि आप AI की कहानी में एक नाम बदलते हैं, तो AI का आंतरिक तर्क लड़खड़ा जाता है, और डिटेक्टर उस लड़खड़ाहट को पकड़ सकता है।

यह एक इंसान और एक रोबोट को रस्सी पर चलने (tightrope walking) के लिए कहने जैसा है। यदि आप उन पर थोड़ा सा हवा का झोंका (शोर) फेंकते हैं, तो इंसान अपना संतुलन आसानी से बना लेता है। हालाँकि, रोबोट एक बहुत ही विशिष्ट पैटर्न में डगमगा सकता है जो उसे पकड़वा देता है। शोधकर्ताओं ने महसूस किया कि यह "डगमगाहट" वास्तव में एक बहुत शक्तिशाली सुराग है।

परिणाम: आँखों पर पट्टी बांधकर AI को पकड़ना

टीम ने अपने सिस्टम का परीक्षण MGTDBench-2.0 नामक ग्रंथों के एक विशाल संग्रह पर किया, जिसमें पांच अलग-अलग AI मॉडलों (जैसे Llama-3 और GPT-4) और तीन प्रकार के विषयों (विज्ञान, इतिहास और सामाजिक अध्ययन) में मानव लेखकों का लेखन शामिल था।

उन्होंने अपने तरीके की तुलना मौजूदा सर्वश्रेष्ठ डिटेक्टरों से की। परिणाम चौंकाने वाले थे:

  • "जीरो-शॉट" डिटेक्टरों के लिए (जो बिना प्रशिक्षण के अनुमान लगाने की कोशिश करते हैं), उनके तरीके ने सटीकता में काफी सुधार किया। उदाहरण के लिए, एक डिटेक्टर जो केवल रैंडम अनुमान लगाने से थोड़ा बेहतर था (लगм 0.42 स्कोर), उनके प्राइवेसी टूल का उपयोग करने के बाद एक बहुत मजबूत स्कोर (लगभग 0.81) पर पहुँच गया।
  • "ट्रेन्ड" (प्रशिक्षित) डिटेक्टरों के लिए (जो कड़ी मेहनत करने वाले छात्रों की तरह हैं), सुधार और भी जबरदस्त था। ये डिटेक्टर इंसानों और AI के बीच अंतर करने में संघर्ष कर रहे थे, जिनका स्कोर लगभग 0.60 था। लेकिन जब उन्होंने प्राइवेसी-सेफ (sanitized) टेक्स्ट का उपयोग किया, तो उनके स्कोर आसमान छूकर लगभग पूर्ण स्तर (0.99 से ऊपर) पर पहुँच गए।

सरल शब्दों में, प्राइवेसी टूल ने न केवल रहस्यों की रक्षा की; बल्कि इसने एक स्पॉटलाइट की तरह काम किया जिसने AI की गलतियों को और भी चमकदार बना दिया। सिस्टम ने उपयोगकर्ता के निजी डेटा को सुरक्षित रखते हुए लगभग पूर्ण डिटेक्शन सटीकता हासिल की।

यह क्यों महत्वपूर्ण है

यह पेपर सुझाव देता है कि हमें गोपनीयता और सुरक्षा के बीच चुनाव करने की आवश्यकता नहीं है। हम दोनों रख सकते हैं। संवेदनशील जानकारी को छिपाने के एक स्मार्ट, अनुकूलन योग्य तरीके का उपयोग करके, हम वास्तव में AI को पहचानने में बेहतर हो सकते हैं। यह एक गोपनीयता की समस्या को डिटेक्शन की सुपरपावर में बदल देता है।

शोधकर्ता स्वीकार करते हैं कि वे अभी भी पूरी तरह से नहीं समझते हैं कि AI शोर के प्रति इतना अधिक क्यों लड़खड़ाता है—उनके पास इस बात का प्रमाण है कि ऐसा होता है, लेकिन गहरा गणितीय "क्यों" अभी भी भविष्य के वैज्ञानिकों के लिए एक रहस्य बना हुआ है। वे यह भी नोट करते हैं कि उनकी विधि तब सबसे अच्छा काम करती है जब छिपाने के लिए स्पष्ट चीजें (जैसे नाम और संख्याएं) हों। यदि कोई टेक्स्ट बहुत अमूर्त (abstract) है और उसमें कोई विशिष्ट रहस्य नहीं है, तो सिस्टम को थोड़े और काम की आवश्यकता हो सकती है।

लेकिन फिलहाल, यह नया दृष्टिकोण एक आशाजनक मार्ग प्रदान करता है: एक ऐसी दुनिया जहाँ आप अपने लेखन को AI चेक करने के लिए साझा कर सकते हैं बिना इस डर के कि आपके रहस्य चोरी हो जाएंगे, और जहाँ रहस्यों को सुरक्षित करने की प्रक्रिया ही रोबोटों को पकड़ने में मदद करती है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →