An Intelligent Decision Support System for Detecting Coercive Control: A Privacy-Preserving Approach

कल्पना कीजिए कि आप एक जासूस हैं जो एक अपराध को सुलझाने की कोशिश कर रहे हैं, लेकिन अपराध स्थल दो लोगों के बीच एक गुप्त बातचीत है। समस्या यह है कि कानून के बहुत कड़े नियम हैं: आप बस वास्तविक चैट लॉग नहीं ले सकते क्योंकि इससे लोगों की गोपनीयता का उल्लंघन होगा। इससे जासूस के पास एक बहुत बड़ा खाली स्थान बच जाता है जहाँ सबूत होने चाहिए—एक "फोरेंसिक डेटा गैप" (Forensic Data Gap)। इस तरह के अपराधों को हल करने के लिए, वैज्ञानिकों को आमतौर पर अपने कंप्यूटर को यह सिखाने के लिए हजारों वास्तविक उदाहरणों का अध्ययन करने की आवश्यकता होती है कि "बुरा व्यवहार" कैसा दिखता है। लेकिन जब बुरा व्यवहार सूक्ष्म होता है, जैसे कि एक माता-पिता द्वारा धीरे-धीरे बच्चे को पागल महसूस कराना या एक साथी द्वारा चुप्पी और दोषारोपण के माध्यम से नियंत्रण करना (जिसे 'कोएर्सिव कंट्रोल' या जबरदस्ती नियंत्रण कहा जाता है), तो गोपनीयता कानूनों को तोड़े बिना वास्तविक उदाहरण ढूंढना अविश्वसनीय रूप से कठिन हो जाता है।

यहीं पर नेचुरल लैंग्वेज प्रोसेसिंग (NLP) नामक विज्ञान की एक शाखा काम आती है। NLP को ऐसे समझें जैसे कि कंप्यूटर को मानव भाषा को पढ़ने और समझने के लिए प्रशिक्षित करना, न कि केवल यह गिनना कि कितनी बार किसी बुरे शब्द का उपयोग किया गया है, बल्कि कहानी, समय और मूड को समझना। आमतौर पर, कंप्यूटर स्पष्ट घृणास्पद भाषण (जैसे "मुझे तुमसे नफरत है!" चिल्लाना) को पहचानने में बहुत अच्छे होते हैं, लेकिन वे उस शांत, चालाकी भरे शोषण को पहचानने में बहुत खराब होते हैं जो हफ्तों या महीनों तक चलता है। यह शोध पत्र इस खाली साक्ष्य अंतराल को भरने की कोशिश करता है, एक "आभासी अपराध स्थल" (Virtual Crime Scene) बनाकर। वास्तविक निजी चैट चुराने के बजाय, शोधकर्ताओं ने एक शक्तिशाली AI का उपयोग करके हजारों नकली बातचीत लिखीं जो इतनी वास्तविक हैं कि वे बिल्कुल असली चीज़ की तरह दिखती और महसूस होती हैं, लेकिन बिना किसी की गोपनीयता को नुकसान पहुँचाए।

बड़ी अवधारणा: एक आभासी अपराध स्थल बनाना

शोधकर्ताओं, ध्रुव पटेल, अभिषेक कौशल और अंजू जॉनसन के सामने एक पेचीदा समस्या थी: आप मनोवैज्ञानिक शोषण का अध्ययन कैसे कर सकते हैं बिना पीड़ितों के निजी संदेशों को देखे? उन्होंने एक "सिंथेटिक" (कृत्रिम) डेटासेट बनाने का निर्णय लिया। कल्पना कीजिए कि एक वीडियो गेम डिजाइनर को एक नया स्तर टेस्ट करने की आवश्यकता है। वास्तविक खिलाड़ियों के फंसने का इंतजार करने के बजाय, वे गेम मैकेनिक्स का परीक्षण करने के लिए स्तर का एक आदर्श, सिम्युलेटेड संस्करण बनाते हैं। वैज्ञानिकों ने मानव व्यवहार के लिए बिल्कुल यही किया।

उन्होंने एक स्मार्ट AI (विशेष रूप से GPT-4 नामक मॉडल) का उपयोग करके एक "अपराधी" और एक "पीड़ित" के बीच नकली बातचीत लिखी। लेकिन उन्होंने AI को केवल बेतरतीब ढंग से चैट करने के लिए नहीं छोड़ा। उन्होंने इसे चिकित्सा पाठ्यपुस्तकों (DSM-5) पर आधारित एक सख्त नियम पुस्तिका दी जो एक विशिष्ट प्रकार के व्यक्तित्व विकार, जिसे 'नार्सिसिस्टिक पर्सनैलिटी डिसऑर्डर' (NPD) कहा जाता है, का वर्णन करती है। उन्होंने AI को विशिष्ट व्यवहारों को निभाने के लिए कहा, जैसे कि "ग्रैंडियोसिटी" (यह दिखाना कि आप दूसरों से बेहतर हैं), "सहानुभूति की कमी" (जब कोई दुखी हो तो उसे अनदेखा करना), और "शोषणकारी प्रकृति" (अपने लाभ के लिए लोगों का उपयोग करना)।

उनकी रेसिपी का सबसे रचनात्मक हिस्सा इसमें "समय" को मिलाना था। वास्तविक जीवन में, अपराधी अक्सर चुप्पी को एक हथियार के रूप में इस्तेमाल करते हैं। वे दूसरे व्यक्ति को चिंतित करने के लिए एक टेक्स्ट का जवाब देने में 14 घंटे तक इंतजार कर सकते हैं, या किसी दुखद संदेश को खारिज करने के लिए तुरंत जवाब दे सकते हैं। शोधकर्ताओं ने AI को नकली चैट में विशेष "टाइम टोकन" डालने के लिए सिखाया, जैसे कि <DELAY: 14 HOURS>। इसने AI को वास्तविक शोषण की धीमी, हेरफेर वाली गति को सिम्युलेट करने के लिए मजबूर किया, न कि केवल गुस्से वाले शब्द लिखने के लिए। उन्होंने इन नकली बातचीत के 275 जोड़े बनाए, जिनमें 2,400 से अधिक संदेश थे, ताकि उन्हें प्रशिक्षण का आधार बनाया जा सके।

कंप्यूटर को अदृश्य को पहचानना सिखाना

एक बार जब उनके पास नकली सबूत आ गए, तो उन्हें एक कंप्यूटर को यह सिखाना था कि इसे कैसे पहचाना जाए। उन्होंने इन नकली बातचीत पर 'डिस्टिलबर्ट' (DistilBERT) नामक एक छोटे, तेज़ AI मॉडल को प्रशिक्षित किया। उनका लक्ष्य यह देखना था कि क्या यह कंप्यूटर शोषण के पैटर्न को पहचान सकता है, भले ही शब्द स्वयं विनम्र लगें।

परिणाम काफी दिलचस्प थे। जब उन्होंने पुराने, सरल तरीकों (जैसे कि ऐसे प्रोग्राम जो केवल बुरे शब्दों को गिनते हैं) के मुकाबले इस नए AI का परीक्षण किया, तो नया AI आसानी से जीत गया। पुराने तरीके बुरी तरह विफल रहे क्योंकि वे "अंतर्निets" (subtext) को नहीं देख सके। उदाहरण के लिए, यदि एक अपराधी कहता है, "मैं यह केवल इसलिए कर रहा हूँ क्योंकि मैं तुम्हारे मानसिक स्वास्थ्य की परवाह करता हूँ," तो एक साधारण वर्ड-काउंटर "परवाह" शब्द को देखता है और सोचता है कि यह एक अच्छा संदेश है। लेकिन नया AI, जिसने नकली पैटर्न का अध्ययन किया था, उन अच्छे शब्दों के पीछे के नियंत्रित लहजे को पहचान लेता है।

नकली डेटा पर प्रशिक्षित कंप्यूटर ने 0.75 के F1-स्कोर के साथ कोएर्सिव कंट्रोल का पता लगाया। कंप्यूटर विज्ञान की दुनिया में, यह एक मजबूत संकेत है कि मॉडल वास्तव में व्यवहार को सीख रहा है, न कि केवल अनुमान लगा रहा है। और भी प्रभावशाली बात यह है कि जब उन्होंने इस कंप्यूटर का परीक्षण वास्तविक डेटा पर किया जिसे उसने पहले कभी नहीं देखा था—जैसे कि यूके के वास्तविक अदालती ट्रांसक्रिप्ट और रेडिट (Reddit) के वास्तविक थ्रेड्स—तब भी इसने अच्छा प्रदर्शन किया, कानूनी ग्रंथों पर 0.72 और रेडिट डेटा पर 0.65 का स्कोर किया। यह बताता है कि "नकली" प्रशिक्षण डेटा कंप्यूटर को "असली" चीज़ को पहचानने के लिए सिखाने के लिए पर्याप्त अच्छा था।

कंप्यूटर क्या नहीं कर सकता (और यह क्यों ठीक है)

यह पेपर बहुत स्पष्ट है कि यह उपकरण क्या नहीं है। यह किसी व्यक्ति के मानसिक रोग का निदान करने वाला कोई जादुई क्रिस्टल बॉल नहीं है। यह भी पूर्ण नहीं है। कंप्यूटर ने कुछ गलतियाँ कीं, ज्यादातर बहुत अधिक सतर्क होने के कारण। इसने कुछ सामान्य, गरमागरम बहसों को भी शोषण के रूप में चिह्नित किया (एक "फॉल्स पॉजिटिव")। शोधकर्ता बताते हैं कि यह वास्तव में एक विशेषता है, बग नहीं, क्योंकि एक विशेष कारण है।

कल्पthoughtिए कि आपके घर में एक स्मोक डिटेक्टर (धुआं पहचानने वाला यंत्र) है। आप चाहते हैं कि यह इतना संवेदनशील हो कि अगर आपने टोस्ट जला दिया तो भी यह बज उठे, क्योंकि आप वास्तविक आग को मिस करने के बजाय एक गलत अलार्म को चुनेंगे। इसी तरह, इस AI को मानव जांचकर्ताओं के लिए एक "ट्राइएज टूल" (छंटनी उपकरण) के रूप में डिज़ाइन किया गया है। इसका उद्देश्य संदिग्ध बातचीत को फ्लैग करना है ताकि एक वास्तविक मानव विशेषज्ञ उसकी जांच कर सके। कंप्यूटर कहता है, "हे, इस बातचीत में कुछ अजीब पैटर्न हैं, कृपया इसे देखें," और फिर इंसान तय करता है कि क्या यह वास्तव में शोषण है। पेपर इस बात पर जोर देता है कि कंप्यूटर मानव निर्णय का स्थान नहीं ले सकता क्योंकि वह दो लोगों के बीच के जटिल सामाजिक इतिहास को नहीं समझता; वह केवल टेक्स्ट और समय को देखता है।

निष्कर्ष: गोपनीयता-संरक्षित भविष्य के लिए एक नया उपकरण

इस अध्ययन का मुख्य निष्कर्ष यह है कि हम किसी की गोपनीयता का उल्लंघन किए बिना "फोरेंसिक डेटा गैप" को भर सकते हैं। सख्त चिकित्सा नियमों का उपयोग करके नकली बातचीत उत्पन्न करके, शोधकर्ताओं ने एक ऐसा डेटासेट बनाया जो इतना वास्तविक है कि उस पर प्रशिक्षित कंप्यूटर वास्तविक दुनिया के शोषण के पैटर्न को सफलतापूर्वक पहचान सकता है। उन्होंने साबित किया कि आपको लोगों को बचाने वाले उपकरण बनाने के लिए उनके निजी रहस्य चुराने की आवश्यकता नहीं है।

हालाँकि, लेखक सावधानी बरतते हुए कहते हैं कि यह एक "सुझावात्मक" कदम है, अंतिम समाधान नहीं। नकली डेटा ने उनके परीक्षणों में अच्छा काम किया, लेकिन यह देखने के लिए और अधिक शोध की आवश्यकता है कि क्या यह विभिन्न संस्कृतियों और भाषाओं में काम करता है। उन्होंने यह भी नोट किया कि कंप्यूटर अभी भी हेरफेर के कुछ सूक्ष्म रूपों के साथ संघर्ष करता है, जैसे कि जब एक अपराधी "झूठी चिंता" के पीछे अपने नियंत्रण को छिपाता है।

अंत में, यह पेपर एक आशाजनक नया रास्ता प्रदान करता है: एक ऐसा तरीका जिससे बुद्धिमान उपकरण बनाए जा सकते हैं जो जासूसों और समाज सेवकों को मनोवैज्ञानिक शोषण को पहचानने में मदद करें, और यह सब करते हुए वास्तविक पीड़ितों के निजी जीवन को पूरी तरह सुरक्षित रखा जा सके। यह एक पालतू कुत्ते को प्रशिक्षित करने जैसा है जिसमें एक यथार्थवादी दिखने वाले रोबोट कुत्ते का उपयोग किया गया है; गार्ड डॉग खतरे को पहचानना सीख जाता है, लेकिन सिखाने के लिए कभी भी किसी वास्तविक जानवर को खतरे में नहीं डाला गया।