Beyond Content: Behavioral Policies Reveal Actors in Information Operations
यह शोध पत्र एक प्लेटफॉर्म-अज्ञेय (platform-agnostic) ढांचे को प्रस्तुत करता है जो स्थिर व्यवहार संबंधी नीतियों की पहचान करने के लिए उपयोगकर्ता गतिविधि को क्रमिक निर्णय प्रक्रियाओं के रूप में मॉडल करके दुर्भावनापूर्ण प्रभाव अभियानों का पता लगाने में पारंपरिक सामग्री-आधारित विधियों से बेहतर प्रदर्शन करता है, जिससे सीमित डेटा या सिंथेटिक सामग्री के साथ भी उच्च सटीकता और शीघ्र पता लगाना संभव होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
इंटरनेट की कल्पना एक विशाल, अराजक डिजिटल टाउन स्क्वायर के रूप में करें। वर्षों तक, शरारती तत्वों (जैसे बॉट्स या समन्वित ट्रोल) को पकड़ने की कोशिश करने वाले सुरक्षा गार्ड मुख्य रूप से दो चीजों को देखते थे: लोग क्या कह रहे हैं (सामग्री) और उनके दोस्त कौन हैं (नेटवर्क)। यह किसी जेबकतरे को उसका बटुआ पढ़कर या उसकी एड्रेस बुक चेक करके पकड़ने की कोशिश करने जैसा था। लेकिन हाल ही में, जेबकतरे अधिक समझदार हो गए हैं। वे आर्टिफिशियल इंटेलिजेंस का उपयोग करके सटीक वाक्य लिख सकते हैं, और उन्होंने अपनी फ्रेंड लिस्ट छिपाना भी सीख लिया है। इसने पुराने "शब्दों को देखने" वाले तरीके को कम प्रभावी बना दिया है।
इस समस्या को हल करने के लिए, वैज्ञानिक कुछ और देखने लगे हैं: किसी व्यक्ति के कार्यों की लय (रदम)। इसे एक नृत्य की तरह समझें। भले ही एक नर्तक अपनी पोशाक या संगीत बदल दे, लेकिन उसके कदम रखने, मुड़ने और रुकने का अनूठा तरीका अक्सर वही रहता है। कंप्यूटर विज्ञान की दुनिया में, इसे "व्यवहार संबंधी नीति" (behavioral policy) कहा जाता है। यह इस विचार पर आधारित है कि कोई व्यक्ति प्लेटफॉर्म के साथ कैसे और कब बातचीत करता है, यह एक ऐसा फिंगरप्रिंट है जिसे उस पर लिखे गए शब्दों की तुलना में बदलना बहुत कठिन है। शोधकर्ता एक बड़ा सवाल पूछ रहे हैं: क्या हम बुरे लोगों को उनके 'डांस मूव्स' को देखकर पकड़ सकते हैं, भले ही हम उनके 'लिरिक्स' (गीत के बोल) न पढ़ सकें?
यह शोध पत्र, जिसका शीर्षक है "बियॉन्ड कंटेंट: बिहेवियरल पॉलिसीज रिवील एक्टर्स इन इन्फॉर्मेशन ऑपरेशंस," इसी प्रश्न की गहराई में जाता है और रेडिट (Reddit) को अपना खेल का मैदान बनाता है। शोधकर्ताओं ने 12,000 से अधिक उपयोगकर्ताओं का अध्ययन किया, जिनमें 99 खाते शामिल थे जिन्हें रेडिट ने आधिकारिक तौर पर रूसी इंटरनेट रिसर्च एजेंसी (ट्रोल) से जुड़ा हुआ बताया था, और हजारों नियमित उपयोगकर्ता (ऑर्गनिक्स)। उन्होंने केवल पोस्ट नहीं पढ़ीं; उन्होंने प्रत्येक उपयोगकर्ता के इतिहास को निर्णयों के एक क्रम के रूप में देखा, जैसे कि एक वीडियो गेम जहाँ खिलाड़ी "एक नया थ्रेड शुरू करना," "एक टिप्पणी का उत्तर देना," या "प्रतिक्रिया के लिए प्रतीक्षा करना" चुनता है।
टीम ने "इनवर्स रीइन्फोर्समेंट लर्निंग" नामक एक चतुर गणितीय तकनीक का उपयोग किया। कल्पना कीजिए कि आप एक मास्टर शेफ को खाना बनाते हुए देख रहे हैं। आप रेसिपी नहीं जानते, लेकिन उन्हें काटते, मिलाते और चखते हुए देखकर, आप अनुमान लगा सकते हैं कि वे किन गुप्त नियमों का पालन कर रहे हैं। शोधकर्ताओं ने भी यही किया: उन्होंने ट्रोल्स और नियमित उपयोगकर्ताओं को कार्य करते हुए देखा, और उन्होंने यह समझने की कोशिश की कि प्रत्येक समूह किस "नियम पुस्तिका" (या नीति) के अनुसार खेल रहा है। उन्होंने पाया कि ट्रोल्स का एक बहुत ही विशिष्ट, कठोर डांस रूटीन था। वे विशिष्ट घंटों के दौरान (जैसे अमेरिका में सुबह के समय) तीव्र गति से पोस्ट करते थे, कई नए चर्चा थ्रेड्स बनाते थे, और बहुत कम बार आगे-पीछे की बातचीत (रिप्लाई) में शामिल होते थे। इसके विपरीत, नियमित उपयोगकर्ताओं का लय अधिक सहज और विविध था, जो अक्सर मौजूदा बातचीत का उत्तर देकर शुरुआत करते थे।
परिणाम चौंकाने वाले थे। जब शोधकर्ताओं ने इन "डांस मूव्स" (व्यवहार संबंधी नीतियों) पर आधारित एक डिटेक्टर बनाया, तो यह टेक्स्ट-आधारित डिटेक्टर की तुलना में ट्रोल्स को पकड़ने में बहुत बेहतर था। सबसे अच्छा व्यवहार संबंधी मॉडल ने 94.9% बार ट्रोल्स की सही पहचान की, जबकि टेक्स्ट-आधारित मॉडल केवल 91.2% ही सफल रहा। इससे भी अधिक प्रभावशाली बात यह है कि व्यवहार संबंधी डिटेक्टर तब भी अच्छी तरह काम करता था जब उसने उपयोगकर्ता के इतिहास का एक बहुत छोटा हिस्सा देखा—केवल तीन क्रियाएं। यह सुझाव देता है कि ट्रोल का "फिंगरप्रिंट" लगभग तुरंत दिखाई देने लगता है, इससे बहुत पहले कि उनके पास टेक्स्ट विश्लेषण द्वारा पकड़े जाने के लिए पर्याप्त शब्द हों।
शोध पत्र ने यह भी परीक्षण किया कि जब बुरे लोग धोखाधड़ी करने की कोशिश करते हैं, तो ये डिटेक्टर कितनी अच्छी तरह टिक पाते हैं। उन्होंने उन परिदृश्यों का अनुकरण किया जहाँ एक ट्रोल अकाउंट को "हाईजैक" (एक वास्तविक व्यक्ति के व्यवहार के साथ मिलाना) किया गया था या जहाँ डेटा को जानबूझकर शोर (नॉइज़) के साथ अस्त-व्यस्त किया गया था। व्यवहार संबंधी डिटेक्टर अधिक लचीले थे; वे 'ग्रेसफुली डिग्रेड' हुए, जिसका अर्थ है कि डेटा अव्यवस्थित होने पर भी वे काफी हद तक काम करते रहे, जबकि टेक्स्ट-आधारित डिटेक्टर अधिक संघर्ष करते रहे। हालांकि, लेखकों ने नोट किया कि यह कोई जादुई समाधान नहीं है। उन्होंने कुछ "सुपर-ट्रोल्स" को भी पाया जो सामान्य लोगों की नकल करने में इतने माहिर थे कि उनके उन्नत डिटेक्टर भी भ्रमित हो गए और उन्हें सामान्य उपयोगकर्ता समझ बैठे।
संक्षेप में, यह शोध बताता है कि AI-जनरेटेड टेक्स्ट और छिपे हुए नेटवर्क के युग में, एक समन्वित सूचना अभियान को पहचानने का सबसे अच्छा तरीका यह नहीं है कि वे क्या कहते हैं उसे पढ़ा जाए, बल्कि यह देखना है कि वे कैसे चलते हैं। उपयोगकर्ताओं को विशिष्ट आदतों वाले निर्णय लेने वालों के रूप में मॉडल करके, हम हेरफेर के उन छिपे हुए पैटर्न को ढूंढ सकते हैं जिन्हें शब्द अकेले छिपा सकते हैं। हालांकि यह अध्ययन विशेष रूप से रेडिट और 2015-2018 की अवधि के लिए है, यह हमारे डिजिटल टाउन स्क्वायर को सुरक्षित रखने के लिए एक आशाजनक नया उपकरण प्रदान करता है: लय पर ध्यान दें, केवल तुकबंदी पर नहीं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।