Like Article, Like Audience: Enforcing Multimodal Correlations for Disinformation Detection

कल्पना कीजिए कि इंटरनेट एक विशाल, हलचल भरे शहर के चौक की तरह है जहाँ हर कोई चिल्ला रहा है, साझा कर रहा है और बहस कर रहा है। इस डिजिटल शहर में, "भ्रामक सूचना" (disinformation) एक अफवाह फैलाने वाली मशीन की तरह है जो लोगों को ठगने या मुश्किलें पैदा करने के लिए जंगली, झूठी कहानियाँ बुनती है। लंबे समय से, इन अफवाहों को रोकने की कोशिश करने वाले वैज्ञानिक मुख्य रूप से शब्दों पर ही ध्यान केंद्रित करते रहे हैं, जैसे कि कोई जासूस किसी कागज के टुकड़े में वर्तनी की गलतियों या संदिग्ध वाक्यांशों की जांच करने के लिए एक समाचार लेख का परीक्षण करता है। लेकिन यह शोध पत्र सुझाव देता है कि केवल कागज को देखना पर्याप्त नहीं है। यह एक नया विचार प्रस्तावित करता है: एक कहानी को समझने के लिए, आपको उस भीड़ को भी समझना होगा जो उसे पसंद करती है। यहाँ मुख्य अवधारणा "मल्टीमॉडल लर्निंग" (multimodal learning) है, जो बस एक फैंसी तरीका है यह कहने का कि हमें विभिन्न प्रकार के सुरागों को एक साथ देखना चाहिए—जैसे कि लेख का पाठ और उन लोगों का पाठ जो इसे साझा कर रहे हैं। बड़ा सवाल जो शोधकर्ता पूछते हैं वह सरल है: क्या फर्जी कहानी साझा करने वाले लोग और असली कहानी साझा करने वाले लोग दिखने और सुनने में अलग होते हैं? यदि हम कंप्यूटर को वह संबंध पहचानना सिखा सकें, तो शायद वह झूठ बोलने वालों को तेजी से पकड़ सके।

इस शोध पत्र के लेखकों ने, ट्विटर के डेटा के साथ काम करते हुए, एक स्मार्ट कंप्यूटर प्रोग्राम बनाने का निर्णय लिया जो एक ऐसे जासूस की तरह कार्य करता है जो न केवल हेडलाइन पढ़ता है, बल्कि उसे पकड़े हुए लोगों के आईडी कार्ड भी चेक करता है। उन्होंने एक ऐसा सिस्टम बनाया जो दो चीजों को एक साथ देखकर सीखता है: समाचार लेख स्वयं और उसे साझा करने वाले लोगों की "यूजर-जेनरेटेड कंटेंट" (user-generated content)। यूजर-जेनरेटेड कंटेंट बस वह सामग्री है जो आम लोग बनाते हैं, जैसे कि आपका ट्विटर बायो (प्रोफ़ाइल विवरण) और आपके हालिया ट्वीट्स। शोधकर्ताओं ने गौर किया कि लोगों का आमतौर पर एक सुसंगत ऑनलाइन व्यक्तित्व होता है; यदि आप अपने बायो में संगीत के बारे में लिखते हैं, तो संभावना है कि आप संगीत के लेख साझा करते हैं। उन्होंने सोचा कि क्या एक फर्जी समाचार लेख एक विशिष्ट "प्रकार" के व्यक्ति को आकर्षित करेगा, और क्या वे लोग एक-दूसरे के साथ एक समान 'वाइब' (vibe) साझा करेंगे।

इसकी जांच करने के लिए, उन्होंने एक लर्निंग एल्गोरिदम बनाया जो कंप्यूटर को प्रशिक्षित करने के लिए तीन विशिष्ट नियमों, या "उद्देश्यों" (objectives) का उपयोग करता है। पहला, कंप्यूटर को एक सामान्य जासूस की तरह एक सच्ची कहानी और एक फर्जी कहानी के बीच अंतर करना सीखना होगा। दूसरा, जो कि बहुत चतुर हिस्सा है, कंप्यूटर को यह सीखने के लिए मजबूर किया जाता है कि लेख की "वाइब" उन लोगों की "वाइब" से मेल खानी चाहिए जिन्होंने इसे साझा किया है। यदि एक फर्जी लेख साझा किया जाता है, तो कंप्यूटर सीखता है कि लेख और साझा करने वाले लोग एक छिपे हुए, गणितीय स्थान में एक जैसे दिखने चाहिए। तीसरा, कंप्यूटर यह सीखता है कि एक ही लेख को साझा करने वाले लोग भी एक-दूसरे के समान दिखने चाहिए। यह यह कहने जैसा है कि, "यदि अजनबियों का एक समूह इस एक अजीब कहानी को साझा करने के लिए दौड़ पड़ता है, तो उनमें कुछ समानता होगी, इसलिए आइए सुनिश्चित करें कि कंप्यूटर उस संबंध को देख सके।"

शोधकर्ताओं ने वास्तविक डेटा और कोविड-19 से जुड़ी खबरों का उपयोग करके तीन अलग-अलग प्रकार के कंप्यूटर दिमागों (न्यूरल क्लासिफायर) पर इस विचार का परीक्षण किया। उन्होंने पाया कि जब उन्होंने इन "सामाजिक सुरागों" को प्रशिक्षण प्रक्रिया में जोड़ा, तो कंप्यूटर फर्जी खबरें पहचानने में बेहतर हो गए। परिणामों ने दिखाया कि मॉडलों ने असली और फर्जी कहानियों को अधिक स्पष्ट रूप से अलग करना सीख लिया। वास्तव में, जब उन्होंने पर्दे के पीछे के गणित को देखा, तो उन्होंने देखा कि जब कंप्यूटर ने इन उपयोगकर्ता सुरागों का उपयोग किया, तो फर्जी कहानियों और असली कहानियों को कंप्यूटर के मन में एक-दूसरे से दूर धकेल दिया गया था।

हालाँकि, इस शोध पत्र में कुछ ऐसे मोड़ भी हैं जो इसे यथार्थवादी बनाए रखते हैं। शोधकर्ताओं ने यह देखने की कोशिश की कि क्या यह मायने रखता है कि हमने किन लोगों को चुना। उन्होंने सोचा कि शायद वे लोग जो सबसे पहले कहानी साझा करते हैं ("अर्ली अडॉप्टर्स"), सबसे अच्छे सुराग होंगे, लेकिन आश्चर्यजनक रूप से, इससे कोई खास फर्क नहीं पड़ा कि हमने पहले साझा करने वालों को चुना या आखिरी लोगों को। उन्होंने कंप्यूटर को गलत समूहों के साथ लेखों को बेतरतीब ढंग से बदलकर धोखा देने की भी कोशिश की। यहाँ तक कि जब उन्होंने कनेक्शन को बिगाड़ दिया, तब भी कंप्यूटर का प्रदर्शन बिना उपयोगकर्ता सुरागों के प्रदर्शन से बेहतर रहा, जिससे पता चलता है कि अतिरिक्त डेटा की प्रचुर मात्रा मदद करती है, भले ही विशिष्ट लिंक एकदम सटीक न हों।

एक दिलचस्प निष्कर्ष एक विशिष्ट उदाहरण को देखने से आया जहाँ कंप्यूटर ने सही उत्तर तभी दिया जब उसने उपयोगकर्ता के बायो को देखा, लेकिन जब उसने उनके ट्वीट्स को देखा तो वह गलत हो गया। ट्वीट्स शोर-शराबे वाले थे और बहुत सी अलग-अलग चीजों के बारे में बात करते थे, जबकि बायो केंद्रित था। यह सुझाव देता है कि हालांकि उपयोगकर्ता डेटा सहायक है, लेकिन यह अव्यवस्थित हो सकता है, और भविष्य के कार्यों को इस शोर को फ़िल्टर करने की आवश्यकता हो सकती है।

अंततः, यह शोध पत्र सुझाव देता है कि कंप्यूटर को एक कहानी और उसके दर्शकों के बीच के संबंध का सम्मान करना सिखाकर, हम गलत सूचनाओं से लड़ने के लिए बेहतर उपकरण बना सकते हैं। लेखक यह ध्यान दिलाते हैं कि यह विधि केवल उपयोगकर्ता की जानकारी का उपयोग तब करती है जब कंप्यूटर सीख रहा होता है, न कि जब वह वास्तव में भविष्यवाणी कर रहा होता है। इसका अर्थ यह है कि कंप्यूटर को किसी निर्णय पर पहुँचने के लिए यह जानने की आवश्यकता नहीं है कि आप कौन हैं; उसे बस उन पैटर्न से सीखने की आवश्यकता है कि लोग और कहानियाँ कैसे जुड़ते हैं। हालाँकि परिणाम आशाजनक हैं और यह विधि नई है, लेखक स्वीकार करते हैं कि जैसे-जैसे समय बीतता है, उपयोगकर्ता प्रोफाइल बदलते हैं, और फर्जी खबरें बनाने वाले गायब हो जाते हैं, इसलिए डेटा पुराना हो सकता है। लेकिन फिलहाल के लिए, यह एक मजेदार और शक्तिशाली अनुस्मारक है कि फर्जी खबरों से लड़ाई में, कभी-कभी झूठ को पहचानने का सबसे अच्छा तरीका यह देखना है कि उसे कौन कह रहा है।