Artificial Intelligence and Misinformation Detection in Digital Media: An Explainable Machine Learning Framework
यह अध्ययन सोशल मीडिया पर राजनीतिक दुष्प्रचार का पता लगाने के लिए एक व्याख्या योग्य मशीन लर्निंग फ्रेमवर्क प्रस्तावित करता है जो बेसलाइन मॉडलों की तुलना में बेहतर भविष्य कहनेवाला प्रदर्शन प्राप्त करता है, जबकि यह इस बात पर प्रकाश डालता है कि सिस्टम की वास्तविक दुनिया की विश्वसनीयता अंततः वास्तुशिल्प सीमाओं के बजाय कम ग्राउंड-ट्रुथ लेबल सहमति और खराब टेम्पोरल सामान्यीकरण (temporal generalizability) द्वारा सीमित है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
डिजिटल युग में, सूचना का प्रवाह अपरिवर्तनीय रूप से बदल गया है। सोशल मीडिया प्लेटफॉर्म वे प्राथमिक सार्वजनिक चौक बन गए हैं जहाँ राजनीतिक समाचार यात्रा करते हैं, लेकिन वे जनमत को प्रभावित करने के लिए डिज़ाइन की गई झूठी कहानियों के प्रजनन स्थल भी हैं। जब कोई राष्ट्र एक महत्वपूर्ण क्षण के करीब होता है, जैसे कि राष्ट्रपति चुनाव, तो निर्मित सूचना के फैलने की गति अक्सर मानव तथ्य-जांचकर्ताओं (फैक्ट-चेकर्स) द्वारा उसे सत्यापित करने की क्षमता से अधिक होती है। इसने शोधकर्ताओं को आर्टिफिशियल इंटेलिजेंस, विशेष रूप से मशीन लर्निंग की ओर मुड़ने के लिए प्रेरित किया है, ताकि यह एक फिल्टर के रूप में कार्य कर सके। ये कंप्यूटर सिस्टम टेक्स्ट में उन पैटर्न को पहचानना सीखते हैं जो संकेत देते हैं कि कोई कहानी झूठी है, ठीक वैसे ही जैसे एक अनुभवी संपादक किसी टाइपो या संदिग्ध स्रोत को पहचान सकता है। हालाँकि, इनमें से सबसे शक्तिशाली प्रणालियों के साथ एक बड़ी समस्या उत्पन्न होती है: वे अक्सर "ब्लैक बॉक्स" के रूप में कार्य करती हैं। वे सही ढंग से झूठ की पहचान तो कर सकते हैं, लेकिन वे यह नहीं समझा सकते कि उन्होंने वह निर्णय क्यों लिया। एक ऐसी दुनिया में जहाँ एक 'फॉल्स फ्लैग' (छद्म झंडा) किसी की प्रतिष्ठा को बर्बाद कर सकता है या चुनाव को बदल सकता है, कंप्यूटर के निर्णय के पीछे के तर्क को समझने में असमर्थता मनुष्यों के लिए परिणाम पर भरोसा करना या उसे सत्यापित करना कठिन बना देती है।
इस अंतर को दूर करने के लिए, शोधकर्ताओं मुहम्मद उस्मान असलम और हाफिज अकीब सत्तार ने एक नया दृष्टिकोण विकसित किया जो मशीन लर्निंग की शक्ति को मानवीय समझ की आवश्यकता के साथ जोड़ता है। उन्होंने केवल एक स्मार्ट कंप्यूटर नहीं बनाया; उन्होंने एक ऐसा सिस्टम बनाया जो अपना काम दिखा सके। 2016 के संयुक्त राज्य अमेरिका के राष्ट्रपति चुनाव के 8,000 से अधिक ट्वीट्स के एक विशाल संग्रह का उपयोग करके, टीम ने वास्तविक समाचार और गलत सूचना के बीच अंतर करने के लिए कई अलग-अलग प्रकार के कंप्यूटर मॉडलों को प्रशिक्षित किया। इसके बाद उन्होंने इन मॉडलों के सर्वश्रेष्ठ को एक एकल, स्तरित ढांचे (लेयर्ड फ्रेमवर्क) में संयोजित किया। महत्वपूर्ण रूप से, उन्होंने एक व्याख्यात्मक परत (एक्सप्लेनेशन लेयर) जोड़ी जो स्पष्ट रूप से उन शब्दों, उपयोगकर्ता विवरणों या संरचनात्मक सुरागों को उजागर करती है जिनके कारण सिस्टम ने किसी पोस्ट को झूठा घोषित किया। यह एक मानव समीक्षक को यह देखने की अनुमति देता है कि, उदाहरण के लिए, एक पोस्ट को इसलिए ध्वजंकित (फ्लैग) किया गया क्योंकि वह एक unverifed अकाउंट से आया था और उसमें विशिष्ट भावनात्मक भाषा का उपयोग किया गया था, न कि केवल एक अंधे 'असत्य' के फैसले के रूप में।
इस प्रयोग के परिणाम वर्णनात्मक थे। नया ढांचा अकेले परीक्षण किए गए किसी भी एकल मॉडल की तुलना में बेहतर प्रदर्शन करता है, जो कम 'फॉल्स अलार्म' दर बनाए रखते हुए झूठी कहानियों के उच्च अनुपात को सफलतापूर्वक पहचानता है। सिस्टम ने पाया कि गलत सूचना के सबसे विश्वसनीय संकेत हमेशा शब्द स्वयं नहीं थे, बल्कि वह संदर्भ था जिसमें वे दिखाई देते थे। उदाहरण के लिए, सिस्टम ने सीखा कि चुनाव की रात के लाइव घंटों के दौरान विशिष्ट उम्मीदवारों का उल्लेख करने वाले पोस्ट, या बिना वेरिफिकेशन बैज वाले खातों से आने वाले पोस्ट अत्यधिक संदिग्ध थे। इसने यह भी देखा कि झूठी कहानियाँ अक्सर प्रत्यक्ष, द्वितीय-पुरुष (सेकंड-पर्सन) भाषा का उपयोग करती थीं, जो पाठक से "आप" जैसे शब्दों के साथ सीधे बात करती थीं, जबकि वास्तविक समाचार अधिक तटस्थ होते थे। टेक्स्ट के साथ-साथ इन संरचनात्मक और प्रासंगिक सुरागों पर ध्यान केंद्रित करके, सिस्टम शब्दों को देखने वाले मॉडलों की तुलना में अधिक सटीक निर्णय लेने में सक्षम था।
हालाँकि, अध्ययन ने एक गंभीर सीमा को भी उजागर किया जो एक पूर्ण, 'एक-आकार-सभी-के-लिए-उपयुक्त' समाधान के विचार को चुनौती देती है। जब शोधकर्ताओं ने मॉडलों का एक अलग समय अवधि पर परीक्षण किया—विशेष रूप रूप से, चुनाव समाप्त होने के बाद किए गए पोस्ट पर—तो उनके नए ढांचे सहित प्रत्येक सिस्टम का प्रदर्शन नाटकीय रूप रूप से गिर गया। मॉडलों को, जिन्हें अभियान के दौर की गहन, विशिष्ट भाषा के लिए प्रशिक्षित किया गया था, घटना बीत जाने और संदर्भ बदल जाने के बाद गलत सूचना को पहचानने में संघर्ष करना पड़ा। यह सुझाव देता है कि हालांकि ये उपकरण उस विशिष्ट क्षण के भीतर झूठ पकड़ने में प्रभावी हैं जिसके लिए उन्हें प्रशिक्षित किया गया था, वे महत्वपूर्ण पुन: प्रशिक्षण के बिना भविष्य की घटनाओं के बदलते परिदृश्य को संभालने के लिए अभी तक पर्याप्त मजबूत नहीं हैं। इसके अलावा, शोधकर्ताओं ने पाया कि जिस 'ग्राउंड ट्रुथ' (वास्तविक सत्य) को वे कंप्यूटर को सिखाने की कोशिश कर रहे थे, वह स्वयं ही अव्यवस्थित था; मानव विशेषज्ञों के बीच भी इस बात पर अक्सर असहमति थी कि कोई विशिष्ट ट्वीट झूठा था या नहीं, जिसमें सहमति का स्तर बहुत कम था। इसका अर्थ है कि सबसे अच्छा कंप्यूटर मॉडल भी उन मानव लेबल से सीमित है जिनसे वह सीखता है।
अंततः, यह शोध सुझाव देता है कि गलत सूचना से लड़ने का भविष्य तेजी से जटिल, अनव्याख्यात्मक एल्गोरिदम बनाने में नहीं, बल्कि ऐसे सिस्टम बनाने में है जो मनुष्यों के साथ मिलकर काम करें। प्रस्तावित ढांचा मानव निर्णय को प्रतिस्थापित नहीं करता है; इसके बजाय, यह एक परिष्कृत सहायक के रूप में कार्य करता है जो संदिग्ध सामग्री को ध्वजंकित करता है और अंतिम निर्णय लेने के लिए आवश्यक साक्ष्य प्रदान करता है। अध्ययन यह प्रदर्शित करता है कि एक ऐसा सिस्टम बनाना संभव है जो सटीक और पारदर्शी दोनों हो, लेकिन यह यह चेतावनी भी देता है कि ऐसे उपकरण नाजुक होते हैं। वे उस विशिष्ट समय और विषय के प्रति अत्यधिक संवेदनशील हैं जिनके लिए उन्हें प्रशिक्षित किया गया है, और वे उतने ही विश्वसनीय हैं जितने कि उन्हें सिखाने वाला मानव डेटा। प्लेटफार्मों और तथ्य-जांचकर्ताओं के लिए, आगे का रास्ता इन व्याख्यात्मक उपकरणों का उपयोग मानव निरीक्षण के समर्थन के लिए करने में है, साथ ही यह स्वीकार करने में भी है कि कोई भी एकल मॉडल सभी समय और सभी संदर्भों में गलत सूचना की समस्या को हल नहीं कर सकता। लेखक तर्क देते हैं कि वास्तविक विजय कंप्यूटर की कच्ची गति में नहीं है, बल्कि उसकी इस क्षमता में है कि वह अपने तर्क को मनुष्यों के विश्वास और सत्यापन के योग्य बना सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।