ExTax: Explainable Disinformation Detection via Persuasion, Emotion, and Narrative Role Taxonomies
ExTax एक नवीन, व्याख्यात्मक दुष्प्रचार पहचान ढांचा है जो सटीकता और मजबूती में अत्याधुनिक बेसलाइन से बेहतर प्रदर्शन करने के लिए प्रेरक वक्तृत्व, भावनात्मक हेरफेर और कथा भूमिकाओं के 17 आयामों को एक वर्गीकरण स्थान में एकीकृत करता है और मानव-ऑडिट योग्य हेरफेर प्रोफाइल प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, शोर-शराबे वाला बाज़ार है। लंबे समय तक, नकली उत्पाद (गलत सूचना) को पहचानना आसान था: आप बस स्पष्ट गलतियों या बेतुके शब्दों को देखते थे। लेकिन अब, शक्तिशाली AI के उदय के साथ, स्कैमर्स "परफेक्टली रैप्ड" (पूरी तरह से पैक किए गए) नकली उत्पाद बेच रहे हैं। वे बिल्कुल असली चीज़ों की तरह दिखते, सुनाई देते और महसूस होते हैं। वे केवल झूठ नहीं बोलते; वे आपको एक खास तरीके से महसूस कराने या बिना एहसास हुए किसी कहानी पर विश्वास करने के लिए चतुर तरकीबें इस्तेमाल करते हैं।
यह शोध पत्र ExTax पेश करता है, जो इन परिष्कृत नकली उत्पादों को पकड़ने के लिए बनाया गया एक नया टूल है। ExTax को एक साधारण "सही/गलगलत" स्टैम्प के रूप में नहीं, बल्कि एक फोरेंसिक डिटेक्टिव (फॉरेंसिक जासूस) के रूप में सोचें, जो यह देखने के लिए कि कहानी को कैसे हेरफेर किया गया है, एक कहानी को तीन विशिष्ट "क्राइम सीन" (अपराध स्थलों) में तोड़ देता है।
ExTax कैसे काम करता है, इसके लिए सरल उपमाओं का उपयोग किया गया है:
1. तीन "क्राइम सीन" (वर्गीकरण/टैक्सोनॉमी)
केवल यह पूछने के बजाय कि, "क्या यह नकली है?", ExTax तीन गहरे सवाल पूछता है, जो पाठ (टेक्स्ट) में विशिष्ट पैटर्न की तलाश करते हैं:
- द रेटोरिक ट्रैप (प्रलोभन/वाकपटुता): कल्पना कीजिए कि एक सेल्सपर्सन न केवल उत्पाद बेचता है बल्कि आपको सुरक्षित महसूस कराने के लिए आपके पड़ोसी पर हमला भी करता है। ExTax इन "सेल्स ट्रिक्स" की तलाश करता है। यह जाँचता है कि क्या टेक्स्ट किसी की प्रतिष्ठा पर हमला कर रहा है, किसी जटिल समस्या को बहुत सरल बना रहा है, या आपका ध्यान भटकाने के लिए भ्रमित करने वाली भाषा का उपयोग कर रहा है।
- द इमोशनल ट्रिगर (भावना): क्या आपने कभी कोई पोस्ट सिर्फ इसलिए शेयर किया है क्योंकि इसने आपको क्रोधित या भयभीत कर दिया था? ExTax एक इमोशन डिटेक्टर की तरह काम करता है। यह क्रोध, भय या चिंता जैसी विशिष्ट उच्च-तीव्रता वाली भावनाओं को स्कैन करता है, जिनका उपयोग अक्सर आपके तार्किक मस्तिष्क को दरकिनार करने और आपको बिना सोचे-समझे कार्य करने के लिए उकसाने के लिए किया जाता है।
- द कैरेक्टर रोल्स (कथा/नैरेटिव): हर कहानी में नायक और खलनायक होते हैं। फर्जी खबरों में, "खलनायकों" और "पीड़ितों" को अक्सर अनुचित रूप से पेश किया जाता है। ExTax देखता है कि लोगों को कैसे फ्रेम किया गया है। क्या उन्हें "धोखेबाज उपद्रवी" (गुप्त बुरे लोग) या "संस्थागत विष" (भ्रष्ट व्यवस्थाएं) के रूप में चित्रित किया गया है? या क्या वे "नैतिक स्थिरता प्रदान करने वाले" (अच्छे लोग) हैं? फर्जी खबरें अक्सर लोगों को इन चरम, नकारात्मक भूमिकाओं में धकेल देती हैं।
2. "काउंसिल ऑफ एक्सपर्ट्स" (विधि)
एक समस्या यह है कि नकली खबर खोजने के लिए AI का उपयोग करने से AI खुद भी भ्रमित या पक्षपाती हो सकता है। इसे हल करने के लिए, ExTax केवल एक AI पर निर्भर नहीं रहता।
- द डायवर्जेंट काउंसिल (विविध परिषद): यह चार अलग-अलग शीर्ष-स्तरीय AI मॉडलों से एक ही टेक्स्ट का विश्लेषण करने के लिए कहता है। यह चार अलग-अलग जासूसों से संदिग्ध के बहाने (alibi) को पढ़ने के लिए कहने जैसा है।
- द "एन्ट्रॉपी" फ़िल्टर: कभी-कभी जासूसों के बीच असहमति होती है। एक कहता है, "यह निश्चित रूप से डर फैलाने वाला है," जबकि दूसरा कहता है, "मुझे यकीन नहीं है।" एक हाँ/ना उत्तर देने के बजाय, ExTax एन्ट्रॉपी-ड्रिवन लेबल स्मूथिंग नामक एक चतुर गणितीय ट्रिक का उपयोग करता है।
- उपमा: यदि चारों जासूस सहमत हैं, तो ExTax 100% आश्वस्त है। यदि वे बीच में बंटे हुए हैं, तो ExTax कहता है, "ठीक है, यह एक ग्रे एरिया (अनिश्चित क्षेत्र) है," और एक सख्त "हाँ" के बजाय एक "शायद" स्कोर देता है। यह सिस्टम को AI के अपने भ्रम से बचने में मदद करता है।
3. "द स्पॉटलाइट" (पहचान)
एक बार जब ExTax इन सुरागों (प्रलोभन की तरकीबें, भावनात्मक ट्रिगर्स और पात्रों की भूमिकाएं) को इकट्ठा कर लेता है, तो यह एक विशेष हेटरोजीनियस मल्टी-हेड अटेंशन तंत्र का उपयोग करता है।
- उपमा: कल्पना कीजिए कि तीन अलग-अलग रंगीन लेंसों (प्रलोभन के लिए लाल, भावना के लिए नीला, भूमिकाओं के लिए हरा) वाला एक स्पॉटलाइट है। ExTax इन लाइटों को टेक्स्ट पर एक साथ चमकाता है। यह केवल पूरी तस्वीर को नहीं देखता; यह देखने के लिए ज़ूम करता है कि लाल रोशनी कहाँ पड़ती है (प्रतिष्ठा पर हमला) और नीला प्रकाश कहाँ पड़ता है (डर)। इन विशिष्ट दृश्यों को जोड़कर, यह टेक्स्ट का एक पूर्ण "मैनिपुलेशन प्रोफाइल" बनाता है।
यह क्यों महत्वपूर्ण है (परिणाम)
इस शोध पत्र ने छोटे सोशल मीडिया पोस्ट से लेकर लंबे समाचार लेखों तक, पांच अलग-अलग प्रकार की सामग्री पर ExTax का परीक्षण किया।
- "जॉनर" (शैली) की समस्या: कई पिछले टूल्स संक्षिप्त ट्वीट्स में नकली सामग्री को पहचानने में अच्छे थे लेकिन लंबे समाचार लेखों को पहचानने में खराब थे (या इसके विपरीत)। यह एक सुरक्षा गार्ड की तरह है जो बैकपैक चेक करने में तो अच्छा है लेकिन सूटकेस चेक करने में बुरा है।
- ExTax की सफलता: Ex-Tax दोनों प्रकार के कंटेंट में मजबूत बना रहा। जहाँ अन्य टूल्स की सटीकता ट्वीट्स से लेखों में स्विच करने पर लगभग 33% गिर गई, वहीं ExTax स्थिर रहा। इसने 0.8456 का शीर्ष स्कोर प्राप्त किया, जो वर्तमान सर्वोत्तम तरीकों को पीछे छोड़ देता है।
निचोड़ (Bottom Line)
ExTax केवल यह नहीं बताता कि "यह नकली है।" यह बताता है कि क्यों। यह एक रिपोर्ट कार्ड देता है जो दिखाता है: "इस टेक्स्ट ने आपकी प्रतिष्ठा पर हमला करके, आपके क्रोध को भड़काकर और एक राजनेता को खलनायक के रूप में चित्रित करके आपको हेरफेर करने की कोशिश की।"
यह पहचान प्रक्रिया को पारदर्शी और ऑडिट योग्य बनाता है, जिससे मनुष्यों को यह समझने में मदद मिलती है कि किन विशिष्ट मनोवैज्ञानिक चालों का उपयोग किया जा रहा है, बजाय इसके कि वे केवल एक 'ब्लैक-बॉक्स' कंप्यूटर के फैसले पर भरोसा करें।
नोट - सीमाएं: लेखक स्वीकार करते हैं कि चूंकि वे प्रारंभिक विश्लेषण करने के लिए महंगे, व्यावसायिक AI मॉडल का उपयोग करते हैं, इसलिए इसे चलाने की लागत अधिक है। साथ ही, इस सिस्टम को मुख्य रूप से अंग्रेजी के पश्चिमी राजनीति और स्वास्थ्य संबंधी टेक्स्ट पर प्रशिक्षित किया गया है, इसलिए यह अन्य भाषाओं या विभिन्न संस्कृतियों की कहानियों पर उतना प्रभावी ढंग से काम नहीं कर सकता है। अंत में, वे इस बात पर जोर देते हैं कि यह टूल मानवीय निर्णय सहायता (human decision support) के लिए है—यह मनुष्यों को बेहतर निर्णय लेने में मदद करता है, लेकिन इसे ऑनलाइन रखी जाने वाली चीजों को हटाने या रखने का एकमात्र निर्णायक नहीं होना चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।