A New Hybrid Intelligent Approach for Multimodal Detection of Suspected Disinformation on TikTok
यह शोध पत्र एक हाइब्रिड इंटेलिजेंट फ्रेमवर्क प्रस्तुत करता है जो टेक्स्ट, ऑडियो और वीडियो संकेतों का मूल्यांकन करके टिकटॉक पर संदिग्ध दुष्प्रचार का पता लगाने के लिए डीप लर्निंग-आधारित मल्टीमॉडल फीचर विश्लेषण को फजी लॉजिक के साथ एकीकृत करता है, और अंततः दुष्प्रचार व्यवहारों पर विस्तृत रिपोर्ट तैयार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
TikTok की कल्पना एक विशाल, हलचल भरे डिजिटल चौक के रूप में करें जहाँ लाखों लोग चिल्ला रहे हैं, गा रहे हैं और कहानियाँ सुना रहे हैं। समस्या यह है कि इस चौक में कुछ लोग ऐसे झूठ बोल रहे हैं जो बहुत ही विश्वसनीय लगते हैं। इस शोध पत्र के लेखकों ने इन झूठ बोलने वालों को पकड़ने के लिए एक नया "जासूसी दल" बनाया है, लेकिन केवल एक जासूस बनाने के बजाय, उन्होंने एक हाइब्रिड टीम बनाई है जो दो बहुत अलग कौशल सेटों को जोड़ती है।
यहाँ उनके सिस्टम के काम करने का तरीका सरल भाषा में समझाया गया है:
दो-भागों वाला जासूसी दल
इस सिस्टम को दो मुख्य पात्रों के रूप में समझें जो मिलकर काम करते हैं:
1. हाई-टेक स्कैनर (डीप लर्निंग)
एक सुपर-फास्ट रोबोटिक कैमरा और माइक्रोफ़ोन की कल्पना करें जो कभी पलक नहीं झपकाता। सिस्टम का यह हिस्सा वीडियो को देखता है और ऑडियो को सुनता है। यह केवल व्यक्ति को "देखता" नहीं है; यह गणितीय सटीकता के साथ सब कुछ मापता है।
- यह सुनता है: यह जो कहा जा रहा है उसका ट्रांसक्रिप्शन करता है, यह जाँचता है कि क्या वक्ता बहुत अधिक रुक रहा है, क्या उसकी आवाज़ डगमगा रही है, या क्या वह बहुत तेज़ी से बोल रहा है।
- यह देखता है: यह व्यक्ति की आँखों, पलकें कितनी बार झपकाते हैं, वे कहाँ देख रहे हैं, और उनके चेहरे के हाव-भाव (जैसे कि जबरदस्ती की मुस्कान या त्योरियाँ चढ़ाना) को ट्रैक करता है।
- यह पढ़ता है: यह टेक्स्ट (कैप्शन या भाषण) का विश्लेषण करता है कि क्या शब्द अस्पष्ट, दोहराव वाले हैं, या तार्किक रूप से सही नहीं हैं।
2. मानव-समान न्यायाधीश (फजी लॉजिक)
अब, एक बुद्धिमान मानव न्यायाधीश की कल्पना करें जो केवल "हाँ/नहीं" वाले उत्तर की तलाश में नहीं है। वास्तविक जीवन जटिल है; एक व्यक्ति केवल "झूठा" या "सच्चा" नहीं होता। वे थोड़े संदिग्ध हो सकते हैं या बहुत संदिग्ध हो सकते हैं।
- यह न्यायाधीश रोबोट स्कैनर से प्राप्त सभी कच्चे डेटा को मानवीय भाषा में अनुवादित करता है।
- "पलक झपकने की दर प्रति सेकंड 4.2 है" कहने के बजाय, न्यायाधीश कहता है, "वक्ता थोड़ा घबराया हुआ लग रहा है।"
- "टेक्स्ट में 15% दोहराव है" कहने के बजाय, न्यायाधीश कहता है, "कहानी थोड़ी दोहराव वाली लगती है।"
"बिग-5" व्यक्तित्व परीक्षण
यह तय करने के लिए कि कोई व्यक्ति झूठा है या नहीं, सिस्टम वक्ता के व्यवहार की तुलना एक विशिष्ट "गलत सूचना फैलाने वाले" (disinformation spreader) के मनोवैज्ञानिक प्रोफाइल से करता है। यह शोध पत्र एक प्रसिद्ध मनोवैज्ञानिक मॉडल का उपयोग करता है जिसे बिग-5 (Big-5) कहा जाता है, जो पांच व्यक्तित्व लक्षणों को मापता है:
- ओपननेस (Openness) (क्या वे नए विचारों के प्रति खुले हैं?)
- कॉन्शियसनेस (Conscientiousness) (क्या वे व्यवस्थित और सावधान हैं?)
- एक्सट्रोवर्जन (Extroversion) (क्या वे बहिर्मुखी हैं?)
- एग्रीएबलनेस (Agreeableness) (क्या वे मिलनसार हैं?)
- न्यूरोटिसिज्म (Neuroticism) (क्या वे चिंतित या भावुक हैं?)
सिस्टम पूछता है: "क्या इस व्यक्ति का व्यवहार किसी ऐसे व्यक्ति के प्रोफाइल से मेल खाता है जो राजनीतिक स्थितियों में फर्जी खबरें फैलाता है?" उदाहरण के लिए, राजनीतिक वीडियो में जो उन्होंने परीक्षण किया, उन्होंने पाया कि झूठे लोग अक्सर न्यूरोटिसिज्म (चिंतित या भावुक दिखना) में उच्च स्कोर करते हैं और एग्रीएबलनेस में कम।
अंतिम रिपोर्ट: एक "संदेह स्कोर"
जब रोबोट डेटा एकत्र कर लेता है और न्यायाधीश उसकी व्याख्या कर देता है, तो सिस्टम केवल लाल या हरा संकेत नहीं देता। यह एक विस्तृत रिपोर्ट तैयार करता है, जो किसी वीडियो के मेडिकल डायग्नोसिस की तरह है।
- स्कोर: यह निम्न (Low) से उच्च (High) तक का एक "संदेह स्तर" (Suspicion Level) देता है।
- व्याख्या: यह बताता है कि क्यों। उदाहरण के लिए, यह कह सकता है: "यह वीडियो 'उच्च संदेह' श्रेणी में है क्योंकि वक्ता ने उच्च चिंता (न्यूरोटिसिज्म) दिखाई, कम सहानुभूति के साथ बोला, और अस्पष्ट भाषा का उपयोग किया।"
- "क्यों" महत्वपूर्ण है: शोध पत्र इस बात पर जोर देता है कि यह सिस्टम व्याख्या योग्य (explainable) है। आपको केवल एक परिणाम नहीं मिलता; आपको उसके पीछे का तर्क भी मिलता है, ताकि आप समझ सकें कि सिस्टम अपने निष्कर्ष तक कैसे पहुँचा।
उन्होंने क्या परीक्षण किया?
शोधकर्ताओं ने अपने "जासूसी दल" का दो तरह से परीक्षण किया:
विशिष्ट परीक्षण: उन्होंने "क्या एस्पार्टेम कैंसर का कारण बनता है?" या "द एलेक बोल्डविन शूटिंग" जैसे विशिष्ट विषयों पर वीडियो देखे। उन्होंने यह जाँच की कि क्या सिस्टम झूठ फैलाने वाले वीडियो, झूठ को सुधारने वाले वीडियो और मिथकों को खारिज करने वाले वीडियो के बीच अंतर कर सकता है।
- परिणाम: यह बहुत अच्छी तरह से काम कर गया, जिसने लगभग हर मामले में झूठ बोलने वालों की सही पहचान की।
बड़ा परीक्षण (स्केलेबिलिटी): उन्होंने "यूक्रेन पर आक्रमण" के विषय पर एक बड़ा जाल फेंका, जिसमें हजारों अलग-अलग उपयोगकर्ताओं के 5,000 से अधिक वीडियो का विश्लेषण किया गया।
- परिणाम: सिस्टम ने इन वीडियो को श्रेणियों (निम्न, मध्यम, उच्च संदेह) में सफलतापूर्वक वर्गीकृत किया। उसने पाया कि लगभग 15% वीडियो अत्यधिक संदिग्ध थे, जबकि बाकी निम्न से मध्यम जोखिम के बीच थे।
सीमाएँ (जो सिस्टम अभी नहीं कर सकता)
लेखक इस बात के प्रति ईमानदार हैं कि उनका टूल क्या नहीं कर सकता:
- डीपफेक (Deepfakes): यह बता नहीं सकता कि वीडियो एक "डीपफेक" (कंप्यूटर द्वारा निर्मित नकली वीडियो) है या नहीं। यह मान लेता है कि स्क्रीन पर मौजूद व्यक्ति वास्तविक है और उसके व्यवहार का विश्लेषण करता है।
- भाषा की बाधाएं: यदि वीडियो अंग्रेजी के अलावा किसी अन्य भाषा (जैसे रूसी) में है, तो सिस्टम को पहले उसका अनुवाद करना होगा, जिससे मूल अर्थ या सूक्ष्मता (nuance) खो सकती है।
- बाधाएं: यदि वीडियो में सबटाइटल व्यक्ति के चेहरे या आँखों को ढक रहे हैं, तो सिस्टम उनके चेहरे के हाव-भाव को ठीक से नहीं देख पाता, जिससे निर्णय लेना कठिन हो जाता है।
निचोड़
यह शोध पत्र TikTok पर फर्जी खबरों से लड़ने का एक नया तरीका प्रस्तुत करता है। यह AI की गति को मानव मनोविज्ञान की सूक्ष्मता के साथ जोड़ता है ताकि केवल यह न कहे कि "यह फर्जी है," बल्कि यह समझा सके कि यह क्यों फर्जी लगता है—यह देखते हुए कि वक्ता कैसे व्यवहार करता है, कैसा बोलता है और कैसे बात करता है। यह एक ऐसे जासूस की तरह है जो किसी व्यक्ति की बॉडी लैंग्वेज और बोलने के पैटर्न को पढ़कर झूठ पकड़ सकता है, और फिर एक स्पष्ट रिपोर्ट लिख सकता है कि ठीक किस बात ने उसे संदिग्ध बनाया।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।