Misinformation Span Detection in Videos via Audio Transcripts
यह शोध पत्र एनोटेटेड ऑडियो ट्रांसक्रिप्ट के दो नए डेटासेट पेश करके वीडियो के भीतर विशिष्ट गलत सूचनाओं को सटीक रूप से पहचानने की चुनौती को संबोधित करता है और यह प्रदर्शित करता है कि अत्याधुनिक भाषा मॉडल 0.68 के F1 स्कोर के साथ इन गलत सूचना स्पैन (misinformation spans) का प्रभावी ढंग से पता लगा सकते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत लंबी, 55 मिनट की डॉक्यूमेंट्री देख रहे हैं। कहीं बीच में, नैरेटर एक झूठ बोलता है। शायद वह कहता है, "चाँद पनीर से बना है," या "ब्लीच पीने से फ्लू ठीक हो जाता है।"
समस्या:
अब तक, यदि कोई कंप्यूटर यह जांचना चाहता था कि वह वीडियो नकली है या नहीं, तो उसे पूरा वीडियो देखना पड़ता और वह एक साधारण ग्रेड देता: "पास" (यह सच है) या "फेल" (यह नकली है)।
लेकिन यह एक निबंध को केवल यह कहकर ग्रेड देने जैसा है कि "यह बुरा है," बिना छात्र को यह बताए कि कौन सा वाक्य झूठ था। यदि वीडियो एक घंटे लंबा है, तो एक मानव फैक्ट-चेकर को वहां बैठना होगा, पूरा वीडियो देखना होगा और झूठ बोले जाने के सटीक सेकंड को मैन्युअल रूप से ढूंढना होगा। इसमें बहुत समय लगता है, और हर दिन अपलोड किए जाने वाले लाखों वीडियो के साथ, यह करना असंभव है।
समाधान ("झूठ पकड़ो" खेल):
यह शोध पत्र इस खेल को खेलने का एक नया तरीका पेश करता है। केवल यह कहने के बजाय कि "यह वीडियो नकली है," शोधकर्ताओं ने एक ऐसा सिस्टम बनाया है जो एक हाइलाइट रील क्रिएटर की तरह काम करता है। यह वीडियो (विशेष रूपकर ऑडियो) को देखता है और कहता है:
"हे, वीडियो ज्यादातर ठीक है, लेकिन मिनट 12:05 और 12:20 के बीच, वक्ता एक झूठ बोल रहा है।"
वे इसे "मिसइन्फॉर्मेशन स्पैन डिटेक्शन" (भ्रामक सूचना अंतराल का पता लगाना) कहते हैं। यह घास के ढेर में से सुई खोजने जैसा है, न कि केवल यह बताने जैसा कि पूरा घास का ढेर ही सुइयों से बना है।
उन्होंने इसे कैसे किया (नुस्खा)
कंप्यूटर को यह सिखाने के लिए कि यह कैसे किया जाए, शोधकर्ताओं को एक विशेष "प्रशिक्षण नियमावली" (training manual) बनानी पड़ी क्योंकि इससे पहले ऐसी कोई नियमावली मौजूद नहीं थी।
- सबूत जुटाना: उन्होंने दो मुख्य स्रोतों से वीडियो एकत्र किए:
- BOL4Y: ब्राजील के पूर्व राष्ट्रपति जैर बोल्सोनारो के भाषणों का एक संग्रह, जहाँ फैक्ट-चेकर्स ने पहले ही हजारों झूठे दावों की पहचान कर ली थी।
- EI22: 2022 के ब्राजीलियाई चुनाव के वीडियो जहाँ मतदाताओं ने धोखाधड़ी का दावा किया था।
- भाषण को टेक्स्ट में बदलना: उन्होंने ऑडियो को सुनने और उसे टेक्स्ट के रूप में लिखने के लिए एक सुपर-स्मार्ट AI (जिसे Whisper कहा जाता है) का उपयोग किया, और इसे छोटे टुकड़ों (जैसे 30-सेकंड के वाक्यों) में विभाजित किया।
- मिलान करने का खेल: उन्होंने ज्ञात झूठों की सूची (जैसे, "उन्होंने विदेश में तीन बिजली संयंत्र बनाए") को वीडियो के टेक्स्ट टुकड़ों के साथ तुलना किया।
- उपमा: कल्पना कीजिए कि आपके पास चोरी की गई वस्तुओं की एक सूची (झूठ) है और गोदाम में बक्सों का एक ढेर (वीडियो सेगमेंट) है। कंप्यूटर बक्सों को खोलता है, उनके लेबल पढ़ता है, और उन्हें चोरी की वस्तुओं की सूची से मिलाता है।
- मानवीय सत्यापन: चूंकि कंप्यूटर पूर्ण नहीं होते, इसलिए मानव विशेषज्ञों ने मिलान की दोबारा जांच की ताकि यह सुनिश्चित हो सके कि कंप्यूटर समान ध्वनि वाले शब्दों के कारण भ्रमित न हो जाए।
परिणाम: क्या यह काम आया?
उन्होंने दो अलग-अलग प्रकार के AI "मस्तिष्क" (लैंग्वेज मॉडल्स) को इन झूठों को पहचानने के लिए प्रशिक्षित किया।
- स्कोर: AI ने 0.68 के स्कोर (एक ऐसे पैमाने पर जहाँ 1.0 पूर्ण है) के साथ झूठों को खोजने में सफलता प्राप्त की।
- इसका क्या अर्थ है: यह अभी पूरी तरह से सटीक नहीं है। यह एक ऐसे जासूस की तरह है जो 100 में से 68 मामलों को सही ढंग से सुलझाता है। कभी-कभी यह झूठ को मिस कर देता है, और कभी-कभी यह सोचता है कि एक सच कथन झूठ है। लेकिन यह एक बड़ा कदम है क्योंकि इससे पहले किसी ने भी इस विशिष्ट कार्य को करने का प्रयास नहीं किया था।
उन्होंने यह भी परीक्षण किया कि क्या AI एक प्रकार के वीडियो (बोल्सोनारो के भाषणों) से सीख सकता है और उस ज्ञान को पूरी तरह से अलग प्रकार के वीडियो (चुनाव धोखाधड़ी के बारें में बात करते मतदाता) पर लागू कर सकता है। यह आश्चर्यजनक रूप से अच्छा काम कर गया, जो साबित करता है कि सिस्टम लचीला है।
यह क्यों महत्वपूर्ण है ("तो क्या फर्क पड़ता है?")
सोचिए कि सोशल मीडिया प्लेटफॉर्म (जैसे YouTube या TikTok) विशाल पुस्तकालयों की तरह हैं।
- पहले: यदि एक लाइब्रेरियन (प्लेटफॉर्म) को किसी किताब में एक झूठ मिलता था, तो उन्हें उस पूरी किताब को प्रतिबंधित करना पड़ सकता था, भले ही वह झूठ केवल पेज 50 पर हो। या, वे इसे पूरी तरह से मिस कर सकते थे क्योंकि उनके पास हर पन्ना पढ़ने का समय नहीं था।
- बाद में: इस नए टूल के साथ, लाइब्रेरियन पेज 50 पर एक स्टिकर लगा सकता है जिस पर लिखा हो, "चेतावनी: यह पैराग्राफ गलत है," जबकि बाकी किताब को लोगों के पढ़ने के लिए खुला छोड़ सकता है।
यह मदद करता है:
- फैक्ट-चेकर्स की: उन्हें घंटों का वीडियो नहीं देखना पड़ता; AI उन्हें सीधे झूठ की ओर इशारा करता है।
- दर्शकों की: वे ठीक उसी समय एक चेतावनी लेबल देख सकते हैं जब झूठ बोला जा रहा होता है, जिससे उन्हें तुरंत संदर्भ मिल जाता है।
- नियामकों की: नए कानून (जैसे यूरोप में डिजिटल सर्विसेज एक्ट) प्लेटफार्मों से अधिक जिम्मेदार होने की मांग करते हैं। यह टूल उन्हें सब कुछ डिलीट किए बिना ऐसा करने का एक तरीका देता है।
निचोड़
शोधकर्ताओं ने केवल एक डिटेक्टर नहीं बनाया; उन्होंने लंबे वीडियो के भीतर झूठ खोजने के लिए पहला-से-पहला मैप बनाया है। उन्होंने अपना डेटा और कोड दुनिया के लिए जारी कर दिया है ताकि अन्य वैज्ञानिक इस मैप को और बेहतर बनाने का प्रयास कर सकें। यह एक खजाने के नक्शे को देने जैसा है ताकि "फेक न्यूज" को ऑनलाइन वीडियो के महासागर में खोजने के लिए इसका उपयोग किया जा सके, बजाय इसके कि केवल यह बताया जाए कि महासागर खतरनाक है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।