BanglaMamba: Exploring State Space Models for Bangla Fake News Detection

डिजिटल युग में, सूचना पहले से कहीं अधिक तेजी से यात्रा करती है, लेकिन गलत सूचना भी उतनी ही तेजी से फैलती है। झूठी कहानियाँ, जिन्हें अक्सर 'फेक न्यूज' कहा जाता है, ऑनलाइन प्लेटफॉर्म और सोशल मीडिया के माध्यम से अत्यधिक गति से फैल सकती हैं, जो जनमत को आकार देती हैं और विश्वसनीय स्रोतों में विश्वास को कम करती हैं। इससे निपटने के लिए, वैज्ञानिकों ने आर्टिफिशियल इंटेलिजेंस की ओर रुख किया है, विशेष रूप से 'नेचुरल लैंग्वेज प्रोसेसिंग' नामक अध्ययन के क्षेत्र की ओर, जो कंप्यूटर को मानवीय पाठ (टेक्स्ट) को समझना सिखाता है। वर्षों से, इस कार्य के लिए सबसे शक्तिशाली उपकरण एक डिज़ाइन पर आधारित रहे हैं जिसे 'ट्रांसफॉर्मर' कहा जाता है। ये मॉडल संदर्भ को पढ़ने और शब्दों के बीच सूक्ष्म संबंधों को समझने में उत्कृष्ट हैं, ठीक वैसे ही जैसे एक मानव पाठक करता है। हालाँकि, इनके साथ एक महत्वपूर्ण कमी भी आती है: जैसे-जैसे पाठ की लंबाई बढ़ती है, इसे प्रोसेस करने के लिए आवश्यक कंप्यूटर पावर और मेमोरी की मात्रा नाटकीय रूप से बढ़ जाती है, जिससे मानक हार्डवेयर पर इन्हें चलाना धीमा और महंगा हो जाता है। हाल ही में एक नए प्रकार के आर्टिफिशियल इंटेलिजेंस आर्किटेक्चर के रूप में, जिसे 'स्टेट स्पेस मॉडल' के रूप में जाना जाता है, एक संभावित समाधान के रूप में उभरा है। ये मॉडल संसाधनों के बहुत अधिक कुशल उपयोग के साथ पाठ के लंबे अनुक्रमों (सीक्वेंस) को संभालने के लिए डिज़ाइन किए गए हैं, जो पाठ लंबा होने पर लागत में विस्फोट होने के बजाय रैखिक रूप से (लीनियरली) स्केल करते हैं। शोधकर्ताओं के सामने सवाल यह है कि क्या यह नया, कुशल दृष्टिकोण बांग्ला जैसी विशिष्ट, जटिल भाषा पर लागू होने पर स्थापित, भारी-भरकम ट्रांसफॉर्मर की सटीकता का मुकाबला कर सकता है।

ढाका, बांग्लादेश स्थित ब्रैक (BRAC) यूनिवर्सिटी के एक शोधकर्ता ने इस प्रश्न का उत्तर देने के लिए एक नया सिस्टम विशेष रूप से बांग्ला भाषा में फेक न्यूज का पता लगाने के लिए बनाया। उन्होंने एक मॉडल बनाया जिसे उन्होंने 'बांग्लामम्बा' (BanglaMamba) नाम दिया, जो कुशल स्टेट स्पेस आर्किटेक्चर पर आधारित है। यह देखने के लिए कि यह कितनी अच्छी तरह काम करता है, उन्होंने इसे दो अन्य प्रणालियों के विरुद्ध एक कठोर परीक्षण से गुजारा। पहला 'बांग्लाबर्ट' (BanglaBERT) था, जो एक अत्यधिक सम्मानित, प्री-ट्रेंड मॉडल है जिसने फेक न्यूज कार्य पर लागू होने से पहले बांग्ला पाठ के एक विशाल भंडार से पहले ही सीख लिया है। दूसरा एक कस्टम-निर्मित ट्रांसफॉर्मर मॉडल था जिसे उसी डेटा पर शून्य से प्रशिक्षित किया गया था जिस पर नए सिस्टम को प्रशिक्षित किया गया था, ताकि पूर्व ज्ञान के लाभ के बिना अंतर्निहित तकनीक का निष्पक्ष तुलना सुनिश्चित की जा सके। शोधकर्ता ने इन तीनों प्रणालियों को हजारों वास्तविक और फर्जी समाचार लेख दिए, और प्रत्येक को प्रामाणिक या झूठा वर्गीकृत करने के लिए कहा।

परिणामों ने कच्चे प्रदर्शन और दक्षता के बीच एक स्पष्ट ट्रेड-ऑफ (समझौता) को प्रकट किया। प्री-ट्रेंड बांग्लाबर्ट मॉडल ने उच्चतम सटीकता प्राप्त की, जिसने समाचार लेखों की प्रकृति को 0.9260 के स्कोर के साथ सही ढंग से पहचाना। यह सुझाव देता है कि इसे प्राप्त विशाल पूर्व शिक्षण ने इसे भाषा की बारीकियों को समझने में एक विशिष्ट बढ़त दी। नया बांग्लामबा मॉडल, जिसे बिना किसी पूर्व अनुभव के शून्य से प्रशिक्षित किया गया था, बहुत प्रतिस्पर्धी रहा, जिसने 0.9029 का स्कोर किया। इसने कस्टम-निर्मित ट्रांसफॉर्मर के प्रदर्शन का मुकाबला किया, जिसने 0.9057 का स्कोर किया, जिससे यह सिद्ध हुआ कि नया आर्किटेक्चर स्वयं प्रभावी ढंग से कार्य सीखने में सक्षम है। हालाँकि, इस अध्ययन की वास्तविक सफलता इस बात में निहित है कि मॉडलों ने अपने संसाधनों का उपयोग कैसे किया। जबकि ट्रांसफॉर्मर-आधारित मॉडलों को पाठ को प्रोसेस करने के लिए महत्वपूर्ण मेमोरी और समय की आवश्यकता थी, बांग्लामबा उल्लेखनीय रूप से हल्का (लीन) था। इसने अन्य मॉडलों की तुलना में समाचार लेखों को दोगुने से अधिक तेजी से प्रोसेस किया और संचालन के दौरान ग्राफिक्स कार्ड पर आधे से भी कम पीक मेमोरी का उपयोग किया। यह दक्षता इसे उन वातावरणों के लिए एक कहीं अधिक व्यावहारिक विकल्प बनाती है जहाँ कंप्यूटिंग पावर सीमित है या जहाँ गति महत्वपूर्ण है।

शोधकर्ता ने यह भी परीक्षण किया कि ये मॉडल विभिन्न लंबाई के समाचार लेखों को कितनी अच्छी तरह संभाल सकते हैं और क्या वे नए, अनदेखे डेटा पर सामान्यीकरण (जनरलाइज) कर सकते हैं। जब लेख इतने लंबे थे कि सिस्टम की सीमाओं द्वारा काट दिए गए, तो सभी मॉडलों ने प्रदर्शन में केवल मामूली गिरावट दिखाई, जो यह दर्शाता कि ट्रंकेशन (छंटनी) ने झूठ का पता लगाने की उनकी क्षमता को गंभीर रूप से नुकसान नहीं पहुँचाया। हालाँकि, जब मॉडलों का परीक्षण फेक न्यूज के एक पूरी तरह से अलग डेटासेट पर किया गया जिसे उन्होंने पहले कभी नहीं देखा था, तो प्री-ट्रेंड बांग्लाबर्ट एक बार फिर श्रेष्ठ साबित हुआ, जिसने शून्य से प्रशिक्षित मॉडलों की तुलना में बहुत उच्च स्तर की सटीकता बनाए रखी। यह निष्कर्ष इस बात पर प्रकाश डालता है कि जबकि नया, कुशल आर्किटेक्चर शक्तिशाली है, पाठ के विशाल, विविध संग्रह से सीखने का लाभ केवल आर्किटेक्चर द्वारा आसानी से प्रतिस्थापित नहीं किया जा सकता है। अध्ययन यह निष्कर्ष निकालता है कि जबकि स्थापित ट्रांसफॉर्मर मॉडल इस विशिष्ट कार्य के लिए सबसे सटीक बने हुए हैं, नए स्टेट स्पेस मॉडल एक सम्मोहक, कम्प्यूटेशनल रूप से कुशल विकल्प प्रदान करते हैं जो लगभग उतना ही अच्छा प्रदर्शन करते हैं, विशेष रूप से तब जब बड़े पैमाने पर प्री-ट्रेनिंग का विकल्प न हो। इस तकनीक का भविष्य संभवतः इन नए, कुशल मॉडलों को बांग्ला पाठ के विशाल मात्रा में प्रशिक्षित करने में निहित है ताकि उनकी गति को व्यापक प्री-ट्रेनिंग से आने वाली गहरी समझ के साथ जोड़ा जा सके।