VeritasAI Multi Agent Framework for Explainable Fake News Detection Using Retrieval Augmented Generation

इंटरनेट सूचनाओं का एक विशाल, तीव्र-गति वाला बाजार बन गया है जहाँ सत्य और असत्य अक्सर एक ही गति से यात्रा करते हैं। जब कोई कहानी सामने आती है, तो यह मिनटों में दुनिया भर में फैल सकती है, सार्वजनिक राय को आकार दे सकती है, चुनावों को प्रभावित कर सकती है, और यहाँ तक कि लोगों के दैनिक जीवन में उनके व्यवहार को भी बदल सकती है। समस्या केवल यह नहीं है कि झूठ मौजूद हैं, बल्कि यह है कि हमारे पास उन्हें जाँचने के जो उपकरण हैं, वे अक्सर यह समझाने में विफल रहते हैं कि कोई चीज़ गलत क्यों है। अधिकांश स्वचालित प्रणालियाँ एक 'ब्लैक बॉक्स' की तरह कार्य करती हैं: वे एक दावा लेती हैं, उसे प्रोसेस करती हैं, और बिना काम दिखाए "सत्य" या "असत्य" जैसा एक सरल लेबल थमा देती हैं। पारदर्शिता की इस कमी के कारण लोगों के लिए परिणाम पर भरोसा करना कठिन हो जाता है, विशेष रूप से तब जब दांव ऊँचे हों। इसे हल करने के लिए, शोधकर्ता एक नए दृष्टिकोण की ओर मुड़ रहे हैं जो दो शक्तिशाली विचारों को जोड़ता है। पहला, वे ऐसी प्रणालियों का उपयोग करते हैं जो केवल वही नहीं देखतीं जो कंप्यूटर ने याद किया है, बल्कि वर्तमान तथ्यों को खोजने के लिए लाइव वेब तक पहुँच सकती हैं। दूसरा, वे डिजिटल टीमें बना रहे हैं जहाँ विभिन्न कंप्यूटर प्रोग्राम विशिष्ट भूमिकाएँ निभाते हैं, एक निष्कर्ष तक पहुँचने के लिए एक-दूसरे के साथ बहस करते हैं, ठीक वैसे ही जैसे विशेषज्ञों का एक मानव पैनल करता है।

इस संदर्भ में, बेंगलुरु, भारत के आरवी कॉलेज ऑफ इंजीनियरिंग के शोधकर्ताओं की एक टीम ने 'वेरिटास एआई' (VeritasAI) नामक एक नई प्रणाली बनाई है। उनका लक्ष्य एक ऐसा टूल बनाना था जो न केवल फर्जी खबरों का पता लगाए, बल्कि अपने निर्णय को इस तरह समझा सके जिसे एक इंसान समझ सके और सत्यापित कर सके। एक एकल कंप्यूटर प्रोग्राम द्वारा त्वरित निर्णय लेने के बजाय, VeritasAI तीन विशिष्ट कृत्रिम बुद्धिमत्ता (AI) एजेंटों के बीच एक संरचित बहस आयोजित करता है। इस प्रणाली को एक उपयोगकर्ता के दावे को लेने, इंटरनेट पर साक्ष्य खोजने और फिर कथन के पक्ष और विपक्ष में तर्क देने के बाद एक अंतिम, तर्कसंगहर निर्णय देने के लिए डिज़ाइन किया गया है।

प्रक्रिया तब शुरू होती है जब कोई उपयोगकर्ता सिस्टम में एक समाचार दावा प्रस्तुत करता है। सॉफ्टवेयर तुरंत काम पर लग जाता है, दो अलग-अलग स्रोतों को एक साथ खोजता है: सामान्य वेब सर्च इंजन और समर्पित समाचार डेटाबेस। यह दोहरा दृष्टिकोण सुनिश्चित करता है कि प्रणाली आधिकारिक समाचार रिपोर्टों से लेकर व्यापक वेब चर्चाओं तक, साक्ष्यों की एक विस्तृत श्रृंखला एकत्र करे। एक बार जब प्रणाली दस्तावेजों की एक सूची एकत्र कर लेती है, तो वह शोर को फ़िल्टर कर देती है। यह उन लेखों को हटा देती है जो मूल दावे के समान स्रोत से आते हैं ताकि चक्रीय तर्क (circular reasoning) से बचा जा सके, और उन निम्न-गुणवत्ता वाले अंशों को हटा देती है जिनमें उपयोगी जानकारी नहीं होती है। शेष दस्तावेजों को फिर इस आधार पर व्यवस्थित किया जाता है कि वे मूल दावे से कितनी निकटता से मेल खाते हैं, जिसमें एक ऐसी विधि का उपयोग किया जाता है जो समान विचारों को एक साथ समूहित करती है। इस साफ-सुथकी सूची से, प्रणाली बहस के आधार के रूप में काम करने के लिए शीर्ष दस सबसे प्रासंगिक साक्ष्यों का चयन करती है।

ये दस साक्ष्य फिर तीन AI एजेंटों को सौंप दिए जाते हैं, जिनमें से प्रत्येक की एक विशिष्ट भूमिका होती है। पहला एजेंट, जो एक अभियोजक (prosecutor) के रूप में कार्य करता है, दावे का खंडन करने वाले तर्कों को खोजने के लिए साक्ष्यों की समीक्षा करता है। वह उन तथ्यों को देखता है जो कथन को गलत साबित करते हैं और सबसे मजबूत प्रति-तर्कों की पहचान करता है। दूसरा एजेंट, रक्षक (defender), इसके विपरीत करता है। वह दावे का समर्थन करने वाले बिंदुओं को खोजने के लिए उसी साक्ष्य की खोज करता है, पुष्टि और कथन पर विश्वास करने के वैध कारणों की तलाश करता है। अंत में, तीसरा एजेंट, न्यायाधीश (judge), दोनों पक्षों को सुनता है। वह अभियोजक और रक्षक के तर्कों की समीक्षा करता है, और मूल साक्ष्यों के साथ मिलकर उन्हें एक-दूसरे के विरुद्ध तौलता है। न्यायाधीश केवल विजेता का चुनाव नहीं करता; वह अंतिम निर्णय देने के लिए सहायक और विरोधाभासी बिंदुओं की मजबूती का विश्लेषण करता है। यह निर्णय चार श्रेणियों में से एक में आता है: सत्य, असत्य, भ्रामक, या अपुष्ट। सिस्टम एक 'कॉन्फिडेंस स्कोर' (विश्वास स्कोर) भी प्रदान करता है, जो यह दर्शाता है कि वह परिणाम के बारे में कितना आश्वस्त है, और उन विशिष्ट स्रोतों को सूचीबद्ध करता है जो निष्कर्ष तक ले गए।

जो चीज़ इस प्रणाली को विशेष रूप से उपयोगी बनाती है, वह इसकी पारदर्शिता के प्रति प्रतिबद्धता है। अभियोजक या रक्षक द्वारा उत्पन्न प्रत्येक तर्क सीधे एक स्रोत URL से जुड़ा होता है, जिससे एक मानव उपयोगकर्ता स्वयं साक्ष्य को सत्यापित करने के लिए उस पर क्लिक कर सकता है। सिस्टम एक संरचित रिपोर्ट तैयार करता है जिसमें अंतिम निर्णय, विश्वास स्तर और तर्क का सारांश शामिल होता है। यदि निर्णय लेने के लिए साक्ष्य अपर्याप्त हैं, तो सिस्टम अनुमान लगाने के बजाय ईमानदारी से दावे को "अपुष्ट" (unverified) के रूप में लेबल करता है। शोधकर्ताओं ने इस प्रणाली का परीक्षण 500 दावों के एक डेटासेट पर किया, और मानव-लिखित 'ग्राउंड ट्रुथ' के विरुद्ध इसके प्रदर्शन की तुलना की। परिणामों ने दिखाया कि प्रणाली ने दावों को वर्गीकृत करने में उच्च सटीकता प्राप्त की, जिसमें विभिन्न श्रेणियों में प्रदर्शन मेट्रिक्स लगभग 87 प्रतिशत के आसपास रहे। इससे भी महत्वपूर्ण बात यह है कि प्रणाली अपने निर्णयों के लिए स्पष्ट, प्राकृतिक भाषा व्याख्याएं उत्पन्न करने में सफल रही, एक ऐसी विशेषता जिसका पिछले कई स्वचालित सिस्टमों में अभाव था।

शोधकर्ताओं ने इस प्रणाली के लिए एक विज़ुअल इंटरफ़ेस भी बनाया है, जिससे उपयोगकर्ता वास्तविक समय में पूरी सत्यापन प्रक्रिया को देख सकते हैं। जैसे-जैसे सिस्टम साक्ष्य खोजता है, फ़िल्टर करता है और रैंक करता है, एक प्रोग्रेस ट्रैकर उपयोगकर्ता को दिखाता है कि कौन सा चरण चल रहा है। एक बार जब एजेंट अपनी बहस पूरी कर लेते हैं, तो इंटरफ़ेस अंतिम निर्णय कार्ड, दोनों पक्षों के तर्क और विश्वसनीयता रेटिंग के साथ साक्ष्य ग्रिड प्रदर्शित करता है। यह विज़ुअल लेयर पर्दे के पीछे होने वाले जटिल कार्य को स्पष्ट करने में मदद करती है, जिससे तकनीक गैर-विशेषज्ञों के लिए भी सुलभ हो जाती है। सिस्टम लचीला है; यह एक नॉलेज ग्राफ में विभिन्न दावों के बीच संबंधों को संग्रहीत कर सकता है, जो अंततः गलत सूचना फैलने के पैटर्न की पहचान करने में मदद कर सकता है, हालांकि वर्तमान अध्ययन में इस विशिष्ट विशेषता का पूर्ण मूल्यांकन नहीं किया गया था।

अपनी सफलता के बावजूद, लेखक इस प्रणाली की सीमाओं को बताने में सावधानी बरतते हैं। उपकरण की प्रभावशीलता पूरी तरह से वेब पर सूचना की उपलब्धता पर निर्भर करती; यदि कोई दावा किसी बहुत ही विशिष्ट विषय के बारे में है या किसी ऐसी नई घटना के बारे में है जिसे अभी तक समाचार आउटलेट्स द्वारा कवर नहीं किया गया है, तो प्रणाली निर्णय लेने के लिए पर्याप्त साक्ष्य खोजने में संघर्ष कर सकती है। इसके अतिरिक्त, क्योंकि सिस्टम अपने तर्क उत्पन्न करने के लिए लार्ज लैंग्वेज मॉडल्स (LLMs) पर निर्भर करता है, यह उन अंतर्निहित मॉडलों के संभावित पूर्वाग्रहों को भी विरासत में प्राप्त करता है। शोधकर्ता यह भी बताते हैं कि उनका वर्तमान मूल्यांकन 500 दावों के अपेक्षाकृत छोटे नमूने पर किया गया था, और वे भविष्य में बहुत बड़े पैमाने पर इस प्रणाली का परीक्षण करने की योजना बना रहे हैं। वे विभिन्न प्रकाशकों की विश्वसनीयता को स्कोर करने के बेहतर तरीके जोड़कर और बहु-भाषी दावों को संभालने की अपनी क्षमता का विस्तार करके सिस्टम को बेहतर बनाने का भी इरादा रखते हैं।

VeritasAI प्रोजेक्ट इस तरह से हमारे दृष्टिकोण को बदलने का प्रतिनिधित्व करता है जिससे हम गलत सूचना की समस्या का सामना कर सकें। एकल, अपारदर्शी एल्गोरिदम से हटकर एक मल्टी-एजेंट सिस्टम की ओर बढ़ते हुए, जो मानव बहस की नकल करता है, शोधकर्ताओं ने एक ऐसा टूल बनाया है जो न केवल सटीक है बल्कि जवाबदेह भी है। यह केवल उपयोगकर्ताओं को यह नहीं बताता कि क्या सोचना है; यह उन्हें साक्ष्य दिखाता है, विरोधी विचार प्रस्तुत करता है, और निष्कर्ष के पीछे के तर्क को समझाता है। एक ऐसे युग में जहाँ सूचना पर विश्वास नाजुक है, इस तरह की पारदर्शिता एक मार्ग प्रदान करती है, जो सत्यापन प्रक्रिया को एक 'ब्लैक बॉक्स' से बदलकर मानव और मशीन के बीच एक स्पष्ट, समझने योग्य संवाद में बदल देती है। यह सिस्टम वर्तमान में ओपन-सोर्स सॉफ्टवेयर के रूप में उपलब्ध है, जो दूसरों को इसके कोड की जांच करने, इसकी विधियों का परीक्षण करने और गलत सूचना के खिलाफ लड़ाई को और अधिक परिष्कृत करने के लिए इसके ढांचे पर निर्माण करने के लिए आमंत्रित करता है।