Multi-Agentic System Leveraging Open-Source LLMs to Mitigate Disinformation Threats
यह शोध पत्र एक नवीन मल्टी-एजेंट सिस्टम का प्रस्ताव करता है जो विविध ओपन-सोर्स एलएलएम (LLMs) और एक सर्वसम्मति तंत्र का लाभ उठाकर कई भाषाओं में दुष्प्रचार का प्रभावी ढंग से पता लगाने और उसे बेनकाब करने के लिए, GPT-4 जैसे व्यक्तिगत मॉडलों से बेहतर प्रदर्शन करते हुए अधिक पारदर्शिता सुनिश्चित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक विशाल, अराजक न्यूज़रूम की कल्पना करें जहाँ झूठी कहानियाँ इतनी तेज़ी से लिखी और साझा की जा रही हैं कि कोई उन्हें पढ़ भी नहीं पाता। अतीत में, विशेषज्ञों की एक टीम मेज के चारों ओर बैठती थी, हर कहानी को पढ़ती थी, और इस बात पर बहस करती थी कि क्या सच है और क्या झूठ। लेकिन आज, कहानियाँ इतनी अधिक हैं कि कोई भी मानव टीम उन्हें संभाल नहीं सकती।
यह शोध पत्र एक समाधान प्रस्तावित करता है: एआई (AI) रोबोटों का एक डिजिटल "राउंडटेबल" (गोलमेज) जो झूठ पकड़ने के लिए मिलकर काम करते हैं, ठीक वैसे ही जैसे वह मानव टीम करती थी।
यहाँ बताया गया है कि उनका सिस्टम कैसे काम करता है, जिसे सरल अवधारणाओं में विभाजित किया गया है:
1. टीम: विभिन्न एआई "विशेषज्ञों" का एक समूह
एक एकल सुपर-स्मार्ट एआई (जैसे एक अकेले जीनियस) के बजाय, लेखकों ने चार अलग-अलग एआई मॉडल की एक टीम बनाई है। इन्हें एक बैठक में मौजूद चार अलग-अलग लोगों के रूप में समझें:
- मॉडरेटर (लीडर): एक एआई बॉस के रूप में कार्य करता है। यह प्रश्न पूछता है, बातचीत को पटरी पर रखता है, और यदि सभी सहमत नहीं हो पाते हैं तो अंतिम निर्णय लेता है।
- तीन विशेषज्ञ: अन्य तीन एआई "वर्कर्स" हैं। महत्वपूर्ण बात यह है कि वे सभी एक जैसे नहीं हैं। वे अलग-अलग "ब्रांड" के ओपन-सोर्स एआई (जैसे LLaMA, Kimi, Deepseek, और Qwen) हैं।
- उपमा: कल्पना कीजिए कि एक कहानी की सत्यता जाँचने के लिए एक इतिहासकार, एक वैज्ञानिक और एक पत्रकार को काम पर रखा गया है। उनकी ट्रेनिंग और सोचने के तरीके अलग-अलग हैं। लेखकों ने इस मिश्रण को इसलिए चुना क्योंकि अलग-अलग एआई अलग-अलग चीजें "जानते" हैं, ठीक वैसे ही जैसे अलग-अलग इंसान होते हैं।
2. प्रक्रिया: "बहस"
जब कोई संदिग्ध समाचार हेडलाइन आती है, तो सिस्टम केवल एक एआई से उत्तर नहीं मांगता। यह एक बहस शुरू करता है:
- पिच (प्रस्तुति): मॉडरेटर तीन विशेषज्ञों से पूछता है, "क्या यह कहानी फर्जी है?" प्रत्येक विशेषज्ञ एक उत्तर देता है और बताता है कि क्यों।
- तर्क: यदि विशेषज्ञ असहमत होते हैं (उदाहरण के लिए, एक कहता है "फर्जी", दूसरा कहता है "असली"), तो मॉडरेटर उन्हें अपने बिंदुओं पर तर्क देने के लिए कहता है। वे एक-दूसरे के कारणों को पढ़ते हैं और शायद अपना मन बदल लें।
- सर्वसम्मति: लक्ष्य यह है कि सभी सहमत हों। यदि वे सभी सहमत होते हैं, तो सिस्टम उस उत्तर को लॉक कर देता है।
- टाई-ब्रेकर (निर्णायक): यदि वे बहस करते रहते हैं (20 राउंड तक) और फिर भी सहमत नहीं हो पाते हैं, तो मॉडरेटर हस्तक्षेप करता है, तर्कों का वजन करता है, और अकेले अंतिम निर्णय लेता है।
3. यह क्यों विशेष है
शोध पत्र कुछ प्रमुख ट्रिक्स को उजागर करता है जिनका यह सिस्टम उपयोग करता है:
- इंटरनेट सर्च नहीं: सिस्टम "बंद" है। यह तथ्यों की जाँच करने के लिए ऑनलाइन नहीं जाता है। यह पूरी तरह से इस पर निर्भर करता है जो एआई पहले से ही अपने मस्तिष्क में जानते हैं। यह एक जासूस की तरह है जो किसी गवाह को बुलाने के बजाय केवल अपनी याददाश्त और तर्क का उपयोग करके मामला सुलझाता है। यह महत्वपूर्ण है क्योंकि यह परीक्षण करता है कि क्या एआई किसी भी अन्य व्यक्ति द्वारा झूठ को खारिज किए जाने से पहले उसे पकड़ सकता है।
- ओपन सोर्स: उन्होंने सबसे महंगे, गुप्त एआई मॉडल (जैसे नवीनतम सशुल्क संस्करण) का उपयोग नहीं किया। उन्होंने मुफ्त, ओपन-सोर्स मॉडल का उपयोग किया। यह सिस्टम को पारदर्शी बनाता है—आप देख सकते हैं कि "रोबोट" कैसे सोच रहे हैं क्योंकि उनका कोड सार्वजनिक है।
- छोटा डेटा: उन्होंने इसका परीक्षण उन भाषाओं पर किया जिनके लिए बहुत कम डेटा उपलब्ध है (जैसे स्लोवाक और बुल्गारियाई), न कि केवल अंग्रेजी पर। वे देखना चाहते थे कि क्या "टीम" वाला दृष्टिकोण तब भी काम करता है जब एआई के पास सीखने के लिए बहुत बड़ा उदाहरणों का पुस्तकालय न हो।
4. परिणाम: उन्होंने कैसा प्रदर्शन किया?
लेखकों ने अंग्रेजी, पोलिश, स्लोवाक और बुल्गारियाई में फर्जी समाचारों से जुड़े चार अलग-अलग कार्यों पर अपनी "रोबोट टीम" का परीक्षण किया।
- सोलो एक्ट को पछाड़ना: कई मामलों में, बहस करने वाले एआई की टीम अकेले काम करने वाले एक एकल एआई की तुलना में बेहतर काम करती है। "ग्रुप थिंकिंग" ने उन गलतियों को पकड़ने में मदद की जो एक अकेला रोबोट मिस कर देता।
- झूठ पकड़ना: सिस्टम वास्तविक फर्जी समाचारों को खोजने में बहुत अच्छा था (उच्च रिकॉल)। इसने शायद ही कभी किसी झूठ को छोड़ा, हालांकि कभी-कभी यह थोड़ा अधिक सतर्क था और कुछ असली कहानियों को भी संदिग्ध के रूप में चिह्नित कर दिया।
- बड़े खिलाड़ियों को टक्कर देना: टीम ने प्रसिद्ध, महंगे एआई मॉडल (जैसे GPT-4) के लगभग बराबर (और कभी-कभी बेहतर) प्रदर्शन किया, भले ही उन्होंने मुफ्त मॉडल का उपयोग किया था।
मुख्य निष्कर्ष
शोध पत्र का तर्क है कि फर्जी खबरों की बाढ़ से लड़ने के लिए, हमें केवल एक सुपर-एआई पर निर्भर नहीं होना चाहिए। इसके बजाय, हमें विविध, ओपन-सोर्स एआई की टीमें बनानी चाहिए जो एक-दूसरे से बात करती हों। यह नकल करके कि मनुष्य कैसे बहस करते हैं और सर्वसम्मति तक पहुँचते हैं, ये रोबोट टीमें दुष्प्रचार (disinformation) को अधिक प्रभावी ढंग से पहचान सकती हैं, यहाँ तक कि उन भाषाओं और स्थितियों में भी जहाँ डेटा की कमी है।
यह शोध पत्र क्या दावा नहीं करता है:
- यह नहीं कहता कि यह सिस्टम पूर्ण है या इसने फर्जी खबरों की समस्या को हमेशा के लिए हल कर दिया है।
- यह दावा नहीं करता कि यह सिस्टम पूरी तरह से मानव तथ्य-जांचकर्ताओं (fact-checkers) की जगह ले सकता है, बल्कि यह कह सकता है कि यह उनकी मदद कर सकता है।
- यह दावा नहीं करता कि यह सिस्टम नए तथ्यों के लिए लाइव इंटरनेट खोज सकता है; यह आंतरिक ज्ञान पर निर्भर है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।