ToE: A Hierarchical and Explainable Claim Verification Framework with Dynamic Multi-source Evidence Retrieval and Aggregation
यह शोध पत्र ToE को प्रस्तुत करता है, जो एक पदानुक्रमित और व्याख्या योग्य ढांचा है जो दावों को तर्क वृक्षों (argument trees) में गतिशील रूप से विघटित करता है और बहु-स्रोत साक्ष्य पुनर्प्राप्ति एवं एकत्रीकरण के लिए सुदृढीकरण शिक्षण (reinforcement learning) का उपयोग करता है, जिससे तथ्य-जांच की सटीकता में महत्वपूर्ण सुधार होता है—विशेष रूप से AI-जनित भ्रामक सूचनाओं के विरुद्ध—जबकि नीति अभिसरण (policy convergence) पर सैद्धांतिक गारंटी भी प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जासूस हैं जो एक रहस्य सुलझाने की कोशिश कर रहे हैं, लेकिन आपको जो सुराग मिलते हैं वे सच, झूठ और चतुराई से बनाए गए जाली दस्तावेजों का मिश्रण हैं। डिजिटल दुनिया में, यह बिल्कुल वैसा ही होता है जब आर्टिफिशियल इंटेलिजेंस (AI) समाचारों की सत्यता की जांच (fact-check) करने की कोशिश करता है। कभी-कभी, बुरे तत्व इतने विश्वसनीय और सही जगह पर स्थित फर्जी कहानियाँ बना देते हैं कि स्मार्ट AI भी उन्हें सच मानने के झांसे में आ जाता है।
यह शोध पत्र ToE (Tree of Evidence - साक्ष्यों का वृक्ष) नामक एक नई प्रणाली पेश करता है। ToE को केवल एक अकेले जासूस के रूप में नहीं, बल्कि एक पदानुक्रमित जांच टीम (hierarchical investigation team) के रूप में देखें जो किसी दावे को सुलझाने के लिए तथ्यों का एक "पारिवारिक वृक्ष" (family tree) बनाती है।
यह इस प्रकार काम करता है, जिसे सरल चरणों में नीचे समझाया गया है:
1. समस्या: "फेक न्यूज" का जाल
मानक AI मॉडल उन छात्रों की तरह हैं जो केवल पुराने पाठ्यपुस्तकों से पढ़ते हैं। उन्हें नहीं पता कि आज क्या हुआ है। इसे ठीक करने के लिए, हम आमतौर पर उन्हें "गूगल" करने की अनुमति देते हैं। लेकिन यहाँ एक पेंच है: बुरे तत्वों ने खोज परिणामों (search results) को "विषाक्त" (poison) करने का तरीका सीख लिया है। वे ऐसी फर्जी खबरें लिखते हैं जो इतनी वास्तविक दिखती हैं और सर्च इंजन में इतनी ऊंचे स्थान पर होती हैं कि AI उन्हें सच मानकर उठा लेता है।
- उपमा: कल्पना कीजिए कि एक छात्र इतिहास का निबंध लिखने की कोशिश कर रहा है। वह पुस्तकालय जाता है, लेकिन किसी ने चुपके से असली इतिहास की किताबों को नकली किताबों से बदल दिया है जो दिखने में बिल्कुल वैसी ही हैं। छात्र उन नकली किताबों को पढ़ता है और गलत निबंध लिखता है, यह सोचकर कि वह सही है।
2. समाधान: एक "तथ्य वृक्ष" बनाना
एक प्रश्न पूछने और एक उत्तर प्राप्त करने के बजाय, ToE एक दावे को एक ऐसे पेड़ के तने की तरह मानता है जिसे छोटे-छोटे शाखाओं में तोड़ा जाना चाहिए।
- दावा (तना): "टिम कुक, OpenAI के CEO हैं।"
- शाखाएं (उप-दावे): इस दावे को सत्यापित करने के लिए, Toच केवल यह नहीं पूछता कि "क्या यह सच है?" बल्कि यह इसे छोटे हिस्सों में तोड़ देता है:
- CEO कौन है?
- उन्होंने कब जॉइन किया?
- मुख्यालय कहाँ है?
- वे क्यों शामिल हुए होंगे?
यदि एक शाखा के लिए साक्ष्य कमजोर है, तो ToE और गहराई तक जाने के लिए एक नई, छोटी शाखा विकसित करता है। यह तब तक अपनी शाखाओं का विस्तार करता रहता है जब तक कि इसके पास निर्णय लेने के लिए पर्याप्त ठोस लकड़ी (साक्ष्य) न हो जाए।
3. तीन विशिष्ट एजेंट (Specialized Agents)
ToE तीन अलग-अलग "एजेंटों" (AI वर्कर्स) का उपयोग करता है जो मिलकर काम करते हैं:
द हंटर (The Hunter - खोजकर्ता एजेंट): यह एजेंट एक मानचित्र के साथ स्काउट की तरह है। यह केवल एक जगह नहीं खोजता; इसे पता है कि विभिन्न प्रकार के झूठ के लिए अलग-अलग उपकरणों की आवश्यकता होती है।
- यदि दावा विज्ञान के बारे में है, तो यह अकादमिक जर्नल्स में खोज करता है।
- यदि यह राजनीति के बारे में है, तो यह फैक्ट-चेकिंग वेबसाइटों की जांच करता है।
- यदि यह किसी सेलिब्रिटी के बारे में है, तो यह सोशल मीडिया देखता है।
- महत्वपूर्ण: इसे सक्रिय रूप से विपरीत साक्ष्य (counter-evidence) (इस बात का प्रमाण कि दावा गलत है) खोजने के लिए प्रशिक्षित किया गया है, न कि केवल इस बात के लिए कि यह सच है। यह इसे "पुष्टि पूर्वाग्रह" (confirmation bias - केवल वही खोजना जो वह खोजना चाहता है) में गिरने से रोकता है।
द जज (The Judge - मूल्यांकन एजेंट): एक बार जब हंटर दस्तावेजों का ढेर लेकर आता है, तो जज उन्हें पढ़ता है। वह पूछता है: "क्या यह स्रोत भरोसेमंद है? क्या यह दस्तावेज़ वास्तव में दावे का समर्थन करता है या उसका खंडन करता है?" यह प्रत्येक साक्ष्य को एक स्कोर प्रदान करता है।
द फोरमैन (The Foreman - एकत्रीकरण एजेंट): यह एजेंट पूरे वृक्ष को देखता है। यह सभी शाखाओं के स्कोर लेता है और उन्हें जोड़ता है। यदि शाखाएं डगमगा रही हैं, तो यह टीम को और गहराई तक जाने के लिए कहता है। यदि शाखाएं ठोस हैं और एक-दूसरे से सहमत हैं, तो यह खोज रोक देता है और अपना फैसला सुना देता है।
4. यह दूसरों से अधिक स्मार्ट क्यों है?
अधिकांश फैक्ट-चेकिंग सिस्टम एक व्यक्ति की तरह हैं जो एक अखबार पढ़ता है और तय करता है कि वह सच है या नहीं। ToE पांच अलग-अलग स्रोतों को क्रॉस-रेफरेंस करने, विरोधाभासों की जांच करने वाली एक टीम की तरह है, और यह तब तक रुकता है जब तक कि वह 100% सुनिश्चित न हो जाए।
ToE का परीक्षण एक विशेष "एडवर्सरियल" डेटासेट (फर्जी खबरों का एक सेट जिसे विशेष रूप से AI को धोखा देने के लिए बनाया गया है) का उपयोग करके अन्य तरीकों के विरुद्ध किया गया।
- परिणाम: जबकि अन्य सिस्टम फर्जी खबरों से भ्रमित हो गए, ToE स्थिर रहा। इसने मौजूदा सर्वोत्तम तरीकों की तुलना में 4% से 24% तक सटीकता में सुधार किया।
- "पॉइजन" टेस्ट: भले ही फर्जी खबरें पूरी तरह से वास्तविक दिखने के लिए तैयार की गई थीं (एक तकनीक जिसे "GEO poisoning" कहा जाता है), ToE अपने साक्ष्य वृक्ष में गहराई तक जाकर विसंगतियों को पहचानने में सक्षम रहा।
5. निष्कर्ष
ToE एक ऐसा ढांचा (framework) है जो फैक्ट-चेकिंग को एक संरचित, चरण-दर-चरण जांच में बदल देता है। सत्य का एक एकल स्नैपशॉट लेने के बजाय, यह साक्ष्यों का एक गतिशील, बढ़ता हुआ वृक्ष बनाता है। यह जानता है कि कब खोज रोकनी है और कब और गहराई तक जाना है, यह सुनिश्चित करता है कि अंतिम निर्णय सत्यापित तथ्यों के ठोस आधार पर आधारित हो, न कि इंटरनेट पर मिली पहली चीज़ पर।
संक्षेप में: ToE केवल यह नहीं पूछता कि "क्या यह सच है?" बल्कि यह पूछता है कि "हमें कैसे पता कि यह सच है?" और उस प्रश्न का उत्तर देने के लिए एक प्रमाण वृक्ष (proof tree) बनाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।