Latent Fact-Checking: Detecting Misinformation through Activation Engineering
यह शोधपत्र LaFaCt को प्रस्तुत करता है, जो एक स्केलेबल दुष्प्रचार पहचान ढांचा (framework) है जो कंट्रास्टिव एक्टिवेशन इंजीनियरिंग से प्राप्त एक लेटेंट "मिसइन्फॉर्मेशन डायरेक्शन" पर इनपुट के लास्ट-टोकन एक्टिवेशन को प्रोजेक्ट करके असत्यता की पहचान करता है, और बिना फाइन-ट्यूनिंग या बाहरी साक्ष्य पुनर्प्राप्ति (external evidence retrieval) की आवश्यकता के विभिन्न मॉडल आकारों में प्रतिस्पर्धी प्रदर्शन प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
AI के दिमागों की गुप्त भाषा
कल्पना कीजिए कि आपके पास एक विशाल, सुपर-स्मार्ट रोबोट है जो कहानियाँ लिख सकता है, सवालों के जवाब दे सकता है और इंसानों की तरह बातें कर सकता है। वैज्ञानिक इन्हें "लार्ज लैंग्वेज मॉडल्स" (Large Language Models) कहते हैं। लंबे समय तक, लोगों को लगा कि यह जानने का एकमात्र तरीका कि क्या यह रोबोट सच बोल रहा है, यह है कि उसके द्वारा बोले गए शब्दों को सुना जाए। लेकिन यहाँ एक पेंच है: कभी-कभी रोबोट बहुत आत्मविश्वास और सहजता से बोलता है, भले ही वह मनगढ़ंत बातें बना रहा हो। यह एक जादूगर की तरह है जो अपने करतब में इतना माहिर है कि आप टोपी से खरगोश निकलते हुए देखकर विश्वास कर लेते हैं, जबकि वह केवल एक तकनीक है।
यह पता लगाने के लिए कि क्या रोबोट झूठ बोल रहा है, शोधकर्ता ऐसे सिस्टम बनाने की कोशिश कर रहे हैं जो रोबोट के तथ्यों की जाँच किताबों या इंटरनेट के पुस्तकालय से करें। लेकिन कंप्यूटर विज्ञान की दुनिया में एक और विचार घूम रहा है: क्या होगा अगर रोबोट को पता है कि वह झूठ बोल रहा है, भले ही वह इसे ज़ाहिर न करे? एक मानव मस्तिष्क के बारे में सोचें। जब आप झूठ बोलते हैं, तो आपका दिल तेज़ी से धड़क सकता है, या आपके हाथ पसीने से भीग सकते हैं, भले ही आपकी आवाज़ शांत रहे। वैज्ञानिकों का मानना है कि AI मॉडल्स के पास भी इसी तरह के "आंतरिक संकेत" होते हैं। उन्हें लगता है कि रोबोट के डिजिटल दिमाग के अंदर छिपे हुए पैटर्न हैं—एक गुप्त कोड की तरह—जो यह दिखाते हैं कि कोई कथन सत्य है या असत्य, इससे बहुत पहले कि रोबोट अपना अंतिम उत्तर टाइप करे। यह शोध उन गुप्त संकेतों को पढ़ने के बारे में है ताकि रोबोट से खुद स्पष्टीकरण मांगे बिना या लाइब्रेरी चेक किए बिना गलत सूचनाओं को पकड़ा जा सके।
झूठ पकड़ने के लिए रोबोट का मन पढ़ना
इस अध्ययन में, ब्राजील के शोधकर्ताओं की एक टीम ने रोबोट के शब्दों को सुनना बंद करने और उसके "ब्रेनवेव्स" (मस्तिष्क की तरंगों) को देखना शुरू करने का निर्णय लिया। उन्होंने एक्टिवेशन इंजीनियरिंग (activation engineering) नामक एक चतुर तकनीक का उपयोग किया। रोबोट के दिमाग को हजारों लाइट स्विचों से भरे एक विशाल कमरे के रूप में कल्पना करें। जब रोबोट किसी चीज़ के बारे में सोचता है, तो रोशनी का एक विशिष्ट पैटर्न जल उठता है। शोधकर्ताओं ने पाया कि इस रोशनी वाले कमरे में एक विशिष्ट "दिशा" है जो झूठ की ओर इशारा करती है, और एक अलग दिशा है जो सच्चाई की ओर इशारा करती है। यह रोबोट के भीतर एक गुप्त कंपास खोजने जैसा है जो हमेशा उत्तर की ओर इशारा करता है, भले ही रोबोट यह दिखावा कर रहा हो कि वह दक्षिण की ओर देख रहा है।
टीम को रोबोट को कुछ नया सिखाने या उसके दिमाग को बदलने (जिसे "फाइन-ट्यूनिंग" कहा जाता है) की आवश्यकता नहीं थी। इसके बजाय, उन्होंने कॉन्ट्रास्टिव एक्टिवेशन एडिशन (Contrastive Activation Addition - CAA) नामक एक विधि का उपयोग किया। उन्होंने इसे इस प्रकार किया: उन्होंने वाक्यों का एक जोड़ा लिया—एक सत्य और एक असत्य—और रोबोट से कहा कि वह सत्य वाले को असत्य और असत्य वाले को सत्य मानकर व्यवहार करे। इन दो विपरीत परिदृश्यों के लिए रोबोट ने जो "प्रकाश पैटर्न" (activations) बनाए, उनकी तुलना करके उन्होंने उनके बीच का सटीक अंतर निकाला। यह अंतर उनका "झूठ का कंपास" (Lie Compass) बन गया।
एक बार जब उनके पास यह कंपास आ गया, तो उन्होंने वास्तविक दावों पर इसका परीक्षण किया। उन्होंने रोबमान से सवाल का जवाब नहीं पूछा। इसके बजाय, उन्होंने एक दावा रोबोट में डाला, रोबोट द्वारा बनाए गए अंतिम "प्रकाश पैटर्न" को देखा, और उसे अपने "झूठ के कंपास" पर प्रोजेक्ट किया। यदि पैटर्न मजबूती से "झूठ" की दिशा में इशारा करता था, तो उनके सिस्टम ने उसे गलत सूचना के रूप में चिह्नित कर दिया। उन्होंने इसका परीक्षण 11 अलग-अलग रोबोट दिमागों पर किया, जिनमें 27 करोड़ (270 मिलियन) हिस्सों वाले छोटे मॉडल से लेकर 12 अरब (12 बिलियन) हिस्सों वाले विशाल मॉडल तक शामिल थे, और तीन अलग-अलग वास्तविक दुनिया के फैक्ट-चेकिंग चुनौतियों का उपयोग किया।
उन्होंने क्या पाया (और क्या नहीं)
परिणाम आश्चर्यजनक रूप से स्पष्ट थे। तीन में से दो चुनौतियों (LIAR और FACTors) पर, शोधकर्ताओं की "झूठ का कंपास" विधि रोबोट से केवल अनुमान लगाने या उसे सीखने के लिए कुछ उदाहरण देने की तुलना में बेहतर काम करती थी। वास्तव में, यह विधि छोटे, कमजोर रोबोटों की मदद करने में विशेष रूप से अच्छी थी। उदाहरण के लिए, एक छोटा रोबोट जो LIAR डेटासेट पर आमतौर पर 46% बार गलत अनुमान लगाता था, इस आंतरिक संकेत का उपयोग करके 73% तक सही होने में सक्षम हुआ। यह एक भ्रमित छात्र को एक गुप्त संदर्भ मार्गदर्शिका देने जैसा है जो उसे विषय को पूरी तरह से जाने बिना भी सही उत्तर पहचानने में मदद करती है।
शोधकर्ता सुझाव देते हैं कि ऐसा इसलिए होता है क्योंकि रोबोट का मस्तिष्क वास्तव में सत्य को धारण करता है, भले ही वह इसे बोलने में विफल रहे। "झूठ का कंपास" उस छिपे हुए सत्य के संकेत को खोज लेता है। हालाँकि, यह कहानी हर जगह पूर्ण नहीं है। तीसरे चैलेंज (AVeriTeC) पर, यह विधि उतनी अच्छी तरह काम नहीं करती थी, विशेष रूप से बड़े रोबोटों के लिए। टीम बताती है कि यह डेटासेट अलग है: वहां के दावों को केवल तभी सत्य या असत्य सिद्ध किया जा सकता है जब आप इंटरनेट पर अतिरिक्त जानकारी खोजने जाएं। चूंकि उनकी विधि केवल दावे को देखती है और बाहर के साक्ष्यों की तलाश नहीं करती, इसलिए यह भ्रमित हो जाती है। यह गणित के सवाल को केवल प्रश्न को देखकर सही या गलत ठहराने जैसा है, बिना उत्तर कुंजी देखने या गणित हल करने की अनुमति के।
निष्कर्ष
यह शोध पत्र बताता है कि हमें तथ्यों की जांच करने के लिए हमेशा विशाल, महंगे सिस्टम बनाने की आवश्यकता नहीं होती है। कभी-कभी, सत्य पहले से ही रोबोट के अपने दिमाग के भीतर छिपा होता है, बस उसे खोजने की प्रतीक्षा कर रहा होता है। रोबोट के आंतरिक संकेतों को पढ़कर, हम गलत सूचनाओं को पहले की तुलना में अधिक तेज़ी से और कम कंप्यूटिंग शक्ति के साथ पकड़ सकते हैं। शोधकर्ताओं ने पाया कि यह "झूठ का कंपास" कई अलग-अलग प्रकार के रोबोट दिमागों और आकारों में काम करता है, जो यह साबित करता है कि सत्य और झूठ के बीच अंतर करने की क्षमता इन मशीनों के भीतर एक संरचित, रैखिक पथ है।
हालाँकि, वे सावधानी बरतते हुए कहते हैं कि यह हर चीज़ के लिए जादुई समाधान नहीं है। यदि किसी झूठ को उजागर करने के लिए किसी विशिष्ट समाचार लेख या वैज्ञानिक शोध पत्र की जांच की आवश्यकता है, तो यह विधि अकेले वह काम नहीं कर सकती। लेकिन कई स्थितियों में, विशेष रूप से जहाँ हमें तथ्यों की तेज़ी से जाँच करने या छोटे, सस्ते रोबोटों का उपयोग करने की आवश्यकता होती है, यह दृष्टिकोण एक शक्तिशाली नया उपकरण प्रदान करता है। यह रोबोट के अपने छिपे हुए ज्ञान को गलत सूचना के विरुद्ध खड़ा करता है, और यह सिद्ध करता है कि कभी-कभी, झूठे को पकड़ने का सबसे अच्छा तरीका वह सुनना है जो वह नहीं कह रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।