Belief-Sim: Towards Belief-Driven Simulation of Demographic Misinformation Susceptibility
यह शोधपत्र BeliefSim को प्रस्तुत करता है, जो मनोवैज्ञानिक रूप से प्रेरित विश्वास प्रोफाइल्स (belief profiles) का लाभ उठाकर लार्ज लैंग्वेज मॉडल्स (LLMs) के माध्यम से गलत सूचनाओं के प्रति संवेदनशीलता में जनसांख्यिकीय विविधताओं को सफलतापूर्वक सिम्युलेट करता है, और 92% तक सटीकता प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह अनुमान लगाने की कोशिश कर रहे हैं कि कौन सा व्यक्ति फर्जी खबर (fake news) पर विश्वास करने की सबसे अधिक संभावना रखता है।
अतीत में, शोधकर्ताओं ने यह अनुमान लगाने की कोशिश की कि यह डेमोग्राफिक्स (वह व्यक्ति कौन है) को देखकर किया जा सकता है। उन्होंने सोचा, "शायद बुजुर्ग लोग अधिक फर्जी खबरें मानते हैं," या "शायद कम शिक्षा वाले लोग इसके प्रति अधिक संवेदनशील होते हैं।" यह किसी का पसंदीदा फिल्म जानने के लिए उसकी उम्र और ज़िप कोड जानने जैसा है। कभी-कभी यह काम करता है, लेकिन अक्सर यह एक तुक्का होता है जो रूढ़ियों (stereotypes) की ओर ले जाता है।
यह पेपर मानव व्यवहार को सिम्युलेट करने के लिए AI का उपयोग करने का एक नया, स्मार्ट तरीका पेश करता है। वे इसे Belief-Sim कहते हैं।
यहाँ मूल विचार को एक सरल उपमा के माध्यम से समझाया गया है:
"पर्सनैलिटी प्रोफाइल" बनाम "रिज्यूमे"
एक व्यक्ति के डेमोग्राफिक्स (आयु, लिंग, स्थान) को उनके रिज्यूमे के रूप में सोचें। यह उनके बारे में तथ्य सूचीबद्ध करता है, लेकिन यह आपको यह नहीं बताता कि वे कैसे सोचते हैं।
एक व्यक्ति के विश्वासों (क्या वे विज्ञान पर भरोसा करते हैं? क्या वे भविष्य को लेकर चिंतित हैं? क्या वे परंपरा को महत्व देते हैं?) को उनके पर्सनैलिटी प्रोफाइल के रूप में सोचें। यह आपको बताता है कि वे जानकारी को कैसे प्रोसेस करते हैं।
लेखकों का तर्क है कि यदि आप चाहते हैं कि एक AI किसी विशिष्ट समूह के लोगों की तरह व्यवहार करे, तो उसे केवल रिज्यूमे देना पर्याप्त नहीं है। आपको उसे पर्सनैलिटी प्रोफाइल देना होगा।
उन्होंने इसे कैसे किया (नुस्खा)
शोधकर्ताओं ने इसे टेस्ट करने के लिए Belief-Sim नामक एक सिस्टम बनाया। यहाँ बताया गया है कि उन्होंने इसे कैसे तैयार किया:
सामग्री (टैक्सोनॉमी): उन्होंने मनोवैज्ञानिक मेनू की तरह 7 अलग-अलग प्रकार के विश्वासों की एक "सूची" बनाई।
- वर्ल्डव्यू (विश्वदृष्टि): दुनिया में आपके स्थान के बारे में आपकी दृष्टि।
- ट्रस्ट (विश्वास/भरोसा): आप किस पर भरोसा करते हैं? (वैज्ञानिकों पर? सरकार पर? अपने पड़ोसी पर?)
- थिंकिंग स्टाइल (सोचने की शैली): क्या आप तार्किक रूप से सोचते हैं, या सहज ज्ञान (gut feeling) के आधार पर चलते हैं?
- कॉन्सपिरेसी (साजिश): क्या आपको लगता है कि हर जगह गुप्त साजिशें चल रही हैं?
- वैल्यूज (मूल्य): आपके लिए सही और गलत क्या है?
- इमोशंस (भावनाएं): क्या आप आसानी से डर जाते हैं या क्रोधित होते हैं?
- शॉर्टकट्स (शॉर्टकट): क्या आप चीजों पर इसलिए विश्वास करते हैं क्योंकि आपने उन्हें पहले सुना है?
सिमुलेशन (AI शेफ): उन्होंने लार्ज लैंग्वेज मॉडल्स (LLMs) का उपयोग किया—वही तरह के AI जो निबंध लिखते हैं और आपसे चैट करते हैं।
- पुराना तरीका: उन्होंने AI को बताया, "एक 65 वर्षीय महिला की तरह व्यवहार करो जो एक ग्रामीण क्षेत्र में रहती है।"
- नया तरीका (Belief-Sim): उन्होंने AI को बताया, "एक 65 वर्षीय महिला की तरह व्यवहार करो जो एक ग्रामीण क्षेत्र में रहती है जो विज्ञान पर गहरा विश्वास करती है, अर्थव्यवस्था को लेकर बहुत चिंतित है, और समाचारों पर विश्वास करने से पहले तार्किक रूप से सोचने को प्राथमिकता देती है।"
टेस्ट: उन्होंने AI को वास्तविक समाचार सुर्खियां (कुछ सच्ची और कुछ फर्जी) दीं और पूछा, "क्या यह सच है या झूठ?" फिर उन्होंने AI के उत्तर की तुलना वास्तविक मनुष्यों द्वारा दिए गए उत्तरों से की।
बड़ी खोज
परिणाम आश्चर्यजनक और बहुत स्पष्ट थे:
- डेमोग्राफिक्स अकेले कमजोर हैं। केवल AI को व्यक्ति की आयु या लिंग बताने से ज्यादा मदद नहीं मिली। वास्तव में, इसने कभी-कभी AI को और भी खराब बना दिया, क्योंकि यह रूढ़ियों (stereotypes) पर निर्भर होने लगा (जैसे, "बुजुर्ग लोग इसे मानेंगे ही")।
- विश्वास ही असली 'सीक्रेट सॉस' है। जब AI को "पर्सनैलिटी प्रोफाइल" (विश्वास) दिया गया, तो यह अविश्वसनीय रूप से सटीक हो गया—कुछ मामलों में 92% तक सटीक।
- "विश्वास" व्यक्ति से अधिक महत्वपूर्ण है। अध्ययन में पाया गया कि आप फर्जी खबर के झांसे में आएंगे या नहीं, इसका अनुमान लगाने के लिए आपका "कौन है" (identity) से कहीं अधिक मजबूत भविष्यवक्ता यह है कि आप "क्या विश्वास करते हैं"।
"दो-चरणीय" ट्रिक (BAFT)
शोधकर्ताओं ने AI को प्रशिक्षित करने का एक चतुर तरीका भी खोजा ताकि वह भ्रमित न हो। कल्पना कीजिए कि आप एक छात्र को पढ़ा रहे हैं:
- चरण 1: पहले, छात्र को सिखाएं कि विभिन्न समूह के लोग आम तौर पर कैसे सोचते हैं (सर्वेक्षण डेटा का उपयोग करके)।
- चरण 2: फिर, छात्र को सिखाएं कि उन विचारों को विशिष्ट समाचार कहानियों पर कैसे लागू किया जाए।
वे इसे BAFT (Belief-Adapter Fine-Tuning) कहते हैं। यह एक ठोस आधार बनाने जैसा है कि "लोग कैसे सोचते हैं" इससे पहले कि AI से विशिष्ट समस्याओं को हल करने के लिए कहा जाए। इसने AI को केवल रूढ़ियों को रटकर "चीटिंग" करने से रोका।
यह क्यों मायने रखता है
यह केवल AI को स्मार्ट बनाने के बारे में नहीं है; यह हमें फर्जी खबरों से बचाने के बारे में है।
यदि हम गलत सूचना (misinformation) को रोकना चाहते हैं, तो हम केवल लोगों की आयु या स्थान के आधार पर उन्हें लक्षित नहीं कर सकते। हमें उनके विश्वासों को समझने की आवश्यकता है।
- यदि कोई साजिशों (conspiracies) में विश्वास करता है, तो उसे एक अलग प्रकार के फैक्ट-चेक की आवश्यकता है, बजाय उस व्यक्ति के जो बस मीडिया पर भरोसा नहीं करता।
- यदि हम जानते हैं कि कोई समूह किसी झूठ पर क्यों विश्वास करता है (उदाहरण के लिए, क्योंकि वे डरे हुए हैं या क्योंकि वे विज्ञान पर अविश्वास करते हैं), तो हम उस झूठ को रोकने के लिए बेहतर संदेश डिजाइन कर सकते हैं।
संक्षेप में: यह समझने के लिए कि लोग फर्जी खबर पर क्यों विश्वास करते हैं, उनके आईडी कार्ड को देखना बंद करें और उनके आंतरिक स्वर (inner voice/beliefs) को सुनना शुरू करें। AI ने यह सीख लिया है, और अब हम भी यह कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।