Overstating Attitudes, Ignoring Networks: LLM Biases in Simulating Misinformation Susceptibility
यह शोध पत्र पाता है कि जहाँ बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) दुष्प्रचार के प्रति संवेदनशीलता के मानवीय पैटर्न की व्यापक रूप से नकल कर सकते हैं, वहीं वे विश्वास और साझा करने के बीच के संबंध को व्यवस्थित रूप से बढ़ा-चढ़ाकर बताते हैं और नेटवर्क विशेषताओं की तुलना में अभिवृत्ति संबंधी कारकों को असमान रूप से प्राथमिकता देते हैं, जो यह सुझाव देता है कि वे मानवीय निर्णय को प्रतिस्थापित करने के बजाय मानवीय निर्णय से विचलन की पहचान करने के लिए अधिक उपयुक्त हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह अनुमान लगाने की कोशिश कर रहे हैं कि भीड़ किसी अफवाह पर कैसी प्रतिक्रिया देगी। आपके पास दो विकल्प हैं: या तो आप 1,000 वास्तविक मनुष्यों से पूछ सकते हैं, या आप एक सुपर-स्मार्ट रोबोट (एक AI) से उन 1,000 लोगों के होने का ढोंग करने के लिए कह सकते हैं।
यह शोध पत्र एक बहुत ही महत्वपूर्ण प्रश्न पूछता है: क्या वह रोबोट वास्तविक मनुष्यों के लिए एक अच्छा विकल्प है?
शोधकर्ताओं ने पाया कि रोबोट नाटक के मुख्य ढाँचे के लिए तो एक ठीक-ठाक अभिनेता है, लेकिन वह अभिनेताओं के बीच की सूक्ष्म केमिस्ट्री को पूरी तरह से समझने में विफल रहता है। यहाँ सरल शब्दों में इसका विवरण दिया गया है:
1. सेटअप: "डिजिटल कठपुतली" शो
शोधकर्ताओं ने तीन अलग-अलग सर्वेक्षणों (स्वास्थ्य, जलवायु परिवर्तन और राजनीति के बारे में) से वास्तविक डेटा लिया। उन्होंने इस डेटा को लार्ज लैंग्वेज मॉडेल्स (LLMs) में डाला—वही तरह का AI जो चैटबॉट्स को शक्ति देता है। उन्होंने AI को बताया: "यहाँ एक व्यक्ति की प्रोफ़ाइल है: वह 45 वर्ष का है, रूढ़िवादी है, विज्ञान पर भरोसा करता है, और उसके 5 दोस्त हैं जो राजनीति के बारे में बात करते हैं। अब, हमें बताओ: क्या वह इस फर्जी खबर पर विश्वास करेगा? क्या वह इसे साझा करेगा?"
फिर उन्होंने AI के जवाबों की तुलना इस बात से की कि वास्तविक मनुष्यों ने वास्तव में क्या कहा था।
2. अच्छी खबर: रोबोट "वाइब" को सही पकड़ता है
यदि आप बड़े चित्र को देखें, तो AI बुरा नहीं है।
- उपमा: एक मौसम पूर्वानुमान की कल्पना करें। यदि वास्तविक मौसम "धूप के साथ बारिश की संभावना" है, तो AI भी "धूप के साथ बारिश की संभावना" ही बताता है।
- निष्कर्ष: AI ने सामान्य रुझानों का सही अनुमान लगाया। उदाहरण के लिए, वह जानता था कि उम्रदराज लोग कुछ चीजों पर युवाओं की तुलना में अलग तरह से विश्वास कर सकते हैं। इसने "औसत" व्यवहार को इतना अच्छी तरह से पकड़ा कि सतह पर यह एक मानव सर्वेक्षण जैसा ही लगा।
3. बुरी खबर: रोबोट "सीक्रेट सॉस" (गुप्त सूत्र) को मिस कर देता है
यहीं पर AI बुरी तरह विफल हो जाता है। शोधकर्ताओं ने पाया कि वास्तविक मनुष्यों की तुलना में रोबोट के सोचने के तरीके में तीन प्रमुख "ग्लिच" (खामियां) हैं।
ग्लिच A: "विश्वास-साझाकरण" का भ्रम
- वास्तविक मनुष्य: हम जटिल हैं। कभी-कभी हम किसी ऐसी चीज़ को साझा करते हैं जिसे हम वास्तव में नहीं मानते, सिर्फ इसलिए ताकि अपने दोस्तों को हंसा सकें। कभी-कभी हम किसी अफवाह पर विश्वास करते हैं लेकिन उसे साझा करने में शर्म महसूस करते हैं। विश्वास और साझा करना संबंधित हैं, लेकिन वे एक ही चीज़ नहीं हैं।
- रोबोट: AI सोचता है कि वे बिल्कुल एक ही चीज़ हैं। वह एक ऐसे रोबोट की तरह व्यवहार करता है जो कहता है, "अगर मैं इसमें विश्वास करता हूँ, तो मुझे इसे साझा जरूर करना चाहिए। अगर मैं इसे साझा करता हूँ, तो मुझे इसमें विश्वास जरूर होना चाहिए।"
- रूपक: यह एक कठपुतली शो की तरह है जहाँ कठपुतलियों के धागे आपस में बंधे हुए हैं। वास्तविक जीवन में, आप अपने दाहिने हाथ को हिलाए बिना अपना बायां हाथ हिला सकते हैं। AI सोचता है कि आपके हाथ आपस में चिपके हुए हैं।
ग्लच B: "सेल्फ-हेल्प बुक" का पूर्वाग्रह
- वास्तविक मनुष्य: हमारे निर्णय अव्यवस्थित होते हैं। हम अपने दोस्तों, अपने परिवार और उन लोगों से प्रभावित होते हैं जिनके साथ हम रहते हैं (हमारा नेटवर्क)। कभी-कभी एक दोस्त कोई अफवाह फुसफुसाता है, और उसी वजह से हम उस पर विश्वास करते हैं, भले ही हम समझदार हों।
- रोबोट: AI दोस्तों को अनदेखा कर देता है। वह एक ऐसे तपस्वी (hermit) की तरह व्यवहार करता है जो केवल अपने आंतरिक विचारों को सुनता है। वह 90% वजन इस बात पर डालता है कि "यह व्यक्ति क्या सोचता है?" (दृष्टिकोण) और लगभग 0% इस बात पर कि "यह व्यक्ति किससे बात करता है?" (नेटवर्क)।
- रूपक: किसी व्यक्ति के मूड की भविष्यवाणी करने की कोशिश करने की कल्पना करें। एक इंसान कहेगा, "खैर, उसका सबसे अच्छा दोस्त अभी अलग हुआ है।" AI कहता है, "मुझे नहीं पता कि उसके दोस्त कौन हैं, लेकिन उसके व्यक्तित्व के प्रकार के आधार पर, वह शायद खुश है।" AI पूरी तरह से सामाजिक संदर्भ को अनदेखा कर रहा है।
ग्लिच C: "अति-आत्मविश्वासी" अभिनेता
- वास्तविक मनुष्य: हम शोर-शराबे वाले (noisy) होते हैं। हम गलतियाँ करते हैं, हम असंगत होते हैं, और हमारा डेटा "स्टैटिक" (अस्पष्टता) से भरा होता है।
- रोबोट: AI बहुत अधिक सटीक है। वह एक व्यक्ति की प्रोफ़ाइल और उसके उत्तर के बीच एक आदर्श, तार्किक संबंध बनाता है। वह व्यवहार की बहुत अधिक व्याख्या करता है।
- रूपक: यदि आप किसी वास्तविक व्यक्ति से पूछते हैं कि उन्होंने कुछ क्यों किया, तो वे कह सकते हैं, "पता नहीं, बस मन किया।" यदि आप AI से पूछते हैं, तो वह ठीक से समझाने के लिए एक लंबा तार्किक निबंध देता है। AI अत्यधिक संरचित (over-structured) है। वह सोचता है कि दुनिया वास्तव में जितनी है उससे कहीं अधिक अनुमानित है।
4. ऐसा क्यों होता है?
शोधकर्ताओं ने AI के "मस्तिष्क" (इसके प्रशिक्षण डेटा और इसके आंतरिक तर्क) की गहराई से जांच की। उन्होंने पाया कि AI लाखों लेखों और पुस्तकों पर प्रशिक्षित है।
- उन किताबों में, लोग अक्सर लिखते हैं कि कैसे "राजनीतिक विचार" या "विज्ञान में विश्वास" लोगों को फर्जी खबरों पर विश्वास करने के लिए प्रेरित करते हैं।
- लेकिन वास्तविक जीवन में, "आप किसे जानते हैं" वाला कारक बहुत बड़ा है, फिर भी इसके बारे में सरल वाक्य में लिखना कठिन है।
- परिणाम: AI ने "पाठ्यपुस्तक" के नियमों को सीख लिया (दृष्टिकोण मायने रखते हैं!) लेकिन वह "सड़क" के नियमों (आपके दोस्त मायने रखते हैं!) को मिस कर गया। यह उस छात्र की तरह है जिसने पाठ्यपुस्तक को पूरी तरह से रट लिया है लेकिन वास्तव में लोगों से बात करने के लिए कभी बाहर नहीं गया है।
निचोड़
क्या हम मानव सर्वेक्षणों को बदलने के लिए AI का उपयोग कर सकते हैं?
नहीं। अभी नहीं।
यदि आप सामान्य रुझान जानना चाहते हैं, तो AI एक सस्ता और तेज़ उपकरण है। लेकिन यदि आप समझना चाहते हैं कि गलत सूचना वास्तव में एक समुदाय के माध्यम से कैसे फैलती है, तो AI खतरनाक है। यह आपको बताएगा कि केवल "दृष्टिकोण" ही सब कुछ है, जिससे आप सामाजिक नेटवर्क और साथियों के दबाव (peer pressure) की शक्ति को अनदेखा कर देंगे।
सीख: AI को एक ऐसे बहुत अच्छे अभिनेता के रूप में देखें जो स्क्रिप्ट तो जानता है लेकिन अन्य अभिनेताओं को नहीं समझता। वह संवाद बोल सकता है, लेकिन वह वास्तविक मानवीय जुड़ाव में सुधार (improvise) नहीं कर सकता। हमें इसका उपयोग यह जानने के लिए करना चाहिए कि AI कहाँ गलत है, न कि यह मानने के लिए कि वह सही है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।