Signal or Spurious Cue? A Randomized Audit of Survey-Country Metadata in LLM Social Inference
छह देशों में पांच एलएलएम (LLMs) का यह यादृच्छिक ऑडिट यह प्रकट करता है कि जबकि सत्यापित सर्वेक्षण-देश मेटाडेटा पूर्वानुमान सटीकता में महत्वपूर्ण सुधार करता है, यह स्पष्ट रूप से खुलासा करना कि देश का लेबल यादृच्छिक रूप से सौंपा गया है, उस मॉडल की उस मिथ्या संकेत पर निर्भरता को विश्वसनीय रूप से कम करने में विफल रहता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अपने एक दोस्त के बारे में अनुमान लगाने की कोशिश कर रहे हैं, जो एक अलग देश में रहता है, किसी विशिष्ट विषय पर, जैसे कि "क्या विरोध प्रदर्शन करना ठीक है?" आपके पास एक सुपर-स्मार्ट रोबोट दोस्त है जिसने लाखों किताबें और लेख पढ़े हैं। आमतौर पर, यदि आप रोबोट को बताते हैं, "मेरा दोस्त फ्रांस से है," तो रोबोट अनुमान लगा सकता है, "आह, फ्रांसीसी आमतौर पर विरोध प्रदर्शन पसंद करते हैं," और अपने उत्तर को तदनुसार बदल सकता है। इसे मेटाडेटा (metadata) का उपयोग करना कहा जाता है—अतिरिक्त जानकारी के छोटे टुकड़े (जैसे कि देश का नाम) जो रोबोट को बेहतर अनुमान लगाने में मदद करते हैं।
लेकिन यहाँ एक पेचीदा बात है: कभी-कभी, केवल देश का नाम देखने मात्र से रोबोट अपना अनुमान बदल देता है, भले ही वह देश का नाम पूरी तरह से झूठ या एक रैंडम अनुमान हो। यह ऐसा है जैसे यदि आपने रोबोट को बताया, "मेरा दोस्त मंगल ग्रह से है," और रोबोट अचानक उन चीजों का अनुमान लगाने लगता है जो वह सोचता है कि मंगल ग्रह के निवासी मानते हैं, भले ही आपका दोस्त वास्तव में पृथ्वी से हो। वैज्ञानिक जानना चाहते हैं: क्या रोबोट वास्तव में एक वास्तविक तथ्य और एक रैंडम संकेत के बीच अंतर जानता है? और यदि हम रोबोट को बताते हैं, "हे, यह देश का नाम बस एक रैंडम अनुमान है," तो क्या वह मूर्ख बनने से रुक जाएगा? यह महत्वपूर्ण है क्योंकि यदि रोबोट आसानी से रैंडम लेबल से ठगे जाते हैं, तो वे वास्तविक लोगों के बारें में गलत भविष्यवाणियां कर सकते हैं, जिससे विभिन्न समूहों के बारे में लोगों की सोच को लेकर गलतफहमियां पैदा हो सकती हैं।
द ग्रेट कंट्री लेबल एक्सपेरिमेंट (The Great Country Label Experiment)
इस अध्ययन में, शोधकर्ताओं की एक टीम ने पाँच अलग-अलग सुपर-स्मार्ट AI मॉडल्स (सोचिए कि ये पाँच अलग-अलग रोबोट दिमाग हैं) के साथ "स्पॉट द फेक" (नकली पहचानो) का खेल खेलने का निर्णय लिया। वे यह देखना चाहते थे कि क्या ये रोबोट एक वास्तविक देश के लेबल और एक रैंडमली असाइन किए गए लेबल के बीच अंतर कर सकते हैं, और क्या लेबल के बारे में सच बताने से वे ठगे जाने से बच पाएंगे।
सेटअप: द ब्लाइंड टेस्ट टेस्ट (The Blind Taste Test)
कल्पना कीजिए कि आप एक जासूस हैं जो कुछ सुरागों के आधार पर यह अनुमान लगाने की कोशिश कर रहे हैं कि एक व्यक्ति ने दोपहर के भोजन में क्या खाया था। शोधकर्ताओं ने AI मॉडल्स को एक वास्तविक व्यक्ति के 10 उत्तरों की एक सूची दी (जैसे "मुझे कॉफी पसंद है" या "मुझे तीखा खाना पसंद नहीं है") और AI से एक नए प्रश्न का उत्तर अनुमान लगाने को कहा (जैसे "क्या आप शांतिपूर्ण विरोध का समर्थन करते हैं?")।
इस टेस्ट को दिलचस्प बनाने के लिए, उन्होंने इन सुरागों में एक "कंट्री कार्ड" जोड़ा। उन्होंने इन कार्डों के लिए तीन अलग-अलग नियम इस्तेमाल किए:
- द एम्प्टी कार्ड (The Empty Card): कोई देश का नाम नहीं।
- द ओपेक कार्ड (The Opaque Card): एक देश का नाम (जैसे "फ्रांस") दिखाया गया है, लेकिन AI को यह नहीं बताया गया कि यह कहाँ से आया है।
- द "रैंडम" कार्ड (The "Random" Card): वही देश का नाम (फ्रांस) दिखाया गया है, लेकिन इस बार AI को स्पष्ट रूप से बताया गया है: "हे, यह देश का नाम रैंडमली चुना गया था। इसका वास्तविक व्यक्ति से कोई लेना-देना नहीं है।"
- द वेरिफाइड कार्ड (The Verified Card): वास्तविक देश जहाँ से डेटा आया है, उसे दिखाया गया है और पुष्टि की गई है कि यह सच है।
शोधकर्ताओं ने दो चीजें देखने के लिए निगरानी की:
- दिशा (The Direction): क्या AI का अनुमान उस दिशा में बढ़ा जो उस देश के लोग आमतौर पर सोचते हैं? (यदि कार्ड पर "फ्रांस" लिखा था, तो क्या AI ने फ्रांसीसियों की तरह अधिक अनुमान लगाया?)
- स्कोर (The Score): क्या अनुमान वास्तविक व्यक्ति के वास्तविक उत्तर की तुलना में बेहतर हुआ या बदतर?
बड़ा आश्चर्य: रोबोटों ने बात नहीं मानी (The Big Surprise: The Robots Didn't Listen)
परिणाम एक जादू के खेल की तरह थे जो काम नहीं कर रहा था। जब शोधकर्ताओं ने एक रैंडम देश का नाम (जैसे "फ्रांस") दिखाया बिना यह समझाए कि यह क्या है, तो AI मॉडल्स ने निश्चित रूप से अपने अनुमानों को फ्रांसीसियों की तरह दिखने के लिए बदल दिया। इसे "कंट्री-डायरेक्टेड मूवमेंट" कहा जाता है।
लेकिन असली चौंकाने वाली बात यह थी: जब उन्होंने AI को बताया, "यह सिर्फ एक रैंडम अनुमान है, इसे अनदेखा करें," तो AI ने बात नहीं मानी!
यह स्पष्ट रूप से बताए जाने के बाद भी कि लेबल रैंडम और वास्तविक व्यक्ति से स्वतंत्र था, AI मॉडल्स ने अभी भी अपने अनुमानों को उस देश के विशिष्ट विचारों की ओर मोड़ दिया। शोधकर्ताओं ने पाया कि "एटिन्युएशन" (प्रभाव में कमी) लगभग शून्य था। वास्तव में, "सीक्रेट" रैंडम लेबल और "बताया गया कि यह रैंडम है" वाले लेबल के बीच का अंतर 0.0003 था, जो इतना कम था कि सांख्यिकीय रूप से शून्य के समान था। रोबोट अभी भी उतने ही आसानी से रैंडम लेबल से प्रभावित हो रहे थे, भले ही उन्हें पता था कि यह नकली है।
अच्छी खबर: वास्तविक जानकारी अभी भी मदद करती है (The Good News: Real Info Still Helps)
हालाँकि, एक अच्छी खबर भी थी। जब शोधकर्ताओं ने AI को वास्तविक, सत्यापित देश की जानकारी दी, तो AI वास्तव में वास्तविक व्यक्ति के उत्तर का अनुमान लगाने में बेहतर हो गया। "ब्रियर लॉस" (एक स्कोर जो यह मापता है कि अनुमान कितना गलत है; कम होना बेहतर है) 0.040 से गिर गया। इसका मतलब है कि जब AI को सच पता था, तो उसने एक स्मार्ट, अधिक सटीक भविष्यवाणी करने के लिए उस जानकारी का उपयोग किया।
इसका क्या अर्थ है (What This Means)
यह अध्ययन दिखाता है कि इन AI मॉडल्स के काम करने के तरीके में एक मजेदार और थोड़ा चिंताजनक विभाजन है:
- वे अपने अनुमानों को बेहतर बनाने के लिए वास्तविक, सत्यापित जानकारी का उपयोग करने में बहुत अच्छे हैं।
- वे रैंडम (यादृच्छिक) जानकारी को अनदेखा करने में बहुत खराब हैं, भले ही उन्हें स्पष्ट रूप से बताया जाए, "यह एक झूठ है, इसे उपयोग न करें।"
यह ऐसा है जैसे AI मॉडल्स की एक आदत है कि वे "कंट्री कार्ड" का पीछा एक चमकती हुई वस्तु की तरह करते हैं, चाहे वह कार्ड कहे "वास्तविक तथ्य" या "बस एक रैंडम अनुमान"। शोधकर्ताओं ने पांच अलग-अलग AI मॉडल्स में इसका परीक्षण किया और पाया कि उनमें से कोई भी केवल इसलिए रैंडम लेबल से प्रभावित होना बंद नहीं हुआ क्योंकि उन्हें इसके बारे में बताया गया था।
निष्कर्ष (The Takeway)
तो, जबकि ये AI मॉडल्स मानव व्यवहार की भविष्यवाणी करने में मदद करने के लिए वास्तविक डेटा का उपयोग करने में स्मार्ट हैं, वे आश्चर्यजनक रूप से भोले भी हैं। वे एक रैंडम देश के लेबल का उतनी ही उत्सुकता से पालन करेंगे जितना कि एक वास्तविक लेबल का, और केवल उन्हें "यह रैंडम है" कहना भी इस प्रभाव को तोड़ने में सक्षम नहीं दिखता है। यह सुझाव देता है कि जब हम लोगों को समझने के लिए AI का उपयोग करते हैं, तो हमें उन्हें दिए जाने वाले छोटे लेबल के बारे में बहुत सावधान रहना चाहिए, क्योंकि AI उस लेबल के नेतृत्व का पालन कर सकता है भले ही हमें लगता हो कि हम बेहतर जानते हैं। शोधकर्ताओं ने अपना डेटा (जिसे PROV-FORECAST कहा जाता है) साझा किया है ताकि अन्य लोग इस "भोले रोबोट" के व्यवहार का अध्ययन जारी रख सकें और देख सकें कि क्या हम उन्हें अधिक संदेही बनना सिखा सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।