In Generative AI We (Dis)Trust? Computational Analysis of Trust and Distrust in Reddit Discussions
यह शोध पत्र जनरेटिव एआई (generative AI) में विश्वास और अविश्वास का पहला बड़े पैमाने पर, अनुदैर्ध्य (longitudinal) कम्प्यूटेशनल अध्ययन प्रस्तुत करता है, जो 2022 से 2025 तक के 230,000 से अधिक रेडिट (Reddit) पोस्ट का विश्लेषण करके मुख्य रूप से तकनीकी प्रदर्शन और व्यक्तिगत अनुभव द्वारा संचालित संतुलित सार्वजनिक भावना को प्रकट करता है, साथ ही भविष्य के बड़े पैमाने के विश्वास विश्लेषण के लिए एक पद्धतिगत ढांचा भी प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, 24 घंटे चलने वाले शहर के चौक की तरह है जिसे Reddit कहा जाता है। 2022 के अंत में, Generative AI (GenAI) नाम का एक नया, अविश्वसनीय रूप से स्मार्ट रोबोट इस शहर में रहने आया। वह कहानियाँ लिख सकता था, गणित की समस्याओं को हल कर सकता था और इंसानों की तरह बात कर सकता था। स्वाभाविक रूप से, शहर के लोगों के पास कहने के लिए बहुत कुछ था।
कुछ लोग रोमांचित थे, वे उस रोबोट को एक जादुई सहायक की तरह देख रहे थे। अन्य लोग डरे हुए थे, वे उसे एक धोखेबाज या खतरे के रूप में देख रहे थे।
यह शोध पत्र एक सुपर-पावर्ड डिटेक्टिव (जासूस) की तरह है जिसने उस शहर के चौक में होने वाली हर बातचीत को वर्षों तक सुना ताकि यह पता लगाया जा सके: क्या लोग इस रोबोट पर भरोसा करते हैं, या वे इस पर अविश्वास करते हैं?
यहाँ उस डिटेक्टिव द्वारा की गई खोजों की कहानी है, जिसे सरल रूप में समझाया गया है:
1. महान संतुलन (The Great Balancing Act)
शोधकर्ताओं ने 2022 से 2025 तक के 2,30,000 से अधिक पोस्ट्स का अध्ययन किया। उन्होंने पाया कि शहर का चौक लगभग समान रूप से विभाजित है।
- पैमाना: एक सी-सॉ (seesaw) की कल्पना करें। एक तरफ विश्वास (Trust) है (लोग कह रहे हैं, "यह शानदार और मददगार है!")। दूसरी तरफ अविश्वास (Distrust) है (लोग कह रहे हैं, "यह खतरनाक और टूटा हुआ है!")।
- परिणाम: सी-सॉ लगभग पूरी तरह से संतुलित है, हालांकि विश्वास का पलड़ा थोड़ा सा भारी है।
- रोलरकोस्टर: जब भी रोबोट कंपनियों ने एक नया, अपग्रेडेड वर्शन निकाला (जैसे GPT-4 या LLaMA 3), तो सी-सॉ हिंसक रूप से डगमगा जाता था। लोग उत्साहित होते थे, फिर डर जाते थे, और फिर से उत्साहित हो जाते थे। यह एक कॉन्सर्ट की तरह है जहाँ भीड़ तब शोर मचाती है जब बैंड एक नया गाना बजाता है, लेकिन अगर गायक गलत सुर लगा दे तो वे विरोध भी करती है।
2. लोग वास्तव में किस बारे में बात कर रहे हैं?
शोधकर्ताओं ने केवल "अच्छा" बनाम "बुरा" की गिनती नहीं की। उन्होंने यह देखा कि लोग ऐसा क्यों महसूस कर रहे थे। उन्हें दो मुख्य कारणों के समूह मिले:
"क्या यह काम करता है?" वाला समूह (The Mechanics)
यह सबसे मुखर समूह था। अधिकांश लोग रोबोट को उसके इंजन के आधार पर आंकते थे।
- क्षमता (Competence): "क्या यह वास्तव में एक अच्छा निबंध लिख सकता है?"
- विश्वसनीयता (Reliability): "जब मुझे इसकी ज़रूरत होती है, तो क्या यह क्रैश हो जाता है?"
- परिचितता (Familiarity): "मैंने पहले इसका उपयोग किया है, इसलिए मुझे पता है कि क्या उम्मीद करनी है।"
- उपमा: यह कार को आंकने जैसा है। यदि कार हर सुबह शुरू होती है और तेज़ चलती है, तो आप उस पर भरोसा करते हैं। आपको इस बात की परवाह नहीं है कि कार निर्माता एक "अच्छा व्यक्ति" है या नहीं; आप बस इतना देखते हैं कि कार काम करती है या नहीं।
"क्या यह अच्छा है?" वाला समूह (The Moral Compass)
इस समूह ने नैतिकता (ethics) पर ध्यान दिया, लेकिन वे शांत थे।
- निष्ठा और पारदर्शिता (Integrity & Transparency): "क्या रोबोट मुझसे झूठ बोल रहा है? क्या वह यह छिपा रहा है कि वह कैसे काम करता है?"
- परोपकार (Benevolence): "क्या रोबोट मेरी मदद करना चाहता है, या वह मुझे धोखा देना चाहता है?"
- उपमा: ये लोग इस बात से चिंतित हैं कि कार निर्माता चुपके से पेट्रोल टैंक में ज़हर डाल रहा है। हालांकि यह महत्वपूर्ण है, लेकिन शहर के चौक के अधिकांश चालक इंजन चेक करने में इतने व्यस्त थे कि वे पेट्रोल की गुणवत्ता की चिंता नहीं कर रहे थे।
मुख्य निष्कर्ष: लोग नैतिकता (ethics) (क्या यह अच्छा है?) की तुलना में कार्यक्षमता (functionality) (क्या यह काम करता है?) पर बहुत अधिक ध्यान देते हैं।
3. कौन बात कर रहा है? (विभिन्न मोहल्ले)
शोधपत्र ने पाया कि कौन बात कर रहा है, इससे बदल जाता है कि वे क्या सोचते हैं। यह एक ही शहर के अलग-अलग मोहल्लों में अलग-अलग राय रखने जैसा है:
- तकनीकी विशेषज्ञ और व्यावसायिक नेता (The Techies & Business Leaders): वे ज्यादातर आशावादी हैं। वे रोबोट को पैसा कमाने और चीजें बनाने के एक उपकरण के रूप में देखते हैं। वे इस पर भरोसा करते हैं क्योंकि वे समझते हैं कि इसे कैसे बनाया गया है।
- नैतिकतावादी और आम जनता (The Ethicists & General Public): वे अधिक शंकालु हैं। उन्हें डर है कि रोबोट नौकरियाँ छीन लेगा, झूठ फैलाएगा, या पक्षपाती होगा। वे ही हैं जो "अविश्वास" का बोर्ड ऊँचा थामे हुए हैं।
- शिक्षक और रचनाकार (The Teachers & Creators): वे द्वंद्व (conflicted) में हैं। वे रोब forma को एक सहायक और एक संभावित नकल (cheat sheet) दोनों के रूप में देखते हैं जो सीखने की प्रक्रिया को खराब कर सकती है। वे बिल्कुल बीच में बँटे हुए हैं।
4. "व्यक्तिगत अनुभव" का कारक
विश्वास या अविश्वास को चलाने वाली सबसे शक्तिशाली शक्ति क्या है? व्यक्तिगत अनुभव।
- यदि आपने रोबोट का परीक्षण किया और उसने आपको किराने की सूची लिखने में मदद की, तो आपने उस पर भरोसा किया।
- यदि आपने इसका परीक्षण किया और इसने आपको गलत उत्तर दिया जिससे आपकी बेइज्जती हुई, तो आपने उस पर अविश्वास किया।
- उपमा: यह एक नए रेस्टोरेंट को आज़माने जैसा है। यदि खाना स्वादिष्ट है, तो आप अपने दोस्तों को बताते हैं कि यह बहुत अच्छा है। यदि आपको फूड पॉइजनिंग हो जाती है, तो आप सबको वहाँ न जाने की सलाह देते हैं। आपको शेफ की प्रतिष्ठा की परवाह नहीं होती; आपको अपने भोजन की परवाह होती है।
5. डिटेक्टिव के उपकरण (उन्होंने यह कैसे किया)
चूंकि इंसान जीवन भर में 2,30,000 पोस्ट नहीं पढ़ सकते, इसलिए शोधकर्ताओं ने AI का अध्ययन करने के लिए AI का उपयोग किया।
- उन्होंने कुछ हज़ार पोस्ट पढ़ने और उन्हें लेबल करने (जैसे, "यह विश्वास है," "यह क्षमता के बारे में है") के लिए मनुष्यों के एक छोटे समूह को नियुक्त किया।
- फिर, उन्होंने एक सुपर-स्मार्ट कंप्यूटर मॉडल को बाकी पोस्ट पढ़ने और मनुष्यों के लेबल की नकल करने के लिए प्रशिक्षित किया।
- कमी: कंप्यूटर "यह काम करता है?" (क्षमता) को पहचानने में बहुत अच्छा था, लेकिन "क्या यह नैतिक है?" (निष्ठा) को पहचानने में संघर्ष करता था। यह साबित करता है कि साधारण टूल्स की शिकायतों की तुलना में नैतिक चिंताओं को अव्यवस्थित, अनौपचारिक ऑनलाइन चैट में पहचानना कठिन है।
अंतिम सबक
यह शोध पत्र हमें बताता है कि Generative AI के साथ जनता का संबंध एक सीधी रेखा नहीं है। यह एक गतिशील, जटिल बातचीत है जो हर नए अपडेट के साथ बदलती रहती है।
- विश्वास नाजुक है: यह रोबोट के सही ढंग से काम करने पर बनता है, न कि उसके "अच्छे" होने पर।
- अविश्वास मुखर है: जब चीजें गलत होती हैं या नई आशंकाएं पैदा होती हैं, तो यह अचानक बढ़ जाता है।
- अंतराल (The Gap): विशेषज्ञों की चिंता (नैतिकता, पक्षपात) और सामान्य उपयोगकर्ताओं की चिंता (क्या यह काम करता है?) के बीच एक अंतर है।
संक्षेप में: जनता Generative AI को एक नए उपकरण (appliance) की तरह मान रही है। वे खुश हैं जब तक कि यह बर्तन धो देता है (काम करता है), लेकिन वे यह भी सोचने लगे हैं कि क्या यह उपकरण चुपके से उनकी जासूसी कर रहा है (नैतिकता)। शोधकर्ता हमें इंजन और नैतिकता दोनों पर ध्यान देने का आग्रह कर रहे हैं, क्योंकि इनमें से किसी एक को भी अनदेखा करना भविष्य में विफलता का कारण बन सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।