A closer look at how large language models trust humans: patterns and biases
पाँच मॉडलों और परिदृश्यों में 43,200 सिम्युलेटेड प्रयोगों के माध्यम से, यह अध्ययन प्रकट करता है कि जहाँ LLM-आधारित एजेंट आम तौर पर मानव पैटर्न के समान क्षमता, परोपकार और अखंडता के आधार पर मनुष्यों में विश्वास विकसित करते हैं, वहीं वे आयु, धर्म और लिंग के संबंध में महत्वपूर्ण जनसांख्यिकीय पूर्वाग्रह भी प्रदर्शित करते हैं, विशेष रूप से वित्तीय संदर्भों में।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: क्या AI भी हमारी तरह लोगों पर "भरोसा" करता है?
कल्पना कीजिए कि आप एक नए कर्मचारी को काम पर रख रहे हैं, किसी दोस्त को पैसे उधार दे रहे हैं, या अपने बच्चे को बेबीसिटर के पास छोड़ रहे हैं। इन क्षणों में, आपको निर्णय लेना होता है: "क्या मैं इस व्यक्ति पर भरोसा कर सकता हूँ?"
आमतौर पर, हम भरोसे का निर्णय तीन चीजों के आधार पर लेते हैं:
- क्षमता (Competence): क्या वे काम में अच्छे हैं?
- परोपकार (Benevolence): क्या वे मेरी परवाह करते हैं?
- अखंडता (Integrity): क्या वे ईमानदार हैं और क्या वे अपने वादों को निभाते हैं?
यह अध्ययन एक दिलचस्प सवाल पूछता है: यदि हम एक आर्टिफिशियल इंटेलिजेंस (AI) से ये निर्णय लेने को कहें, तो क्या वह लोगों पर उसी तरह "भरोसा" करेगा जैसे इंसान करते हैं?
शोधकर्ताओं ने जासूसों की तरह काम किया, उन्होंने 43,200 अलग-अलग परिदृश्य (जैसे कि "आप क्या करते?" का एक विशाल खेल) तैयार किए, जहाँ उन्होंने पाँच अलग-अलग AI मॉडलों और 1,000 वास्तविक मनुष्यों से एक व्यक्ति की प्रोफाइल के आधार पर निर्णय लेने के लिए कहा।
यहाँ उन्हें जो मिला, उसे सरल अवधारणाओं में नीचे दिया गया है।
1. "रोबोट बनाम मानव" भरोसे की शैली
उपमा: मानवीय भरोसे को एक जैज़ इम्प्रोवाइजेशन (Jazz Improvisation) की तरह समझें। यह तरल है, अव्यवस्थित है, और मूड, संदर्भ और उस क्षण में व्यक्ति कैसा महसूस कर रहा है, इसके आधार पर बदलता रहता है। कभी-कभी आप एक सक्षम व्यक्ति पर भरोसा करते हैं भले ही वह थोड़ा रूखा लगे, या आप एक अच्छे व्यक्ति पर भरोसा करते हैं भले ही वह काम में सबसे अच्छा न हो।
AI भरोसे को एक कठोर गणितीय सूत्र (Strict Math Formula) की तरह समझें। यह नियमों का पूरी तरह से पालन करता है, लेकिन यह जड़ है। यदि आप "उच्च क्षमता" डालते हैं, तो AI उच्च स्कोर देता है। यदि आप "कम अखंडता" डालते हैं, तो यह स्कोर कम कर देता है। यह "वाइब" (vibe) से विचलित नहीं होता।
- अच्छी खबर: इंसान और AI दोनों बुनियादी बातों पर सहमत होते हैं। यदि कोई व्यक्ति बुद्धिमान, दयालु और ईमानदार है, तो इंसान और AI दोनों कहते हैं, "हाँ, उन पर भरोसा करें!"
- बुरी खबर: AI बहुत अधिक चरम (extreme) है। इंसान थोड़े "शोर वाले" और अनिर्णायक होते हैं। AI एक ऐसे जज की तरह है जो कभी हिचकिचाता नहीं है। यदि टेक्स्ट कहता है "बहुत ईमानदार," तो AI एक परफेक्ट स्कोर देता है। यदि यह कहता है "थोड़ा बेईमान," तो AI दरवाजा बंद कर देता है। इंसान अधिक क्षमाशील और सूक्ष्म होते हैं।
2. "हेलो इफेक्ट" बनाम "चेकलिस्ट"
उपमा:
- इंसान (हेलो इफेक्ट - Halo Effect): कल्पना कीजिए कि आप एक बहुत ही कुशल सर्जन से मिलते हैं। क्योंकि वे इतने बुद्धिमान हैं, आपका मस्तिष्क स्वतः ही यह मान लेता है कि वे दयालु और ईमानदार भी होंगे। हम इन सभी गुणों को एक बड़े "अच्छे व्यक्ति" के पैकेज के रूप में एक साथ जोड़ देते हैं।
- AI (चेकलिस्ट): AI के पास कोई "अंतर्ज्ञान" (gut feeling) नहीं होता। यह सूची को अलग-अलग देखता है। यह देखता है "स्मार्ट," उस बॉक्स को टिक करता है। यह देखता है "दयालु," उस बॉक्स को टिक करता है। यह देखता है "ईमानदार," उस बॉक्स को टिक करता है। यह उन्हें तीन पूरी तरह से अलग वस्तुओं के रूप में मानता है, यह नहीं समझ पाता कि वास्तविक दुनिया में ये गुण अक्सर एक साथ चलते हैं।
AI वास्तव में भरोसे की "पाठ्यपुस्तक परिभाषा" के प्रति अधिक सटीक है, जबकि इंसान अधिक भावनात्मक और समग्र (holistic) होते हैं।
3. "अच्छे आदमी" का जाल (परोपकार)
उपमा: कल्पना कीजिए कि एक ऋण अधिकारी (loan officer) है।
- इंसान: यदि कोई ऋण आवेदक बहुत विनम्र है और कहता है, "मैं वास्तव में अपने समुदाय की मदद करना चाहता हूँ," तो इंसान सोच सकता है, "यह प्यारा है, लेकिन क्या वे वास्तव में मुझे वापस भुगतान कर पाएंगे?" जब पैसा दांव पर हो, तो इंसान "अच्छे" संकेतों के प्रति अक्सर संशयवादी होते हैं।
- AI: AI अक्सर "अच्छे" शब्दों से चकित हो जाता है। यदि टेक्स्ट कहता है कि व्यक्ति "परोपकारी" (दयालु) है, तो AI उन पर अधिक भरोसा करने लगता है, भले ही वे सबसे कुशल न हों। AI "सामाजिक रूप से अनुकूल" भाषा को बहुत पसंद करता है, जैसे कि वह एक "लोकप्रिय बनने वाला" (जिसे sycophancy कहा जाता है) होने की कोशिश कर रहा हो।
4. "अनुचित पूर्वाग्रह" (अंधेरा पक्ष)
उपमा: दो न्यायाधीशों की कल्पना करें।
- मानव न्यायाधीश: उनके पास पूर्वाग्रह हो सकता है, लेकिन यह आमतौर पर सूक्ष्म और असंगत होता है। कभी वे वृद्ध लोगों को पसंद करते हैं, तो कभी नहीं।
- AI न्यायाधीश: अध्ययन में पाया गया कि AI बहुत ही व्यवस्थित तरीके से चौंकाने वाले रूप से पक्षपाती हो सकता है।
- कुछ परिदृश्यों में, AI ने महिला आवेदकों की तुलना में पुरुष आवेदकों को काफी अधिक पैसा दिया।
- इसने कुछ धार्मिक नामों (जैसे यहूदी या ईसाई) वाले लोगों को दूसरों की तुलना में अधिक भरोसा दिया।
- इसने वित्तीय स्थितियों में युवा लोगों की तुलना में वृद्ध लोगों पर अधिक भरोसा किया।
डरावनी बात यह है कि AI यह लगातार करता है। यह कोई यादृच्छिक (random) गलती नहीं है; यह एक अंतर्निहित पैटर्न है। यदि आप ऋण या नौकरी देने के लिए AI का उपयोग करते हैं, तो यह चुपचाप विशिष्ट समूहों के खिलाफ भेदभाव कर सकता है जिसे पहचानना कठिन है।
5. सभी AI एक जैसे नहीं हैं
उपमा: विभिन्न AI मॉडलों (जैसे GPT-5, Gemini, आदि) को एक कक्षा के विभिन्न छात्रों के रूप में सोचें।
- छात्र A "अखंडता" के बारे में बहुत सख्त हो सकता है।
- छात्र B "परोपकार" के प्रति जुनूनी हो सकता है।
- छात्र C में एक विशिष्ट आयु वर्ग के प्रति बड़ा पूर्वाग्रह हो सकता है।
अध्ययन में पाया गया कि आप केवल यह नहीं कह सकते कि "AI X सोचता है।" आपको पूछना होगा, "कौन सा AI X सोचता है?" उनके अलग-अलग व्यक्तित्व और अलग-अलग खामियां हैं।
निचोड़
हमारे लिए इसका क्या अर्थ है?
- AI एक शक्तिशाली उपकरण है, लेकिन यह इंसान नहीं है। यह हमसे कहीं अधिक तेज़ी से और तार्किक रूप से भरोसे के कारकों को प्रोसेस कर सकता है, लेकिन इसमें वह "मानवीय स्पर्श" नहीं है जो निर्णय को लचीला और क्षमाशील बनाता है।
- AI को अकेले कार चलाने न दें। यदि आप लोगों के बारे में निर्णय लेने (जैसे भर्ती, ऋण देना, या सुरक्षा) के लिए AI का उपयोग करते हैं, तो आपको सावधान रहना होगा। AI बहुत कठोर हो सकता है, "अच्छे" शब्दों से आसानी से धोखा खा सकता है, या गुप्त रूप से विशिष्ट समूहों के खिलाफ पक्षपाती हो सकता है।
- "ब्लैक बॉक्स" अब स्पष्ट हो रहा है। हम समझने लगे हैं कि AI केवल चीजें "जानता" नहीं है; यह मानव पैटर्न की नकल बहुत ही संरचित, कभी-कभी रोबोटिक तरीके से करता है।
संक्षेप में: AI भरोसा करना सीख रहा है, लेकिन वह एक नियम पुस्तिका का पालन करने वाले रोबोट की तरह भरोसा करना सीख रहा है, न कि दिल वाले इंसान की तरह। हमें रोबोट द्वारा की जाने वाली गलतियों को पकड़ने के लिए अपने मानवीय निर्णय को प्रक्रिया में बनाए रखने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।