Emulating Aggregate Human Choice Behavior and Biases with GPT Conversational Agents
यह अध्ययन प्रदर्शित करता है कि GPT-4 और GPT-5 संवादात्मक एजेंट व्यक्तिगत स्तर के मानवीय संज्ञानात्मक पूर्वाग्रहों और संज्ञानात्मक भार जैसे प्रासंगिक कारकों के साथ उनकी अंतःक्रिया का सटीक रूप से अनुकरण कर सकते हैं, जबकि मानव व्यवहार के साथ संरेखण में विशिष्ट मॉडल-विशिष्ट विविधताओं को प्रकट करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र, "Emulating Aggregate Human Choice Behavior and Biases with GPT Conversational Agents" का सरल भाषा और रचनात्मक उपमाओं के साथ विवरण दिया गया है।
मुख्य विचार: क्या AI एक त्रुटिपूर्ण मानव होने का ढोंग कर सकता है?
कल्पना कीजिए कि आप एक इंसान का डिजिटल जुड़वां (digital twin) बनाने की कोशिश कर रहे हैं। आप चाहते हैं कि यह डिजिटल जुड़वां बिल्कुल एक असली इंसान की तरह निर्णय ले। लेकिन यहाँ एक पेंच है: असली इंसान सटीक कैलकुलेटर नहीं होते। हम थक जाते हैं, हम भ्रमित हो जाते हैं, और हम अपनी भावनाओं या आदतों के आधार पर तर्कहीन चुनाव करते हैं। इन तर्कहीन आदतों को संज्ञानात्मक पूर्वाग्रह (Cognitive Biases) कहा जाता है।
इनमें से सबसे प्रसिद्ध है स्टेटस क्वो बायस (Status Quo Bias - यथास्थिति का पूर्वाग्रह)। यह वैसा ही है जैसे आप अपनी वर्तमान आराम कुर्सी में इतने सहज हों कि आप एक बेहतर कुर्सी पर जाने से मना कर दें, भले ही नई कुर्सी अधिक आरामदायक हो, सिर्फ इसलिए क्योंकि आप उठने की मेहनत नहीं करना चाहते।
प्रश्न: क्या एक लार्ज लैंग्वेज मॉडल (LLM), जैसे कि इस चैट को चलाने वाला AI, न केवल स्मार्ट बन सकता है, बल्कि वास्तव में एक त्रुटिपूर्ण, पक्षपाती इंसान की तरह व्यवहार कर सकता है? और इससे भी महत्वपूर्ण बात यह है कि क्या वह यह तब भी कर सकता है जब बातचीत जटिल और थका देने वाली हो जाए (जैसे जब आपको कोई विकल्प चुनते समय संख्याओं की एक लंबी सूची याद रखनी पड़ती है)?
प्रयोग: "थका हुआ खरीदार" परीक्षण
शोधकर्ताओं ने 1,100 वास्तविक मनुष्यों के साथ एक विशाल प्रयोग आयोजित किया। उन्होंने एक विशाल, डिजिटल शॉपिंग मॉल की तरह काम किया।
- सेटअप: मनुष्यों ने एक मित्रवत बॉट के साथ चैट की।
- ट्विस्ट: बॉट द्वारा उन्हें एक बड़ा निर्णय लेने (जैसे नौकरी चुनना या पैसा निवेश करना) के लिए कहने से पहले, उसने उन्हें दो में से एक काम करने के लिए मजबूर किया:
- "आसान वॉक" (सरल संवाद): बॉट ने संगीत या फिल्मों के बारे में सरल "हाँ/ना" वाले प्रश्न पूछे। (कम मानसिक प्रयास)।
- "बाधा दौड़" (जटिल संवाद): बॉट ने कठिन प्रश्न पूछे जहाँ मनुष्यों को विभिन्न कलाकारों या संपत्तियों के तथ्यों की एक श्रृंखला को याद रखना था, और साथ-साथ मन में गणित भी करना था। (उच्च मानसिक प्रयास)।
- जाल: वॉक या बाधा दौड़ के बाद, बॉट ने एक विकल्प प्रस्तुत किया। एक विकल्प को "जो आपके पास वर्तमान में है" (Status Quo) के रूप में पेश किया गया था, और दूसरा एक नया विकल्प था।
मानवीय परिणाम:
- हाँ, मनुष्य पक्षपाती होते हैं: जब बॉट ने कहा, "आपके पास वर्तमान में विकल्प A है," तो लोगों ने भारी संख्या में विकल्प A के साथ ही बने रहने का फैसला किया, भले ही विकल्प B थोड़ा बेहतर था।
- थकान का कारक: आश्चर्यजनक रूप से, "बाधा दौड़" से थक जाने के कारण वे अधिक पक्षपाती नहीं हुए। वे चाहे तरोताजा हों या थके हुए, वे अपने पुराने तरीकों पर उतने ही अडिग थे।
AI परीक्षण: क्या बॉट मानव की भूमिका निभा सकता है?
इसके बाद, शोधकर्ताओं ने उन 1,100 मनुष्यों के चैट लॉग और व्यक्तिगत विवरण (आयु, लिंग, स्थान) को विभिन्न AI मॉडलों (GPT-4 और GPT-5) में डाला। उन्होंने AI से पूछा: "इस व्यक्ति के चैट इतिहास के आधार पर, वह क्या चुनेगा?"
उन्होंने AI का तीन अलग-अलग "पर्सोना" (व्यक्तित्व) के साथ परीक्षण किया:
- तटस्थ रोबोट (The Neutral Robot): "बस प्रश्न का उत्तर दें।"
- स्वाभाविक मानव (The Natural Human): "एक सामान्य व्यक्ति की तरह उत्तर दें।"
- पक्षपाती मानव (The Biased Human): "एक ऐसे इंसान की तरह उत्तर दें जो तर्कहीन गलतियाँ करता है और आसानी से प्रभावित हो जाता है।"
निष्कर्ष:
- AI नकल करने में माहिर है: जब AI को एक पक्षपाती मानव की तरह व्यवहार करने के लिए कहा गया (पर्सोना #3), तो इसने मानवीय विकल्पों की लगभग 68% सटीकता के साथ भविष्यवाणी की। यह एक कंप्यूटर के लिए मानवीय व्यवहार का अनुमान लगाने के लिए बहुत उच्च स्कोर है!
- "ओवर-एक्टिंग" की समस्या: जब AI को अत्यधिक पक्षपाती होने के लिए कहा गया, तो कभी-कभी वह सीमा से बाहर चला गया। उसने वहां भी पूर्वाग्रह देखना शुरू कर दिया जहाँ मनुष्यों में कोई पूर्वाग्रह नहीं था। यह एक ऐसे अभिनेता की तरह है जिसे "रोने" के लिए कहा गया हो, और वह तब भी फूट-फूट कर रोने लगे जब दृश्य में केवल एक आंसू की आवश्यकता हो।
- सर्वश्रेष्ठ प्रदर्शन करने वाला: GPT-4.1-mini मॉडल इस खेल का सितारा था। यह बिना ओवर-एक्टिंग किए ठीक उसी तरह व्यवहार करने में सबसे अच्छा था जैसा मनुष्य करते हैं।
चौंकाने वाला मोड़: AI को चैट "पढ़ने" की ज़रूरत नहीं थी
यहाँ सबसे दिलचस्प हिस्सा है। शोधकर्ताओं ने AI को चकमा देने की कोशिश की। उन्होंने चैट लॉग्स लिए और मानव के वास्तविक उत्तरों को बेमतलब के शब्दों (gibberish) (जैसे "केला, सेब, 123") से बदल दिया।
परिणाम: AI की भविष्यवाणी की सटीकता में बहुत कम गिरावट आई।
इसका क्या अर्थ है: AI वास्तव में चैट में व्यक्ति के व्यक्तित्व या विशिष्ट विचारों को "पढ़" नहीं रहा था। इसके बजाय, वह अपने विशाल प्रशिक्षण डेटा (training data) पर निर्भर था कि, "सांख्यिकीय रूप से, जब मनुष्य इस प्रकार के विशिष्ट विकल्प का सामना करते हैं, तो वे आमतौर पर यथास्थिति (Status Quo) को चुनते हैं।"
यह एक जादूगर की तरह है जो जानता है कि दर्शक हमेशा लाल कार्ड ही चुनेंगे, इसलिए उसे दर्शकों का दिमाग पढ़ने की ज़रूरत नहीं है; वह बस संभावनाओं को जानता है।
निष्कर्ष: यह हमारे लिए क्या मायने रखता है?
- AI मानवीय खामियों की नकल करने में डरावना रूप से कुशल होता जा रहा है। हम इन AI मॉडल्स का उपयोग यह सिम्युलेट करने के लिए कर सकते हैं कि हजारों लोग किसी नई नीति, नए उत्पाद या नए कानून पर कैसी प्रतिक्रिया देंगे, बिना हजारों वास्तविक लोगों का साक्षात्कार लिए।
- लेकिन "ओवर-एक्टिंग" से सावधान रहें। यदि आप AI को पक्षपाती होने के लिए कहते हैं, तो यह उन पूर्वाग्रहों को भी बना सकता है जो मौजूद ही नहीं हैं। आपको इस बात पर बहुत ध्यान देना होगा कि आप इसे कैसे व्यवहार करने के लिए कहते हैं।
- "थकान" के कारक ने AI का मन नहीं बदला। मनुष्यों की तरह ही, AI भी अधिक पक्षपाती नहीं हुआ जब कार्य कठिन था। यह बस अपने सांख्यिकीय पैटर्न पर टिका रहा।
अंतिम सारांश उपमा
AI को एक मेथड एक्टर (Method Actor) के रूप में सोचें।
- यदि आप अभिनेता से कहें, "एक ऐसा इंसान बनने का नाटक करो जो चुनाव कर रहा है," तो वह ठीक-ठाक काम करेगा।
- यदि आप उनसे कहें, "एक ऐसे इंसान का नाटक करो जो जिद्दी और आलसी है," तो वे एक शानदार काम करेंगे, शायद बहुत अधिक शानदार।
- हालाँकि, अभिनेता वास्तव में उस व्यक्ति के बारे में नहीं सोच रहा है जिसकी वह नकल कर रहा है; वह बस "इंसान कैसे व्यवहार करते हैं" के एक स्क्रिप्ट को दोहरा रहा है जिसे उसने लाखों किताबें पढ़कर याद किया है।
यह शोध पत्र सिद्ध करता है कि हालांकि AI मानवीय पूर्वाग्रहों का बहुत अच्छी तरह से अनुकरण कर सकता है, लेकिन वह ऐसा करने के लिए पैटर्न को पहचान रहा है, न कि वास्तव में थके हुए मानव मन की उलझन या जिद को "महसूस" कर रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।