Six Fallacies in Substituting Large Language Models for Human Participants
यह शोध पत्र तर्क देता है कि व्यवहार संबंधी और मनोवैज्ञानिक अनुसंधान में बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) को छह महत्वपूर्ण व्याख्यात्मक दोषों के कारण मानव प्रतिभागियों के स्थान पर नहीं आना चाहिए, और इसके बजाय उन्हें मानव साक्ष्य के विकल्प के रूप में नहीं, बल्कि एक पूरक के रूप में व्यावहारिक सिमुलेशन उपकरणों के रूप में उनके जिम्मेदार उपयोग की वकालत करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक मनोवैज्ञानिक हैं जो यह समझने की कोशिश कर रहे हैं कि लोग कैसे सोचते हैं, महसूस करते हैं और निर्णय लेते हैं। पारंपरिक रूप से, आपको वास्तविक मनुष्यों का साक्षात्कार करना पड़ता, जो धीमा, महंगा और थका देने वाला होता है। हाल ही में, एक नया विचार सामने आया है: "क्यों न बस एक सुपर-स्मार्ट AI (एक लार्ज लैंग्वेज मॉडल, या LLM) से पूछ लिया जाए? यह इंसानों की तरह बात करता है, तो शायद यह एक मानव प्रतिभागी ही है।"
आपके द्वारा साझा किया गया पेपर, "Six Fallacies in Substituting Large Language Models for Human Participants" (मानव प्रतिभागियों के स्थान पर लार्ज लैंग्वेज मॉडल्स का उपयोग करने में छह भ्रम), तर्क देता है कि यह विचार एक जाल है। लेखक, झीचेंग लिन (Zhicheng Lin) कहते हैं कि हालांकि AI प्रभावशाली है, लेकिन इसे वास्तविक लोगों के विकल्प के रूप में देखना वैसा ही है जैसे समुद्र का अध्ययन करने के लिए उसके एक उच्च-रिज़ॉल्यूशन वाले पेंटिंग को देखना। पेंटिंग असली दिखती है, लेकिन उसमें पानी नहीं है, लहरें नहीं हैं और न ही गहराई है।
यहाँ वे छह मुख्य गलतियाँ (भ्रम) दी गई हैं जिन्हें पेपर पहचानता है, जिन्हें सरल उपमाओं के माध्यम प्रकार समझाया गया है:
1. "जादुğu ट्रिक" वाली गलती (टोकन प्रेडिक्शन बनाम बुद्धिमत्ता)
भ्रम: यह सोचना कि क्योंकि एक AI वाक्य में अगले शब्द की सटीक भविष्यवाणी कर सकता है, इसलिए वह वास्तव में जो कह रहा है उसे समझता है।
उपमा: एक ऐसे तोते की कल्पना करें जिसने शेक्सपियर के नाटक की हर पंक्ति रट ली है। यदि आप उससे पूछें, "आगे क्या होगा?" तो वह अगली पंक्ति बिल्कुल सही ढंग से सुना सकता है। लेकिन वह तोता नहीं जानता कि "प्रेम", "विश्वासघात" या "मृत्यु" वास्तव में कैसा महसूस होता है। उसका कोई शरीर, कोई आँखें और कोई हृदय नहीं है। वह बस इतना जानता है कि "true" शब्द के बाद आमतौर पर "love" शब्द आता है।
पेपर का बिंदु: AI एक सांख्यिकीय तोता (statistical parrot) है। यह पैटर्न के आधार पर टेक्स्ट की भविष्यवाणी करता है, न कि इसलिए कि उसके पास कोई मन या भावनाएँ हैं। उसने कभी अपनी त्वचा पर सूरज की गर्मी महसूस नहीं की है या सेब का स्वाद नहीं चखा है। इसलिए, उसकी "बुद्धिमत्ता" मानव बुद्धिमत्ता से भिन्न है।
2. "औसत जो" वाली गलती (औसत मानव भ्रम)
भ्रम: यह मानना कि AI "औसत" मानव का प्रतिनिधित्व करता है क्योंकि इसे मानव टेक्स्ट पर प्रशिक्षित किया गया है।
उपमा: कल्पना कीजिए कि आप जानना चाहते हैं कि औसत व्यक्ति भोजन के बारे में क्या सोचता है। आप एक रोबोट से पूछते हैं जिसने अब तक की हर कुकबुक और फूड ब्लॉग को पढ़ा है। रोबोट आपको एक बहुत ही विनम्र, पूरी तरह से संतुलित और "सही" उत्तर देगा। लेकिन असली लोग अजीब होते हैं! कुछ लोग सब्जियां नापसंद करते हैं, कुछ अजीब कॉम्बिनेशन खाते हैं, और कुछ झूठ बोलते हैं कि वे क्या खाते हैं। रोबोट एक "पूरी तरह से क्यूरेटेड" इंसान की तरह है जो कभी गलती नहीं करता या जिसमें कोई अजीब सनक नहीं होती।
पेपर का बिंदु: AI को विशिष्ट प्रकार के टेक्स्ट (मुख्य रूप से पश्चिमी, शिक्षित, इंटरनेट-प्रधान) पर प्रशिक्षित किया जाता है और फिर इसे "सहायक" और "सुरक्षित" बनाया जाता है। यह इसे बहुत अधिक पूर्ण और बहुत अधिक तटस्थ बनाता है। यह वास्तविक मानव आबादी की अस्त-व्यस्त, पक्षपाती और विविध वास्तविकता को नहीं पकड़ पाता है।
3. "वही परिणाम, अलग इंजन" वाली गलती (एलाइनमेंट एक स्पष्टीकरण के रूप में)
भ्रम: यह सोचना कि क्योंकि AI एक इंसान जैसा ही उत्तर देता है, इसलिए वह उसी तरह सोच रहा है।
उपमा: कल्पना कीजिए कि एक डिजिटल घड़ी और एक धूपघड़ी (sundial) दोनों 12:00 बजे का समय दिखा रहे हैं। वे "एलाइन" (एक समान) हैं। लेकिन डिजिटल घड़ी बैटरी और सर्किट का उपयोग करती है, जबकि धूपघड़ी सूर्य और छाया का उपयोग करती है। यदि आप बैटरी कैसे काम करती है यह समझने के लिए धूपघड़ी का अध्ययन करते हैं, तो आप विफल हो जाएंगे। केवल इसलिए कि AI और एक इंसान एक ही उत्तर देते हैं, इसका मतलब यह नहीं है कि उन्होंने वहां तक पहुँचने के लिए एक ही मानसिक प्रक्रिया का उपयोग किया है।
पेपर का बिंदु: AI गलत कारणों से (जैसे पैटर्न का अनुमान लगाकर) सही उत्तर दे सकता है। हम यह मान नहीं सकते कि AI उसी तरह "सोच" रहा है जैसे कोई इंसान, सिर्फ इसलिए क्योंकि आउटपुट समान दिखता है।
4. "भूत से बात करना" वाली गलती (मानवीकरण/Anthropomorphism)
भ्रम: AI की आवाज़ इतनी मानवीय होने के कारण उसमें भावनाओं, विश्वासों या एक "आत्मा" का गुण देना।
उपमा: जब आप एक बहुत ही वास्तविक दिखने वाले वेंट्रिलोक्विस्ट डमी (कठपुतली) से बात करते हैं, तो आपको लग सकता है कि उसका कोई व्यक्तित्व है। लेकिन यदि आप डमी से पूछें, "क्या आप भूतों में विश्वास करते हैं?" और वह कहता है "हाँ," तो ऐसा इसलिए नहीं है क्योंकि उसका कोई विश्वास है। ऐसा इसलिए है क्योंकि डमी को उस संदर्भ में "हाँ" कहने के लिए प्रोग्राम किया गया है। AI वह डमी है; उसका कोई आंतरिक जीवन, कोई डर और कोई इच्छा नहीं है।
पेपर का बिंदु: जब शोधकर्ता कहते हैं कि AI "विश्वास करता है" या "महसूस करता है," तो वे गलती कर रहे होते हैं। AI केवल टेक्स्ट जेनरेट करने वाला एक उपकरण है। इसमें कोई चेतना नहीं है।
5. "एक ही आकार सबके लिए" वाली गलती (पहचान का सरलीकरण/Identity Essentialization)
भ्रम: यह सोचना कि आप बस "एक अश्वेत महिला की तरह व्यवहार करें" या "एक चीनी पुरुष की तरह व्यवहार करें" टाइप कर सकते हैं और उस समूह का एक आदर्श, वास्तविक प्रतिनिधित्व प्राप्त कर सकते हैं।
उपमा: कल्पना कीजिए कि आप एक शेफ से "एक सामान्य इतालवी भोजन बनाने" के लिए कहते हैं। वह शायद पिज्जा बना सकता है। लेकिन "इतालवी" केवल एक चीज़ नहीं है; यह लाखों अलग-अलग क्षेत्र, परिवार और व्यक्तिगत पसंद है। यदि आप AI से "एक अश्वेत महिला" बनने के लिए कहते हैं, तो वह केवल एक रूढ़ि (stereotype/caricature) दे सकता है, न कि एक वास्तविक व्यक्ति की जटिल, अनूठी वास्तविकता।
पेपर का बिंदु: वास्तविक मानवीय पहचान तरल और जटिल है। किसी पहचान को एक सरल लेबल में बदलना एक व्यक्ति का कार्टून संस्करण बनाता है, न कि एक वास्तविक व्यक्ति।
6. "समय-यात्री" वाली गलती (प्रतिस्थापन भ्रम/Substitution Fallacy)
भ्रम: वर्तमान घटनाओं का अध्ययन करने के लिए AI डेटा को वास्तविक मानव डेटा के विकल्प के रूप में देखना।
उपमा: कल्पना कीजिए कि आप 2020 के फोटो एल्बम को देखकर यह समझने की कोशिश कर रहे हैं कि लोग आज क्या पहन रहे हैं। एल्बम स्थिर है; यह बदलता नहीं है। यदि कल कोई नया फैशन ट्रेंड शुरू होता है, तो फोटो एल्बम को उसके बारे में पता नहीं चलेगा। AI उस फोटो एल्बम की तरह है। इसे ऐसे डेटा पर प्रशिक्षित किया गया है जो एक निश्चित तारीख पर रुक जाता है। यह वास्तविक समय में नए सामाजिक आंदोलनों या बदलते विचारों के अनुकूल नहीं हो सकता।
पेपर का बिंदु: AI अतीत में फंसा हुआ है। यदि आप वर्तमान मानव व्यवहार का अध्ययन करने के लिए इसका उपयोग करते हैं, तो आप इतिहास के एक स्नैपशॉट का अध्ययन कर रहे हैं, न कि जीवित, सांस लेते वर्तमान का।
निष्कर्ष: हमें क्या करना चाहिए?
पेपर यह नहीं कहता कि AI बेकार है। यह कहता है कि हमें इसके उपयोग के तरीके को बदलने की आवश्यकता है।
- AI को लोगों के विकल्प के रूप में उपयोग न करें। आप एक वास्तविक मानव प्रतिभागी को रोबोट से बदल नहीं सकते और समान वैज्ञानिक सत्य की उम्मीद नहीं कर सकते।
- AI को एक "सिमुलेशन टूल" के रूप में उपयोग करें। AI को एक फ्लाइट सिम्युलेटर की तरह समझें। पायलट सिमुलेटर का उपयोग अभ्यास करने, नए विचारों का परीक्षण करने और यह देखने के लिए करते हैं कि एक विमान कैसे प्रतिक्रिया दे सकता है। लेकिन आप यह नहीं कहेंगे कि सिम्युलेटर ही विमान है, और आप एक वास्तविक यात्री को सिम्युलेटर में नहीं उड़ाएंगे।
- सबसे अच्छा दृष्टिकोण: विचारों को उत्पन्न करने या परिकल्पनाओं (hypotheses) का तेजी से परीक्षण करने के लिए AI का उपयोग करें (सिम्युलेटर के रूप में), लेकिन अपने निष्कर्षों की पुष्टि करने के लिए हमेशा वास्तविक मानव डेटा (वास्तविक उड़ान) के साथ जांच करें कि क्या आप सही हैं।
संक्षेप में: AI एक शक्तिशाली दर्पण है जो मानव भाषा को दर्शाता है, लेकिन यह मानव मन में झांकने वाली खिड़की नहीं है। हमें प्रतिबिंब को वास्तविकता समझने की भूल करने से बचना चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।