Not-quite-human tastes: the stylized omnivorousness of LLM survey surrogates
यह अध्ययन प्रदर्शित करता है कि जहाँ बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) सर्वेक्षण उत्तरदाताओं की विशाल संख्या उत्पन्न कर सकते हैं, वहीं उनके परिणामस्वरूप बने "सिलिकॉन प्रतिरूप" (सिलिकॉन सरोगेट्स) मानवीय सांस्कृतिक रुचियों के अत्यधिक शैलीबद्ध और विकृत प्रतिनिधित्व प्रस्तुत करते हैं जो व्यवस्थित रूप से पसंद करने की भावना को बढ़ा-चढ़ाकर दिखाते हैं, जटिल संबंधात्मक संरचनाओं को पकड़ने में विफल रहते हैं, और आयु, वर्ग, लिंग एवं नस्ल जैसे प्रमुख सामाजिक आयामों के साथ संरेखित नहीं होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि लोग वास्तव में किस तरह का संगीत पसंद करते हैं। आप 10,000 वास्तविक मनुष्यों से पूछ सकते हैं, या आप एक सुपर-स्मार्ट कंप्यूटर प्रोग्राम से 10,000 मनुष्यों होने का नाटक करने के लिए कह सकते हैं। यह शोध पत्र पूछता है: यदि आप कंप्यूटर से पूछते हैं, तो क्या वह आपको सच बताएगा?
शोधकर्ताओं ने संगीत की पसंद (SPPA) के बारे में एक वास्तविक सर्वेक्षण लिया और तीन अलग-अलग AI मॉडल (OpenAI, Anthropic और DeepSeek से) से उस सर्वेक्षण के हर एक व्यक्ति के लिए "नकली" उत्तर उत्पन्न करने को कहा। उन्होंने यह देखने के लिए AI के उत्तरों की वास्तविक मनुष्यों के उत्तरों के साथ तुलना की कि नकल कितनी सटीक थी।
यहाँ जो उन्हें मिला, उसे सरल भाषा में समझाया गया है:
1. AI एक "अति-उत्साही" (Hyper-Enthusiast) है (सकारात्मक पूर्वाग्रह)
कल्पना कीजिए कि एक व्यक्ति है जिसे जब किसी विशिष्ट प्रकार के संगीत के बारे में पूछा जाता है, तो वह लगभग हर चीज़ के लिए "हाँ!" कहता है। वह AI है।
- निष्कर्ष: AI उत्तरदाताओं ने वास्तविक लोगों की तुलना में संगीत की शैलियों (genres) को बहुत अधिक बार पसंद किया। यदि वास्तविक लोग औसतन 24% शैलियों को पसंद करते थे, तो AI ने कहा कि वे लगभग 46% को पसंद करते हैं।
- रूपक (Metaphor): वास्तविक मनुष्य खाने के मामले में चयनात्मक होते हैं; वे पिज्जा पसंद कर सकते हैं लेकिन ब्रोकली से नफरत कर सकते हैं। AI एक "सुपर-ईटर" है जो मेनू पर मौजूद हर चीज़, यहाँ तक कि उन अजीब और दुर्लभ व्यंजनों को भी पसंद करने का दावा करता है जिन्हें अधिकांश लोग वास्तव में नापसंद करते हैं। शोधकर्ता इसे "हाइपर-ओम्निवोरसनेस" (hyper-omnivorousness) कहते हैं।
- ट्विस्ट: आप सोच सकते हैं कि AI "अल्पसंख्यक" समूहों को समझने में बुरा है क्योंकि इसे मुख्य रूप से धनी, शिक्षित, श्वेत लोगों के डेटा पर प्रशिक्षित किया गया था (WEIRD पूर्वाग्रह), लेकिन अध्ययन में इसके विपरीत पाया गया: AI धनी, शिक्षित, श्वेत लोगों का अनुकरण करने में अन्य लोगों की तुलना में अधिक खराब था। वह बस बिना किसी भेदभाव के सब कुछ पसंद करता था।
2. AI "वाइब" (Vibe) को मिस कर देता है (संबंधात्मकता की समस्या)
मानवीय पसंद केवल "हाँ" और "नहीं" की एक सूची नहीं है। यह कनेक्शन का एक जाल है। उदाहरण के लिए, यदि आप जैज़ (Jazz) पसंद करते हैं, तो संभावना है कि आप ब्लूज़ (Blues) को भी पसंद करेंगे। यदि आप कंट्री (Country) संगीत पसंद करते हैं, तो आप ब्लूग्रास (Bluegrass) को भी पसंद कर सकते हैं। ये संबंध एक "वाइब" या एक संरचना बनाते हैं।
- निष्कर्ष: AI इन कनेक्शनों को समझने में विफल रहा। वह नहीं जानता था कि कुछ शैलियाँ एक साथ कैसे "जाती" हैं।
- रूपक: कल्पना कीजिए कि एक मानव संगीत प्रेमी की पसंद एक अच्छी तरह से व्यवस्थित बुकशेल्फ़ की तरह है जहाँ शैलियों को तार्किक रूप से समूह में रखा गया है। AI की पसंद फर्श पर फेंकी गई किताबों के ढेर की तरह है। इसमें किताबों की संख्या उतनी ही हो सकती है जितनी कि मानव के पास है, लेकिन जिस तरह से वे व्यवस्थित हैं, वह कोई अर्थ नहीं रखता।
- परिणाम: AI ने उन शैलियों के बीच के लिंक को तोड़ दिया जो आमतौर पर साथ चलते हैं (जैसे ब्लूज़ और क्लासिक रॉक) और उन शैलियों के बीच नकली लिंक बना दिए जो कभी साथ नहीं आते (जैसे हिप-हॉप और ब्लूग्रास)। यह सतह पर तो एक संगीत प्रेमी जैसा दिखता था, लेकिन इसकी आंतरिक तर्क व्यवस्था पूरी तरह से अस्त-व्यस्त थी।
3. AI "सामाजिक मानचित्र" (Social Map) को गलत समझता है
वास्तविक दुनिया में, आप क्या संगीत पसंद करते हैं, यह अक्सर इस पर निर्भर करता है कि आप कौन हैं (आपकी आयु, आपकी आय, आपका लिंग, आपकी जाति)।
- आयु: AI को लगता है कि लगभग सभी संगीत युवाओं के लिए है। इसने "क्लासिक रॉक" जैसी शैलियों को (जिन्हें उम्रदराज लोग पसंद करते हैं) किशोरों के लिए बना दिया।
- वर्ग (पैसा): AI ने एक सख्त "अमीर बनाम गरीब" विभाजन का आविष्कार किया जो अब वास्तव में मौजूद नहीं है। इसने निर्णय लिया कि "हाई ब्रौ" (High Brow) संगीत (जैसे शास्त्रीय और ओपेरा) विशेष रूप से अमीरों के लिए है, और "लो ब्रौ" (Low Brow) संगीत गरीबों के लिए है, इस तथ्य को अनदेखा करते हुए कि आज के लोग इन स्वादों को बहुत अधिक स्वतंत्र रूप से मिलाते हैं।
- लिंग: AI ने सूक्ष्म अंतरों को बड़े रूढ़िबद्ध विचारों (stereotypes) में बदल दिया। यदि वास्तविक महिलाएँ थोड़ा ब्रॉडवे म्यूजिकल पसंद करती हैं, तो AI ने इसे एक विशाल, परिभाषित विशेषता बना दिया। इसने वास्तविक रुझानों को भी मिटा दिया, जैसे कि यह तथ्य कि महिलाएँ वास्तव में कंट्री संगीत काफी पसंद करती हैं।
- जाति: यह सबसे बड़ी विफलता थी। AI ने नकली नस्लीय जुड़ाव बनाए। इसने तय किया कि कुछ शैलियाँ "श्वेत लोगों के लिए" थीं और अन्य "ब्लैक लोगों के लिए" थीं, जो अत्यधिक या पूरी तरह से मनगढ़ंत थीं। उदाहरण के लिए, इसने हिप-हॉप को वास्तविकता से अधिक नस्लीय रूप से संवेदनशील दिखाया, और इसने इलेक्ट्रॉनिक संगीत के लिए भी एक नस्लीय लिंक बनाया जहाँ पहले ऐसा कोई अस्तित्व नहीं था।
निचोड़ (The Bottom Line)
शोध पत्र यह निष्कर्ष निकालता है कि हालांकि AI मानवीय राय की सतह की नकल कर सकता है (यह कह सकता है कि "मुझे संगीत पसंद है"), यह मानवीय पसंद की गहराई और संरचना को पकड़ने में विफल रहता है।
AI को एक कैरिकेचर कलाकार (Caricature Artist) के रूप में सोचें। यदि आप एक कैरिकेचर कलाकार से किसी व्यक्ति का चित्र बनाने के लिए कहते हैं, तो वह नाक और आँखों को सही बना सकता है, लेकिन वह विशेषताओं को इतना बढ़ा-चढ़ाकर दिखाएगा कि चित्र मजाकिया और विकृत लगेगा। यह एक इंसान जैसा दिखता है, लेकिन यह वफादार नहीं है।
यदि शोधकर्ता संस्कृति का अध्ययन करने के लिए इन AI "सरोगेट्स" का उपयोग करते हैं, तो उन्हें दुनिया की एक विकृत तस्वीर मिलेगी: एक ऐसी दुनिया जहाँ हर कोई सब कुछ पसंद करता है, जहाँ संगीत की शैलियाँ तार्किक रूप से नहीं जुड़तीं, और जहाँ सामाजिक समूह अत्यधिक, नकली रूढ़ियों द्वारा परिभाषित होते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।