Neural network embeddings recover value dimensions from psychometric survey items on par with human data
यह शोध पत्र प्रदर्शित करता है कि एक नवीन विधि जिसे SQuID कहा जाता है, जो लार्ज लैंग्वेज मॉडल एम्बेडिंग्स को प्रोसेस करती है, PVQ-RR से मानवीय मूल्यों की संरचना को 55% वेरिएंस स्पष्टीकरण और पारंपरिक मानव सर्वेक्षण डेटा के तुलनीय क्रॉस-सांस्कृतिक संरेखण के साथ प्रभावी ढंग से पुन: प्राप्त कर सकती है, जो साइकोमेट्रिक अनुसंधान के लिए एक स्केलेबल और लागत प्रभावी विकल्प प्रदान करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप लोगों के समूह के "व्यक्तित्व" को समझने की कोशिश कर रहे हैं और उनसे उनके मूल्यों (values) के बारे में एक लंबा प्रश्नावली भरने को कह रहे हैं। पारंपरिक रूप से, शोधकर्ताओं को उन प्रश्नों को पढ़ने और उन्हें रेटिंग देने के लिए हजारों वास्तविक मनुष्यों को काम पर रखना पड़ता है। यह महंगा है, धीमा है, और कभी-कभी लोग थक जाते या ऊब जाते हैं, जिससे डेटा अव्यवस्थित हो जाता है।
यह शोध पत्र एक साहसिक प्रश्न पूछता है: क्या एक कंप्यूटर (विशेष रूप से एक लार्ज लैंग्वेज मॉडल) उन्हीं प्रश्नों को पढ़ सकता है और उन्हें इतनी अच्छी तरह से "समझ" सकता है कि वह उसी मनोवैज्ञानिक मानचित्र (psychological map) को फिर से बना सके जो मनुष्य बनाते हैं?
यहाँ उनकी खोज का विवरण दिया गया है, सरल उपमाओं का उपयोग करते हुए:
1. समस्या: "सकारात्मक-मात्र" अंधा बिंदु (The "Positive-Only" Blind Spot)
शोधकर्ताओं ने AI का उपयोग करके उन प्रश्नों को पढ़ने और उन्हें गणितीय "एम्बेडिंग्स" (जो संख्याओं की ऐसी सूचियाँ हैं जो किसी शब्द या वाक्य के अर्थ का प्रतिनिधित्व करती हैं) में बदलने का प्रयास किया।
हालाँकि, उन्हें एक बाधा का सामना करना पड़ा। कल्पना कीजिए कि आपके पास मूल्यों का एक मानचित्र है। इस मानचित्र पर, कुछ मूल्य मित्र हैं (जैसे "दूसरों की मदद करना" और "दयालु होना"), और कुछ दुश्मन हैं (जैसे "दूसरों की मदद करना" और "स्वार्थी होना")। वास्तविक मानव डेटा में, ये दुश्मन एक नकारात्मक संबंध रखते हैं (वे विपरीत दिशाओं में खींचते हैं)।
लेकिन जब AI ने उन प्रश्नों को देखा, तो उसने केवल सकारात्मक संबंधों को देखा। यह एक ऐसे मानचित्र को देखने जैसा था जहाँ सब कुछ आपस में जुड़ा हुआ है, लेकिन "दुश्मन" वाले संबंध अदृश्य थे। AI यह नहीं देख सका कि दो अवधारणाएं एक-दूसरे की विरोधी हैं; इसने केवल यह देखा कि वे एक ही चीज़ के अलग-अलग संस्करण हैं। ऐसा इसलिए है क्योंकि AI मॉडल विशाल मात्रा में टेक्स्ट पर प्रशिक्षित होते हैं जो समान भाषाई पैटर्न साझा करते हैं, जिससे सब कुछ थोड़ा समान दिखने लगता है।
2. समाधान: "SQuID" फ़िल्टर
इसे ठीक करने के लिए, लेखकों ने SQuID (सर्वेक्षण और प्रश्नावली आइटम एम्बेडिंग डिफरेंशियल) नामक एक विधि का आविष्कार किया।
AI की कच्ची समझ को एक शोर भरे रेडियो सिग्नल के रूप में सोचें। यह सिग्नल 'स्टैटिक' (सामान्य शब्द जैसे "यह उसके लिए महत्वपूर्ण है/है") से भरा है जो हर चीज़ को एक जैसा बना देता है।
SQuID एक नॉइज़-कैंसलिंग हेडफ़ोन की तरह कार्य करता है।
- पहले, शोधकर्ताओं ने सभी प्रश्नों का "औसत" लेने के लिए उन्हें लिया ताकि एक "बैकग्राउंड नॉइज़" प्रोफाइल बनाया जा सके।
- फिर, उन्होंने प्रत्येक प्रश्न से इस बैकग्राउंड नॉइज़ को घटा दिया।
उपमा: कल्पना कीजिए कि आप एक ऑर्केस्ट्रा में एक विशिष्ट वाद्य यंत्र को सुनने की कोशिश कर रहे हैं। यदि आप पूरे ऑर्केस्ट्रा को रिकॉर्ड करते हैं, तो आप सब कुछ सुनते हैं। लेकिन यदि आप ऑर्केस्ट्रा की "औसत ध्वनि" को रिकॉर्ड करते हैं और उसे वायलिन की रिकॉर्डिंग से घटा देते हैं, तो आपके पास वायलिन की अनूठी ध्वनि बचती है।
इस गणितीय ट्रिक को करने से, AI अचानक नकारात्मक संबंधों को देखने लगा। यह अंततः यह बताने में सक्षम हुआ कि "स्व-निर्देशन" (Self-Direction) और "अनुरूपता" (Conformity) एक-दूसरे के विरोधी हैं, ठीक वैसे ही जैसे मानव मनोवैज्ञानिक दशकों से जानते आए हैं।
3. परिणाम: एक दर्पण छवि (A Mirror Image)
SQuID लागू करने के बाद, शोधकर्ताओं ने AI के मानचित्र की तुलना 49 विभिन्न देशों के मनुष्यों द्वारा बनाए गए मानचित्र से की।
- फिट (Fit): AI का मानचित्र मानव मानचित्र की तरह ही उल्लेखनीय रूप से दिखता है। उन्होंने पाया कि AI का दृष्टिकोण मानव डेटा में पाए जाने वाले पैटर्न के 55% की व्याख्या करता है।
- आकार: मानवीय मूल्य अक्सर एक वृत्त (एक "सर्कमप्लेक्स") में व्यवस्थित होते हैं। समान मूल्य पास-पास होते हैं; विपरीत मूल्य आमने-सामने होते हैं। AI ने, SQuID का उपयोग करते हुए, बिना बताए सफलतापूर्वक इस गोलाकार आकार को फिर से बना लिया।
- तुलना: AI ने पारंपरिक तरीकों के समान, या कुछ मामलों में मानव रेटर्स पर निर्भर पारंपरिक तरीकों से थोड़ा बेहतर प्रदर्शन किया।
4. यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)
लेखक तर्क देते हैं कि यह केवल एक मजेदार ट्रिक नहीं है; यह विज्ञान के लिए एक नया उपकरण है।
- गति और लागत: मनुष्यों द्वारा सर्वेक्षण भरने के लिए महीनों इंतजार करने के बजाय, आप मिनटों में और कुछ ही पैसों में यह डेटा उत्पन्न कर सकते हैं।
- स्केलेबिलिटी (Scalability): आप तुरंत हजारों अलग-अलग विषयों पर प्रश्नों का परीक्षण कर सकते हैं।
- वैधीकरण (Validation): यह शोधकर्ताओं को यह जांचने की अनुमति देता है कि कोई प्रश्नावली वास्तव में समझ में आती है या नहीं, इससे पहले कि वे एक भी मानव को इसे भरने के लिए नियुक्त करें।
5. वे क्या दावा नहीं करते हैं
यह ध्यान देना महत्वपूर्ण है कि शोध पत्र क्या नहीं कहता है:
- वे यह नहीं कह रहे हैं कि AI पूरी तरह से मनुष्यों की जगह ले सकता है। तुलना के लिए "ग्राउंड ट्रुथ" प्रदान करने के लिए मनुष्यों का अध्ययन करने की अभी भी आवश्यकता है।
- वे यह दावा नहीं कर रहे हैं कि यह अभी तक मनोविज्ञान के हर एक प्रकार के परीक्षण के लिए पूरी तरह काम करता है (हालांकि उन्होंने व्यक्तित्व परीक्षणों पर भी इसका परीक्षण किया और यह वहां भी अच्छा काम करता है)।
- वे यह सुझाव नहीं दे रहे हैं कि AI में "भावनाएं" या "चेतना" है। AI केवल प्रश्नों के शब्दों के अर्थ को गणितीय रूप से मैप कर रहा है, न कि उनके पीछे के मानवीय अनुभव को।
सारांश
यह शोध पत्र प्रदर्शित करता है कि एक सरल गणितीय "नॉइज़-कैंसलिंग" तकनीक (SQuID) का उपयोग करके, हम AI मॉडल को सर्वेक्षण प्रश्न पढ़ने और एक ऐसा मनोवैज्ञानिक मानचित्र बनाने के लिए तैयार कर सकते हैं जो हजारों मानव प्रतिभागियों द्वारा बनाए गए मानचित्र के लगभग समान दिखता है। यह AI को एक "सकारात्मक-मात्र" पाठक से बदलकर एक ऐसे उपकरण में बदल देता है जो मानवीय मूल्यों के पूर्ण स्पेक्ट्रम को समझ सकता है, जिसमें उनके विपरीत पक्ष भी शामिल हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।