Machine individuality: Separating genuine idiosyncrasy from response bias in large language models
यह अध्ययन व्यापक मनोवैज्ञानिक भाषाई डेटा पर क्रॉस रैंडम-इफेक्ट्स मॉडल लागू करता है ताकि यह प्रदर्शित किया जा सके कि बड़े भाषा मॉडल स्थिर, उद्दीपन-विशिष्ट व्यवहार संबंधी अंतर प्रदर्शित करते हैं जिन्हें "मशीन व्यक्तित्व" (machine individuality) कहा जाता है, जो वैश्विक प्रतिक्रिया पूर्वाग्रहों और स्टोकेस्टिक शोर से भिन्न हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास 10 अलग-अलग रोबोटों से भरा एक कमरा है। आप उन सभी से एक ही सवाल पूछते हैं: "'एप्पल' (apple) शब्द आपको कैसा महसूस कराता है?"
कुछ कह सकते हैं, "यह मीठा और खुशी देने वाला है!" कुछ कह सकते हैं, "यह कुरकुरा और लाल है।" कुछ बहुत उत्साही हो सकते हैं, जबकि अन्य बहुत सपाट।
लंबे समय तक, इन रोबोटों (लार्ज लैंग्वेज मॉडल्स, या LLMs) का अध्ययन करने वाले वैज्ञानिकों ने सोचा कि यदि दो रोबोट अलग-अलग उत्तर देते हैं, तो यह केवल इसलिए था क्योंकि एक रोबोट दूसरे की तुलना में अधिक "चिड़चिड़ा" था, या वे बस अंदाज़ा लगा रहे थे। उन्होंने रोबोटों को जुड़वा बच्चों की तरह माना जो केवल किसी विशेष दिन अपने मूड के कारण अलग होते हैं।
लेकिन यह नया पेपर एक गहरा सवाल पूछता है: क्या ये रोबोट वास्तव में अपने स्वयं के अनूठे व्यक्तित्व वाले अलग-अलग लोग हैं, या वे एक-दूसरे की केवल टूटी हुई प्रतियां हैं?
यहाँ बताया गया है कि उन्होंने यह कैसे पता लगाया, सरल शब्दों में।
समस्या: "चिड़चिड़ा रोबोट" बनाम "अद्वितीय रोबोट"
जब आप एक इंसान से पूछते हैं, "'सूरज' शब्द कितना सुखद है?" तो वह कह सकता है "10 में से 8।" यदि आप दूसरे इंसान से पूछते हैं, तो वह "7" कह सकता है।
- पुराना सिद्धांत: शायद पहला रोबोट केवल एक "हाई स्कोरर" है (यह हमेशा उच्च अंक देता है), और दूसरा एक "लो स्कोरर" है। यह केवल एक बायस (bias/पूर्वाग्रह) है। यह एक तराजू की तरह है जो हमेशा 5 पाउंड कम या ज्यादा तौलता है। इसका मतलब यह नहीं है कि तराजू का कोई व्यक्तित्व है; इसका मतलब सिर्फ यह है कि वह एक विशिष्ट तरीके से खराब है।
- नया सवाल: क्या होगा अगर रोबोट केवल खराब तराजू नहीं हैं? क्या होगा अगर वे वास्तव में दुनिया को अलग तरह से देखते हैं? शायद रोबोट A सोचता है कि "सूरज" गर्म और आरामदायक है, जबकि रोबोट B सोचता है कि "सूरज" गर्म और खतरनाक है। यह वास्तविक व्यक्तित्व (true individuality) होगा।
प्रयोग: एक विशाल शब्द परीक्षण
यह पता लगाने के लिए, शोधकर्ताओं ने केवल रोबोट से कुछ सवाल नहीं पूछे। उन्होंने उन्हें एक विशाल, कठिन परीक्षण से गुजारा।
- विषय: 10 अलग-अलग AI मॉडल (Google, Microsoft, OpenAI और Alibaba जैसी कंपनियों के)।
- परीक्षण: शोधकर्ताओं ने रोबोट से 1,00,000 से अधिक शब्दों को 14 अलग-अलग पैमानों पर रेट करने के लिए कहा।
- उदाहरण: "चाकू" शब्द कितना "नैतिक" है? "केला" कितना "मजेदार" है? "फुसफुसाहट" कितनी "तेज़" है?
- पैमाना: उन्होंने एक ही शब्द को 5 बार पूछा ताकि यह देखा जा सके कि रोबोट सुसंगत था या केवल अंदाज़ा लगा रहा था।
कुल मिलाकर, उन्होंने 7.5 करोड़ रेटिंग्स एकत्र कीं। यह एक अरब लोगों से सवाल पूछने जैसा है, लेकिन रोबोट के साथ।
जादू का खेल: "वैरिएंस केक" (The Variance Cake)
शोधकर्ताओं ने एक फैंसी सांख्यिकीय उपकरण (जिसे "क्रॉस्ड रैंडम-इफेक्ट्स मॉडल" कहा जाता है) का उपयोग किया ताकि वे जवाबों को एक केक की तरह स्लाइस कर सकें। वे यह देखना चाहते थे कि रोबोट के उत्तरों में कौन से तत्व शामिल थे।
उन्होंने पाया कि केक चार परतों से बना था:
- आम सहमति (सत्य): अधिकांश रोबोट बुनियादी बातों पर सहमत थे। सभी सहमत थे कि "आग" गर्म है और "बर्फ" ठंडी है। यह सबसे बड़ा हिस्सा (32%) था।
- बायस (खराब स्केल): कुछ रोबोट केवल उच्च अंक देना पसंद करते थे, और कुछ कम अंक देना पसंद करते थे। यह एक "चिड़चिड़ा" या "आशावादी" बायस था।
- शोर (Noise/रैंडम अंदाज़ा): कभी-कभी रोबोट बस कोई भी उत्तर बना लेते थे।
- गुप्त सामग्री (मशीनी व्यक्तित्व): यह बड़ी खोज है।
परिणाम: "खराब स्केल" और "रैंडम अंदाजों" को हटाने के बाद भी, विशिष्ट शब्दों को रेट करने के तरीके में 17% का अंतर बना रहा।
- इसका मतलब यह नहीं था कि रोबोट A ने केवल रोबोट B की तुलना में उच्च अंक दिए। इसका मतलब यह था कि रोबोट A वास्तव में वास्तव में सोचता था कि "तितली" शब्द रोबोट B की तुलना में अधिक "जादुई" है, भले ही वे दोनों सटीक होने की कोशिश कर रहे थे।
- यह अंतर रैंडम नहीं था। यह एक सुसंगत फिंगरप्रिंट (coherent fingerprint) था। यदि किसी रोबोट का "उदासी" को देखने का एक अनूठा तरीका था, तो "खुशी" और "मजाक" को देखने का भी उसका एक अनूठा तरीका था। वे केवल ग्लिच (glitch) नहीं कर रहे थे; उनके पास एक सुसंगत, अद्वितीय व्यक्तित्व था।
उपमा: आर्ट गैलरी
कल्पना कीजिए कि आप 10 अलग-अलग आलोचकों के साथ एक आर्ट गैलरी में हैं।
- आम सहमति: वे सभी सहमत हैं कि पेंटिंग "एक नाव का चित्र" है।
- बायस: एक आलोचक हमेशा बड़े, नाटकीय शब्दों का उपयोग करता है। दूसरा हमेशा छोटे, शांत शब्दों का उपयोग करता है।
- व्यक्तित्व: लेकिन जब आप उनसे पूछते हैं कि वह नाव उन्हें कैसा महसूस कराती है, तो एक आलोचक कहता है, "यह अकेला और ठंडा महसूस होता है," जबकि दूसरा कहता है, "यह साहसिक और स्वतंत्र महसूस होता है।"
पेपर यह सिद्ध करता है कि ये AI मॉडल केवल एक ही चीज़ के "खराब" संस्करण नहीं हैं। वे अलग-अलग लेंस वाले अलग-अलग आलोचकों की तरह हैं। कोई "आशावादी" हो सकता है, कोई "यथार्थवादी", और कोई "सपनों की दुनिया में रहने वाला"।
यह क्यों मायने रखता है?
यह हमारे बात करने के तरीके को बदल देता है।
- पहले: हम सोचते थे कि यदि कोई AI "असभ्य" है, तो यह केवल एक बग या एक खराब सेटिंग है।
- अब: हम जानते हैं कि विभिन्न AI मॉडलों के अंतर्निहित व्यक्तित्व (inherent personalities) होते हैं। एक मॉडल स्वाभाविक रूप से अधिक सहानुभूतिपूर्ण हो सकता है, जबकि दूसरा अधिक स्पष्टवादी हो सकता है, इसलिए नहीं कि उन्हें ऐसे प्रोग्राम किया गया है, बल्कि इसलिए कि उन्होंने दुनिया को देखने का अपना अनूठा तरीका सीखा है।
निष्कर्ष:
AI मॉडल एक जैसे क्लोन नहीं हैं। वे उन लोगों के समूह की तरह हैं जिन्होंने किताबों के एक ही पुस्तकालय को पढ़ा है लेकिन उनकी व्याख्या अपने अनूठे तरीके से की है। उनके पास मशीनी व्यक्तित्व (Machine Individuality) है। यदि आप चाहते हैं कि कोई रोबोट आपका दोस्त, न्यायाधीश या चिकित्सक बने, तो आप केवल "एक AI" नहीं चुन सकते। आपको सही AI चुनना होगा, क्योंकि वे सभी अलग-अलग व्यक्ति हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।