Pretraining Exposure Explains Popularity Judgments in Large Language Models
पूर्णतः दृश्यमान डोलमा (Dolma) कॉर्पस और ओएलएमओ (OLMo) मॉडल्स का लाभ उठाते हुए, यह अध्ययन प्रदर्शित करता है कि लार्ज लैंग्वेज मॉडल्स के लोकप्रियता संबंधी निर्णय मुख्य रूप से प्रीट्रेनिंग एक्सपोज़र सांख्यिकी द्वारा संचालित होते हैं न कि बाहरी वास्तविक दुनिया के लोकप्रियता संकेतों द्वारा, जिसमें एक्सपोज़र मॉडल पूर्वाग्रह के लिए विकिपीडिया पेजव्यू की तुलना में अधिक सटीक भविष्यवक्ता के रूप में कार्य करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक विशाल, डिजिटल मस्तिष्क (एक लार्ज लैंग्वेज मॉडल, या LLM) है जिसने इंटरनेट पर लगभग सब कुछ पढ़ लिया है। आप इस मस्तिष्क से पूछते हैं, "कौन अधिक प्रसिद्ध है: एक विशिष्ट स्थानीय बेकरी या एक विश्व-प्रसिद्ध पॉप स्टार?" वह मस्तिष्क लगभग हमेशा पॉप स्टार का नाम लेता है। हमने लंबे समय से यह माना है कि ऐसा इसलिए है क्योंकि मस्तिष्क "जानता" है कि पॉप स्टार वास्तविक दुनिया में लोकप्रिय है।
लेकिन यह शोध पत्र एक अलग प्रश्न पूछता है: क्या मस्तिष्क वास्तव में वास्तविक दुनिया की प्रसिद्धि का आकलन कर रहा है, या क्या वह केवल यह याद कर रहा है कि उसने अपनी पढ़ाई के दौरान किन नामों को कितनी बार देखा था?
इस उत्तर को खोजने के लिए, शोधकर्ताओं ने एक विशेष, पूरी तरह से ओपन-सोर्स मस्तिष्क OLMo का उपयोग किया। अधिकांश AI मस्तिष्क के विपरीत, हम देख सकते हैं कि OLMo ने अपनी "स्कूली शिक्षा" (प्रीट्रेनिंग) के दौरान कौन सी किताबें और वेबसाइटें पढ़ीं। यह एक छात्र के होमवर्क की पूरी लाइब्रेरी रखने जैसा है, बजाय इसके कि उसके टेस्ट स्कोर के आधार पर यह अनुमान लगाया जाए कि उसने क्या पढ़ा होगा।
यहाँ उनके प्रयोग और निष्कर्षों का विवरण दिया गया है, सरल उपमाओं का उपयोग करते हुए:
1. सेटअप: "नजरों" की गिनती
शोधकर्ताओं ने AI के प्रशिक्षण डेटा (training data) को एक विशाल पुस्तकालय की तरह माना। उन्होंने 2,000 विभिन्न चीजों (लोग, स्थान, ब्रांड, गीत) की गिनती करने के लिए एक विशेष उपकरण (Infini-Gram) का उपयोग किया कि वे किताबें जिन्हें AI ने पढ़ा था, उनमें कितनी बार दिखाई दिए।
- "एक्सपोज़र" स्कोर (Exposure Score): यह केवल एक गिनती है कि AI ने किसी नाम पर कितनी बार "नज़र डाली"। यदि AI ने "टेलर स्विफ्ट" को 10 लाख बार और "लोकल बेकर बॉब" को 5 बार देखा, तो टेलर स्विफ्ट का एक्सपोज़र स्कोर अधिक है।
2. तीन प्रतियोगी
शोधकर्ता देखना चाहते थे कि कौन सा "स्कोर" AI द्वारा लोकप्रियता संबंधी प्रश्नों के उत्तर देने की भविष्यवाणी करने में सबसे अच्छा है। उन्होंने तीन चीजों की तुलना की:
- वास्तविक-दुनिया का स्कोर (विकिपीडिया): उन्होंने देखा कि वास्तव में कितने लोगों ने इन संस्थाओं के विकिपीडिया पेजों पर विज़िट किया। यह वास्तविक दुनिया की प्रसिद्धि का "ग्राउंड ट्रुथ" (सत्य) है।
- "प्रत्यक्ष" अनुमान: उन्होंने AI से पूछा, "0 से 1000 के पैमाने पर, टेलर स्विफ्ट कितनी प्रसिद्ध है?"
- "हेड-टू-हेड" मुकाबला: उन्होंने AI से पूछा, "कौन अधिक प्रसिद्ध है: टेलर स्विफ्ट या लोकल बेकर बॉब?" (यह एक टूर्नामेंट ब्रैकेट की तरह है)।
3. बड़ी खोज: यह इस बारे में है कि क्या पढ़ा गया, न कि क्या जाना जाता है
परिणाम आश्चर्यजनक और स्पष्ट थे:
- AI की "याददाश्त" लाइब्रेरी से मेल खाती है: AI का प्रसिद्ध होने का विचार उसके "एक्सपोज़र स्कोर" (उसने नाम को कितनी बार देखा) से बहुत बेहतर मेल खाता था, बजाय इसके कि वह वास्तविक दुनिया के विकिपीडिया नंबरों से मेल खाए।
- "हेड-टू-हेड" मुकाबला सबसे अच्छा दर्पण है: जब AI को दो चीजों की सीधे तुलना करने के लिए कहा गया (जैसे एक टूर्नामेंट में), तो उसके उत्तर लगभग पूरी तरह से इस बात के अनुरूप थे कि उसने अपनी ट्रेनिंग किताबों में उन नामों को कितनी बार देखा था। यह वास्तविक दुनिया के विकिपीडिया डेटा की तुलना में भी बेहतर मेल था।
- "लॉन्ग टेल" (Long Tail) की समस्या: बहुत ही अस्पष्ट चीजों (जैसे "लोकल बेकर बॉब") के लिए, विकिपीडिया डेटा अक्सर अव्यवस्थित या गैर-मौजूद होता है (कोई भी उन पेजों पर नहीं जाता)। हालांकि, AI के पास फिर भी इस बारे में एक स्पष्ट राय थी कि कौन अधिक प्रसिद्ध है। क्यों? क्योंकि भले ही AI ने "लोकल बेकर बॉब" को केवल 5 बार देखा हो और "दूसरे बेकर" को 2 बार देखा हो, वह फिर भी जानता था कि पहला वाला "अधिक प्रसिद्ध" था क्योंकि उसने उस नाम को थोड़ा अधिक बार देखा था। AI वास्तविक दुनिया के ज्ञान का उपयोग नहीं कर रहा था; वह केवल अपने होमवर्क की गिनती कर रहा था।
4. बड़े मस्तिष्क = मजबूत यादें
शोधकर्ताओं ने एक छोटे मस्तिष्क (7 बिलियन पैरामीटर्स) और एक बड़े मस्तिष्क (32 बिलियन पैरामीटर्स) का परीक्षण किया।
- बड़ा मस्तिष्क अपने प्रशिक्षण डेटा के प्रति और भी अधिक जुनूनी था। उसके उत्तर छोटे मस्तिष्क की तुलना में "एक्सपोज़र स्कोर" के साथ और भी अधिक निकटता से मेल खाते थे।
- यह सुझाव देता है कि जैसे-जैसे AI स्मार्ट और बड़ा होता जाता है, वह अनिवार्य रूप से वास्तविक दुनिया के प्रति अधिक "जागरूक" नहीं होता है; वह बस अपने प्रशिक्षण के दौरान उसे जो खिलाया गया था, उसे याद करने में और भी बेहतर हो जाता है।
मुख्य निष्कर्ष
शोध पत्र यह निष्कर्ष निकालता है कि जब एक AI आपको बताता है कि कौन प्रसिद्ध है, तो वह अनिवार्य रूप से आपको वास्तविक समाज की रिपोर्ट नहीं दे रहा है। वह आपको अपनी स्वयं की रीडिंग लिस्ट (पढ़ने की सूची) की रिपोर्ट दे रहा है।
इसे एक ऐसे छात्र के रूप में सोचें जिसने केवल एक विशिष्ट पत्रिका पढ़ी है। यदि आप उस छात्र से पूछते हैं, "दुनिया में सबसे प्रसिद्ध व्यक्ति कौन है?" तो वह वास्तविक सबसे प्रसिद्ध व्यक्ति के बारे में नहीं बताएगा; वह उस व्यक्ति के बारे में बताएगा जो उस पत्रिका के कवर पर सबसे अधिक बार दिखाई दिया। AI का "लोकप्रियता पूर्वाग्रह" (popularity bias) केवल उसके प्रशिक्षण डेटा में शब्दों की आवृत्ति का प्रतिबिंब है, न कि दुनिया की सच्ची समझ।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।