Measuring Task-Agnostic Training Data Influence Across Language Model Pretraining
यह शोध पत्र प्रशिक्षण डेटा के प्रभाव को मापने के लिए एक कार्य-अज्ञेय (task-agnostic) विधि प्रस्तुत करता है, जो यह मात्रा निर्धारित करता है कि व्यक्तिगत उदाहरण अंतिम मॉडल मापदंडों (parameters) तक की दूरी को कितना कम करते हैं, जिससे यह पता चलता है कि विभिन्न मॉडल कॉन्फ़िगरेशन में साहित्य से संबंधित डेटा प्रारंभिक प्रीट्रेनिंग को संचालित करता है जबकि STEM डेटा बाद के चरणों में अधिक प्रभावशाली हो जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट को इंसान की तरह बोलना सिखाने की कोशिश कर रहे हैं। आप उसे सिर्फ एक किताब नहीं देते; बल्कि आप पूरे इंटरनेट को उसके दिमाग में डाल देते हैं। इस प्रक्रिया को "प्रीट्रेनिंग" (pretraining) कहा जाता है, और यह आज के एआई (AI) मॉडल्स का आधार है। लेकिन यहाँ एक पेचीदा बात है: एक बार जब रोबोट सीखना पूरा कर लेता है, तो वास्तव में कोई नहीं जानता कि कौन से विशिष्ट वाक्य या कहानियाँ सबसे महत्वपूर्ण थीं। क्या उसने किसी विशेष विकिपीडिया लेख की वजह से गणित में महारत हासिल की? क्या उसने किसी विशेष उपन्यास की वजह से कविता लिखना सीखा?
वैज्ञानिकों ने इस सवाल का जवाब देने की कोशिश की है कि, "यदि मैं इस एक वाक्य को हटा दूँ, तो क्या रोबोट किसी विशिष्ट परीक्षण में खराब हो जाएगा, जैसे गणित के सवाल हल करना या कविता लिखना?" यह कुछ ऐसा ही है जैसे यह पता लगाने की कोशिश करना कि किस सामग्री ने केक को स्वादिष्ट बनाया, यह जानकर कि केक आपने पहले ही खा लिया है। समस्या यह है कि एआई मॉडल्स को हर चीज़ में अच्छा होना चाहिए, न कि केवल एक परीक्षण में। यदि आप केवल यह देखते हैं कि वे गणित में कितने अच्छे हैं, तो हो सकता है कि आप इस तथ्य को मिस कर दें कि उन्होंने किसी अन्य डेटा से मज़ाक करना सीखा है। तो, बड़ा सवाल यह है: क्या हम रोबोट को किसी विशिष्ट परीक्षण के लिए मजबूर किए बिना, समय के साथ उसका मस्तिष्क कैसे बदलता है, यह देख सकते हैं?
यह शोध पत्र एक चतुर नए तरीके से रोबोट को सीखते हुए देखने की बात करता है, जिसमें किसी विशिष्ट परीक्षण की आवश्यकता नहीं है। यह पूछने के बजाय कि, "क्या इस वाक्य ने रोबोट को गणित की क्विज़ पास करने में मदद की?", शोधकर्ताओं ने पूछा, "क्या इस वाक्य ने रोबोट को उसके अंतिम, पूर्ण मस्तिष्क के करीब पहुँचने में मदद की?" उन्होंने रोबोट की अंतिम अवस्था को एक मानचित्र पर एक गंतव्य (destination) की तरह माना। हर बार जब रोबिका ने एक नया वाक्य पढ़ा, तो उसने एक छोटा कदम उठाया। शोधकर्ताओं ने मापा कि क्या वह कदम उसे फिनिश लाइन के करीब ले गया या क्या उसने गलती से एक कदम पीछे की ओर ले लिया।
उन्होंने इस पद्धति को एक प्रसिद्ध एआई मॉडल परिवार के 18 अलग-अलग संस्करणों पर लागू किया, और 154 अलग-अलग चेकपॉइंट्स (जैसे कि विभिन्न समय पर रोबोट के मस्तिष्क के स्नैपशॉट) के माध्यम से उन्हें सीखते हुए देखा। उन्होंने जो पाया वह एक दिलचस्प कहानी है कि कैसे रोबोट का "आहार" (diet) बड़े होते हुए बदलता है।
शुरुआत में, जब रोबोट अभी सीखना शुरू ही कर रहा था, तब सबसे सहायक वाक्य साहित्य और कहानियों से आए थे। ये "शीर्ष योगदानकर्ता" (top contributors) थे जिन्होंने रोबोट को उसके अंतिम रूप की ओर धकेला। यह ऐसा था जैसे रोबोट को पहले मानवीय कहानियों और भावनाओं को समझने की आवश्यकता थी। हालाँकि, जैसे-जैसे प्रशिक्षण मध्य और बाद के चरणों में जारी रहा, कहानी बदल गई। जो वाक्य सबसे महत्वपूर्ण बन गए, वे अब कहानियाँ नहीं थे; वे STEM क्षेत्रों (विज्ञान, प्रौद्योगिकी, इंजीनियरिंग और गणित) से थे।
शोधकर्ताओं ने एक स्पष्ट "क्रॉसओवर" (crossover) देखा। शुरुआत में, किताबें और साहित्य मुख्य आकर्षण थे। बाद में, विज्ञान और कंप्यूटर के तकनीकी डेटा ने केंद्र में अपनी जगह बना ली। यह सुझाव देता है कि रोबोट केवल अंत में "कठिन" चीजें नहीं सीखता; बल्कि उसे सीखने के एक विशिष्ट क्रम की आवश्यकता होती है। ऐसा लगता है कि उसे पहले मानवीय भाषा और कहानियों की नींव की आवश्यकता होती है, और उसके बाद ही वह अपनी पूरी क्षमता तक पहुँचने के लिए जटिल, तकनीकी डेटा से वास्तव में लाभान्वित होता है।
लेखकों ने यह भी जाँच की कि क्या उनका तरीका विश्वसनीय था। उन्होंने अपने "दूरी-से-समाप्ति" (distance-to-finish) माप की तुलना पुराने "परीक्षण-अंक" (test-score) पद्धति से की और पाया कि पुराना तरीका बहुत अलग उत्तर देता था, जो इस बात पर निर्भर करता था कि आपने कौन सा परीक्षण चुना। यदि आपने गणित के लिए परीक्षण किया, तो आपको लगा कि गणित का डेटा पूरी अवधि में महत्वपूर्ण था। यदि आपने कहानियों के लिए परीक्षण किया, तो आपको लगा कि कहानियाँ पूरी अवधि में महत्वपूर्ण थीं। हालाँकि, उनके नए तरीके ने सभी अलग-अलग मॉडल्स पर एक सुसंगत पैटर्न दिखाया, जो यह सुझाव देता है कि कहानियों से विज्ञान की ओर यह बदलाव एक वास्तविक, मौलिक हिस्सा है कि ये एआई मॉडल्स कैसे सीखते हैं, न कि यह उनके परीक्षण करने के तरीके का कोई संयोग है।
तो, मुख्य निष्कर्ष यह है कि एआई को प्रशिक्षित करना केवल उसे डेटा के रैंडम मिश्रण से खिलाना नहीं है। यह एक पाठ्यक्रम (curriculum) की तरह है। शोध पत्र सुझाव देता है कि "सर्वश्रेष्ठ" डेटा इस बात पर निर्भर करता है कि एआई अपने प्रशिक्षण में कितना आगे है। शुरुआत में, उसे कहानियों की आवश्यकता होती है; बाद में, उसे विज्ञान की आवश्यकता होती है। यह हमें बेहतर एआई बनाने के बारे में सोचने का एक नया तरीका देता है: शायद हमें उन्हें पहले कहानियाँ खिलानी चाहिए, और जटिल गणित को तब के लिए बचाकर रखना चाहिए जब वे उसके लिए तैयार हों।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।