Latent Knowledge as a Predictor of Fact Acquisition in Fine-Tuned Large Language Models
यह अध्ययन प्रदर्शित करता है कि सुप्त ज्ञान—जो मॉडल के भार (weights) में संग्रहीत बायोमेडिकल तथ्य हैं लेकिन प्रारंभ में अप्राप्य होते हैं—इस बात का सबसे मजबूत भविष्यवक्ता है कि लार्ज लैंग्वेज मॉडल्स फाइन-ट्यूनिंग के दौरान कितनी तेज़ी से नए तथ्यों को प्राप्त करते हैं और अनदेखे ऑन्टोलॉजी मैपिंग्स (ontology mappings) पर सामान्यीकरण करने में उनकी कितनी क्षमता है, साथ ही यह भी प्रकट करता है कि प्रशिक्षण के दौरान सुदृढ़ न किए जाने पर पहले से सही मैपिंग्स के क्षरण की संभावना अधिक होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक बड़े भाषा मॉडल (जैसे कि इस अध्ययन में उपयोग किया गया है) की कल्पना एक विशाल, अराजक पुस्तकालय के रूप में करें जिसे लाखों किताबें पढ़ने के बाद बनाया गया था। शोधकर्ताओं द्वारा प्रयोग शुरू करने से पहले, यह पुस्तकालय तथ्यों से भरा हुआ था, लेकिन वे बहुत ही अव्यवस्थित तरीके से संग्रहीत थे। कुछ तथ्य सामने के कवर पर चमकीले, गहरे अक्षरों में लिखे थे (ढूंढने में आसान), जबकि कुछ धूल भरी किताब के पीछे अदृश्य स्याही से लिखे गए थे (ढूंढने में कठिन, लेकिन फिर भी वहां मौजूद)।
शोधकर्ता यह जानना चाहते थे: यदि हम इस पुस्तकालय को एक विशिष्ट "स्टडी गाइड" (फाइन-ट्यूनिंग) दें, तो यह नए तथ्यों को कितनी तेज़ी से सीखेगा? और यह क्या निर्धारित करता है कि वह उन्हें तेज़ी से सीखेगा या पुराने तथ्यों को भूल जाएगा?
यहाँ उनके निष्कर्षों की कहानी दी गई है, जिसे सरल अवधारणाओं में विभाजित किया गया है:
1. "अदृश्य स्याही" की खोज (लेटेंट नॉलेज/सुप्त ज्ञान)
शोधकर्ताओं ने पाया कि पुस्तकालय का एक रहस्य था। कुछ तथ्य "अदृश्य स्याही" में लिखे गए थे। यदि आप पुस्तकालय से सामान्य रूप से कोई प्रश्न पूछते, तो वह कहता, "मुझे नहीं पता।" लेकिन यदि आप उससे थोड़ा अलग, अधिक रैंडम तरीके से पूछते (जिसे स्टोकेस्टिक डिकोडिंग नामक तकनीक कहा जाता है), तो पुस्तकालय अचानक कहता, "ओह! मुझे वास्तव में यह पता है!"
उन्होंने इसे लेटेंट नॉलेज (Latent Knowledge) कहा। यह उस छात्र की तरह है जो गणित का सूत्र जानता है लेकिन परीक्षा के दौरान उसे लिखने में बहुत घबराया हुआ है। ज्ञान वहां मौजूद है, बस छिपा हुआ है।
बड़ी खोज:
- "अदृश्य स्याही" वाले तथ्य बहुत तेज़ी से सीखे गए। जब शोधकर्ताओं ने "स्टडी गाइड" (फाइन-ट्यूनिंग) शुरू की, तो मॉडल ने इन तथ्यों को लगभग तुरंत सीख लिया। यह ऐसा था जैसे छात्र को केवल यह याद दिलाने के लिए एक हल्के से धक्के की आवश्यकता थी जो वह पहले से ही जानता था।
- बिना "अदृश्य स्याही" वाले तथ्य धीमे सीखने वाले थे। यदि पुस्तकालय ने पहले कभी किसी तथ्य को नहीं देखा था (या वह बहुत दुर्लभ था), तो मॉडल को इसे शून्य से सीखना पड़ा। इसमें बहुत अधिक समय लगा और यह धीमी गति से हुआ।
2. अध्ययन के तीन परिणाम
शोधकर्ताओं ने 20 "अध्ययन सत्रों" (epochs) के दौरान पुस्तकालय को देखा और तीन विशिष्ट चीजों को ट्रैक किया:
- याद करना (जो आप देखते हैं उसे सीखना): मॉडल ने उन तथ्यों को सीखा जिन्हें उसे स्पष्ट रूप से सिखाया गया था।
- परिणाम: इसने उन तथ्यों में से लगभग 72% सीख लिए जिन्हें इसे सिखाया गया था। लेकिन फिर से, वे तथ्य जिन्हें वह "आधा जानता था" (लेटेंट नॉलेज), सबसे पहले और सबसे तेज़ी से सीखे गए।
- सामान्यीकरण (अनदेखे का अनुमान लगाना): शोधकर्ताओं ने मॉडल को तथ्यों की एक सूची दी जिसे उसने कभी नहीं देखा था और पूछा कि क्या वह समान तथ्यों का अध्ययन करके उन्हें समझ सकता है।
- परिणाम: यह बहुत दुर्लभ था (केवल लगभग 6% बार)। हालाँकि, मॉडल केवल तभी इन नए तथ्यों का अनुमान लगाने में सफल हुआ जब उसके पास पहले से ही उस बारे में "अदृश्य स्याही" (लेटेंट नॉलेज) मौजूद थी। यदि उसके पास शून्य पूर्व अनुभव था, तो वह नए तथ्यों का अनुमान नहीं लगा सका।
- क्षय (जो आप जानते थे उसे भूलना): यह डरावना हिस्सा है। कभी-कभी, नई चीजें सीखते समय, मॉडल उन तथ्यों को भूल जाता था जिन्हें वह शुरुआत में अच्छी तरह से जानता था।
- परिणाम: मॉडल उन तथ्यों को भूलने की अधिक संभावना रखता था जिन्हें उसे अध्ययन सत्रों के दौरान नहीं सिखाया गया था। जिन तथ्यों को उसे सिखाया गया था, उन्हें एक ढाल की तरह सुरक्षित रखा गया था। यह इतिहास की परीक्षा के लिए पढ़ने और अनजाने में अपना फोन नंबर भूल जाने जैसा है क्योंकि आप नई सामग्री पर बहुत अधिक ध्यान केंद्रित कर रहे थे।
3. "लोकप्रियता" का कारक
शोधकर्ताओं ने यह भी जांचा कि वास्तविक दुनिया में एक तथ्य कितना "लोकप्रिय" है (चिकित्सा पुस्तकों में यह कितनी बार दिखाई देता है) इसका महत्व था या नहीं।
- आश्चर्य: एक विशिष्ट शब्द कितनी बार आया, इससे बहुत अधिक फर्क नहीं पड़ा।
- असली विजेता: आइडेंटिफायर (तथ्य के लिए विशिष्ट कोड) कितनी बार आया, इससे बहुत फर्क पड़ा।
- चैंपियन: "अदृश्य स्याही" (लेटेंट नॉलेज) सबसे मजबूत भविष्यवक्ता था। यह लोकप्रियता या आवृत्ति (frequency) से कहीं अधिक महत्वपूर्ण था।
निष्कर्ष का रूपक (Metaphor)
मॉडल को एक माली और तथ्यों को बीजों के रूप में सोचें।
- लेटेंट नॉलेज एक ऐसे बीज की तरह है जो ज़मीन के नीचे पहले से ही एक छोटी जड़ उगा चुका है। जब आप इसे पानी देते हैं (फाइन-ट्यूनिंग), तो यह तुरंत एक पौधे के रूप में ऊपर आ जाता है।
- कोई लेटेंट नॉलेज नहीं एक ऐसे बीज की तरह है जो पूरी तरह से सुप्त है। आपको इसे उगाने के बारे में सोचने से पहले लंबे समय तक पानी देना होगा।
- जनरलाइजेशन (Generalization) एक ऐसे बीज से पौधा उगाने की कोशिश करना है जिसे आपने पहले कभी नहीं देखा। आप यह तभी कर सकते हैं जब मिट्टी (मॉडल का मस्तिष्क) में इसे सहारा देने के लिए सही पोषक तत्व (लेटेंट नॉलेज) पहले से मौजूद हों।
- डिग्रेडेशन (Degradation) एक माली के बहुत अधिक ध्यान केंद्रित करने जैसा है कि वे नए फूल लगाने के चक्कर में गलती से पुराने फूलों को कुचल देते हैं। जिन फूलों को आप वर्तमान में पानी दे रहे हैं (ट्रेनिंग सेट) वे सुरक्षित रहते हैं, लेकिन जिन्हें आप अनदेखा करते हैं (अनसीन सेट) वे कुचल दिए जाते हैं।
सारांश
पेपर यह निष्कर्ष निकालता है कि आप केवल मॉडल को कुछ भी तुरंत सीखने के लिए मजबूर नहीं कर सकते।
- यदि मॉडल के पास पहले से ही ज्ञान का एक "संकेत" (लेटेंट नॉलेज) है, तो वह तेज़ी से सीखता है और समान नई चीज़ों का अनुमान भी लगा सकता है।
- यदि मॉडल के पास बिल्कुल भी संकेत नहीं है, तो सीखना धीमा होता है, और वह नई चीज़ों का अनुमान नहीं लगा पाएगा।
- मॉडल को पुराने तथ्यों को भूलने से रोकने के लिए, आपको प्रशिक्षण के दौरान उन विशिष्ट तथ्यों का अभ्यास जारी रखना होगा।
यह वैज्ञानिकों को यह समझने में मदद करता है कि उन्हें मॉडल को कब प्रशिक्षित करना चाहिए और क्या उम्मीद करनी चाहिए, बजाय इसके कि वे केवल इस उम्मीद में रहें कि यह जादुई रूप से सब कुछ सीख लेगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।