Language models struggle with compartmentalization
यह शोध पत्र प्रदर्शित करता है कि बड़े भाषा मॉडल अक्सर एक ही अंतर्निहित अवधारणा (जैसे कि विभिन्न भाषाएँ या प्रोग्रामिंग प्रतिमान) की अलग-अलग प्रस्तुतियों को साझा आंतरिक निरूपणों में एकीकृत करने में विफल रहते हैं, जिससे अनावश्यक शिक्षण, कम नमूना दक्षता और अवधारणा प्रस्तुतियों की संख्या के आधार पर हस्तक्षेप प्रभावशीलता में एक चरण संक्रमण (फेज ट्रांजिशन) होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र का सरल भाषा और रचनात्मक उपमाओं के साथ विवरण दिया गया है।
मुख्य विचार: "समानांतर ब्रह्मांड" की समस्या
कल्पना कीजिए कि आपके पास एक ऐसा छात्र है जो अविश्वसनीय रूप से बुद्धिमान है, लेकिन उसकी एक बहुत अजीब आदत है: वह एक ही तथ्य को दो पूरी तरह से अलग, असंबंधित रहस्यों की तरह मानता है, यह इस पर निर्भर करता है कि उसे कैसे लिखा गया है।
यदि आप उसे अंग्रेजी में बताते हैं, "The sky is blue" (आकाश नीला है), तो वह इसे अपने "अंग्रेजी नोटबुक" में लिखता है।
यदि आप उसे वही बात स्वाहिली में बताते हैं, "The sky is blue", तो वह इसे एक अलग "स्वाहिली नोटबुक" में लिखता है।
वह कभी यह महसूस नहीं कर पाता कि ये दोनों नोटबुक एक ही चीज़ के बारे में बात कर रही हैं। वे आपस में कोई संबंध नहीं जोड़ते। वे यह नहीं कहते, "ओह, मुझे यह पहले से पता है!"
यह शोध पत्र इस व्यवहार को कंपार्टमेंटलाइज़ेशन (Compartmentalization - विभाजन) कहता है।
लेखकों का तर्क है कि लार्ज लैंग्वेज मॉडल्स (LLMs) अक्सर ऐसा करते हैं। "आकाश नीला है" के अवधारणा (concept) को समझने के लिए एक विशाल, कुशल मस्तिष्क बनाने के बजाय, वे हर उस भाषा, प्रोग्रामिंग कोड या लेखन शैली के लिए अलग-अलग, दोहराव वाले मस्तिष्क बना लेते हैं जो उनके सामने आती है। इससे उनकी मानसिक शक्ति (क्षमता) बर्बाद होती है और सीखने की गति धीमी (सैंपल इनएफिशिएंसी) हो जाती है।
प्रयोग: "जादुई शब्दावली" का जादू
इसे सिद्ध करने के लिए, शोधकर्ताओं ने एक नियंत्रित प्रयोग बनाया। उन्होंने केवल अलग-अलग भाषाओं का उपयोग नहीं किया; उन्होंने एक "जादु적인 ट्रिक" का उपयोग किया ताकि मॉडल को एक ही डेटा को पूरी तरह से अलग देखने के लिए मजबूर किया जा सके।
उपमा:
एक पुस्तकालय की कल्पना करें जहाँ हर किताब एक ही भाषा में लिखी गई है, लेकिन लाइब्रेरियन का एक नियम है:
- यदि कोई किताब बाईं शेल्फ (Left Shelf) पर है, तो शब्द "Apple" को "Apple" के रूप में लिखा जाएगा।
- यदि कोई किताब दाईं शेल्फ (Right Shelf) पर है, तो शब्द "Apple" को "Banana" के रूप में लिखा जाएगा (भले ही अर्थ एक ही हो)।
शोधकर्ताओं ने एक ऐसा मॉडल बनाया जहाँ "बाईं शेल्फ" और "दाईं शेल्फ" की डिक्शनरी पूरी तरह से अलग थी। उन्होंने मॉडल को बिल्कुल एक जैसी कहानियाँ खिलाईं, बस शेल्फ के अनुसार शब्दों को बदल दिया गया था।
परिणाम:
मॉडल कड़ियों को जोड़ने में विफल रहा। उसने बाईं शेल्फ के लिए कहानी सीखी, और उसने दाईं शेल्फ के लिए कहानी सीखी, लेकिन उसने उन्हें दो पूरी तरह से अलग कार्यों के रूप में माना।
- लागत: क्योंकि वह एक ही चीज़ को दो बार सीख रहा था, इसलिए उसे इसमें कुशल होने के लिए अधिक डेटा की आवश्यकता पड़ी (सैंपल इनएफिशिएंसी)।
- बाधा (Bottleneck): क्योंकि वह एक ही ज्ञान की दो प्रतियां संग्रहीत कर रहा था, इसलिए उसके पास "मस्तिष्क स्थान" जल्दी खत्म हो गया (कैपेसिटी कॉस्ट)।
"अनुवाद" का जाल
शोधकर्ताओं ने एक सामान्य समाधान आज़माया: उन्होंने मॉडल को "अनुवाद जोड़े" (translation pairs) दिए। उन्होंने उसे दिखाया, "यहाँ बाईं शेल्फ पर 'Apple' है, और यहाँ दाईं शेल्फ पर 'Banana' है।"
आश्चर्य:
मॉडल ने अनुवाद के नियम को लगभग तुरंत सीख लिया। वह "Apple" को "Banana" में पूरी तरह से अनुवाद कर सकता था। हालाँकि, इससे उसे कंपार्टमेंटलाइज़ेशन रोकने में मदद नहीं मिली। वह अभी भी उन दो अवधारणाओं को अलग-अलग मानसिक बक्सों में रखता रहा। यह एक ऐसे छात्र की तरह था जो वाक्य का अनुवाद तो पूरी तरह से कर सकता है लेकिन फिर भी यह नहीं समझ पाता कि अंतर्निहित अर्थ एक ही है।
उन्होंने पाया कि यह तभी काम करना शुरू हुआ जब उन्होंने मॉडल को भारी मात्रा में अनुवाद डेटा दिया, या जब उन्होंने "वेट डिके (weight decay)" नामक एक विशिष्ट प्रशिक्षण तकनीक का उपयोग किया (जो मॉडल की सोच को सरल बनाने के लिए एक हल्के धक्के की तरह काम करती है)।
"फेज़ ट्रांजिशन" (Phase Transition)
शोध पत्र में एक अजीब चीज़ मिली जिसे फेज़ ट्रांजिशन कहा जाता है।
इसे एक लाइट स्विच की तरह समझें।
- यदि आपके पास 2 कंपार्टमेंट (बाईं/दाईं शेल्फ) हैं, तो मॉडल जिद्दी रहता है और ज्ञान साझा नहीं करता है।
- यदि आपके पास 8 कंपार्टमेंट हैं, तो अचानक, पर्याप्त अनुवाद डेटा के साथ, मॉडल "स्नैप" (बदल) जाता है और सभी के बीच ज्ञान साझा करना शुरू कर देता है।
ऐसा लगता है कि मॉडल केवल तभी यह महसूस करता है कि उसे अपने मस्तिष्क को एकीकृत करना चाहिए जब समस्या इतनी जटिल हो जाती है कि उसे अलग रखना असंभव हो जाए।
वास्तविक दुनिया के उदाहरण
शोधकर्ताओं ने यह देखने के लिए वास्तविक दुनिया के परिदृश्यों पर परीक्षण किया कि क्या यह उनके "जादुदुकी पुस्तकालय" के बाहर भी होता है:
- बहुभाषी सीखना (Multilingual Learning): उन्होंने छोटे मॉडल्स को अंग्रेजी और चीनी पर प्रशिक्षित किया। उन्होंने पाया कि छोटे मॉडल्स के लिए, अंग्रेजी और चीनी का ज्ञान वास्तव में मिश्रित नहीं हुआ। मॉडल मूल रूप से "कंपार्टमेंटलाइज़्ड" था, जो उन्हें एक एकीकृत समझ के बजाय अलग-अलग कार्यों के रूप में मानता था।
- जीवनी बनाम प्रश्नोत्तर (Biographies vs. Q&A): उन्होंने मॉडल को दो प्रारूपों में लोगों के बारे में तथ्य दिए:
- प्रारूप A: जीवनी पैराग्राफ ("जॉन एक डॉक्टर है जो न्यूयॉर्क में रहता है")।
- प्रारूप B: प्रश्न-उत्तर जोड़ा ("जॉन कौन है? एक डॉक्टर जो न्यूयॉर्क में रहता है")।
- विपत्ति: जब मॉडल ने एक साथ दोनों प्रारूपों को सीखने की कोशिश की, तो वे आपस में लड़ने लगे। मॉडल भ्रमित हो गया और उसका प्रदर्शन उस स्थिति से भी खराब हो गया जब उसने केवल एक प्रारूप सीखा होता। यह एक हाथ में दो भारी वजन पकड़ने की कोशिश करने जैसा था; वे एक-दूसरे को बेअसर कर देते हैं।
अच्छी खबर: यह ठीक किया जा सकता है
सबसे महत्वपूर्ण खोज यह है कि यह AI के काम करने के तरीके में कोई मौलिक दोष नहीं है; यह बस एक बुरी आदत है जिसमें मॉडल गिर जाता है।
शोधकर्ताओं ने दिखाया कि यदि आप प्रशिक्षण की शुरुआत में (या प्रशिक्षण के बाद) एक कंपार्टमेंट से दूसरे में ज्ञान को मैन्युअल रूप से कॉपी करते हैं, तो मॉडल पूरी तरह से कार्य करता है। यह साबित करता है कि मॉडल में ज्ञान साझा करने की क्षमता है, लेकिन मानक प्रशिक्षण प्रक्रिया (SGD) स्वाभाविक रूप से इसे कुशलता से करने का तरीका नहीं खोज पाती है।
सारांश
- समस्या: AI मॉडल्स अक्सर एक ही तथ्य को अलग-अलग तरीकों से प्रस्तुत किए जाने पर (अलग भाषाएं, अलग प्रारूप) पूरी तरह से असंबंधित कार्यों के रूप में देखते हैं।
- परिणाम: इससे उनकी मेमोरी बर्बाद होती है और वे सीखने में धीमे हो जाते हैं।
- "अनुवाद" की विफलता: केवल मॉडल को प्रारूपों के बीच अनुवाद करना सिखाना पर्याप्त नहीं है; उन्हें यह समझने के लिए बहुत अधिक डेटा या विशिष्ट प्रशिक्षण धक्के की आवश्यकता होती है कि अवधारणाएं एक ही हैं।
- निष्कर्ष: AI मॉडल्स वर्तमान में "कंपार्टमेंटलाइज़्ड" हैं। उनके पास किसी तथ्य को कहने के हर तरीके के लिए मस्तिष्क में अलग कमरे हैं, न कि एक बड़ा कमरा जहाँ सभी तथ्य एक साथ रहते हैं। यह शोध पत्र सुझाव देता है कि हमें इन कमरों को मिलाने में मदद करने के लिए बेहतर प्रशिक्षण विधियों की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।