First-Order Predictable but Pairwise Fragile: Local Task Adaptation in Trained Transformers
यह शोध पत्र नौ ट्रांसफॉर्मर मॉडलों में आठ स्थानीय अनुकूलन गुणों का व्यवस्थित रूप से मूल्यांकन करता है और पाता है कि जबकि व्यक्तिगत कार्य विक्षोभ (perturbations) एक साझा वैधता विंडो के भीतर प्रथम-क्रम (first-order) अनुमान योग्य रहते हैं, युग्मवार कार्य संरचना (pairwise task composition) क्रम संवेदनशीलता, घूमते हुए उप-स्थानों (rotating subspaces), और सार्वभौमिक योज्यता (universal additivity) या स्टीयरिंग पत्राचार (steering correspondence) के अभाव के कारण अत्यधिक भंगुर है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक मास्टर शेफ हैं जिसने अभी-अभी एक विशाल, जटिल स्टू (stew) को पूरी तरह से तैयार किया है। यह स्वादिष्ट है, लेकिन आप इसमें थोड़ा बदलाव करना चाहते हैं: शायद थोड़ा और स्वाद बढ़ाने के लिए चुटकी भर नमक, या थोड़ा तीखापन देने के लिए मिर्च की एक चुटकी। आर्टिफिशियल इंटेलिजेंस की दुनिया में, यह "स्टू" एक विशाल कंप्यूटर मस्तिष्क (एक ट्रांसफार्मर मॉडल) है जो पहले से ही बोलना, लिखना और तर्क करना सीख चुका है। वह "चुटकी भर नमक" इसकी आंतरिक सेटिंग्स में एक छोटा सा समायोजन है, जिसे फाइन-ट्यूनिंग (fine-tuning) कहा जाता है। वैज्ञानिक लंबे समय से मानते आए हैं कि यदि आप ये समायोजन पर्याप्त छोटे रखते हैं, तो परिवर्तन अनुमानित होते हैं, जैसे एक सपाट मैदान पर सीधी रेखा में चलना। उन्होंने सोचा था कि यदि आप दो अलग-अलग स्वादों को मिलाना चाहते हैं (जैसे कि AI को गणित और कविता दोनों में अच्छा बनाना), तो आप बस "गणित के समायोजनों" और "कविता के समायोजनों" को जोड़ सकते हैं, और परिणाम एक आदर्श मिश्रण होगा। इस विचार को, जिसे "लोकल लिनियरिटी" (local linearity) कहा जाता है, आधुनिक उपकरणों का आधार माना जाता है जो AI को फिर से शुरू से प्रशिक्षित किए बिना अनुकूलित करने के काम आते हैं।
हालाँकि, ठीक वैसे ही जैसे खाना पकाने में होता है, रसोई उतनी सपाट नहीं हो सकती जितनी वह दिखती है। यह नया शोध AI के मस्तिष्क में किए जाने वाले इन सूक्ष्म बदलावों के पीछे क्या होता है, इसका एक गहरा, सूक्ष्म अध्ययन करता है। वैज्ञानिक जानना चाहते थे कि एक परिवर्तन को अनुमानित रहने के लिए कितना छोटा होना चाहिए? क्या दो बदलावों को एक साथ जोड़ना हमेशा काम करता है? और क्या यह मायने रखता है कि आप नमक पहले डालें या मिर्च पहले? उन्होंने इसे नौ अलग-अलग AI मॉडलों पर परखा, जो छोटे से लेकर अरबों पैरामीटर्स वाले विशाल मॉडलों तक विस्तृत थे, और उन्होंने यह सुनिश्चित करने के लिए प्रयोगों का एक कठोर, पूर्व-नियोजित सेट उपयोग किया कि वे केवल अनुमान नहीं लगा रहे हैं।
यह शोध पत्र एक ऐसी कहानी बताता है जो एक "वन-वे स्ट्रीट" (एकतरफा सड़क) की है जो अचानक "ट्रैफिक जाम" में बदल जाती है जब आप लेन बदलने की कोशिश करते हैं। शोधकर्ताओं ने पाया कि यदि आप AI को केवल एक दिशा में धकेलते हैं (जैसे कि इसे किसी एक कार्य में बेहतर बनाना), तो परिणाम आश्चर्यजनक रूप से अनुमानित और स्थिर होते हैं। आप काफी दूर तक चल सकते हैं—उनके मापों में के पैमाने तक—इससे पहले कि AI भ्रमित होने लगे या गणित काम करना बंद कर दे। यह एक लंबे, सीधे गलियारे में चलने जैसा है जहाँ हर कदम बिल्कुल एक जैसा महसूस होता है। यह उन लोगों के लिए बहुत अच्छी खबर है जो सरल, एकल-कार्य वाले बदलाव करना चाहते हैं या सुधार खोजने के लिए रैंडम गेसिंग (random guessing) का उपयोग करना चाहते हैं, क्योंकि "गलियारा" चौड़ा और सुरक्षित है।
लेकिन जिस क्षण आप एक साथ दो चीजें करने की कोशिश करते हैं, या उन्हें एक विशिष्ट क्रम में करते हैं, फर्श फिसलन भरा हो जाता है। शोध पत्र प्रकट करता है कि "एडिटिविटी" (additivity) का नियम (जहाँ ) नाजुक है। यदि आप दो अलग-अलग कार्यों के अपडेट को मिलाने की कोशिश करते हैं, तो उन्हें लागू करने का क्रम बहुत मायने रखता है, और यह समस्या एकल कार्यों के सुरक्षित क्षेत्र से कहीं पहले शुरू हो सकती है। वास्तव में, मापे गए मॉडल और कार्य संयोजनों के एक-तिहाई से अधिक मामलों में, क्रम उस पैमाने पर मायने रखने लगता है जो सुरक्षित विंडो के भीतर ही है। इस संवेदनशीलता की शुरुआत अलग-अलग जोड़ों के बीच तीन ऑर्डर्स ऑफ मैग्नीट्यूड (तीन गुना परिमाण) तक भिन्न होती है, जिसका अर्थ है कि कुछ संयोजन लगभग तुरंत टूट जाते हैं जबकि अन्य अधिक समय तक टिके रहते हैं। वैज्ञानिकों ने पाया कि यह अराजकता एक "ली ब्रैकेट" (Lie bracket) के कारण होती है, जो गणित का एक फैंसी तरीका है यह बताने का कि AI के सीखने के परिदृश्य (learning landscape) की वक्रता (curvature) कैसे बदल जाती है जब आप बाएं मुड़कर फिर दाएं मुड़ते हैं, बनाम दाएं मुड़कर फिर बाएं मुड़ते हैं।
टीम ने कुछ लोकप्रिय शॉर्टकटों का भी परीक्षण किया जिनका अन्य शोधकर्ता उपयोग कर रहे थे। उन्होंने जांच की कि क्या AI का सीखने का स्थान "लो-डायमेंशनल" (कम-आयामी) था (जैसे कि कागज का एक सपाट पन्ना) और पाया कि, कुछ पिछले विश्वासों के विपरीत, यह बिल्कुल भी एक साधारण सपाट पन्ना नहीं था; यह कागज की एक मुड़ी हुई गेंद की तरह था जो हिलने के साथ अपना आकार बदलता रहता है। उन्होंने यह भी परीक्षण किया कि क्या वे एक छोटे डेटा सैंपल के आधार पर एक नए बदलाव के परिणाम की भविष्यवाणी कर सकते हैं, और पाया कि जबकि भविष्यवाणी और परीक्षण के लिए उपयोग किए जाने वाले डेटा के मामले में गणित पूरी तरह से काम करता है, यह पूरी तरह से विफल हो गया जब उन्होंने अलग डेटा के साथ इसे आज़माया। इसका मतलब है कि जबकि हम एक नियंत्रित, समान-डेटा वातावरण में क्या होता है इसकी भविष्यवाणी कर सकते हैं, हम अभी तक यह विश्वसनीय रूप से अनुमान नहीं लगा सकते कि एक नया, अनदेखा डेटा पर एक बदलाव कैसा प्रदर्शन करेगा।
अंत में, यह शोध पत्र यह नहीं कहता कि फाइन-ट्यूनिंग खराब है, बल्कि यह कहता है कि "सड़क के नियम" हमारी सोच से कहीं अधिक जटिल हैं। एकल, सीधी रेखा वाले समायोजनों के लिए एक सुरक्षित क्षेत्र है, लेकिन जैसे ही आप कार्यों को मिलाने या संचालन के क्रम को बदलने की कोशिश करते हैं, आप एक ऐसे क्षेत्र में प्रवेश करते हैं जहाँ AI की आंतरिक ज्यामिति अप्रत्याशित तरीकों से मुड़ती और घूमती है। वैज्ञानिक निष्कर्ष निकालते हैं कि हमें बहुत सावधान रहने की आवश्यकता है: हम यह मानकर नहीं चल सकते कि दो सुधारों को एक साथ जोड़ने से काम बन जाएगा, या क्रम मायने नहीं रखता है। इसके बजाय, हमें अपने विशिष्ट AI और अपने विशिष्ट कार्यों की विशिष्ट "वक्रता" (curvature) की जांच करनी चाहिए, क्योंकि एक कार्य के लिए सुरक्षित दूरी, दो कार्यों के जोड़े के लिए आपदा बन सकती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।