Distributed Sparse Interventions in Language Models
यह शोध पत्र डिस्ट्रीब्यूटेड स्पार्स इंटरवेंशन्स (DSI) को प्रस्तुत करता है, जो एक नवीन विधि है जो उन गैर-रेखीय प्रभावों और अंतःक्रियाओं को पकड़ने के लिए परतों के across न्यूरॉन्स के स्पार्स सेट की पहचान करती है जिन्हें पारंपरिक रैखिक स्टीयरिंग दृष्टिकोण चूक जाते हैं, ताकि भाषा मॉडल में कार्य व्यवहारों को प्रभावी ढंग से सक्रिय किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक बड़े भाषा मॉडल (जैसे कि चैटबॉट्स को चलाने वाले मॉडल) की कल्पना एक विशाल, हलचल भरे शहर के रूप में करें जिसमें अलग-अलग इमारतों (परतों) में लाखों छोटे कामगार (न्यूरॉन्स) हैं। जब आप उस शहर को कोई विशिष्ट कार्य करने के लिए कहते हैं—जैसे कि किसी वाक्य का अनुवाद करना या किसी क्रिया को भूतकाल में बदलना—तो अधिकांश लोग यह मान लेते हैं कि पूरे शहर को एक साथ अपनी गति बदलनी होगी, या फिर वहां एक विशाल "स्विच" है जिसे आप किसी काम को करने के लिए घुमा सकते हैं।
यह शोध पत्र, "डिस्ट्रीब्यूटेड स्पार्स इंटरवेंशन" (Distributed Sparse Interventions), तर्क देता है कि यह धारणा गलत है। पूरे शहर की गति बदलने या पूरे शहर को हिलाने के बजाय, लेखकों ने पाया कि आप केवल कुछ विशिष्ट कामगारों को थोड़ा सा प्रेरित करके जटिल कार्यों को ट्रिगर कर सकते हैं—कभी-कभी कुल आबादी के 0.01% जितने कम कामगारों को भी।
यहाँ उनके शोध की सरल उपमाओं (analogies) का विवरण दिया गया है:
1. पुराना तरीका: "ग्लोबल वॉल्यूम नॉब" (The Global Volume Knob)
पिछले शोधों ने मॉडल के साथ एक स्टीरियो सिस्टम की तरह व्यवहार किया। यदि आप संगीत का "मिजाज" (कार्य) बदलना चाहते थे, तो आप पूरे कमरे के लिए एक ग्लोबल वॉल्यूम नॉब घुमाते थे या एक फेडर को स्लाइड करते थे। यह इस धारणा पर आधारित था कि कार्य सरल, सीधी रेखाओं की तरह हैं: यदि आप नॉब को थोड़ा सा घुमाते हैं, तो संगीत थोड़ा तेज़ हो जाता है।
समस्या: लेखकों ने पाया कि मॉडल एक साधारण स्टीरियो नहीं है। यह एक जटिल ऑर्केस्ट्रा की तरह है। यदि आप केवल पूरे कमरे का वॉल्यूम बढ़ा देते हैं, तो आपको केवल शोर मिलेगा। असली जादू तब होता है जब विशिष्ट संगीतकार बिल्कुल सही समय पर विशिष्ट स्वर बजाते हैं। इन कामगारों के बीच का संबंध एक सीधी रेखा नहीं है; यह परस्पर क्रियाओं का एक उलझा हुआ जाल है।
2. नया तरीका: "डिस्ट्रीब्यूटेड स्पार्स इंटरवेंशन" (DSI)
लेखकों ने DSI नामक एक विधि विकसित की है। इसे एक अत्यधिक कुशल कंडक्टर (संचालक) के रूप में समझें जो पूरे ऑर्केस्ट्रा को ज़ोर से बजाने के लिए नहीं कहता। इसके बजाय, कंडक्टर:
- सुनता है: वह तुलना करता है कि ऑर्केस्ट्रा कैसे बजता है जब वे गाना जानते हैं (10-शॉट उदाहरण) बनाम जब वे नहीं जानते (0-शॉट)।
- पहचानता है: वह उन छोटे, विशिष्ट संगीतकारों के समूह को ढूंढता है जो एक खराब प्रदर्शन और एक अच्छे प्रदर्शन के बीच का अंतर हैं।
- नज (Nudge) करता है: वह बस उन कुछ संगीतकारों को धीरे से थपथपाता है ताकि वे अपना हिस्सा बजा सकें।
परिणाम: केवल 8 से 64 न्यूरॉन्स (हजारों में से) पर हस्तक्षेप करके, वे मॉडल को ऐसे कार्य करने के लिए प्रेरित कर सके जिन्हें करने के लिए उसे स्पष्ट रूप से नहीं बताया गया था, और अक्सर यह प्रदर्शन उस स्तर के बराबर था जो मॉडल को सीखने के लिए 10 उदाहरण देने से मिलता।
3. "नॉन-लीनियर" (गैर-रेखीय) आश्चर्य
यह शोध पत्र बताता है कि ये न्यूरॉन्स साधारण स्विच की तरह काम नहीं करते।
- उपमा: कल्पना करें कि आप केक बनाने की कोशिश कर रहे हैं। यदि आप मान लेते हैं कि यह लीनियर (रेखीय) है, तो आप सोच सकते हैं कि "एक और अंडा डालने से केक दोगुना अच्छा हो जाएगा।" लेकिन वास्तव में, एक अंडा डालने से केक गीला हो सकता है, जबकि दो अंडे डालने से वह एकदम सही बनता है, और तीन डालने से वह खराब हो जाता है।
- निष्कर्ष: लेखकों ने पाया कि एक न्यूरॉन को प्रेरित करने का प्रभाव इस बात पर बहुत अधिक निर्भर करता है कि अन्य न्यूरॉन्स क्या कर रहे हैं। आप केवल "सबसे अच्छे" न्यूरॉन को चुनकर उसे प्रेरित नहीं कर सकते; आपको न्यूरॉन्स का सही संयोजन खोजना होगा और उन्हें सही शक्ति के साथ प्रेरित करना होगा। उनकी विधि, DSI, एक बार अनुमान लगाने और उम्मीद करने के बजाय, सही रेसिपी खोजने के लिए इन 'नज' को बार-बार समायोजित करती है।
4. "कार्य" को समझना (कॉपी बनाम ट्रांसफॉर्म की उपमा)
इस शोध पत्र का सबसे दिलचस्प हिस्सा वह है जहाँ उन्होंने इस पद्धति का उपयोग यह समझने के लिए किया कि मॉडल कैसे सोचता है। उन्होंने "run" को "ran" में बदलने (काल परिवर्तन) जैसे कार्य को देखा।
उन्होंने खोजा कि मॉडल वास्तव में इसे दो चरणों में तोड़ता है:
- कॉपी करना (Copying): मॉडल पहले शब्द "run" को कॉपी करता है।
- परिवर्तित करना (Transforming): इसके बाद वह "run" को "ran" में बदल देता है।
DSI का उपयोग करके, वे केवल "कॉपी करने" वाले हिस्से के लिए जिम्मेदार न्यूरॉन्स और "बदलने" वाले हिस्से के लिए जिम्मेदार न्यूरॉन्स को अलग कर सके।
- प्रयोग: जब उन्होंने केवल "कॉपी करने" वाले न्यूरॉन्स को सक्रिय किया, तो मॉडल केवल इनपुट शब्द को बार-बार दोहराता रहा (जैसे एक टूटा हुआ रिकॉर्ड)। जब उन्होंने "बदलने" वाले न्यूरॉन्स को सक्रिय किया, तो मॉडल ने काल बदलने की कोशिश की लेकिन शायद अटक गया या खुद को दोहराने लगा।
- अंतर्दृष्टि: यह सिद्ध करता है कि जटिल कार्य न्यूरॉन्स के छोटे, पुन: प्रयोज्य "लेगो ब्लॉक्स" (Lego blocks) से बने होते हैं। मॉडल के पास एक विशाल "भूतकाल" वाला मस्तिष्क नहीं है; उसके पास एक "कॉपी" मस्तिष्क और एक "बदलने" वाला मस्तिष्क है जो मिलकर काम करते हैं।
सारांश
यह शोध पत्र दिखाता है कि भाषा मॉडल बुद्धिमत्ता के अखंड ब्लॉक (monolithic blocks) नहीं हैं। वे स्पार्स, डिस्ट्रीब्यूटेड सर्किट (वितरित सर्किट) से बने हैं। आपको मॉडल को नया कार्य सिखाने के लिए पूरे मॉडल को फिर से प्रशिक्षित करने या भारी मात्रा में डेटा की आवश्यकता नहीं है। आपको बस उन विशिष्ट न्यूरॉन्स के छोटे समूह को खोजना होगा जो उस कार्य की "चाबी" रखते हैं और उन्हें एक हल्का सा संकेत (नज) देना होगा।
संक्षेप में: पूरे शहर को निर्देश चिल्लाकर देने के बजाय, लेखकों ने कुछ विशिष्ट लोगों के कान में फुसफुसाने का तरीका खोज लिया है, और पूरा शहर अचानक एक नई भाषा बोलने लगता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।