Stuck on "A": Diagnosing and Repairing Interface Injury in Attention-to-KDA Linearization of a 0.6B Language Model
यह शोध पत्र एक 0.6B भाषा मॉडल के, जिसे लीनियर अटेंशन में परिवर्तित किया गया है, एक विशिष्ट "इंटरफ़ेस इंजरी" (interface injury) का निदान और सुधार करता है, जहाँ मॉडल सामग्री के बजाय अंधाधुंध विकल्प लेबल (जैसे, "A") की भविष्यवाणी करता है, जिसके लिए एक क्रमचय-आधारित (permutation-based) निदान और लक्षित पूर्णता-चरण (completion-stage) KL डिस्टिलेशन का उपयोग किया गया है ताकि उपभोक्ता हार्डवेयर पर दक्षता बनाए रखते हुए बहुविकल्पीय सटीकता को बहाल किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान लेकिन छोटे रोबोट को किताब पढ़ना सिखाने की कोशिश कर रहे हैं। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इन रोबोट्स को "लैंग्वेज मॉडल्स" कहा जाता है। ये एक-एक करके शब्दों को देखते हैं और अनुमान लगाते हैं कि अगला शब्द क्या होगा, जो बिल्कुल एक बहुत तेज़ "रिक्त स्थान भरें" (fill in the blank) वाले खेल की तरह है। ऐसा करने के लिए, वे आमतौर पर उन सभी चीजों की एक विशाल मानसिक सूची रखते हैं जो उन्होंने अब तक पढ़ी हैं, जिसमें बहुत अधिक मेमोरी लगती है। लेकिन क्या होगा अगर हम उन्हें बहुत छोटे, अधिक कुशल तरीके से याद रखना सिखा सकें, जैसे कि एक शॉर्ट-टर्म मेमोरी लूप? यही "लीनियर अटेंशन" (linear attention) का वादा है, जो एक नई तकनीक है जो इन रोबोट्स को बड़े, महंगे सुपरकंप्यूटरों के बजाय आपके लैपटॉप या फोन जैसे छोटे कंप्यूटरों पर चलाने की अनुमति देती है।
वैज्ञानिक पहले से ही बहुत कुछ जानते हुए बड़े, शक्तिशाली रोबोट्स को इस नए, कुशल मेमोरी वाले तरीके का उपयोग करने के लिए "सर्जरी" करने की कोशिश कर रहे हैं। मुख्य सवाल यह है कि: जब हम उनकी पुरानी मेमोरी को नई, कुशल मेमोरी से बदलते हैं, तो क्या वे सोचना भूल जाते हैं, या वे बस यह दिखाने में भ्रमित हो जाते हैं कि वे क्या जानते हैं? यह शोध पत्र इसी रहस्य की गहराई में उतरता है। यह पूछता है: यदि हम रोबोट की मेमोरी को ठीक कर दें, तो क्या उसे अभी भी उत्तर पता होता है, या सर्जरी ने उसके मस्तिष्क के उस हिस्से को तोड़ दिया है जो उसके ज्ञान को उसके बोले गए शब्दों से जोड़ता है?
वह सर्जरी जिसने वॉयस बॉक्स को तोड़ दिया
शोधकर्ता ने एक छोटा, 0.6-बिलियन-पैरामीटर वाला AI मॉडल (इसे एक बहुत ही स्मार्ट, लेकिन छोटे छात्र के रूप में सोचें) लिया और उस पर एक बड़ी सर्जरी की। उन्होंने इसके 28 में से 21 ब्रेन लेयर्स को एक नए, कुशल "लीनियर अटेंशन" सिस्टम से बदल दिया जिसे KDA कहा जाता है। उन्होंने यह सब एक मानक कंप्यूटर ग्राफिक्स कार्ड पर किया—वही जो एक गेमर के पास होता है—न कि किसी सुपरकंप्यूटर पर।
सर्जरी के बाद, उन्होंने मानक चिकित्सा परीक्षणों का उपयोग करके रोबोट के स्वास्थ्य की जांच की। परीक्षणों ने कहा कि रोबोट बहुत अच्छा कर रहा है! इसकी "परप्लेक्सिटी" (यह मापने का पैमाना कि अगला शब्द देखकर वह कितना हैरान होता है) मूल मॉडल के लगभग बराबर थी। ऐसा लग रहा था कि वह भाषा के प्रवाह को पूरी तरह समझता है। लेकिन फिर, उन्होंने उससे एक सरल बहुविकल्पीय प्रश्न पूछा: "फ्रांस की राजधानी क्या है? A) लंदन, B) पेरिस, C) बर्लिन, D) रोम।"
रोबोट बुरी तरह विफल रहा। उसने सही उत्तर केवल लगभग 25% बार दिया, जो वही स्कोर है जो आपको तब मिलता है जब आप बस रैंडमली अंदाज़ा लगाते हैं। मानक परीक्षणों ने झूठ बोला था। रोबोट अंदर से तथ्यों को जानता था, लेकिन उसने सही उत्तर की ओर इशारा करने की क्षमता खो दी थी।
"A" की लत: एक डायग्नोस्टिक डिटेक्टिव स्टोरी
यह पता लगाने के लिए कि क्या गलत हुआ, टीम ने एक चतुर जासूसी तकनीक बनाई जिसे "फोर-परम्यूटेशन डायग्नोस्टिक" (four-permutation diagnostic) कहा जाता है। कल्पना कीजिए कि आपके पास चार विकल्पों वाला एक बहुविकल्पीय प्रश्न है: A, B, C और D। आमतौर पर, उत्तर इन अक्षरों के पीछे छिपा होता है।
शोधकर्ता ने 161 प्रश्नों को लिया और अक्षरों को इधर-उधर घुमा दिया। उन्होंने एक ही प्रश्न को चार बार पूछा, लेकिन हर बार उन्होंने विकल्पों को घुमाया:
- मूल: A=लंदन, B=पेरिस...
- घुमाया हुआ: A=पेरिस, B=बर्लिन...
- फिर से घुमाया हुआ: A=बर्लिन, C=रोम...
- और फिर से।
यदि रोबोट वास्तव में सोच रहा होता, तो उसे कंटेंट (शब्द "पेरिस") का पालन करना चाहिए और सही अक्षर चुनना चाहिए, चाहे वह कहीं भी रखा गया हो। यदि वह सब कुछ भूल गया होता, तो वह हर बार रैंडमली अंदाज़ा लगाता।
लेकिन रोबोट ने न तो वह किया और न ही यह। उसने कुछ अजीब किया: वह अक्षर "A" का जुनूनी हो गया।
- उसने विकल्प "A" को 81% बार चुना, चाहे "A" सही उत्तर हो या न हो।
- 161 में से 106 सवालों में, उसने बिल्कुल वही अक्षर (आमतौर पर "A") चुना, भले ही विकल्प पूरी तरह से बदले गए हों।
रोबोट मूर्ख नहीं था; वह बस "अटका" हुआ था। उसने इंटरफ़ेस खो दिया था—वह मानसिक पुल जो उसके ज्ञान को उन विशिष्ट लेबल (A, B, C, D) से जोड़ता है जिन्हें उसे आउटपुट करने की आवश्यकता होती है। वह जानता था कि उत्तर पेरिस है, लेकिन वह यह नहीं समझ पा रहा था कि "पेरिस" कहने के लिए कौन सा बटन दबाना है। यह एक ऐसे व्यक्ति की तरह था जो पहेली का उत्तर जानता है लेकिन केवल एक विशिष्ट, टूटे हुए कोड में बोल सकता है जो हमेशा एक ही शब्द से शुरू होता है।
समाधान: फॉर्मेट को फिर से सिखाना
टीम को एहसास हुआ कि रोबोट को लंबे पैराग्राफ के टेक्स्ट पर प्रशिक्षित किया गया था, लेकिन कभी भी "प्रश्न -> विकल्प -> उत्तर" के विशिष्ट फॉर्मेट पर नहीं। उसे बहुविकल्पीय प्रश्नों का खेल खेलना नहीं आता था।
इसे ठीक करने के लिए, उन्होंने एक छोटा, लक्षित प्रशिक्षण सत्र चलाया। उन्होंने उसे नए तथ्य नहीं सिखाए; उन्होंने बस उसे बहुविकल्पीय प्रश्नों के फॉर्मेट के हजारों उदाहरण दिखाए, विशेष रूप से उसे विकल्पों को देखना और सही विकल्प चुनना सिखाया। उन्होंने "कम्प्लीशन-ओनली KL" (completion-only KL) नामक एक तकनीक का उपयोग किया, जो एक फैंसी तरीका है यह कहने का कि, "प्रश्न वाले हिस्से की चिंता न करें, बस उत्तर को सही ढंग से पूरा करना सीखें।"
परिणाम एक नाटकीय सुधार था:
- एक मानक टेस्ट (C-Eval) पर रोबोट का स्कोर 28.8% से बढ़कर 41.3% हो गया।
- "A की लत" आधी हो गई (81% से गिरकर 58% हो गई)।
- रोबोट गलत विकल्पों की तुलना में सही विकल्प अधिक बार चुनने लगा।
रोबोट अब केवल अंदाज़ा नहीं लगा रहा था; उसने अपने ज्ञान को उत्तर लेबल के साथ मैप करना फिर से सीख लिया था।
अंतिम स्पर्श: उसे व्यक्तित्व देना
एक बार जब रोबोट प्रश्नों का सही उत्तर देने में सक्षम हो गया, तो टीम ने उसे एक व्यक्तित्व देना चाहा। वे चाहते थे कि वह "किंगयी" (Qingyi) नामक एक विशिष्ट डिजिटल असिस्टेंट की तरह व्यवहार करे। उन्होंने यह रोबोट को इस व्यक्तित्व की शैली में चैट करने और प्रश्न पूछने का अभ्यास कराकर किया।
आश्चर्यजनक रूप से, इसने रोबोट को फिर से खराब नहीं किया। आमतौर पर, रोबोट को नया व्यक्तित्व सिखाने से वह अपने पुराने कौशल भूल जाता है (जिसे "कैटास्ट्रॉफिक फॉरगेटिंग" कहा जाता है), लेकिन क्योंकि रोबोट का मस्तिष्क पहले से ही ठीक और स्थिर था, उसने अपने प्रश्न पूछने की क्षमता खोए बिना नया व्यक्तित्व सीख लिया। अंततः इसका स्कोर 41.83% रहा, जो इसके मरम्मत के बाद के स्कोर के बहुत करीब था, जिससे साबित हुआ कि आप रोबोट के मस्तिष्क को तोड़े बिना उसे व्यक्तित्व दे सकते हैं।
हमने क्या सीखा (और क्या नहीं)
शोध पत्र उन सभी के लिए कुछ महत्वपूर्ण सबक के साथ समाप्त होता है जो इन कुशल AI मॉडल बनाने की कोशिश कर रहे हैं:
- मानक परीक्षणों पर भरोसा न करें: सिर्फ इसलिए कि एक रोबोट कागज़ पर स्वस्थ दिखता है (कम परप्लेक्सिटी), इसका मतलब यह नहीं है कि वह वास्तव में काम कर सकता है। आपको यह परीक्षण करना होगा कि क्या वह निर्देशों का पालन कर सकता है, न कि केवल शब्दों की भविष्यवाणी कर सकता है।
- "A" की समस्या वास्तविक है: जब आप एक AI के सोचने के तरीके को बदलते हैं, तो वह हमेशा पहले विकल्प को चुनने जैसी सरल आदतों में फंस सकता है। यह एक "इंटरफ़ेस इंजरी" है, न कि ज्ञान की हानि।
- छोटे कंप्यूटर बड़े काम कर सकते हैं: आप एक सिंगल कंज्यूमर-ग्रेड GPU पर इस तरह की जटिल सर्जरी कर सकते हैं, लेकिन आपको सावधान रहना होगा। शोधकर्ता को एक छिपा हुआ बग मिला जहाँ कंप्यूटर का गणित (जिसे
bf16प्रारूप कहा जाता है) चुपचाप छोटे अपडेट को निगल रहा था, जिससे रोबोट को लग रहा था कि वह सीख रहा है जबकि वास्तव में वह स्थिर था। उन्हें इसे ठीक करने के लिए एक अलग गणित प्रारूप (FP32) पर स्विच करना पड़ा।
शोधकर्ता ने अपना सारा कोड, वेट्स और "एक्सीडेंट रिपोर्ट" (कि क्या गलत हुआ) जारी कर दी है, ताकि अन्य लोग उनकी गलतियों से सीख सकें। उन्होंने सब कुछ हल नहीं किया है—उनके छोटे रोबोट और बड़े टीचर मॉडल के बीच अभी भी एक अंतर है—लेकिन उन्होंने साबित कर दिया है कि सही डायग्नोसिस और थोड़े से फॉर्मेट ट्रेनिंग के साथ, आप एक AI के मस्तिष्क के टूटे हुए हिस्सों को ठीक कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।