A Defense of the Quadratic Model
यह शोध पत्र यह प्रदर्शित करता है कि जब मध्यवर्ती चेकपॉइंट्स पर टेलर विस्तार (Taylor expansion) के माध्यम से सरल द्विघात मॉडल (quadratic model) को लागू किया जाता है, तो यह आश्चर्यजनक रूप से बड़े भाषा मॉडलों (large language models) में अनुकूलन गतिकी (optimization dynamics) की सटीक भविष्यवाणी कर सकता है, जो संरचित हेसियन स्पेक्ट्रा (Hessian spectra) को प्रकट करता है और पुष्टि करता है कि प्रशिक्षण आमतौर पर बैच आकार पर निर्भर स्थिरता के स्टोकेस्टिक किनारे (stochastic edge of stability) पर होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप रात के समय एक विशाल, धुंधले पहाड़ी क्षेत्र में रास्ता खोजने की कोशिश कर रहे हैं। यह पहाड़ एक विशाल आर्टिफिशियल इंटेलिजेंस (AI) का "लॉस लैंडस्केप" (loss landscape) है, एक जटिल भूभाग जहाँ AI द्वारा उठाया गया हर कदम अपनी गलतियों को कम करने (बेहतर प्रदर्शन पाने) का एक प्रयास है। समस्या यह है कि पहाड़ इतना विशाल और घुमावदार है कि कोई भी पूरा नक्शा एक साथ नहीं देख सकता। वर्षों से, वैज्ञानिक सरल, सपाट मानचित्रों या आदर्श मॉडलों का उपयोग करके यह अनुमान लगाने की कोशिश करते रहे हैं कि AI कैसे आगे बढ़ता है। कभी-कभी ये नक्शे काम करते हैं, लेकिन अक्सर वे या तो बहुत सरल होते हैं जो उपयोगी नहीं होते, या इतने जटिल होते हैं कि उनकी गणना करना कठिन होता है। बड़ा सवाल यह है: क्या हम एक सरल, सपाट नक्शे का उपयोग करके इस अराजक पहाड़ के माध्यम से AI की यात्रा का पूर्वानुमान लगा सकते हैं?
इसे समझने के लिए, आपको कुछ बातें जाननी होंगी। पहला, AI मॉडल "ऑप्टिमाइज़िंग" (optimizing) के माध्यम से सीखते हैं, जिसका अर्थ है अपनी गलतियों को कम करने के लिए छोटे कदम उठाना। दूसरा, "हेसियन" (Hessian) एक गणितीय तरीका है जो यह बताता है कि किसी विशिष्ट स्थान पर जमीन कितनी ढालू या घुमावदार है। यदि आप वक्र (curve) को जानते हैं, तो आप अनुमान लगा सकते हैं कि क्या एक कदम आपको घाटी में ले जाएगा या किसी ढलान की ओर। अंत में, "एज ऑफ स्टेबिलिटी" (edge of stability) की एक अवधारणा है, जो बिल्कुल एक चट्टान के किनारे पर चलने जैसा है जहाँ जमीन इतनी ढालू है कि एक गलत कदम आपको नीचे गिरा सकता है, फिर भी AI बिना गिरे चलना जारी रखता है। यह शोध पत्र पूछता है कि क्या सबसे सरल संभव नक्शा—एक सपाट, क्वाड्रेटिक (bowl-shaped/कटोरे के आकार का) सन्निकटन—वास्तव में एक विशाल AI के व्यवहार की भविष्यवाणी कर सकता है।
इस लेख के लेखकों ने इस सरल "क्वाड्रेटिक मॉडल" का परीक्षण 150 मिलियन पैरामीटर्स वाले एक लार्ज लैंग्वेज मॉडल (LLM) पर किया, जिसे 3 बिलियन शब्दों पर प्रशिक्षित किया गया था। वे यह देखना चाहते थे कि पूरे पागलपन भरे पहाड़ को समझने के बजाय, क्या वे केवल उस स्थान के आसपास के एक छोटे, सपाट हिस्से को देख सकते हैं जहाँ AI वर्तमान में स्थित है, और अगले कुछ कदमों की भविष्यवाणी कर सकते हैं।
उन्होंने कुछ आश्चर्यजनक रूप से शानदार पाया: सरल कटोरे के आकार का नक्शा काम करता है! जब उन्होंने प्रशिक्षण के हर 10% के पड़ाव पर रुककर, उस सटीक स्थान पर एक सपाट, क्वाड्रेटिक संस्करण बनाया, तो यह सरल मॉडल अगले 10% प्रशिक्षण के लिए AI के व्यवहार की सटीक भविष्यवाणी कर सका। यह ऐसा है जैसे, भले ही पहाड़ एक ऊबड़-खाबड़ ढेर है, AI अपना अधिकांश समय विशिष्ट "कटोरे के आकार" वाली घाटियों में बिताता है, इसलिए एक साधारण कटोरे का नक्शा ही यह बताने के लिए पर्याप्त है कि वह आगे कहाँ जाएगा। यह भविष्यवाणी प्रशिक्षण की शुरुआत की तुलना में अंत के करीब और भी बेहतर थी।
एक बार जब उन्होंने सिद्ध कर दिया कि सरल नक्शा काम करता है, तो उन्होंने AI की सीखने की प्रक्रिया के भीतर झाँकने के लिए इसका उपयोग किया। उन्होंने "हेसियन स्पेक्ट्रम" (Hessian spectrum) को देखा, जो वास्तव में सभी अलग-अलग ढलानों और वक्रों की एक सूची की तरह है। उन्होंने पाया कि यह सूची यादृच्छिक (random) नहीं है; इसकी एक बहुत ही विशिष्ट संरचना है। सूची का ऊपरी हिस्सा उस हिस्से द्वारा नियंत्रित होता है जो शब्दावली (unembedding layer) को संभालता है, जबकि लंबी, खिंचती हुई पूंछ एक सार्वभौमिक "पावर लॉ" (power law) का पालन करती है। इसका अर्थ है कि पूंछ का आकार एक जैसा रहता है चाहे AI डेटा के छोटे बैच का उपयोग कर रहा हो या बड़े बैच का, और इसे उन विशेष तरीकों (preconditioners) से कोई फर्क नहीं पड़ता जो ऑप्टिमाइज़र गति बढ़ाने के लिए उपयोग करता है। यह अराजकता के बीच छिपा एक सार्वभौमिक पैटर्न है।
अंत में, उन्होंने "एज ऑफ स्टेबिलिटी" की जांच की। वे यह जानना चाहते थे कि क्या AI घाटी के बीच में सावधानी से चल रहा है या वह एक चट्टान के किनारे पर नृत्य कर रहा है। लर्निंग रेट और बैच साइज (डेटा के टुकड़ों का आकार) में बदलाव करके, उन्होंने पाया कि AI वास्तव में किनारे पर ही नृत्य कर रहा है। जब AI छोटे बैचों का उपयोग करता है, तो वह "स्टोकेस्टिक एज ऑफ स्टेबिलिटी" (stochastic edge of stability) पर नाचता है, जिसका अर्थ है कि वह डेटा के यादृच्छिक शोर के कारण डगमगा रहा है। जब वह बड़े बैचों का उपयोग करता है, तो वह "डिटरमिनिस्टिक एज" (deterministic edge) पर डगमगाता है, जहाँ अस्थिरता चरणों के गणित के कारण होती है। दोनों ही मामलों में, AI स्थिरता की सीमा पर काम कर रहा है, जो यह सुझाव देता है कि यह अनिश्चित संतुलन ही इन मॉडलों के सीखने का सबसे अच्छा तरीका है।
लेख यह निष्कर्ष निकालता है कि हालांकि AI की दुनिया अविश्वसनीय रूप से जटिल है, हम इसे सरल, स्थानीय क्वाड्रेटिक समस्याओं के एक क्रम के रूप में मानकर समझ सकते हैं। पूरे पहाड़ के लिए एक एकल, असंभव सिद्धांत की आवश्यकता के बजाय, हम बस उस स्थानीय कटोरे को देख सकते हैं जिसमें AI खड़ा है। यह सरल मॉडल केवल एक खिलौना नहीं है; यह एक आश्चर्यजनक रूप से सटीक प्रतिनिधि है कि वास्तविक दुनिया में AI प्रीट्रेनिंग वास्तव में कैसे काम करती है, जो हमें इन विशाल प्रणालियों को समझने और सुधारने का एक नया, सुलभ तरीका प्रदान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।