🤖 machine learning

M+Adam: Low-Precision Training via Additive-Multiplicative Optimization

यह शोध पत्र M+Adam का प्रस्ताव करता है, जो एक नवीन ऑप्टिमाइज़र है जो लो-प्रिसिजन ट्रेनिंग की पूरक विफलता मोड (complementary failure modes) को दूर करने के लिए योगात्मक (additive) और गुणात्मक (multiplicative) अपडेट को संयोजित करता है, जिससे केवल BF16, FP8, और FP4 मास्टर वेट्स का उपयोग करके LLaMA-शैली के मॉडलों का स्थिर और सटीक प्रशिक्षण सक्षम होता है।

मूल लेखक: Xiaoyuan Liang, Sebastian Loeschcke, Mads Toftrup, Anima Anandkumar

प्रकाशित 2026-07-14

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xiaoyuan Liang, Sebastian Loeschcke, Mads Toftrup, Anima Anandkumar

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल, अति-बुद्धिमान रोबोट (एक लार्ज लैंग्वेज मॉडल) को इंसान की तरह लिखना सिखाने की कोशिश कर रहे हैं। ऐसा करने के लिए, आपको रोबोट के मस्तिष्क के लाखों सूक्ष्म डायल (dials) को एडजस्ट करना होगा। आमतौर पर, इन डायलों को अत्यधिक सटीकता के साथ एडजस्ट किया जाता है, जैसे कि एक पेंच को घुमाने के लिए सूक्ष्मदर्शी (microscope) का उपयोग करना। लेकिन सूक्ष्मदर्शी भारी, धीमे और महंगे होते हैं।

यह शोध पत्र पूछता है: क्या होगा अगर हम एक सस्ते, हल्के रिंच (wrench) का उपयोग करें?

यह लो-प्रिसिजन ट्रेनिंग (low-precision training) की दुनिया है। उच्च-सटीक "मास्टर वेट्स" (रोबोट की डायल एडजस्ट करने की याददाश्त) के बजाय, शोधकर्ता उन्हें BF16, FP8, या यहाँ तक कि FP4 जैसे छोटे और मोटे फॉर्मेट में स्टोर करने की कोशिश करते हैं। यह एक पहाड़ की ऊँचाई को ऐसे पैमाने (ruler) से मापने जैसा है जिसमें निशान हर 10 फीट पर ही होते हैं।

समस्या: "राउंडिंग" का जाल (The "Rounding" Trap)

लेखकों ने पाया कि जब आप इन मोटे पैमानों का उपयोग करते हैं, तो मानक प्रशिक्षण विधियाँ (जिन्हें Adam कहा जाता है) एक दीवार से टकरा जाती हैं। यहाँ कारण दिए गए हैं:

बड़ा पहाड़ वाली समस्या (The Big Mountain Problem): जब एक डायल को बहुत बड़ी संख्या पर सेट किया जाता है, तो "पैमाने" के निशान बहुत दूर-दूर हो जाते हैं। यदि रोबोट को डायल को बहुत मामूली मात्रा में हिलाने की आवश्यकता है, तो पैमाना उस सूक्ष्म बदलाव को देख नहीं पाता। वह छोटा सा बदलाव राउंड होकर शून्य (zero) हो जाता है, और रोबोट सोचता है, "मैंने कुछ भी नहीं बदला!" रोबोट वहीं फंस जाता है, और पहाड़ चढ़ने में असमर्थ हो जाता है।
शून्य घाटी वाली समस्या (The Zero Valley Problem): अन्य विधियों ने इसे ठीक करने के लिए मल्टीप्लिकेटिव अपडेट्स (जैसे Madam) का उपयोग करने की कोशिश की। इसमें डायल में कुछ जोड़ने के बजाय, उसे एक कारक (factor) से गुणा किया जाता है। यह बड़े पहाड़ों के लिए बहुत अच्छा काम करता है क्योंकि कदम का आकार डायल के साथ बढ़ता है। हालाँकि, यदि कोई डायल बिल्कुल शून्य (zero) पर अटका हुआ है, तो आप उसे गुणा करके आगे नहीं बढ़ा सकते। यह एक ऐसी कार को धक्का देने जैसा है जिसके पहिए ही नहीं हैं; शून्य को किसी भी संख्या से गुणा करने पर शून्य ही रहता है। इसके अलावा, यदि डायल को पॉजिटिव से नेगेटिव में बदलना है (शून्य को पार करना है), तो ये विधियाँ भ्रमित हो जाती हैं और यह बदलाव नहीं कर पातीं।

समाधान: M+Adam (दो औजारों वाला किट)

शोध पत्र M+Adam पेश करता है, जो एक नया ऑप्टिमाइज़र है जो एक चतुर मैकेनिक की तरह काम करता है जिसके पास एक साथ दो अलग-अलग औजार हैं। यह "पूरक विफलता मोड" (complementary failure modes) को ठीक करने के लिए दोनों दुनियाओं की सर्वश्रेष्ठ चीजों को जोड़ता है।

औजार 1: एडिटिव रिंच (Additive Wrench - Adam-शैली)। यह औजार छोटे, सटीक समायोजन के लिए बेहतरीन है। यह एक डायल को शून्य से हिला सकता है, पॉजिटिव से नेगेटिव का साइन बदल सकता है, और घाटी के निचले हिस्से के पास सूक्ष्म हलचल कर सकता है।
औजार 2: मल्टीप्लिकेटिव लीवर (Multiplicative Lever - Madam-शैली)। यह औजार बड़े, भारी कामों के लिए बेहतरीन है। जब डायल बहुत बड़ा होता है और एडिटिव रिंच "राउंड ऑफ" होकर बेकार हो जाता है, तो मल्टीप्लिकेटिव लीवर काम संभाल लेता है। यह डायल को ऊपर या नीचे स्केल करता है, जिससे यह सुनिश्चित होता है कि रोबोट प्रगति करता रहे, भले ही वह सबसे ऊंचे पहाड़ों पर ही क्यों न हो।

M+Adam दोनों औजारों का एक साथ उपयोग करता है। यदि एडिटिव टूल राउंडिंग के कारण फंस जाता है, तो मल्टीप्लिकेटिव टूल रोबोट को चलते रहने में मदद करता है। यदि मल्टीप्लिकेटिव टूल शून्य से बाहर निकलने में असमर्थ है, तो एडिटिव टूल उसे बाहर धकेलता है।

प्रमाण: क्या यह काम आया?

लेखकों ने केवल अनुमान नहीं लगाया; उन्होंने इसे एक विशाल स्तर पर परखा।

परीक्षण: उन्होंने 60 मिलियन से लेकर 1 बिलियन पैरामीटर्स वाले "LLaMA-शैली" के भाषा मॉडलों को प्रशिक्षित किया।
बजट: उन्होंने 1x से 8x तक के "चिंचा (Chinchilla)" बजट (डेटा की मात्रा मापने का एक मानक) का उपयोग किया।
सटीकता (Precision): उन्होंने BF16, FP8, और NVFP4 मास्टर वेट्स के साथ परीक्षण किया।

परिणाम:
प्रत्येक परीक्षण में, M+Adam ने मानक Adam ऑप्टिमाइज़र को लगातार पछाड़ दिया।

सबसे चरम लो-प्रिसिजन सेटिंग (NVFP4) में, M+Adam ने 350M मॉडल के लिए Adam की तुलना में "परप्लेक्सिटी" (मॉडल कितना भ्रमित है, इसका एक माप) को 16.6% कम कर दिया।
1 बिलियन पैरामीटर्स के साथ भी, M+Adam ने सभी प्रिसिजन रिजीम में Adam की तुलना में स्पष्ट सुधार दिखाया।

यह शोध पत्र गणितीय रूप से सिद्ध करता है कि यह संयुक्त दृष्टिकोण गारंटी देता है कि प्रशिक्षण लॉस (training loss) कम होगा (एक "मोनोटोन डिसेंट"), जिसका अर्थ है कि रोबोट हमेशा सीख रहा है और कभी भी एक लूप में नहीं फँसेगा।

यह क्या नहीं है

यह जानना महत्वपूर्ण है कि यह शोध पत्र क्या दावा नहीं करता है:

यह यह दावा नहीं करता कि M+Adam एक जादुई समाधान है जो सभी मेमोरी लागतों को समाप्त कर देता है। वास्तव में, पेपर नोट करता है कि M+Adam थोड़ा अतिरिक्त मेमोरी (मल्टीप्लिकेटिव टूल के लिए एक अतिरिक्त "स्टेट") जोड़ता है, हालांकि वे दिखाते हैं कि इसे बाद में कंप्रेस किया जा सकता है।
यह यह दावा नहीं करता कि स्टोकेस्टिक राउंडिंग (राउंडिंग त्रुटियों को ठीक करने की एक तकनीक) जैसी मानक विधियाँ बेकार हैं। उन्होंने स्टोकेस्टिक राउंडिंग के साथ Adam का परीक्षण किया, और फिर भी M+Adam बेहतर प्रदर्शन करता रहा।
यह यह सुझाव नहीं देता कि हमें पूरी तरह से हाई-प्रिसिजन हार्डवेयर का उपयोग बंद कर देना चाहिए। इसके बजाय, यह दिखाता है कि यदि हमें लो-प्रिसिजन स्टोरेज का उपयोग करना ही है, तो M+Adam सही तरीका है।

निष्कर्ष

शोध पत्र सुझाव देता है कि जब आप विशाल AI मॉडल को प्रशिक्षित करने के लिए "कोर्स" (coarse) पैमाने (लो-प्रिसिजन वेट्स) का उपयोग करने के लिए मजबूर होते हैं, तो आप केवल एक प्रकार के मूवमेंट पर भरोसा नहीं कर सकते। आपको एक हाइब्रिड दृष्टिकोण की आवश्यकता होती है। M+Adam वही हाइब्रिड है, जो यह सुनिश्चित करने के लिए एडिटिव और मल्टीप्लिकेटिव दोनों स्टेप्स का उपयोग करता है कि रोबोट कभी न फंसे, चाहे वह एक विशाल पहाड़ चढ़ रहा हो या शून्य-घाटी से बाहर निकल रहा हो। यह उस भारी, महंगी हाई-प्रिसिजन मेमोरी की आवश्यकता के बिना विशाल AI मॉडल को कुशलतापूर्वक प्रशिक्षित करने की दिशा में एक सिद्धांत आधारित कदम है जिस पर हम आमतौर पर भरोसा करते हैं।

तकनीकी सारांश: M+Adam – एडिटिव-मल्टीप्लिकेटिव ऑप्टिमाइज़ेशन के माध्यम से लो-प्रिसिजन ट्रेनिंग

समस्या विवरण

फुल प्रिसिजन (FP32) में लार्ज लैंग्वेज मॉडल्स (LLMs) को ट्रेन करने में महत्वपूर्ण मेमोरी, कंप्यूट और ऊर्जा लागत आती है। जबकि आधुनिक एक्सेलेरेटर्स BF16, FP8 और FP4 जैसे रिड्यूस्ड-प्रिसिजन फॉर्मेट का समर्थन करते हैं, मानक ट्रेनिंग पाइपलाइन्स आमतौर पर स्थिरता सुनिश्चित करने के लिए हाई-प्रिसिजन "मास्टर वेट्स" को बनाए रखती हैं। लो-प्रिसिजन मास्टर वेट्स के साथ सीधे ट्रेनिंग करने से अक्सर सटीकता में गिरावट और अस्थिरता आती है।

लेखक लो-प्रिसिजन ऑप्टिमाइज़ेशन में एक विशिष्ट विफलता मोड की पहचान करते हैं: बड़े वेट मैग्नीट्यूड पर मोटा क्वांटिज़ेशन रेजोल्यूशन (coarse quantization resolution)। फ्लोटिंग-पॉइंट सिस्टम में, संख्या के परिमाण (magnitude) के साथ प्रतिनिधि मानों (quantization bins) के बीच की दूरी बढ़ जाती है। फलस्वरूप, मानक एडिटिव ऑप्टिमाइज़र्स (जैसे Adam) अक्सर तब प्रगति करने में विफल रहते हैं जब वेट मैग्नीट्यूड बड़े होते हैं, क्योंकि गणना किए गए अपडेट स्टेप्स स्थानीय क्वांटिज़ेशन स्टेप से नीचे गिर जाते हैं और शून्य तक राउंड हो जाते हैं। इसके विपरीत, शुद्ध मल्टीप्लिकेटिव ऑप्टिमाइज़र्स (जैसे Madam), जो अपने वर्तमान मैग्नीट्यूड के सापेक्ष वेट को स्केल करते हैं, शून्य के पास या साइन बदलने की आवश्यकता होने पर विफल हो जाते हैं, क्योंकि वे सटीक शून्य इनिशियलाइजेशन से बाहर नहीं निकल पाते या साइन को प्रभावी ढंग से नहीं बदल पाते।

कार्यप्रणाली: M+Adam

पेपर M+Adam का प्रस्ताव करता है, जो एक नया ऑप्टिमाइज़र है जो लो-प्रिसिजन अंकगणित की सीमाओं को दूर करने के लिए एडिटिव और मल्टीप्लिकेटिव अपडेट मैकेनिज्म की पूरक शक्तियों को जोड़ता है।

मुख्य तंत्र (Core Mechanism)

M+Adam दो समानांतर अपडेट शाखाओं को बनाए रखता है जिन्हें प्रत्येक स्टेप पर संयोजित किया जाता है:

एडिटिव ब्रांच (Adam-शैली): यह सीधे वेट स्पेस पर कार्य करती है। यह अपडेट $u^{(a)}$ उत्पन्न करने के लिए ग्रेडिएंट ( $g$ ) के मानक फर्स्ट और सेकंड मोमेंट्स की गणना करती है। यह शाखा छोटे मैग्नीट्यूड को संभालने, शून्य इनिशियलाइजेशन से बाहर निकलने और साइन बदलने की सुविधा प्रदान करने में प्रभावी है।
मल्टीप्लिकेटिव ब्रांच (Madam-शैली): यह लॉगरिदमिक स्केल (एक्सपोनेंट स्पेस) पर कार्य करती है। यह एक्सपोनेंट के सापेक्ष ग्रेडिएंट, $g^{(e)} = (\ln 2) w_t g$ , की गणना करती है और एक रिलेटिव मल्टीप्लिकेटिव अपडेट $u^{(m)}$ उत्पन्न करने के लिए एडेप्टिव मोमेंट्स का उपयोग करती है। यह शाखा बड़े मैग्नीट्यूड पर प्रगति सुनिश्चित करती है जहाँ एडिटिव अपडेट्स राउंड होकर शून्य हो जाते।

वेट अपडेट नियम को इस प्रकार परिभाषित किया गया है:
$w_{t+1} = w_t + w_t u^{(m)}_t + u^{(a)}_t$
यह संरचना ऑप्टिमाइज़र को बड़े मैग्नीट्यूड होने पर स्केल-अवेयर रिलेटिव अपडेट करने की अनुमति देती है (मल्टीप्लिकेटिव टर्म के माध्यम से), जबकि साइन बदलने और ज़ीरो-नियर वैल्यूज को अपडेट करने की लचीलापन (एडिटिव टर्म के माध्यम से) भी बनाए रखती है।

सैद्धांतिक विश्लेषण

लेखक मानक स्मूथनेस धारणाओं के तहत M+Adam के लिए एक सैद्धांतिक गारंटी प्रदान करते हैं। वे अपडेट को लोकल कोऑर्डिनेट्स में एक "स्केल-देन-ऐड" ऑपरेशन के रूप में मॉडल करते हैं। थ्योरम 4.1 स्थापित करता है कि यदि लर्निंग रेट्स और स्मूथनेस कांस्टेंट्स विशिष्ट शर्तों को पूरा करते हैं, तो यह विधि मॉनोटोन डिसेंट ( $L(w_{t+1}) < L(w_t)$ ) सुनिश्चित करती है, जब तक कि ग्रेडिएंट शून्य न हो। यह सिद्ध करता है कि संयुक्त ज्योमेट्री एक वैध ऑप्टिमाइज़ेशन रणनीति है।

कार्यान्वयन विवरण

प्रिसिजन सपोर्ट: यह विधि BF16, FP8, और NVFP4 मास्टर वेट स्टोरेज के लिए डिज़ाइन की गई है।
स्टेट मैनेजमेंट: M+Adam एक अतिरिक्त ऑप्टिमाइज़र स्टेट (मल्टीप्लिकेटिव ब्रांच के लिए सेकंड-मोमेंट एक्युमुलेटर) पेश करता है। लेखक प्रदर्शित करते हैं कि इस स्टेट को मेमोरी ओवरहेड को कम करने के लिए लो-रैंक एप्रोक्सिमेशन (विशेष रूप से Apollo-E, एक रैंक-4 एप्रोक्सिमेशन) का उपयोग करके कंप्रेस किया जा सकता है, जिससे इसका फुटप्रिंट स्टैंडर्ड BF16-स्टेट AdamW के करीब रहता है।
नो स्टोकेस्टिक राउंडिंग: पिछले दृष्टिकोणों के विपरीत, M+Adam बिना स्टोकेस्टिक राउंडिंग (SR) या काहान-स्टाइल कॉम्पेंसेटेड एक्यूमुलेशन की आवश्यकता के बिना स्थिरता प्राप्त करता है, हालांकि यह उनके साथ संगत है।

मुख्य योगदान

पूरक विफलता मोडों की पहचान: पेपर औपचारिक रूप से एडिटिव ऑप्टिमाइज़र्स (बड़े मैग्नीट्यूड पर राउंडिंग के कारण रुक जाना) और मल्टीप्लिकेटिव ऑप्टिमाइज़र्स (शून्य पर रुकना और साइन बदलने में असमर्थता) की विफलता मोडों को स्पष्ट करता है, जो दिखाते हैं कि वे एक-दूसरे के पूरक हैं।
M+Adam एल्गोरिदम: एक नया ऑप्टिमाइज़र जो इन दोनों ज्योमेट्री को एकीकृत करता है, जो FP32 मास्टर वेट्स के बिना लो-प्रिसिजन ट्रेनिंग के लिए एक सिद्धांत आधारित दृष्टिकोण प्रदान करता है।
सैद्धांतिक डिसेंट गारंटी: मानक स्मूथनेस धारणाओं के तहत संयुक्त एडिटिव-मल्टीप्लिकेटिव अपडेट नियम के लिए मॉनोटोन डिसेंट का प्रमाण।
स्केल पर अनुभवजन्य सत्यापन: 1–8× चिंचिला (Chinchilla) ट्रेनिंग बजट के तहत 60M से 1B पैरामीटर्स तक के LLaMA-शैली के मॉडल्स पर व्यापक प्रयोग।

प्रयोगात्मक परिणाम

लेखकों ने विभिन्न प्रिसिजन रिजीम्स में M+Adam का मूल्यांकन किया: BF16/BF16, BF16/FP8, FP8/FP8, और NVFP4/FP8।

निरंतर सुधार: M+Adam ने सभी मॉडल साइज और प्रिसिजन रिजीम्स में ट्यून्ड AdamW बेसलाइन्स को लगातार पछाड़ दिया।
परप्लेक्सिटी में कमी: सबसे आक्रामक लो-प्रिसिजन सेटिंग (NVFP4/FP8) में, M+Adam ने AdamW की तुलना में महत्वपूर्ण मार्जिन से परप्लेक्सिटी कम की (उदाहरण के लिए, 350M मॉडल के लिए 16.6% सुधार)। यहाँ तक कि BF16/BF16 ट्रेनिंग में भी, मॉडल के आकार के आधार पर M+Adam ने 2.8% से 13.3% तक परप्लेक्सिटी कम की।
मजबूती (Robustness): यह विधि बिना स्टोकेस्टिक राउंडिंग के स्थिर रही। इसने AdamW+SR (स्टोकेस्टिक राउंडिंग) और काहान कंपन (Kahan compensation) के साथ AdamW को भी पीछे छोड़ दिया।
स्केलिंग: प्रदर्शन में सुधार बढ़ते हुए ट्रेनिंग बजट (8× चिंचिला तक) और 1B पैरामीटर्स तक मॉडल साइज बढ़ने के साथ भी बना रहा।
मेमोरी दक्षता: Apollo-E कंप्रेशन तकनीक का उपयोग करके, मल्टीप्लिकेटिव ब्रांच के लिए आवश्यक अतिरिक्त मेमोरी स्टेट को कम कर दिया गया, जिसके परिणामस्वरूप ऑप्टिमाइज़र स्टेट फुटप्रिंट स्टैंडर्ड BF16 AdamW से केवल थोड़ा अधिक रहा, जबकि अधिकांश परप्लेक्सिटी लाभ बरकरार रहे।

महत्व और दावे

पेपर का दावा है कि संयुक्त एडिटिव-मल्टीप्लिकेटिव अपडेट्स विशेष रूप से तब उपयोगी होते हैं जब लो-प्रिसिजन मास्टर वेट्स ऑप्टिमाइज़ेशन एरर का प्रमुख स्रोत बन जाते हैं।

इस कार्य का महत्व लो-प्रिसिजन ट्रेनिंग की संख्यात्मक अस्थिरता के लिए एक सिद्धांत आधारित समाधान प्रदान करने में निहित है। फ्लोटिंग-पॉइंट नंबरों की नॉन-यूनिफॉर्म संरचना के साथ अपने ऑप्टिमाइज़र के अपडेट ज्योमेट्री को संरेखित करके, M+Adam उन राउंडिंग एरर्स को कम करता है जो बड़े मैग्नीट्यूड पर मानक एडिटिव ऑप्टिमाइज़र्स को बाधित करते हैं, और मल्टीप्लिकेटिव ऑप्टिमाइज़र्स की शून्य के पास होने वाली जड़ता को भी दूर करता है।

लेखक निष्कर्ष निकालते हैं कि M+Adam एंड-टू-एंड लो-प्रिसिजन ट्रेनिंग की ओर एक कदम है जो FP32 मास्टर वेट्स पर निर्भर नहीं है। यह क्षमता आधुनिक AI हार्डवेयर (टेन्सर कोर्स) का लाभ उठाने के लिए महत्वपूर्ण है जो FP8 और FP4 के लिए अनुकूलित हैं, जिससे बड़े पैमाने पर मॉडल ट्रेनिंग के लिए मेमोरी ओवरहेड और ऊर्जा लागत को कम किया जा सकता है। यह कार्य सुझाव देता है कि भविष्य के ऑप्टिमाइज़र्स को केवल राउंडिंग तकनीकों द्वारा हल की जाने वाली क्वांटिज़ेशन समस्या के रूप में लो-प्रिसिजन को देखने के बजाय, फ्लोटिंग-पॉइंट रिप्रेजेंटेशन के विशिष्ट बाधाओं को ध्यान में रखते हुए डिज़ाइन किया जाना चाहिए।