🤖 machine learning

Non-asymptotic implicit bias of logistic regression at early-stage gradient descent dynamics

यह शोध पत्र एक गैर-अनंतस्पर्शी (non-asymptotic) सैद्धांतिक विश्लेषण प्रदान करता है जो यह प्रदर्शित करता है कि लॉजिस्टिक रिग्रेशन पर ग्रेडिएंट डिसेंट सीधे रेडियल और टेंगेंशियल प्रवाहों को ट्रैक करके $O(\exp(\exp(-\delta)))$ पुनरावृत्तियों (iterations) में मैक्स-मार्जिन दिशा के साथ कमजोर संरेखण प्राप्त करता है, जिससे धीमी अनंतस्पर्शी अभिसरण दरों पर निर्भर किए बिना प्रारंभिक-चरण के सामान्यीकरण घटना की व्याख्या होती है।

मूल लेखक: Han Bao

प्रकाशित 2026-08-06

📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Han Bao

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

धीमी चाल और तेज़ मोड़: AI कैसे सामान्यीकरण (Generalization) करना सीखता है

कल्पना कीजिए कि आप एक रोबोट को लाल और नीली कंचों (marbles) को छाँटना सिखा रहे हैं। आप उसे मिश्रित कंचों का एक ढेर देते हैं और उससे कहते हैं कि वह रेत में एक ऐसी रेखा खींचे जो लाल कंचों को नीले कंचों से अलग कर दे। यह मशीन लर्निंग की एक क्लासिक समस्या है जिसे "वर्गीकरण" (classification) कहा जाता है। लेकिन यहाँ एक मोड़ है: रोबोट को सिर्फ कोई भी रेखा नहीं चाहिए; उसे सबसे अच्छी रेखा चाहिए। गणित की दुनिया में, "सबसे अच्छी" रेखा वह होती है जो दोनों समूहों के बीच सबसे बड़ा संभव अंतर छोड़ती है। इस अंतर को "मार्जिन" (margin) कहा जाता है। एक बड़ा मार्जिन आमतौर पर इसका संकेत देता है कि रोबोट उन नए कंचों पर बेहतर काम करेगा जिन्हें उसने पहले कभी नहीं देखा है, जिसे "सामान्यीकरण" (generalization) की अवधारणा कहा जाता है।

इस सटीक रेखा को खोजने के लिए, रोबोट "ग्रेडिएंट डिसेंट" (gradient descent) नामक एक विधि का उपयोग करता है। इसे एक पहाड़ी परिदृश्य पर रोबोट द्वारा नीचे की ओर उठाए जाने वाले छोटे कदमों के रूप में सोचें, जहाँ पहाड़ी की ऊँचाई यह दर्शाती है कि वह कंचों को छाँटने में कितना बुरा प्रदर्शन कर रहा है। लक्ष्य घाटी के बिल्कुल निचले हिस्से तक पहुँचना है। लंबे समय तक, वैज्ञानिकों को पता था कि यदि रोबोट पर्याप्त समय तक चलता रहता है, तो वह अंततः उस सटीक, चौड़े-अंतराल वाली रेखा की दिशा में पहुँच जाएगा। हालाँकि, एक पेंच था: गणित कहता था कि यह "अंततः" होने में अविश्वसनीय रूप से लंबा समय लगेगा, जो इतना धीमा होगा कि ऐसा लगेगा जैसे रोबोट शीरे (molasses) में फँसा हुआ है। यह धीमी अभिसरण (convergence) एक रहस्य था क्योंकि, वास्तविक जीवन में, रोबोट अक्सर गणित की भविष्यवाणी की तुलना में बहुत तेज़ी से सही दिशा पा लेते हैं। यह शोध पत्र उसी रहस्य की गहराई में उतरता है, और पूछता है: "रोबoma वास्तव में अपनी यात्रा के शुरुआती चरणों में क्या कर रहा है, इससे पहले कि वह धीमी लेन में फँस जाए?"

शोध की खोज: धीमी रेंगने वाली चाल से पहले एक तेज़ मोड़

यह शोध पत्र, जिसका शीर्षक "Non-asymptotic implicit bias of logistic regression at early-stage gradient descent dynamics" है, ठीक उसी शुरुआती चरण की जांच करता है। लेखक, हान बाओ के नेतृत्व में, ने पाया कि जबकि रोबोट का अंतिम गंतव्य वास्तव में वह सटीक "मैक्स-मार्जिन" रेखा है, वहाँ तक की यात्रा दो बहुत ही अलग चरणों में होती है। उन्होंने पाया कि रोबोट केवल धीरे-धीरे सही दिशा की ओर नहीं बढ़ता; बल्कि वह सही दिशा के साथ काफी हद तक संरेखित होने के लिए बहुत जल्दी एक आश्चर्यजनक रूप से तेज़ मोड़ लेता है।

इसे समझने के लिए, कल्पना करें कि रोबोट की स्थिति दो चीजों का संयोजन है: उसने कितनी दूर तक यात्रा की है ("रेडियल" दूरी) और वह किस दिशा में इशारा कर रहा है ("टेंजेंशियल" दिशा)। शोध पत्र दिखाता है कि रोबकी जितनी दूरी तय करता है, वह एक घोंघे की तरह बहुत धीरे-धीरे बढ़ती है। हालाँकि, वह जिस दिशा में इशारा करता है, वह बहुत तेज़ी से बदलती है। लेखक ने सिद्ध किया कि एक बहुत ही कम समय के भीतर—विशेष रूप से, एक ऐसा समय जो त्रुटि (error) के एक "डबल एक्सपोनेंशियल" (doubly exponential) फलन के रूप में बढ़ता है जिसे रोबोट स्वीकार करने को तैयार है—रोबोट की दिशा सटीक रेखा के साथ "कमजोर रूप से संरेखित" (weakly aligned) हो जाती है।

"कमजोर रूप से संरेखित" का क्या अर्थ है? इसका मतलब यह नहीं है कि रोबोट ने तुरंत परफेक्ट रेखा पा ली है। इसके बजाय, इसका मतलब है कि रोबोट इतना मुड़ गया है कि वह सही पड़ोस की ओर इशारा कर रहा है। यदि सटीक रेखा उत्तर (North) है, तो रोबोट तुरंत उत्तर-उत्तर-पूर्व और उत्तर-उत्तर-पश्चिम के बीच कहीं इशारा करने के लिए मुड़ जाता है, बजाय इसके कि वह लाखों वर्षों तक उत्तर की ओर धीरे-धीरे बहता रहे। शोध पत्र सिद्ध करता है कि यह तेज़ मोड़ लगभग $O(\exp(\exp(-\delta)))$ के समय सीमा में होता है, जहाँ $\delta$ स्वीकार्य त्रुटि है। यह पहले से ज्ञात "एसिम्प्टोटिक" (asymptotic) गति की तुलना में एक बहुत बड़ा सुधार है, जो इतनी धीमी थी कि प्रारंभिक प्रशिक्षण को समझने के लिए व्यावहारिक रूप से बेकार थी।

लेखक यह भी स्पष्ट करते हैं कि यह परिणाम क्या नहीं है। वे यह दावा नहीं करते कि रोबोट तुरंत सटीक रेखा पा लेता है। वास्तव में, वे स्पष्ट रूप से तर्क देते हैं कि पूर्ण संरेखण प्राप्त करने में (जहाँ त्रुटि शून्य है) अभी भी बहुत लंबा समय लगता है, जो पुराने, धीमे गणितीय नियमों का पालन करता है। "तेज़ मोड़" केवल रोबोट को उस बिंदु तक पहुँचाता है जहाँ वह कुछ समय के लिए "पर्याप्त अच्छा" होता है, जो मशीन लर्निंग के इस सामान्य अवलोकन की व्याख्या करता है कि "लंबे समय तक प्रशिक्षण" अक्सर बेहतर परिणाम देता है, लेकिन दिशा में सबसे बड़े लाभ शुरुआत में ही होते हैं।

कार्यप्रणाली: खराब शुरुआत से बचना और ज्यामितीय धक्का

रोबोट इस तेज़ मोड़ को कैसे प्रबंधित करता है? शोध पत्र इस प्रक्रिया को दो चरणों में विभाजित करता है। पहला, एक "एस्केप स्टेज" (escape stage) है। यदि रोबोट एक बहुत ही खराब स्थिति में शुरू करता है (समाधान की विपरीत दिशा में इशारा करता है), तो उसे उस "खराब अर्धगोले" (bad hemisphere) से बाहर निकलने में एक छोटा, सीमित समय लगता है। एक बार जब वह इस शुरुआती गड़बड़ी से बाहर निकल जाता है, तो वह "कमजोर संरेखण चरण" (weak alignment stage) में प्रवेश करता है।

इस दूसरे चरण के दौरान, रोबोट को डेटा की अपनी ज्यामिति (geometry) द्वारा धकेला जाता है। लेखक डेटा बिंदुओं के "भारित औसत" (weighted average) का उपयोग करते हुए एक चतुर गणितीय युक्ति का उपयोग करते हैं। कल्पना करें कि रोबोट को कंचों से जुड़ी अदृश्य डोरियों द्वारा खींचा जा रहा है। इन डोरियों का भार इस बात से तय होता है कि रोबोट प्रत्येक कंचे के बारे में कितना भ्रमित है। शोध पत्र दिखाता है कि ये भारित डोरियाँ स्वाभाविक रूप से रोबोट की दिशा को सटीक रेखा की ओर खींचती हैं। भले ही रोबोट अभी भी घाटी के तल से दूर है, लेकिन वह जिस दिशा में देख रहा है, उसे उसके स्थान के बदलने की तुलना में बहुत तेज़ी से सुधारा जा रहा है।

शोध पत्र कठोरता से सिद्ध करता है कि यह संरेखण एक विशिष्ट समय सीमा के भीतर होता है जो इस बात पर निर्भर करता है कि हम कितनी त्रुटि सहने को तैयार हैं। यदि हम रोबोट के थोड़ा सा गलत होने से भी सहज हैं (एक बड़ा $\delta$ ), तो यह बहुत तेज़ी से संरेखित हो जाता है। यदि हम मांग करते हैं कि यह पूर्ण हो (एक बहुत छोटा $\delta$ ), तो आवश्यक समय नाटकीय रूप से बढ़ जाता है। लेखक यह भी दिखाते हैं कि यह गति सीमा "टाइट" (tight) है, जिसका अर्थ है कि आप खेल के नियम बदले बिना रोबोट को इससे तेज़ मुड़ने के लिए मजबूर नहीं कर सकते। वे यह भी पुष्टि करते हैं कि यह व्यवहार तब भी सत्य रहता है जब रोबोट निरंतर कदम (जैसे एक सुचारू प्रवाह) या असतत कदम (जैसे एक डिजिटल कंप्यूटर) ले रहा हो, जब तक कि कदम बहुत बड़े न हों।

यह क्यों महत्वपूर्ण है: "लंबे समय तक प्रशिक्षित करें" के रहस्य की व्याख्या

यह शोध उस घटना को समझाने में मदद करता है जिसे मशीन लर्निंग इंजीनियरों ने वर्षों से देखा है लेकिन गणित के साथ पूरी तरह से समझा नहीं सके: यह विचार कि "लंबे समय तक प्रशिक्षित करें, बेहतर सामान्यीकरण करें।" शोध पत्र सुझाव देता है कि लंबे समय तक प्रशिक्षण काम करने का कारण यह है कि रोबोट इस "कमजोर संरेखण" चरण में काफी समय बिताता है, जहाँ वह पहले से ही एक बहुत अच्छी दिशा में है, भले ही वह अभी तक पूर्ण गणितीय पूर्णता तक नहीं पहुँचा है।

लेखक इस बात पर जोर देते हैं कि यह "प्रारंभिक-चरण" का व्यवहार "विलंब-चरण" (late-stage) के व्यवहार से अलग है। विलंब चरण में, रोबोट केवल अपने स्थान को धीरे-धीरे परिष्कृत कर रहा होता है, और दिशा बहुत सुस्त गति से बदलती है। लेकिन प्रारंभिक चरण में, दिशा ही मुख्य आकर्षण है। इस प्रारंभिक चरण पर ध्यान केंद्रित करके, शोध पत्र यह समझने के लिए एक नया दृष्टिकोण प्रदान करता है कि लॉजिस्टिक रिग्रेशन जैसे सरल एल्गोरिदम वास्तव में इतने अच्छे क्यों काम करते हैं, भले ही सैद्धांतिक गणित बताता हो कि उन्हें बहुत धीमा होना चाहिए। वास्तव में, रोबोट को सही काम शुरू करने के लिए धीमे, एसिम्प्टोटिक अभिसरण की प्रतीक्षा करने की आवश्यकता नहीं है; वह समाधान का "सार" (gist) बहुत जल्दी समझ लेता है, और वह अक्सर गलत पैटर्न को याद करने (overfitting) से बचने के लिए पर्याप्त होता है।

संक्षेप में, शोध पत्र प्रकट करता है कि पूर्ण समाधान का मार्ग एक एकल, धीमी रेंगने वाली चाल नहीं है। यह सही अभिविन्यास प्राप्त करने के लिए एक तेज़, निर्णायक मोड़ है, जिसके बाद स्थिति को सूक्ष्म रूप से ठीक करने के लिए एक लंबी, धीमी चाल है। यह "तेज़ मोड़" वह गुप्त सूत्र है जो आधुनिक AI को प्रभावी ढंग से सीखने की अनुमति देता है, भले ही गणित कहता हो कि उसे घोंघे की गति से चलना चाहिए।

तकनीकी सारांश: प्रारंभिक-चरण ग्रेडिएंट डिसेंट डायनेमिक्स में लॉजिस्टिक रिग्रेशन का गैर-अनंतस्पर्शी (Non-asymptotic) इम्पलिसिट बायस

1. समस्या विवरण

यह शोध पत्र घातांकीय पूंछ वाले लॉस फंक्शन (विशेष रूप से एक्सपोनेंशियल और लॉजिस्टिक लॉस) वाले रैखिक क्लासिफायर को प्रशिक्षित करने में ग्रेडिएंट डिसेंट (GD) के इम्पलिसिट बायस (implicit bias) को संबोधित करता है। हालांकि यह एक सुस्थापित अनंतस्पर्शी परिणाम (Soudry et al., 2018) है कि GD मैक्स-मार्जिन दिशा ( $u^*$ ) की ओर अभिसरित (converge) होता है, लेकिन यह अभिसरण अत्यंत धीमा होता है, जो $e^{O(1/\log^2 t)}$ की दर से होता है।

मुख्य समस्या यह है कि यह अनंतस्पर्शी विश्लेषण उन प्रारंभिक-चरण डायनेमिक्स (early-stage dynamics) को पकड़ने में विफल रहता है जो अनुभवजन्य (empirically) रूप से देखे जाते हैं। व्यवहार में, पैरामीटर वेक्टर की दिशा अक्सर मैक्स-मार्जिन दिशा के साथ बहुत पहले ही काफी हद तक संरेखित (align) हो जाती है, जबकि रेडियल घटक (norm) धीरे-धीरे बढ़ता है। यह शोध पत्र इस प्रारंभिक-चरण के संरेखण को गैर-अनंतस्पर्शी रूप से, विशेष रूप से यह निर्धारित करने के लिए, लक्षणित करने का प्रयास करता है कि पैरामीटर दिशा $u(t) = w(t)/\|w(t)\|$ कितनी तेज़ी से $u^*$ के साथ "कमजोर संरेखण" (weak alignment) प्राप्त करती है।

2. कार्यप्रणाली

लेखक पैरामीटर वेक्टर $w(t)$ को एक रेडियल घटक $r(t) = \|w(t)\|$ और एक टेंजेंशियल घटक $u(t) = w(t)/r(t)$ में विभाजित करते हैं। विश्लेषण टेंजेंशियल संरेखण त्रुटि $V(t) := 1 - \langle u(t), u^* \rangle$ पर केंद्रित है।

कार्यप्रणाली में तीन मुख्य चरण शामिल हैं:

संरचनात्मक अपघटन (Structural Decomposition): लेखक रेडियल और टेंजेंशियल प्रवाह को नियंत्रित करने वाले अवकल समीकरणों (निरंतर-समय ग्रेडिएंट फ्लो के लिए) और अंतर समीकरणों (डिस्क्रीट-टाइम GD के लिए) को व्युत्पन्न करते हैं। वे प्रशिक्षण जोखिम $L(w(t))$ और रेडियल विकास $r(t)$ पर सीमाएं स्थापित करते हैं, यह दिखाते हुए कि $r(t)$ लॉगरिदमिक रूप से बढ़ता है जबकि $L(w(t))$ , $O(1/t)$ के रूप में घटता है।
ज्यामितीय एंसेट और निचली सीमाएं (Geometric Ansatz and Lower Bounds): टेंजेंशियल फ्लो का विश्लेषण करने के लिए, लेखक एक्सपोनेंशियलली वेटेड डेटा वितरण $Z\alpha(t)$ और प्रोजेक्टेड मैक्स-मार्जिन दिशा $P^\perp_{u(t)}u^*$ के बीच सहसंबंध के संबंध में एक ज्यामितीय एंसेट पेश करते हैं। वे एक ज्यामितीय लेम्मा (लेम्मा 6) सिद्ध करते हैं जो $\langle Z\alpha, P^\perp_u u^* \rangle$ के लिए एक निचली सीमा $\kappa$ स्थापित करता है, बशर्ते कि संरेखण त्रुटि $V(t)$ बहुत अधिक न हो (विशेष रूप से $V(t) < 1$ )।
दो-चरणीय डायनेमिक्स विश्लेषण:
- एस्केप स्टेज (Escape Stage): यदि इनिशियलाइजेशन खराब है (अर्थात, $u(0)$ और $u^*$ विपरीत गोलार्द्धों में हैं, $V(0) > 1$ ), तो लेखक सिद्ध करते हैं कि सिस्टम तेजी से इस अवस्था से निकलकर $V(t) \le 1$ तक पहुँच जाता है।
- कमजोर संरेखण स्टेज (Weak Alignment Stage): एक बार जब $V(t) \le 1$ हो जाता है, तो लेखक $V(t)$ के लिए परिणामी डिफरेंशियल इनइक्वैलिटी (differential inequality) को हल करते हैं। रेडियल विकास सीमाओं के साथ ज्यामितीय निचली सीमा को जोड़कर, वे एक विशिष्ट त्रुटि थ्रेशोल्ड $\delta$ तक पहुँचने के लिए आवश्यक अभिसरण समय को व्युत्पन्न करते हैं।

इस विश्लेषण को स्टेपसाइज़ बाधाओं ( $\eta \le c_0 \min\{\rho L(0)^{-1}, \gamma^2\}$ ) के माध्यम से डिस्क्रीटाइजेशन त्रुटियों को सावधानीपूर्वक नियंत्रित करके डिस्क्रीट-टाइम ग्रेडिएंट डिसेंट तक विस्तारित किया गया है। फ्रेमवर्क को लॉजिस्टिक लॉस के लिए भी अनुकूलित किया गया है, जिसमें एक्सपोनेंशियल लॉस के लिए उपयोग किए गए सेल्फ-बाउंडिंग गुणों और टेम्परेचर मोनोटोनिटी तर्कों को संशोधित किया गया है।

3. प्रमुख योगदान और परिणाम

शोध पत्र का प्राथमिक योगदान प्रारंभिक-चरण के संरेखण का गैर-अनंतस्पर्शी लक्षण वर्णन है, जो यह सिद्ध करता है कि GD "कमजोर संरेखण" को अनंतस्पर्शी दर की तुलना में काफी तेज़ी से प्राप्त करता है।

तेज़ कमजोर संरेखण समय (Fast Weak Alignment Time): मुख्य परिणाम (थ्योरम 8) प्रदर्शित करता है कि किसी भी स्वीकार्य संरेखण त्रुटि $\delta$ के लिए, जो एक डेटासेट-निर्भर थ्रेशोल्ड $\bar{\delta}$ से बड़ा एक निश्चित स्थिरांक $\Delta$ को संतुष्ट करता है, टेंजेंशियल संरेखण समय के भीतर $V(t) \le \delta$ होगा:
$T = O(\exp(\exp(-\delta)))$
यह $-\delta$ के संदर्भ में एक डबली-एक्सपोनेंशियल (doubly-exponential) समय जटिलता है, जो $e^{O(\exp(\delta^{-1/2}))}$ के अनंतस्पर्शी पूर्ण संरेखण समय की तुलना में काफी तेज़ है। महत्वपूर्ण रूप से, यह तेज़ अभिसरण केवल $\delta$ के लिए मान्य है जो शून्य से डेटासेट की ज्यामिति (विशेष रूप से $\delta > \bar{\delta}$ ) द्वारा दूर है; यह मनमाने ढंग से छोटे $\delta$ के लिए लागू नहीं होता है।
बाउंड की टाइटनेस (Tightness of the Bound): लेखक एक मिलान निचली सीमा (थ्योरम 10) प्रदान करते हैं, जो दिखाता है कि $t = \Omega(\exp(\exp(-\delta)))$ के लिए $V(t) \ge \delta$ है। यह सिद्ध करता है कि व्युत्पन्न ऊपरी सीमा सटीक (tight) है और तेज़ संरेखण प्रारंभिक डायनेमिक्स का एक वास्तविक गुण है, न कि प्रमाण तकनीक का कोई आर्टिफैक्ट।
प्रारंभिक-चरण संरेखण की सीमाएं: शोध पत्र स्पष्ट करता है कि यह तेज़ अभिसरण कमजोर संरेखण तक सीमित है। संरेखण त्रुटि $\delta$ मनमाना छोटा नहीं हो सकता; यह एक डेटासेट-निर्भर थ्रेशोल्ड $\bar{\delta}$ (लगभग $1-\gamma$ या डेटा माध्य मार्जिन से संबंधित) द्वारा सीमित है। पूर्ण संरेखण ( $u^*$ की ओर अनंतस्पर्शी अभिसरण) के लिए अभी भी बहुत धीमे अनंतस्पर्शी समय की आवश्यकता होती है।
लॉजिस्टिक लॉस तक विस्तार: परिणामों को समायोजित स्थिरांकों के साथ (जो प्रारंभिक जोखिम और मार्जिन पर निर्भर करते हैं) एक्सपोनेंशियल लॉस के लिए भी प्रभावी लॉजिस्टिक लॉस के लिए दिखाया गया है।

4. महत्व और दावे

शोध पत्र "लंबा प्रशिक्षित करें, बेहतर सामान्यीकरण करें" (train longer, generalize better) घटना के पीछे के तंत्र को समझाने के लिए एक गहरा दृष्टिकोण प्रदान करने का दावा करता है, जो सिमुलेशन में देखे गए तीव्र प्रारंभिक संरेखण को स्पष्ट करता है।

सिद्धांत और व्यवहार का मिलन: यह कार्य धीमी अनंतस्पर्शी सैद्धांतिक दरों और तेज़ अनुभवजन्य अवलोकनों के बीच के अंतर को पाटता है। यह सुझाव देता है कि जबकि पूर्ण मैक्स-मार्जिन अभिसरण धीमा है, पैरामीटर वेक्टर जल्दी ही उस क्षेत्र में प्रवेश कर जाता है जहाँ वह "पर्याप्त अच्छा" (कमजोर रूप से संरेखित) है, जो सामान्यीकरण के उद्देश्यों के लिए उपयोगी है।
तंत्र की पहचान: अनंतस्पर्शी विस्तारों पर निर्भर रहने के बजाय सीधे रेडियल और टेंजेंशियल प्रवाह को ट्रैक करके, लेखक पहचानते हैं कि तेज़ प्रारंभिक-चरण डायनेमिक्स डेटा वितरण और प्रोजेक्टेड मैक्स-मार्जिन दिशा के बीच ज्यामितीय परस्पर क्रिया (geometric interaction) द्वारा संचालित होते हैं, जो नॉर्म (norm) के महत्वपूर्ण रूप से बढ़ने से पहले ही सकारात्मक बना रहता है।
सीमित दायरा: लेखक स्पष्ट रूप से कहते हैं कि उनका परिणाम कमजोर संरेखण (मध्यम $\delta$ के लिए $\langle u(t), u^* \rangle \ge 1-\delta$ प्राप्त करना) को लक्षित करता है, न कि पूर्ण संरेखण को। वे तर्क देते हैं कि "कमजोर संरेखण" प्रारंभिक-चरण के व्यवहार को वर्णित करने के लिए "सही धारणा" है, क्योंकि डबली-एक्सपोनेंशियल समय इस शासन (regime) के लिए टाइट दिखाया गया है। शोध पत्र GD की अनंतस्पर्शी अभिसरण दर में सुधार करने का दावा नहीं करता है, बल्कि उस क्षणिक व्यवहार (transient behavior) को कठोरता से समझाने का प्रयास करता है जो पूर्ण अभिसरण से पहले होता है।