🤖 machine learning

When Does Margin Clamping Affect Training Variance? Dataset-Dependent Effects in Contrastive Forward-Forward Learning

यह शोध पत्र प्रदर्शित करता है कि कॉन्ट्रास्टिव फॉरवर्ड-फॉरवर्ड लर्निंग में प्रयुक्त सैचुरेटिंग सिमिलैरिटी क्लैम्पिंग (saturating similarity clamping), शुरुआती परतों में ग्रेडिएंट ट्रंकेशन के कारण CIFAR-10 जैसे डेटासेट्स पर प्रशिक्षण भिन्नता (training variance) को काफी बढ़ा देती है, जो कि एक डेटासेट-निर्भर प्रभाव है जिसे औसत सटीकता से समझौता किए बिना ग्रेडिएंट-न्यूट्रल मार्जिन सबट्रैक्शन फॉर्मुलेशन (gradient-neutral margin subtraction formulation) में स्विच करके समाप्त किया जा सकता है।

मूल लेखक: Joshua Steier

प्रकाशित 2026-03-03

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Joshua Steier

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य चित्र: एक शोर भरा क्लासरूम

कल्पना कीजिए कि आप छात्रों (कंप्यूटर मॉडल) की एक क्लास को विभिन्न जानवरों को पहचानना सिखा रहे हैं। आपके पास इस नियम को सिखाने का एक विशिष्ट तरीका है: "यदि दो तस्वीरें एक ही जानवर की हैं, तो उन्हें एक-दूसरे के बहुत करीब होना चाहिए। यदि वे अलग हैं, तो उन्हें दूर होना चाहिए।"

इस शोध पत्र में, शोधकर्ता इस नियम को सिखाने के एक विशिष्ट तरीके का अध्ययन कर रहे हैं जिसे कॉन्ट्रास्टिव फॉरवर्ड-फॉरवर्ड (CFF) कहा जाता है। पूरे पाठ के अंत में पूरी क्लास को सुधारने (मानक AI प्रशिक्षण की तरह) के बजाय, शिक्षक प्रत्येक छात्र के काम की जाँच एक एकल चरण (single step) पूरा करने के तुरंत बाद करता है।

शोधकर्ताओं ने इस बात में एक छिपी हुई समस्या खोजी कि कैसे कुछ शिक्षक "निकटता" के नियम को लागू कर रहे थे। कभी-कभी, यह नियम छात्रों के सीखने को बेहद अप्रत्याशित बना देता था, भले ही औसत ग्रेड ठीक दिख रहा हो।

समस्या: "हार्ड सीलिंग" (कठोर सीमा) बनाम "सॉफ्ट नज़" (कोमल संकेत)

शोधकर्ताओं ने "एक ही जानवर पास होने चाहिए" के नियम को लागू करने के दो अलग-अलग तरीकों को देखा।

1. "हार्ड सीलिंग" विधि (क्लैम्पिंग - Clamping)

कल्पना कीजिए कि एक शिक्षक कहता है: "तुम्हें अपने साथी के 1 मीटर के भीतर होना चाहिए। यदि तुम पहले से ही 0.8 मीटर दूर हो, तो मैं तुम्हें मजबूर कर दूँगा कि तुम ठीक 1 मीटर की दूरी पर रहो, चाहे जो भी हो।"

उपमा: यह एक दीवार से टकराने जैसा है। एक बार जब आप सीमा (1 मीटर) पर पहुँच जाते हैं, तो शिक्षक आपकी हरकत की परवाह करना छोड़ देता है। यदि आप करीब जाने की कोशिश करते हैं, तो शिक्षक बस कहता है, "तुम पहले से ही सीमा पर हो," और आपके प्रयास को अनदेखा कर देता है।
परिणाम: कंप्यूटर की दुनिया में, इसे क्लैम्पिंग (Clamping) कहा जाता है। जब कंप्यूटर सीखने की कोशिश करता है, तो वह इस "दीवार" से टकरा जाता है और उन विशिष्ट जोड़ियों (pairs) के लिए उपयोगी फीडबैक (ग्रेडिएंट्स) प्राप्त करना बंद कर देता है।

2. "सॉफ्ट नज़" विधि (सबट्रैक्शन - Subtraction)

कल्पना कीजिए कि एक शिक्षक कहता है: "तुम्हें 1 मीटर के भीतर होना चाहिए। यदि तुम 0.8 मीटर दूर हो, तो मैं बस तुम्हारे स्कोर में 0.2 मीटर घटा दूँगा, लेकिन मैं तुम्हें स्वतंत्र रूप से हिलने दूँगा।"

उपमा: यह एक सॉफ्ट नज़ (Soft Nudge) है। शिक्षक स्कोर को समायोजित करता है, लेकिन छात्र अभी भी फीडबैक महसूस कर सकता है और सीखना जारी रख सकता है। शिक्षक कभी भी सुनना बंद नहीं करता।
परिणाम: यह सबट्रैक्शन (Subtraction) विधि है। शोधकर्ताओं ने गणितीय रूप से सिद्ध किया कि यह विधि "हार्ड सीलिंग" के समान ही सटीक "औसत" परिणाम देती है, लेकिन यह सीखने के संकेत (learning signal) को कभी नहीं रोकती।

खोज: क्यों "हार्ड सीलिंग" अराजकता पैदा करती है

शोधकर्ताओं ने CIFAR-10 (बिल्लियों, कुत्तों, कारों आदि की 10,000 छोटी तस्वीरों का एक सेट) नामक डेटासेट पर विभिन्न रैंडम शुरुआती बिंदुओं (सीड्स) के साथ 7 बार प्रयोग किए।

औसत ग्रेड: दोनों विधियों ने लगभग समान औसत स्कोर (लगभग 78.5%) प्राप्त किया।
निरंतरता (Consistency): यहीं पर चीज़ें अजीब हो गईं।
- सॉफ्ट नज़ समूह बहुत सुसंगत था। प्रत्येक छात्र का स्कोर 78% और 79% के बीच था।
- हार्ड सीलिंग समूह पूरी तरह से अनिश्चित था। कुछ छात्रों को 76% मिला, दूसरों को 81% मिला। स्कोर दूसरे समूह की तुलना में 6 गुना अधिक बिखरे हुए (वेरिएंस) थे।

क्यों?
क्योंकि "हार्ड सीलिंग" के कारण। सीखने के शुरुआती चरणों में, कंप्यूटर उस दीवार से इतनी बार टकराता है (लगभग 60% समय) कि वह उन विशिष्ट जोड़ियों के लिए सीखना बंद कर देता है। चूंकि "दीवार" रैंडम शुरुआती बिंदु के आधार पर अलग-अलग जोड़ियों से टकराती है, इसलिए कुछ छात्र भाग्यशाली होते हैं और अच्छा सीखते हैं, जबकि अन्य संघर्ष करते हैं और फंस जाते हैं। यह पासे (dice) फेंकने जैसा है जहाँ एक तरफ चिपका हुआ है; कभी आप एक अच्छा रोल पाते हैं, तो कभी केवल संयोग से एक बुरा रोल।

मोड़: यह क्लास पर निर्भर करता है

शोधकर्ताओं ने यह देखने के लिए अन्य "क्लासेस" (डेटासेट्स) पर परीक्षण किया कि क्या यह समस्या सार्वभौमिक है।

"भीड़भाड़ वाला कमरा" (CIFAR-100):
- इस डेटासेट में 10 के बजाय 100 प्रकार के जानवर हैं।
- परिणाम: "हार्ड सीलिंग" विधि वास्तव में बेहतर (कम वेरिएंस) काम करती है।
- क्यों? क्योंकि इतने अधिक प्रकार होने के कारण, छात्र एक ही सबक में शायद ही कभी एक ही जानवर को दोबारा देखते हैं। वे शायद ही कभी "दीवार" से टकराते हैं। समस्या तब होती है जब एक ही क्लास की कई जोड़ियाँ एक ही बैच में होती हैं।
"आसान टेस्ट" (SVHN और Fashion-MNIST):
- ये डेटासेट कंप्यूटर के लिए हल करना बहुत आसान है (इसे 96%+ सटीकता मिलती है)।
- परिणाम: "हार्ड सीलिंग" विधि ठीक थी।
- क्यों? जब कार्य इतना आसान होता है, तो छात्र इतनी जल्दी समझ जाते हैं कि "दीवार" मायने नहीं रखती। वे सभी शोर के बावजूद एक ही सटीक उत्तर पर पहुँच जाते हैं।
"स्वीट स्पॉट" (CIFAR-10):
- यह डेटासेट "मध्यम कठिनाई" का है। यह इतना कठिन है कि छात्रों को संघर्ष करने की आवश्यकता है, लेकिन इतना आसान भी है कि उनके पास हर सबक में कई समान-क्लास जोड़ियाँ होती हैं।
- परिणाम: यही एकमात्र स्थान है जहाँ "हार्ड सीलिंग" ने अराजकता पैदा की।

समाधान: एक सरल सुधार

शोध पत्र इन AI मॉडलों को बनाने वाले किसी भी व्यक्ति के लिए एक बहुत ही व्यावहारिक सलाह के साथ समाप्त होता है:

"वॉल हिट रेट" (दीवार से टकराने की दर) की जाँच करें।
अपने परिणामों की चिंता करने से पहले, यह जाँच लें कि सीखने के पहले चरण में आपका मॉडल कितनी बार "हार्ड सीलिंग" (सैचुरेशन) से टकराता है।

यदि यह दीवार से अक्सर टकराता है (जैसे CIFAR-10 में): तो "सॉफ्ट नज़" (सबट्रैक्शन) विधि पर स्विच करें। यह औसत प्रदर्शन के मामले में कुछ भी खर्च नहीं करता है लेकिन आपके परिणामों को अधिक विश्वसनीय और दोहराने योग्य बनाता है।
यदि यह दीवार से शायद ही कभी टकराता है (जैसे CIFAR-100 या आसान कार्यों में): तो आपको कुछ भी बदलने की आवश्यकता नहीं है।

एक वाक्य में सारांश

AI मॉडलों को समानताएं सीखने के लिए "हार्ड सीलिंग" का उपयोग करने से मध्यम-कठिनाई वाले कार्यों में बहुत अधिक रैंडम शोर और असंगतता पैदा होती है, लेकिन "सॉफ्ट नज़" विधि पर स्विच करने से अंतिम स्कोर को नुकसान पहुँचाए बिना यह अस्थिरता ठीक हो जाती है।

यहाँ शोध पत्र "When Does Margin Clamping Affect Training Variance? Dataset-Dependent Effects in Contrastive Forward-Forward Learning" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र कंट्रास्टिव फॉरवर्ड-फॉरवर्ड (CFF) लर्निंग में सीड-टू-सीड वेरिएंस (पुनरुत्पादकता/reproducibility) की जांच करता है, जो विजन ट्रांसफॉर्मर (ViT) के लिए एक लेयर-लोकल ट्रेनिंग विधि है और जो एंड-टू-एंड बैकप्रोपैगेशन के स्थान पर लोकल सुपरवाइज्ड कंट्रास्टिव ऑब्जेक्टिव्स का उपयोग करती है।

जबकि पूर्ववर्ती कार्यों ने औसत सटीकता (mean accuracy) पर ध्यान केंद्रित किया है, CFF में अस्थिरता के स्रोतों को ठीक से नहीं समझा गया है। लेखक सुपरवाइज्ड कंट्रास्टिव लॉस के एक विशिष्ट कार्यान्वयन विवरण (implementation detail) पर ध्यान केंद्रित करते हैं: कैसे पॉजिटिव-पेयर मार्जिन (positive-pair margin) को लागू किया जाता है।

मानक कार्यान्वयन (Standard Implementation): यह सैचुरेटिंग सिमिलैरिटी क्लैम्पिंग (saturating similarity clamping) का उपयोग करता है: $\min(s + m, 1)$ , जहाँ $s$ कोसाइन सिमिलैरिटी है और $m$ मार्जिन है। यह सिमिलैरिटी को 1.0 तक सीमित कर देता है।
समस्या: यह क्लैम्पिंग एक "सैचुरेशन" क्षेत्र बनाता है जहाँ थ्रेशोल्ड से अधिक होने पर ग्रेडिएंट शून्य (या ट्रंकेटेड) हो जाता है। लेखक यह परिकल्पना करते हैं कि यह सैचुरेशन-प्रेरित ग्रेडिएंट ट्रंकेशन, जो रैंडम सीड्स के आधार पर स्टोकेस्टिक रूप से बदलता है, औसत सटीकता को प्रभावित किए बिना प्रशिक्षण विचरण (training variance) को काफी बढ़ा देता है।

2. कार्यप्रणाली (Methodology)

A. सैद्धांतिक सूत्रीकरण (Theoretical Formulation)

लेखक क्लैम्पिंग के प्रभाव को मार्जिन के प्रभाव से अलग करने के लिए एक ग्रेडिएंट-न्यूट्रल विकल्प (gradient-neutral alternative) प्रस्तावित करते हैं।

क्लैम्पिंग (मानक): लॉग-प्रायिकता गणना से पहले सिमिलैरिटी $s$ को संशोधित करता है: $\tilde{s} = \min(s + m, 1)$ ।
**सबट्रैक्शन (प्रस्तावित): संशोधन के बाद अनमॉडिफाइड सिमिलैरिटीज़ से लॉग-प्रायिकताएं कंप्यूट करता है और मार्जिन को लॉग-प्रायिकता गणना के बाद घटा देता है: $\log \tilde{p} = \log p - m$ ।
प्रमाण: लेखक सिद्ध करते हैं (प्रपोजिशन 4.1) कि "मीन-ओवर-पॉजिटिव्स" रिडक्शन के तहत, सबट्रैक्शन रूप ग्रेडिएंट-न्यूट्रल है। यह लॉस को एक स्थिरांक (constant) से शिफ्ट करता है लेकिन मॉडल पैरामीटर्स के सापेक्ष सभी ग्रेडिएंट्स को अपरिवर्तित छोड़ देता है। यह एक वास्तविक बेसलाइन के रूप में कार्य करता है जहाँ मार्जिन मौजूद है लेकिन सैचुरेशन नहीं है।

B. प्रयोगात्मक सेटअप (Experimental Setup)

डेटासेट्स: CIFAR-10 (प्राथमिक), CIFAR-100, SVHN, और Fashion-MNIST।
आर्किटेक्चर: विजन ट्रांसफॉर्मर (ViT) जिसमें $d=128$ , 4 हेड्स, 8 लेयर्स हैं।
डिज़ाइन: एक $2 \times 2$ $2 \times 2$ फैक्टोरियल डिज़ाइन जो निम्नलिखित को बदलता है:
1. मार्जिन प्रकार: क्लैंप बनाम सबट्रैक्ट।
2. न्यूमेरिकल स्टेबिलिटी मोड: डिटैच (Detach) बनाम डायरेक्ट (Direct) (यह जांचने के लिए कि क्या मैक्स ऑपरेटर के माध्यम से ग्रेडिएंट फ्लो विचरण को प्रभावित करता है)।
सीड्स: CIFAR-10 के लिए प्रति सेल 7 स्वतंत्र सीड्स (कुल 28 रन), साथ ही डोज-रिस्पॉन्स और जनरलाइजेशन अध्ययन के लिए अतिरिक्त रन।
मेट्रिक्स:
- प्राथमिक: टेस्ट एक्यूरेसी वेरिएंस ( $\text{Var}$ ) और वेरिएंस रेश्यो ( $\text{VR} = \text{Var}_{\text{clamp}} / \text{Var}_{\text{sub}}$ )।
- डायग्नोस्टिक्स: क्लैंप एक्टिवेशन रेट (CAR), लेयर-वाइज ग्रेडिएंट नॉर्म्स, और डोज-रिस्पॉन्स प्रोब्स (मार्जिन साइज कम करना)।

3. मुख्य परिणाम (Key Results)

A. CIFAR-10: वेरिएंस इन्फ्लेशन प्रभाव

CIFAR-10 पर, क्लैम्पिंग विधि ने सबट्रैक्शन विधि की तुलना में 5.90× अधिक टेस्ट-एक्यूरेसी वेरिएंस उत्पन्न किया ( $p=0.003$ ), जबकि औसत सटीकता में कोई सांख्यिकीय रूप से महत्वपूर्ण अंतर नहीं देखा गया ( $78.48\%$ बनाम $78.51\%$ )।

तंत्र (Mechanism): उच्च विचरण (variance) शुरुआती लेयर्स में ग्रेडिएंट ट्रंकेशन द्वारा संचालित होता है।
- क्लैंप एक्टिवेशन रेट (CAR): लेयर 0 पर, मानक मार्जिन के तहत 60.7% पॉजिटिव पेयर्स सैचुरेटेड (क्लैम्प्ड) हैं।
- ग्रेडिएंट नॉर्म्स: लेयर 0 पर, क्लैम्पिंग के तहत ग्रेडिएंट नॉर्म्स, सबट्रैक्शन की तुलना में 4.0× कम हैं।
- व्याख्या: अलग-अलग रैंडम सीड्स के परिणामस्वरूप पॉजिटिव पेयर्स के अलग-अलग हिस्से सैचुरेट होते हैं। यह ग्रेडिएंट्स के स्टोकेस्टिक "जीरोइंग" (zeroing) का कारण बनता है, जिससे अलग-अलग ऑप्टिमाइजेशन ट्रेजेक्टरीज और अंतिम सटीकता में उच्च विचरण होता है।

B. डोज-रिस्पॉन्स वेरिफिकेशन

शुरुआती मार्जिन को $0.4 \to 0.1$ से घटाकर $0.2 \to 0.1$ करने से वेरिएंस रेश्यो 5.90× से घटकर 2.98× हो गया। यह एक डोज-रिस्पॉन्स संबंध की पुष्टि करता है: कम सैचुरेशन का अर्थ है कम वेरिएस इन्फ्लेशन।

C. क्रॉस-डेटासेट जनरलाइजेशन (The "When" and "Why")

यह प्रभाव सार्वभौमिक नहीं है; यह दो परस्पर क्रिया करने वाले कारकों पर निर्भर करता है: पॉजिटिव-पेयर डेंसिटी और टास्क डिफिकल्टी।

डेटासेट	क्लासेस	प्रति बैच पॉजिटिव पेयर्स	L0 CAR	एक्यूरेसी	वेरिएंस रेश्यो (VR)	परिणाम
CIFAR-10	10	~25,700	60.7%	~78%	5.90×	उच्च विचरण
CIFAR-100	100	~2,580	29.0%	~52%	0.39×	निम्न विचरण (उल्टा)
SVHN	10	~30,500	51.0%	~97%	0.25×	निम्न विचरण (उल्टा)
Fashion-MNIST	10	~25,700	N/A	~93%	0.08×	निम्न विचरण (उल्टा)

कारक 1: पॉजिटिव-पेयर डेंसिटी (CIFAR-100): 100 क्लासेस के साथ, प्रति बैच पॉजिटिव पेयर्स का घनत्व 10× कम हो जाता है। इससे सैचुरेशन की आवृत्ति कम हो जाती है (CAR घटकर 29% हो जाता है), जिससे ग्रेडिएंट ट्रंकेशन तंत्र सक्रिय नहीं हो पाता।
कारक 2: टास्क डिफिकल्टी (SVHN/Fashion-MNIST): इन डेटासेट्स में उच्च सटीकता (>90%) है। भले ही उच्च CAR (SVHN में L0 पर 51% है) हो, कार्य आसानी से "सुलझ" जाता है, इसलिए सभी सीड्स समान ऑप्टिमा की ओर अभिसरित (converge) होते हैं, चाहे ग्रेडिएंट ट्रंकेशन कुछ भी हो।
SVHN डिफिकल्टी स्वीप: SVHN पर ऑग्मेंटेशन कठिनाई बढ़ाकर सटीकता को 97% से घटाकर 25% करने से, VR 0.25× से बदलकर 16.73× हो गया। यह पुष्टि करता है कि मध्यवर्ती कठिनाई (जहाँ ट्रेजेक्टरीज संवेदनशील हैं लेकिन सरल नहीं हैं) और उच्च CAR का संयोजन "परफेक्ट स्टॉर्म" (परफेक्ट स्थिति) है, जो वेरिएस इन्फ्लेशन पैदा करता है।

4. मुख्य योगदान (Key Contributions)

सैद्धांतिक प्रमाण: सिद्ध किया कि पोस्ट-लॉग-प्रायबिलिटी सबट्रैक्शन एक ग्रेडिएंट-न्यूट्रल बेसलाइन है, जो सैचुरेशन प्रभावों को मार्जिन प्रभावों से अलग करने की अनुमति देता है।
अनुभवजन्य खोज (Empirical Discovery): पहचाना कि एक सामान्य कार्यान्वयन विवरण (सिमिलैरिटी क्लैम्पिंग) CFF में औसत सटीकता को प्रभावित किए बिना प्रशिक्षण विचरण को लगभग 6 गुणा तक बढ़ा सकता है।
मैकेनिस्टिक स्पष्टीकरण: प्रदर्शित किया कि विचरण (variance) शुरुआती लेयर्स में सैचुरेशन के कारण होने वाले स्टोकेस्टिक ग्रेडिएंट ट्रंकेशन से उत्पन्न होता है, जो उच्च पॉजिटिव-पेयर डेंसिटी के कारण बढ़ जाता है।
बाउंड्री कंडीशंस: उन स्थितियों को मैप किया जिनमें यह प्रभाव होता है (मध्यम सटीकता + उच्च पेयर डेंसिटी) और जब यह नहीं होता (उच्च सटीकता या कम क्लास डेंसिटी)।
व्यावहारिक डायग्नोस्टिक: एक सरल चेक के रूप में लेयर-0 क्लैंप एक्टिवेशन रेट (CAR) को मापने का प्रस्ताव दिया। यदि CAR कम (<50%) है, तो क्लैम्पिंग सुरक्षित है; यदि उच्च है, तो सबट्रैक्शन का उपयोग करने की सिफारिश की जाती है।

5. महत्व और निहितार्थ (Significance and Implications)

पुनरुत्पादकता (Reproducibility): CIFAR-10 जैसे डेटासेट्स पर CFF का उपयोग करने वाले शोधकर्ताओं के लिए, मार्जिन कार्यान्वयन का चुनाव उनके परिणामों की विश्वसनीयता को महत्वपूर्ण रूप से प्रभावित करता है। क्लैम्पिंग का उपयोग करने के लिए सबट्रैक्शन विधि ( $n \approx 2$ ) की तुलना में समान सांख्यिकीय शक्ति ( $n \approx 11$ ) प्राप्त करने के लिए बहुत अधिक सीड्स की आवश्यकता होती है।
ट्रेनिंग स्टेबिलिटी: यह पेपर लेयर-लोकल ट्रेनिंग (जैसे Forward-Forward) की एक अनूठी संवेदनशीलता को उजागर करता है। एंड-टू-एंड बैकप्रोपैगेशन के विपरीत, जहाँ डाउनस्ट्रीम ग्रेडिएंट्स स्थानीय ट्रंकेशन की भरपाई कर सकते हैं, CFF लेयर्स स्वतंत्र रूप से ऑप्टिमाइज़ होती हैं। इसलिए, लेयर 0 पर सैचुरेशन को गहरी लेयर्स द्वारा सुधारा नहीं जा सकता है, जिससे यह सिस्टम इस कार्यान्वयन विवरण के प्रति अद्वितीय रूप से संवेदनशील हो जाता है।
सिफारिश: चिकित्सकों (Practitioners) को मध्यम-सटीकता, उच्च-घनत्व वाले रेजीम में शून्य लागत पर औसत प्रदर्शन को प्रभावित किए बिना शोर (noise) को कम करने के लिए ग्रेडिएंट-न्यूट्रल सबट्रैक्शन विधि पर स्विच करना चाहिए। उच्च-सटीकता या अधिक-क्लास रेजीम में, इसका प्रभाव नगण्य है।

संक्षेप में, यह शोध पत्र एक सूक्ष्म कार्यान्वयन विकल्प का कठोर ऑडिट प्रदान करता है, जो यह प्रकट करता है कि मार्जिन क्लैम्पिंग एक स्टोकेस्टिक रेगुलराइज़र के रूप में कार्य करता है जो विशिष्ट परिस्थितियों में प्रशिक्षण विचरण को बढ़ाता है, और एक सरल, सैद्धांतिक रूप से आधारित विकल्प प्रदान करता है जो प्रशिक्षण को स्थिर करता है।