🤖 machine learning

A Constrained Optimization Perspective of Unrolled Transformers

यह शोध पत्र एक नियंत्रित अनुकूलन ढांचे (constrained optimization framework) का प्रस्ताव करता है जो एक प्रिमल-ड्यूल प्रशिक्षण योजना (primal-dual training scheme) के माध्यम से लेयरवाइज डिसेंट बाधाओं (layerwise descent constraints) को लागू करता है, जिससे ट्रांसफॉर्मर्स को परतों के माध्यम से लॉस (loss) को निरंतर कम करने और इन-डिस्ट्रीब्यूशन प्रदर्शन को बनाए रखते हुए बेहतर मजबूती और आउट-ऑफ-डिस्ट्रीब्यूशन सामान्यीकरण प्राप्त करने में सक्षम बनाया जा सके।

मूल लेखक: Javier Porras-Valenzuela, Samar Hadou, Alejandro Ribeiro

प्रकाशित 2026-07-08

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Javier Porras-Valenzuela, Samar Hadou, Alejandro Ribeiro

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक छात्र को एक जटिल पहेली हल करना सिखा रहे हैं। एक मानक कक्षा (पारंपरिक AI प्रशिक्षण) में, आप छात्र को अंतिम उत्तर दिखाते हैं और कहते हैं, "इस उत्तर के करीब पहुँचो।" छात्र कुछ कदम आगे बढ़ सकता है, फिर गलती से कुछ कदम पीछे हट सकता है, फिर आगे बढ़ता है, और टेढ़े-मेढ़े रास्तों पर चलते हुए अंततः समाधान तक पहुँच जाता है। वे वहां पहुँच तो सकते हैं, लेकिन उनका रास्ता अव्यवस्थित और अस्थिर था।

यह शोध पत्र एक अलग तरीका प्रस्तावित करता है: "चरण-दर-चरण" (Step-by-Step) नियम।

लेखक, जेवियर पोरास-वेलेंजुएला, समर हदु, और एलेजांद्रो रिबेरो सुझाव देते हैं कि केवल अंतिम उत्तर देखने के बजाय, हमें छात्र को प्रक्रिया के प्रत्येक चरण में अपनी स्थिति सुधारने के लिए मजबूर करना चाहिए। यदि छात्र ऐसा कदम उठाता है जो पहेली को कठिन बना देता है या उसे करीब नहीं लाता है, तो हम उनसे कहते हैं, "नहीं, फिर से प्रयास करें।"

यहाँ उनके विचार का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. समस्या: "टेढ़ा-मेढ़ा" (Zigzag) छात्र

मानक AI मॉडल (ट्रांसफॉर्मर्स) उन टेढ़े-मेढ़े चलने वाले छात्रों की तरह हैं। वे कई परतों (जैसे एक इमारत के फर्श) से बने होते हैं। जैसे-जैसे डेटा निचले तल से ऊपरी तल की ओर बढ़ता है, मॉडल त्रुटियों को ठीक करने का प्रयास करता है। हालाँकि, कभी-कभी मॉडल बीच के फर्श पर भ्रमित हो जाता है। यह डेटा को बेहतर बनाने से पहले उसे और खराब कर सकता है। यह एक ऐसे हाइकर (पर्वतारोही) की तरह है जो पहाड़ पर चढ़ने की कोशिश करते समय, रास्ता खोजने से पहले गलती से एक घाटी में चला जाता है।

यह "टेढ़ा-मेढ़ा" व्यवहार मॉडल को नाजुक बनाता है। यदि आप मॉडल को थोड़ा अलग या शोर वाला इनपुट (जैसे धुंधली फोटो या टाइपो वाली वाक्य) देते हैं, तो वह पूरी तरह से भटक सकता है क्योंकि उसे सड़क के उतार-चढ़ाव को संभालने के लिए प्रशिक्षित नहीं किया गया था।

2. समाधान: "मोनोटोनिक डिसेंट" (Monotonic Descent) नियम

लेखक एक नई प्रशिक्षण पद्धति पेश करते हैं जिसे प्रतिबंधित अनुकूलन (Constrained Optimization) कहा जाता है। इसे एक सख्त कोच की तरह समझें जो इमारत के हर मंजिल पर खड़ा है।

नियम: "तुम्हें नीचे वाले फ्लोर की तुलना में इस फ्लोर पर समाधान के कम से कम 10% करीब होना चाहिए।"
उपमा: कल्पना कीजिए कि एक गेंद पहाड़ी से नीचे लुढ़क रही है। एक मानक मॉडल नीचे लुढ़क सकता है, एक उभार से टकरा सकता है, थोड़ा ऊपर लुढ़क सकता है, फिर नीचे लुढ़क सकता है। लेखकों का मॉडल एक पूरी तरह से चिकनी, ढालू स्लाइड पर रखी गेंद की तरह है। इसे हर एक क्षण नीचे ही जाना होगा। यह कभी वापस ऊपर नहीं लुढ़कता।

वे इसे ट्रांसफॉर्मर का "अनरोलिंग" (Unrolling) कहते हैं। आमतौर पर, "अनरोलिंग" का अर्थ किसी गणितीय समस्या को हल करने के लिए एक विशिष्ट न्यूरल नेटवर्क बनाना होता है। यहाँ, वे एक मौजूदा, मानक AI आर्किटेक्चर को ले रहे हैं और उसे एक आदर्श, चरण-दर-चरण 'डिसेंट एल्गोरिदम' की तरह व्यवहार करने के लिए मजबूर कर रहे हैं।

3. वे इसे कैसे करते हैं: "प्राइमल-डुअल" (Primal-Dual) नृत्य

इस सख्त "पीछे न हटने" वाले नियम के साथ मॉडल को प्रशिक्षित करना गणितीय रूप से कठिन है। यह एक कुत्ते को बैठने के लिए सिखाने जैसा है, जबकि साथ ही यह भी सुनिश्चित करना है कि वह भौंके नहीं, और यह भी सुनिश्चित करना है कि वह एक विशिष्ट बाड़े के भीतर रहे।

लेखक एक चतुर गणितीय तकनीक का उपयोग करते हैं जिसे प्राइमल-डुअल ट्रेनिंग (Primal-Dual Training) कहा जाता है:

प्राइमल (छात्र): AI मॉडल कार्य सीखने का प्रयास करता है (जैसे टेक्स्ट को वर्गीकृत करना या वीडियो को साफ करना)।
डुअल (कोच): संख्याओं का एक अलग सेट (जिसे लैग्रेंज मल्टीप्लायर्स कहा जाता है) एक सख्त रेफरी के रूप में कार्य करता है। यदि AI ऐसा कदम उठाने की कोशिश करता है जो "पीछे न हटने" के नियम का उल्लंघन करता है, तो कोच दंड (penalty) लागू करता है।
नृत्य: वे एक साथ प्रशिक्षण लेते हैं। AI बेहतर होने की कोशिश करता है, और कोच नियमों का पालन सुनिश्चित करने के लिए दंडों को समायोजित करता है। शोध पत्र का दावा है कि यह नृत्य बहुत कुशल है और कंप्यूटर की गति को बहुत अधिक धीमा नहीं करता है।

4. परिणाम: "मजबूत" (Sturdy) मॉडल

शोध पत्र ने दो मुख्य कार्यों पर इस पद्धति का परीक्षण किया: टेक्स्ट क्लासिफिकेशन (भाषा को समझना) और वीडियो डिनोइजिंग (दानेदार वीडियो को साफ करना)।

"शोर" (Noise) परीक्षण: उन्होंने शोर (जैसे टीवी पर स्टैटिक या वाक्य में टाइपो) जोड़कर मॉडलों का परीक्षण किया।
- मानक मॉडल: जब शोर अधिक हुआ, तो मानक मॉडल का प्रदर्शन गिर गया। यह ताश के पत्तों के घर की तरह था जो हवा के झोंके में गिर जाता है।
- प्रतिबंधित मॉडल (Constrained Model): जब शोर अधिक हुआ, तो यह मॉडल क्रैश नहीं हुआ। यह धीरे-धीरे प्रदर्शन कम करता रहा, जैसे एक मजबूत पेड़ हवा में झुकता है लेकिन टूटता नहीं है। शोर भरा इनपुट होने पर भी इसने काम करना जारी रखा।
"आउट-ऑफ-डिस्ट्रीब्यूशन" (Out-of-Distribution) परीक्षण: उन्होंने मॉडलों का परीक्षण ऐसे डेटा पर किया जो उन्होंने पहले कभी नहीं देखा था (जैसे एक RoBERTa मॉडल जिसे मूवी रिव्यूज पर प्रशिक्षित किया गया था लेकिन जिसका परीक्षण अलग तरह के टेक्स्ट पर किया गया)। प्रतिबंधित मॉडल ने मानक मॉडल की तुलना में अपना आधार बहुत बेहतर बनाए रखा।

5. यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)

शोध पत्र यह दावा नहीं करता है कि यह तुरंत बीमारियों का इलाज करेगा या सेल्फ-ड्राइविंग कारें बनाएगा। इसके बजाय, यह एक विशिष्ट समस्या को हल करने का दावा करता है: मजबूती (Robustness)।

AI को उसकी सोचने की प्रक्रिया के हर चरण में सुधार करने के लिए मजबूर करके, मॉडल बनता है:

अधिक स्थिर: यह इनपुट में छोटी त्रुटियों से भ्रमित नहीं होता है।
अधिक विश्वसनीय: यह उस डेटा पर बेहतर प्रदर्शन करता है जिसे उसने पहले नहीं देखा है (Out-of-Distribution)।
अनुमानित: हम जानते हैं कि मॉडल सूचना को प्रोसेस करते समय कैसा व्यवहार करता है क्योंकि यह एक सख्त "नीचे की ओर" (downward) पथ का अनुसरण करता है।

संक्षेप में, लेखकों ने एक शक्तिशाली लेकिन कभी-कभी अराजक AI टूल को लिया और उसमें एक "सुरक्षा रेलिंग" जोड़ दी जो इसे लगातार आगे बढ़ने के लिए मजबूर करती है, जिससे यह वास्तविक दुनिया के शोर और अराजकता के खिलाफ बहुत अधिक मजबूत बन जाता है।

तकनीकी सारांश: अनरोल्ड ट्रांसफॉर्मर्स का एक संकुचित अनुकूलन परिप्रेक्ष्य (A Constrained Optimization Perspective of Unrolled Transformers)

समस्या विवरण (Problem Statement)

हालिया साहित्य ने ट्रांसफॉर्मर आर्किटेक्चर की व्याख्या अनुकूलन समस्याओं (जैसे, Yang et al., 2022; De Weerdt et al., 2023) को हल करने वाले इटरैटिव डिसेंट एल्गोरिदम के रूप में की है, हालांकि मानक प्रशिक्षण एम्पिरिकल रिस्क मिनिमाइजेशन (ERM) के माध्यम से अपेक्षित डिसेंट व्यवहार को लागू करने में विफल रहता है। ERM के साथ प्रशिक्षित होने पर, अनरोल्ड ट्रांसफॉर्मर्स के मध्यवर्ती प्रतिनिधित्व (intermediate representations) अनिवार्य रूप से परतों के माध्यम से लॉस फंक्शन को निरंतर (monotonically) कम नहीं करते हैं। यह विसंगति इसलिए उत्पन्न होती है क्योंकि मानक प्रशिक्षण यह गारंटी नहीं देता कि सीखे गए पैरामीटर ऊर्जा न्यूनीकरण (energy minimization) के लिए आवश्यक शर्तों को पूरा करते हैं, और न ही यह अनरोल्ड आर्किटेक्चर प्रशिक्षण की द्वैत प्रकृति (bilevel nature) को ध्यान में रखता है। फलस्वरूप, ये मॉडल गैर-एकदिशीय (non-monotonic) लॉस पैटर्न और इनपुट गड़बड़ी (perturbations) तथा वितरण बदलावों (distribution shifts) के प्रति कम मजबूती प्रदर्शित कर सकते हैं।

कार्यप्रणाली (Methodology)

लेखक एक ऐसा ढांचा प्रस्तावित करते हैं जो ट्रांसफॉर्मर प्रशिक्षण को एक संकुचित शिक्षण समस्या (constrained learning problem) के रूप में मानता है। औसत लॉस को पूरे नेटवर्क आउटपुट पर न्यूनतम करने के बजाय, यह विधि इस बात को लागू करती है कि प्रत्येक परत से अपेक्षित लॉस निरंतर कम होना चाहिए।

1. संकुचित सूत्रीकरण (Constrained Formulation)

मुख्य योगदान एक संकुचित अनुकूलन समस्या का सूत्रीकरण है जहाँ प्रत्येक परत $l$ के आउटपुट को पिछले परत $l-1$ के सापेक्ष एक कारक $(1 - \alpha_l)$ द्वारा अपेक्षित लॉस $f$ को कम करने की आवश्यकता होती है:
$\begin{aligned} T^* = \arg\min_{T} \quad & \mathbb{E}[f(X, \Phi(X; T))] \\ \text{subject to} \quad & \mathbb{E}[f(X, \Phi_l(X; T))] \leq (1 - \alpha_l) \mathbb{E}[f(X, \Phi_{l-1}(X; T))], \quad \forall l \end{aligned}$
यहाँ, $\Phi_l$ परत $l$ का आउटपुट है, और $\alpha_l$ एक स्टेपसाइज़ शेड्यूल है। यह सूत्रीकरण ट्रांसफॉर्मर को एक डिसेंट एल्गोरिदम की तरह व्यवहार करने के लिए मजबूर करता है, जिससे यह सुनिश्चित होता है कि मध्यवर्ती प्रतिनिधित्व उद्देश्य (objective) में प्रगतिशील सुधार करते हैं।

2. प्राइमल-ड्यूल ट्रेनिंग एल्गोरिदम (Primal-Dual Training Algorithm)

इस गैर-कॉन्वेक्स संकुचित समस्या को हल करने के लिए, लेखक ड्यूल डोमेन में एक प्राइमल-ड्यूल प्रशिक्षण योजना का उपयोग करते हैं। वे एक लैग्रेंजियन फंक्शन (Lagrangian function) का निर्माण करते हैं:
$\mathcal{L}(T, \lambda) = \mathbb{E}[f(X, \Phi(X; T))] + \sum_{l=1}^L \lambda_l \mathbb{E}[f(X, \Phi_l(X; T)) - (1 - \alpha_l)f(X, \Phi_{l-1}(X; T))]$
प्रशिक्षण प्रक्रिया (एल्गोरिदम 1) इनके बीच बारी-बारी से चलती है:

प्राइमल अपडेट (Primal Update): स्टोकैस्टिक ग्रेडिएंट डिसेंट का उपयोग करके ट्रांसफॉर्मर पैरामीटर्स $T$ के संबंध में एम्पिरिकल लैग्रेंजियन को न्यूनतम करना।
ड्यूल अपडेट (Dual Update): प्रोजेक्टेड ग्रेडिएंट एसेंट का उपयोग करके लैग्रंग ज मल्टीप्लायर्स $\lambda$ के संबंध में ड्यूल फंक्शन को अधिकतम करना।

लेखक हालिया परिणामों का लाभ उठाते हैं जो दर्शाते हैं कि डीप न्यूरल नेटवर्क छोटे ड्युअलिटी गैप (duality gaps) प्रदर्शित करते हैं (Chamon et al., 2023), जिससे ड्यूल समस्या निकट-इष्टतम (near-optimal) और निकट-व्यवहार्य (near-feasible) समाधान प्रदान करती है। सख्त व्यवहार्यता (strict feasibility) सुनिश्चित करने के लिए, एक स्लैक वेरिएबल और क्वाड्रेटिक पेनल्टी के साथ एक लचीला रिलैक्सेशन पेश किया गया है।

मुख्य योगदान (Key Contributions)

पेपर चार प्राथमिक योगदानों को रेखांकित करता है:

संकुचित शिक्षण सूत्रीकरण (Constrained Learning Formulation): लेखक एक शिक्षण समस्या को सूत्रबद्ध करते हैं जहाँ ट्रांसफॉर्मर परतों को स्पष्ट रूप से अपेक्षित लॉस को निरंतर कम करने के लिए बाध्य किया जाता है, जो मानक ERM से भिन्न है।
ड्यूल ट्रेनिंग एल्गोरिदम और अभिसरण गारंटी (Dual Training Algorithm & Convergence Guarantees): वे एक प्राइमल-ड्यूल प्रशिक्षण एल्गोरिदम विकसित करते हैं और सैद्धांतिक गारंटी (थ्योरम 2) प्रदान करते हैं कि संकुचित अनरोल्ड ट्रांसफॉर्मर सांख्यिकीय लॉस के इष्टतम मान की ओर एसिम्प्टोटिक रूप से अभिसरित (converge) होता है। वे आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) सामान्यीकरण गारंटी (थ्योरम 4) भी स्थापित करते हैं, जो यह सिद्ध करता है कि वितरण बदलावों के तहत भी डिसेंट गुण बनाए रखे जाते हैं।
परेशान एम्बेडिंग्स के प्रति मजबूती (Robustness to Perturbed Embeddings): टेक्स्ट क्लासिफिकेशन कार्यों (IMDb, MNLI) में, लेखक प्रदर्शित करते हैं कि संकुचित मॉडल अनकन्स्ट्रेंड बेसलाइन्स की तुलना में टोकन एम्बेडिंग्स में गॉसियन, यूनिफॉर्म और डिस्क्रीट गड़बड़ी के तहत उच्च सटीकता बनाए रखते हैं।
वीडियो डिनोइजिंग में मजबूती (Robustness in Video Denoising): वीडियो डिनोइजिंग (CUHK Avenue, UCSD, ShanghaiTech) पर लागू होने पर, यह विधि ऐसे मॉडल प्रदान करती है जो इन-डिस्ट्रीब्यूशन प्रदर्शन को बनाए रखते हुए, विभिन्न डेटासेट और आर्किटेक्चर में OOD शोर स्तरों (noise levels) के प्रति अधिक मजबूत है, जिसे RMSE द्वारा मापा गया है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने अपने मेथड का मूल्यांकन पारंपरिक प्री-ट्रेंड ट्रांसफॉर्मर्स (DistilBERT, RoBERTa, Llama 3.1) और अनरोल्ड आर्किटेक्चर (Deep Unfolded Sequential Transformer - DUST, Unrolled Transformer - UT) दोनों पर किया।

मोनोटोनिक डिसेंट (Monotonic Descent): संकुचित मॉडल्स ने लेयर-वाइज लॉस में सुचारू, मोनोटोनिक कमी प्रदर्शित की, जबकि अनकन्स्ट्रेंड बेसलाइन्स ने स्पाइक्स (जैसे, RoBERTa में लेयर 19 पर स्पाइक) के साथ गैर-मोनोटोनिक पैटर्न दिखाया।
OOD मजबूती (OOD Robustness):
- टेक्स्ट क्लासिफिकेशन: जैसे-जैसे गड़बड़ी का स्तर ( $\gamma$ ) बढ़ा, संकुचित मॉडल अधिक सहजता से गिरावट (degrade) का सामना करते रहे। उदाहरण के लिए, IMDb पर RoBERTA के साथ, संकुचित मॉडल ने उच्च शोर स्तरों के तहत अनकन्स्ट्रेंड वर्जन की तुलना में काफी अधिक सटीकता बनाए रखी।
- वीडियो डिनोइजिंग: संकुचित मॉडल्स ने विभिन्न डेटासेट और आर्किटेक्चर में उच्च टेस्ट परटर्बेशन स्तरों ( $\gamma \geq 1.0$ ) के तहत लगातार कम RMSE प्राप्त किया।
- LLM फाइन-ट्यूनिंग: Llama 3.1 8B पर, संकुचित मॉडल ने इन-डिस्ट्रीब्यूशन प्रदर्शन (बिना शोर के AlpacaEval पर 50% विन रेट) बनाए रखा और शोर के तहत ( $\gamma=1.5$ के साथ 69.93% विन रेट) अनकन्स्ट्रेंड मॉडल की तुलना में काफी बेहतर प्रदर्शन किया।
ट्रेड-ऑफ़ (Trade-offs): विधि आमतौर पर नगण्य गिरावट (अक्सर < 0.3%) के साथ इन-डिस्ट्रीब्यूशन प्रदर्शन को सुरक्षित रखती है, जो यह सुझाव देता है कि डिसेंट बाधाओं को लागू करने से मजबूती के लिए मानक सटीकता का त्याग नहीं होता है।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि डिसेंट बाधाओं को लागू करना ट्रांसफॉर्मर्स की आंतरिक गतिशीलता को शास्त्रीय अनुकूलन एल्गोरिदम के स्थिरता गुणों के साथ संरेखित करता है। यह संरेखण इनपुट गड़बड़ी और वितरण बदलावों के विरुद्ध बेहतर मजबूती के लिए एक सैद्धांतिक और अनुभवजन्य आधार प्रदान करता है।

लेखक इस कार्य को एल्गोरिद्मिक अनरोलिंग (जहाँ नेटवर्क अनुकूलन समस्याओं को हल करते हैं) और संकुचित शिक्षण के बीच एक सेतु के रूप में देखते हैं। उनका तर्क है कि ट्रांसफॉर्मर्स को स्पष्ट रूप से डिसेंट करने के लिए प्रशिक्षित करके, हम ऐसे मॉडल प्राप्त कर सकते हैं जो स्वाभाविक रूप से शोर के प्रति अधिक मजबूत होते हैं, जो कि लोकल डिफरेंशियल प्राइवेसी (local differential privacy) से संबंधित अनुप्रयोगों के लिए विशेष रूप से मूल्यवान है, जहाँ उपयोगकर्ता गोपनीयता के लिए इनपुट गड़बड़ी आवश्यक है। यह कार्य सुझाव देता है कि "अनरोल्ड" परिप्रेक्ष्य केवल एक सैद्धांतिक व्याख्या नहीं है, बल्कि एक व्यावहारिक प्रशिक्षण उद्देश्य है जो बिना किसी आर्किटेक्चरल बदलाव के सामान्यीकरण और मजबूती में ठोस सुधार प्रदान करता है।