🤖 machine learning

Learning Affine-Equivariant Proximal Operators

यह शोध पत्र एफ़ाइन-इक्विवैरिएंट लर्नड प्रॉक्सिमल नेटवर्क्स (AE-LPNs) को प्रस्तुत करता है, जो एक नवीन ढांचा है जो सटीक प्रॉक्सिमल ऑपरेटर्स की गणना करने के लिए न्यूरल नेटवर्क्स का उपयोग करता है और प्रमाणित रूप से शिफ्ट और स्केल इक्विवैरिएंस बनाए रखता है, जिससे इमेज डिनोइजिंग जैसे कार्यों में आउट-ऑफ-डिस्ट्रीब्यूशन नॉइज़ और एफ़ाइन ट्रांसफॉर्मेशन के प्रति मजबूती काफी बढ़ जाती है।

मूल लेखक: Oriel Savir, Zhenghan Fang, Jeremias Sulam

प्रकाशित 2026-04-20

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Oriel Savir, Zhenghan Fang, Jeremias Sulam

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक धुंधली, शोर वाली तस्वीर को ठीक करने की कोशिश कर रहे हैं। कंप्यूटर विज्ञान की दुनिया में, इसे एक "इनवर्स प्रॉब्लम" (inverse problem) कहा जाता है। आपके पास एक खराब हुई तस्वीर है, और आप यह पता लगाना चाहते हैं कि मूल, आदर्श तस्वीर कैसी दिखती थी।

इसे करने के लिए, कंप्यूटर एक गणितीय उपकरण का उपयोग करते हैं जिसे प्रॉक्सिमल ऑपरेटर (Proximal Operator) कहा जाता है। इस उपकरण को एक बहुत ही स्मार्ट "डिनोइजिंग फिल्टर" (शोर हटाने वाला फिल्टर) के रूप में समझें। यह एक बिखरे हुए पिक्सेल को देखता है और पूछता है, "पिक्सेल का सबसे संभावित साफ मान क्या है, जो मुझे यह बताता है कि तस्वीरें आमतौर पर कैसी दिखती हैं?"

समस्या: वह "स्मार्ट" फिल्टर जो भ्रमित हो जाता है

हाल ही में, वैज्ञानिकों ने "लर्न्ड प्रॉक्सिमल नेटवर्क्स" (LPNs) बनाए। ये AI मॉडल इन स्मार्ट फिल्टरों के रूप में प्रशिक्षित किए गए हैं। ये बेहतरीन हैं क्योंकि ये कठोर, पूर्व-लिखित नियमों के बजाय डेटा से सीखते हैं।

हालाँकि, इसमें एक पेच है। वास्तविक दुनिया की तस्वीरें कुछ नियमों का पालन करती हैं जो हमेशा लागू होते हैं:

शिफ्ट इक्विवेरिएंट (Shift Equivariance): यदि आप किसी तस्वीर को बाईं ओर खिसकाते हैं, तो साफ की गई तस्वीर को भी बाईं ओर खिसकना चाहिए। फिल्टर को इस बात से भ्रमित नहीं होना चाहिए कि वस्तु हिल गई है।
स्केल इक्विवेरिएंट (Scale Equivariance): यदि आप किसी तस्वीर को उज्ज्वल (वैल्यू को बढ़ाना) या गहरा (वैल्यू को कम करना) करते हैं, तो फिल्टर को अपनी सफाई की प्रक्रिया को आनुपातिक रूप से समायोजित करना चाहिए। यदि कोई छाया गहरी होती है, तो फिल्टर को अचानक यह नहीं सोचना चाहिए कि वह एक ब्लैक होल है; उसे बस नई चमक के सापेक्ष उसे साफ करना चाहिए।

मानक AI फिल्टर अक्सर इसमें विफल रहते हैं। यदि आप उन्हें अंधेरे चित्रों पर प्रशिक्षित करते हैं, तो वे उज्ज्वल चित्रों पर बुरी तरह विफल हो सकते हैं। यदि आप उन्हें छवि के एक हिस्से पर प्रशिक्षित करते हैं, तो वे दूसरे हिस्से पर अजीब व्यवहार कर सकते हैं। उनमें इस बात की "कॉमन सेंस" (सामान्य समझ) की कमी होती है कि दुनिया कैसे काम करती है।

समाधान: "अफ़ाइन-इक्विवेरिएंट" (Affine-Equivariant) फिल्टर

इस पेपर के लेखक, ओरियल सवीर, झेंगहान फेंग और जेरेमियास सुलम, एक ऐसा फिल्टर बनाना चाहते थे जो गारंटी देता है कि वह इन नियमों का पालन करेगा। वे अपने नए आविष्कार को AE-LPNs (अफ़ाइन-इक्विवेरिएंट लर्न्ड प्रॉक्सिमल नेटवर्क्स) कहते हैं।

यहाँ एक सरल उपमा दी गई है कि उन्होंने इसे कैसे बनाया:

1. "आकार बदलने वाला केक" (गणितीय ट्रिक)

कल्पना कीजिए कि आप एक केक (गणितीय फलन/function) बना रहे हैं जो आपके फिल्टर का प्रतिनिधित्व करता है।

पुराना तरीका: आप बस एक केक बनाते हैं। कभी-कभी इसका स्वाद अच्छा होता है, कभी-कभी नहीं। यदि आप ओवन का तापमान (स्केल) बदलते हैं या केक को किसी दूसरी मेज पर ले जाते हैं (शिफ्ट), तो केक ढह सकता है या उसका स्वाद अजीब हो सकता है।
नया तरीका (AE-LPN): लेखकों ने महसूस किया कि यदि फिल्टर को चमक और स्थिति का सम्मान करना है, तो "केक" (फिल्टर के पीछे का गणित) को एक विशिष्ट आकार का होना चाहिए।
- उन्होंने महसूस किया कि यदि केक एक विशिष्ट तरीके से पूर्णतः सममित (mathematically, "homogeneous of degree 2") है, तो ऊपर की आइसिंग (वास्तविक फिल्टर आउटपुट) अपने आप सही ढंग से समायोजित हो जाएगी, चाहे आप केक को कितना भी खींचें या हिलाएं।
- उन्होंने अपने AI को एक विशेष रेसिपी (एक न्यूरल नेटवर्क) का उपयोग करके बनाया जो "केक" को इस पूर्ण समरूपता को बनाए रखने के लिए मजबूर करती है। उन्होंने "बायस" (जैसे अतिरिक्त चीनी जोड़ना जो पैटर्न में फिट नहीं बैठता) को हटा दिया और विशेष सामग्रियों (एक्टिवेशन फंक्शन्स) का उपयोग किया जो केवल स्केल अप या डाउन करते हैं, कभी भी बेतरतीब ढंग से शिफ्ट नहीं होते।

2. "औसत" बनाम "अंतर"

"शिफ्ट" की समस्या (तस्वीर को हिलाने) को संभालने के लिए, उन्होंने छवि को दो भागों में विभाजित किया:

औसत (The Average): पूरी छवि की समग्र चमक।
विवरण (The Detail): प्रत्येक पिक्सेल उस औसत से कैसे भिन्न होता है।

उन्होंने AI को केवल "अंतर" वाले भाग से सीखने के लिए सिखाया। क्यों? क्योंकि "अंतर" वाला हिस्सा इस बात की परवाह नहीं करता कि पूरी छवि उज्ज्वल है या गहरी; उसे केवल आकृतियों और किनारों की परवाह होती है। फिर, वे अंत में "औसत" चमक को वापस जोड़ देते हैं। यह सुनिश्चित करता है कि यदि आप पूरी छवि को उज्ज्वल करते हैं, तो फिल्टर परिणाम को बिल्कुल उसी अनुपात में उज्ज्वल कर देगा।

यह क्यों मायने रखता है? (वास्तविक दुनिया का प्रभाव)

पेपर ने दो चीजों पर इसका परीक्षण किया:

सिंथेटिक गणितीय समस्याएं: उन्होंने यह साबित करने के लिए नकली डेटा बनाया कि गणित काम करता है। AE-LPN ने "परफेक्ट" फिल्टर सीखा, जबकि अन्य तरीकों ने एक "ठीक-ठाक" फिल्टर सीखा जो नियमों को तोड़ देता है।
वास्तविक छवि डिनोइजिंग (Denoising): उन्होंने वास्तविक फोटो लिए और उनमें शोर (noise) जोड़ा।
- परीक्षण: उन्होंने AI को एक विशिष्ट मात्रा में शोर (जैसे 10% स्टैटिक) वाली छवियों पर प्रशिक्षित किया। फिर, उन्होंने इसे अलग-अलग शोर (20%, 50%, या यहाँ तक कि 0%) वाली छवियों पर टेस्ट किया।
- परिणाम: मानक AI फिल्टर भ्रमित हो गए और छवियां और खराब हो गईं। AE-LPN मजबूत रहा। क्योंकि इसने "चमक के नियमों" को समझ लिया था, यह उन छवियों को भी साफ कर सका जहाँ शोर का स्तर प्रशिक्षण के समय के शोर से बिल्कुल अलग था।

मुख्य निष्कर्ष

मानक AI डिनोइज़र को एक ऐसे छात्र के रूप में समझें जिसने एक विशिष्ट परीक्षा के उत्तर रट लिए हैं। यदि आप परीक्षा को थोड़ा भी बदल देते हैं, तो वे विफल हो जाते हैं।

AE-LPN एक ऐसे छात्र की तरह है जो विषय के सिद्धांतों को समझता है। वह जानता है कि यदि आप एक तस्वीर को हिलाते हैं, तो उत्तर भी उसके साथ चलता है। यदि आप लाइटिंग बदलते हैं, तो वह आनुपातिक रूप से समायोजित हो जाता है।

AI को इन भौतिक नियमों (शिफ्ट और स्केल) का सम्मान करने के लिए मजबूर करके, लेखकों ने एक ऐसा टूल बनाया है जो न केवल स्मार्ट है, बल्कि वास्तविक दुनिया में बहुत अधिक विश्वसनीय भी है, जहाँ स्थितियाँ प्रशिक्षण डेटा के समान कभी नहीं होती हैं। यह मेडिकल इमेजिंग, सैटेलाइट फोटोग्राफी और ऐसी किसी भी स्थिति में एक बड़ी प्रगति है जहाँ आपको यह जाने बिना सिग्नल को साफ करने की आवश्यकता होती है कि आप किस प्रकार के शोर का सामना कर रहे हैं।

यहाँ साविर, फंग और सुलम के शोध पत्र "Learning Affine-Equivariant Proximal Operators" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

सिग्नल प्रोसेसिंग और मशीन लर्निंग (जैसे इमेज डिनोइजिंग, डीब्लरिंग, सुपर-रिज़ॉल्यूशन) में इनवर्स प्रॉब्लम्स (inverse problems) को हल करने के लिए अक्सर रेगुलराइजेशन (regularization) की आवश्यकता होती है। एक शक्तिशाली दृष्टिकोण इटरेटिव सॉल्वर (iterative solvers) के सब-स्टेप्स के रूप में प्रॉक्सिमल ऑपरेटर्स ( $\text{prox}_R$ ) का उपयोग करना है।

अंतराल (The Gap): हालांकि लर्नड प्रॉक्सिमल नेटवर्क्स (LPNs) को डेटा-ड्रिवन रेगुलराइजर्स सीखने के लिए विकसित किया गया है जो कि सटीक प्रॉक्सिमल ऑपरेटर्स होने की गारंटी देते हैं (एक कॉनवेक्स पोटेंशियल के ग्रेडिएंट को परिभाषित करके), लेकिन उनमें संरचनात्मक बाधाओं (structural constraints) की कमी है।
चुनौती (The Challenge): कई वास्तविक दुनिया के डेटा वितरण विशिष्ट समरूपताओं (symmetries) को प्रदर्शित करते हैं, विशेष रूप से शिफ्ट (shift) (ट्रांसलेशन) और स्केल (scale) (इंटेंसिटी) इक्विवैरिएंस (equivariance)। मानक LPNs स्वाभाविक रूप से इन समरूपताओं का सम्मान नहीं करते हैं।
द्वंद्व (The Conflict): न्यूरल नेटवर्क में इक्विवैरिएंस लागू करने के मौजूदा तरीके (जैसे नॉर्मलाइजेशन ट्रिक्स या सॉर्टपूल जैसे विशिष्ट आर्किटेक्चरल डिज़ाइन) उस गणितीय गारंटी को तोड़ देते हैं जो यह सुनिश्चित करती है कि नेटवर्क एक वैध प्रॉक्सिमल ऑपरेटर (अर्थात, एक कॉनवेक्स फंक्शन का ग्रेडिएंट) का प्रतिनिधित्व करता है। विशेष रूप से, एक फंक्शन एफाइन-इक्विवैरिएंट (affine-equivariant) हो सकता है, लेकिन उसका ग्रेडिएंट (प्रॉक्सिमल ऑपरेटर) वैसा नहीं हो सकता है।

मुख्य प्रश्न: हम ऐसे डेटा-ड्रिवन लर्नड प्रॉक्सिमल ऑपरेटर्स कैसे डिज़ाइन कर सकते हैं जो प्रमाणित रूप से सटीक प्रॉक्सिमल ऑपरेटर्स हों और साथ ही एफाइन-इक्विवैरिएंट (शिफ्ट और स्केलिंग के प्रति अपरिवर्तनीय) भी हों?

2. कार्यप्रणाली: एफाइन-इक्विवैरिएंट लर्नड प्रॉक्सिमल नेटवर्क्स (AE-LPNs)

लेखक AE-LPNs का प्रस्ताव करते हैं, जो एक ऐसा ढांचा है जो अंतर्निहित कॉनवेक्स पोटेंशियल फंक्शन ( $\psi$ ) पर विशिष्ट शर्तों को लागू करके प्रॉक्सिमल ऑपरेटर्स का निर्माण करता है।

सैद्धांतिक आधार (Theoretical Foundation)

प्रॉक्सिमल ऑपरेटर को एक कॉनवेक्स पोटेंशियल के ग्रेडिएंट के रूप में परिभाषित किया गया है: $f(x) = \nabla \psi(x)$ । यह सुनिश्चित करने के लिए कि $f$ एफाइन-इक्विवैरिएंट है ($f(ax+b) = af(x)+b $), लेखक$ \psi$ के लिए शर्तें निकालते हैं:

स्केल इक्विवैरिएंस (Scale Equivariance): यदि $\psi$ , डिग्री 2 के होमोजेनियस (homogeneous of degree 2) है (अर्थात, $\psi(ax) = a^2\psi(x)$ ), तो इसका ग्रेडिएंट डिग्री 1 का होमोजेनियस (स्केल-इक्विवैरिएंट) होगा।
शिफ्ट इक्विवैरिएंस (Shift Equivariance): शिफ्ट को संभालने के लिए, पोटेंशियल को इनपुट को उसके मीन (mean) और उसके ज़ीरो-मीन घटक में विभाजित करना चाहिए।

आर्किटेक्चरल निर्माण (Architectural Construction)

AE-LPN का निर्माण निम्नलिखित चरणों के माध्यम से किया जाता है:

बेस कॉनवेक्स नेटवर्क: एक इनपुट कॉनवेक्स न्यूरल नेटवर्क (ICNN) के साथ शुरुआत करें। कॉनवेक्सिटी सुनिश्चित करने के लिए, वेट्स (weights) को गैर-ऋणात्मक (non-negative) रखा जाता है, और नॉन-डिक्रीजिंग एक्टिवेशन फंक्शन का उपयोग किया जाता है।
स्केल इक्विवैरिएंस:
- ICNN से सभी बायस (bias) टर्म्स हटा दें।
- SortPool (एक सॉर्टिंग-आधारित नॉन-लिनियरिटी) को एक्टिवेशन फंक्शन के रूप में उपयोग करें, जो कि 1-होमोजेनियस है।
- इस ICNN के आउटपुट का वर्ग (square) करें। यदि बेस नेटवर्क का आउटपुट $\Psi_\theta(x)$ है, तो नया पोटेंशियल $h_\theta(x) = (\Psi_\theta(x))^2$ है। यह सुनिश्चित करता है कि $h_\theta$ , डिग्री 2 का होमोजेनियस है।
शिफ्ट इक्विवैरिएंस:
- इनपुट $x$ को इसके मीन घटक ($Px $) और ज़ीरो-मीन घटक ($ (I-P)x $) में विभाजित करें, जहाँ$ P$ ऑल-वन्स वेक्टर पर प्रोजेक्शन है।
- अंतिम पोटेंशियल $\tilde{h}(x)$ को इस प्रकार परिभाषित करें:
  $\tilde{h}(x) = h_\theta((I-P)x) + \frac{1}{2}\|Px\|_2^2$
- पहला पद आकार (shape) को संभालता है (स्केल इक्विवैरिएंस), और दूसरा पद (मीन के संबंध में क्वाड्रेटिक) यह सुनिश्चित करता है कि ग्रेडिएंट शिफ्ट को सही ढंग से हैंडल करे।
अंतिम ऑपरेटर: AE-LPN इस निर्मित पोटेंशियल का ग्रेडिएंट है: $\hat{x} = \nabla \tilde{h}_\theta(x)$ ।

प्रशिक्षण रणनीति (Training Strategy)

मॉडल्स को प्रॉक्सिमल मैचिंग लॉस ( $L_{PM}$ ) का उपयोग करके प्रशिक्षित किया जाता है, जो यह सुनिश्चित करता है कि सीखा गया ऑपरेटर डेटा डिस्ट्रीब्यूशन के लिए मैक्सिमम ए पोस्टेरिओरी (MAP) एस्टीमेटर का अनुमान लगाता है।

प्रक्रिया: क्लीन सिग्नल्स $x$ को गॉसियन नॉइज़ $y = x + z$ के साथ दूषित किया जाता है। नेटवर्क एक रिस्क फंक्शन को कम करता है जो डीनॉइज्ड आउटपुट और ग्राउंड ट्रुथ के बीच की दूरी को मापता है।
लॉस फंक्शन: एक विशिष्ट लॉस $d_\gamma$ का उपयोग किया जाता है जो $\gamma \to 0$ होने पर सही रेगुलराइज़र की ओर अभिसरित (converge) होता है।
शेड्यूल: प्रशिक्षण $\ell_1$ लॉस प्री-ट्रेनिंग चरण के साथ शुरू होता है, जिसके बाद प्रॉक्सिमल मैचिंग लॉस के साथ ऑप्टिमाइजेशन किया जाता है जहाँ $\gamma$ को धीरे-धीरे कम किया जाता है।

3. मुख्य योगदान (Key Contributions)

सैद्धांतिक प्रमाण: यह पेपर सिद्ध करता है कि यदि एक कॉनवेक्स पोटेंशियल को 2-होमोजेनियस बनाया जाता है और मीन के संबंध में उचित रूप से विभाजित किया जाता है, तो उसका ग्रेडिएंट प्रमाणित रूप से एक एफाइन-इक्विवैरिएंट प्रॉक्सिमल ऑपरेटर होता है।
नवीन आर्किटेक्चर: AE-LPNs का परिचय, जो ICNNs, बायस रिमूवल, SortPool एक्टिवेशन और एक विशिष्ट आउटपुट स्क्वेयरिंग/डिकंपोजिशन रणनीति को जोड़ते हैं ताकि कॉनवेक्सिटी और इक्विवैरिएंस बाधाओं को एक साथ पूरा किया जा सके।
"नॉर्मलाइजेशन ट्रिक" की खामी का समाधान: लेखक प्रदर्शित करते हैं कि मानक नॉर्मलाइजेशन ट्रिक्स (जैसे $z$ -स्कोर नॉर्मलाइजेशन) उस कॉनवेक्सिटी गारंटी को तोड़ देते हैं जो एक नेटवर्क को वास्तविक प्रॉक्सिमल ऑपरेटर बनाने के लिए आवश्यक है। AE-L्हPNs इसे बिना किसी ट्रिक के हल करते हैं।
डिस्ट्रीब्यूशन शिफ्ट के प्रति मजबूती: यह फ्रेमवर्क ऐसे लर्नड ऑपरेटर्स को सक्षम बनाता है जो अनदेखे नॉइज़ लेवल और एफाइन ट्रांसफॉर्मेशन के प्रति सामान्यीकरण (generalize) कर सकते हैं।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने सिंथेटिक डेटा और वास्तविक दुनिया की इमेज डिनोइजिंग (BSDS500 डेटासेट) पर AE-LPNs का मूल्यांकन किया।

सिंथेटिक उदाहरण (Split Normal Distribution):
- कार्य: स्प्लिट नॉर्मल डिस्ट्रीब्यूशन के प्रॉक्सिमल ऑपरेटर को सीखना।
- परिणाम: केवल AE-LPN ही वास्तविक स्केल-इक्विवैरिएंट प्रॉक्सिमल ऑपरेटर और सही लॉग-प्रायर (log-prior) को सफलतापूर्वक सीख सका। "नॉर्मलाइजेशन ट्रिक" ने एक स्केल-इक्विवैरिएंट डिनोइज़र तो बनाया, लेकिन वह एक सटीक प्रॉक्सिमल ऑपरेटर होने में विफल रहा (कॉन्वेक्स ग्रेडिएंट प्रॉपर्टी का उल्लंघन किया)।
इमेज डिनोइजिंग (आउट-ऑफ-डिस्ट्रीब्यूशन नॉइज़ लेवल्स):
- मॉडल्स को नॉइज़ लेवल $\sigma=0.1$ पर प्रशिक्षित किया गया था।
- परीक्षण: प्रदर्शन का मूल्यांकन विभिन्न नॉइज़ स्तरों ( $\sigma \in [0.05, 0.7]$ ) पर किया गया।
- परिणाम: जबकि मानक LPNs अपने ट्रेनिंग नॉइज़ लेवल पर सबसे अच्छा प्रदर्शन करते हैं, AE-LPNs उच्च और निम्न नॉइज़ स्तरों पर काफी बेहतर प्रदर्शन करते हैं। यह नॉइज़ इंटेंसिटी में डिस्ट्रीब्यूशन शिफ्ट के प्रति बेहतर मजबूती (robustness) को दर्शाता है। स्केल इक्विवैरिएंस को इस मजबूती के प्रमुख कारक के रूप में पाया गया।
एफाइन ट्रांसफॉर्मेशन इनवेरियंस (Affine Transformation Invariance):
- परीक्षण: नेटवर्क का परीक्षण उन छवियों पर किया गया जिन्हें $g(x) = \alpha x + (1-\alpha)$ (ब्राइटनेस परिवर्तनों का अनुकरण) द्वारा रूपांतरित किया गया था।
- मेट्रिक: $f(g(x))$ और $g(f(x))$ के बीच PSNR।
- परिणाम: AE-LPNs ने लगभग पूर्ण PSNR प्राप्त किया (नगण्य त्रुटि), जो यह सिद्ध करता है कि वे छवि की एफाइन संरचना को सख्ती से बनाए रखते हैं। अन्य मॉडल (नॉर्मलाइजेशन ट्रिक वाले वेरिएंट सहित) इस संरचनात्मक निरंतरता को बनाए रखने में विफल रहे।

5. महत्व और प्रभाव (Significance and Impact)

सैद्धांतिक कठोरता: यह कार्य इनवर्स प्रॉब्लम्स में डीप लर्निंग की लचीलापन और गणितीय गारंटी के बीच के अंतर को पाटता है। यह सुनिश्चित करता है कि लर्नड डिनोइज़र्स केवल "ब्लैक बॉक्स" नहीं हैं बल्कि वैध प्रॉक्सिमल ऑपरेटर्स हैं, जो PnP ADMM जैसे इटरेटिव एल्गोरिदम के अभिसरण (convergence) के लिए महत्वपूर्ण है।
व्यावहारिक उपयोगिता: इक्विवैरिएंस को लागू करके, AE-LPNs सीखने की सांख्यिकीय जटिलता को कम करते हैं और सामान्यीकरण में सुधार करते हैं। यह मेडिकल इमेजिंग (जैसे CT रिकंस्ट्रक्शन) और रिमोट सेंसिंग में विशेष रूप से मूल्यवान है, जहाँ डेटा अधिग्रहण स्थितियों के कारण तीव्रता स्केलिंग या ऑफसेट में भिन्न हो सकता है, और जहाँ प्रशिक्षण डेटा में सभी संभावित विविधताओं को कवर करना उपलब्ध नहीं होता है।
भविष्य की दिशाएं: लेखक सुझाव देते हैं कि यह फ्रेमवर्क सैंपल कॉम्प्लेक्सिटी को बेहतर बना सकता है और अन्य इनवर्स प्रॉब्लम्स में लागू किया जा सकता है जहाँ विंडोइंग और इंटेंसिटी स्केलिंग सर्वव्यापी है।