🤖 machine learning

Reusing Trajectories in Policy Gradients Enables Fast Convergence

यह शोध पत्र RT-PG को प्रस्तुत करता है, जो एक नवीन पॉलिसी ग्रेडिएंट एल्गोरिदम है जो कठोरता से सिद्ध करता है कि एक पावर मीन-करेक्टेड मल्टीपल इम्पोर्टेंस वेटिंग एस्टीमेटर के माध्यम से पिछले ऑफ-पॉलिसी ट्राजेक्टरीज का पुन: उपयोग करना अभिसरण (convergence) को $\tilde{O}(\epsilon^{-1})$ की सैंपल कॉम्प्लेक्सिटी तक त्वरित करता है, जिससे पॉलिसी ग्रेडिएंट विधियों के लिए सर्वोत्तम-ज्ञात दर प्राप्त होती है।

मूल लेखक: Alessandro Montenegro, Federico Mansutti, Marco Mussi, Matteo Papini, Alberto Maria Metelli

प्रकाशित 2026-06-04

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Alessandro Montenegro, Federico Mansutti, Marco Mussi, Matteo Papini, Alberto Maria Metelli

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को चलना सिखाने की कोशिश कर रहे हैं, जिसमें आप उसे कोशिश करने, असफल होने और फिर से प्रयास करने देते हैं। रीइन्फोर्समेंट लर्निंग (Reinforcement Learning) इसी तरह काम करती है। रोबोट (एजेंट) कुछ क्रियाएं करता है, देखता है कि क्या हुआ, और उसे एक स्कोर (रिवॉर्ड) मिलता है। लक्ष्य यह पता लगाना है कि उच्चतम स्कोर पाने के लिए सबसे अच्छा तरीका क्या है।

यह शोध पत्र इस रोबोट को तेजी से सिखाने का एक नया तरीका पेश करता है, जिसे RT-PG कहा जाता है। यहाँ सरल उपमाओं (analogies) का उपयोग करके इसका विवरण दिया गया है।

समस्या: "ताज़ा डेटा" की बाधा (The "Fresh Data" Bottleneck)

पारंपरिक तरीके (जैसे मानक पॉलिसी ग्रेडिएंट्स) एक ऐसे छात्र की तरह हैं जो केवल सबसे हालिया होमवर्क असाइनमेंट ही पढ़ता है।

यह कैसे काम करता है: रोबोट एक रास्ता आज़माता है, एक स्कोर प्राप्त करता है, अपने मस्तिष्क को अपडेट करता है, और फिर तुरंत पुराने रास्ते को भूल जाता है। यह केवल अपने बिल्कुल नए प्रयास से प्राप्त ताज़ा डेटा का उपयोग करता है।
नुकसान: यह अविश्वसनीय रूप से बर्बादी भरा है। यह अपने पुराने गणित के नोट्स को हर दिन फेंक देने और केवल आज के एक अकेले सवाल को पढ़ने जैसा है। विषय में कुशल होने के लिए, आपको लाखों प्रयास (ट्रैजेक्टरीज) करने पड़ते हैं क्योंकि आप अपने पिछले गलतियों या सफलताओं से नहीं सीख रहे हैं।

समाधान: "रीसाइक्लिंग" रणनीति (The "Recycling" Strategy)

लेखक पूछते हैं: पुराना होमवर्क क्यों फेंक दिया जाए? क्यों न तेजी से सीखने के लिए पिछले कुछ हफ्तों के प्रयासों को देखा जाए?

वे RT-PG का प्रस्ताव देते हैं, जो रोबोट को सिखाने के लिए पिछले प्रयासों (ट्रैजेक्टरीज) को रीसायकल करता है। हालाँकि, पुराने डेटा को देखना मुश्किल है। यदि रोबोट ने कल अपनी रणनीति बदल दी है, तो एक पुराना प्रयास आज की वास्तविकता से बहुत अलग दिख सकता है। यदि आप उन्हें एक समान मानते हैं, तो आप भ्रमित हो जाएंगे (गणितीय रूप से, यह "बायस" या "शोर" पैदा करता है)।

सीक्रेट सॉस: "स्मार्ट फ़िल्टर" (The "Smart Filter")

रीसाइक्लिंग को काम करने लायक बनाने के लिए, लेखकों ने एक नया गणितीय उपकरण बनाया जिसे MPM एस्टिमेटर कहा जाता है। इसे एक स्मार्ट फ़िल्टर या गुणवत्ता नियंत्रण निरीक्षक (Quality Control Inspector) के रूप में सोचें।

पुराने डेटा के साथ समस्या: यदि आप उस रास्ते को देखते हैं जो रोबोट ने तब लिया था जब वह एक पूर्ण नौसिखिया था, तो वह अब उसके चलने के तरीके से बहुत अलग हो सकता है। यदि आप उस पुराने रास्ते को बहुत अधिक महत्व देते हैं, तो यह रोबोट को भ्रमित कर देता है।
स्मार्ट फ़िल्टर: MPM एस्टिमेटर जाँचता है: "यह पुराना प्रयास वर्तमान में रोबोट जो कर रहा है उससे कितना समान है?"
- यदि पुराना प्रयास आज की रणनीति के बहुत समान है, तो फ़िल्टर कहता है, "बहुत बढ़िया! इस डेटा का भारी उपयोग करें।"
- यदि पुराना प्रयास बहुत अलग समय का है (जब रोबोट कुछ बिल्कुल अलग कर रहा था), तो फ़िल्टर कहता है, "सावधान रहें। यह डेटा जोखिम भरा है। इसका महत्व कम कर दें।"
परिणाम: अब रोबोट बिना भ्रमित हुए अपने पिछले प्रयासों के एक विशाल पुस्तकालय का उपयोग कर सकता है। वह केवल अंतिम पृष्ठ से नहीं, बल्कि अपनी क्रियाओं की "इतिहास पुस्तक" से सीखता है।

उपमा: शेफ और रेसिपी बुक (The Analogy: The Chef and the Recipe Book)

पुराना तरीका (वैनिला PG): एक शेफ एक नया व्यंजन चखता है, नमक को एडजस्ट करता है, और फिर तुरंत पिछले व्यंजन की रेसिपी को फेंक देता है। वे अगले कदम को तय करने के लिए केवल नए वाले को चखते हैं। रेसिपी को सही करने के लिए उन्हें हजारों व्यंजन पकाने पड़ते हैं।
नया तरीका (RT-PG): एक शेफ द्वारा पकाए गए पिछले 10 व्यंजनों की एक नोटबुक रखता है। नया व्यंजन बनाते समय, वे नए व्यंजन को चखते हैं लेकिन नोटबुक को भी देखते हैं।
- यदि नोटबुक कहती है, "पिछले मंगलवार का सूप लगभग परफेक्ट था, बस थोड़ा और नमक चाहिए था," तो शेफ उस जानकारी का उपयोग करता है।
- यदि नोटबुक कहती है, "पिछले महीने मैंने नमक के साथ मिठाई बनाने की कोशिश की थी (एक गलती)," तो शेफ को एहसास होता है, "वह खाना बनाने की बिल्कुल अलग शैली थी," और वह उस विशिष्ट नोट को अनदेखा कर देता है ताकि वह सूप को खराब न करे।
- "स्मार्ट फ़िल्टर" शेफ की वह अंतर्दृष्टि (intuition) है जिससे उसे पता चलता है कि पुराने नोट्स पर कितना भरोसा किया जाए।

उन्होंने क्या सिद्ध किया?

यह शोध पत्र केवल यह नहीं कहता कि "यह सुनने में अच्छा लगता है।" उन्होंने भारी गणित का उपयोग करके सिद्ध किया:

यह काम करता है: उन्होंने सिद्ध किया कि इन पिछले प्रयासों को रीसायकल करके, रोबोट काफी तेजी से सीखता है।
गति: सर्वोत्तम स्थिति में (सभी पिछले डेटा का पुन: उपयोग करते हुए), रोबोट पुराने तरीकों की तुलना में आधी मेहनत (या उससे भी कम) के साथ एक अच्छा समाधान तक पहुँच जाता है। यह 100 प्रयासों की आवश्यकता से केवल 10 की आवश्यकता तक जाने जैसा है।
यह सुरक्षित है: उन्होंने सिद्ध किया कि भले ही वे पुराने डेटा का उपयोग कर रहे हैं, लेकिन उनके स्मार्ट फ़िल्टर के कारण रोबोट "भ्रमित" नहीं होता या गलत चीजें नहीं सीखता है।

पेच (मेमोरी) (The Catch - Memory)

इसमें एक समझौता (trade-off) है। इस पद्धति का उपयोग करने के लिए, रोबोट को अपने पिछले प्रयासों को याद रखने की आवश्यकता होती है।

पुराना तरीका: बहुत कम मेमोरी की आवश्यकता होती है (केवल पिछला प्रयास)।
नया तरीका: हाल के प्रयासों की एक "विंडो" (जैसे पिछले 8 या 16 प्रयास) को स्टोर करने की आवश्यकता होती है।
शोध पत्र का दावा: लेखक तर्क देते हैं कि यह मेमोरी लागत इस योग्य है क्योंकि यह लंबे समय में बहुत सारा समय और ऊर्जा (डेटा संग्रह) बचाता है। यह एक भौतिक नोटबुक रखने जैसा है: यह आपकी डेस्क पर थोड़ी जगह लेता है, लेकिन यह आपको काम को दोबारा करने में लगने वाले घंटों को बचाने में मदद करता है।

सारांश

यह शोध पत्र RT-PG पेश करता है, जो AI एजेंटों को प्रशिक्षित करने का एक स्मार्ट तरीका है। अतीत को भूलने और केवल वर्तमान को देखने के बजाय, RT-PG बुद्धिमानी से पिछले अनुभवों को रीसायकल करता है। यह यह तय करने के लिए एक "स्मार्ट फ़िल्टर" का उपयोग करता है कि कौन से पुराने अनुभव उपयोगी हैं और कौन से भरोसेमंद नहीं हैं। परिणाम एक ऐसा AI है जो कौशल के समान स्तर तक पहुँचने के लिए बहुत कम प्रयासों का उपयोग करके, काफी तेजी से चलना, गाड़ी चलाना या गेम खेलना सीखता है।

तकनीकी सारांश: पॉलिसी ग्रेडिएंट्स में ट्राजेक्टरीज़ का पुन: उपयोग तेजी से अभिसरण (Convergence) को सक्षम बनाता है

समस्या विवरण

पॉलिसी ग्रेडिएंट (PG) विधियाँ निरंतर नियंत्रण (continuous control) समस्याओं के लिए प्रभावी हैं लेकिन वे खराब सैंपल दक्षता (sample efficiency) से ग्रस्त हैं। मानक "वैनिला" PG एल्गोरिदम (जैसे, REINREINFORCE, GPOMDP) विशेष रूप से ताज़ा ऑन-पॉलिसी डेटा पर निर्भर करते हैं, जिन्हें $\epsilon$ -अनुमानित स्टेशनरी पॉइंट तक पहुँचने के लिए $O(\epsilon^{-2})$ ट्राजेक्टरीज़ की आवश्यकता होती है। यह अक्षमता ग्रेडिएंट अनुमानों के उच्च विचरण (high variance) से उत्पन्न होती है, जो समाप्त नहीं होता क्योंकि ग्रेडिएंट हमेशा नए नमूनों से अनुमानित किए जाते हैं।

जबकि पिछले डेटा (ऑफ-पॉलिसी ट्राजेक्टरीज़ या ग्रेडिएंट्स) का पुन: उपयोग करना दक्षता में सुधार के लिए एक सामान्य रणनीति है, मौजूदा सैद्धांतिक कार्य मुख्य रूप से ग्रेडिएंट पुन: उपयोग (जैसे, SVRPG, SRVRPG, STORM-PG) पर केंद्रित रहे हैं, जो $O(\epsilon^{-3/2})$ तक की दर प्राप्त करते हैं। पिछले ट्राजेक्टरीज़ का पुन: उपयोग, हालांकि सहज है, कठोर सैद्धांतिक दृष्टिकोण से काफी हद तक अनछुआ रहा है। ट्राजेक्टरीज़ के पुन: उपयोग के पिछले प्रयास या तो अभिसरण गारंटी की कमी रखते थे या मजबूत धारणाओं और जटिल अनुमानकों (जैसे, सभी पिछले पॉलिसियों को संग्रहीत करने की आवश्यकता या नेइव इम्पॉर्टेंस वेटिंग के कारण उच्च विचरण) पर निर्भर थे।

मुख्य प्रश्न जिसका समाधान किया गया है वह है: क्या पिछले ऑफ-पpolicy ट्राजेक्टरीज़ का पुन: उपयोग PG विधियों की सैंपल कॉम्प्लेक्सिटी में प्रमाणित सुधार ला सकता है?

कार्यप्रणाली

RT-PG एल्गोरिदम

लेखक RT-PG (Reusing Trajectories – Policy Gradient) प्रस्तावित करते हैं, जो सबसे हालिया $\omega$ इटरेशन से एकत्र की गई ट्राजेक्टरीज़ का लाभ उठाकर पॉलिसी ग्रेडिएंट का अनुमान लगाता है। मुख्य नवाचार मल्टीपल पावर मीन (MPM) एस्टिमेटर है, जो एक सुधारा गया मल्टीपल इम्पॉर्टेंस वेटिंग (MIW) योजना का उपयोग करके ऑन-पॉलिसी और ऑफ-पॉलिसी डेटा को जोड़ता है।

MPM एस्टिमेटर

डेटा के पुन: उपयोग (विशेष रूप से वर्तमान पॉलिसी पैरामीटर्स और पिछले ट्राजेक्टरीज़ के बीच निर्भरता से उत्पन्न होने वाले बायस/पक्षपात) से जुड़ी सांख्यिकीय चुनौतियों को संबोधित करने के लिए, MPM एस्टिमेटर दो प्रमुख तंत्रों का उपयोग करता है:

नियत गुणांक (Deterministic Coefficients): बैलेंस ह्यूरिस्टिक (BH) के विपरीत, जो सभी पिछली पॉलिसियों पर निर्भर गुणांकों का उपयोग करता है (जो "क्रॉस-टाइम बायस" उत्पन्न करता है), RT-PG नियत गुणांक $\alpha_{i,k}$ का उपयोग करता है जो केवल इटरेशन काउंट और विंडो इंडेक्स पर निर्भर करते हैं। यह क्रॉस-टाइम बायस को समाप्त करता है।
पावर मीन (PM) सुधार: यह सुनिश्चित करने के लिए कि इम्पॉर्टेंस वेट्स सीमित (bounded) रहें (एक "डिफेंसिव" गुण) और नियत गुणांकों से उत्पन्न होने वाले बायस को नियंत्रित करने के लिए, एस्टिमेटर वैनिला इम्पॉर्टेंस वेट्स पर PM सुधार लागू करता है। ट्राजेक्टरी $\tau$ के लिए सुधारा गया वेट, जिसे नीति $\pi_{\theta_i}$ के तहत एकत्र किया गया था और $\pi_{\theta_k}$ के तहत मूल्यांकित किया गया था, इस प्रकार है:
$\left( (1 - \lambda_{i,k}) \frac{p_{\theta_i}(\tau)}{p_{\theta_k}(\tau)} + \lambda_{i,k} \right)^{-1}$
जहाँ $\lambda_{i,k} \in [0, 1]$ एक सुधार पैरामीटर है। यह शब्द वैनिला वेट और 1 के बीच एक हार्मोनिक मीन (harmonic mean) का प्रतिनिधित्व करता है, जो वेट को $1/\lambda_{i,k}$ तक सीमित रखता है।

सैद्धांतिक विश्लेषण

लेखक MPM एस्टिमेटर का कठोर परिमित-समय (finite-time) विश्लेषण प्रदान करते हैं:

कंसन्ट्रेशन बाउंड्स (Concentration Bounds): वे मार्टिंगेल के लिए फ्रीडमैन की असमानता (Freedman's inequality) और वेक्टर-वैल्यूड ग्रेडिएंट को संभालने के लिए एक कवरिंग तर्क का उपयोग करके एस्टिमेटर के लिए उच्च-संभाव्यता कंसन्ट्रेशन बाउंड्स प्राप्त करते हैं।
बायस नियंत्रण: विश्लेषण स्पष्ट रूप से दो स्रोतों से उत्पन्न बायस को अलग करता है और नियंत्रित करता है:
- टारगेट बायस: क्योंकि टारगेट पैरामीटर $\theta_k$ ट्राजेक्टरी के इतिहास पर निर्भर करता है। इसे इतिहास-निर्भर टारगेट वाले पैरामीटर स्पेस के उपसमुच्चय पर एक कवरिंग तर्क के माध्यम से नियंत्रित किया जाता है।
- PM बायस: PM सुधार टर्म से उत्पन्न होता है। इसे बैच आकार और ट्राजेक्टरी वितरणों के बीच $\chi^2$ -डाइवर्जेंस बाउंड के आधार पर $\lambda_{i,k}$ को सावधानीपूर्वक चुनकर प्रबंधित किया जाता है।

मुख्य योगदान

प्रथम कठोर प्रमाण: यह पेपर पहला सैद्धांतिक प्रमाण प्रदान करता है कि पिछले ऑफ-पॉलिसी ट्राजेक्टरीज़ का पुन: उपयोग PG अभिसरण को महत्वपूर्ण रूप से तेज कर सकता है।
नया एस्टिमेटर (MPM): MPM एस्टिमेटर का परिचय, जो बाउंडेड इम्पॉर्टेंस वेट्स बनाए रखते हुए और क्रॉस-टाइम बायस को समाप्त करते हुए, पिछले $\omega$ इटरेशन से ताज़ा ऑन-पॉलिसी डेटा और ऑफ-पॉलिसी ट्राजेक्टरीज़ को प्रभावी ढंग से मिलाता है।
सुधारित सैंपल कॉम्प्लेक्सिटी:
- आंशिक पुन: उपयोग (Partial Reuse): जब सबसे हालिया $\omega$ इटरेशन (जहाँ $\omega < K$ ) से ट्राजेक्टरीज़ का पुन: उपयोग किया जाता है, तो RT-PG $\tilde{O}(\epsilon^{-2}\omega^{-1})$ की सैंपल कॉम्प्लेक्सिटी प्राप्त करता है।
- पूर्ण पुन: उपयोग (Full Reuse): जब सभी उपलब्ध पिछले ट्राजेक्टरीज़ का पुन: उपयोग किया जाता है (जहाँ $\omega \ge K$ ), तो एल्गोरिदम $\tilde{O}(\epsilon^{-1})$ की सैंपल कॉम्प्लेक्सिटी प्राप्त करता है। यह PG विधियों के लिए साहित्य में ज्ञात सर्वोत्तम दरों से मेल खाता है और मानक $O(\epsilon^{-2})$ दर की तुलना में एक महत्वपूर्ण सुधार है।
व्यावहारिक कार्यान्वयन: RT-PG का एक व्यावहारिक संस्करण प्रस्तावित किया गया है जो नीति विषमता (divergence) के अनुभवजन्य अनुमानों के आधार पर ऑफ-पॉलिसी डेटा को अनुकूल रूप से वेट करता है, जिससे अभ्यास में वैश्विक बाउंड $D$ की आवश्यकता समाप्त हो जाती है।

परिणाम

सैद्धांतिक परिणाम

मानक धारणाओं (ट्राजेक्टरी वितरणों के बीच सीमित $\chi^2$ -डाइवर्जेंस और पॉलिसी क्लास की नियमितता) के तहत, लेखक सिद्ध करते हैं कि RT-PG एक $\epsilon$ -अनुमानित स्टेशनरी पॉइंट पाता है:

फुल रियूज रिजीम में $\tilde{O}(\epsilon^{-1})$ सैंपल कॉम्प्लेक्सिटी के साथ।
पार्शियल रियूज रिजीम में $\tilde{O}(\epsilon^{-2}\omega^{-1})$ सैंपल कॉम्प्लेक्सिटी के साथ।

ये परिणाम पिछली पॉलिसियों को संग्रहीत करने की आवश्यकता के बिना (BH-आधारित विधियों के विपरीत) प्राप्त होते हैं, केवल पिछली ट्राजेक्टरीज़ को संग्रहीत करने की आवश्यकता होती है।

अनुभवजन्य परिणाम (Empirical Results)

लीनियर गौसियन और डीप गौसियन पॉलिसियों का उपयोग करके निरंतर नियंत्रण कार्यों (Cart Pole, Half Cheetah, Swimmer) पर प्रयोग किए गए।

सैंपल दक्षता: RT-PG, सैंपल दक्षता के मामले में मानक ऑन-पॉलिसी बेसलाइन्स (GPOMDP) और अत्याधुनिक वेरिएंस-रिड्यूस्ड विधियों (SVRPG, SRVRPG, STORM-PG, DEF-PG) को लगातार पछाड़ता है। Half Cheetah वातावरण में, RT-PG ने अधिकांश बेसलाइन्स के अंतिम प्रदर्शन का लगभग दोगुना प्रदर्शन किया।
ट्राजेक्टरी पुन: उपयोग प्रभाव: विंडो आकार $\omega$ को बदलते हुए प्रयोगों ने दिखाया कि पुन: उपयोग विंडो को बढ़ाने से अभिसरण तेज होता है। RT-PG ने बहुत बड़े विंडोज के लिए घटते रिटर्न (diminishing returns) दिखाए लेकिन मध्यम पुन: उपयोग के साथ भी बेसलाइन्स से काफी बेहतर प्रदर्शन किया।
नेइव पुन: उपयोग के साथ तुलना: RT-PG ने MIW-PG (जो यूनिफॉर्म वेटिंग का उपयोग करता है) को काफी पीछे छोड़ दिया, जो विचरण को नियंत्रित करने में PM सुधार और अनुकूलित वेटिंग स्कीम की प्रभावशीलता की पुष्टि करता है।
मेमोरी दक्षता: BH-आधारित विधियों के विपरीत जिन्हें वेट की गणना करने के लिए सभी पिछले पॉलिसी पैरामीटर्स को संग्रहीत करने की आवश्यकता होती है, RT-PG को केवल पिछली ट्राजेक्टरीज़ को संग्रहीत करने की आवश्यकता होती है, जिससे यह उच्च-आयामी पॉलिसी स्पेस के लिए अधिक स्केलेबल बन जाता है।

महत्व और दावे

पेपर यह दावा करता है कि यह पॉलिसी ग्रेडिएंट अभिसरण को तेज करने के लिए एक व्यवहार्य और शक्तिशाली तंत्र के रूप में ट्राजेक्टरी पुन: उपयोग का पहला कठोर सैद्धांतिक प्रमाण प्रदान करता है। MPM एस्टिमेटर के साथ RT-PG एल्गोरिदम पेश करके, लेखक पिछले डेटा के पुन: उपयोग के सहज विचार और प्रमाणित अभिसरण गारंटी के बीच के अंतर को पाटते हैं।

महत्व यहाँ निहित है:

सैद्धांतिक प्रगति: यह स्थापित करना कि ट्राजेक्टरी पुन: उपयोग $\tilde{O}(\epsilon^{-1})$ दर प्राप्त कर सकता है, जो पहले मजबूत धारणाओं या ग्रेडिएंट पुन: उपयोग के बिना PG विधियों के लिए कठिन माना जाता था।
व्यावहारिक उपयोगिता: यह प्रदर्शित करना कि ट्राजेक्टरीज़ का पुन: उपयोग सीखने की स्थिरता से समझौता किए बिना सैंपलिंग लागत को कम करता है, जो ग्रेडिएंट-पुन: उपयोग विधियों के लिए एक व्यावहारिक विकल्प प्रदान करता है जिन्हें बड़े बैच आकार या जटिल वेरिएंस रिडक्शन तकनीकों की आवश्यकता हो सकती है।
मेमोरी दक्षता: बेहतर दर प्राप्त करना बिना पिछले पॉलिसी पैरामीटराइजेशन को संग्रहीत करने के मेमोरी ओवरहेड के, जो अन्य ट्राजेक्टरी-पुन: उपयोग दृष्टिकोणों जैसे कि बैलेंस ह्यूरिस्टिक की एक सीमा है।

लेखक अपनी सीमाओं के संबंध में विनम्र रहते हैं, यह नोट करते हुए कि उनके परिणाम ट्राजेक्टरी वितरणों के बीच सीमित $\chi^2$ -डाइवर्जेंस की धारणा पर निर्भर करते हैं और सैंपल कॉम्प्लेक्सिटी $d_\Theta$ के आयाम (dimensionality) पर निर्भर करती है। वे इस धारणा को हटाने और आयाम निर्भरता को समाप्त करने को भविष्य के कार्य के रूप में पहचानते हैं।