🤖 machine learning

Selectivity Estimation for Linear Queries via Online Learning

यह शोध पत्र गतिशील डेटाबेस परिवेशों में चयनात्मकता (selectivity) का अनुमान लगाने के लिए एक ऑनलाइन लर्निंग फ्रेमवर्क प्रस्तावित करता है, जो स्थिर और गतिशील दोनों सेटिंग्स के तहत हिस्टोग्राम-आधारित रैखिक प्रश्नों (linear queries) के लिए सैद्धांतिक रिग्रेट बाउंड्स (regret bounds) स्थापित करता है।

मूल लेखक: Fangzhu Shen, Debmalya Panigrahi, Sudeepa Roy

प्रकाशित 2026-07-07

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Fangzhu Shen, Debmalya Panigrahi, Sudeepa Roy

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो यह अनुमान लगाने की कोशिश कर रहे हैं कि एक विशाल शहर में कितने लोग एक विशिष्ट विवरण में फिट बैठते हैं, जैसे कि "लाल टोपी पहने हुए"। डेटाबेस की दुनिया में, इसे सेलेक्टिविटी एस्टीमेशन (selectivity estimation) कहा जाता है। डेटाबेस वह शहर है, लोग डेटा हैं, और विवरण एक "क्वेरी" (query) है। यदि आपका अनुमान गलत होता है, तो कंप्यूटर उत्तर खोजने के लिए एक बुरा प्लान चुन सकता है, जिससे समय और ऊर्जा बर्बाद होती है।

लंबे समय तक, जासूसों (डेटाबेस सिस्टम) ने अनुमान लगाने के सरल नियम का उपयोग किया, जैसे कि यह मान लेना कि किसी व्यक्ति की टोपी का रंग उसके जूते के आकार से स्वतंत्र है। लेकिन वास्तविक जीवन अव्यवस्थित है; ये नियम अक्सर विफल हो जाते हैं। हाल ही में, लोगों ने "AI जासूसों" (मशीन लर्निंग) का उपयोग करना शुरू कर दिया है जो अपने पिछले अनुमानों से सीखकर बेहतर बनते हैं। हालाँकि, अधिकांश AI जासूसों को एक प्रयोगशाला में प्रशिक्षित किया गया था जहाँ शहर कभी नहीं बदलता और प्रश्न हमेशा एक जैसे रहते थे।

यह शोध पत्र पूछता है: क्या होता है जब शहर लगातार बदल रहा हो, और प्रश्न अप्रत्याशित हों? लेखक इस समस्या को ऑनलाइन लर्निंग (Online Learning) नामक एक अवधारणा का उपयोग करके इस समस्या को समझने का एक नया तरीका प्रस्तावित करते हैं।

खेल: अंधेरे में अनुमान लगाना

लेखकों ने यह परीक्षण करने के लिए एक खेल सेट किया कि एक अराजक दुनिया में एक AI जासूस कितनी अच्छी तरह सीख सकता है। यह खेल दौर दर दौर इस प्रकार काम करता है:

प्रश्न: एक नई क्वेरी आती है (जैसे, "कितने लोग लाल टोपियाँ पहने हुए हैं?")।
अनुमान: AI को केवल वही देखकर तुरंत एक अनुमान लगाना चाहिए जो उसने पहले देखा है। उसे अभी तक उत्तर नहीं पता है।
खुलासा: वास्तविक उत्तर प्रकट किया जाता है।
स्कोर: AI को एक "दंड" (जिसे लॉस (Loss) कहा जाता है) मिलता है जो इस बात पर आधारित होता है कि वह कितना गलत था।
- स्क्वेयर्ड लॉस (Squared Loss): इसे एक "सख्त शिक्षक" के रूप में सोचें। यदि आप थोड़े से गलत हैं, तो यह ठीक है। लेकिन यदि आप बहुत अधिक गलत हैं, तो दंड बहुत बढ़ जाता है। यह महत्वपूर्ण है क्योंकि एक बड़ी गलती डेटाबेस के प्लान को क्रैश कर सकती है।
- एब्सोल्यूट लॉस (Absolute Loss): इसे एक "उदार शिक्षक" के रूप में सोचें। यह बस यह गिनता है कि आप कितने दूर थे, चाहे वह थोड़ा हो या बहुत अधिक।

बेंचमार्क: "बेस्ट स्टैटिक" जासूस

यह जानने के लिए कि AI कितना अच्छा प्रदर्शन कर रहा है, हमें इसकी तुलना किसी और से करने की आवश्यकता है। लेखक AI की तुलना सर्वश्रेष्ठ संभव स्थिर रणनीति (best possible fixed strategy) से करते हैं जिसे यदि हमें भविष्य का पूरा ज्ञान पहले से होता, तो चुना जा सकता था।

स्थिर दुनिया (Static World): कल्पना करें कि शहर की जनसंख्या स्थिर है (कोई अंदर नहीं आ रहा है या बाहर नहीं जा रहा है), लेकिन प्रश्न बदलते रहते हैं। "सर्वश्रेष्ठ स्थिर रणनीति" उस शहर का एक एकल, पूर्ण मानचित्र है।
गतिशील दुनिया (Dynamic World): कल्पना करें कि शहर अराजक है। लोग लगातार आ रहे हैं, जा रहे हैं और अपनी टोपियाँ बदल रहे हैं। "सर्वश्रेष्ठ स्थिर रणनीति" अभी भी केवल एक निश्चित मानचित्र है। AI का काम यह देखना है कि वह उस एक निश्चित मानचित्र के कितने करीब पहुँच सकता है, भले ही शहर लगातार बदल रहा हो।

एक निश्चित मानचित्र से तुलना क्यों? यदि हम AI की तुलना एक "जादुई मानचित्र" से करते हैं जो शहर से मेल खाने के लिए हर सेकंड पूरी तरह से बदल जाता है, तो कोई भी AI जीत नहीं सकता। लक्ष्य यह देखना है कि क्या AI उस अंतर्निहित पैटर्न को खोज सकता है जो, बदलते हुए भी, बना रहता है।

परिणाम: वे कितने अच्छे हो सकते हैं?

लेखकों ने विभिन्न प्रकार के प्रश्नों और अराजकता के विभिन्न स्तरों के साथ यह खेल चलाया। उन्होंने "रिग्रेट" (Regret) को मापा, जो वास्तव में AI के कुल दंड और सर्वश्रेष्ठ संभव स्थिर रणनीति के दंड के बीच का अंतर है।

1. स्थिर शहर (डेटा नहीं बदलता)

अच्छी खबर: यदि डेटा स्थिर है, तो AI बहुत तेज़ी से सीखता है।
उपमा: कल्पना करें कि आप एक अकेले, अपरिवर्तनीय पत्थर के वजन का अनुमान लगाने की कोशिश कर रहे हैं। आप प्रश्न पूछते हैं जैसे "क्या यह 10 किलो से भारी है?" और "क्या यह 20 किलो से हल्का है?"
परिणाम: लेखकों ने पाया कि जटिल प्रश्नों के लिए, AI की गलतियाँ बहुत धीरे-धीरे बढ़ती हैं—केवल श्रेणियों की संख्या के लॉगारिदम (logarithm) की गति से। सरल शब्दों में: भले ही शहर में दस लाख अलग-अलग मोहल्ले हों, AI को पूरा नक्शा सीखने के लिए केवल कुछ अतिरिक्त गलतियों की आवश्यकता होती है। यह अविश्वसनीय रूप से कुशल है।

2. गतिशील शहर (डेटा लगातार बदलता है)

चुनौती: अब, शहर हर सेकंड बदल रहा है। "सर्वश्रेष्ठ स्थिर मानचित्र" AI के देखने से पहले ही थोड़ा पुराना हो चुका है।
परिणाम: खेल के दौरान गलतियाँ बढ़ती हैं, लेकिन लेखकों ने विशिष्ट सीमाएँ पाई हैं:
- सरल प्रश्नों के लिए (Point Queries): गलतियाँ राउंड की संख्या के वर्गमूल (square root) के साथ बढ़ती हैं।
- जटिल प्रश्नों के लिए (Range/Subset Queries): गलतियाँ राउंड के वर्गमूल और शहर के आकार के लॉग (log) के गुणनफल के साथ बढ़ती हैं।
- "सख्त शिक्षक" के लिए (Squared Loss): गलतियाँ बहुत धीरे से बढ़ती हैं, केवल राउंड के लॉग (logarithm) के साथ। एक अराजक वातावरण के लिए यह आश्चर्यजनक रूप से अच्छा है!

गुप्त हथियार (एल्गोरिदम)

उन्होंने इन परिणामों को कैसे प्राप्त किया? उन्होंने केवल अनुमान नहीं लगाया; उन्होंने चतुर गणितीय युक्तियों का उपयोग किया:

"सबसे संतुलित" अनुमान (Sequential Maximum Entropy):
- उपमा: कल्पना करें कि आपके पास कंचों (marbles) का एक बैग है, और आप उनके बारे में कुछ नियम जानते हैं (जैसे, "50% लाल वाले हैं")। आप बाकी के बारे में नहीं जानते। सबसे स्मार्ट अनुमान यह है कि यह मान लिया जाए कि शेष कंचे यथासंभव समान रूप से वितरित हैं। इसे "मैक्सिमम एंट्रॉपी" (Maximum Entropy) कहा जाता है।
- यह कैसे मदद करता है: AI अब तक मिले सुरागों के आधार पर सभी संभावित शहर मानचित्रों की एक सूची रखता है। उस सूची में से एक यादृच्छिक मानचित्र चुनने के बजाय, यह "सबसे संतुलित" वाला चुनता है। यदि यह एक प्रश्न में गलत होता है, तो यह सीख जाता है कि वास्तविक शहर इस संतुलित अनुमान से बहुत दूर है, इसलिए यह संभावनाओं को जल्दी से कम कर देता है।
"हैडमार्ड" पहेली (सीमाओं को सिद्ध करने के लिए):
- यह सिद्ध करने के लिए कि कोई भी AI एक निश्चित सीमा से बेहतर नहीं कर सकता, लेखों ने संख्याओं के एक विशेष ग्रिड (हैडमार्ड मैट्रिक्स) का उपयोग करके एक कठिन पहेली बनाई। उन्होंने शहर में होने वाले परिवर्तनों को इस तरह से छिपाया जो शोर (noise) जैसा दिखता था। इसने यह सिद्ध किया कि सबसे स्मार्ट AI भी अनुमान लगाने में फंस जाएगा, जिससे एक "फ्लोर" (आधार) स्थापित हुआ कि कोई भी कितना अच्छा कर सकता है।

मुख्य निष्कर्ष

यह शोध पत्र डेटाबेस में AI का उपयोग करने के लिए एक सैद्धांतिक सुरक्षा जाल (theoretical safety net) प्रदान करता है। यह सिद्ध करता है कि भले ही डेटा अव्यवस्थित हो और प्रश्न अप्रत्याशित हों, हम ऐसे एल्गोरिदम बना सकते हैं जो कुशलता से सीख सकते हैं।

यदि डेटा स्थिर है: तो AI बहुत जल्दी लगभग पूरी तरह से सीख जाता है।
यदि डेटा अराजक है: तो भी AI सीखता है, और हम जानते हैं कि यह एक अच्छे समाधान तक कितनी तेज़ी से पहुँचेगा।

लेखक निष्कर्ष निकालते हैं कि हालांकि उनका गणित जटिल है, लेकिन संदेश सरल है: लर्निंग-आधारित सेलेक्टिविटी एस्टीमेशन केवल एक भाग्यशाली अनुमान नहीं है; यह एक गणितीय रूप से ठोस रणनीति है जो सबसे जंगली, सबसे बदलते परिवेशों में भी काम करती है। वे इन विचारों को वास्तविक दुनिया के डेटाबेस पर परीक्षण करने और कई तालिकाओं (tables) को जोड़ने जैसे और भी जटिल प्रकार के प्रश्नों को संभालने के लिए भविष्य के कार्य के लिए द्वार खुला छोड़ते हैं।

तकनीकी सारांश: ऑनलाइन लर्निंग के माध्यम से लीनियर क्वेरीज़ के लिए सिलेक्टिविटी एस्टीमेशन (Selectivity Estimation)

समस्या विवरण (Problem Statement)

सिलेक्टिविटी एस्टीमेशन (Selectivity estimation) क्वेरी ऑप्टिमाइज़ेशन का एक मौलिक घटक है, जो डेटाबेस ऑप्टिमाइज़र को कुशल निष्पादन योजनाएं (execution plans) चुनने में सक्षम बनाता है। जबकि पारंपरिक विधियाँ मजबूत धारणाओं (जैसे कि एट्रिब्यूट इंडिपेंडेंस) और पूर्व-निर्धारित सांख्यिकी (हिस्टोग्राम, स्केच) पर निर्भर करती हैं, हालिया लर्निंग-आधारित दृष्टिकोण जटिल डेटा वितरणों को पकड़ने के लिए मशीन लर्निंग का लाभ उठाकर अनुभवजन्य रूप से आशाजनक परिणाम दिखा चुके हैं। हालाँकि, इन लर्निंग-आधारित दृष्टिकोणों के मौजूदा सैद्धांतिक अध्ययन मुख्य रूप से स्थिर डेटाबेस (static databases) और निश्चित क्वेरी वितरणों तक ही सीमित हैं।

वास्तविक दुनिया के डेटाबेस वातावरण गतिशील होते हैं: डेटा लगातार डाला, अपडेट और हटाया जाता है, और क्वेरी वर्कलोड बिना किसी स्थिर वितरण (stationary distribution) का पालन किए अप्रत्याशित रूप से बदल सकता है। ऐतिहासिक डेटा पर प्रशिक्षित स्थिर मॉडल पुराने (stale) हो सकते हैं, जिससे सटीकता में गिरावट आ सकती है या बार-बार पुन: प्रशिक्षण (retraining) की आवश्यकता पड़ सकती है। यह शोध पत्र एक पूर्णतः गतिशील, डिस्ट्रीब्यूशन-फ्री (distribution-free) सेटिंग में सिलेक्टिविटी एस्टीमेशन के लिए एक सैद्धांतिक ढांचे का प्रस्ताव करके इस अंतर को संबोधित करता है।

मुख्य समस्या को एक ऑनलाइन लर्निंग कार्य के रूप में तैयार किया गया है जहाँ:

प्रत्येक राउंड $t$ में, एक क्वेरी वेक्टर $v_t$ आता है।
लर्नर सिलेक्टिविटी $\hat{\sigma}_t$ का अनुमान लगाता है।
वास्तविक सिलेक्टिविटी $\sigma_t = \langle v_t, w_t \rangle$ प्रकट होती है, जहाँ $w_t$ एक अंतर्निहित डेटाबेस अवस्था है (जो $k$ -आयामी सिमप्लेक्स $\Delta_k$ में एक वेक्टर है)।
लर्नर भविष्यवाणी त्रुटि (prediction error) के आधार पर लॉस (loss) उठाता है।

लक्ष्य रिग्रेट (regret) को कम करना है, जिसे लर्नर के संचयी लॉस (cumulative loss) और सर्वश्रेष्ठ स्थिर डेटाबेस वेक्टर (जिसे पश्चदृष्टि में चुना गया हो) के संचयी लॉस के बीच के अंतर के रूप में परिभाषित किया गया है। यह शोध पत्र स्पष्ट रूप से एक गतिशील बेंचमार्क (जहाँ डेटाबेस हर राउंड में बदलता है) के विरुद्ध तुलना करने को अस्वीकार करता है, क्योंकि जैसा कि प्रदर्शित किया गया है, एक एडवर्सरियल सेटिंग में ऐसे बेंचमार्क के विरुद्ध कोई भी एल्गोरिदम गैर-तुच्छ (non-trivial) रिग्रेट गारंटी प्राप्त नहीं कर सकता है।

कार्यप्रणाली और ढांचा (Methodology and Framework)

लेखक दो अलग-अलग डेटाबेस सेटिंग्स का विश्लेषण करते हैं:

स्थिर डेटाबेस (Static Databases): अंतर्निहित डेटाबेस वेक्टर $w^*$ अज्ञात लेकिन स्थिर है, जबकि क्वेरीज़ मनमानी हो सकती हैं।
गतिशील डेटाबेस (Dynamic Databases): क्वेरीज़ के अलावा, डेटाबेस वेक्टर $w_t$ भी प्रत्येक राउंड में मनमाने ढंग से बदल सकता है।

यह अध्ययन लीनियर क्वेरीज़ (जिसमें पॉइंट, रेंज और सबसेट क्वेरी शामिल हैं) पर केंद्रित है जिन्हें वेक्टर्स $v \in [0, 1]^k$ द्वारा दर्शाया गया है। दो मानक लॉस फंक्शनों पर विचार किया गया है:

स्क्वेर्ड लॉस (Squared Loss): $(\sigma_t - \hat{\sigma}_t)^2$ , जो बड़े एरर को भारी दंड देता है।
एब्सोल्यूट लॉस (Absolute Loss): $|\sigma_t - \hat{\sigma}_t|$ , जो औसत त्रुटि को कैप्चर करता है।

प्रमुख एल्गोरिदम

सीक्वेंशियल मैक्सिमम एंट्रॉपी (SeqMaxEnt): स्थिर सेटिंग के लिए प्रस्तावित। यह एल्गोरिदम सभी देखे गए क्वेरी-सिलेक्टिविटी जोड़ों के अनुरूप डेटाबेस वेक्टर्स के एक व्यवहार्य क्षेत्र (feasible region) को बनाए रखता है। प्रत्येक राउंड में, यह व्यवहार्य क्षेत्र के भीतर मैक्सिमम एंट्रॉपी वितरण की सिलेक्टिविटी का अनुमान लगाता है। अंतर्ज्ञान यह है कि यदि एल्गोरिदम को बड़ा लॉस होता है, तो वास्तविक डेटाबेस वर्तमान मैक्सिमम एंट्रॉपी अनुमान से "दूर" होगा, जो वास्तविक अवस्था की पहचान करने में महत्वपूर्ण प्रगति सुनिश्चित करता है।
एक्सपोनेंशियलली वेटेड ऑनलाइन ऑप्टिमाइज़ेशन (EWOO): गतिशील सेटिंग के लिए स्क्वेर्ड लॉस के साथ लागू किया गया।
फॉलो-द-रेगुलराइज्ड-लीडर (FTRL): गतिशील सेटिंग के लिए एब्सोल्यूट लॉस के साथ लागू किया गया, जिसमें विभिन्न रेगुलराइज़र्स ( $\ell_2$ पॉइंट क्वेरीज़ के लिए और नेगेटिव एंट्रॉपी सबसेट/लीनियर क्वेरीज़ के लिए) का उपयोग किया गया है।

प्रमुख परिणाम और रिग्रेट बाउंड्स (Key Results and Regret Bounds)

यह शोध पत्र रिग्रेट के लगभग टाइट (tight) अपर और लोअर बाउंड्स स्थापित करता है, जिसका सारांश नीचे दिया गया है। ये बाउंड्स सपोर्ट साइज $k$ (बिन्स की संख्या) और समय क्षितिज (time horizon) $T$ पर निर्भर करते।

1. स्थिर डेटाबेस (Static Databases)

इस सेटिंग में, रिग्रेट मुख्य रूप से $k$ पर निर्भर करता है और $T$ से स्वतंत्र है।

स्क्वेर्ड लॉस:
- अपर बाउंड: रेंज, सबसेट और लीनियर क्वेरीज़ के लिए SeqMaxEnt द्वारा प्राप्त $O(\log k)$ ।
- लोअर बाउंड: रेंज क्वेरीज़ के लिए $\Omega(\log k)$ ।
- परिणाम: $\Theta(\log k)$ रिग्रेट।
एब्सोल्यूट लॉस:
- अपर बाउंड: सामान्य लीनियर क्वेरीज़ के लिए SeqMaxEnt द्वारा प्राप्त $O(\sqrt{k \log k})$ ।
- लोअर बाउंड: सबसेट क्वेरीज़ के लिए $\Omega(\sqrt{k / \log k})$ ।
- परिणाम: $\tilde{\Theta}(\sqrt{k})$ रिग्रेट।
पॉइंट क्वेरीज़: दोनों लॉस फंक्शन्स के तहत रिग्रेट स्थिर ( $O(1)$ ) है, क्योंकि डेटाबेस को जल्दी पहचाना जा सकता है।

2. गतिशील डेटाबेस (Dynamic Databases)

इस सेटिंग में, रिग्रेट मुख्य रूप से $T$ पर निर्भर करता है।

स्क्वेर्ड लॉस:
- लोअर बाउंड: पॉइंट क्वेरीज़ के लिए $\Omega(\log T)$ ।
- अपर बाउंड: EWOO का उपयोग करके $O(k \log T)$ ।
- परिणाम: $\Omega(\log T)$ और $O(k \log T)$ के बीच एक गैप मौजूद है।
एब्सोल्यूट लॉस:
- पॉइंट क्वेरीज़: $\Theta(\sqrt{T})$ का टाइट बाउंड।
- सबसेट/लीनियर क्वेरीज़: $\Theta(\sqrt{T \log k})$ का टाइट बाउंड।
- परिणाम: स्क्वेर्ड लॉस ( $\log T$ ) और एब्सोल्यूट लॉस ( $\sqrt{T}$ ) के बीच डोमिनेंट पैरामीटर ( $T$ ) में एक पॉलिनोमियल सेपरेशन (polynomial separation) है।

लोअर बाउंड तकनीकें (Lower Bound Techniques)

स्टेटिक एब्सोल्यूट लॉस: लेखक एक नॉर्मलाइज्ड हैडामार्ड मैट्रिक्स (Hadamard matrix) का उपयोग करके एक लोअर बाउंड का निर्माण करते हैं। वे स्वतंत्र रैंडम वेरिएबल्स को एक एकल फिक्स्ड डेटाबेस वेक्टर में एनकोड करते हैं। क्वेरी सीक्वेंस इन वेरिएबल्स को टुकड़ों में प्रकट करता है, जिससे लर्नर को प्रत्येक राउंड में अपेक्षित लॉस झेलना पड़ता है। एक ट्रेड-ऑफ को यह सुनिश्चित करने के लिए प्रबंधित किया जाता है कि वेक्टर सिमप्लेक्स में रहे (perturbation की मात्रा और परिणामी लॉस के बीच)।
डायनामिक स्क्वेर्ड लॉस: लोअर बाउंड को एक पैरामीटर $\mu$ के अनुमान की समस्या में रिड्यूस करके प्राप्त किया गया है, जहाँ डेटाबेस अवस्था एक Uniform वितरण से लिया गया Bernoulli( $\mu$ ) सैंपल है। रिग्रेट $\mu$ के पोस्टीरियर वेरिएंस (posterior variance) के अनुरूप है, जो हार्मोनिक सीरीज़ में योग करता है, जिससे $\Omega(\log T)$ प्राप्त होता है।

महत्व और योगदान (Significance and Contributions)

शोध पत्र निम्नलिखित योगदानों का दावा करता है:

डिस्ट्रीब्यूशन-फ्री फॉर्मूलेशन: यह सिलेक्टिविटी एस्टीमेशन का एक ऑनलाइन-लर्निंग फॉर्मूलेशन प्रदान करता है जो डेटा या क्वेरीज़ पर कोई डिस्ट्रीबशनल धारणा नहीं थोपता है, जो फिक्स्ड डिस्ट्रीब्यूशन को मानने वाले पूर्ववर्ती PAC-लर्निंग आधारित अध्ययनों की सीमाओं को संबोधित करता है।
सैद्धांतिक गारंटी: यह दोनों (स्थिर और गतिशील) डेटाबेस सेटिंग्स और दोनों (स्क्वेर्ड और एब्सोल्यूट) लॉस फंक्शन्स के लिए सामान्य क्वेरी क्लासेस (पॉइंट, रेंज, सबसेट, लीनियर) के लिए (लगभग) टाइट रिग्रेट बाउंड्स स्थापित करता है।
एल्गोरिथमिक फ्रेमवर्क: यह SeqMaxEnt एल्गोरिदम पेश करता है, जो स्थिर सेटिंग में लॉगरिदमिक रिग्रेट प्राप्त करने के लिए मैक्सिमम एंट्रॉपी सिद्धांतों का लाभ उठाता है, और गतिशील सेटिंग के लिए मानक ऑनलाइन ऑप्टिमाइज़ेशन तकनीकों (EWOO, FTRL) को लागू करता है।
लॉस फंक्शन्स में अंतर्दृष्टि: यह कार्य स्क्वेर्ड और एब्सोल्यूट लॉस फंक्शन्स के बीच एक मौलिक अंतर को उजागर करता है, जो डायनामिक स्थितियों के तहत उनके रिग्रेट स्केलिंग में पॉलिनोमियल सेपरेशन दिखाता है।

लेखक नोट करते हैं कि जबकि व्यावहारिक सिस्टम अक्सर समय-समय पर पुन: प्रशिक्षण (periodic retraining) का उपयोग करते हैं, यह कार्य बिना किसी डिस्ट्रीबशनल धारणा के गतिशील वातावरण में लर्निंग की सीमाओं को समझने के लिए एक कठोर सैद्धांतिक आधार प्रदान करता है। भविष्य के कार्य की दिशाओं में डायनामिक स्क्वेर्ड लॉस के लिए अपर और लोअर बाउंड के बीच के अंतर को कम करना, एब्सोल्यूट लॉस के तहत रेंज क्वेरीज़ के लिए इष्टतम बाउंड निर्धारित करना, और जॉइन्स (joins) जैसे समृद्ध क्वेरी क्लासेस के लिए फ्रेमवर्क का विस्तार करना शामिल है।