📊 statistics

EM-based iterations for multiple instance learning on a query-value model

यह शोध पत्र मल्टीपल इंस्टेंस रिग्रेशन के लिए एक सॉफ्टमैक्स-आधारित क्वेरी-वैल्यू मॉडल प्रस्तावित करता है जो अवधारणा और लेबलिंग तंत्र को अलग करता है, ईएम-जैसे पुनरावृत्तियों (EM-like iterations) को व्युत्पन्न करता है और यह सिद्ध करता है कि यदि बैग्स की संख्या बहुपद (polynomial) है, तो वैल्यू वेक्टर के एकल रैंडम इनिशियलाइजेशन से एल्गोरिदम उच्च संभाव्यता के साथ स्थिर चरणों में अभिसरित होने के लिए पर्याप्त है।

मूल लेखक: Ethan Levien

प्रकाशित 2026-07-21

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ethan Levien

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

छिपे हुए संकेत का रहस्य

कल्पना कीजिए कि आप एक जासूस हैं जो एक अपराध को सुलझाने की कोशिश कर रहे हैं, लेकिन आपको संदिग्धों का एक-एक करके साक्षात्कार करने की अनुमति नहीं है। इसके बजाय, आपको दस लोगों की एक समूह फोटो सौंपी जाती है और कहा जाता है, "इनमें से एक व्यक्ति अपराधी है, और यह पूरा समूह उनके कारण दोषी है।" यह मल्टीपल इंस्टेंस लर्निंग (MIL) की दुनिया है। मानक जासूसी कार्य (सुपरवाइज्ड लर्निंग) में, आप किसी एक व्यक्ति की ओर इशारा करते हैं और कहते हैं, "वही चोर है!" लेकिन MIL में, आपको केवल संकेतों का एक "बैग" (थैला) मिलता है, और लेबल (दोषी या निर्दोष) पूरे बैग का होता है, न कि उसके अंदर के व्यक्तियों का। चुनौती यह पता लगाने की है कि बैग में कौन सा विशिष्ट संकेत वास्तव में मायने रखता है।

अब, कल्पना कीजिए कि अपराधी केवल एक व्यक्ति नहीं है, बल्कि एक विशिष्ट प्रकार का व्यक्ति है। शायद चोर वह है जिसने लाल टोपी पहनी है (एक चयन नियम/selection rule), लेकिन उन्हें दोषी साबित करने वाला प्रमाण उनके द्वारा पहने गए कीचड़ वाले जूते हैं (एक लेबलिंग नियम/labeling rule)। कई वास्तविक दुनिया की समस्याओं में, जैसे कि नई दवाओं को डिजाइन करने या चिकित्सा छवियों का विश्लेषण करने में, जो चीज़ एक नमूने को "सक्रिय" या "दिलचस्प" बनाती है, वह उस चीज़ से अलग होती है जो हमें बताता है कि वह कितनी सक्रिय है। यह शोध पत्र एक गणितीय मॉडल में गहराई से उतरता है जहाँ इन दो भूमिकाओं को विभाजित किया गया है: एक "क्वेरी" (वह खोजबीन करने वाली रोशनी जो सक्रिय संकेत को ढूंढती है) और एक "वैल्यू" (वह आवर्धक लेंस जो लेबल को पढ़ता है)। बड़ा सवाल यह है कि यदि हमें नहीं पता कि खोजबीन करने वाली रोशनी किस दिशा में इशारा कर रही है या आवर्धक लेंस क्या देख रहा है, तो क्या हम केवल संकेतों के बैगों को देखकर इसका पता लगा सकते हैं?

शोध पत्र का बड़ा विचार: 'हॉट एंड कोल्ड' का खेल

एथन लेविएन द्वारा लिखित यह शोध पत्र इस पहेली के एक विशिष्ट संस्करण को संबोधित करता है जिसे मल्टीपल इंस्टेंस रिग्रेशन कहा जाता है। यहाँ लक्ष्य केवल "हाँ" या "ना" कहना नहीं है, बल्कि बैग में सबसे चरम (extreme) संकेत के आधार पर एक संख्या की भविष्यवाणी करना है। लेखक इसे एक्सपेक्टेशन-मैक्सिमाइजेशन (EM) से प्रेरित एक विधि का उपयोग करके हल करने का एक चतुर तरीका प्रस्तावित करते हैं, जो एक क्लासिक सांख्यिकीय तकनीक है जिसका उपयोग छिपे हुए पैटर्न खोजने के लिए किया जाता है।

EM एल्गोरिदम को आंखों पर पट्टी बांधकर खेला जाने वाला "हॉट एंड कोल्ड" (गरम और ठंडा) का खेल समझें। आप एक अनुमान लगाते हैं कि खजाना (सही संकेत) कहाँ छिपा है। अपने अनुमान के आधार पर, आप अपने मानचित्र ( "वैल्यू" वेक्टर) को अपडेट करते हैं। फिर, आप अपने नए मानचित्र का उपयोग करके फिर से अनुमान लगाते हैं कि खजाना कहाँ है ( "क्वेरी" वेक्टर), और आप इसे तब तक दोहराते रहते हैं जब तक कि आप रुक न जाएं। शोध पत्र इन "अनुमान-और-अपडेट" खेलों का एक नया परिवार पेश करता है, जिसे $\kappa$ (कप्पा) नामक एक डायल द्वारा नियंत्रित किया जाता है। यह डायल यह तय करता है कि अगला अनुमान लगाने के लिए "खोजबीन करने वाली रोशनी" (Query) बनाम "आवर्धक लेंस" (Value) को कितना भार दिया जाए।

लेखक सिंथेटिक डेटा—अनंत बेल्स कर्व (bell curve) का पालन करने वाले यादृच्छिक संख्याओं के हजारों नकली बैग उत्पन्न करके—के साथ सिमुलेशन चलाते हैं ताकि यह देखा जा सके कि ये विभिन्न खेल कैसा प्रदर्शन करते हैं। उन्होंने पाया कि प्रदर्शन इस बात पर बहुत अधिक निर्भर करता है कि खोजबीन करने वाली रोशनी और आवर्धक लेंस कितने संरेखित (aligned) हैं। यदि वे एक ही दिशा में इशारा करते हैं, तो खेल आसान है। लेकिन यदि वे अलग-अलग दिशाओं में इशारा करते हैं, तो खेलने का मानक तरीका अक्सर अटक जाता है या विफल हो जाता है। दिलचस्प बात यह है कि शोध पत्र सुझाव देता है कि एक "स्टेज्ड" (चरणबद्ध) रणनीति बेहतर काम करती है: पहले एक ऐसा संस्करण खेलकर शुरू करें जो खोजबीन करने वाली रोशनी को पूरी तरह से अनदेखा करता है, और फिर एक ऐसा संस्करण उपयोग करें जो दोनों का उपयोग करता है। यह दो-चरणीय दृष्टिकोण शुरुआत से ही दोनों संकेतों का उपयोग करने की तुलना में बहुत तेज़ी से और अधिक विश्वसनीय रूप से सही उत्तर को रिकवर करता दिखाई देता है। हालाँकि, लेखक सावधानी बरतते हुए नोट करते हैं कि उन्होंने यह सिद्ध नहीं किया है कि यह हर स्थिति के लिए इष्टतम (optimal) शेड्यूल है; डायल को बदलने के लिए सही समय निर्धारित करना भविष्य के शोध के लिए एक प्रश्न छोड़ देता है।

एक यादृच्छिक अनुमान का जादू

सबसे आश्चर्यजनक निष्कर्ष शोध पत्र के गणितीय पक्ष से आता है। लेखक सिद्ध करते हैं कि यदि आपके पास डेटा के पर्याप्त बैग हैं, तो आपको खेल शुरू करने के लिए बुद्धिमान होने की आवश्यकता नहीं है। आप यह चुनने के लिए पूरी तरह से यादृच्छिक अनुमान लगा सकते हैं कि कौन सा संकेत "सक्रिय" है, और यह फिर भी काम करेगा!

यहाँ जादू है: शोध पत्र दिखाता है कि भले ही आप 99% बार गलत संकेतों का अनुमान लगाते हैं, फिर भी "वैल्यू" वेक्टर (आवर्धक लेंस) का गणित इतना शक्तिशाली है कि औसतन, यह केवल एक चरण के बाद सही दिशा में इशारा करता है। यह ऐसा है जैसे आपने आंखों पर पट्टी बांधकर मानचित्र पर एक तीर फेंका हो, और भले ही आपने लक्ष्य को मिस कर दिया हो, हवा ने आपके तीर को इतना घुमाया कि वह अभी भी खजाने की ओर सामान्य रूप से इशारा कर रहा था।

पत्र गणना करता है कि इसके काम करने के लिए आपको कितने बैगों की आवश्यकता है। यह सुझाव देता है कि यदि आपके पास लगभग $d \times n^2 \times (\ln n)^6$ बैग हैं (जहाँ $d$ फीचर्स की संख्या है और $n$ प्रति बैग आइटम की संख्या है), तो एक एकल यादृच्छिक अनुमान एल्गोरिदम को सही रास्ते पर लाने के लिए पर्याप्त है। इसका अर्थ है कि यदि आपके पास पर्याप्त डेटा है, तो एल्गोरिदम उच्च संभावना के साथ केवल कुछ चरणों में सही उत्तर प्राप्त कर सकता है।

शोध पत्र क्या कहता है (और क्या नहीं कहता)

शोध पत्र इस बारे में बहुत स्पष्ट है कि उसने क्या किया है और क्या नहीं। यह गणितीय रूप से सिद्ध करता है कि एक विशिष्ट प्रकार के डेटा (Gaussian instances) के लिए, यदि नमूना आकार पर्याप्त बड़ा है, तो एक चरण के बाद वैल्यू वेक्टर सत्य के आसपास केंद्रित हो जाता है। यह विभिन्न रणनीतियों (जैसे "स्टेज्ड" विधि) के व्यवहार का सिमुलेशन करता है और दिखाता है कि वे व्यवहार में बेहतर काम करती हैं, लेकिन यह स्पष्ट रूप से सिद्ध नहीं करता कि स्टेज्ड विधि हर स्थिति के लिए सबसे अच्छी संभव रणनीति है। वास्तव में, शोध पत्र कहता है कि $\kappa$ के डायल के लिए इष्टतम शेड्यूल निर्धारित करना इस कार्य के दायरे से बाहर है।

शोध पत्र स्पष्ट रूप से इस विचार को खारिज करता है कि मानक EM-DD एल्गोरिदम (एक प्रसिद्ध पिछला तरीका) तब अच्छा काम करता है जब खोजबीन करने वाली रोशनी और आवर्धक लेंस गलत संरेखित हों। वास्तव में, सिमुलेशन दिखाते हैं कि मानक विधि उन मामलों में अक्सर विफल हो जाती है या गलत उत्तर पर अभिसरित (converge) हो जाती है। शोध पत्र यह भी स्पष्ट करता है कि "डायल" $\kappa$ एल्गोरिदम के लिए एक ट्यूनिंग पैरामीटर है, न कि डेटा का एक गुण; डेटा को $\kappa$ की परवाह नहीं है, लेकिन एल्गोरिदम की सफलता को इसकी परवाह है।

अंत में, लेखक नोट करते हैं कि जबकि यह गणित इस विशिष्ट "शोर रहित" (noiseless) सीमा के लिए खूबसूरती से काम करता है (जहाँ संकेत पूर्ण हैं), कई चरणों में एल्गोरिदम के व्यवहार की वास्तविक दुनिया की गतिशीलता अभी भी एक रहस्य है। शोध पत्र भविष्य के कार्य के लिए एक मंच तैयार करता है ताकि एल्गोरिदम की पूरी यात्रा को समझा जा सके, न कि केवल उसके पहले कुछ चरणों को। लेकिन फिलहाल, यह इस बारे में सोचने का एक शक्तिशाली नया तरीका प्रदान करता है कि जब सुई और घास का ढेर अलग-अलग भाषाएँ बोलते हों, तो घास के ढेर में सुई को कैसे खोजा जाए।

तकनीकी सारांश: मल्टीपल इंस्टेंस लर्निंग के लिए क्वेरी-वैल्यू मॉडल पर EM-आधारित इटरेशन

समस्या विवरण
यह शोध पत्र मल्टीपल इंस्टेंस रिग्रेशन (MIR) समस्या को संबोधित करता है, जहाँ प्रशिक्षण डेटा "बैग्स" (फीचर वेक्टर्स के संग्रह) के रूप में होता है जिन्हें एक एकल बैग-स्तरीय लेबल के साथ जोड़ा जाता है। मानक सुपरवाइज्ड लर्निंग के विपरीत, यहाँ बैग के भीतर व्यक्तिगत इंस्टेंस लेबल नहीं किए जाते हैं। अध्ययन किया गया विशिष्ट परिदृश्य एक एक्सट्रीमल सिलेक्शन नियम (extremal selection rule) है: एक बैग लेबल को बैग के भीतर एक विशिष्ट "सक्रिय" इंस्टेंस द्वारा निर्धारित किया जाता है, जिसे एक एक्सट्रीमल सिद्धांत के आधार पर चुना जाता है।

लेखक एक ऐसा मॉडल प्रस्तावित करते हैं जो चयन तंत्र (selection mechanism) को लेबलिंग तंत्र से अलग करता है, जो पारंपरिक "कॉन्सेप्ट पॉइंट" धारणा (जहाँ एक एकल बिंदु से निकटता लेबल निर्धारित करती है) से आगे बढ़ता है। इसके बजाय, वे अटेंशन मैकेनिज्म से प्रेरित एक क्वेरी-वैल्यू फ्रेमवर्क का उपयोग करते हैं:

क्वेरी दिशा ( $q$ ): यह निर्धारित करती है कि किस इंस्टेंस को सक्रिय के रूप में चुना जाए (एक एक्सट्रीमल नियम के माध्यम से, जैसे कि डॉट प्रोडक्ट $x \cdot q$ को अधिकतम करना)।
वैल्यू दिशा ( $v$ ): यह सक्रिय इंस्टेंस के आधार पर बैग लेबल को निर्धारित करती है (एक लीनियर प्रोजेक्शन $x \cdot v$ के माध्यम से)।

लक्ष्य बैग-स्तरीय पर्यवेक्षण (supervision) से वेक्टर्स $q$ और $v$ को सीखना है। एक प्राथमिक चुनौती यह है कि सक्रिय इंस्टेंस एक लेटेंट वेरिएबल (latent variable) है, और चयन नियम एक्सट्रीमल स्टैटिस्टिक्स को पेश करता है जो मानक अनुमान को जटिल बनाता है।

कार्यप्रणाली (Methodology)
लेखक EM पर आधारित इटरेशन का एक परिवार व्युत्पन्न करते हैं, जिसे EM $\kappa$ कहा जाता है, जो एक प्रोबबिलिस्टिक सॉफ्ट क्वेरी-वैल्यू मॉडल के नॉइलेस लिमिट (noiseless limit) को लेकर प्राप्त किया गया है।

प्रोबबिलिस्टिक फॉर्मूलेशन: वे एक जेनेरेटिव मॉडल को परिभाषित करते हैं जहाँ सक्रिय इंस्टेंस का असाइनमेंट एक सॉफ्टमैक्स डिस्ट्रीब्यूशन द्वारा नियंत्रित होता है जो एक क्वेरी $q$ द्वारा संचालित है, और लेबल सक्रिय इंस्टेंस का एक लीनियर फंक्शन है जो $v$ द्वारा नियंत्रित है, साथ ही इसमें गॉसियन नॉइज़ शामिल है।
हार्डनिंग लिमिट (Hardening Limit): वे चयन में शोर ( $\lambda^{-1}$ ) और लेबलिंग ( $\sigma_\epsilon$ ) दोनों को एक साथ शून्य की ओर ले जाते हैं, जबकि उनके अनुपात $\kappa = \lambda / (\lambda + 1/2\sigma_\epsilon^2)$ को स्थिर रखते हैं, जिससे एक "हार्ड" असाइनमेंट इटरेशन प्राप्त होता है।
इटरेशन (The Iteration): प्रत्येक चरण $t$ $t$ पर, एल्गोरिदम:
- E-step (असाइनमेंट): असाइनमेंट $\xi^{(t+1)}$ को अपडेट करता है, जिसमें प्रत्येक बैग $k$ में उस इंस्टेंस $j$ को चुना जाता है जो क्वेरी स्कोर और रेसिडुअल एरर के भारित संयोजन (weighted combination) को अधिकतम करता है: $\arg\max_j [\kappa (x_j \cdot q) - (1-\kappa)(y - x_j \cdot v)^2]$ ।
- M-step (पैरामीटर अपडेट): वर्तमान में असाइन किए गए इंस्टेंसेस पर वेटेड लीस्ट स्क्वायर्स (weighted least squares) के माध्यम से $v$ को अपडेट करता है। $q$ के लिए अपडेट को असाइन किए गए इंस्टेंसेस के नॉर्मलाइज्ड मीन ( $\hat{q}_a$ ) द्वारा अनुमानित किया जाता है।
विशेष मामले:
- $\kappa = 0$ : अपडेट पूरी तरह से रेसिडुअल एरर (लेबलिंग नियम) पर निर्भर करते हैं।
- $\kappa = 1$ : अपडेट पूरी तरह से क्वेरी स्कोर (चयन नियम) पर निर्भर करते हैं।
- $\tilde{g}\text{EM}_1$ : एक विशिष्ट वेरिएंट जहाँ $q$ को $v$ के साथ संरेखित (aligned) माना जाता है (अर्थात $q \propto v$ ), जो प्रभावी रूप से EM-DD (डाइवर्सिटी डेंसिटी) एल्गोरिदम को लीनियर करता है।

मुख्य योगदान और परिणाम
लेखक सिंथेटिक गॉसियन डेटा पर संख्यात्मक प्रयोगों और उनके व्यवहार के लिए कठोर एसिम्प्टोटिक सैद्धांतिक परिणामों के माध्यम से दोनों प्रदान करते हैं।

EM-DD का सामान्यीकरण: लेखक दिखाते हैं कि लीनियरकृत EM-DD एल्गोरिदम उनके द्वारा व्युत्पन्न EM $\kappa$ परिवार का एक विशिष्ट मामला ( $\kappa=1$ के साथ संरेखित $q, v$ ) है। यह पिछले कॉन्सेप्ट-पॉइंट मॉडल्स और सामान्य क्वेरी-वैल्यू मॉडल के बीच संबंध को स्पष्ट करता है।
संख्यात्मक अवलोकन (Numerical Observations):
- जब क्वेरी और वैल्यू दिशाएं संरेखित होती हैं ( $\theta_{q,v} = 0$ ), तो $\tilde{g}\text{EM}_1$ इटरेशन सही असाइनमेंट की ओर तेजी से अभिसरित (converge) होता है।
- जब दिशाएं मिसअलाइन्ड (misaligned) होती हैं, तो $\tilde{g}\text{EM}_1$ सही असाइनमेंट तक अभिसरित होने में विफल रहता है, हालांकि यह आंशिक रूप से सही असाइनमेंट तक पहुँच सकता है।
- एक "स्टेज्ड" (staged) विधि ( $\kappa=0$ और $\kappa=1$ शेड्यूल्स के बीच बारी-बारी से बदलना) विभिन्न मिसअलाइनमेंट एंगल्स के लिए मजबूती प्रदर्शित करती है, जो कई रेजिम्स में फिक्स्ड- $\kappa$ रणनीतियों से बेहतर प्रदर्शन करती है।
कंसंट्रेशन परिणाम (Concentration Results - सैद्धांतिक केंद्र):
- वैल्यू वेक्टर कंसंट्रेशन: थ्योरम 4.6 स्थापित करता है कि एक रैंडम असाइनमेंट $\xi$ के लिए, अनुमानित वैल्यू वेक्टर $\hat{v}(\xi)$ , मैच फ्रैक्शन $f$ (सही ढंग से असाइन किए गए इंस्टेंसेस का अनुपात) और एलाइनमेंट $u = \cos(\theta_{q,v})$ के एक नियतात्मक फलन (deterministic function) के आसपास केंद्रित होता है।
- वन-स्टेप रिकवरी: एक महत्वपूर्ण निष्कर्ष यह है कि असाइनमेंट वेक्टर का एक एकल रैंडम इनिशियलाइजेशन ही औसतन वैल्यू वेक्टर के लिए सही दिशा में होता है। विशेष रूप से, यदि बैग की संख्या $m$ इस प्रकार स्केल करती है कि $m \gtrsim d n^2 (\ln n)^6$ (जहाँ $d$ डायमेंशन है और $n$ प्रति बैग इंस्टेंसेस हैं), तो EM एल्गोरिदम उच्च संभाव्यता के साथ $O(1)$ स्टेप्स में अभिसरित होता है।
- तंत्र (Mechanism): यह तीव्र अभिसरण एम्पिरिकल कोवेरिएंस मैट्रिसेस के कंसंट्रेशन और चयन नियम से उत्पन्न होने वाले एक्सट्रीमल स्टैटिस्टिक्स के बीच परस्पर क्रिया द्वारा संचालित होता है। रैंडम असाइनमेंट के साथ भी, सिग्नल-टू-नॉइज़ रेशियो पर्याप्त है कि बताई गई सैंपल कॉम्प्लेक्सिटी के तहत एक ही स्टेप में वास्तविक दिशा को रिकवर किया जा सके।
- क्वेरी वेक्टर: थ्योरम 4.8 क्वेरी अपडेट के लिए समान एसिम्प्टोटिक व्यवहार प्रदान करता है, यह दिखाते हुए कि असाइन किए गए इंस्टेंसेस का नॉर्मलाइज्ड मीन, $m \to \infty$ होने पर, वास्तविक क्वेरी दिशा $q^*$ की ओर अभिसरित होता है, बशर्ते कि मैच फ्रैक्शन $f > 1/n$ हो।

महत्व और दावे
यह शोध पत्र EM-आधारित दृष्टिकोणों के लिए एक कठोर सैद्धांतिक समझ प्रदान करने का दावा करता है जो अटेंशन-जैसे मॉडल्स पर लागू होते हैं, जो कि एक ऐसा डोमेन है जो अक्सर बिना किसी गारंटी के ग्रेडिएंट डिसेंट ट्रेनिंग द्वारा हावी रहता है।

सैद्धांतिक अंतर्दृष्टि: यह कार्य बैग-स्तरीय पर्यवेक्षण से चयन और लेबलिंग दोनों दिशाओं को सीखने की मौलिक चुनौती को अलग करता है। यह प्रदर्शित करता है कि "हार्ड" EM लिमिट केवल एक ह्यूरिस्टिक नहीं है बल्कि इसमें मजबूत सांख्यिकीय गुण हैं, विशेष रूप से यह कि वैल्यू वेक्टर एस्टिमेटर सुसंगत (consistent) है और रैंडम इनिशियलाइजेशन से तेजी से अभिसरित होता है।
एल्गोरिद्मिक निहितार्थ: परिणाम बताते हैं कि अच्छी तरह से निर्दिष्ट एक्सट्रीमल मॉडल्स के लिए, जटिल ऑप्टिमाइजेशन लैंडस्केप्स की आवश्यकता नहीं हो सकती है; यदि सैंपल साइज प्रॉब्लम डायमेंशन्स के पॉलीनोमियल में है, तो सरल अल्टरनेटिंग इटरेशन मापदंडों को कुशलतापूर्वक रिकवर कर सकते हैं।
सीमाएँ: लेखक अपने दायरे के प्रति विनम्र हैं, यह नोट करते हुए कि विश्लेषण नॉइलेस लिमिट और गॉसियन इंस्टेंसेस तक सीमित है। वे सभी डिस्ट्रीब्यूशंस या नॉइजी सेटिंग्स के लिए सामान्य MIL समस्या को हल करने का दावा नहीं करते हैं, और न ही वे सभी परिदृश्यों के लिए पैरामीटर $\kappa$ के लिए एक इष्टतम शेड्यूल प्रदान करते हैं, जो कि एक खुला प्रश्न है। पहले स्टेप के बाद के पूर्ण फाइनाइट-टाइम डायनेमिक्स को भविष्य के कार्य के लिए छोड़ दिया गया है।

संक्षेप में, यह शोध पत्र क्लासिकल EM एल्गोरिदम और आधुनिक अटेंशन-आधारित आर्किटेक्चर के बीच के अंतर को पाटता है, और ऐसे कंसंट्रेशन इनइक्वेलिटीज (concentration inequalities) प्रदान करता है जो समझाते हैं कि क्यों सरल अल्टरनेटिंग ऑप्टिमाइजेशन हाई-डायमेंशनल, एक्सट्रीमल रिग्रेशन सेटिंग्स में सफल हो सकता है।

छिपे हुए संकेत का रहस्य

शोध पत्र का बड़ा विचार: 'हॉट एंड कोल्ड' का खेल

एक यादृच्छिक अनुमान का जादू

शोध पत्र क्या कहता है (और क्या नहीं कहता)

इसी तरह के और पेपर