🤖 machine learning

Scale-Sensitive Shattering: Learnability and Evaluability at Optimal Scale

यह शोध पत्र PAC लर्निंग के मौलिक प्रमेय का एक स्केल-सेंसिटिव सामान्यीकरण स्थापित करता है जो इष्टतम स्केल्स पर यूनिफॉर्म कन्वर्जेंस, एगोस्टिक लर्नैबिलिटी और फैट-शैटरिंग डायमेंशन की परिमितता की समानता को सिद्ध करता है, जिससे लर्नैबिलिटी, मेट्रिक-एन्ट्रॉपी बाउंड्स और इंटीग्रल प्रोबेबिलिटी मेट्रिक्स की इवैलुएबिलिटी को नियंत्रित करने वाले सटीक मल्टीप्लिकेटिव फैक्टर्स के संबंध में लंबे समय से खुले प्रश्नों का समाधान होता है।

मूल लेखक: Shashaank Aiyer, Yishay Mansour, Shay Moran, Han Shao, Tom Waknine

प्रकाशित 2026-05-14

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Shashaank Aiyer, Yishay Mansour, Shay Moran, Han Shao, Tom Waknine

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक कंप्यूटर को डेटा में पैटर्न पहचानना सिखाने की कोशिश कर रहे हैं, जैसे कि बिल्लियों और कुत्तों के बीच अंतर करना, या किसी गाने में अगला नोट क्या होगा इसका अनुमान लगाना। मशीन लर्निंग की दुनिया में, एक मौलिक प्रश्न है: हमें कितने डेटा की आवश्यकता है, और पैटर्न कितने "जटिल" हो सकते हैं, इससे पहले कि कंप्यूटर बहुत अधिक गलतियाँ करने लगे?

सरल हाँ/ना वाले प्रश्नों के लिए (जैसे "क्या यह एक बिल्ली है?"), गणितज्ञ दशकों से इसका उत्तर जानते हैं। लेकिन जब उत्तर संख्याएँ होते हैं (जैसे "इस बात की कितनी संभावना है कि यह एक बिल्ली है?" या "सटीक तापमान क्या है?"), तो नियम धुंधले हो जाते हैं। यह शोध पत्र, जिसका शीर्षक "स्केल-सेंसिटिव शैटरिंग" (Scale-Sensitive Shattering) है, उस धुंधलेपन को दूर करता है और यह बताता है कि वह सटीक "स्वीट स्पॉट" (sweet spot) कहाँ है जहाँ सीखना संभव हो जाता है।

यहाँ रोजमर्रा के उपमाओं (analogies) का उपयोग करके इसका विवरण दिया गया है:

1. सीखने का "गोल्डिलॉक्स" स्केल (The "Goldilocks" Scale of Learning)

सीखने को एक ताले में चाबी फिट करने की कोशिश के रूप में देखें।

ताला (डेटा): वास्तविक दुनिया का डेटा जिसे आप समझने की कोशिश कर रहे हैं।
चाबी (मॉडल): वह गणितीय फलन (mathematical function) जिसे कंप्यूटर सीखने की कोशिश कर रहा है।
"स्केल" (सहनशीलता/Tolerance): कितनी त्रुटि (error) आप स्वीकार करने के लिए तैयार हैं।

अतीत में, शोधकर्ताओं को पता था कि यदि आप बहुत सख्त थे (पूर्ण सटीकता की मांग कर रहे थे), तो आपको अनंत डेटा की आवश्यकता हो सकती थी। यदि आप बहुत ढीले थे, तो आप कुछ भी सीख सकते थे लेकिन वह उपयोगी नहीं होता।

लेखकों ने एक सटीक नियम की खोज की: यदि कोई पैटर्न एक निश्चित स्तर के विवरण पर "शैटर्ड" (टुकड़े-टुकड़े) होने के लिए पर्याप्त जटिल है, तो आप उस स्तर पर उसे सीख नहीं सकते। हालाँकि, यदि आप अपनी सहनशीलता को थोड़ा सा (एक कारक 2 द्वारा) कम करते हैं, तो सीखना संभव हो जाता है।

बड़ी सफलता:
वर्षों से, विशेषज्ञों का मानना था कि एक अनिवार्य "गैप" (अंतर) मौजूद है। उन्होंने सोचा कि यदि कोई पैटर्न एक निश्चित परिशुद्धता (precision) पर सीखने योग्य है, तो आपको वास्तव में इसे करने के लिए आधी परिशुद्धता पर समझौता करना पड़ सकता है। उन्होंने सोचा कि "2x गैप" अपरिहार्य है।
यह पेपर सिद्ध करता है कि वह गैप एक मिथक है। आप इष्टतम स्केल पर सीख सकते हैं। यदि कोई पैटर्न स्केल $\gamma$ पर सीखने योग्य है, तो आपको $\gamma/2$ पर समझौता करने की आवश्यकता नहीं है; आप इसे $\gamma$ पर सही कर सकते हैं। यह यह महसूस करने जैसा है कि आपको बड़ी चाबी की आवश्यकता नहीं थी; आपको बस अपनी मौजूदा चाबी को थोड़ा अलग तरह से घुमाने की आवश्यकता थी।

2. "कवरिंग" की उपमा: एक शहर का मानचित्र बनाना (The "Covering" Analogy: Mapping a City)

इसे सिद्ध करने के लिए, लेखकों को "कवरिंग नंबर्स" (covering numbers) से जुड़ी एक कठिन गणितीय समस्या को हल करना था।
कल्पना कीजिए कि आप एक शहर का मानचित्र बनाने की कोशिश कर रहे हैं।

पुराना तरीका: शोधकर्ता इस बात को गिनने की कोशिश करते थे कि शहर में कितने गैर-अतिव्यापी मोहल्ले (packing) फिट बैठते हैं, और फिर मान लेते थे कि उन्हें कितने मानचित्रों (covering) की आवश्यकता होगी। यह तरीका पार्किंग स्पॉट गिनकर यह अनुमान लगाने जैसा था कि आपको कितने टैक्सियों की आवश्यकता है। यह काम करता था, लेकिन यह अक्षम था और इसने उन्हें एक "खराब" मानचित्र (एक मोटा स्केल) उपयोग करने के लिए मजबूर किया।
नया तरीका: लेखकों ने सीधे मानचित्र बनाए। उन्होंने पार्किंग स्पॉट की गिनती पर भरोसा नहीं किया। सीधे मानचित्र बनाकर, उन्होंने पाया कि वे अतिरिक्त डेटा की आवश्यकता के बिना बहुत अधिक सटीक और विस्तृत मानचित्र का उपयोग कर सकते हैं।

इस प्रत्यक्ष दृष्टिकोण ने उन्हें यह सिद्ध करने की अनुमति दी कि डेटा की "जटिलता" (जिसे फैट-शैटरिंग डायमेंशन कहा जाता है) सटीक रूप से भविष्यवाणी करती है कि आपको कितने डेटा की आवश्यकता है, जिसमें कोई भी कदम बर्बाद नहीं होता।

3. "जेनरेटिव मॉडल" टेस्ट: क्या AI नकल कर रहा है? (The "Generative Model" Test: Is the AI Cheating?)

यह पेपर इस नई समझ को एक बहुत ही आधुनिक समस्या पर लागू करता है: हम यह कैसे परीक्षण करें कि एक AI (जैसे कि संगीत निर्माता या छवि निर्माता) वास्तव में सीख रहा है, या केवल याद रख रहा है (memorizing)?

कल्पना कीजिए कि एक AI संगीत लिखता है। आप जानना चाहते हैं: क्या वह नए गीत बना रहा है, या वह केवल उन गीतों के अंशों को बजा रहा है जिन पर उसे प्रशिक्षित किया गया था?

मेट्रिक (Metric): हम यह मापने के लिए एक "स्कोर" का उपयोग करते हैं कि AI का संगीत वास्तविक दुनिया से कितना भिन्न है।
खोज: लेखकों ने एक स्पष्ट "रेत की रेखा" (line in the sand) पाई।
- परिदृश्य A: यदि AI की जटिलता पर्याप्त रूप से कम है, तो हम सटीक रूप से माप सकते हैं कि वह कितना अच्छा है। हम कह सकते हैं, "यह AI मानव जितना 95% अच्छा है।"
- परिदृश्य B: यदि AI बहुत जटिल है (बहुत अधिक "शैटर्ड" है), तो हम सटीक स्कोर को नहीं माप सकते। हालाँकि, हम अभी भी दो AI की तुलना कर सकते हैं। हम कह सकते हैं, "AI A, AI B से बेहतर है," लेकिन हम केवल यह गारंटी दे सकते हैं कि वह 3 गुना बेहतर है, न कि 2 गुना बेहतर।

"3" का कारक:
पेपर सिद्ध करता है कि यदि आप यह दावा करने की कोशिश करते हैं कि एक AI "2 गुना बेहतर" है जबकि वह वास्तव में "बहुत जटिल" क्षेत्र में है, तो आप गलत होंगे। आप कभी भी 3 के कारक से बेहतर गारंटी प्राप्त नहीं कर सकते। यह एक बाथरूम स्केल से पंख को तौलने की कोशिश करने जैसा है; आप बता सकते हैं कि यह पत्थर से भारी है, लेकिन आप यह नहीं बता सकते कि यह एक कंकड़ से 1.1 गुना भारी है। गणित कहता है कि इस परिदृश्य में 3 वह पूर्ण सीमा है जिसे हम गारंटी दे सकते हैं।

"जादू" का सारांश (Summary of the "Magic")

समस्या: हम जटिल, वास्तविक-मान (real-valued) पैटर्न (संख्याओं) बनाम सरल बाइनरी (हाँ/ना) वाले पैटर्न के लिए सीखने के सटीक नियम नहीं जानते थे।
समाधान: लेखकों ने सटीक "स्केल" खोजा जहाँ सीखना काम करता है, यह सिद्ध करते हुए कि पुराना विश्वास कि "2x गैप" है, गलत था।
परिणाम:
1. अब हम जानते हैं कि कब एक सीखने की समस्या हल करने योग्य है।
2. हम जानते हैं कि विभिन्न स्तरों की परिशुद्धता पर कितने डेटा की आवश्यकता होती है (एन्ट्रॉपी या सूचना सामग्री)।
3. हमारे पास AI का परीक्षण करने के लिए एक निश्चित नियम है: या तो हम इसे पूरी तरह से माप सकते हैं, या हम केवल "3x" सुरक्षा मार्जिन के साथ तुलना कर सकते हैं।

संक्षेप में, यह पेपर उन्नत मशीन लर्निंग के "धुंधले" नियमों को एक सटीक, स्पष्ट निर्देशों के सेट में बदल देता है, जो हमें दिखाता है कि हमें कितने डेटा की आवश्यकता है और हम अपने AI के प्रदर्शन पर कितना भरोसा कर सकते हैं।

तकनीकी सारांश: स्केल-सेंसिटिव शैटरिंग: इष्टतम स्केल पर लर्नैबिलिटी और इवैलुएबिलिटी

समस्या विवरण

यह शोध पत्र वास्तविक-मान वाले फलन वर्गों (real-valued function classes) के संबंध में सांख्यिकीय शिक्षण सिद्धांत (statistical learning theory) के मौलिक प्रश्नों को संबोधित करता है। विशेष रूप से, यह तीन मुख्य अवधारणाओं के बीच सटीक संबंध की जांच करता है: एग्नोस्टिक लर्नैबिलिटी (agnostic learnability), यूनिफॉर्म कन्वर्जेंस (uniform convergence), और फैट-शैटरिंग डायमेंशन (fat-shattering dimension) (जो वीसी डायमेंशन का एक स्केल-सेंसिटिव सामान्यीकरण है)।

जबकि "फंडामेंटल थ्योरम ऑफ पीएसी लर्निंग" बाइनरी क्लासिफिकेशन के लिए इन धारणाओं की समानता स्थापित करती है, वास्तविक-मान वाले परिवेश में ऐतिहासिक रूप से एक अंतर देखा गया है। पूर्व कार्य (जैसे बार्टलेट और लॉन्ग, 1998) ने प्रदर्शित किया कि एक परिमित $\gamma$ -फैट-शैटरिंग डायमेंशन $2\gamma$ (या $c>2$ के लिए $c\gamma$ ) के स्केल पर यूनिफॉर्म कन्वर्जेंस और लर्नैबिलिटी को दर्शाता है। इसने यह प्रश्न खुला छोड़ दिया कि क्या स्केल में 2 का गुणात्मक कारक अपरिहार्य है, जो एंथोनी और बार्टलेट (1999) की पाठ्यपुस्तक में फिल लॉन्ग द्वारा प्रस्तावित एक अनुमान था।

इसके अलावा, यह शोध पत्र मेट्रिक एंट्रॉपी (कवरिंग नंबर्स का लघुगणक) और फैट-शैटरिंग डायमेंशन के बीच व्यवहार को भी संबोधित करता है। पूर्व परिणामों (एलॉन एट अल., 1997; रुडेलसन और वर्शिनिन, 2006) ने मेट्रिक एंट्रॉपी पर सीमाएँ प्रदान की थीं, लेकिन यह प्रश्न खुला रह गया था कि क्या इष्टतम स्केल्स पर सैंपल साइज $n$ के संबंध में निर्भरता को $O(\log^2 n)$ से सुधारकर $O(\log n)$ किया जा सकता है, और क्या इन सीमाओं में स्केल फैक्टर्स को कड़ा किया जा सकता है।

अंत में, यह शोध पत्र इंटीग्रल प्रोबेबिलिटी मेट्रिक्स (IPMs) का उपयोग करके जेनरेटिव मॉडल्स की इवैलुएबिलिटी और एस्टिमेबिलिटी पर इन सैद्धांतिक अंतर्दृनों को लागू करता है। बाइनरी टेस्ट फंक्शन्स के लिए एक हालिया द्वंद्व (Aiyer et al., 2026) ने सुझाव दिया था कि ऐसे मेट्रिक्स या तो एस्टिमेबल हैं या $c=3$ के इष्टतम स्केल के साथ वीकली इवैलुएबल हैं। वास्तविक-मान वाले फलनों तक इसका विस्तार करने में यूनिफॉर्म कन्वर्जेंस परिणामों में उपरोक्त 'स्केल-गैप' बाधा बन रहा था।

कार्यप्रणाली (Methodology)

लेखकों का प्राथमिक तकनीकी नवाचार प्रत्यक्ष एम्पिरिकल $\ell_\infty$ कवरिंग नंबर्स पर एक सीधा बाउंड है, जो मानक डेतूर (detour) के माध्यम से पैकिंग नंबर्स तक जाने के बजाय सीधे काम करता है।

पार्शियल कॉन्सेप्ट क्लासेस के माध्यम से प्रत्यक्ष कवरिंग:
पैकिंग नंबर्स से संबंध स्थापित करने के बजाय (जिसमें स्वाभाविक रूप से स्केल लॉस होता है), लेखक पार्शियल कॉन्सेप्ट क्लासेस (Lon01; AHHM22) के सिद्धांत का उपयोग करते हैं। वे स्केल $\gamma$ के सापेक्ष थ्रेशोल्ड के आधार पर वास्तविक-मान वाले फलनों को पार्शियल बाइनरी फलनों में मैप करते हैं। इन प्रेरित पार्शियल क्लासेस के वीसी डायमेंशन को बांधकर, वे स्पष्ट कवर (explicit covers) का निर्माण करते हैं जिनका आकार सब-एक्सपोनेंशियल होता है। यह उन्हें $2\gamma$ के बजाय सीधे इष्टतम स्केल $\gamma/2$ पर कवरिंग नंबर बाउंड्स प्राप्त करने की अनुमति देता है।
पुनरावृत्ति परिशोधन (Iterative Refinement):
$\gamma/2$ के जितना संभव हो सके करीब के स्केल्स पर बाउंड प्राप्त करने के लिए, लेखक एक पुनरावृत्ति निर्माण का उपयोग करते हैं। एक मोटे कवर से शुरू करते हुए, वे बॉक्स को पुनरावृत्ति से परिष्कृत करते हैं, रेडियस को ज्यामितीय रूप से कम करते हैं और कवर के आकार के विकास को नियंत्रित करते हैं। इससे $n$ में सब-लीनियर आकार का मेट्रिक एंट्रॉपी $H(F, \gamma/2 + \epsilon, n)$ बाउंड प्राप्त होता है।
सैंपल कम्प्रेशन और ड्यूल क्लासेस:
उस शासन (regime) के लिए जहाँ स्केल बड़ा है ( $\gamma > 2\gamma^*$ ), लेखक सैंपल कम्प्रेशन स्कीम्स का उपयोग करते हैं। वे इस तथ्य का लाभ उठाते हैं कि एक परिमित फैट-शैटरिंग डायमेंशन वाले फंक्शन क्लास की ड्यूल क्लास भी यूनिफॉर्म कन्वर्जेंस संतुष्ट करती है (एक परिणाम जो उनके मुख्य प्रमेय से प्राप्त हुआ है), जिससे वे डिस्ट्रीब्यूशन को स्पारसीफाई (sparsify) कर सकते हैं और कांस्टेंट-साइज कम्प्रेशन स्कीम्स का निर्माण कर सकते हैं। इससे $O(\log n)$ एंट्रॉपी बाउंड प्राप्त होता है।
टोटल वेरिएशन में न्यूनीकरण (Reduction to Total Variation):
इवैलुएबिलिटी के अनुप्रयोग में, लेखक अनंत फैट-शैटरिंग डायमेंशन वाले सामान्य IPMs से टोटल वेरिएशन (TV) डिस्टेंस सेटिंग में एक न्यूनीकरण का निर्माण करते हैं। वे यह दिखाने के लिए कि IPM एसिम्प्टोटिक रूप से TV डिस्टेंस की तरह व्यवहार करता है, शैटर्ड सेट्स पर डिस्ट्रीब्यूशन के मिश्रणों का सावधानीपूर्वक निर्माण करते हैं, जिससे इष्टतम स्केल कांस्टेंट्स सुरक्षित रहते हैं।

मुख्य योगदान और परिणाम

1. स्केल गैप का समाधान (थ्योरम 1)

यह शोध पत्र वास्तविक-मान वाले क्लासेस के लिए लर्निंग के फंडामेंटल थ्योरम ऑफ पीएसी लर्निंग का एक सटीक एनालॉग स्थापित करता है। एक बाउंडेड फंक्शन क्लास $F$ और स्केल $\gamma > 0$ के लिए, निम्नलिखित समकक्ष हैं:

$F$ $\gamma/2$ -लर्नेबल है।
$F$ $\gamma$ -यूनिफॉर्म कन्वर्जेंस संतुष्ट करता है।
प्रत्येक $\gamma' > \gamma$ के लिए, $F$ का $\gamma'$ -फैट-शैटरिंग डायमेंशन परिमित है।

महत्व: यह परिणाम उस अनुमान का खंडन करता है कि फैक्टर-2 का गैप अपरिहार्य है। यह सिद्ध करता है कि यदि फैट-शैटरिंग डायमेंशन $\gamma$ से थोड़ा भी बड़े किसी भी स्केल पर परिमित है, तो लर्नैबिलिटी और यूनिफॉर्म कन्वर्जेंस क्रमशः इष्टतम स्केल $\gamma/2$ (लर्नैबिलिटी के लिए) और $\gamma$ (कन्वर्जेंस के लिए) पर मान्य होते हैं।

2. शार्प मेट्रिक एंट्रॉपी बाउंड्स (थ्योरम 2)

यह शोध पत्र क्रिटिकल स्केल $\gamma^* = \inf\{\gamma : \text{fat}_\gamma(F) < \infty\}$ के आधार पर मेट्रिक एंट्रॉपी $H(F, \gamma, n)$ के विकास का पूर्ण लक्षण वर्णन प्रदान करता है:

लीनियर रिजीम ( $\gamma < \gamma^*/2$ ): $H(F, \gamma, n) = \Theta(n)$ ।
इंटरमीडिएट रिजीम ( $\gamma^*/2 < \gamma \le 2\gamma^*$ ): $H(F, \gamma, n) = O(\log^2 n)$ । यह शोध पत्र दिखाता है कि $\gamma \in (\gamma^*/2, \gamma^*)$ के लिए यह बाउंड टाइट है, जो एलॉन एट अल. (1997) के उस प्रश्न को हल करता है जिसमें $\log^2 n$ कारक की आवश्यकता पर सवाल उठाया गया था।
लार्ज स्केल रिजीम ( $\gamma > 2\gamma^*$ ): $H(F, \gamma, n) = O(\log n)$ । यह पुष्टि करता है कि पर्याप्त बड़े स्केल्स पर एक्सपोनेंट को घटाकर 1 किया जा सकता है, जो रुडेलसन और वर्शिनिन (2006) के प्रश्न को हल करता है।

3. जेनरेटिव मॉडल्स की इवैलुएबिलिटी के लिए द्वंद्व (थ्योरम 3 और प्रोपोजीशन 1)

शार्प स्केल-सेंसिटिव परिणामों को लागू करते हुए, यह शोध पत्र बाउंडेड इंटीग्रल प्रोबेबिलिटी मेट्रिक्स (IPMs) के लिए एक द्वंद्व स्थापित करता है:

यदि फैट-शैटरिंग डायमेंशन सभी $\gamma > 0$ के लिए परिमित है, तो IPM एस्टिमेबल है (और इस प्रकार $c=1$ के साथ स्ट्रॉन्गली इवैलुएबल है)।
यदि $\gamma \in (0, 1/2)$ के लिए कुछ $\gamma$ हेतु फैट-शैटरिंग डायमेंशन अनंत है, तो IPM इष्टतम स्केल $c=3$ के साथ वीकली इवैलुएबल है, लेकिन किसी भी $c < 3$ के लिए नहीं।

महत्व: यह एय्यर एट अल. (2026) के बाइनरी द्वंद्व को वास्तविक-मान वाले फलनों तक विस्तारित करता। इनका प्रमाण महत्वपूर्ण रूप से लेखकों की $\gamma$ स्केल पर बिना फैक्टर-2 लॉस के यूनिफॉर्म कन्वर्जेंस स्थापित करने की क्षमता पर निर्भर करता; इसके बिना, $c=3$ के इष्टतम स्केल के लिए तर्क विफल हो जाता।

4. क्लोजर प्रॉपर्टीज (Closure Properties)

शोध पत्र यह प्रदर्शित करता है कि $\gamma$ -लर्नैबिलिटी और $\gamma$ -यूनिफॉर्म कन्वर्जेंस के गुण निम्नलिखित के तहत अपरिवर्तित रहते हैं:

ड्यूअलिटी (Duality): एक यूनिफॉर्मली कन्वर्जेंट क्लास की ड्यूल क्लास भी यूनिफॉर्मली कन्वर्जेंट होती है।
एग्रीगेशन (Aggregation): 1-लिप्सचिट्ज़ फलनों के माध्यम से क्लासेस को एग्रीगेट करना उसी स्केल पर यूनिफॉर्म कन्वर्जेंस को बनाए रखता है।

महत्व और दावे

लेखक दावा करते हैं कि उनका कार्य लर्निंग थ्योरी के कई लंबे समय से चले आ रहे खुले प्रश्नों को हल करता है:

फैक्टर-2 कंजेक्चर का खंडन: लर्नैबिलिटी और यूनिफॉर्म कन्वर्जेंस कि इष्टतम स्केल्स पर होने को सिद्ध करके, यह शोध पत्र एंथोनी और बार्टलेट (1999) द्वारा उठाए गए प्रश्न का निश्चित उत्तर देता है, यह दिखाते हुए कि फैक्टर-2 का गैप अंतर्निहित नहीं है।
शार्प एंट्रॉपी बाउंड्स: यह शोध पत्र सैंपल साइज $n$ और स्केल $\gamma$ के संबंध में मेट्रिक एंट्रॉपी की सटीक निर्भरता को निर्धारित करता है, जिससे यह स्पष्ट होता है कि कब $O(\log n)$ बाउंड प्राप्त किया जा सकता है बनाम कब $O(\log^2 n)$ आवश्यक है।
इवैलुएबिलिटी का गुणात्मक लक्षण वर्णन: यह शोध पत्र तर्क देता है कि यूनिफॉर्म कन्वर्जेंस के स्केल में फैक्टर 2 से 1 में गुणात्मक सुधार, जेनरेटिव मॉडल इवैल्यूएशन के लिए एक गुणात्मक लक्षण वर्णन को अनलॉक करता है, जो एस्टिमेबिलिटी और $c=3$ के साथ वीकली इवैलुएबिलिटी के बीच एक शार्प द्वंद्व स्थापित करता है।

लेखक नोट करते हैं कि जबकि वे एसिम्प्टोटिक व्यवहार और द्वंद्व के अस्तित्व को हल करते हैं, इंटरमीडिएट रेंज $\gamma^* < \gamma \le 2\gamma^*$ में एंट्रॉपी का सटीक व्यवहार और इष्टतम स्केल पर लर्निंग के शार्प सैंपल कॉम्प्लेक्सिटी बाउंड्स अभी भी खुले प्रश्न हैं। इसके अतिरिक्त, अन्य $\ell_p$ मेट्रिक्स के तहत फैट-शैटरिंग डायमेंशन और कवरिंग नंबर्स के बीच संबंध को भविष्य के अनुसंधान के लिए छोड़ दिया गया है।