तकनीकी सारांश: क्रमिक भविष्यवाणी के लिए सत्यनिष्ठ अंशांकन उपाय (Truthful Calibration Measures for Sequential Prediction)

समस्या विवरण (Problem Statement)

यह शोध पत्र क्रमिक संभाव्य भविष्यवाणी (sequential probabilistic prediction) के संदर्भ में सत्यनिष्ठा (truthfulness) और पूर्णता (completeness) एवं सुदृढ़ता (soundness) की सांख्यिकीय गारंटियों के बीच के मौलिक तनाव को संबोधित करता है।

• अंशांकन (Calibration): एक भविष्यवक्ता (predictor) तब अंशांकित (calibrated) होता है जब प्रत्येक रिपोर्ट की गई प्रायिकता $p$ के लिए, घटना घटित होने की अनुभवजन्य आवृत्ति (empirical frequency) लगभग $p$ होती है। एक अंशांकन माप (calibration measure) रिपोर्टों और परिणामों के एक अनुक्रम को मात्रा निर्धारित करने के लिए एक संख्यात्मक त्रुटि निर्दिष्ट करता है।
• वांछनीय गुण (Desiderata):
  • पूर्णता (Completeness): यदि रिपोर्ट वास्तव में एक अंशांकित वितरण से उत्पन्न होती हैं, तो अपेक्षित अंशांकन त्रुटि (expected calibration error) नमूना आकार $T \to \infty$ होने पर शून्य हो जानी चाहिए।
  • सुदृढ़ता (Soundness): यदि रिपोर्ट एक गलत अंशांकित (miscalibrated) वितरण से उत्पन्न होती हैं, तो $T \to \infty$ होने पर अपेक्षित त्रुटि शून्य से दूर (bounded away from zero) रहनी चाहिए।
  • सत्यनिष्ठा (Truthfulness): एक अंशांकन माप तब सत्यनिष्ठ होता है जब वह रणनीति जो अगले परिणाम का वास्तविक सशर्त प्रायिकता (true conditional probability) रिपोर्ट करती है (सत्यनिष्ठ रणनीति), अपेक्षित अंशांकन त्रुटि को न्यूनतम करती है, चाहे डेटा-जनरेटिंग वितरण कुछ भी हो।

जबकि बैच (batch) सेटिंग (जहाँ सभी डेटा एक साथ उपलब्ध होता है) में पूर्णतः सत्यनिष्ठ अंशांकन उपाय मौजूद हैं, यह शोध पत्र इस बात की जांच करता है कि क्या ऐसे उपाय क्रमिक (sequential) सेटिंग में भी अस्तित्व में हो सकते हैं, जहाँ भविष्यवाणियाँ पिछले परिणामों के आधार पर एक-एक करके की जाती हैं। Haghtalab et al. [14] के हालिया कार्य ने क्रमिक सेटिंग के लिए एक लगभग सत्यनिष्ठ (approximately truthful) उपाय प्रस्तावित किया था, जिससे यह प्रश्न खुला रह गया था कि क्या पूर्ण सत्यनिष्ठा, पूर्णता और सुदृढ़ता के साथ संगत है।

कार्यप्रणाली और तकनीकी दृष्टिकोण (Methodology and Technical Approach)

यह शोध पत्र असंभवता के परिणामों को स्थापित करने और लगभग सत्यनिष्ठा प्राप्त करने के लिए रचनात्मक न्यूनीकरण (constructive reductions) हेतु एक हाइब्रिड तर्क (hybrid argument) का उपयोग करता है।

1. पूर्ण सत्यनिष्ठा की असंभवता (Impossibility of Exact Truthfulness)

मुख्य असंभवता परिणाम एक हाइब्रिड तर्क पर आधारित है जो समस्या की क्रमिक प्रकृति का लाभ उठाता है।

• सेटअप: लेखक भविष्यवाणी-परिणाम युग्मों पर दो ऑफलाइन वितरणों पर विचार करते हैं: एक अंशांकित वितरण $D_q$ (जहाँ भविष्यवक्ता $q$ रिपोर्ट करता है और परिणामों का माध्य $q$ है) और एक गलत अंशांकित वितरण $D'_q$ (जहाँ भविष्यवक्ता $q$ केवल तभी रिपोर्ट करता है जब परिणाम 0 हो, और जब परिणाम 1 हो तो 1 रिपोर्ट करता है)।
• हाइब्रिड निर्माण: वे हाइब्रिड वितरणों की एक अनुक्रमिक श्रृंखला $H_0, \dots, H_T$ का निर्माण करते हैं, जहाँ $H_m$ में पहले $m$ नमूने गलत अंशांकित वितरण $D'_q$ से और शेष $T-m$ नमूने अंशांकित वितरण $D_q$ से लिए गए हैं।
• तर्क: चूंकि अंशांकन माप को पूरी तरह से गलत अंशांकित $H_T$ और पूरी तरह से अंशांकित $H_0$ के बीच अंतर करना चाहिए (सुदृढ़ता और पूर्णता के कारण), इसलिए एक "स्विचिंग पॉइंट" $m$ होना चाहिए जहाँ $H_{m-1}$ और $H_m$ के बीच अपेक्षित त्रुटि महत्वपूर्ण रूप से बदल जाती है।
• विचलन (Deviation): यह स्थानीय अंतर यह दर्शाता है कि, एक विशिष्ट (दुर्लभ) प्रिफिक्स (prefix) के आधार पर, एक रणनीतिक भविष्यवक्ता भविष्य में गलत रिपोर्ट करके अपनी अपेक्षित अंशांकन त्रुटि को कम कर सकता है, भले ही अंतर्निहित डेटा एक उत्पाद वितरण (स्वतंत्र परिणाम) द्वारा जनरेट किया गया हो। विशेष रूप से, यदि प्रिफिक्स इतिहास को गलत अंशांकित दिखाता है, तो भविष्यवक्ता भविष्य में गलत रिपोर्ट करके अंशांकन को "ठीक" (repair) कर सकता है, भले ही वह वास्तविक माध्य रिपोर्ट करे।
• मुख्य अंतर्दृष्टि: पूर्ण सत्यनिष्ठा के लिए आवश्यक है कि भविष्यवक्ता उन दुर्लभ इतिहासों पर भी वास्तविक माध्य रिपोर्ट करे जहाँ ट्रांसक्रिप्ट खराब रूप से गलत अंशांकित दिखाई देता है। हालाँकि, पूर्णता और सुदृढ़ता उन ट्रांसक्रिप्ट्स को पुरस्कृत करती है जो अंशांकित दिखते हैं। एक रणनीतिक भविष्यवक्ता इस प्रकार के व्यवहार का लाभ उठाकर भविष्य में गलत रिपोर्ट कर सकता है ताकि ट्रांसक्रिप्ट अंशांकित दिखे, जिससे अपेक्षित त्रुटि कम हो सके।

2. मात्रात्मक निचली सीमाएं (Quantitative Lower Bounds)

शोध पत्र सत्यनिष्ठ और रणनीतिक रिपोर्टिंग के बीच के अंतर को मात्रात्मक रूप से निर्धारित करता है। एक रणनीतिक भविष्यवक्ता द्वारा प्राप्त लाभ को $T$ के सापेक्ष घातांकीय रूप से छोटा (exponentially small) दिखाया गया है (विशेष रूप से $(1-q)^{T-1}$ के समानुपाती)। यह छोटा लाभ इसलिए उत्पन्न होता है क्योंकि रणनीतिक विचलन केवल हाइब्रिड तर्क द्वारा चयनित एक दुर्लभ प्रिफिक्स यथार्थ (prefix realization) पर उपयोगी होता है।

в. लगभग सत्यनिष्ठा न्यूनीकरण (Approximate Truthfulness Reductions)

यह पहचानते हुए कि पूर्ण सत्यनिष्ठा असंभव है, लेखक किसी भी बेस मेजर (base measure) से लगभग सत्यनिष्ठ उपायों का निर्माण करने के लिए दो-चरणीय न्यूनीकरण का प्रस्ताव करते हैं जो समान पूर्णता (uniform completeness) (एक गुण जो यह सुनिश्चित करता है कि सत्यनिष्ठ त्रुटि सैंपलिंग एरर द्वारा समान रूप से सीमित है) को संतुष्ट करता है।

• चरण 1: योगात्मक सन्निकटन (Additive Approximation)।
  लेखक एक नया माप परिभाषित करते हैं जो बेस मेजर से एक लुप्त होते सैंपलिंग-एरर थ्रेशोल्ड $\tau_T$ को घटाता है और शून्य पर ट्रंकेट (truncate) करता है:
  $$\text{Cal}^{\text{add}}_T(r, y) = (\text{Err}_T(r, y) - \tau_T)_+$$
  यह निर्माण योगात्मक रूप से लगभग सत्यनिष्ठ (additively approximately truthful) है, जिसका अर्थ है कि सत्यनिष्ठ रणनीति की त्रुटि किसी भी रणनीतिक रणनीति की त्रुटि से केवल $\beta_T$ अधिक है, जहाँ $\beta_T \to 0$।

• चरण 2: गुणात्मक सन्निकटन (Multiplicative Approximation)।
  एक मजबूत गारंटी प्राप्त करने के लिए, वे योगात्मक माप में एक सामान्यीकृत वर्ग-हानि (squared-loss) पद जोड़ते हैं:
  $$\text{Cal}^{\text{mult}}_T(r, y) = \text{Cal}^{\text{add}}_T(r, y) + \lambda_T \cdot \frac{1}{T} \sum_{t=1}^T (r_t - y_t)^2$$
  वर्ग-हानि पद अपेक्षित त्रुटि पर एक सार्वभौमिक निचली सीमा प्रदान करता है (आंतरिक भिन्नता से संबंधित है), जिससे तुलना गुणात्मक (multiplicative) हो जाती है। इसके परिणामस्वरूप एक ऐसा माप प्राप्त होता है जो $(1 + \eta_T)$-गुणात्मक रूप से सत्यनिष्ठ है, जहाँ $\eta_T \to 0$।

मुख्य परिणाम (Key Results)

1. असंभवता प्रमेय (Impossibility Theorem): क्रमिक भविष्यवाणी सेटिंग में कोई भी अंशांकन माप एक साथ पूर्णतः सत्यनिष्ठ (exact truthful), पूर्ण (complete) और सुदृढ़ (sound) नहीं हो सकता, यहाँ तक कि स्वतंत्र परिणामों (product distributions) के मामले में भी। यह कमजोर सुदृढ़ता और पूर्णता के सिद्धांतों के तहत भी लागू होता है।
2. मात्रात्मक अंतर (Quantitative Gap): शोध पत्र रणनीतिक लाभ के लिए एक निचली सीमा स्थापित करता है, यह दिखाते हुए कि यह $T$ के क्षितिज (horizon) में घातांकीय रूप से छोटा है। यह दर्शाता है कि हालांकि पूर्ण सत्यनिष्ठा असंभव है, बड़े $T$ के लिए विचलन का प्रोत्साहन नगण्य है।
3. लगभग निर्माण (Approximate Constructions):
   • लेखक किसी भी समान पूर्ण बेस मेजर को योगात्मक रूप से लगभग सत्यनिष्ठ माप में बदलने के लिए एक सामान्य न्यूनीकरण प्रदान करते हैं।
   • वे इसे गुणात्मक रूप से लगभग सत्यनिष्ठ माप तक और अधिक परिष्कृत करते हैं।
   • स्मूथ अंशांकन त्रुटि (smooth calibration error) को लागू करके, वे किसी भी $0 < \varepsilon < 1$ के लिए एक ऐसा माप निर्मित करते हैं जो $(1 + \exp(-\frac{1}{2}T^{(1-\varepsilon)/2})$-गुणात्मक रूप से सत्यनिष्ठ है। यह Haghtalab et al. [14] द्वारा दिए गए सन्निकटन गारंटी में सुधार करता है।
4. गुणों का संरक्षण (Preservation of Properties): न्यूनीकरण के चरण बेस अंशांकन माप की पूर्णता और सुदृढ़ता को बनाए रखते हैं।

महत्व और दावे (Significance and Claims)

यह शोध पत्र क्रमिक सेटिंग में पूर्ण सत्यनिष्ठा की पूर्णता और सुदृढ़ता के साथ संगतता के संबंध में एक मौलिक खुले प्रश्न को हल करने का दावा करता है।

• नकारात्मक परिणाम (Negative Result): यह स्पष्ट रूप से उत्तर देता है कि क्रमिक भविष्यवाणी में पूर्ण सत्यनिष्ठा संभव नहीं है। यह असंगति इसलिए उत्पन्न होती है क्योंकि क्रमिक सेटिंग एक रणनीतिक भविष्यवक्ता को दुर्लभ ऐतिहासिक यथार्थों (historical realizations) का लाभ उठाकर अंशांकन को "ठीक" करने की अनुमति देती है, जो बैच सेटिंग में उपलब्ध नहीं है।
• सकारात्मक परिणाम (Positive Result): यह प्रदर्शित करता है कि यह असंभवता केवल पूर्ण सत्यनिष्ठा के लिए विशिष्ट है। लगभग सत्यनिष्ठा की आवश्यकता को शिथिल करके, यह शोध पत्र पूर्णता और सुदृढ़ता के आवश्यक सांख्यिकीय गुणों को बनाए रखते हुए, सत्यनिष्ठता के अत्यंत निकट होने वाले मापों को निर्मित करने के लिए एक सामान्य ढांचा प्रदान करता है।
• सुधार (Improvement): प्रस्तावित गुणात्मक न्यूनीकरण पिछले कार्यों की तुलना में एक मजबूत सन्निकटन गारंटी प्रदान करता है, जिससे सत्यनिष्ठ रणनीति का प्रदर्शन $T$ बढ़ने के साथ अनुकूलतम रणनीतिक प्रदर्शन के अत्यंत निकट पहुँच जाता है।

लेखक उल्लेख करते हैं कि Dewasurendra [7, 8] द्वारा स्वतंत्र कार्य ने भी क्रमिक भविष्यवाणी के लिए असंभवता के परिणाम दिखाए हैं, हालांकि उनके कार्यों में सत्यनिष्ठा और सुदृढ़ता की परिभाषाएँ थोड़ी भिन्न हैं (विशेष रूप से विचार किए गए डेटा-जनरेटिंग वितरणों के संबंध में)। वर्तमान शोध पत्र का असंभवता परिणाम उत्पाद वितरणों (product distributions) के कमजोर अनुमान के तहत भी प्रभावी है।