The Preisach Extremum Stack is a Shannon-Minimal Sufficient Statistic for Rate-Independent Functionals

तकनीकी सारांश: शैनन-न्यूनतम पर्याप्त सांख्यिकी के रूप में प्रिसैक एक्सट्रीमम स्टैक (Preisach Extremum Stack)

समस्या विवरण
यह शोध पत्र सभी गणनीय (computable), कारणता-युक्त (causal), और दर-स्वतंत्र (rate-independent) फलनल्स के वर्ग $\mathcal{R}$ के सूचना-सैद्धांतिक लक्षण वर्णन को संबोधित करता है। एक फलनल दर-स्वतंत्र है यदि उसका आउटपुट बढ़ते हुए समय पुनर्रूपण (monotone time reparametrizations/समय परिवर्तन) के तहत अपरिवर्तित रहता है। हिस्टेरेसिस मॉडलिंग के संदर्भ में, विशेष रूप से प्रिसैक ऑपरेटर के संदर्भ में, केंद्रीय एल्गोरिद्मिक वस्तु एक्सट्रीमम स्टैक ($\Pi_n$) है, जो वाइपिंग-आउट (wiping-out) नियम द्वारा जीवित रहने वाले वैकल्पिक स्थानीय अधिकतम (maxima) और न्यूनतम (minima) का एक नेस्टेड अनुक्रम है। जबकि एक पिछले परिणाम ने यह स्थापित किया था कि $\Pi_n$ $\mathcal{R}$ के लिए एक कोलमोगोरोव-न्यूनतम (Kolmogorov-minimal) पर्याप्त सांख्यिकी है (जो सबसे खराब स्थिति में विवरण की लंबाई को कम करती है), यह शोध पत्र संगत शैनन-सैद्धांतिक परिणाम खोजने का प्रयास करता है: क्या $\Pi_n$ किसी भी प्रायिकता माप (probability measure) के तहत इनपुट अनुक्रम के साथ पारस्परिक सूचना (mutual information) को न्यूनतम करता है।

कार्यप्रणाली
लेखक फलन विश्लेषण (functional analysis), असतत-समय स्टोकेस्टिक प्रक्रियाओं (discrete-time stochastic processes), और सूचना सिद्धांत को संयोजित करने वाला एक तीन-चरणीय तार्किक ढांचा नियोजित करते हैं:

1. दर-स्वतंत्रता का लक्षण वर्णन: लेखक सिद्ध करते हैं कि वर्ग $\mathcal{R}$ एक ठोस गुणनखंड (factorization) स्वीकार करता है। वे प्रदर्शित करते हैं कि कोई भी फलनल $F \in \mathcal{R}$, वर्तमान समय चरण पर एक्सट्रीमम स्टैक $\Pi_n$ के एक गणनीय फलन के रूप में व्यक्त किया जा सकता है। यह इस गुण पर निर्भर करता है कि समान स्टैक उत्पन्न करने वाले दो इनपुट अनुक्रम एक ही बढ़ते हुए समय पुनर्रूपण (गैर-चरम बिंदुओं तक) द्वारा संबंधित होते हैं, और इस प्रकार किसी भी दर-स्वतंत्र फलनल के लिए समान आउटपुट देते हैं।
2. पारस्परिक सूचना समानता का व्युत्पन्न: लक्षण वर्णन प्रमेय का उपयोग करते हुए, लेखक दिखाते हैं कि आउटपुट $F[u](n)$ $\Pi_n$ का एक नियतात्मक (deterministic) फलन है। फलस्वरूप, इनपुट इतिहास $u_{0:n}$ और आउटपुट $F[u](n)$ के बीच की पारस्परिक सूचना, स्टैक $\Pi_n$ और आउटपुट के बीच की पारस्परिक सूचना के समान होती है।
3. न्यूनतमता का प्रमाण: $\Pi_n$ को न्यूनतम सिद्ध करने के लिए, लेखक स्टैक में विशिष्ट युग्मों $(M, m)$ की उपस्थिति द्वारा परिभाषित एक परिमित संकेतक परिवार (finite indicator family) का उपयोग करते हैं। वे तर्क देते हैं कि $\mathcal{R}$ के लिए कोई भी पर्याप्त सांख्यिकी $S$, इन संकेतक फलनों के पुनर्निर्माण की अनुमति देगी, और इस प्रकार $\Pi_n$ के स्वयं के पुनर्निर्माण की अनुमति देगी। डेटा प्रोसेसिंग असमानता (Data Processing Inequality) को लागू करके, वे स्थापित करते हैं कि $I(u_{0:n}; \Pi_n)$, किसी भी अन्य पर्याप्त सांख्यिकी $S$ के लिए $I(u_{0:n}; S)$ से कम या उसके बराबर है।

मुख्य योगदान और परिणाम

• लक्षण वर्णन प्रमेय (Theorem 5): यह शोध पत्र स्थापित करता है कि $F \in \mathcal{R}$ यदि और केवल यदि $F[u](n) = f(\Pi_n)$ एक गणनीय फलन $f$ के लिए। यह सिद्ध करता है कि एक्सट्रीमम स्टैक असतत ग्रिड पर दर-स्वतंत्र फलनल्स के लिए एक पूर्ण अपरिवर्तनीय (complete invariant) है।
• पारस्परिक सूचना समानता (Theorem 9): इनपुट अनुक्रम पर किसी भी प्रायिकता माप और किसी भी $F \in \mathcalseits \mathcal{R}$ के लिए, समानता $I(u_{0:n}; F[u](n)) = I(\Pi_n; F[u](n))$ बनी रहती है। यह परिणाम इंगित करता है कि चरम बिंदुओं के समय और गैर-चरम बिंदुओं के मानों को स्टैक प्रक्रिया के माध्यम से त्यागने से अंतिम समय पर किसी भी दर-स्वतंत्र क्वेरी के संबंध में पारस्परिक सूचना का शून्य नुकसान होता है।
• शैनन न्यूनता (Theorem 13): मुख्य परिणाम सिद्ध करता है कि $\Pi_n$ एक शैनन-न्यूनतम पर्याप्त सांख्यिकी है। उन सभी यादृच्छिक चरों $S$ के बीच जिनसे $\mathcal{R}$ के सभी प्रश्न (queries) गणनीय हैं, $\Pi_n$ इनपुट इतिहास $u_{0:n}$ के बारे में न्यूनतम शैनन सूचना बनाए रखता है।
• अनुमान निहितार्थ (Proposition 15): लेखक नॉन-निगेटिव लीस्ट स्क्वेयर्स (NNLS) के माध्यम से प्रिसैक माप $\mu$ के अनुमान के लिए एक व्यावहारिक अनुप्रयोग प्रदर्शित करते हैं। स्टैक प्रक्रिया $(\Pi_t)_{t=0}^n$ को ऑनलाइन बनाए रखकर, NNLS सिस्टम को पूर्ण इनपुट इतिहास u_{0:n को संग्रहीत किए बिना असेंबल किया जा सकता है। यह मेमोरी आवश्यकताओं को $O(n)$ से घटाकर $O(\max_t |\Pi_t|)$ कर देता है, जो धीरे-धीरे बदलने वाले संकेतों के लिए महत्वपूर्ण बचत प्रदान करता है, जबकि प्रति चरण कम्प्यूटेशनल जटिलता $O(k \cdot L^2)$ बनी रहती है, जहाँ $k$ स्टैक का आकार और $L$ ग्रिड रिज़ॉल्यूशन है।

महत्व और दावे
शोध पत्र का दावा है कि इसका प्राथमिक योगदान पहले से ज्ञात कोलमोगोरोव-जटिलता लक्षण वर्णन के शैनन-सैद्धांतिक समकक्ष की स्थापना करना है। लेखक इस बात पर जोर देते हैं कि पारस्परिक सूचना समानता लक्षण वर्णन प्रमेय द्वारा प्रकट की गई $\mathcal{R}$ की नियतात्मक संरचना का एक सीधा परिणाम है, न कि कोई गहरा संभाव्य परिणाम। वास्तविक संभाव्य योगदान न्यूनता प्रमेय है, जो पुष्टि करता है कि स्टैक दर-स्वतंत्र प्रश्नों के लिए सबसे सूचना-कुशल प्रतिनिधित्व है।

लेखक अंतिम स्टैक $\Pi_n$ (जो समय $n$ पर एकल क्वेरी के लिए पर्याप्त है) और स्टैक प्रक्रिया $(\Pi_t)$ (जिसकी आवश्यकता पूर्ण प्रक्षेपवक्र (trajectory) के प्रश्नों के लिए है) के बीच अंतर स्पष्ट करते हैं। वे स्पष्ट करते हैं कि अनुमान लाभ इनपुट इतिहास भंडारण को कम करने के लिए प्रक्रिया के ऑनलाइन रखरखाव के माध्यम से प्राप्त किया जाता है, न कि प्रक्षेपवक्र को एकल अंतिम अवस्था में संकुचित करके।

अंत में, शोध पत्र नोट करता है कि जबकि कोलमोगोरोव न्यूनता व्यक्तिगत अनुक्रमों के लिए सबसे खराब स्थिति में बनी रहती है, शैनन न्यूनता किसी भी प्रायिकता माप के तहत अपेक्षा (expectation) में बनी रहती है। वे कहते हैं कि दोनों में से कोई भी एक दूसरे का निहितार्थ नहीं है, लेकिन दोनों ही एक्सट्रीमम स्टैक को दर-स्वतंत्र फलनल्स के वर्ग के लिए कैनोनिकल सूचना-न्यूनतम प्रतिनिधित्व के रूप में पहचानते हैं। शोध पत्र वेक्टर-मान वाले प्रिसैक ऑपरेटरों तक इन परिणामों के विस्तार और पूर्ण प्रक्षेपवक्र अनुमान के लिए औपचारिक फिशर-नेमन (Fisher–Neyman) लक्षण वर्णन के संबंध में खुले प्रश्न पूछते हुए समाप्त होता है।