Dual Filter: A Transformer-like Inference Architecture for Hidden Markov Models

यहाँ हेंग-शेंग चांग और प्रशांत जी. मेहता के शोध पत्र "Dual Filter: A Transformer-like Inference Architecture for Hidden Markov Models" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र उन प्रणालियों के लिए कारण संबंधी गैररेखीय भविष्यवाणी (causal nonlinear prediction) की समस्या को संबोधित करता है जहाँ प्रेक्षण (observations) एक अंतर्निहित हिडन मार्कोव मॉडल (HMM) द्वारा उत्पन्न होते हैं।

• लक्ष्य: पिछले टोकन के एक सीमित अनुक्रम के आधार पर, अगले टोकन (प्रेक्षण) की सप्रतिबंध प्रायिकता (conditional probability), $P(Z_{T+1} = z \mid Z_1, \dots, Z_T)$, की गणना करना।
• संदर्भ: जबकि आधुनिक डिकोडर-ओनली ट्रांसफॉर्मर (Decoder-only Transformers) जनरेटिव एआई में इस कार्य में उत्कृष्ट हैं, उनकी आंतरिक कार्यप्रणाली को अक्सर "ब्लैक बॉक्स" के रूप में देखा जाता है। लेखक प्रथम सिद्धांतों (विशेष रूप से अनुकूलन नियंत्रण सिद्धांत - optimal control theory) से एक गणितीय रूप से कठोर, ट्रांसफॉर्मर जैसी वास्तुकला प्राप्त करने का लक्ष्य रखते हैं जो HMM के लिए इस भविष्यवाणी समस्या को हल करती है, न कि स्वयं ट्रांसफॉर्मर को मॉडल करने का।
• भेद: ध्यान पूरी तरह से अनुमान (inference) पर केंद्रित है (अर्थात, एक मॉडल दिए जाने पर भविष्यवाणी की गणना करना), न कि डेटा से मॉडल के मापदंडों (parameters) को सीखने पर।

2. कार्यप्रणाली (Methodology)

लेखक अनुकूलन नियंत्रण सिद्धांत (Optimal Control Theory) और द्वैतता (Duality) पर आधारित एक ढांचा प्रस्तावित करते हैं, जिससे डुअल फ़िल्टर (Dual Filter) नामक एक नया एल्गोरिदम विकसित होता है।

A. गणितीय सूत्रीकरण (Mathematical Formulation)

1. गैररेखीय भविष्यवक्ता प्रतिनिधित्व (Nonlinear Predictor Representation): लेखक एक सप्रतिबंध माप (posterior) $\pi_T$ के लिए एक प्रतिनिधित्व की खोज करते हैं, जो एक कारण संबंधी, गैररेखीय भविष्यवक्ता के रूप में हो:
   $$\pi_T(F) = (\text{constant}) - \sum_{t=1}^T U_{t-1}^T e(Z_t)$$
   यहाँ, $U$ एक स्टोकेस्टिक प्रक्रिया (यादृच्छिक भार) है जो पिछले प्रेक्षणों के अनुकूल (adapted) है, और $e(\cdot)$ टोकन को वेक्टर्स में मैप करने वाला एक मैपिंग है (जो वन-हॉट एनकोडिंग के समान है)। लीनियर प्रेडिक्टर्स (वीनर फिल्टर) के विपरीत, जहाँ भार नियत (deterministic) होते हैं, यहाँ ये भार प्रेक्षण इतिहास पर निर्भर करते हैं, जो भविष्यवक्ता को गैररेखीय बनाते हैं।

2. अनुकूलन नियंत्रण पुनर्गठन (Optimal Control Reformulation):

   • न्यूनतम माध्य-वर्ग त्रुटि (Minimum Mean-Squared Error - MMSE) अनुमान समस्या को एक अनुकूलन नियंत्रण समस्या (Optimal Control Problem - OCP) के रूप में पुनर्गठित किया गया है।
   • गतिशील बाधा (Dynamic Constraint): सिस्टम को एक बैकवर्ड स्टोकेस्टिक डिफरेंस इक्वेशन (BS$\Delta$E) का उपयोग करके मॉडल किया गया है। यह समीकरण टर्मिनल स्थिति (लक्ष्य फलन जिसे अनुमानित किया जाना है) को समय में पीछे की ओर प्रारंभिक अवस्था से जोड़ता है, जो नियंत्रण इनपुट $U$ और मार्टिंगेल वृद्धि (martingale increments) द्वारा संचालित होता है।
   • द्वैतता सिद्धांत (Duality Principle): एक प्रमुख सैद्धांतिक योगदान गैररेखीय फ़िल्टरिंग समस्या और अनुकूलन नियंत्रण समस्या के बीच एक द्वैतता स्थापित करना है। लेखक सिद्ध करते हैं कि नियंत्रण लागत फलन (control cost function) को न्यूनतम करना, MMSE को न्यूनतम करने के समान है।

3. डुअल फ़िल्टर एल्गोरिदम (The Dual Filter Algorithm):

   • OCP को हल करने से वर्तमान सप्रतिबंध माप $\pi_t$ के फलन के रूप में एक स्पष्ट अनुकूलन इनपुट $U^{(opt)}_t$ प्राप्त होता है।
   • इससे प्रायिकता मापों (probability measures) के स्थान पर एक फिक्स्ड-पॉइंट समीकरण (fixed-point equation) प्राप्त होता है।
   • लेखक एक लेयर ट्रांसफॉर्मेशन $\mathcal{N}^{(\text{dfltr})}$ को परिभाषित करते हैं जो मापों के एक अनुक्रम को एक नए अनुक्रम में मैप करता है। वास्तविक सप्रतिबंध माप $\pi$, इस मानचित्र का फिक्स्ड पॉइंट है: $\pi = \mathcal{N}^{(\text{dfltr})}(\pi)$।
   • एल्गोरिदम: फिक्स्ड पॉइंट को अनुमानित करने के लिए दो एल्गोरिदम प्रस्तावित किए गए हैं:
     1. पुनरावृत्ति एल्गोरिदम (Iterative Algorithm): यह लेयर ट्रांसफॉर्मेशन को बार-बार लागू करता है (जो संरचनात्मक रूप से ट्रांसफॉर्मर परतों के समान है)।
     2. सिंगल-शॉट एल्गोरिदम (Single-Shot Algorithm): यह बैकवर्ड समीकरण की पुनरावर्ती संरचना का लाभ उठाकर एक ही पास में समाधान निकालता है, जो उच्च दक्षता ($O(d^2 T)$ जटिलता, शब्दावली आकार $m$ से स्वतंत्र) प्रदान करता है।

3. प्रमुख योगदान (Key Contributions)

1. नया प्रतिनिधित्व: अनुकूलन नियंत्रण इनपुट पर आधारित कारण संबंधी गैररेखीय भविष्यवक्ताओं (समीकरण 1) के लिए एक नवीन प्रतिनिधित्व का व्युत्पत्ति, जो वीनर फिल्टर को गैररेखीय HMM सेटिंग में सामान्यीकृत करता है।
2. HMM के लिए द्वैतता सिद्धांत (Duality Theory for HMMs): असतत प्रेक्षणों वाले डिस्क्रीट-टाइम HMM के लिए एक "न्यूनतम विचरण द्वैतता" (Minimum Variance Duality) की स्थापना। यह नियंत्रण सिद्धांत में एक लंबे समय से चले आ रहे खुले प्रश्न को हल करता है, जो कलमन की द्वैतता (जो पहले लीनियर-क्वाड्रेटिक-गौसियन सेटिंग्स तक सीमित थी) को गैररेखीय, डिस्क्रीट सिस्टम तक विस्तारित करता है।
3. डुअल फ़िल्टर आर्किटेक्चर: डुअल फ़िल्टर का परिचय, जो एक फिक्स्ड-पॉइंट समीकरण को हल करने वाला एक पुनरावृत्ति एल्गोरिदम है। यह प्रथम सिद्धांतों से व्युत्पन्न एक गणितीय रूप से सुदृढ़, ट्रांसफॉर्मर-जैसी वास्तुकला प्रदान करता है।
4. संरचनात्मक पत्राचार (Structural Correspondence): डुअल फ़िल्टर और डिकोडर-ओनली ट्रांसफॉर्मर के बीच एक विस्तृत मैपिंग:
   • इनपुट: टोकन एम्बेडिंग प्रारंभिक माप अनुमानों (initial measure estimates) के अनुरूप हैं।
   • परतें (Layers): डुअल फ़िल्टर का लेयर ट्रांसफॉर्मेशन $\mathcal{N}^{(\text{dfltr})}$, ट्रांसफॉर्मर के सेल्फ-अटेंशन लेयर $\mathcal{N}^{(\text{xfer})}$ के समानांतर है।
   • तंत्र (Mechanism): शोध पत्र तर्क देता है कि ट्रांसफॉर्मर में "अटेंशन" तंत्र को नियंत्रण-सैद्धांतिक द्वैतता से प्राप्त एक विशिष्ट प्रकार के गैररेखीय भविष्यवक्ता के रूप में व्याख्यायित किया जा सकता है, हालांकि विशिष्ट कार्यान्वयन भिन्न है (डुअल फ़िल्टर स्पष्ट मार्कोव डायनेमिक्स का उपयोग करता है; ट्रांसफॉर्मर अटेंशन वेट्स को सीखते हैं)।

4. परिणाम (Results)

शोध पत्र बड़े पैमाने के ट्रांसफॉर्मर मॉडल की नकल करने वाले मापदंडों (स्टेट डायमेंशन $d=384$, शब्दावली $m=65$, अनुक्रम लंबाई $T=256$) का उपयोग करके संख्यात्मक प्रयोगों के माध्यम से सिद्धांत को मान्य करता है।

• सटीकता (Accuracy): डुअल फ़िल्टर (पुनरावृत्ति और सिंगल-शॉट दोनों) मानक गैररेखीय फ़िल्टर (फॉरवर्ड एल्गोरिदम) द्वारा उत्पन्न ग्राउंड-ट्रुथ सप्रतिबंध प्रायिकताओं को सफलतापूर्वक पुनः प्राप्त करता है।
• नियंत्रण इनपुट विश्लेषण (Control Input Analysis):
  • जब HMM डायनेमिक्स अत्यधिक मिक्सिंग (तेजी से अवस्था परिवर्तन) वाले होते हैं, तो अनुकूलन नियंत्रण इनपुट विरल (sparse) होता है, जो केवल हाल के प्रेक्षणों पर निर्भर करता है।
  • जब डायनेमिक्स नियत (deterministic) या दीर्घकालिक सहसंबंध (long-range correlations) वाले होते हैं, तो नियंत्रण इनपुट एक लंबे समय क्षितिज (time horizon) तक फैला होता है, जो प्रभावी रूप से दीर्घकालिक निर्भरताओं को पकड़ता है।
• ट्रांसफॉर्मर (nanoGPT) के साथ तुलना:
  • लेखकों ने उसी HMM से उत्पन्न डेटा पर एक nanoGPT मॉडल को प्रशिक्षित किया।
  • अनुकूल मामला (Favorable Case): जब एमिशन मैट्रिक्स एक "कम-जटिलता" वाली भविष्यवाणी कार्य (विरल आउटपुट वितरण) बनाता है, तो ट्रांसफॉर्मर गैररेखीय फ़िल्टर को अच्छी तरह से अनुमानित करने में सक्षम होता है।
  • प्रतिकूल मामला (Unfavorable Case): अधिक जटिल एमिशन संरचनाओं के लिए, ट्रांसफॉर्मर ग्राउंड ट्रुथ तक अभिसरण (converge) करने में विफल रहा, जबकि मॉडल-आधारित डुअल फ़िल्टर सटीक बना रहा। यह सुझाव देता है कि विशिष्ट वास्तुशिल्प इंडक्टिव बायस या पर्याप्त डेटा के बिना ट्रांसफॉर्मर कुछ HMM संरचनाओं के साथ संघर्ष कर सकते हैं।

5. महत्व और भविष्य की दिशाएं (Significance and Future Directions)

• सैद्धांतिक सेतु (Theoretical Bridge): यह शोध पत्र आधुनिक डीप लर्निंग आर्किटेक्चर (ट्रांसफॉर्मर) और शास्त्रीय स्टोकेस्टिक कंट्रोल/फ़िल्टरिंग के बीच एक कठोर गणितीय संबंध प्रदान करता है। यह सुझाव देता है कि ट्रांसफॉर्मर को अंतर्निहित विलुप्त प्रक्रियाओं (latent processes) के लिए अनुकूलन नियंत्रण नियमों के सीखने योग्य अनुमान के रूप में देखा जा सकता है।
• व्याख्यात्मकता (Interpretability): प्रथम सिद्धांतों से वास्तुकला को व्युत्पन्न करके, डुअल फ़िल्टर ट्रांसफॉर्मर की "ब्लैक बॉक्स" प्रकृति के मुकाबले एक पारदर्शी विकल्प प्रदान करता है, जो यह समझाता है कि क्यों कुछ संरचनाएं (जैसे कारण संबंधी मास्किंग और लेयर-वाइज ट्रांसफॉर्मेशन) भविष्यवाणी के लिए प्रभावी हैं।
• भावी कार्य (Future Work):
  • सीखना (Learning): मॉडल के मापदंडों $(\mu, A, C)$ या लेयर ट्रांसफॉर्मेशन को सीधे डेटा (इतिहास-आधारित दृष्टिकोण) से सीखना।
  • स्थिरता विश्लेषण (Stability Analysis): लंबे अनुक्रमों में स्थिरता सुनिश्चित करने के लिए डुअल फ़िल्टर मैप के अभिसरण गुणों (contraction properties) का विश्लेषण करना।
  • सामान्यीकरण (Generalization): HMM से आगे बढ़कर सामान्य गैर-मार्कोवियन प्रक्रियाओं और आंशिक रूप से प्रेक्षित मार्कोव निर्णय प्रक्रियाओं (POMDPs) तक विस्तार करना।

संक्षेप में, यह शोध पत्र एक मौलिक सिद्धांत प्रस्तुत करता है जो अनुकूलन नियंत्रण और द्वैतता के लेंस के माध्यम से ट्रांसफॉर्मर की भविष्यवाणी क्षमता की पुनर्व्याख्या करता है, एक नया, गणितीय रूप से सुलभ एल्गोरिदम (डुअल फ़िल्टर) प्रदान करता है जो विशिष्ट सेटिंग्स में ट्रांसफॉर्मर के प्रदर्शन के बराबर है, जबकि गहरा सैद्धांतिक अंतर्दृष्टि भी प्रदान करता है।