A Hamiltonian driven Geometric Construction of Neural Networks via the Lognormal family, Application to Financial Fraud Detection and to Network Security

तकनीकी सारांश: लॉगनॉर्मल परिवार के माध्यम से न्यूरल नेटवर्क का हैमिल्टनियन संचालित ज्यामितीय निर्माण

समस्या विवरण
पारंपरिक कृत्रिम न्यूरल नेटवर्क (ANNs) आमतौर पर यूक्लिडियन स्थानों (Euclidean spaces) के भीतर निर्मित होते हैं, जो एक ऐसी सीमा है जो सांख्यिकीय मैनिफोल्ड्स (statistical manifolds) पर स्थित संरचित डेटा की अंतर्निहित जटिलता को पकड़ने की उनकी क्षमता को प्रतिबंधित करती है। जबकि सूचना ज्यामिति (information geometry) ने, जिसकी शुरुआत अमारी द्वारा की गई थी, सिनैप्टिक मापदंडों के लिए रिमानियन संरचनाओं (Riemannian structures) की उपयोगिता स्थापित की है, बहुत कम अध्ययनों ने विशेष रूप से लॉगनॉर्मल मैनिफोल्ड पर विशिष्ट सांख्यिकीय मैनिफोल्ड्स पर न्यूरल नेटवर्क आर्किटेक्चर को स्पष्ट रूप से निर्मित किया है। लॉगनॉर्मल वितरण वित्त, जीव विज्ञान और सिग्नल प्रोसेसिंग में सर्वव्यापी है, फिर भी इसके पैरामीटर स्पेस का उपयोग न्यूरल घटकों (इनपुट, वेट्स, एक्टिवेशन फंक्शन्स) को प्रथम ज्यामितीय सिद्धांतों से व्युत्पन्न करने के लिए व्यवस्थित रूप से नहीं किया गया है। यह शोध इस प्रश्न को संबोधित करता है कि कैसे एक लॉगनॉर्मल सांख्यिकीय मैनिफोल्ड को न्यूरल मैनिफोल्ड के रूप में संरचित किया जाए और हैमिल्टनियन ज्यामिति और ली ग्रुप (Lie group) फॉर्मलिज्म का उपयोग करके इसके घटकों को व्युत्पन्न किया जाए।

कार्यप्रणाली
लेखक एक व्यवस्थित विधि प्रस्तावित करते हैं जिसके माध्यम से लॉगनॉर्मल सांख्यिकीय मैनिफोल्ड के हैमिल्टनियन और ज्यामितीय ढांचे का लाभ उठाकर लॉगनॉर्मल सांख्यिकीय मैनिफोल्ड पर एक न्यूरल नेटवर्क को आंतरिक रूप से निर्मित किया जा सकता है। कार्यप्रणाली निम्नलिखित चरणों के माध्यम से आगे बढ़ती है:

1. सांख्यिकीय सूत्रीकरण: लॉगनॉर्मल वितरण को एक एक्सपोनेंशियल फैमिली के रूप में माना जाता है। प्राकृतिक पैरामीटर्स $\theta = (\theta_1, \theta_2)$ को लॉग-डेटा के माध्य ($\mu$) और मानक विचलन ($\sigma$) से प्राप्त किया जाता है।
2. हैमिल्टनियन डायनेमिक्स: लॉगनॉर्मल मैनिफोल्ड पर ग्रेडिएंट फ्लो को एक हैमिल्टनियन सिस्टम के समकक्ष दिखाया गया है। प्राकृतिक मापदंडों के आधार पर फेज-स्पेस कोऑर्डिनेट्स $P$ और $Q$ को परिभाषित करके, सिस्टम को पोइनकेरे डिस्क ($D$) पर मैप किया जाता है, जो एक हाइपरबोलिक ज्यामिति का मॉडल है।
3. ली ग्रुप एक्शन: सिस्टम की गतिशीलता को पोइनकेरे डिस्क पर $SU(1, 1)$ ली ग्रुप के एक्शन द्वारा वर्णित किया जाता है। ग्रुप एक्शन फेज स्पेस में सिस्टम के विकास का प्रतिनिधित्व करता है।
4. न्यूरल घटक व्युत्पत्ति:
   • इनपुट: इनपुट वेक्टर को पोइनकेरे डिस्क के कोऑर्डिनेट्स द्वारा परिभाषित किया जाता है, जो हैमिल्टनियन वेरिएबल्स से प्राप्त होते हैं।
   • वेट मैट्रिक्स: सिनैप्टिक वेट मैट्रिक्स को $SU(1, 1)$एक्शन के रोटेशन घटक (जिसे रोटेशन मैट्रिक्स$\Omega \in SO(2)$द्वारा दर्शाया जाता है) और एक ट्रांसलेशन वेक्टर$\vec{t}$से निर्मित किया जाता है। यह मैट्रिक्स स्पेशल यूक्लिडियन ग्रुप$SE(2)$ से संबंधित है।
   • एक्टिवेशन फंक्शन: एक्टिवेशन फंक्शन सिस्टम की सिम्प्लेक्टिक संरचना से उभरता है, जिसे कोणीय चर $\beta$ के एक्सपोनेंशियल और ट्रिगोनोमेट्रिक फंक्शन्स वाले एक ग्रुप मॉर्फिज्म के रूप में परिभाषित किया गया है।
5. आर्किटेक्चर: परिणामी आर्किटेक्चर एक बायस (bias) के साथ एक फुली कनेक्टेड सिंगल-लेयर नेटवर्क है, जहाँ रैखिक संयोजन (linear combination) और नॉन-लीनियरिटी, सरल बीजगणितीय अमूर्तता के बजाय अंतर्निहित डेटा की ज्यामिति पर आधारित है।

प्रमुख योगदान

• ज्यामितीय निर्माण: यह शोध पेपर यूक्लिडियन सन्निकटन (approximations) से आगे बढ़ते हुए, लॉगनॉर्मल सांख्यिकीय मैनिफोल्ड से सीधे एक न्यूरल नेटवर्क आर्किटेक्चर का एक कठोर व्युत्पन्न प्रदान करता है।
• हैमिल्टनियन-संचालित डायनेमिक्स: यह प्रदर्शित करता है कि लॉगनॉर्मल मैनिफोल्ड पर ग्रेडिएंट सिस्टम इंटीग्रेबल है और एक हैमिल्टनियन सिस्टम के समकक्ष है, जिसमें फेज स्पेस में बंद एलिप्टिकल ट्रैजेक्टरीज (closed elliptical trajectories) होती हैं, जिन्हें पोइनकेरे डिस्क पर कॉम्पैक्टिफाई किया गया है।
• स्पष्ट घटक परिभाषा: लेखक स्पष्ट रूप से अपने इनपुट फंक्शन्स, वेट मैट्रिक्स (रोटेशन और ट्रांसलेशन को शामिल करते हुए), और एक्टिवेशन फंक्शन को ली ग्रुप $SU(1, 1)$ और सिम्प्लेक्टिक संरचना के आधार पर परिभाषित करते हैं।
• सैद्धांतिक ढांचा: यह कार्य सूचना ज्यामिति, ली ग्रुप थ्योरी और मशीन लर्निंग के बीच एक सेतु स्थापित करता है, यह दिखाते हुए कि कैसे सूचना प्रसंस्करण प्रणालियों को गैर-यूक्लिडियन स्थानों पर "नेचुरलाइज" किया जा सकता है।

परिणाम और अनुप्रयोग
पेपर दो विशिष्ट अनुप्रयोग परिदृश्यों के माध्यम से प्रस्तावित ढांचे को मान्य करता है, जो विसंगतियों (anomalies) का पता लगाने के लिए 10-दिवसीय डेटासेट का उपयोग करता है:

1. वित्तीय धोखाधड़ी का पता लगाना (Financial Fraud Detection):

   • संदर्भ: लेनदेन की राशियों (transaction amounts) की निगरानी की जाती है, जो लॉगनॉर्मल वितरण का पालन करती हैं।
   • तंत्र: धोखाधड़ी वाली गतिविधियाँ आधारभूत सांख्यिकीय वितरण ($\mu, \sigma$) को बदल देती हैं। सिस्टम इन मापदंडों को पोइनकेरे डिस्क पर मैप करता है।
   • परिणाम: केस स्टडी में, एक धोखाधड़ी वाले दिन (दिन 6) ने उच्च अस्थिरता के कारण सांख्यिकीय गुणों में भारी बदलाव किया। पोइनकेरे डिस्क के हाइपरबोलिक फीचर स्पेस में, इसके परिणामस्वरूप एक महत्वपूर्ण "जियोडेसिक एक्सेलेरेशन" (geodesic acceleration) हुआ, जिसने धोखाधड़ी वाली स्थिति को सामान्य परिचालन एनवेलप से यूक्लिडियन दूरी मेट्रिक्स की तुलना में बहुत अधिक स्पष्ट रूप से अलग कर दिया।

2. नेटवर्क सुरक्षा (DDoS घुसपैठ का पता लगाना):

   • संदर्भ: नेटवर्क पैकेट दरें, जो धनात्मक और विषम (skewed) होती हैं, उन्हें लॉगनॉर्मल के रूप में मॉडल किया जाता है।
   • तंत्र: एक DDoS हमला औसत पैकेट दर और अस्थिरता को नाटकीय रूप से बढ़ा देता है।
   • परिणाम: ज्यामितीय रूपांतरण पाइपलाइन ने दिखाया कि सामान्य ट्रैफिक रूटीन के दौरान, कोऑर्डिनेट्स आंतरिक मैनिफोल्ड एनवेलप के अत्यधिक बाएं खंड ($x_D \approx -0.499$) पर एक अत्यधिक स्थिर क्लस्टर बनाते हैं। जब DDoS हमला ट्रिगर होता है, तो वितरण मापदंडों में भारी बदलाव के कारण एक "विस्फोटक, लगभग-लंबवत छलांग" (explosive, near-orthogonal leap) वर्टिकल बाउंड्री एक्सिस की ओर होती है, जिससे $x_D$ को $-0.4996$से$-0.0062$तक जाने के लिए मजबूर होना पड़ता है और$y_D$को$0.4999$ तक चढ़ना पड़ता है। यह बदलाव राव-फिशर (Rao-Fisher) दूरी में भारी भिन्नता को दर्शाता है, जो एक तत्काल ज्यामितीय अलर्ट प्रदान करता है जो उन पारंपरिक थ्रेशोल्ड-आधारित सिस्टमों के विरुद्ध मजबूत है जो एडेप्टिव अटैक प्रोफाइल से बच सकते हैं।

महत्व और दावे
यह शोध पत्र यह दावा करते हुए ज्यामितीय मशीन लर्निंग के लिए एक नया दृष्टिकोण प्रदान करता है कि लॉगनॉर्मल परिवार पर आधारित न्यूरल सूचना प्रसंस्करण प्रणालियों को पोइनकेरे डिस्क पर डायनेमिकल सिस्टम के रूप में मॉडल किया जा सकता है। इसका महत्व इस तथ्य में निहित है कि नेटवर्क के मौलिक संचालन (रैखिक संयोजन, नॉन-लीनियरिटी) मनमाने बीजगणितीय विकल्प नहीं हैं, बल्कि डेटा के पैरामीटर स्पेस की ज्यामिति से स्वाभाविक रूप से व्युत्पन्न हैं।

लेखक का तर्क है कि यह दृष्टिकोण ऐसे आर्किटेक्चर के डिजाइन की अनुमति देता है जो स्वाभाविक रूप से लॉगनॉर्मल वितरण वाले डेटा के अनुकूल होते हैं, जहाँ पैरामीटर स्पेस स्वाभाविक रूप से एक मैनिफोल्ड है। हैमिल्टनियन फॉर्मलिज्म और $SU(1, 1)$ के एक्शन का उपयोग करके, मॉडल आइसोलेटेड इंफॉर्मेशन ट्रैजेक्टरीज (ऑर्बिट्स) के भीतर फॉरवर्ड प्रोपेगेशन के दौरान सांख्यिकीय पहचान को सुरक्षित रखता है, न कि पूरे डिस्क पर वैश्विक रूप से। यह उन प्रणालियों में विसंगतियों का पता लगाने के लिए एक कम्प्यूटेशनल रूप से हल्का ज्यामितीय तरीका प्रदान करता है जहाँ डेटा स्वाभाविक रूप से लॉगनॉर्मल वितरण का पालन करता है। यह कार्य विशिष्ट सांख्यिकीय मैनिफोल्ड्स पर न्यूरल नेटवर्क के स्पष्ट निर्माण में सूचना ज्यामिति को लागू करने के लिए एक आधारभूत कदम के रूप में प्रस्तुत किया गया है।