FUTON: Fourier Tensor Network for Implicit Neural Representations

यहाँ "FUTON: Fourier Tensor Network for Implicit Neural Representations" शोध पत्र का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

इम्प्लिसिट न्यूरल रिप्रेजेंटेशन (INRs), या न्यूरल फील्ड्स, संकेतों (छवियों, वॉल्यूम, रेडिएंस फील्ड्स) को निरंतर फलनों (continuous functions) के रूप में एनकोड करने के लिए एक प्रमुख प्रतिमान बन गए हैं, जिन्हें न्यूरल नेटवर्क द्वारा पैरामीटराइज़ किया जाता है। हालाँकि, मानक मल्टी-लेयर पर्सेप्ट्रॉन (MLP) आधारित INRs तीन महत्वपूर्ण सीमाओं से ग्रस्त हैं:

1. धीमी अभिसरण (Slow Convergence): प्रशिक्षण के लिए अक्सर अभिसरण तक पहुँचने में व्यापक समय की आवश्यकता होती है।
2. ओवरफिटिंग (Overfitting): यदि रेगुलराइजेशन अपर्याप्त हो, तो वे शोर (noise) के प्रति ओवरफिट होने के प्रति संवेदनशील होते हैं, विशेष रूप से इनवर्स समस्याओं (inverse problems) में।
3. खराब एक्सट्रपलेशन (Poor Extrapolation): वे अनदेखे क्षेत्रों में सामान्यीकरण (generalize) करने में संघर्ष करते हैं, जो सुपर-रिज़ॉल्यूशन और पुनर्निर्माण जैसे कार्यों के लिए महत्वपूर्ण है।

ये समस्याएँ MLPs में उन 'इंडक्टिव बायस' (inductive biases) की कमी से उत्पन्न होती हैं जो प्राकृतिक संकेतों में निहित निम्न-आयामी स्पेक्ट्रल संरचना (low-dimensional spectral structure) के साथ संरेखित होते हैं। जबकि विशेष सक्रियण (जैसे SIREN, WIRE) प्रदर्शन में सुधार करते हैं, वे अभी भी गहरे, गैर-रैखिक मैपिंग पर निर्भर करते हैं जो स्केलेबिलिटी में कमजोर हैं और जिनमें स्पष्ट संरचनात्मक पूर्वग्रहों (structural priors) का अभाव है।

2. कार्यप्रणाली: FUTON (Methodology: FUTON)

लेखक FUTON (Fourier Tensor Network) का प्रस्ताव करते हैं, जो एक नवीन INR आर्किटेक्चर है जो संकेतों को सामान्यीकृत फूरियर श्रृंखला (generalized Fourier series) के रूप में मॉडल करता है जहाँ गुणांकों (coefficients) को एक लो-रैंक टेंसर डिकंपोजिशन (low-rank tensor decomposition) के माध्यम से पैरामीटराइज़ किया जाता है।

मुख्य आर्किटेक्चर (Core Architecture)

गहरे MLPs के माध्यम से मनमाने गैर-रैखिक मैपिंग को सीखने के बजाय, FUTON एक संकेत $s(x)$ को ऑर्थोनॉर्मल, सेपरेबल बेसिस फंक्शन्स के भारित संयोजन (weighted combination) के रूप में व्यक्त करता है:
$$\hat{s}_K(x) = \sum_{k \in \mathcal{K}} w^{(k)} \phi_k(x)$$
जहाँ:

• $\phi_k(x)$ सेपरेबल बेसिस फंक्शन्स हैं (जैसे, 1D कोसाइन फंक्शन्स के उत्पाद)।
• $w^{(k)}$ फूरियर गुणांक (Fourier coefficients) हैं।

लो-रैंक पैरामीटराइजेशन (CP डिकंपोजिशन)

मुख्य नवाचार यह है कि वेट टेंसर $W$ (जिसमें सभी गुणांक $w^{(k)}$ शामिल हैं) को कैसे पैरामीटराइज़ किया जाता है। एक फुल-रैंक टेंसर $W \in \mathbb{R}^{K \times \dots \times K \times D}$ के लिए घातांकीय पैरामीटर ($O(K^C D)$) की आवश्यकता होगी। FUTON $W$ को $R$ रैंक-1 टेंसरों के योग में गुणनखंडित करने के लिए कैनोनिकल पॉलीडिक (CP) डिकंपोजिशन का उपयोग करता है:
$$W = \sum_{r=1}^R u^{(1)}_r \otimes u^{(2)}_r \otimes \dots \otimes u^{(C)}_r \otimes v_r$$
इसके परिणामस्वरूप एक संक्षिप्त सेट योग्य (learnable) फैक्टर मैट्रिसेस $U^{(c)}$ और $V$ प्राप्त होता है।

कम्प्यूटेशनल दक्षता (Computational Efficiency)

CP डिकंपोजिशन को फूरियर श्रृंखला में प्रतिस्थापित करके, फॉरवर्ड पास को कुशल संचालन के एक अनुक्रम में पुनर्गठित किया जाता है:

1. प्रोजेक्शन (Projection): 1D बेसिस वेक्टर्स को फैक्टर मैट्रिसेस $U^{(c)}$ पर प्रोजेक्ट करना (मैट्रिक्स-वेक्टर गुणन)।
2. कॉम्बिनेशन (Combination): प्रोजेक्ट किए गए फीचर्स को हाडामाड (Hadamard - element-wise) उत्पादों के माध्यम से संयोजित करना।
3. आउटपुट मैपिंग (Output Mapping): परिणाम को मैट्रिक्स मल्टीप्लिकेशन के माध्यम से आउटपुट डायमेंशन $V$ तक मैप करना।

जटिलता (Complexity): यह दृष्टिकोण कम्प्यूटेशनल जटिलता को इनपुट डायमेंशन $C$ और आउटपुट डायमेंशन $D$ के संबंध में घातांकीय $O(K^C D)$ से घटाकर रैखिक (linear) $O(CKR + CR + DR)$ कर देता है।

इंडक्टिव बायस (Inductive Biases)

FUTON दो पूरक बायस को जोड़ता है:

1. फूरियर बेसिस (Fourier Bases): स्मूथनेस और आवधिकता (periodicity) को कैप्चर करते हैं, जो स्वाभाविक रूप से उच्च-आवृत्ति विवरणों (high-frequency details) को संभालते हैं।
2. लो-रैंक फैक्टरइजेशन (Low-Rank Factorization): एक निम्न-आयामी स्पेक्ट्रल संरचना को लागू करता है, जो एक अंतर्निहित रेगुलराइज़र के रूप में कार्य करता है जो ओवरफिटिंग को रोकता है और सामान्यीकरण में सहायता करता है।

3. मुख्य योगदान (Key Contributions)

1. नवीन आर्किटेक्चर: FUTON का परिचय, जो लो-रैंक टेंसर डिकंपोजिशन के साथ सामान्यीकृत फूरियर श्रृंखला को एकीकृत करता है, जो MLP-आधारित INRs के लिए एक संरचित विकल्प प्रदान करता है।
2. सैद्धांतिक गारंटी: एक यूनिवर्सल एप्रोक्सिमेशन थ्योरम (Universal Approximation Theorem) का प्रमाण, जो यह दर्शाता है कि पर्याप्त बेसिस रेजोल्यूशन ($K$) और रैंक ($R$) के साथ FUTON किसी भी $L_2$ फंक्शन को मनचाही सटीकता के साथ अनुमानित कर सकता है।
3. कम्प्यूटेशनल दक्षता: एक ऐसे इन्फरेंस एल्गोरिदम का व्युत्पन्न जिसकी स्पेक्ट्रल रेजोल्यूशन और इनपुट डायमेंशन के संबंध में रैखिक जटिलता है, जिससे उच्च-आयामी संकेतों के लिए स्केलेबिलिटी संभव होती है।
4. श्रेष्ठ प्रदर्शन: व्यापक अनुभवजन्य सत्यापन जो दिखाता है कि FUTON पुनर्निर्माण गुणवत्ता, अभिसरण गति और इनवर्स समस्याओं पर सामान्यीकरण में अत्याधुनिक MLPs (SIREN, WIRE, Gauss) से बेहतर प्रदर्शन करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने कोडक (Kodak) डेटासेट (छवियां), थाई स्टैच्यू (Thai Statue) (वॉल्यूम), DIV2K (सुपर-रिज़ॉल्यूशन/डिनोइजिंग), और मेडिकल CT स्कैन का उपयोग करके सिग्नल रिप्रेजेंटेशन और इनवर्स समस्याओं पर FUTON का मूल्यांकन किया।

सिग्नल रिप्रेजेंटेशन (Signal Representation)

• इमेज रिकंस्ट्रक्शन: कोडक डेटासेट पर, FUTON ने 37.12 dB PSNR और 96.54% SSIM प्राप्त किया, जो सर्वश्रेष्ठ बेसलाइन (WIRE: 33.69 dB PSNR) से काफी बेहतर है।
• अभिसरण गति (Convergence Speed): FUTON ने WIRE और अन्य MLP-आधारित तरीकों की तुलना में 2–5× तेज़ी से प्रशिक्षण लिया, और कुछ ही सेकंडों में उच्च-गुणवत्ता वाले पुनर्निर्माण प्राप्त किए।
• 3D वॉल्यूम: ऑक्यूपेंसी वॉल्यूम रिप्रेजेंटेशन पर, FUTON ने 99.67% IoU प्राप्त किया, जो स्मूथ सतहों और कम आर्टिफैक्ट्स के साथ WIRE (99.08%) से बेहतर रहा।

इनवर्स समस्याएं (Inverse Problems)

• सुपर-रिज़ॉल्यूशन: FUTON ने बाइलिनियर इंटरपोलेशन और MLPs की तुलना में उच्च-आवृत्ति विवरणों को बेहतर ढंग से रिकवर किया, जिससे 30.74 dB PSNR प्राप्त हुआ (WIRE के 30.54 dB के मुकाबले)।
• इमेज डिनोइजिंग (Image Denoising): सेंसर नॉइज़ की उपस्थिति में, FUTON ने 27.04 dB PSNR प्राप्त किया, जिसने किनारों को संरक्षित करते हुए प्रभावी ढंग से शोर को हटाया, जो WIRE से 0.53 dB बेहतर है।
• CT रिकंस्ट्रक्शन: स्पार्स-व्यू CT रिकंस्ट्रक्शन में, FUTON ने स्ट्रिक आर्टिफैक्ट्स (streak artifacts) को कम करते हुए स्पष्ट एनाटॉमिकल संरचनाएं बनाईं, जिससे 29.18 dB PSNR प्राप्त हुआ (WIRE के 27.80 dB के मुकाबले)।

एब्लेशन स्टडीज (Ablation Studies)

• रैंक ($R$): प्रदर्शन $R=512$ के आसपास संतृप्त (saturate) हो जाता है, जो प्राकृतिक सिग्नल स्पेक्ट्रा की लो-रैंक प्रकृति की पुष्टि करता है।
• बेसिस फंक्शन्स (Basis Functions): कोसाइन बेसिस (Cosine basis) ने लीजेंड्रे (Legendre) और चेबिशेव (Chebyshev) बहुपदों की तुलना में सटीकता (37.12 dB बनाम ~33 dB) और अभिसरण गति दोनों में काफी बेहतर प्रदर्शन किया, जिसका कारण संभवतः फ्रीक्वेंसी डोमेन में प्राकृतिक छवियों की स्पर्सिटी (sparsity) और कुशल हार्डवेयर इवैल्यूएशन है।

5. महत्व (Significance)

FUTON, "ब्लैक बॉक्स" गहरे MLPs से हटकर संरचित, व्याख्या योग्य और गणितीय रूप से ठोस मॉडलों की ओर बढ़कर, इम्प्लिसिट न्यूरल रिप्रेजेंटेशन में एक प्रतिमान परिवर्तन (paradigm shift) का प्रतिनिधित्व करता है।

• दक्षता: यह टेंसर नेटवर्क के माध्यम से फूरियर-आधारित विधियों की स्केलेबिलिटी बाधा को हल करता है, जिससे उच्च-रिज़ॉल्यूशन सिग्नल रिप्रेजेंटेशन संभव होता है।
• सामान्यीकरण: लो-रैंक स्पेक्ट्रल पैरामीटराइजेशन एक शक्तिशाली अंतर्निहित पूर्वग्रह (implicit prior) के रूप में कार्य करता है, जिससे FUTON उन इनवर्स समस्याओं के लिए असाधारण रूप से मजबूत हो जाता है जहाँ डेटा विरल (sparse) या शोर युक्त होता है।
• व्यावहारिकता: तेज़ प्रशिक्षण समय और उच्च पुनर्निर्माण गुणवत्ता के साथ, FUTON कंप्यूटर विज़न से लेकर मेडिकल इमेजिंग तक के अनुप्रयोगों में MLP-आधारित INRs के लिए एक व्यावहारिक विकल्प प्रदान करता है।

संक्षेप में, FUTON यह प्रदर्शित करता है कि लो-रैंक टेंसर डिकंपोजिशन के माध्यम से सिग्नल्स की स्पेक्ट्रल संरचना को स्पष्ट रूप से मॉडल करने से गहरे न्यूरल नेटवर्क के साथ मनमाने गैर-रैखिक मैपिंग सीखने की तुलना में बेहतर प्रदर्शन, गति और सामान्यीकरण प्राप्त होता है।