Characterizing and Optimizing the Spatial Kernel of Multi Resolution Hash Encodings

तकनीकी सारांश: मल्टी-रेज़ोल्यूशन हैश एनकोडिंग के स्थानिक कर्नेल का लक्षण वर्णन और अनुकूलन

प्रकाशन: ICLR 2026
लेखक: तियानक्सियांग दाई और जोनाथन फैन (स्टैनफोर्ड यूनिवर्सिटी)

1. समस्या विवरण

मल्टी-रेज़ोल्यूशन हैश एनकोडिंग (MHE), जिसे इंस्टेंट-एनजीपी (Instant-NGP) द्वारा लोकप्रिय बनाया गया है, आधुनिक न्यूरल फील्ड्स (NeRFs, SDFs) का एक आधार स्तंभ है। हालांकि यह अत्यधिक कुशल है, इसका प्रदर्शन हाइपरपैरामीटर्स जैसे कि स्तरों की संख्या ($L$), ग्रोथ फैक्टर ($b$), और हैश टेबल क्षमता ($T$) के प्रति अत्यंत संवेदनशील है। वर्तमान में, इन मापदंडों को सिद्धांतों के बजाय अनुमानों (heuristics) का उपयोग करके चुना जाता है। लेखक एक महत्वपूर्ण अंतर की पहचान करते हैं: MHE में इसके स्थानिक व्यवहार की कठोर भौतिक समझ का अभाव है, जिससे अनपेक्षित समस्याएं जैसे कि एनिसोट्रॉपी (anisotropy) (दिशा-निर्भर रेज़ोल्यूशन) और ऑप्टिमाइज़ेशन-प्रेरित विस्तार (optimization-induced broadening) (जहाँ वास्तविक रेज़ोल्यूशन सैद्धांतिक अधिकतम से बहुत कम होता है) उत्पन्न होती हैं।

2. कार्यप्रणाली

लेखक MHE को भौतिक प्रणालियों (physical systems) के दृष्टिकोण से देखते हैं, जिसमें एनकोडिंग को एक विशिष्ट इम्पल्स रिस्पॉन्स (impulse response) वाली प्रणाली के रूप में माना गया है।

• पॉइंट स्प्रेड फंक्शन (PSF) विश्लेषण: वे एनकोडिंग को इसके PSF को मापकर लक्षणबद्ध करते हैं—जो एक आदर्श पॉइंट सोर्स को दर्शाने के लिए अनुकूलित मॉडल की प्रतिक्रिया है। यह एक भौतिक प्रणाली के ग्रीन'स फंक्शन (Green’s function) को खोजने के समान है।
• लीनियराइज्ड डिकोडर रिजीम (Linearized Decoder Regime): MLP की नॉन-लीनियरिटीज़ से एनकोडिंग के गुणों को अलग करने के लिए, वे एक लीनियर फ्रेमवर्क (जो न्यूरल टेंगेंट कर्नेल थ्योरी से प्रेरित है) के माध्यम से विश्लेषण करते हैं।
• सैद्धांतिक व्युत्पत्ति: वे "कोलिजन-फ्री" (collision-free) PSF के लिए एक क्लोज्ड-फॉर्म सन्निकटन (approximation) व्युत्पन्न करते हैं, जो यह प्रकट करता है कि यह एक लॉगैरिद्मिक रेडियल डिके (logarithmic radial decay) का पालन करता है और एक क्यूबिक बी-स्प्लाइन कर्नेल (cubic B-spline kernel) (इंटरपोलेशन कर्नेल का ऑटो-कोरिलेशन) द्वारा आकार लेता है।
• ऑप्टिमाइज़ेशन डायनेमिक्स का मॉडलिंग: वे विभिन्न रेज़ोल्यूशन स्तरों के वेट्स को पावर लॉ के रूप में मॉडल करके "स्पेक्ट्रल बायस" (एडम जैसे ऑप्टिमाइज़र द्वारा लो-फ्रीक्वेंसी को पहले सीखने की प्रवृत्ति) को ध्यान में रखते हैं, जो यह समझाता है कि अनुभवजन्य (empirical) PSF आदर्श PSF की तुलना में अधिक विस्तृत क्यों है।
• कोलिजन मॉडलिंग: वे औपचारिक रूप करते हैं कि कैसे सीमित हैश क्षमता $T$, "स्पेकल नॉइज़" (speckle noise) पेश करती है और सिग्नल-टू-नॉइज़ रेशियो (SNR) को कम करती है।

3. मुख्य योगदान

1. विश्लेषणात्मक लक्षण वर्णन: MHE PSF का गणितीय व्युत्पन्न, जो यह सिद्ध करता है कि आदर्श स्थानिक बैंडविड्थ (FWHM) बारीक रेज़ोल्यूशन ($N_{max}$) के बजाय औसत रेज़ोल्यूशन ($N_{avg}$) द्वारा निर्धारित होती है।
2. ऑप्टिमाइज़ेशन ब्रोडनिंग की खोज: वे सिद्ध और अनुभवजन्य रूप से प्रदर्शित करते हैं कि ग्रेडिएंट-आधारित ऑप्टिमाइज़ेशन एक स्थानिक विस्तार कारक ($\beta_{opt}$) प्रेरित करता है, जिसका अर्थ है कि प्रभावी रेज़ोल्यूशन आर्किटेक्चर के विनिर्देश से काफी कम है।
3. रोटेटेड MHE (R-MHE): एक अभिनव, पैरामीटर-मुक्त आर्किटेक्चर जो इनपुट कोऑर्डिनेट्स पर प्रत्येक रेज़ोल्यूशन स्तर पर विशिष्ट रोटेशन लागू करता है। यह एक्सिस-अलाइन्ड ग्रिड निर्भरता को तोड़ता है और आइसोट्रॉपी (isotropy) को बहाल करता है।
4. सिद्धांत-आधारित हाइपरपैरामीटर चयन: ग्रोथ फैक्टर $b$ का चयन करने के लिए एक कार्यप्रणाली, जो यह गणना करती है कि $b$ ऐसा हो जिससे अनुभवजन्य FWHM लक्षित स्थानिक रेज़ोल्यूशन (जैसे पिक्सेल आकार) से मेल खाए।

4. परिणाम

• सिद्धांत का सत्यापन: संख्यात्मक प्रयोग पुष्टि करते हैं कि अनुभवजन्य PSF अनुमानित लॉगैरिद्मिक डिके से मेल खाता है और FWHM अनुमानित रूप से $N_{avg}$ के साथ स्केल करता है।
• 2D इमेज रिग्रेशन: R-MHE मानक MHE की तुलना में काफी बेहतर प्रदर्शन करता है, जो शून्य अतिरिक्त पैरामीटर्स या कंप्यूटेशनल ओवरहेड के साथ PSNR में +0.94 dB का सुधार प्राप्त करता है।
• 3D NeRF और SDF:
  • NeRF में, $b$ चुनने के लिए "PSF-गाइडेड" रणनीति लगातार इष्टतम प्रदर्शन क्षेत्र की पहचान करती है, जो अनुभवजन्य ग्रिड सर्च से मेल खाती है।
  • SDFs में, जबकि प्रदर्शन उच्च रेज़ोल्यूशन पर संतृप्ति (saturation) तक पहुँच जाता है, R-MHE प्रतिस्पर्धी परिणाम बनाए रखता है।
• मजबूती (Robustness): वे दिखाते हैं कि ब्रोडनिंग फैक्टर विभिन्न MLP डेप्थ और डायमेंशन के बीच उल्लेखनीय रूप से स्थिर रहता है, जो मुख्य रूप से ऑप्टिमाइज़र (जैसे $\beta_{emp} \approx 3.0$ एडम के लिए) के चयन पर निर्भर करता है।

5. महत्व

यह कार्य MHE ऑप्टिमाइज़ेशन के प्रतिरेक को ट्रायल-एंड-एरर ह्यूरिस्टिक्स से एक भौतिकी-आधारित सिद्धांत-आधारित दृष्टिकोण की ओर स्थानांतरित करता है। रेज़ोल्यूशन, एनिसोट्रॉपी और नॉइज़ को समझने के लिए एक गणितीय ढांचे को प्रदान करके, यह शोधकर्ताओं को अधिक कुशल और अनुमानित न्यूरल फील्ड आर्किटेक्चर डिजाइन करने में सक्षम बनाता है। प्रस्तावित R-MHE मॉडल के फुटप्रिंट को बढ़ाए बिना मेमोरी-प्रतिबंधित या उच्च-परिशुद्धता वाले अनुप्रयोगों में पुनर्निर्माण की गुणवत्ता में सुधार करने का एक सरल लेकिन शक्तिशाली तरीका प्रदान करता है।