⚛️ lattice

Weight-Space Physics: Interpretable Hypernetworks for Lattice Quantum Field Theories

यह शोध पत्र JEPAWG का परिचय देता है, जो एक जॉइंट-एम्बेडिंग प्रेडिक्टिव आर्किटेक्चर-आधारित वेट जनरेटर (weight generator) है जो कपलिंग कांस्टेंट्स को सीधे नॉर्मलाइजिंग फ्लो वेट्स में मैप करता है, यह प्रदर्शित करते हुए कि नेटवर्क का लेटेंट स्पेस फेज़ ट्रांज़िशन और फाइनाइट-साइज़ स्केलिंग जैसी महत्वपूर्ण भौतिक घटनाओं को पुनः प्राप्त कर सकता है, जिससे नेटवर्क वेट्स को स्वयं लैटिस फील्ड थ्योरीज़ के लिए व्याख्या योग्य भौतिक अवलोकनों (physical observables) के रूप में स्थापित किया जा सके।

मूल लेखक: Tobias Göbel, Julian R. Ebelt, Zier Mensch, Mathis Gerdes, Miranda C. N. Cheng

प्रकाशित 2026-07-09

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Tobias Göbel, Julian R. Ebelt, Zier Mensch, Mathis Gerdes, Miranda C. N. Cheng

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जटिल मशीन को समझने की कोशिश कर रहे हैं, जैसे कि एक हाई-एंड एस्प्रेसो मेकर। आमतौर पर, कॉफी का एक बेहतरीन कप पाने के लिए, आपको इसके डायल (तापमान, दबाव, पिसाई का आकार) को बार-बार ट्यून करना पड़ता है और हर बार परिणाम चखकर देखना पड़ता है कि आपने सही किया या नहीं। यह ठीक वैसा ही है जैसे भौतिक विज्ञानी वर्तमान में "स्ट्रॉन्ग न्यूक्लियर फोर्स" (परमाणुओं को जोड़ने वाला गोंद) का अध्ययन करने के लिए करते हैं। उनके पास नियमों का एक सेट (कपलिंग कॉन्स्टेंट्स) होता है, लेकिन परिणाम की भविष्यवाणी करने के लिए भारी, धीमी कंप्यूटर सिमुलेशन की आवश्यकता होती है।

यह शोध पत्र मशीन को देखने का एक नया तरीका प्रस्तावित करता है। केवल कॉफी चखने के बजाय, वे मशीन के आंतरिक वायरिंग डायग्राम (आंतरिक वायरिंग का चित्र) को पढ़ना चाहते हैं ताकि वे समझ सकें कि यह वास्तव में कैसे काम करती है और आगे क्या करेगी।

यहाँ उनके कार्य का दैनिक जीवन के उदाहरणों का उपयोग करके विवरण दिया गया है:

1. समस्या: भौतिकी का "ब्लैक बॉक्स"

भौतिक विज्ञानी प्रकृति का अनुकरण करने के लिए लैटिस फील्ड थ्योरी नामक विधि का उपयोग करते हैं। इसे एक पिक्सेल के विशाल ग्रिड के रूप में सोचें जो स्थान (space) का प्रतिनिधित्व करता है। वास्तविकता का अनुकरण करने के लिए, वे इस ग्रिड पर "डायल" (कपलिंग कॉन्स्टेंट्स) सेट करते हैं।

पुराना तरीका: वे एक सिमुलेशन चलाते हैं, परिणाम प्राप्त करते हैं, और यदि वे थोड़े अलग डायल के साथ क्या होगा यह जानना चाहते हैं, तो उन्हें पूरी सिमुलेशन प्रक्रिया को शुरू से शुरू करना पड़ता है। यह धीमा और महंगा है।
नया टूल (नॉर्मलाइजिंग फ्लोज़): हाल ही में, वैज्ञानिकों ने AI "सैंपलर" (जैसे कि एक स्मार्ट रोबोटिक हाथ) बनाए हैं जो इन परिणामों को तेज़ी से उत्पन्न कर सकते हैं। लेकिन एक पेच है: हम नहीं जानते कि उस रोबate ने क्या सीखा है। यह एक "ब्लैक बॉक्स" है। हम जानते हैं कि यह काम करता है, लेकिन हम इसके दिमाग को पढ़ नहीं सकते।

2. बड़ा विचार: "वायरिंग डायग्राम" को पढ़ना

लेखक एक सरल प्रश्न पूछते हैं: क्या हम AI की आंतरिक सेटिंग्स (इसके वेट्स/weights) से सीधे भौतिकी को पढ़ सकते हैं?

कल्पना कीजिए कि AI की आंतरिक सेटिंग्स एक विशाल, जटिल मानचित्र है। लेखक मानते हैं कि यह मानचित्र केवल रैंडम शोर नहीं है; इसमें वास्तव में उन भौतिक नियमों की एक छिपी हुई तस्वीर है जिन पर इसे प्रशिक्षित किया गया था। यदि आप इस मानचित्र के आकार को देखते हैं, तो आप बिना एक भी सिमुलेशन चलाए देख पाएंगे कि "फेज़ ट्रांज़िशन" (जैसे पानी का बर्फ में बदलना) कहाँ होते हैं।

3. समाधान: JEPAWG (एक "यूनिवर्सल ट्रांसलेटर")

इसे परखने के लिए, उन्होंने JEPAWG नामक एक नया AI टूल बनाया।

उपमा: कल्पना कीजिए कि आपके पास एक अजीब भाषा में लिखी गई किताबों का पुस्तकालय है (AI के आंतरिक वेट्स)। आप जानना चाहते हैं कि किताबें किस बारे में हैं, लेकिन आप वह भाषा नहीं पढ़ सकते।
JEPAWG कैसे काम करता है: यह एक अनुवादक की तरह कार्य करता है जो "डायल सेटिंग्स" (भौतिकी इनपुट) को सीधे "किताब के टेक्स्ट" (AI वेट्स) से जोड़ना सीखता है।
ट्विस्ट: अन्य अनुवादकों के विपरीत जो केवल टेक्स्ट को याद करने की कोशिश करते हैं, JEPAWG भाषा की संरचना को सीखता है। यह एक "लेटेंट स्पेस" बनाता है—जो AI के विशाल 3D मस्तिष्क का एक सरल, 2D मानचित्र है।

4. उन्होंने क्या खोजा

जब उन्होंने उस मानचित्र को देखा जो JEPAWG ने बनाया था, तो उन्हें कुछ अद्भुत मिला। वह मानचित्र केवल एक रैंडम धब्बा नहीं था; वह भौतिकी के नियमों को पूरी तरह से दर्शाता था।

आयामों (Dimensions) को खोजना: जिस भौतिकी का वे अध्ययन कर रहे थे, उसमें केवल दो मुख्य डायल (तापमान और दबाव) थे। अन्य AI विधियों ने इसे 3D या 4D स्पेस में मैप करने की कोशिश की, जिससे यह अव्यवस्थित और भ्रमित करने वाला हो गया। JEPAWG ने सही ढंग से पहचाना कि इस दुनिया को केवल 2 आयामों की आवश्यकता है। इसने "जान लिया" कि भौतिकी सरल थी, भले ही AI का मस्तिष्क बहुत विशाल और जटिल था।
फेज़ ट्रांज़िशन को पहचानना: भौतिकी में, एक ऐसी "क्रिटिकल लाइन" होती है जहाँ चीजें नाटकीय रूप से बदल जाती हैं (जैसे पानी का उबलना)। लेखकों ने पाया कि AI के मानचित्र में एक "रिज" (ridge) या उभार था जो इस क्रिटिकल लाइन के साथ पूरी तरह से मेल खाता था। AI ने अपने आंतरिक भार (weights) को व्यवस्थित करके भौतिकी के सबसे महत्वपूर्ण हिस्से को उजागर करना सीख लिया था।
"साइज" का कमाल (रेनॉर्मलाइजेशन ग्रुप): यह सबसे जादुई हिस्सा है। लेखकों ने अलग-अलग आकार के ग्रिडों (छोटे बनाम बड़े) पर AI का परीक्षण किया। भौतिकी में, एक छोटा ग्रिड और एक बड़ा ग्रिड समान वास्तविकता का प्रतिनिधित्व कर सकते हैं यदि उन्हें सही ढंग से स्केल किया जाए।
- JEPAWG ने इस स्केलिंग नियम को स्वचालित रूप से सीख लिया। इसने महसूस किया कि एक "छोटा" सिद्धांत और एक "बड़ा" सिद्धांत वास्तव में उसके मानचित्र पर पड़ोसी हैं यदि वे एक ही भौतिकी का प्रतिनिधित्व करते हैं।
- इसने सही "स्केलिंग एक्सपोनेंट" (एक संख्या जो बताती है कि चीजें कैसे बढ़ती हैं) भी निकाला, जो 2D Ising मॉडल (एक मानक भौतिकी बेंचमार्क) के प्रसिद्ध मान से मेल खाता है। इसने यह उत्तर बताए बिना किया; इसने केवल मानचित्र के आकार को देखकर इसे खुद ही समझ लिया।

5. यह क्यों मायने रखता है

यह एक जनरेटर है: क्योंकि JEPAWG डायल और AI के मस्तिष्क के बीच के संबंध को समझता है, यह भविष्यवाणी कर सकता है कि एक नए डायल सेटिंग के लिए AI का मस्तिष्क कैसा दिखना चाहिए जिसे उसने पहले कभी नहीं देखा है। यह एक ब्लूप्रिंट को देखकर तुरंत यह जानने जैसा है कि मशीन का नया संस्करण कैसे बनाया जाए, बिना मशीन को पहले बनाए।
यह मजबूत (Robust) है: यहाँ तक कि जब प्रशिक्षण डेटा अव्यवस्थित था या अलग-अलग स्रोतों से आया था (जैसे दो अलग-अलग रोबोट एक ही चीज़ बना रहे हों), तब भी JEPAWG एक सुचारू, निरंतर मानचित्र बनाने में सफल रहा। अन्य विधियों (जैसे मानक ऑटोएनकोडर्स) ने भ्रमित होकर खंडित और टूटे हुए मानचित्र बनाए।

सारांश

शोध पत्र का दावा है कि न्यूरल नेटवर्क वेट्स केवल नंबर नहीं हैं; वे एक नए प्रकार के भौतिक अवलोकन (physical observable) हैं। JEPAWG नामक एक विशेष आर्किटेक्चर का उपयोग करके, उन्होंने दिखाया कि आप AI के मस्तिष्क की ज्यामिति से सीधे भौतिकी के नियमों को "पढ़" सकते हैं। AI ने केवल भौतिकी का अनुकरण करना नहीं सीखा; इसने खुद को इस तरह से व्यवस्थित करना सीखा जो अंतर्निहित वास्तविकता को पूरी तरह से दर्शाता है, जिससे वैज्ञानिक केवल नेटवर्क की संरचना को देखकर परिणामों की भविष्यवाणी कर सकते हैं और फेज़ ट्रांज़िशन को समझ सकते हैं।

तकनीकी सारांश: वेट-स्पेस फिजिक्स: लैटिस क्वांटम फील्ड थ्योरीज के लिए व्याख्यात्मक हाइपरनेटवर्क्स

समस्या विवरण
लैटिस फील्ड थ्योरी (LFT) उच्च-ऊर्जा और सघन द्रव्य (condensed matter) भौतिकी में गैर-परिवर्तनीय (non-perturbative) घटनाओं का अनुकरण करने के लिए प्राथमिक उपकरण है। जबकि अंतर्निहित भौतिकी को विश्लेतिक रूप से 'बेयर कपलिंग कांस्टेंट्स' ( $g$ ) द्वारा पैरामीटराइज किया जाता है, भौतिक अवलोकनों (observables) को निकालने के लिए व्यापक संख्यात्मक सिमुलेशन की आवश्यकता होती है क्योंकि ये बेयर पैरामीटर परिणामी बोल्ट्ज़मैन वितरणों के कमजोर भविष्यवक्ता होते हैं। हाल ही में, फ्लो-आधारित जनरेटिव मॉडल (नॉर्मलाइजिंग फ्लो) इन वितरणों के नमूने लेने के लिए प्रभावी सैंपलर के रूप में उभरे हैं, जो एक बेस डिस्ट्रीब्यूशन से टारगेट बोल्ट्ज़मैन मेज़र (Boltzmann measure) के बीच एक प्रतिवर्ती मानचित्र (invertible map) सीखते हैं। हालांकि, एक महत्वपूर्ण अंतर बना हुआ है: जबकि ये नेटवर्क सैंपलिंग करना सीखते हैं, यह समझना कठिन है कि उन्होंने अपने भार (weights, $\theta_g$ ) में किस भौतिक संरचना को संचित किया है। विशेष रूप से, यह स्पष्ट नहीं है कि क्या वेट-स्पेस की ज्यामिति उस भौतिक संरचना को पुनः प्राप्त करती है जो बेयर कपलिंग द्वारा छिपी हुई है, और क्या बिना पुन: प्रशिक्षण के अनदेखी थ्योरीज के लिए वेट्स को उत्पन्न किया जा सकता है।

कार्यप्रणाली: JEPAWG
लेखक JEPAWG (जॉइंट-एम्बेडिंग प्रेडिक्टिव आर्किटेक्चर-आधारित वेट जनरेटर) पेश करते हैं, जो एक सीखे गए लेटेंट स्पेस के माध्यम से कपलिंग कांस्टेंट्स को सीधे फ्लो नेटवर्क वेट्स तक मैप करने के लिए डिज़ाइन किया गया है। मानक हाइपरनेटवर्क्स के विपरीत, जो रिकंस्ट्रक्शन लॉस का उपयोग करके कपलिंग को वेट्स पर रिग्रेट करते हैं, JEPAWG एक JEPA आर्किटेक्चर (LeCun, 2022; Assran et al., 2023) का उपयोग करता है जो रिकंस्ट्रक्शन के बजाय प्रेडिक्शन द्वारा प्रतिनिधित्व सीखने के लिए बनाया गया है।

इस आर्किटेक्चर के चार घटक हैं:

वेट एनकोडर ( $E_\theta$ ): कैनोनिकलकृत फ्लो पैरामीटर्स $\theta$ को लेटेंट एम्बेडिंग $z_\theta$ में मैप करता है।
कपलिंग एनकोडर ( $E_g$ ): बेयर कपलिंग $g = (m^2, \lambda)$ को लेटेंट एम्बेडिंग $z_g$ में मैप करता है।
प्रेडिक्टर ( $P$ ): कपलिंग एम्बेडिंग $z_g$ को प्रेडिक्टेड वेट एम्बेडिंग $\hat{z}_\theta$ में मैप करता है।
डिकोडर ( $D_\theta$ ): प्रेडिक्टेड एम्बेडिंग को वापस फ्लो पैरामीटर्स $\hat{\theta}$ में मैप करता है।

इसे एक संशोधित VICReg ऑब्जेक्टिव (Bardes et al., 2022) का उपयोग करके प्रशिक्षित किया जाता है, जो इनवेरिएंस (प्रेडिक्टेड और टारगेट एम्बेडिंग्स के बीच संरेखण), वेरिएंस (प्रतिनिधित्व पतन को रोकना), और स्पष्ट रूप से कोवेरिएंस टर्म को हटाना सुनिश्चित करता है ताकि लेटेंट स्पेस समस्या की कम-आयामी संरचना पर केंद्रित हो सके। एक महत्वपूर्ण प्रीप्रोसेसिंग स्टेप में वेट कैनोनिकलाइजेशन शामिल है, जो वेट स्पेस में सिमेट्री (basis changes, permutations, sign flips) को हल करता है ताकि प्रत्येक सिमेट्री ऑर्बिट के लिए एक अद्वितीय प्रतिनिधि सुनिश्चित किया जा सके, जिससे गैर-अस्पष्ट फीचर एक्सट्रैक्शन सुगम हो सके।

सिस्टम को आवधिक वर्गाकार लैटिस ( $L \in \{6, \dots, 11\}$ ) पर दो-आयामी रियल स्केलर $\phi^4$ थ्योरी पर लागू किया गया है। ट्रेनिंग डेटा को दो स्वतंत्र रूप से प्रशिक्षित कंडीशनल फ्लो (मल्टी-सीड सेटिंग) से बनाया गया है जो कपलिंग स्पेस के विलगित (disjoint) क्षेत्रों को कवर करते हैं, ताकि यह सुनिश्चित हो सके कि सीखे गए प्रतिनिधित्व वेट मैनिफोल्ड की संरचनात्मक विच्छेदनशीलता (structural discontinuities) के प्रति मजबूत हैं।

प्रमुख योगदान और परिणाम
पेपर चार प्राथमिक योगदान प्रस्तुत करता है, जो यह प्रदर्शित करता है कि नेटवर्क वेट्स की ज्यामिति एक नए प्रकार के भौतिक अवलोकन के रूप में कार्य कर सकती है:

भौतिक आयामीता की रिकवरी (Recovery of Physical Dimensionality):
JEPAWG लेटेंट स्पेस अंतर्निहित 2D कपलिंग मैनिफोल्ड की आंतरिक विमा को सफलतापूर्वक पुनः प्राप्त करता है। मैक्सिमम लाइकलीहुड एस्टीमेशन (MLE) का उपयोग करते हुए, लेटेंट डायमेंशन का अनुमान $2.01 \pm 0.06$ लगाया गया है, जिसमें 98.5% वेरिएंस दो मुख्य अक्षों द्वारा कैप्चर किया गया है। इसके विपरीत, बेसलाइन मेथड्स (Autoencoders, VAEs, और PCA) इस आयाम को काफी बढ़ा देते हैं (जैसे, VAE MLE $\approx 4.88$ ), और निम्न-आयामी भौतिक संरचना को पकड़ने में विफल रहते हैं।
वेट्स से फेज ट्रांजिशन डिटेक्शन:
पैरामीटर मैप $\theta(g)$ पर पुलबैक मेट्रिक की गणना करके, लेखक वेट स्पेस में एक "रिज" (ridge) की पहचान करते हैं जो $\phi^4$ थ्योरी की क्रिटिकल लाइन को ट्रैक करता है। महत्वपूर्ण रूप से, यह सिग्नल विशेष रूप से नेटवर्क के नॉन-लोकल घटकों (जीरो-मोड स्केलिंग और फूरियर स्केलिंग पैरामीटर्स) से उत्पन्न होता है, जबकि स्थानीय "बल्क" समूह क्रिटिकलिटी के साथ कोई सहसंबंध नहीं दिखाते हैं। यह भौतिक नमूनों (samples) को खींचे बिना फेज बाउंड्री को खोजने की अनुमति देता है।
रेनॉर्मलाइजेशन ग्रुप (RG) संरचना और फाइनाइट-साइज़ स्केलिंग (FSS):
लेटेंट ज्यामिति थ्योरीज को फाइनाइट-साइज़ स्केलिंग (FSS) वेरिएबल के अनुसार व्यवस्थित करती है। विभिन्न लैटिस साइज ( $L$ ) के बीच वेट्स की तुलना करते समय, लेटेंट डिस्टेंस तब न्यूनतम होता है जब स्केलिंग एक्सपोनेंट $\nu$ सैद्धांतिक 2D Ising मान ( $\nu = 1$ ) के साथ संरेखित होता है। सीखा गया एक्सपोनेंट $\nu^*$ सटीक मान को ब्रैकेट करता है (जैसे, $6 \to 11$ पेयरिंग के लिए $1.00^{+0.08}_{-0.06}$ ), जो इंगित करता है कि नेटवर्क ने केवल बेयर कपलिंग्स के बजाय RG-इनवेरिएंट संयोजनों को स्पष्ट रूप से सीखा है।
मजबूत जनरेशन (Robust Generation):
एक जनरेटर के रूप में, JEPAWG अनदेखी कपलिंग्स के लिए प्रभावी ढंग से इंटरपोलेशन और एक्सट्रपलेशन करता है। चुनौतीपूर्ण मल्टी-सीड सेटिंग में, JEPAWG इंटरपोलेशन के लिए 0.88 का इफेक्टिव सैंपल साइज (ESS) प्राप्त करता है और किनारों (edges) पर 0.56 तथा कोनों (corners) पर 0.39 के साथ मजबूत प्रदर्शन बनाए रखता है। बेसलाइन्स (PCA, AE, VAE) इस सेटिंग में काफी गिर जाते हैं (ESS $\approx 0.30\text{--}0.40$ ), मुख्य रूप से इसलिए क्योंकि वे मल्टी-सीड ट्रेनिंग डेटा और वेट कैनोनिकलाइजेशन द्वारा पेश की गई विच्छेदनशीलता को संभालने में विफल रहते हैं।

महत्व और दावे
पेपर का दावा है कि फिजिक्स एक प्राकृतिक सिंथेटिक डेटा के सप्लायर के रूप में कार्य करती है जो इतना समृद्ध है कि गैर-तुच्छ (non-trivial) हो, फिर भी इतना संरचित है कि व्याख्यात्मक हो, जो एक ऐसा ग्राउंड ट्रुथ प्रदान करता है जो सामान्य मशीन लर्निंग इंटरप्रिटेबिलिटी रिसर्च में अक्सर गायब रहता है।

केंद्रीय निष्कर्ष यह है कि प्रशिक्षित वेट्स की ज्यामिति भौतिक थ्योरी की ज्यामिति को दर्शाती है, जो विशेष रूप से उन नेटवर्क घटकों पर केंद्रित होती है जो नॉन-लोकल ट्रांसफॉर्मेशन के लिए जिम्मेदार हैं जहाँ भौतिकी "निवास" करती है। लेखक तर्क देते हैं कि नेटवर्क वेट्स को भौतिक अवलोकन के रूप में मानना भौतिक संरचना (आयाम, फेज ट्रांजिशन, और स्केलिंग एक्सपोनेंट) को सीधे पढ़ने की अनुमति देता है, जिसके लिए भौतिक लेबल से पर्यवेक्षण (supervision) की आवश्यकता नहीं होती है। यह JEPAWG फ्रेमवर्क को मान्य करता है और इस व्यापक दावे का समर्थन करता है कि भौतिकी-आधारित सिंथेटिक डेटा व्याख्यात्मक AI विकसित करने के लिए प्रभावी है।

सीमाएं
लेखक नोट करते हैं कि उनके प्रयोग कंप्यूटेशनल लागत के कारण छोटे लैटिस ( $L \le 11$ ) पर एक एकल 2D थ्योरी तक सीमित हैं। फलस्वरूप, उनके व्याख्यात्मक दावे एक ही यूनिवर्सलिटी क्लास (2D Ising) के साथ सहमति पर आधारित हैं। वे यह दावा नहीं करते हैं कि यह विधि सभी क्वांटम फील्ड थ्योरीज के लिए काम करती है या यह क्रिटिकल एक्सपोनेंट्स के उच्च-परिशुद्धता माप प्रदान करती है, बल्कि यह लेटेंट स्पेस में RG-अवेयरनेस का एक गुणात्मक परीक्षण है। भविष्य के कार्य को बड़े लैटिस और विविध भौतिक प्रणालियों तक विस्तार देने का प्रस्ताव दिया गया है।