⚛️ quantum physics

Physics-inspired transformer quantum states via latent imaginary-time evolution

यह शोध पत्र फिजिक्स-इंस्पायर्ड ट्रांसफॉर्मर क्वांटम स्टेट्स (PITQS) प्रस्तुत करता है, जो एक ऐसा ढांचा है जो वेट शेयरिंग और ट्रोटर-सुजुकी अपघटन के माध्यम से एक स्थिर प्रभावी हैमिल्टनियन को लागू करने के लिए ट्रांसफॉर्मर-आधारित न्यूरल क्वांटम अवस्थाओं को लेटेंट इमेजिनरी-टाइम इवोल्यूशन के रूप में पुनर्व्याख्या करता है, जिससे काफी कम मापदंडों के साथ अत्याधुनिक सटीकता प्राप्त होती है।

मूल लेखक: Kimihiro Yamazaki, Itsushi Sakata, Takuya Konishi, Yoshinobu Kawahara

प्रकाशित 2026-02-04

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Kimihiro Yamazaki, Itsushi Sakata, Takuya Konishi, Yoshinobu Kawahara

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप चुंबकों की एक जटिल प्रणाली (एक क्वांटम प्रणाली) की सबसे स्थिर, विश्राम अवस्था खोजने की कोशिश कर रहे हैं। भौतिकी में, इसे "ग्राउंड स्टेट" (ground state) खोजना कहा जाता है। लंबे समय से, वैज्ञानिक इसके लिए दो मुख्य उपकरणों का उपयोग करते आए हैं:

इमेजिनरी-टाइम इवोल्यूशन (ITE): इसे एक धीमी, भौतिक "कूलिंग" (ठंडा करने की) प्रक्रिया के रूप में सोचें। आप एक अस्त-व्यset, गर्म प्रणाली से शुरू करते हैं और धीरे-धीरे तापमान को तब तक कम करते हैं जब तक कि वह अपनी सबसे सटीक, शांत व्यवस्था में न बस जाए। यह एक बहुत ही विश्वसनीय, भौतिकी-आधारित विधि है, लेकिन कुछ कठिन प्रणालियों के लिए इसे कंप्यूटर पर करना मुश्किल है क्योंकि इसमें "साइन प्रॉब्लम" (sign problem) नामक एक गणितीय गड़बड़ी होती है (जैसे एक तराजू को संतुलित करने की कोशिश करना जहाँ वजन बार-बार अपने चिन्ह/साइन बदल रहे हों)।
न्यूरल क्वांटम स्टेट्स (NQS): यह एक आधुनिक, "ब्लैक बॉक्स" दृष्टिकोण है। आप एक विशाल आर्टिफिशियल इंटेलिजेंस (AI) नेटवर्क (विशेष रूप से एक ट्रांसफार्मर, वही जो चैटबॉट्स में उपयोग किया जाता है) में डेटा फीड करते हैं और उम्मीद करते हैं कि वह चुंबकों के पैटर्न को सीख लेगा। यह अविश्वसनीय रूप से शक्तिशाली और सटीक है, लेकिन यह एक जादू के खेल जैसा है: हमें वास्तव में पता नहीं है कि यह क्यों काम करता है, और अच्छे परिणाम प्राप्त करने के लिए, हमें अक्सर अपने AI को बहुत बड़ा बनाना पड़ता है, जिसमें लाखों पैरामीटर्स (सेटिंग्स) का उपयोग होता है जिन्हें हमें ट्यून करना पड़ता है।

समस्या:
लेखकों ने देखा कि वर्तमान "जादू के खेल" वाले AI मॉडल (जिन्हें TQS कहा जाता है) अत्यधिक जटिल हैं। उन्हें अलग-अलग परतों (layers) के एक ढेर के रूप में बनाया गया है, जहाँ प्रत्येक परत के अपने अनूठे नियमों का सेट है। पेपर का तर्क है कि यह भौतिक रूप से अनावश्यक है। वास्तविक दुनिया में, "कूलिंग" की प्रक्रिया एक एकल, सुसंगत सेट नियमों (एक हैमिल्टनियन) द्वारा संचालित होती है जो समय के साथ नहीं बदलता है। लेकिन वर्तमान AI मॉडल हर कदम पर अपने नियम बदलते हैं, जो कि एक ऐसे शेफ की तरह है जो भोजन के हर एक निवाले के लिए रेसिपी बदल देता है। यह भारी बर्बादी (ओवरपैरामीट्राइजेशन) की ओर ले जाता है, बिना बेहतर परिणाम दिए।

समाधान: PITQS
लेखक एक नई विधि प्रस्तावित करते हैं जिसे फिजिक्स-इंस्पायर्ड ट्रांसफार्मर क्वांटम स्टेट्स (PITQS) कहा जाता है। उन्होंने AI की पुनर्कल्पना एक ब्लैक बॉक्स के रूप में नहीं, बल्कि एक छिपे हुए (लेटेंट) स्पेस के भीतर होने वाली उस "कूलिंग" प्रक्रिया के सिमुलेशन के रूप में की है।

उन्होंने इसे दो मुख्य विचारों का उपयोग करके सरल बनाया है:

"एक रेसिपी" का नियम (वेट शेयरिंग): AI की प्रत्येक परत को अलग-अलग नियमों के सेट देने के बजाय, उन्होंने सभी परतों को बिल्कुल एक ही नियम साझा करने के लिए मजबूर किया। एक फैक्ट्री असेंबली लाइन की कल्पना करें जहाँ प्रत्येक स्टेशन एक ही उपकरण का उपयोग करता है और एक ही निर्देश पुस्तिका का पालन करता है। यह AI को एक एकल, सुसंगत "प्रभावी हैमिल्टनियन" (भौतिक नियमों का एक सेट) सीखने के लिए मजबूर करता है जो कूलिंग प्रक्रिया को संचालित करता है। यह कंप्यूटर द्वारा याद रखे जाने वाले सेटिंग्स की संख्या को नाटकीय रूप से कम कर देता है।
स्मार्ट स्टेप्स (ट्रोटर-सुज़ुकी डिकम्पोजिशन): जब आप किसी प्रक्रिया का चरण-दर-चरण सिमुलेशन करते हैं, तो छोटी त्रुटियां जुड़ सकती हैं। पुराने AI मॉडल "फर्स्ट-ऑर्डर" स्टेप्स लेते हैं (छोटे, अनाड़ी कदमों की तरह)। नया PITQS "हायर-ऑर्डर" स्टेप्स का उपयोग करता है (स्मूथ, गणना किए गए लंबे कदमों की तरह)। यह सिमुलेशन को बहुत अधिक सटीक बनाता है बिना और अधिक सेटिंग्स जोड़े या AI को बड़ा किए।

परिणाम:
टीम ने भौतिकी की एक प्रसिद्ध, कठिन पहेली पर परीक्षण किया जिसे J1-J2 हाइजनबर्ग मॉडल (एक फ्रस्ट्रेटेड मैग्नेट का ग्रिड) कहा जाता है।

दक्षता (Efficiency): उनकी नई विधि ने अत्याधुनिक "ब्लैक बॉक्स" मॉडलों के समान या उनसे बेहतर परिणाम प्राप्त किए।
सरलता: उन्होंने यह सब काफी कम पैरामीटर्स का उपयोग करते हुए किया। एक परीक्षण में, उन्होंने 155,000 सेटिंग्स वाले मॉडल के प्रदर्शन को केवल 44,000 सेटिंग्स वाले मॉडल के साथ मैच किया। दूसरे में, उन्होंने लगभग 1 मिलियन सेटिंग्स वाले मॉडल को 143,000 सेटिंग्स वाले मॉडल के साथ मात दी।

निष्कर्ष:
यह पेपर यह प्रदर्शित करता है कि भौतिकी के लेंस (विशेष रूप से, एक कूलिंग प्रक्रिया के रूप में) के माध्यम से AI को देखकर, हम इन मॉडलों को रहस्यमय ब्लैक बॉक्स के रूप में मानना बंद कर सकते हैं। इसके बजाय, हम उन्हें व्यवस्थित रूप से डिजाइन कर सकते हैं। भौतिक निरंतरता (वेट शेयरिंग) और स्मार्ट गणित (बेहतर स्टेप साइज) को लागू करके, हम जटिल क्वांटम समस्याओं को हल करने के लिए छोटे, अधिक कुशल और अधिक सटीक मॉडल बना सकते हैं।

संक्षेप में, उन्होंने एक विशाल, अव्यवस्थित AI को एक लीन, भौतिक रूप से आधारित मशीन में बदल दिया जो बहुत कम प्रयास के साथ उन्हीं समस्याओं को हल करती है।

तकनीकी सारांश: लेटेंट इमेजिनरी-टाइम इवोल्यूशन के माध्यम से फिजिक्स-इंस्पायर्ड ट्रांसफॉर्मर क्वांटम स्टेट्स

समस्या विवरण
दृढ़ रूप से सहसंबद्ध (strongly correlated) क्वांटम अनेक-निकाय प्रणालियों (many-body systems) के ग्राउंड-स्टेट वेव फंक्शन्स को सटीक रूप से निर्धारित करना एक महत्वपूर्ण चुनौती बनी हुई है। न्यूरल क्वांटम स्टेट्स (NQS), विशेष रूप से ट्रांसफॉर्मर आर्किटेक्चर (TQS) पर आधारित, ने फ्रस्ट्रेटेड $J_1$ - $J_2$ हाइजेनबर्ग मॉडल जैसे बेंचमार्क पर अत्याधुनिक सटीकता प्राप्त की है। हालांकि, मौजूदा NQS आर्किटेक्चर को काफी हद तक "ब्लैक बॉक्स" के रूप में माना जाता है जो जेनेरिक मशीन-लर्निंग डिज़ाइनों को पुन: उपयोग करते हैं। यह दृष्टिकोण उच्च सटीकता प्राप्त करने के लिए पर्याप्त ओवरपैरामीट्राइजेशन (overparameterization) पर निर्भर करता है, जिससे प्रदर्शन को संचालित करने वाले तंत्रों के बारे में सीमित भौतिक अंतर्दृष्टि मिलती है। इसके अलावा, आर्किटेक्चरत्मक परिवर्तनों और सटीकता सुधारों के बीच एक एकीकृत सिद्धांत की कमी व्यवस्थित शोधन को कठिन बनाती है। जबकि इमेजरी-टाइम इवोल्यूशन (ITE) ग्राउंड स्टेट्स के लिए एक भौतिक रूप से पारदर्शी मार्ग प्रदान करता है, स्टोकैस्टिक सैंपलिंग विधियों के साथ साइन प्रॉब्लम (sign problem) के कारण NQS के साथ इसका एकीकरण बाधित हुआ है, विशेष रूप से फ्रस्ट्रेटेड सिस्टम के लिए।

कार्यप्रणाली: लेटेंट इमेजरी-टाइम इवोल्यूशन (LITE)
लेखक लेटेंट इमेजरी-टाइम इवोल्यूशन (LITE) नामक एक फ्रेमवर्क का प्रस्ताव करते हैं, जो डीप न्यूरल नेटवर्क को भौतिक कूलिंग प्रक्रियाओं के रूप में पुनर्व्याख्या करने के लिए है। इस योजना में, एक NQS एंसेट (ansatz) को तीन तार्किक ब्लॉकों के माध्यम से बनाया गया है:

लेटेंट एनकोडर ( $\hat{E}_\theta$ ): एक विविक्त (discrete) भौतिक विन्यास $n$ को एक प्रारंभिक लेटेंट अवस्था $z^{(0)}$ में मैप करता है, जो लेटेंट टोकन से बनी होती है। यह ऑक्जिलरी डिग्री ऑफ फ्रीडम पेश करता है जो ऑक्जिलरी-फील्ड क्वांटम मोंटे कार्लो (AF-QMC) में ऑक्जिलरी फील्ड्स के समान है, लेकिन इसे वेरिएशनल मोंटे कार्लो (VMC) ढांचे के भीतर एंड-टू-एंड अनुकूलित किया गया है, जिससे साइन प्रॉब्लम से बचा जा सके।
LITE ऑपरेटर ( $\hat{U}_\theta(\beta)$ ): एक सीखने योग्य प्रभावी हैमिल्टनियन $\hat{H}_\theta$ के माध्यम से लेटेंट स्पेस में कुल काल्पनिक समय $\beta$ के लिए लेटेंट अवस्था को विकसित करता है। विकास को $z(\beta) = e^{-\beta \hat{H}_\theta} z^{(0)}$ के रूप में परिभाषित किया गया है।
वेव-फंक्शन डिकोडर ( $\hat{D}_\theta$ ): विकसित लेटेंट अवस्था $z(\beta)$ को वेव फंक्शन के लॉग-एम्प्लीट्यूड, $\log \Psi_\theta(n)$ में मैप करता है।

मानक TQS का पुनर्व्याख्या
यह शोध पत्र मौजूदा ट्रांसफॉर्मर-आधारित NQS (TQS) का LITE लेंस के माध्यम से विश्लेषण करता है। यह पहचानता है कि मल्टी-हेड अटेंशन (MHA) और फीड-फॉरवर्ड नेटवर्क (FFN) सबलेयर्स से बने मानक TQS लेयर्स, एक शॉर्ट इमेजरी-टाइम प्रोपेगेटर के फर्स्ट-ऑर्डर ली-ट्रोटर (Lie–Trotter) अपघटन के अनुरूप हैं।

MHA सबलेयर एक नॉन-लोकल इंटरेक्शन टर्म ( $\hat{K}_\theta$ ) के रूप में कार्य करता है।
FFN सबलेयर एक लोकल (ऑन-साइट) टर्म ( $\hat{V}_\theta$ ) के रूप में कार्य करता है।
महत्वपूर्ण रूप से, मानक TQS प्रत्येक लेयर के लिए अलग-अलग वेट्स का उपयोग करता है, जिसका अर्थ है कि एक प्रभावी हैमिल्टनियन जो लेटेंट इमेजरी टाइम के साथ बदलता है ( $\hat{H}^{(\ell)}_\theta \neq \hat{H}^{(\ell')}_\theta$ )। लेखक तर्क देते हैं कि यह परिवर्तन एक भौतिक रूप से अनावश्यक स्वतंत्रता है जो महत्वपूर्ण ओवरपैरामीट्राइजेशन की ओर ले जाती है, क्योंकि ग्राउंड-स्टेट कूलिंग प्रक्रिया को एक एकल, समय-स्वतंत्र हैमिल्टनियन द्वारा शासित किया जाना चाहिए।

प्रस्तावित समाधान: फिजिक्स-इंस्पायर्ड ट्रांसफॉर्मर क्वांटम स्टेट्स (PITQS)
इन सीमाओं को संबोधित करने के लिए, लेखक फिजिक्स-इंस्पायर्ड ट्रांसफॉर्मर क्वांटम स्टेट्स (PITQS) पेश करते हैं, जो एक स्थिर प्रभावी हैमिल्टनियन लागू करता है और पैरामीटर की संख्या बढ़ाए बिना उच्च-क्रम के अपघटन के माध्यम से प्रोपेगेशन सटीकता में सुधार करता है।

वेट शेयरिंग (Weight Sharing): PITQS सभी लेयर्स में एक एकल प्रभावी हैमिल्टनियन $\hat{H}_\theta = -(\hat{V}_\theta + \hat{K}_\theta)$ को लागू करने के लिए वेट्स को साझा करता है। यह भौतिक रूप से अनावश्यक लेयर-वाइज भिन्नता को हटा देता है और पैरामीटर काउंट को नेटवर्क की गहराई $L$ के अनुपात में कम कर देता है।
ट्रोटर-सुजुकी अपघटन (Trotter–Suzuki Decompositions): मानक TQS में उपयोग किए जाने वाले फर्स्ट-ऑर्डर ली-ट्रोटर स्कीम के बजाय, PITQS व्यवस्थित रूप से उच्च-क्रम के अपघटन (जैसे, सेकंड-ऑर्डर स्ट्रैंग, फोर्थ-ऑर्डर सुजुकी, और फोर्थ-ऑर्डर ब्लेन्स-मोअन) को प्रोपेगेटर $e^{-\Delta\tau \hat{H}_\theta}$ को अनुमानित करने के लिए लागू करता है। यह लेटेंट इमेजरी-टाइम प्रोपेगेशन की सटीकता में सुधार करता है जबकि वेरिएशनल पैरामीटर बजट को स्थिर रखता है।

मुख्य परिणाम
इस फ्रेमवर्क को $10 \times 10$ स्क्वायर लैटिस ( $J_2/J_1 = 0.5$ ) पर फ्रस्ट्रेटेड $J_1$ - $J_2$ हाइजेनबर्ग मॉडल पर मान्य किया गया।

पैरामीटर दक्षता: PITQS ने मानक TQS की तुलना में काफी कम वेरिएशनल पैरामीटर्स का उपयोग करते हुए समकक्ष या उससे अधिक ऊर्जा प्राप्त की। उदाहरण के लिए, $\beta=2.0$ पर, 44,890 पैरामीटर्स वाले PITQS ने 155,620 पैरामीटर्स वाले मानक TQS को पीछे छोड़ दिया।
सटीकता बनाम गहराई: मानक TQS में, इमेजरी टाइम $\beta$ (और इस प्रकार गहराई $L$ ) को बढ़ाने से पैरामीटर काउंट रैखिक रूप से बढ़ गया लेकिन सटीकता में कोई व्यवस्थित सुधार नहीं हुआ। इसके विपरीत, एक निश्चित पैरामीटर काउंट के साथ PITQS ने $\beta$ बढ़ने पर कम ऊर्जा प्राप्त की, जो यह सुझाव देता है कि प्रभावी हैमिल्टनियन संरचना ही रिप्रेसेंटेशनल पावर का मुख्य स्रोत है।
अपघटन क्रम (Decomposition Order): फिक्स्ड पैरामीटर काउंट पर, उच्च-क्रम के ट्रोटर-सुजुकी अपघटन (स्ट्रैंग, सुजुकी, ब्लेन्स-मोअन) ने फर्स्ट-ऑर्डर ली-ट्रोटर स्कीम की तुलना में सामान्यतः बेहतर सटीकता दिखाई। हालांकि, लेखकों ने नोट किया कि एक ट्रेड-ऑफ है: जबकि उच्च-क्रम की स्कीम्स ने ट्रोटर एरर को कम किया, उन्होंने बड़े $\beta$ पर बढ़ी हुई ऑप्टिमाइजेशन अस्थिरता और कम्प्यूटेशनल लागत भी प्रदर्शित की।
स्केलेबिलिटी: एक बड़ा PITQS मॉडल (स्ट्रैंग स्कीम, $N_p = 143,010$ ) तुलनीय आकार के मानक TQS ( $N_p = 155,620$ ) से बेहतर प्रदर्शन करता है, जो $E \approx -0.49741$ की ऊर्जा प्राप्त करता है, जो साहित्य में रिपोर्ट किए गए बहुत बड़े TQS मॉडल्स ( $N_p \approx 995,000$ ) के प्रतिस्पर्धी है।
फर्मिओनिक सिस्टम: इस दृष्टिकोण को फर्मिओनिक सिस्टम (हबार्ड मॉडल) तक विस्तारित किया गया, जहाँ PITQS ने फिर से काफी कम पैरामीटर्स के साथ TQS सटीकता की बराबरी की, जो स्पिन सिस्टम से परे इसकी प्रयोज्यता को प्रदर्शित करता है।

महत्व और दावे
यह पेपर दावा करता है कि डीप नेटवर्क संरचनाओं को लेटेंट कूलिंग प्रोसेस के रूप में पुनर्व्याख्या करने से NQS के लिए अधिक भौतिक रूप से आधारित, व्यवस्थित और संक्षिप्त डिज़ाइन सक्षम होता है। मशीन लर्निंग की "ब्लैक-बॉक्स" अभिव्यक्तता और भौतिक रूप से पारदर्शी निर्माण के बीच के अंतर को पाटते हुए, लेखक प्रदर्शित करते हैं कि:

मानक TQS की "ब्लैक-बॉक्स" प्रकृति को लेयर्स को लेटेंट इमेजरी-टाइम प्रोपेगेटर के रूप में देखकर स्पष्ट किया जा सकता है।
मानक TQS में लेयर-वाइज भिन्नता एक अनावश्यक ओवरपैरामीट्राइजेशन है जिसे सटीकता से समझौता किए बिना वेट शेयरिंग के माध्यम से हटाया जा सकता है।
NQS आर्किटेक्चर में व्यवस्थित सुधार केवल अनुभवजन्य ह्यूरिस्टिक्स या पैरामीटर काउंट बढ़ाने के बजाय भौतिक सिद्धांतों (स्थिर हैमिल्टनियन, उच्च-क्रम अपघटन) को लागू करके किया जा सकता है।

यह कार्य निष्कर्ष निकालता है कि शुद्ध पैरामीटर स्केल के बजाय, एक फिजिक्स-इंस्पायर्ड इंडक्टिव बायस (inductive bias), क्वांटम अनेक-निकाय सिमुलेशन में उच्च सटीकता प्राप्त करने में महत्वपूर्ण भूमिका निभाता है।

इसी तरह के और पेपर