⚛️ quantum physics

Machine-learned, finite temperature Fermi-operator expansions suitable for GPUs and AI-hardware

यह शोध पत्र SP2 योजना पर आधारित एक मशीन-लर्निंग-संवर्धित, परिमित-तापमान पुनरावर्ती फर्मी-ऑपरेटर विस्तार विधि प्रस्तुत करता है जो इलेक्ट्रॉनिक संरचना गणनाओं को डीप न्यूरल नेटवर्क आर्किटेक्चर में मैप करता है, जिससे स्पष्ट विकर्णीकरण (diagonalization) और मॉडल पुनरप्रशिक्षण से बचने के लिए अनुकूलित मैट्रिक्स-मैट्रिक्स गुणन और एफाइन रीस्केलिंग का उपयोग करके GPU और AI हार्डवेयर पर परिमाण के क्रम (order-of-magnitude) की गति वृद्धि सक्षम होती है।

मूल लेखक: Stanislaw Kowalski, Christian F. A. Negre, Anders M. N. Niklasson, Kipton Barros, Joshua Finkelstein

प्रकाशित 2026-05-12

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC0 1.0

मूल लेखक: Stanislaw Kowalski, Christian F. A. Negre, Anders M. N. Niklasson, Kipton Barros, Joshua Finkelstein

मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य चित्र: परमाणुओं को सिम्युलेट करने का एक तेज़ तरीका

कल्पना कीजिए कि आप यह अनुमान लगाने की कोशिश कर रहे हैं कि एक कमरे (एक पदार्थ) में लोगों की भीड़ (इलेक्ट्रॉन) कैसे चलेगी और एक-दूसरे के साथ कैसे व्यवहार करेगी। क्वांटम भौतिकी की दुनिया में, यह अविश्वसनीय रूप से कठिन है। सटीक उत्तर प्राप्त करने के लिए, आपको आमतौर पर "डायगोनलाइजेशन" (diagonalization) नामक एक विशाल, जटिल पहेली को हल करना पड़ता है।

डायगोनलाइजेशन को ऐसे समझें जैसे कि सही क्रम खोजने के लिए हर किताब का हर एक पन्ना पढ़ने की कोशिश करना। यह सटीक तो है, लेकिन जैसे-जैसे कमरा बड़ा होता जाता है, इसमें बहुत अधिक समय लगता है।

इस शोध पत्र के लेखकों ने एक शॉर्टकट बनाया है। हर पन्ने को पढ़ने के बजाय, उन्होंने एक "स्मार्ट गेस" (स्मार्ट अनुमान) मशीन बनाई है जो लगभग तुरंत सीख लेती है कि किताबों को कैसे व्यवस्थित करना है। वे इसे मशीन-लर्नड फर्मी-ऑपरेटर एक्सपेंशन (Machine-Learned Fermi-operator expansion) कहते हैं।

समस्या: ठंडी बनाम गर्म भीड़

अतीत में, ये शॉर्टकट केवल तभी अच्छी तरह काम करते थे जब "भीड़" बहुत ठंडी (शून्य तापमान) होती थी। एक ठंडी भीड़ में, हर कोई बहुत ही अनुमानित तरीके से एक सीधी रेखा में स्थिर खड़ा रहता है। गणित सरल है: या तो आप लाइन में हैं या नहीं हैं।

हालाँकि, वास्तविक दुनिया में, चीजें अक्सर "गर्म" होती हैं। जब इलेक्ट्रॉन गर्म होते हैं, तो वे चंचल हो जाते हैं। कुछ लोग जो लाइन में खड़े थे, वे बाहर निकल सकते हैं, और कुछ जो इंतज़ार कर रहे थे, वे अंदर आ सकते हैं। इससे एक "धुंधली" (fuzzy) सीमा बन जाती है जहाँ लोग आंशिक रूप से अंदर और आंशिक रूप से बाहर होते हैं।

पिछले शॉर्टकट यहाँ विफल रहे क्योंकि वे बहुत कठोर थे। वे गर्म भीड़ की "धुंधलेपन" को नहीं संभाल सके।

समाधान: न्यूरल नेटवर्क को "कुचलना" (Squash) सिखाना

लेखकों ने महसूस किया कि ठंडी भीड़ को क्रमबद्ध करने के लिए उपयोग किया जाने वाला गणित बिल्कुल एक डीप न्यूरल नेटवर्क (Deep Neural Network) की संरचना जैसा दिखता है (वही AI जिसका उपयोग चेहरे पहचानने या कविता लिखने के लिए किया जाता है)।

पुराना तरीका (SP2): कल्पना कीजिए कि एक मशीन है जो एक संख्या लेती है और या तो उसका वर्ग ( $x^2$ ) करती है या एक विशिष्ट घटाव ( $2x - x^2$ ) करती है। यह बार-बार इस प्रक्रिया को दोहराती है, संख्याओं को "कुचलकर" (squashing) 0 या 1 में बदल देती है। यह ठंडी भीड़ के लिए बहुत अच्छा काम करता है।
नया तरीका (MLSP2): लेखकों ने इस मशीन को एक "दिमाग" दिया। निश्चित नियमों का उपयोग करने के बजाय, उन्होंने मशीन को मशीन लर्निंग का उपयोग करके प्रशिक्षित किया। उन्होंने मशीन को अपने आंतरिक नॉब्स (कोएफिशिएंट्स) को एडजस्ट करना सिखाया ताकि वह गर्म भीड़ के "धुंधलेपन" को पूरी तरह से संभाल सके।

इसे इस तरह सोचें:

पुरानी मशीन: एक कठोर स्टैम्प जो केवल "हाँ" या "नहीं" प्रिंट करता है।
नई मशीन: एक लचीला 3D प्रिंटर जो यह सीखने में सक्षम है कि "हाँ" और "नहीं" को कैसे आकार दिया जाए ताकि यह भीड़ कितनी भी गर्म हो, बीच में एक सुचारू, पूर्ण वक्र (curve) बना सके।

जादुई ट्रिक: एक मॉडल कई तापमानों के लिए उपयुक्त है

आमतौर पर, यदि आप अपने सिमुलेशन का तापमान बदलते हैं, तो आपको अपने AI मॉडल को फिर से शुरू से प्रशिक्षित (retrain) करना पड़ता है। इसमें बहुत समय लगता है।

लेखकों ने अफ़ाइन रीस्केलिंग (Affine Rescaling) नामक एक चतुर ट्रिक खोजी है।
कल्पल्पिए कि आपके पास एक शहर का नक्शा है। यदि आप ज़ूम इन या ज़ूम आउट करना चाहते हैं, तो आपको पूरा शहर फिर से बनाने की आवश्यकता नहीं है; आप बस नक्शे को खींच (stretch) या सिकोड़ (shrink) सकते हैं।

लेखकों ने पाया कि वे अपने AI मॉडल को केवल एक विशिष्ट "ज़ूम लेवल" (एक विशिष्ट तापमान और केमिकल पोटेंशियल) के लिए प्रशिक्षित कर सकते हैं। फिर, किसी भी अन्य तापमान के लिए जो एक निश्चित सीमा के भीतर है, वे मॉडल को फीड करने से पहले डेटा (हैमिल्टनियन मैट्रिक्स) को बस "खींचते" या "बदलते" हैं। मॉडल को कुछ भी फिर से सीखने की आवश्यकता नहीं होती; यह बस डेटा को एक अलग पैमाने पर देखता है और सही उत्तर देता है।

इसका मतलब है कि वे ऐसे सिमुलेशन चला सकते हैं जहाँ तापमान लगातार बदलता रहता है (जैसे कि एक रासायनिक प्रतिक्रिया में) बिना AI को फिर से प्रशिक्षित किए।

हार्डवेयर: विज्ञान के लिए AI चिप्स का उपयोग करना

यह शोध पत्र इस बात पर प्रकाश डालता है कि यह विधि विशेष रूप से आधुनिक कंप्यूटर चिप्स, विशेष रूप से GPUs (ग्राफिक्स प्रोसेसिंग यूनिट्स) और टेंसर कोर्स (Tensor Cores - जो AI के लिए डिज़ाइन किए गए चिप्स हैं) के लिए बनाई गई है।

उपमा: पारंपरिक डायगोनलाइजेशन एक कुशल बढ़ई द्वारा फर्नीचर के हर टुकड़े को हाथ से तराशने जैसा है। यह सटीक है लेकिन धीमा है।
नया तरीका: यह एक हाई-स्पीड 3D प्रिंटर का उपयोग करने जैसा है। यह भारी गणनाओं (मैट्रिक्स मल्टीप्लिकेशन) को अविश्वसनीय रूप से तेज़ी से करने के लिए AI चिप्स के विशिष्ट आर्किटेक्चर का उपयोग करता है।

लेखकों ने इसका परीक्षण Nvidia RTX 6000 Ada GPU पर किया। उन्होंने पाया कि उनकी विधि आज के वैज्ञानिकों द्वारा उपयोग की जाने वाली मानक, अत्यधिक अनुकूलित विधियों की तुलना में 9 से 16 गुना तेज़ थी, जबकि उच्च सटीकता बनाए रखी।

परिणामों का सारांश

गति: उन्होंने आधुनिक AI हार्डवेयर पर, विशेष रूप से पदार्थों में इलेक्ट्रॉनों के व्यवहार की गणना करने में भारी गति (16x तक) हासिल की।
सटीकता: वे "गर्म" इलेक्ट्रॉनों (फ्रैक्शनल ऑक्यूपेशन) को अत्यधिक सटीकता के साथ मॉडल कर सकते हैं, जिसे पिछले शॉर्टकट अच्छी तरह से नहीं कर सके।
दक्षता: अपने मॉडल को एक बार प्रशिक्षित करने और इनपुट को रीस्केल करने के लिए गणितीय ट्रिक्स का उपयोग करके, वे हर बार तापमान बदलने पर मॉडल को फिर से प्रशिक्षित करने की आवश्यकता से बचते हैं।
कोई "जादुई" डायगोनलाइजेशन नहीं: वे धीमे, भारी गणित (डायगोनलाइजेशन) से पूरी तरह बचते हैं, और इसके बजाय तेज़, बार-बार होने वाले मल्टीप्लिकेशन स्टेप्स पर भरोसा करते हैं जिन्हें AI चिप्स पसंद करते हैं।

संक्षेप में, लेखों ने एक धीमी, कठोर गणितीय प्रक्रिया को एक तेज़, लचीले, AI-संचालित टूल में बदल दिया है जो आधुनिक कंप्यूटर चिप्स पर अविश्वसनीय रूप से कुशलता से चलता है, जिससे वैज्ञानिक पहले की तुलना में बहुत तेज़ी से जटिल पदार्थों का सिमुलेशन कर सकते हैं।

तकनीकी सारांश: मशीन-लर्नड, फाइनाइट टेम्परेचर फर्मी-ऑपरेटर एक्सपेंशन

समस्या विवरण
इलेक्ट्रॉनिक संरचना गणनाएँ, विशेष रूप से कोह्न-शाम डेंसिटी फंक्शनल थ्योरी (KS-DFT) के भीतर, आइगेनवैल्यू समस्या को हल करने के लिए हैमिल्टोनियन मैट्रिक्स के विकेन्द्रीकरण (diagonalization) की क्यूबिक स्केलिंग लागत द्वारा कम्प्यूटेशनल रूप से सीमित हैं। जबकि रिकर्सिव फर्मी-ऑपरेटर एक्सपेंशन स्कीम्स, जैसे कि सेकंड-ऑर्डर स्पेक्ट्रल प्रोजेक्शन (SP2) विधि, बिना विकेन्द्रीकरण के डेंसिटी मैट्रिक्स को सीधे कंप्यूट करने का एक तरीका प्रदान करती हैं, मौजूदा कुशल कार्यान्वयन शून्य इलेक्ट्रॉनिक तापमान तक ही सीमित हैं। शून्य तापमान पर, डेंसिटी मैट्रिक्स आइडम्पोटेंट (occupations सख्त 0 या 1 होते हैं) होता है। हालाँकि, कई भौतिक प्रणालियों—जैसे कि धातु या उच्च इलेक्ट्रॉनिक तापमान वाली प्रणालियाँ—को डिजेनरेट आइगेनस्टेट्स या थर्मल स्मियरिंग को सटीक रूप से मॉडल करने के लिए भिन्नात्मक ऑर्बिटल ऑक्यूपेशन्स की आवश्यकता होती है।

SP2 को फाइनाइट टेम्परेचर के लिए सामान्यीकृत करने के पिछले प्रयास थर्मल स्मियरिंग पेश करने के लिए रिकर्सन को ट्रंकेट (truncate) करने में शामिल थे। हालाँकि, ये ट्रंकेटेड एक्सपेंशन स्वाभाविक रूप से अनुमानित (approximate) होते हैं, जो सटीक फर्मी फंक्शन को पुनरुत्पादित करने में विफल रहते हैं, विशेष रूप से केमिकल पोटेंशियल के पास जहाँ सटीकता महत्वपूर्ण होती है। वैकल्पिक विधियाँ जैसे कि चेबिशेव एक्सपेंशन या पाडे अप्रोक्सिमेंट्स (Padé approximants) या तो गिब्स ऑसिलेशन को दबाने के लिए अत्यधिक उच्च बहुपद क्रम (polynomial orders) की मांग करती हैं या बार-बार लीनियर सिस्टम सॉल्व करने के कारण महत्वपूर्ण कम्प्यूटेशनल ओवरहेड का सामना करती हैं।

कार्यप्रणाली (Methodology)
लेखक एक ढांचा प्रस्तावित करते हैं जो डीप न्यूरल नेटवर्क (DNN) आर्किटेक्चर पर इसके बीजगणितीय ढांचे को मैप करके SP2 विधि को फाइनाइट टेम्परेचर के लिए सामान्यीकृत करता है। मुख्य अंतर्दृष्टि यह है कि रिकर्सिव SP2 अपडेट्स एक न्यूरल नेटवर्क की परतों के समान हैं। एक्सपेंशन गुणांकों को 'ट्रेनेबल वेट्स और बायस' के रूप में मानकर, लेखक ऐसे मशीन लर्निंग मॉडल का निर्माण करते हैं जो मनमाने तापमान पर फर्मी वितरण फंक्शन के साथ भिन्नात्मक ऑक्यूपेशन्स का अनुमान लगाने में सक्षम हैं।

मुख्य कार्यप्रणाली घटक शामिल हैं:

न्यूरल नेटवर्क आर्किटेक्चर:
- MLSP2 (मशीन-लर्नड SP2): SP2 का एक सामान्यीकरण जहाँ क्वाड्रेटिक अपडेट रूल्स ( $X^2$ या $2X-X^2$ ) को सीखने योग्य क्वाड्रेटिक पॉलीनोमियल्स ( $ax^2 + bx + c$ ) और एक एक्युमुलेटर टर्म द्वारा प्रतिस्थापित किया जाता है। यह मॉडल को ट्रंकेटेड स्टेप फंक्शन के बजाय फर्मी फंक्शन के सटीक थर्मल स्मियरिंग का अनुमान लगाने की अनुमति देता है।
- Max-SP2: एक अधिक अभिव्यंजक (expressive) आर्किटेक्चर जिसमें "स्किप कनेक्शन" शामिल हैं, जहाँ प्रत्येक परत सभी पिछली परतों के लीनियर कॉम्बिनेशन का वर्ग होती है।
- Skip-SP2: हालिया परतों और एक्युमुलेटर्स के सीमित मेमोरी का उपयोग करने वाला Max-SP2 का एक संकुचित संस्करण, जो अभिव्यक्तता और मेमोरी उपयोग के बीच संतुलन बनाता है।
एन्ट्रॉपी अनुमान (Entropy Approximation):
लेखक इलेक्ट्रॉनिक फ्री एनर्जी की गणना के लिए आवश्यक इलेक्ट्रॉनिक एन्ट्रॉपी फंक्शन, $s(x)$ , को अनुमानित करने के लिए भी एक रिकर्सिव स्कीम विकसित करते हैं। वे फर्मी फंक्शन और उसके कॉम्प्लीमेंट $f(x)(1-f(x))$ के एक स्केल्ड प्रोडक्ट का उपयोग प्रारंभिक अनुमान के रूप में करते हैं, जिसे फिर केमिकल पोटेंशियल पर वास्तविक एन्ट्रॉपी के दूसरे डेरिवेटिव से मेल खाने के लिए एक रिकर्सिव क्वाड्रेटिक एक्सपेंशन के माध्यम से परिष्कृत किया जाता है।
प्रशिक्षण और अनुकूलन (Training and Optimization):
मॉडल्स को पूर्ण मैट्रिक्स के बजाय यूनिट इंटरवल $[0, 1]$ के भीतर स्केलर इनपुट्स पर प्रशिक्षित किया जाता है, जिसके लिए जियोडेसिक एक्सेलेरेशन के साथ लेवेनबर्ग-मार्क्वार्ट (Levenberg–Marquert) एल्गोरिदम का उपयोग किया जाता है। ट्रेनिंग डेटा को केमिकल पोटेंशियल के पास अधिकतम त्रुटि को कम करने के लिए फर्मी फंक्शन के डेरिवेटिव के आनुपातिक वेटिंग के साथ सैंपल किया जाता है।
एफाइन रीस्केलिंग और ट्रांसफरेबिलिटी (Affine Rescaling and Transferability):
सिमुलेशन पैरामीटर्स बदलने पर रिट्रेनिंग की आवश्यकता को समाप्त करने के लिए एफाइन रीस्केलिंग का उपयोग करना एक महत्वपूर्ण नवाचार है। हैमिल्टोनियन ( $H'$ ), केमिकल पोटेंशियल ( $\mu'$ ), और इनवर्स टेम्परेचर ( $\beta'$ ) को नॉर्मलाइज़ करके, विशिष्ट पैरामीटर्स $(\beta_0, \mu_0)$ पर प्रशिक्षित एक एकल मॉडल को अन्य पैरामीटर्स के एक विस्तृत "वैलिडिटी रीजन" पर लागू किया जा सकता है। यह इनपुट हैमिल्टोनियन को ट्रेनिंग कंडीशंस से मेल खाने के लिए रीस्केल करके प्राप्त किया जाता है, जिससे एक ही सेट ऑफ वेट्स को सिमुलेशन के दौरान बदलते तापमान और केमिकल पोटेंशियल के माध्यम से उपयोग किया जा सकता है।
हार्डवेयर कार्यान्वयन (Hardware Implementation):
एल्गोरिदम को आधुनिक GPUs और AI हार्डवेयर (विशेष रूप से NVIDIA Tensor Cores) के लिए अनुकूलित किया गया है। लेखक मैट्रिक्स स्क्वेयरिंग ऑपरेशन्स को कुशलतापूर्वक करने के लिए मिक्स्ड-प्रिसिजन अंकगणित (FP16/FP32) का लाभ उठाते हैं, जो हैमिल्टोनियन की समरूपता (symmetry) का उपयोग करके आवश्यक मल्टीप्लिकेशंस और डेटा ट्रांसफर की संख्या को कम करता है।

प्रमुख परिणाम

सटीकता (Accuracy): MLSP2 मॉडल्स फर्मी फंक्शन अनुमान पर $10^{-7}$ के क्रम में त्रुटियां प्राप्त करते हैं, जो ट्रंकेटेड SP2 मेथड्स (जिनमें त्रुटियां लगभग $10^{-2}$ होती हैं) से काफी बेहतर प्रदर्शन करते हैं और कई रेजिम्स में डबल-प्रिसिजन डायग्नोलाइजेशन की सटीकता से मेल खाते हैं।
प्रदर्शन (Performance): एक NVIDIA RTX 6000 Ada GPU पर, MLSP2 दृष्टिकोण इंटरमीडिएट मैट्रिक्स साइज के लिए डबल-प्रिसिजन डायग्नोलाइजेशन (cuSOLVER का उपयोग करके) की तुलना में 16-गुना स्पीडअप और बड़े मैट्रिक्स के लिए 9-गुना स्पीडअप प्रदर्शित करता है। सिंगल-प्रिसिजन डायग्नोलाइजेशन की तुलना में भी, MLSP2 बेहतर स्थिरता और सटीकता बनाए रखते हुए 2x से 5x की गति वृद्धि प्रदान करता है।
स्केलेबिलिटी (Scalability): यह विधि पूरी तरह से अत्यधिक अनुकूलित मैट्रिक्स-मैट्रिक्स मल्टीप्लिकेशन कर्नेल्स पर निर्भर करती है, जो स्पष्ट डायग्नोलाइजेशन से बचती है। वांछित सटीकता प्राप्त करने के लिए आवश्यक परतों की संख्या इनवर्स टेम्परेचर ( $\beta$ ) के लॉगरिदमिक स्केल के साथ स्केल होती है, जिससे कम तापमान पर भी कुशल गणना संभव होती है।

महत्व और दावे
लेख का दावा है कि यह दृष्टिकोण फाइनाइट-टेम्परेचर इलेक्ट्रॉनिक स्ट्रक्चर गणनाओं के लिए एक मजबूत, सामान्य समाधान प्रदान करता है जो डायग्नोलाइजेशन के कम्प्यूटेशनल बॉटलनैक से बचता है। SP2 को मशीन लर्निंग के माध्यम से सामान्यीकृत करके, लेखक भिन्नात्मक ऑक्यूपेशन्स के साथ सिस्टम के लिए डेंसिटी मैट्रिक्स की गणना करने में सक्षम बनाते हैं, जो पारंपरिक तरीकों की तुलना में बहुत कम लागत पर संभव है।

इसका महत्व डायनेमिक फाइनाइट-टेम्परेचर सिमुलेशन (जैसे क्वांटम मॉलिक्यूलर डायनेमिक्स) को करने की क्षमता में निहित है जहाँ केमिकल पोटेंशियल और इलेक्ट्रॉनिक तापमान टाइमस्टेप्स के बीच उतार-चढ़ाव करते हैं। एफाइन रीस्केलिंग रणनीति यह सुनिश्चित करती है कि एक एकल प्री-ट्रेन्ड मॉडल को बिना रिट्रेनिंग के पूरे सिमुलेशन के दौरान पुन: उपयोग किया जा सके, जिससे यह विधि बड़े पैमाने के अनुप्रयोगों के लिए व्यावहारिक बन जाती है। इसके अलावा, यह दृष्टिकोण विशेष रूप से आधुनिक AI हार्डवेयर (विशेष रूप से टेंसर कोर) के प्रदर्शन विशेषताओं का लाभ उठाने के लिए तैयार किया गया है, जो वेंडर-ऑप्टिमाइज्ड डायग्नोलाइजेशन रूटीन की तुलना में पर्याप्त स्पीडअप प्रदान करता है जबकि उच्च संख्यात्मक सटीकता बनाए रखता है।