🔬 materials science

KappaFormer: Physics-aware Transformer for lattice thermal conductivity via cross-domain transfer learning

KappaFormer एक भौतिकी-जागरूक (physics-aware) ट्रांसफॉर्मर मॉडल है जो हार्मोनिक इलास्टिक गुणों और सीमित एनहार्मोनिक थर्मल कंडक्टिविटी डेटा के बीच क्रॉस-डोमेन ट्रांसफर लर्निंग का लाभ उठाता है ताकि लैटिस थर्मल कंडक्टिविटी की सटीक भविष्यवाणी की जा सके और अत्यंत निम्न थर्मल कंडक्टिविटी वाले पदार्थों की खोज में तेजी लाई जा सके।

मूल लेखक: Mengfan Wu, Junfu Tan, Yu Zhu, Jie Ren

प्रकाशित 2026-04-07

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Mengfan Wu, Junfu Tan, Yu Zhu, Jie Ren

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक "थर्मल इंसुलेटर" (ऊष्मीय रोधी) बनाने के लिए एक आदर्श सामग्री खोजने की कोशिश कर रहे हैं, जो एक सुपर-एफिशिएंट बैटरी या गर्मी को बिजली में बदलने वाले उपकरण के लिए काम आ सके। आपको एक ऐसी सामग्री चाहिए जो ऊष्मा का संचालन करने में बहुत खराब हो (कम थर्मल कंडक्टिविटी), लेकिन इसे ढूंढना सुइयों से भरी घास के ढेर में सुई खोजने जैसा है।

पारंपरिक रूप से, वैज्ञानिकों के पास सामग्री खोजने के दो तरीके होते हैं:

ट्रायल-एंड-एरर विधि (प्रयास और त्रुटि विधि): लैब में इसे बनाना, इसका परीक्षण करना और उम्मीद करना कि यह काम करेगा। यह धीमा, महंगा और भाग्य पर निर्भर है।
सुपर-कंप्यूटर विधि: प्रत्येक परमाणु के भौतिक विज्ञान (फिजिक्स) का अनुकरण (सिमुलेशन) करना। यह सटीक है लेकिन इसमें इतनी अधिक कंप्यूटिंग शक्ति लगती है कि आप एक समय में केवल कुछ ही सामग्रियों का परीक्षण कर सकते हैं।

मिलिए KappaFormer से।

लेखकों ने एक नया AI टूल बनाया है जिसे KappaFormer कहा जाता है। इसे केवल एक "ब्लैक बॉक्स" AI के रूप में न सोचें जो उत्तरों का अनुमान लगाता है, बल्कि इसे एक भौतिकी-जानकार जासूस (physics-savvy detective) के रूप में देखें जो यह समझता है कि सामग्रियां वास्तव में गर्मी को कैसे संचालित करती हैं (या क्यों नहीं करतीं)।

यह कैसे काम करता है, यहाँ इसके रचनात्मक उपमाओं के माध्यम से विवरण दिया गया है:

1. समस्या: "डेटा का रेगिस्तान" (The Data Desert)

कल्पना कीजिए कि आप एक छात्र को बिल्लियों को पहचानना सिखाने की कोशिश कर रहे हैं। यदि आपके पास बिल्लियों की केवल 300 तस्वीरें हैं (जो सामग्रियों के विज्ञान में प्रयोगात्मक ताप डेटा के मामले में सच है), तो छात्र को संघर्ष करना पड़ेगा। वह उन तस्वीरों को रट सकता है लेकिन किसी नई बिल्ली को पहचानने में विफल हो सकता है जिसे उसने पहले कभी नहीं देखा।

अधिकांश AI मॉडल अकेले इन 300 तस्वीरों से सीखने की कोशिश करते हैं। वे "डेटा-प्यासे" (data-hungry) होते हैं और अक्सर कुछ नया देखते ही विफल हो जाते हैं।

2. समाधान: "दो-मस्तिष्क" रणनीति (The Two-Brain Strategy)

KappaFormer विशेष है क्योंकि इसमें एक दो-मस्तिष्क संरचना (two-brain architecture) है जो इस तरह नकल करती है जैसे भौतिक विज्ञानी वास्तव में गर्मी के बारे में सोचते हैं।

मस्तिष्क A (हार्मोनिक मस्तिष्क - The Harmonic Brain): यह हिस्सा AI का वह जीनियस है जो सामग्री की "कठोरता" (stiffness) को समझने में माहिर है (कि उसे दबाना या खींचना कितना कठिन है)। सार्वजनिक डेटाबेस में कठोरता के बारे में लाखों डेटा पॉइंट उपलब्ध हैं। KappaFormer पहले इस विशाल लाइब्रेरी पर प्री-ट्रेन (pre-trains) होता है। यह सीखता है कि परमाणु एक-दूसरे को कैसे थामते हैं और कैसे कंपन करते हैं।
मस्तिष्क B (एनहार्मोनिक मस्तिष्क - The Anharmonic Brain): यह हिस्सा परमाणुओं की "अराजकता" (chaos) या "छटपटाहट" (jitteriness) से निपटता है। यह सबसे कठिन हिस्सा है जो वास्तव में गर्मी के प्रवाह को रोकता है। इसका डेटा बहुत कम है।

जादुई ट्रिक (ट्रांसफर लर्निंग):
शून्य से शुरुआत करने के बजाय, KappaFormer मस्तिष्क A (लाखों कठोरता के उदाहरणों) से प्राप्त ज्ञान को लेता है और इसका उपयोग मस्तिष्क B को गर्मी के कुछ सीमित उदाहरणों को समझने में मदद करने के लिए करता है।

उपमा: कल्पना कीजिए कि एक मास्टर शेफ (मस्तिष्क A) है जो ब्रेड बनाने की हजारों रेसिपी जानता है। आप उनसे एक नई तरह का मसालेदार सूप (मस्तिष्क B) बनाने में मदद करने के लिए कहते हैं। भले ही उन्होंने कभी वह विशिष्ट सूप नहीं बनाया हो, लेकिन गर्मी, सामग्री और समय (भौतिकी) की उनकी गहरी समझ उन्हें एक नौसिखिए की तुलना में बहुत तेज़ी से सूप की रेसिपी खोजने में मदद करती है।

3. आर्किटेक्चर: एक "स्मार्ट नेटवर्क"

यह पेपर एक ट्रांसफॉर्मर (Transformer) का उपयोग करता है (वही प्रकार का AI जो ChatGPT जैसे टूल्स के पीछे है)।

इनपुट (The Input): AI परमाणुओं के एक 3D मानचित्र की तरह क्रिस्टल संरचना को देखता है।
अटेंशन मैकेनिज्म (The Attention Mechanism): पूरे मानचित्र को एक साथ देखने के बजाय, AI "अटेंशन" का उपयोग करके परमाणुओं के विशिष्ट जोड़ों पर ध्यान केंद्रित करता है, और पूछता है: "इन दो परमाणुओं के बीच क्या संबंध है? क्या वे तालमेल में कंपन करते हैं, या वे एक-दूसरे से लड़ते हैं?"
भौतिकी सूत्र (The Physics Formula): AI केवल एक नंबर का अनुमान नहीं लगाता। इसे अपने निष्कर्षों को एक वास्तविक भौतिकी समीकरण (स्लैक मॉडल) में डालकर उत्तर देने के लिए मजबूर किया जाता है। यह "कठोरता" वाले हिस्से और "छटपटाहट" वाले हिस्से को अलग-अलग गणना करता है, और फिर उन्हें जोड़ता है। यह सुनिश्चित करता है कि उत्तर भौतिक रूप से सही हो।

4. खोज: "सोने के टुकड़े" ढूंढना (Finding the Gold Nuggets)

प्रशिक्षण के बाद, शोधकर्ताओं ने एक डेटाबेस में हजारों सामग्रियों की स्क्रीनिंग करने के लिए KappaFormer का उपयोग किया। यह एक विशाल समुद्र तट पर मेटल डिटेक्टर चलाने जैसा था।

इसे तीन "सुपर-इंसुलेटर्स" मिले जिन्हें पहले कभी उजागर नहीं किया गया था:

CsNb2Br9
Cs2AgI3
Cs6CdSe4

AI ने भविष्यवाणी की कि ये सामग्रियां ऊष्मा के बहुत खराब चालक होंगी। इसे साबित करने के लिए, शोधकर्ताओं ने इन तीन सामग्रियों पर महंगे, उच्च-सटीकता वाले सुपरकंप्यूटर सिमुलेशन (DFT) चलाए। AI सही था। वे वास्तव में उत्कृष्ट थर्मल इंसुलेटर हैं।

5. "क्यों": तंत्र को समझना (Understanding the Mechanism)

आमतौर पर, AI आपको एक उत्तर देता है लेकिन यह नहीं बताता कि "क्यों"। KappaFormer अलग है। क्योंकि इसे भौतिकी को ध्यान में रखकर बनाया गया था, इसलिए शोधकर्ता इससे पूछ सकते थे: "यह सामग्री गर्मी को रोकने में इतनी अच्छी क्यों है?"

AI ने समझाया:

"रैटलिंग" प्रभाव (The "Rattling" Effect): इन सामग्रियों में, भारी परमाणु (जैसे सीज़ियम) क्रिस्टल पिंजरे में ढीले बैठे होते हैं। वे एक बॉक्स में कंचों की तरह इधर-उधर टकराते (rattle) रहते हैं। यह रैटलिंग अराजकता पैदा करती है जो ऊष्मा तरंगों को बिखेर देती है, जिससे उन्हें यात्रा करने से रोका जा जाता है।
"सॉफ्ट" ढांचा (The "Soft" Framework): बाकी संरचना "सॉफ्ट" और लचीली है, जो गर्मी के प्रवाह को भी धीमा कर देती है।

बड़ी तस्वीर (The Big Picture)

यह पेपर एक गेम-चेंजर है क्योंकि यह दिखाता है कि AI + Physics = बेहतर विज्ञान।

AI को अंधाधुंध अनुमान लगाने देने के बजाय, लेखकों ने एक ऐसा सिस्टम बनाया है जो भौतिकी के नियमों का सम्मान करता है। यह उन्हें निम्नलिखित में सक्षम बनाता है:

बड़ी मात्रा में आसान डेटा (कठोरता) से सीखना।
उस ज्ञान को दुर्लभ, कठिन डेटा (ऊष्मीय चालकता) पर लागू करना।
हरित ऊर्जा और बेहतर इलेक्ट्रॉनिक्स के लिए नई सामग्रियां पहले की तुलना में बहुत तेज़ी से खोजना।

संक्षेप में, KappaFormer एक भौतिकी-निर्देशित खोजकर्ता (physics-guided explorer) है जो हमें संभावनाओं के पूरे पहाड़ को एक-एक करके खोदने के बिना भविष्य की सामग्रियां खोजने में मदद करता है।

यहाँ शोध पत्र "KappaFormer: Physics-aware Transformer for lattice thermal conductivity via cross-domain transfer learning" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लैटिस थर्मल कंडक्टिविटी ( $\kappa_L$ ) की सटीक भविष्यवाणी करना सामग्री विज्ञान (materials science) में एक महत्वपूर्ण चुनौती बनी हुई है।

डेटा की कमी (Data Scarcity): उच्च गुणवत्ता वाले प्रयोगात्मक $\kappa_L$ डेटा की भारी कमी है और इसे प्राप्त करना महंगा है, जो शुद्ध रूप से डेटा-संचालित मशीन लर्निंग (ML) मॉडल की प्रभावशीलता को सीमित करता है।
भौतिक जटिलता (Physical Complexity): $\kappa_L$ केवल क्रिस्टल संरचना का एक सरल मैपिंग नहीं है; यह हार्मोनिसिटी (इलास्टिक गुण, ध्वनि वेग) और एनहार्मोनिसिटी (फोनन-फोनन स्कैटरिंग, ग्रुनेसन पैरामीटर) के बीच जटिल परस्पर क्रिया से उत्पन्न होता है।
मौजूदा मॉडलों की सीमाएँ: अधिकांश मौजूदा ML मॉडल एंड-टू-एंड लर्निंग रणनीतियों का उपयोग करते हैं जो $\kappa_L$ को एक 'ब्लैक बॉक्स' की तरह मानते हैं। यह दृष्टिकोण भौतिक व्याख्यात्मकता (physical interpretability) की कमी रखता है, डेटा दक्षता में कमजोर है, और प्रशिक्षण डेटा सीमित होने पर प्रशिक्षण वितरण से बाहर की सामग्रियों के लिए सामान्यीकरण करने में संघर्ष करता है।

2. कार्यप्रणाली: KappaFormer आर्किटेक्चर (Methodology: KappaFormer Architecture)

लेखक KappaFormer का प्रस्ताव करते हैं, जो एक फिजिक्स-अवेयर ट्रांसफार्मर आर्किटेक्चर है जो $\kappa_L$ के भौतिक अपघटन (हार्मोनिसिटी बनाम एनहार्मोनिसिटी) को नेटवर्क संरचना में स्पष्ट रूप से समाहित करता है।

A. मुख्य आर्किटेक्चर (Core Architecture)

यह मॉडल दो अलग-अलग शाखाओं वाले ग्राफ-आधारित अटेंशन नेटवर्क का उपयोग करता है:

हार्मोनिक शाखा (Harmonic Branch): यह इलास्टिक गुणों (बल्क मॉड्यूलस $B$ , शियर मॉड्यूलस $G$ ) पर ध्यान केंद्रित करती है जो लैटिस की कठोरता और ध्वनि वेग को नियंत्रित करते हैं।
एनहार्मोनिक शाखा (Anharmonic Branch): यह ग्रुनेसन पैरामीटर ( $\gamma$ ) पर ध्यान केंद्रित करती है, जो फोनन स्कैटरिंग को नियंत्रित करता है।
प्रमुख घटक (Key Components):
- ग्राफ एम्बेडिंग (Graph Embedding): क्रिस्टल को मल्टी-एज ग्राफ में मैप किया जाता है जहाँ नोड्स परमाणुओं का प्रतिनिधित्व करते हैं और किनारे रोटेशनल इक्विवैरिएंस (rotational equivariance) के लिए गॉसियन बेसिस फंक्शन और विग्नर-डी मैट्रिसेस का उपयोग करके रेडियल/डायरेक्शनल बॉन्डिंग जानकारी को एनकोड करते हैं।
- एटम-पेयर-अवेयर ग्राफ अटेंशन (Atom-Pair-Aware Graph Attention): युग्मवार बल अंतःक्रियाओं (pairwise force interactions) को पकड़ने के लिए SO(2)-टेन्सर उत्पादों का उपयोग करता है, जो फीचर्स को इर्रेड्यूसिबल रिप्रेजेंटेशन (irreps) और स्केलर फीचर्स में विभाजित करता है।
- स्केलर रिकरेंट ब्लॉक (Scalar Recurrent Block): हार्मोनिक और एनहार्मोनिक एम्बेडिंग्स को अनुकूल रूप से फ्यूज करने के लिए गेटेड रिकरेंट यूनिट्स (GRUs) का उपयोग करता है।
- मल्टी-गेट मिक्सचर-ऑफ-एक्सपर्ट्स (MMoE): दोनों शाखाओं के योगदान को गतिशील रूप से नियंत्रित करता है, जिससे मॉडल हार्मोनिसिटी और एनहार्मोनिसिटी के बीच आंतरिक युग्मन (intrinsic coupling) को सीखने में सक्षम होता है।
- फिजिक्स फॉर्म्यूलेशन लेयर (Physics Formulation Layer): $\kappa_L$ के सीधे रिग्रेशन के बजाय, मॉडल मध्यवर्ती भौतिक मात्राओं ( $\hat{B}, \hat{G}, \hat{\gamma}$ ) की भविष्यवाणी करता है जिन्हें फिर $\log_{10}\hat{\kappa}_L$ की गणना करने के लिए एक संशोधित Slack model समीकरण में फीड किया जाता है। यह भौतिक बाधाओं और व्याख्यात्मकता को लागू करता है।

B. प्रशिक्षण रणनीति: क्रॉस-डोमेन ट्रांसफर लर्निंग (Training Strategy: Cross-Domain Transfer Learning)

डेटा की कमी को दूर करने के लिए, KappaFormer एक दो-चरणीय (dual-stage) ट्रांसफर लर्निंग रणनीति का उपयोग करता है:

चरण I (प्री-ट्रेनिंग): मॉडल को मटेरियल्स प्रोजेक्ट (MP) डेटाबेस (10,000+ प्रविष्टियाँ) से इलास्टिक गुणों ( $B$ और $G$ ) के एक बड़े पैमाने के डेटासेट पर प्री-ट्रेन किया जाता है। यह नेटवर्क को मजबूत हार्मोनिक लैटिस डायनेमिक्स के प्रतिनिधित्व सिखाता है।
चरण II (फाइन-ट्यूनिंग): प्री-ट्रेन्ड मॉडल को प्रयोगात्मक $\kappa_L$ मानों (302 सामग्रियाँ) के सीमित डेटासेट पर फाइन-ट्यून किया जाता है।
- हार्मोनिक शाखा के मापदंडों को सीखा गया इलास्टिक ज्ञान सुरक्षित रखने के लिए फ्रीज (frozen) कर दिया जाता है।
- एनहार्मोनिक शाखा और अंतिम फिजिक्स फॉर्म्यूलेशन लेयर्स को सीमित $\kappa_L$ डेटा से विशिष्ट एनहार्मोनिक स्कैटरिंग तंत्रों को सीखने के लिए ट्रेन करने योग्य (trainable) रखा जाता है।

3. प्रमुख योगदान (Key Contributions)

फिजिक्स-इन्फॉर्म्ड आर्किटेक्चर: ब्लैक-बॉक्स मॉडलों के विपरीत, KappaFormer नेटवर्क के भीतर $\kappa_L$ को हार्मोनिक और एनहार्मोनिक पदों में स्पष्ट रूप से विभाजित करता है, जिससे यह सुनिश्चित होता है कि भविष्यवाणियाँ भौतिक नियमों (Slack model) का पालन करती हैं।
कुशल ट्रांसफर लर्निंग: दो-चरणीय रणनीति प्रचुर इलास्टिक डेटा से दुर्लभ थर्मल कंडक्टिविटी डेटा में सफलतापूर्वक ज्ञान को स्थानांतरित करती है, जिससे कम-डेटा शासन (low-data regimes) में सामान्यीकरण में काफी सुधार होता है।
व्याख्यात्मक ढांचा (Interpretability Framework): मॉडल हार्मोनिसिटी और एनहार्मोनिसिटी के परमाणु-विशिष्ट योगदान प्रदान करता है, जो ML एम्बेडिंग्स को भौतिक मात्राओं जैसे कि फोनन डेंसिटी ऑफ स्टेट्स (PDOS), क्रिस्टल ऑर्बिटल हैमिल्टोनियन पॉपुलेशन (COHP), और फोनन पार्टिसिपेशन रेशियो (PPR) के साथ जोड़ता है।

4. परिणाम (Results)

A. प्रेडिक्टिव परफॉरमेंस (Predictive Performance)

इलास्टिक गुण: बल्क ( $B$ ) और शियर ( $G$ ) मॉड्यूल की भविष्यवाणी करने पर अत्याधुनिक प्रदर्शन प्राप्त किया (टेस्ट सेट $R^2 = 0.97$ $B$ के लिए, $0.93$ $G$ के लिए)।
थर्मल कंडक्टिविटी: प्रयोगात्मक $\kappa_L$ डेटा पर उच्च सटीकता प्राप्त की, जिसमें मीन एब्सोल्यूट एरर (MAE) 0.17 (लॉग स्केल में) और $R^2 = 0.92$ रहा।
एब्लेशन स्टडी (Ablation Study): बिना फिजिक्स फॉर्म्यूलेशन (एंड-टू-एंड) वाले मॉडलों ने $\kappa_L$ का अत्यधिक अनुमान लगाया (MAE 0.24), जो फिजिक्स-गाइडेड दृष्टिकोण की आवश्यकता को सिद्ध करता है।

B. हाई-थ्रूपुट डिस्कवरी (High-Throughput Discovery)

प्रशिक्षित मॉडल ने MP डेटाबेस से लगभग 25,000 सेमीकंडक्टर्स की स्क्रीनिंग की, जिससे अल्ट्रालो $\kappa_L$ ( $\le 2$ W/mK) वाली सामग्रियाँ खोजी गईं। तीन आशाजनक उम्मीदवारों को फर्स्ट-प्रिंसिपल्स (DFT) गणनाओं के माध्यम से चुना गया और सत्यापित किया गया:

CsNb $_2$ Br $_9$
Cs $_2$ AgI $_3$
Cs $_6$ CdSe $_4$

C. भौतिक अंतर्दृष्टि और तंत्र (Physical Insights & Mechanisms)

हार्मोनिसिटी (Harmonicity): यह फ्रेमवर्क आयनों (Br, I, Se) द्वारा संचालित होती है। Cs और फ्रेमवर्क आयनों के बीच कमजोर आयनिक बॉन्डिंग कमजोर फोर्स कांस्टेंट्स और कम फोनन ग्रुप वेलोसिटी की ओर ले जाती है।
एनहार्मोनिसिटी (Anharmonicity): यह विशिष्ट संरचनात्मक रूपांकनों (structural motifs) द्वारा संचालित होती है:
- CsNb $_2$ Br $_9$ : $[Nb_2Br_9]$ बायोक्टाहेड्रल इकाइयों की सामूहिक घूर्णी गति।
- Cs $_2$ AgI $_3$ : $[AgI_3]_\infty$ 1D चेन और "रैटलिंग" (rattling) Cs परमाणुओं की युग्मित गति।
- Cs $_6$ CdSe $_4$ : Cs परमाणुओं की रैटलिंग कंपन और स्थानीयकृत $[CdSe_4]$ टेट्राहेड्रा।
ये स्थानीयकृत कंपन मोड (localized vibrational modes) मजबूत एनहार्मोनिसिटी और कम फोनन लाइफटाइम को प्रेरित करते हैं, जिससे ऊष्मा परिवहन बाधित होता है।

5. महत्व (Significance)

त्वरित खोज (Accelerated Discovery): KappaFormer अल्ट्रालो थर्मल कंडक्टिविटी वाली सामग्रियों की खोज के लिए एक सामान्यीकरण योग्य ढांचा प्रदान करता है, जो थर्मोइलेक्ट्रिक ऊर्जा रूपांतरण और थर्मल मैनेजमेंट के लिए महत्वपूर्ण है।
पैराडाइम शिफ्ट (Paradigm Shift): यह प्रदर्शित करता है कि डीप लर्निंग आर्किटेक्चर में भौतिक सिद्धांतों (तंत्र के अपघटन) को एकीकृत करना विशुद्ध रूप से डेटा-संचालित दृष्टिकोणों की तुलना में बेहतर है, विशेष रूप से तब जब उच्च-गुणवत्ता वाला लक्षित डेटा सीमित हो।
डिज़ाइन सिद्धांत (Design Principles): यह अध्ययन अल्ट्रालो $\kappa_L$ सामग्रियों के लिए एक डिज़ाइन सिद्धांत स्थापित करता है: सॉफ्ट लैटिस फ्रेमवर्क (कम हार्मोनिसिटी) और स्थानीयकृत कंपन इकाइयों (मजबूत एनहार्मोनिसिटी, जैसे रैटलिंग कैटायन या लचीले पॉलीहेड्रा) के बीच सहक्रियात्मक परस्पर क्रिया।

संक्षेप में, KappaFormer ट्रांसफॉर्मर की प्रतिनिधि शक्ति (representational power) को भौतिक मॉडलों की व्याख्यात्मकता के साथ जोड़कर सामग्री सूचना विज्ञान (materials informatics) में एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करता है, जो अगली पीढ़ी की थर्मल सामग्रियों की कुशल खोज को सक्षम बनाता है।