Geometric Algebra Meets Cartesian Tensors: Higher-Order Equivariance for Interatomic Potentials

तकनीकी सारांश: ज्यामितीय बीजगणित और कार्तीय टेंसर का मिलन: अंतर-परमाणु विभवों के लिए उच्च-क्रम समरूपता (Higher-Order Equivariance)

समस्या विवरण
मशीन लर्निंग इंटरएटोमिक पोटेंशियल (MLIPs) को भौतिक समरूपताओं (physical symmetries) को कूटबद्ध करना चाहिए, विशेष रूप से यह सुनिश्चित करना कि अनुमानित बल घूर्णन (rotations) और अनुवाद (translations) के तहत समरूप (equivariant) हों। जबकि बल की परिमाण (magnitude) को अक्सर सटीक रूप से अनुमानित किया जाता है, बल की दिशा अक्सर विफल हो जाती है, जिससे प्रक्षेपवक्र (trajectories) सही विभव-ऊर्जा बेसिन (potential-energy basin) से भटक जाते हैं। लेखक मौजूदा क्लिफोर्ड (ज्यामितीय) बीजगणित-आधारित आर्किटेक्चर में एक संरचनात्मक सीमा की पहचान करते हैं: $\mathbb{R}^3$ में दो वेक्टर्स का ज्यामितीय गुणन (geometric product), जो बीजगणित $Cl(3,0)$के भीतर है, केवल$L=0$(स्केलर) और$L=1$ (वेक्टर/बाइवेक्टर) अपरिवर्तनीय निरूपणों (irreps) को साकार करता है। सममित-ट्रेस-रहित रैंक-2 घटक ($L=2$), जो क्वाड्रुपोल चार्ज वितरण, d-ऑर्बिटल इंटरैक्शन और अनिसोट्रोपिक स्ट्रेस को पकड़ने के लिए आवश्यक है, प्रति-एज द्विरेखीय ऑपरेशन्स (per-edge bilinear operations) से अनुपस्थित है। फलस्वरूप, मानक क्लिफोर्ड मॉडल $L \ge 2$ सामग्री को अप्रत्यक्ष रूप से पुनर्गठित करने के लिए परतों को स्टैक करने पर निर्भर रहते हैं, जिसके परिणामस्वरूप दिशात्मक निष्ठा (directional fidelity) खराब हो जाती है (rMD17 पर कुल फोर्स-कोसाइन समानता $< 0.25$) जो कि स्फेरिकल-हारमोनिक-आधारित मॉडलों की तुलना में कम है।

कार्यप्रणाली: CliffordSTF
यह शोध पत्र CliffordSTF का प्रस्ताव करता है, जो एक हाइब्रिड आर्किटेक्चर है जो क्लिफोर्ड मल्टीवेक्टर सबस्ट्रेट को क्लोज-फॉर्मेड सिमेट्रिक-ट्रेस-रहित (STF) ट्रैक्स के साथ जोड़ता है। मुख्य नवाचार एक "दोहरी-ट्रैक" (dual-track) डिजाइन है जो क्लेबश-गॉर्डन (CG) टेबल्स, विग्नर-D मैट्रिसेस, या $e3nn$ जैसे बाहरी लाइब्रेरी के उपयोग से बचता है।

1. सैद्धांतिक आधार (प्रमेय 1): लेखक $Cl(3,0)$ ज्यामितीय गुणन और STF ऑपरेशन्स के बीच एक रचनात्मक तुल्यता स्थापित करते हैं। वे प्रदर्शित करते हैं कि टेंसर उत्पाद $1 \otimes 1$ (दो वेक्टर्स) को केवल निम्नलिखित का उपयोग करके $L=0, 1, 2$ घटकों में विघटित किया जा सकता है:

   • ज्यामितीय गुणन का स्केलर भाग ($L=0$)।
   • बाइवेक्टर भाग का हॉज ड्यूल (Hodge dual) ($L=1$)।
   • एक क्लोज-फॉर्मेड सिमेट्रिक-ट्रेस-रहित प्रोजेक्टर ($L=2$)।
     यह निर्माण बिना किसी सीखे गए CG गुणांकों के प्रति-एज द्विरेखीय स्तर पर पूर्ण $SO(3)$ इरैप (irrep) सामग्री को कवर करता है।

2. आर्किटेक्चर:

   • सबस्ट्रेट्स (Substrates): मॉडल प्रति परमाणु दो समानांतर फीचर ट्रैक्स बनाए रखता है: एक क्लिफोर्ड मल्टीवेक्टर (आयाम 8, जो $2 \cdot L=0 \oplus 2 \cdot L=1$ को कवर करता है) और वैकल्पिक रूप से रैंक 2 और 3 पर STF चैनल।
   • मेसेज पासिंग (Message Passing): संदेश क्लिफोर्ड ट्रैक पर ज्यामितीय गुणन के माध्यम से और टेंसर ट्रैक पर क्लोज-फॉर्मेड STF संकुचन (contractions) के माध्यम से उत्पन्न होते हैं।
   • क्रॉस-ट्रैक कपलिंग (Cross-Track Coupling): यह एक महत्वपूर्ण घटक है जो दोनों ट्रैक्स के बीच द्विदिश युग्मन (bidirectional coupling) प्रदान करता है। STF फीचर्स क्लिफोर्ड वेक्टर्स से उत्पन्न होते हैं, और इसके विपरीत, STF फीचर्स क्लिफोर्ड वेक्टर्स के साथ संकुचित होते हैं ($S \cdot v$ के माध्यम से) ताकि वेक्टर चैनल में $L=2$ जानकारी को वापस इंजेक्ट किया जा सके। यह कपलिंग एक एकल द्विरेखीय ऑपरेशन के माध्यम से सीखी जाती है।
   • रीडआउट (Readout): बलों का अनुमान वेक्टर चैनलों (ग्रेड-1) और बाइवेक्टर्स के हॉज ड्यूल (ग्रेड-2) के संयोजन का उपयोग करके लगाया जाता है, जिसे स्पष्ट $L=2 \otimes L=1 \to L=1$ संकुचन ($S \cdot \hat{r}$) द्वारा बढ़ाया जाता है जो उन कोणीय बल घटकों को कैप्चर करता है जो $L \le 1$ आर्किटेक्चर के लिए अगम्य हैं।

प्रमुख योगदान

• निदान (Diagnosis): शोध पत्र $L \ge 2$ सबस्ट्रेट की कमी को आइसोलेट करता है, न कि मॉडल क्षमता या गहराई को, जो कि दिशात्मक विफलता का प्राथमिक कारण है।
• आर्किटेक्चर: एक क्लोज-फॉर्मेड निर्माण जो एकल सीखे गए द्विरेखीय और शास्त्रीय STF ऑपरेशन्स का उपयोग करके $L=3$ तक स्फेरिकल-हारमोनिक सामग्री को कवर करता है, जिसे विग्नर-3j प्रतीकों के विरुद्ध सत्यापित किया गया है।
• अनुभवजन्य सत्यापन (Empirical Validation): एक ग्यारह-वेरिएंट एब्लेशन अध्ययन पुष्टि करता है कि हाइब्रिड स्कैफोल्ड आवश्यक है; न तो क्लिफोर्ड ट्रैक अकेले और न ही STF ट्रैक अकेले (बिना कपलिंग के) संयुक्त प्रणाली के प्रदर्शन के करीब पहुँच पाते हैं।

परिणाम
एक निश्चित पैरामीटर बजट ($\sim 10^6$ पैरामीटर्स) के साथ rMD17, OC20, और OC22 बेंचमार्क पर मूल्यांकन किया गया:

• rMD17 (बल दिशात्मकता): CliffordSTF 0.551 की कुल फोर्स-कोसाइन समानता प्राप्त करता है, जो बेस क्लिफोर्ड मॉडल (0.055) की तुलना में दस गुना सुधार है और सभी अन्य CG-मुक्त या बॉडी-ऑर्डर्ड बेसलाइन्स (सभी $\le 0.17$) से बेहतर प्रदर्शन करता है। यह बिना स्फेरिकल हारमोनिक्स का उपयोग किए पूर्ण स्फेरिकल-हारमोनिक मॉडलों (EquiformerV2 $\approx 0.96$) के प्रदर्शन के करीब पहुँच जाता है।
• परिमाण सटीकता (Magnitude Accuracy): दिशात्मक लाभों के कारण परिमाण सटीकता का नुकसान नहीं होता है। CliffordSTF बेस क्लिफोर्ड मॉडल की तुलना में फोर्स MAE में 15.8% और एनर्जी MAE में 10.9% की कमी लाता है।
• उत्प्रेरण (Catalysis - OC22):
  • IS2RE: $L \ge 2$ विधियों में सर्वश्रेष्ठ इन-डिस्ट्रीब्यूशन ऊर्जा MAE (4.09 eV) प्राप्त करता है और प्रतिस्पर्धी आउट-ऑफ-डिस्ट्रीब्यूशन प्रदर्शन देता है।
  • S2EF: अध्ययन में सर्वश्रेष्ठ आउट-ऑफ-डिस्ट्रीब्यूशन ऊर्जा MAE प्राप्त करता है और $L \ge 2$ विधियों के बीच सर्वश्रेष्ठ इन-डिस्ट्रीब्यूशन ऊर्जा MAE से मेल खाता है।
• दक्षता (Efficiency): इन्फरेंस के समय, CliffordSTF (0.352 s/step) धीमे स्फेरिकल-हारमोनिक बेसलाइन्स के साथ प्रतिस्पर्धी है और ICTP जैसे तेज़ कार्टेशियन टेंसर बेसलाइन्स से तेज़ है। ड्यूल-ट्रैक स्कैफोल्ड के ऑटोग्रेड ग्राफ ओवरहेड के कारण प्रशिक्षण लगभग 2-3 गुना धीमा है (MACE, EquiformerV2 जैसे सबसे तेज़ स्फेरिकल-हारमोनिक बेसलाइन्स की तुलना में), लेकिन अन्य टेंसर-फील्ड विधियों के साथ प्रतिस्पर्धी बना हुआ है।

महत्व और दावे
शोध पत्र का दावा है कि इक्विवेरेंट आर्किटेक्चर में प्रतिनिधित्व का चुनाव विशिष्ट कोणीय सामग्री ($L$-values) द्वारा संचालित होना चाहिए, न कि किसी एकल बीजगणितीय औपचारिकता के प्रति वफादारी द्वारा। यह प्रदर्शित करके कि ज्यामितीय गुणन और क्लोज-फॉर्मेड STF ऑपरेशन्स मिलकर $L=3$ तक स्फेरिकल हारमोनिक्स के समान $SO(3)$-इरैप सामग्री को कवर करते हैं, लेखक दिखाते हैं कि एक हाइब्रिड दृष्टिकोण शुद्ध ज्यामितीय बीजगणित की लुप्त संरचनात्मक अभिव्यक्ति को पुनः प्राप्त कर सकता है।

लेखक विनम्रतापूर्वक नोट करते हैं कि हालांकि CliffordSTF अंतर को काफी हद तक कम कर देता है, फिर भी यह पूर्ण स्फेरिकल-हारमोनिक आर्किटेक्चर (Equiformि-V2) की पूर्ण दिशात्मक निष्ठा से अभी भी मेल नहीं खाता है। वे क्रॉस-ट्रैक कपलिंग को केवल एक सटीकता चालक के बजाय प्रशिक्षण के लिए एक "स्थिरता लीवर" (stability lever) के रूप में पहचानते हैं, और सुझाव देते हैं कि भविष्य के कार्य इसे उच्च $L_{max}$ तक विस्तारित कर सकते हैं, फ्यूज्ड कर्नेल के माध्यम से प्रशिक्षण लागत को अनुकूलित कर सकते हैं, और स्पष्ट पैरिटी ट्रैकिंग के माध्यम से पूर्ण $O(3)$ इक्विवेरेंस प्राप्त कर सकते हैं।