Double Metric Learning for Building Directed Graphs with Chain Connections for the ATLAS ITk Detector

तकनीकी सारांश: ATLAS ITk डिटेक्टर के लिए चेन कनेक्शन के साथ निर्देशित ग्राफ बनाने के लिए डबल मेट्रिक लर्निंग

समस्या विवरण
ग्राफ न्यूरल नेटवर्क (GNNs) हाई-एनर्जी फिजिक्स में पार्टिकल ट्रैक रिकंस्ट्रक्शन के लिए एक मानक बन गए हैं, फिर भी उनकी प्रभावकारिता प्रारंभिक ग्राफ निर्माण चरण पर अत्यधिक निर्भर करती है। इस चरण को दो प्रतिस्पर्धी उद्देश्यों के बीच संतुलन बनाना चाहिए: ग्राफ के आकार को न्यूनतम करना ताकि कम्प्यूटेशनल व्यवहार्यता सुनिश्चित हो सके (क्योंकि GNN इन्फरेंस लागत एज काउंट के साथ स्केल होती है) और "सत्य" एडजेस (true edges) की रिकवरी को अधिकतम करना ताकि मजबूत डाउनस्ट्रीम सेगमेंटेशन सुनिश्चित हो सके।

चेन कनेक्शन (chain connection) की परिभाषा के तहत सत्य एडजेस को लागू करने में एक विशिष्ट चुनौती आती है। चेन कनेक्शन में, केवल एक कण के प्रक्षेपवक्र (trajectory) के साथ क्रमिक हिट्स को ही सत्य जोड़े (true pairs) माना जाता है, जिसमें गैर-क्रमिक हिट्स के बीच के "हॉपिंग" कनेक्शन को बाहर रखा जाता है। मानक मेट्रिक लर्निंग एक लेटेंट एम्बेडिंग स्पेस में एक सममित दूरी मेट्रिक (symmetric distance metric) का उपयोग करती है, जिसे कंट्रास्टिव लॉस के माध्यम से प्रशिक्षित किया जाता है ताकि सत्य जोड़ों को करीब लाया जा सके और गलत जोड़ों को दूर धकेला जा सके। हालांकि, चेन परिभाषा के तहत, यह एक तार्किक संघर्ष पैदा करता है: यदि हिट $A$ और $B$ सत्य जोड़े हैं, और $B$ और $C$ सत्य जोड़े हैं, तो सममित मेट्रिक $A$ और $C$ को भी करीब होने के लिए मजबूर करता है (ट्रांजिटिविटी/transitivity)। फिर भी, चेन परिभाषा में $A$ और $C$ एक सत्य जोड़ा नहीं हैं और उन्हें दूर धकेला जाना चाहिए। यह विरोधाभास प्रशिक्षण उद्देश्य को भ्रमित करता है, जिससे ग्राफ की शुद्धता और दक्षता कम हो सकती है, विशेष रूप से उच्च ट्रांसवर्स मोमेंटम ($p_T$) वाले कणों के लिए जहाँ ट्रैक कर्वेचर और हिट डेंसिटी रिकंस्ट्रक्शन को जटिल बना देते हैं।

कार्यप्रणाली (Methodology)
इस संघर्ष को हल करने के लिए, लेखक डबल मेट्रिक लर्निंग (Double Metric Learning) का प्रस्ताव करते हैं, जो मानक दृष्टिकोण (जिसे "सिंपल मेट्रिक लर्निंग" कहा जाता है) का एक विकास है।

• दोहरी प्रतिनिधित्व (Dual Representations): सिंपल मेट्रिक लर्निंग के विपरीत, जो प्रत्येक हिट को एक एकल लेटेंट वेक्टर में मैप करता है, डबल मेटरिक लर्निंग प्रत्येक हिट को दो अलग-अलग प्रस्तुतियों में मैप करता है: एक सोर्स रिप्रेजेंटेशन ($\vec{S}$) और एक टारगेट रिप्रेजेंटेशन ($\vec{T}$)।
• असममित दूरी मेट्रिक (Asymmetric Distance Metric): मॉडल एक निर्देशित संबंध सीखता है। एक हिट तब 'सोर्स' के रूप में कार्य करता है जब वह कनेक्शन का मूल होता है और जब वह 'टारगेट' के रूप में कार्य करता है तो वह गंतव्य होता है। दूरी मेट्रिक को $|\vec{S}_i - \vec{T}_j|$ के रूप में परिभाषित किया गया है, जो सामान्यतः असममित है ($|\vec{S}_i - \vec{T}_j| \neq |\vec{S}_j - \vec{T}_i|$)।
• लॉस फंक्शन (Loss Function): प्रशिक्षण निर्देशित जोड़ों ($h_i \to h_j$) पर एक कंट्रास्टिव हिंज लॉस (contrastive hinge loss) का उपयोग करता है। सत्य जोड़ों के लिए (जहाँ $h_j$, $h_i$ का तत्काल उत्तराधिकारी है), लॉस $|\vec{S}_i - \vec{T}_j|$ को कम करता है। गैर-क्रमिक जोड़ों के लिए, यह इस दूरी को अधिकतम करता है।
• संघर्ष का समाधान: प्रस्तुतियों को अलग करके (decoupling), मॉडल $\vec{S}_A$ और $\vec{T}_B$ के बीच की दूरी को कम कर सकता है, और $\vec{S}_B$ और $\vec{T}_C$ के बीच की दूरी को भी कम कर सकता है, बिना $\vec{S}_A$ और $\vec{T}_C$ को ट्रांजिटिव रूप से करीब धकेले। यह उस गणितीय विरोधाभास को समाप्त करता है जो चेन कनेक्शन लागू करने पर सममित दृष्टिकोण में निहित होता है।
• ग्राफ निर्माण: एज $i$ से $j$ तक तब बनाए जाते हैं यदि दूरी $|\vec{S}_i - \vec{T}_j|$ एक निश्चित त्रिज्या (Fixed Radius Nearest Neighbor सर्च द्वारा निर्धारित) के भीतर आती है। यह स्वाभाविक रूप से एक निर्देशित ग्राफ (directed graph) प्रदान करता है जो कण ट्रैक्स की भौतिक दिशात्मकता के अनुरूप होता है।

प्रायोगिक सेटअप (Experimental Setup)
इन विधियों का मूल्यांकन HL-LHC के लिए $t\bar{t}$ घटनाओं के ATLAS ITk सिमुलेशन डेटा का उपयोग करके किया गया, जिसमें औसत पाइलअप $\langle\mu\rangle = 200$ है।

• मॉडल: नियंत्रित तुलना सुनिश्चित करने के लिए दोनों सिंपल और डबल मेट्रिक लर्निंग मॉडल्स ने लगभग समान आर्किटेक्चर (4 हिडन लेयर्स, 1024 न्यूरॉन्स, tanh एक्टिवेशन) का उपयोग किया। मुख्य अंतर इसकी आउटपुट डाइमेंशनलिटी थी: सिंपल ML ने एक 12D वेक्टर आउटपुट दिया, जबकि डबल ML ने दो 12D वेक्टर्स (सोर्स और टारगेट) आउटपुट दिए। दोनों मॉडल्स के पास लगभग 3.2 मिलियन ट्रेन करने योग्य पैरामीटर्स थे।
• मूल्यांकन: ग्राफ निर्माण के लिए फिक्स्ड रेडियस नियरएस्ट नेबर (FRNN) एल्गोरिदम का उपयोग किया गया। प्रदर्शन को ग्राफ निर्माण दक्षता ($\epsilon$) द्वारा मापा गया, जिसे कुल ग्राउंड-ट्रुथ एडजेस के अनुपात में पुनर्निर्मित सत्य एडजेस के रूप में परिभाषित किया गया है, और मीन ग्राफ साइज (एजेस की संख्या) के रूप में मापा गया।

मुख्य परिणाम

• दक्षता और ग्राफ का आकार: तुलनीय स्तर की कुल निर्माण दक्षता ($\epsilon \approx 0.997$) पर, डबल मेट्रिक लर्निंग ने सिंपल मेट्रिक लर्निंग ($6.97 \times 10^6$ एडजेस) की तुलना में एक छोटा मीन साइज ($6.59 \times 10^6$ एडजेस) वाला अनडायरेक्टेड ग्राफ बनाया।
• उच्च-$p_T$ प्रदर्शन: डबल मेट्रिक लर्निंग ने सिंपल मेट्रिक लर्निंग दृष्टिकोण की तुलना में उच्च ट्रांसवर्स मोमेंटम ($p_T$) वाले कणों के लिए काफी उच्च ग्राफ निर्माण दक्षता प्रदर्शित की।
• एज प्योरिटी (Edge Purity): "हॉपिंग एडजेस" (गैर-क्रमिक हिट्स के बीच कनेक्शन) का अनुपात पुनर्निर्मित सत्य एडजेस के मुकाबले डबल मेट्रिक लर्निंग के लिए कम था। असममित मेट्रिक ने उन गैर-भौतिक कनेक्शनों को सफलतापूर्वक दंडित किया जो ट्रैक लेयर्स को छोड़ देते हैं।
• दिशात्मकता (Directionality): डबल मेट्रिक लर्निंग द्वारा निर्मित निर्देशित ग्राफ भौतिक ट्रैक दिशात्मकता के साथ उच्च संरेखण दिखाते हैं। निर्देशित संस्करण में एडजेस की संख्या अनडायरेक्टेड संस्करण के समान थी, जो इंगित करता है कि मॉडल शायद ही कभी रेडंडेंट रिवर्स एडजेस उत्पन्न करता है।

महत्व और दावे
पेपर का दावा है कि डबल मेट्रिक लर्निंग चेन-कनेक्टेड ग्राफ्स पर मानक मेट्रिक लर्निंग लागू करने से उत्पन्न होने वाले प्रशिक्षण संघर्षों को सफलतापूर्वक हल करता है। दोहरी लेटेंट प्रस्तुतियों को सीखकर, यह विधि निर्देशित ग्राफ के निर्माण को सक्षम बनाती है जो स्वाभाविक रूप से कण ट्रैक्स की भौतिक दिशात्मकता का सम्मान करती है।

लेखक इस दृष्टिकोण के दो प्राथमिक लाभों का दावा करते हैं:

1. बेहतर प्रदर्शन: यह ग्राफ निर्माण दक्षता को बढ़ाता है, विशेष रूप से उच्च-$p_T$ कणों के लिए, और गैर-भौतिक हॉपिंग एडजेस के समावेश को कम करता है।
2. कम्प्यूटेशनल दक्षता: रेडंडेंट एडजेस की संख्या को कम करके और उच्च शुद्धता बनाए रखते हुए छोटे ग्राफ साइज को सक्षम करके, यह दृष्टिकोण मैसेज-पासिंग ऑपरेशन्स के कम्प्यूटेशनल ओवरहेड को कम करता है। इसे हाई-ल्युमिनोसिटी वातावरण में काम करने वाले ग्राफ न्यूरल नेटवर्क के लिए एक महत्वपूर्ण सुधार के रूप में प्रस्तुत किया गया है।

पेपर नोट करता है कि हालांकि वर्तमान कार्यान्वयन निर्देशित ग्राफ बनाता है, भविष्य के कार्य के लिए द्विदिश (bidirectional) एडजेस या क्लोज्ड लूप्स को संभालने के लिए मध्यस्थता तर्क (arbitration logic) विकसित करने की आवश्यकता है, क्योंकि कुछ डाउनस्ट्रीम एल्गोरिदम (जैसे वॉकथ्रू) को सख्त रूप से निर्देशित अचक्रीय ग्राफ (directed acyclic graphs) की आवश्यकता होती है। लेखक यह भी सुझाव देते हैं कि यह विधि ग्राफ साइज को कम करने के लिए क्लस्टर-आधारित से चेन-आधारित कनेक्टिविटी में संक्रमण करके ऑब्जेक्ट-कंडेंसेशन फ्रेमवर्क को लाभान्वित कर सकती है।