Distilling Normalizing Flows for Real-Time Anomaly Detection at the LHC

लार्ज हैड्रॉन कोलाइडर एक विशाल पैमाने और गति वाली मशीन है, जो हर सेकंड चालीस मिलियन बार प्रोटॉन को आपस में टकराती है। डेटा का यह प्रवाह इतना विशाल है कि इसे संग्रहीत करना असंभव है, इसलिए प्रयोग एक हार्डवेयर फ़िल्टर पर निर्भर करता है जिसे 'ट्रिगर' कहा जाता है, जो एक माइक्रोसेकंड के अंश में यह निर्णय लेता है कि कौन से टकराव इतने दिलचस्प हैं जिन्हें रखना चाहिए और कौन से साधारण बैकग्राउंड शोर को हटा देना चाहिए। दशकों तक, इस फ़िल्टर ने असामान्य चीजों को पहचानने के लिए पूर्व-निर्धारित नियमों पर भरोसा किया है। हालाँकि, ब्रह्मांड अक्सर उन तरीकों से नई भौतिकी (न्यू फिजिक्स) को छिपाता है जो उन नियमों में फिट नहीं बैठते। अप्रत्याशित को खोजने के लिए, वैज्ञानिकों ने 'एनोमली डिटेक्शन' (विसंगति पहचान) की ओर रुख किया है, एक ऐसी विधि जो उन घटनाओं की तलाश करती है जो ज्ञात कणों के मानक पैटर्न के समान नहीं दिखतीं। चुनौती यह है कि इन डिटेक्शन मॉडल्स को अविश्वसनीय रूप से तेज़ और इतना छोटा होना चाहिए कि वे ट्रिगर सिस्टम के भीतर विशेष कंप्यूटर चिप्स पर चल सकें, एक ऐसी आवश्यकता जिसने ऐतिहासिक रूप से वैज्ञानिकों को उच्च सटीकता और वास्तविक समय में चलने की क्षमता के बीच चयन करने के लिए मजबूर किया है।

इस कार्य में, शोधकर्ताओं ने एक शक्तिशाली सांख्यिकीय उपकरण जिसे 'नॉर्मलाइजिंग फ्लो' कहा जाता है, को हार्डवेयर ट्रिगर में लाने की समस्या का समाधान किया। नॉर्मलाइजिंग फ्लो एक प्रकार का कंप्यूटर मॉडल है जो अपने द्वारा देखे गए डेटा के आकार को सीखता है, प्रभावी रूप से किसी भी दी गई घटना के होने की संभावना का मानचित्रण करता है। यदि कोई घटना उस मानचित्र के किसी दुर्लभ, कम संभावित कोने में आती है, तो मॉडल उसे एक विसंगति (एनोमली) के रूप में चिह्नित करता है। जबकि ये मॉडल असामान्य चीजों को पहचानने में उत्कृष्ट हैं, उनका सटीक स्कोर की गणना करना ट्रिगर में उपयोग किए जाने वाले हार्डवेयर चिप्स के लिए बहुत धीमा और जटिल है। इन मॉडल्स को हार्डवेयर के लिए सरल बनाने के पिछले प्रयासों के परिणामस्वरूप अक्सर सटीकता में कमी आई, जिससे वे नई भौतिकी को खोजने में कम प्रभावी हो गए। इस अध्ययन के पीछे की टीम ने एक अलग रास्ता अपनाया: स्वयं जटिल मॉडल को सरल बनाने के बजाय, उन्होंने एक बहुत छोटे, सरल मॉडल को बड़े मॉडल के व्यवहार की नकल करना सिखाया। यह प्रक्रिया, जिसे 'नॉलेज डिस्टिलेशन' (ज्ञान आसवन) कहा जाता है, बड़े मॉडल की बुद्धिमत्ता को उसके भारी कम्प्यूटेशनल भार के बिना छोटे मॉडल में स्थानांतरित करने की अनुमति देती है।

शोधकर्ताओं ने एक विशाल डेटासेट पर एक बड़े, परिष्कृत मॉडल को प्रशिक्षित करने के साथ शुरुआत की, जो प्रोटॉन टकरावों का सिम्युलेटेड डेटा था। यह डेटासेट ब्रह्मांड के मानक व्यवहार का प्रतिनिधित्व करता था, जिसमें इलेक्ट्रॉन, म्यूऑन और जेट्स जैसे विशिष्ट कणों के साथ-साथ अदृश्य कणों का संकेत देने वाली 'मिसिंग एनर्जी' सहित अरबों घटनाएं शामिल थीं। इस डेटा में एक प्रमुख कठिनाई यह है कि प्रत्येक टकराव में कणों की संख्या भिन्न होती है; कुछ घटनाओं में कई जेट होते हैं, जबकि अन्य में कुछ ही होते हैं। टीम ने इस स्थिति को संभालने के लिए एक 'कंडीशनल अप्रोच' का उपयोग किया, जिससे मॉडल को मौजूद कणों की विशिष्ट संख्या के आधार पर घटना की संभावना को समझने की शिक्षा मिली। इसने मॉडल को यह सीखने में मदद की कि एक सामान्य टकराव कैसा दिखता है, भले ही इनपुट डेटा अधूरा या विरल (स्पार्स) हो। परिणाम एक अत्यधिक सटीक "टीचर" मॉडल था जो किसी भी घटना को संभावना स्कोर दे सकता था, लेकिन वह ट्रिगर हार्डवेयर पर चलाने के लिए बहुत बड़ा और धीमा था।

इस बुद्धिमत्ता को उपयोगी बनाने के लिए, टीम ने टीचर के स्कोर की नकल करने के लिए दो अलग-अलग प्रकार के हल्के "स्टूडेंट" मॉडल्स को प्रशिक्षित किया। एक स्टूडेंट 'बूस्टेड डिसीजन ट्री' था, एक ऐसा मॉडल जो सरल हाँ-या-ना वाले प्रश्नों का पालन करके निर्णय लेता है, जबकि दूसरा एक 'डेंस न्यूरल नेटवर्क' था, जो परतों में सूचना को संसाधित करने वाले परस्पर जुड़े नोड्स की एक संरचना है। दोनों स्टूडेंट्स को सीधे कच्चे डिटेक्टर डेटा से टीचर के संभावना स्कोर की भविष्यवाणी करने के लिए प्रशिक्षित किया गया था, जिससे उन्होंने मूल फ्लो की भारी मशीनरी की आवश्यकता के बिना जटिल पैटर्न को दोहराना सीखा। शोधकर्ताओं ने इन स्टूडेंट्स पर उन्नत संपीड़न (कंप्रेशन) तकनीकें लागू कीं, जिससे उनके आंतरिक नंबरों की सटीकता को थोड़ा कम किया गया ताकि उन्हें एक 'फील्ड-प्रोग्रामेबल गेट एरे' (एक प्रकार का पुनर्गठनीय चिप जिसका उपयोग ट्रिगर सिस्टम में किया जाता है) पर फिट किया जा सके, बिना सामान्य और असामान्य घटनाओं के बीच अंतर करने की उनकी क्षमता को खोए।

परिणामों ने दिखाया कि स्टूडेंट्स ने टीचर की नई भौतिकी को खोजने की क्षमता को सफलतापूर्वक आत्मसात कर लिया। चार अलग-अलग काल्पनिक नए कणों के परिदृश्यों के विरुद्ध परीक्षण किए जाने पर, स्टूडेंट मॉडल्स ने बड़े टीचर के लगभग समान प्रदर्शन किया, जिससे एक विभेदन शक्ति (डिस्क्रिमिनेशन पावर) प्राप्त हुई जो मूल से एक प्रतिशत के भीतर थी। महत्वपूर्ण रूप से, उन्होंने उन पिछले तरीकों को भी पछाड़ दिया जिन्होंने हार्डवेयर के लिए नॉर्मलाइजिंग फ्लो को अनुकूलित करने का प्रयास किया था। संपीड़ित मॉडल्स ने केवल पांच से पच्चीस नैनोसेकंड में निर्णय लेने में सफलता प्राप्त की, जो एक ऐसी गति है जो ट्रिगर सिस्टम के सख्त समय सीमाओं के भीतर चलने के लिए पर्याप्त तेज़ है। इसके अलावा, चिप पर इन मॉडल्स द्वारा आवश्यक संसाधन न्यूनतम थे, जो उपलब्ध क्षमता के एक प्रतिशत से भी कम का उपयोग करते हैं। इसका अर्थ है कि यह सिस्टम हार्डवेयर को ओवरलोड किए बिना अन्य आवश्यक कार्यों के साथ इन परिष्कृत डिटेक्टरों को चला सकता है।

यह सिद्ध करके कि एक जटिल, उच्च-परिशुद्धता वाले मॉडल को एक छोटे, तेज़ सरोगेट में बदला जा सकता है, शोधकर्ताओं ने लार्ज हैड्रॉन कोलाइडर के केंद्र में उन्नत विसंगति पहचान (एनोमली डिटेक्शन) को तैनात करने का एक व्यावहारिक मार्ग प्रदर्शित किया है। यह कार्य सुझाव देता है कि हार्डवेयर ट्रिगर अब उस स्तर की संवेदनशीलता के साथ अप्रत्याशित की खोज कर सकता है जो ऐसी सख्त बाधाओं के तहत पहले असंभव माना जाता था। यह दृष्टिकोण न केवल पहचान की गति में सुधार करता है; यह अरबों टकरावों के शोर के भीतर छिपी नई भौतिकी के धुंधले संकेतों को पकड़ने के लिए आवश्यक सटीकता को भी सुरक्षित रखता है। यह अध्ययन पुष्टि करता है कि सही प्रशिक्षण रणनीति के साथ, हार्डवेयर की सीमाओं को दरकिनार किया जा सकता है, जिससे सबसे शक्तिशाली सांख्यिकीय उपकरणों को वास्तविक समय में संचालित होने की अनुमति मिलती है जहाँ उनकी सबसे अधिक आवश्यकता होती है।