A converged architecture for processing 32 Tbps of physics data in real-time at the LHCb experiment

कल्पना कीजिए कि एक विशाल, हाई-स्पीड कैमरा है जो सूर्यास्त या पिल्लों की तस्वीरें नहीं लेता, बल्कि ब्रह्मांड के सबसे सूक्ष्म निर्माण खंडों (building blocks) के आपस में टकराने की तस्वीरें लेता है। यह कण भौतिकी (particle physics) की दुनिया है, जहाँ वैज्ञानिक कोलाइडर्स नामक विशाल मशीनों का उपयोग करके कणों को एक-दूसरे से हर सेकंड अरबों बार टकराते हैं। जब ये कण आपस में टकराते हैं, तो वे नए कणों का एक अराजक विस्फोट पैदा करते हैं, जैसे किसी फूलदान को तोड़कर यह देखना कि उसके अंदर क्या है। लक्ष्य उस मलबे में छिपी किसी दुर्लभ और नई चीज़ की एक झलक पाना है। लेकिन यहाँ एक पेच है: कैमरा इतना तेज़ है और टकराव इतने बार-बार होते हैं कि यह डेटा का एक पहाड़ पैदा करता है—इतना अधिक कि यह हर सेकंड लाखों हार्ड ड्राइव को भर देगा। यदि वैज्ञानिक डेटा का हर एक हिस्सा बचाने की कोशिश करेंगे, तो उनके कंप्यूटर पिघल जाएंगे और उनका स्टोरेज तुरंत खत्म हो जाएगा।

इस समस्या को हल करने के लिए, भौतिक विज्ञानी एक "फ़िल्टर" या "ट्रिगर" का उपयोग करते हैं। इसे एक बहुत ही विशिष्ट क्लब के बाउंसर की तरह समझें। बाउंसर को एक सेकंड के भीतर यह निर्णय लेना होता है कि कौन सी टक्कर इतनी दिलचस्प है कि उसे रखा जाए और कौन सी केवल उबाऊ बैकग्राउंड शोर है जिसे फेंक दिया जाना चाहिए। दशकों तक, ये बाउंसर विशेष हार्डवेयर और कंप्यूटर सॉफ़्टवेयर का मिश्रण थे। लेकिन जैसे-जैसे मशीनें तेज़ होती गईं, पुराने बाउंसर तालमेल नहीं बिठा सके। वे बहुत धीमे और बहुत कठोर थे, और अक्सर दिलचस्प घटनाओं को केवल इसलिए फेंक देते थे क्योंकि वे वैसे नहीं दिखती थीं जैसा हार्डवेयर उनसे उम्मीद करता था। बड़ा सवाल यह था: हम एक ऐसा फ़िल्टर कैसे बनाएं जो डेटा के सैलाब को संभालने के लिए पर्याप्त तेज़ हो, पूरी तस्वीर देखने के लिए पर्याप्त स्मार्ट हो, और मौके पर अपना विचार बदलने के लिए पर्याप्त लचीला हो?

यह शोध पत्र बताता है कि कैसे LHC (लार्ज हैड्रॉन कोलाइडर) के LHCb प्रयोग ने एक बड़े अपग्रेड के साथ इस समस्या को हल किया। टीम ने एक नया सिस्टम बनाया है जो एक अत्यंत कुशल, 'ऑल-इन-वन' फैक्ट्री की तरह काम करता है। अलग-अलग टीमों द्वारा काम के विभिन्न हिस्सों को संभालने वाली एक धीमी, बहु-चरणीय प्रक्रिया के बजाय, उन्होंने एक "कन्वर्ज्ड आर्किटेक्चर" (एकत्रित संरचना) बनाई है। इसका अर्थ यह है कि उन्होंने डेटा संग्रह, छंटनी और फ़िल्टरिंग को एक सुव्यवस्थित प्रक्रिया में मिला दिया है जो शक्तिशाली ग्राफिक्स कार्डों (GPUs) पर चलती है, जो आमतौर पर गेमिंग कंप्यूटरों में पाए जाते हैं। वे वास्तविक समय (real-time) में 32 टेराबिट प्रति सेकंड का चौंका देने वाला डेटा प्रोसेस करने में सफल रहे। यह वह उच्चतम डेटा दर है जिसे किसी भी भौतिकी प्रयोग में सॉफ़्टवेयर द्वारा अब तक संभाला गया है। पुराने, कठोर हार्डवेयर फ़िल्टरों को हटाकर और उन्हें एक स्मार्ट, लचीले सॉफ़्टवेयर सिस्टम से बदलकर, उन्होंने न केवल गति के साथ तालमेल बिठाया; बल्कि उन्होंने विज्ञान की गुणवत्ता में भी सुधार किया, यह सुनिश्चित करते हुए कि कोई भी दुर्लभ, रोमांचक घटना छूट न जाए।

समस्या: डेटा का सैलाब

लार्ज हैड्रॉन कोलाइडर (LHC) एक सेकंड में अरबों बार कणों को आपस में टकराता है। हर बार जब वे टकराते हैं, तो उसे एक "इवेंट" (घटना) कहा जाता है। अतीत में, LHCb प्रयोग एक दो-चरणीय फ़िल्टर सिस्टम का उपयोग करता था। पहले, विशेष रूप से निर्मित इलेक्ट्रॉनिक्स से बना एक "लो-लेवल ट्रिगर" तेज़ी से डेटा को स्कैन करता था और अधिकांश उबाऊ टकरावों को हटा देता था। केवल उन्हीं को, जो आशाजनक दिखते थे, गहराई से देखने के लिए "हाई-लेवल ट्रिगर" (सॉफ्टवेयर) को भेजा जाता था।

हालाँकि, इस पुराने सिस्टम में एक खामी थी। क्योंकि हार्डवेयर फ़िल्टर केवल कुछ विशिष्ट सेंसरों को देखता था, इसलिए वह कभी-कभी उन दिलचस्प घटनाओं को मिस कर देता था जो डिटेक्टर के अन्य हिस्सों में होती थीं। इसके अलावा, हार्डवेयर बनने के बाद नियमों को बदलना कठिन था। LHCb टीम ने पहले हार्डवेयर-आधारित फ़िल्टर को पूरी तरह से हटाने का निर्णय लिया। इसका मतलब था कि उनके सिस्टम को पहले की तुलना में 40 गुना अधिक डेटा को संभालना था। उन्हें 32 टेराबिट प्रति सेकंड (Tbps) की रॉ डेटा स्ट्रीम को प्रोसेस करना था और उसे वास्तविक समय में सबसे दिलचस्प घटनाओं तक फ़िल्टर करना था। यदि वे विफल होते, तो डेटा हमेशा के लिए खो जाता।

समाधान: एक कन्वर्ज्ड फैक्ट्री

टीम ने 164 सर्वर (कंप्यूटरों) का उपयोग करके एक नया सिस्टम बनाया जो एक एकल, विशाल मशीन के रूप में कार्य करता है। यहाँ बताया गया है कि उन्होंने इसे कैसे काम करने के योग्य बनाया:

1. "जीरो-कॉपी" हाईवे
आमतौर पर, जब डेटा एक नेटवर्क कार्ड से कंप्यूटर की मेमोरी में और फिर एक प्रोसेसर तक जाता है, तो उसे कई बार कॉपी करना पड़ता है। यह एक बॉक्स को ट्रक से गोदाम में, फिर शेल्फ पर, और फिर डिस्प्ले केस में ले जाने जैसा है। इसमें समय और ऊर्जा लगती है। LHCb टीम ने एक "जीरो-कॉपी" तकनीक का उपयोग किया। कल्पना कीजिए कि एक कन्वेयर बेल्ट है जो सीधे ट्रक से चलते हुए गोदाम के माध्यम से सीधे डिस्प्ले केस में जाती है, बिना कभी हाथ से उठाए गए। इसने उन्हें डेटा को अविश्वसनीय रूप से तेज़ी से स्थानांतरित करने की अनुमति दी जिससे कंप्यूटर धीमा न हो।

2. GPU पावरहाउस
भारी काम के लिए मानक कंप्यूटर प्रोसेसर (CPUs) का उपयोग करने के बजाय, उन्होंने ग्राफिक्स प्रोसेसिंग यूनिट्स (GPUs) का उपयोग किया। ये वे चिप्स हैं जो आमतौर पर वीडियो गेम कंप्यूटरों में पाए जाते हैं, जिन्हें एक साथ हजारों कार्यों को संभालने के लिए डिज़ाइन किया गया है। टीम ने महसूस किया कि कणों के पथ का पुनर्निर्माण (reconstructing) करना एक जटिल 3D वीडियो गेम सीन को रेंडर करने जैसा है। पूरी फ़िल्टरिंग प्रक्रिया को GPUs पर रखकर, वे एक साथ हजारों टकरावों को प्रोसेस कर सकते थे।

3. स्मार्ट शेड्यूलिंग
एक चुनौती यह थी कि सभी टकराव एक ही आकार या जटिलता के नहीं होते। कुछ का विश्लेषण जल्दी हो जाता है; कुछ में अधिक समय लगता है। यदि सिस्टम उन्हें एक-एक करके प्रोसेस करने की कोशिश करता, तो वह रुक जाता। टीम ने एक चतुर "शेड्यूलर" विकसित किया जो इवेंट्स को बैचों (समूहों) में इकट्ठा करता है। यह एक शेफ द्वारा भोजन तैयार करने जैसा है: एक बार में एक व्यंजन बनाने के बजाय, वे पहले सारी सब्जियां काटते हैं, फिर सारा मांस काटते हैं, और फिर सब कुछ एक साथ पकाते हैं। यह GPUs को व्यस्त और कुशल रखता है। उन्होंने एक "मल्टी-इवेंट शेड्यूलर" का भी उपयोग किया जो पूरे बैच को देखता है और चरणों को चलाने का सबसे अच्छा क्रम तय करता है, यह सुनिश्चित करता है कि महंगी गणनाएं केवल उन्हीं इवेंट्स पर की जाएं जिन्हें वास्तव में उनकी आवश्यकता है।

4. नेटवर्क
सभी 164 सर्वरों को जोड़ने के लिए, उन्होंने इन्फिनीबैंड (InfiniBand) का उपयोग करके एक कस्टम नेटवर्क बनाया, जो एक ऐसी तकनीक है जिसका उपयोग अक्सर सुपर कंप्यूटरों में किया जाता है। उन्होंने नेटवर्क को इस तरह से डिज़ाइन किया कि प्रत्येक सर्वर दूसरे सर्वर से कुशलतापूर्वक बात कर सके, जिससे ट्रैफिक जाम (जिसे "इनकास्ट" की समस्या कहा जाता है) से बचा जा सके। इसने उन्हें डिटेक्टर के विभिन्न हिस्सों से प्रत्येक टकराव के टुकड़ों को जोड़ने और उन्हें फ़िल्टरिंग के लिए GPUs तक बिना किसी बाधा के भेजने की अनुमति दी।

परिणाम: रिकॉर्ड तोड़ना

टीम ने अपने सिस्टम का परीक्षण किया और पाया कि यह बिल्कुल योजना के अनुसार काम करता है।

• गति: वे वास्तविक समय में आने वाले पूरे 32 Tbps डेटा को सफलतापूर्वक प्रोसेस करने में सफल रहे।
• फ़िल्टरिंग: सिस्टम ने एक ऐसा फ़िल्टर लगाया जिसने डेटा को 30:1 के कारक से कम कर दिया। इसका मतलब है कि हर 30 टकरावों में से केवल 1 को आगे के अध्ययन के लिए रखा गया।
• स्केलेबिलिटी (स्केलेबिलिटी): जब उन्होंने अधिक सर्वरों के साथ सिस्टम का परीक्षण किया, तो यह पूरी तरह से स्केल हुआ। सिस्टम LHC की पूर्ण डिज़ाइन दर को संभालने में सक्षम था, जो कि प्रति सेकंड 30 मिलियन टकराव है।
• दक्षता: सिस्टम ने 164 सर्वर का उपयोग किया जो 328 GPUs (प्रति सर्वर दो) से लैस थे। कुल कंप्यूटिंग शक्ति विशाल थी, लेकिन डिज़ाइन इतना कुशल था कि उन्हें अतीत की तरह हजारों मशीनों की आवश्यकता नहीं पड़ी।

यह शोध पत्र पुष्टि करता है कि यह सिस्टम भौतिकी के क्षेत्र में अब तक हासिल की गई उच्चतम सॉफ्टवेयर डेटा दर को प्रोसेस करने में सक्षम है। इसने साबित कर दिया है कि आप पुराने, कठोर हार्डवेयर फ़िल्टरों को हटा सकते हैं और उन्हें एक लचीले, सॉफ़्टवेयर-आधारित सिस्टम से बदल सकते हैं जो तेज़ भी है और स्मार्ट भी।

यह क्यों महत्वपूर्ण है

यह केवल अधिक डेटा संभालने के बारे में नहीं है; यह ब्रह्मांड को अधिक देखने के बारे में है। हार्डवेयर फ़िल्टर को हटाकर, LHCb प्रयोग अब दिलचस्प घटनाओं के लिए पूरे डिटेक्टर को देख सकता है, न कि केवल उन हिस्सों को जिन्हें पुराना हार्डवेयर देखने के लिए प्रोग्राम किया गया था। इसका अर्थ है कि वे दुर्लभ कणों या नई भौतिकी को खोज सकते हैं जो पहले अदृश्य थे। इस "कन्वर्ज्ड आर्किटेक्चर" की सफलता भविष्य के कण भौतिकी प्रयोगों के निर्माण के लिए एक नया मानक स्थापित करती है, जो यह दिखाती है कि सही मिश्रण के साथ—ऑफ-द-शेल्फ तकनीक और चतुर सॉफ़्टवेयर—हम विज्ञान की सीमाओं को आगे बढ़ा सकते हैं।