Hybrid Coarse-Grained Transprecision boosted by a Custom GEMM Kernel to accelerate Parametric Linear Systems

आधुनिक इंजीनियरिंग और विज्ञान की दुनिया में, जटिल भौतिक समस्याओं को हल करने के लिए अक्सर 'फाइनाइट एलीमेंट मेथड' (finite element method) नामक एक तकनीक का उपयोग किया जाता है। कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि हवा में एक पुल कैसे डोलता है या एक सेमीकंडक्टर में बिजली कैसे बहती है। वैज्ञानिक इन विशाल, निरंतर वस्तुओं को लाखों छोटे, प्रबंधनीय टुकड़ों में तोड़ देते हैं, जिससे भौतिकी के नियमों को समीकरणों की एक विशाल प्रणाली में बदल दिया जाता है। एक सटीक उत्तर प्राप्त करने के लिए, कंप्यूटरों को अत्यधिक सावधानी के साथ गणना करनी होती है, जो 'डबल प्रिसिजन' (double precision) नामक एक प्रारूप का उपयोग करती है। यह विधि प्रत्येक संख्या के साथ उच्चतम संभव सटीकता के साथ व्यवहार करती है, जिससे यह सुनिश्चित होता है कि छोटी त्रुटियां बड़ी गलतियों में न बदल जाएं। हालांकि, पूर्णता की यह निरंतर खोज एक भारी कीमत के साथ आती है: यह अत्यधिक समय और ऊर्जा की मांग करती है। उन अनुप्रयोगों के लिए जिन्हें तुरंत उत्तरों की आवश्यकता होती है, जैसे कि किसी कारखाने के फर्श का 'डिजिटल ट्विन' या आपदा क्षेत्र में नेविगेट करने वाला एक रोबोट, इन धीमी, अति-सटीक गणनाओं की प्रतीक्षा करना बिल्कुल भी विकल्प नहीं है।

चुनौती एक विशिष्ट प्रकार की गणना में निहित है जो इन सिमुलेशन में बार-बार दिखाई देती है। इसमें डेटा का एक विशाल, स्थिर संग्रह शामिल है जो भौतिक संरचना का प्रतिनिधित्व करता है, जिसे बदलते हुए मापदंडों (parameters) के एक सेट के साथ जोड़ा जाता है जो वर्तमान स्थितियों, जैसे सामग्री की मजबूती या तापमान का वर्णन करते हैं। कंप्यूटर को समाधान खोजने के लिए इन्हें आपस में गुणा करना होता है। चूंकि स्थिर डेटा सेट बहुत विशाल है, इसलिए यह गणना एक बाधा (bottleneck) बन जाती है, जिससे सब कुछ धीमा हो जाता है। शोधकर्ताओं को लंबे समय से संदेह रहा है कि इन कई कार्यों के लिए, डबल-प्रिसिजन गणित की अत्यधिक सटीकता अनावश्यक है। जिस तरह एक मानवीय आंख मंद कमरे में दो थोड़े अलग ग्रे रंगों के बीच अंतर नहीं कर सकती, उसी तरह कई भौतिक सिमुलेशन अंतिम परिणाम बेकार हुए बिना छोटी संख्यात्मक त्रुटियों को सहन कर सकते हैं। प्रश्न यह है कि क्या हम उस अतिरिक्त सटीकता के बदले गति में भारी लाभ सुरक्षित रूप से प्राप्त कर सकते हैं।

क्वीन्स यूनिवर्सिटी बेलफास्ट और यूनिवर्सिटी ऑफ एडिनबर्ग के शोधकर्ताओं की एक टीम ने इस समस्या से निपटने का एक नया तरीका विकसित किया है, जो एक ऐसा समाधान प्रदान करता है जो अधिक स्मार्ट और तेज़ है। उन्होंने एक ऐसी प्रणाली बनाई है जो गणितीय सटीकता के लिए दो-चरणीय फिल्टर की तरह कार्य करती है। पहले, एक 'ऑफलाइन चरण' में, प्रणाली बदलते मापदंडों के एक प्रतिनिधि नमूने का अध्ययन करती है ताकि उस निम्नतम स्तर की सटीकता का निर्धारण किया जा सके जो अंतिम उत्तर को सुरक्षित त्रुटि सीमा के भीतर रखने के लिए पर्याप्त हो। यह विभिन्न प्रारूपों का परीक्षण करती है, जो मानक उच्च-सटीक संख्याओं से लेकर बहुत अधिक संक्षिप्त, कम-सटीक संस्करणों तक विस्तृत हैं। एक बार जब यह आधार रेखा स्थापित हो जाती है, तो प्रणाली 'ऑनलाइन चरण' में चलती है जहाँ यह वास्तविक समय के डेटा को संभालती है। जैसे ही मापदंडों का नया सेट आता है, प्रणाली तेजी से इसकी सीमा की जांच करती है और ग्राफ़िक्स कार्ड पर उपलब्ध सबसे कुशल परिशुद्धता प्रारूप का स्वचालित रूप से चयन करती है। यदि संख्याएं छोटी और स्थिर हैं, तो यह एक बहुत ही संक्षिप्त प्रारूप का उपयोग करती है; यदि वे बड़ी या अधिक अस्थिर हैं, तो यह थोड़े अधिक मजबूत प्रारूप में स्विच कर जाती है। यह गतिशील समायोजन कंप्यूटर को परिणाम की विश्वसनीयता से समझौता किए बिना अपनी पूरी गति से चलने की अनुमति देता है।

इस गति वृद्धि को और भी नाटकीय बनाने के लिए, शोधकर्ताओं ने गणनाओं के लिए एक कस्टम इंजन भी बनाया। सामान्यतः, एक कंप्यूटर इस प्रकार के मैट्रिक्स गुणन को दो अलग-अलग चरणों में करता है: पहले डेटा को मापदंडों द्वारा स्केल करना, और फिर परिणामों को आपस में गुणा करना। इसके लिए डेटा को कंप्यूटर के विभिन्न हिस्सों के बीच इधर-उधर ले जाने की आवश्यकता होती है, जिससे समय बर्बाद होता है। टीम ने इन दो चरणों को एक एकल, कस्टम ऑपरेशन में मिला दिया। डेटा को प्रोसेसर की तेज़ मेमोरी में लोड करते समय ही स्केल करके, उन्होंने डेटा को दो बार स्थानांतरित करने की आवश्यकता को समाप्त कर दिया। इस सुव्यवस्थित दृष्टिकोण ने प्रयास के एक महत्वपूर्ण हिस्से को हटा दिया, जिससे सिस्टम उसी गणना को बहुत अधिक कुशलता से करने में सक्षम हुआ।

इस दृष्टिकोण के परिणामों का परीक्षण तीन अलग-अलग पीढ़ियों की तकनीक वाले शक्तिशाली ग्राफ़िक्स कार्ड का उपयोग करके विभिन्न बड़े पैमाने की समस्याओं पर किया गया। निष्कर्ष चौंकाने वाले थे। 21 मिलियन से अधिक पंक्तियों वाले एक विशाल डेटासेट के लिए, नई विधि पारंपरिक, अति-सटीक विधि की तुलना में सूचना को 117 गुना तेजी से संसाधित करने में सक्षम थी। ऊर्जा के मामले में, सिस्टम ने समान परिणाम प्राप्त करने के लिए 36 गुना कम बिजली की खपत की। महत्वपूर्ण रूप से, गति और दक्षता में इन भारी लाभों के बावजूद, अंतिम उत्तर में औसत त्रुटि अविश्वसनीय रूप से कम रही, जो एक प्रतिशत से काफी नीचे रही। 80.3 गीगाबाइट के डेटासेट वाले एक विशिष्ट परीक्षण मामले में, सिस्टम प्रति सेकंड दो अलग-अलग मापदंडों के सेट का मूल्यांकन कर सकता था, जो पुराने, धीमे तरीकों के साथ असंभव होता।

शोधकर्ताओं ने मेमोरी सीमाओं के मुद्दे को भी संबोधित किया। जब डेटा इतना बड़ा होता है कि वह ग्राफ़िक्स कार्ड पर पूरी तरह से फिट नहीं हो पाता, तो मानक तरीकों को अक्सर मुख्य कंप्यूटर मेमोरी से डेटा लाने के लिए रुकना पड़ता है, जो धीमा होता है। टीम ने पाया कि उनके निम्न-परिशुद्धता प्रारूपों का उपयोग करके, डेटा का आकार इतना छोटा हो जाता है कि वह कार्ड पर पूरी तरह से फिट हो जाए, जिससे इन धीमी रुकावटों से बचा जा सके। उन्होंने डेटा जो फिट नहीं होता था, उसे संभालने के लिए दो रणनीतियों की तुलना की: मुख्य मेमोरी से मूल डेटा को फिर से लोड करना बनाम ऑन-द-फ्लाई (on the fly) डेटा को पुनर्गणना करना। उन्होंने पाया कि बहुत बड़े डेटासेट के लिए, डेटा को फिर से लोड करने की प्रतीक्षा करने के बजाय उसे पुनर्गणना करना काफी तेज़ था, बशर्ते कि सटीकता का प्रबंधन सावधानी से किया जाए ताकि समय के साथ त्रुटियां न बढ़ें।

यह कार्य प्रदर्शित करता है कि वैज्ञानिक कंप्यूटिंग में डबल-प्रिसिजन गणित की कठोर आवश्यकता हमेशा आवश्यक नहीं होती है। गणना की सटीकता को समस्या की विशिष्ट आवश्यकताओं के साथ बुद्धिमानी से जोड़कर, और कंप्यूटर द्वारा डेटा को संभालने के तरीके को सुव्यवस्थित करके, उन समस्याओं पर वास्तविक समय का प्रदर्शन प्राप्त करना संभव है जो पहले चलते समय (on the fly) हल करने के लिए बहुत धीमी थीं। यह अध्ययन पुष्टि करता है कि सही उपकरणों के साथ, वैज्ञानिक और इंजीनियर वास्तविक समय में जटिल सिमुलेशन चला सकते हैं, जो अधिक प्रतिक्रियाशील डिजिटल ट्विन, तेज़ नैदानिक उपकरण और अधिक कुशल इंजीनियरिंग डिजाइनों के द्वार खोलता है, और वह भी पहले की तुलना में बहुत कम ऊर्जा का उपयोग करके।