Hawkeye: Reproducing GPU-Level Non-Determinism
यह शोध पत्र Hawkeye को प्रस्तुत करता है, जो एक ऐसा ढांचा (framework) है जो राउंडिंग और एक्यूमुलेशन ऑर्डर जैसे हार्डवेयर-विशिष्ट गैर-नियतत्ववादी (non-deterministic) व्यवहारों का व्यवस्थित रूप से विश्लेषण और प्रतिकृति बनाकर, GPU-त्वरित मैट्रिक्स गुणन ऑपरेशनों को CPU पर सटीक और हानि रहित (lossless) रूप से पुनरुत्पादित करने में सक्षम बनाता है, जिससे मशीन लर्निंग वर्कफ़्लो के कुशल और विश्वसनीय तृतीय-पक्ष ऑडिटिंग की सुविधा मिलती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक सुपर-फास्ट शेफ (एक NVIDIA GPU) को एक विशाल, जटिल भोजन (एक मशीन लर्निंग मॉडल को ट्रेन करना) पकाने के लिए काम पर रखा है। आप उन्हें एक विशिष्ट रेसिपी का पालन करने के लिए भुगतान करते हैं। लेकिन समस्या यह है कि आप रसोई को देख नहीं सकते, और आप उन पर 100% भरोसा नहीं करते। आप जानना चाहते हैं: क्या उन्होंने वास्तव में वही भोजन पकाया जो मैंने ऑर्डर किया था, या क्या उन्होंने समय बचाने के लिए कोई शॉर्टकट अपनाया, सस्ते सामान का उपयोग किया, या रेसिपी बदल दी?
कंप्यूटर की दुनिया में, इसे वेरिफिएबल मशीन लर्निंग (Verifiable Machine Learning) कहा जाता है। आप काम की जांच करने के लिए खाना पकाने की प्रक्रिया को स्वयं फिर से चलाना चाहते हैं।
समस्या: "मशीन के भीतर का भूत" (The Ghost in the Machine)
समस्या यह है कि आधुनिक GPUs इतने तेज़ और विशिष्ट होते हैं कि वे समान सामग्री के साथ भी हर बार चीज़ों को बिल्कुल एक ही तरह से नहीं पकाते हैं। इसे नॉन-डिटरमिनिज्म (non-determinism) कहा जाता है।
इसे इस तरह समझें:
- गणित की समस्या: सामान्य गणित में, वही है जो है। लेकिन कंप्यूटर के गणित में (विशेष रूप से बहुत छोटी या बहुत बड़ी संख्याओं के साथ), संख्याओं को जोड़ने का क्रम अंतिम परिणाम को थोड़ा बदल देता है।
- हार्डवेयर की विचित्रता: NVIDIA के GPUs में विशेष "सुपर-शेफ" होते हैं जिन्हें टेन्सर कोर (Tensor Cores) कहा जाता है। वे अविश्वसनीय रूप से तेज़ हैं, लेकिन उनके अपने गुप्त नियम हैं। वे संख्याओं को अलग तरह से राउंड अप (ऊपर की ओर) या राउंड डाउन (नीचे की ओर) कर सकते हैं, या "भूतिया" संख्याओं (जिन्हें सबनॉर्मल्स कहा जाता है) को अलग तरह से संभाल सकते हैं।
- परिणाम: यदि आप अपने स्वयं के मानक चूल्हे (एक CPU) पर भोजन को फिर से पकाते हैं, तो स्वाद लगभग समान होगा, लेकिन बिट-फॉर-बिट (bit-for-bit) एक जैसा नहीं होगा। अंतर इतना सूक्ष्म है (जैसे नमक का एक चुटकी) कि इंसानों के लिए अदृश्य है, लेकिन एक कंप्यूटर ऑडिटर के लिए, यह एक विफलता की तरह दिखता है। यह इसे साबित करना असंभव बनाता है कि GPU ने काम सही ढंग से किया है, क्योंकि "विफलता" केवल हार्डवेयर के अंतर के कारण हो सकती है, न कि धोखाधड़ी के कारण।
समाधान: "हॉकआई" (Hawkeye) का आगमन
शोधकर्ताओं ने हॉकआई (Hawkeye) नामक एक टूल बनाया है। हॉकआई को एक सुपर-फोरेंसिक किचन सिम्युलेटर के रूप में समझें।
GPU को परफेक्ट बनाने की कोशिश करने के बजाय (जिससे उसकी गति धीमी हो जाती है), हॉकआई कुछ स्मार्ट करता है: यह GPU की गुप्त रेसिपी को रिवर्स-इंजीनियर करता है।
यहाँ बताया गया है कि हॉकआई कैसे काम करता है, एक सरल उपमा का उपयोग करके:
1. जासूसी का काम (परीक्षण)
शोधकर्ताओं ने केवल यह अनुमान नहीं लगाया कि GPU कैसे काम करता है। उन्होंने एक जासूस की तरह विशिष्ट "ट्रैप्स" (जाल) चलाए यह देखने के लिए कि GPU कैसे प्रतिक्रिया देता है।
- "ऑर्डर" टेस्ट: उन्होंने पूछा, "यदि मैं आपको ये संख्याएँ अलग क्रम में दूँ, तो क्या आप इन्हें पिरामिड के आकार में जोड़ेंगे या एक सीधी रेखा में?"
- "राउंडिंग" टेस्ट: उन्होंने पूछा, "यदि कोई संख्या दो विकल्पों के ठीक बीच में है, तो क्या आप इसे ऊपर राउंड करेंगे, नीचे राउंड करेंगे, या अतिरिक्त बिट्स को काट देंगे?"
- "टिनी नंबर" टेस्ट: उन्होंने पूछा, "यदि मैं आपको एक ऐसी संख्या दूँ जो शून्य के बहुत करीब है, तो क्या आप इसे अनदेखा करेंगे या इसे बनाए रखेंगे?"
विभिन्न GPU मॉडलों (जैसे A100, H100, और L40S) पर हजारों ऐसे छोटे प्रयोग चलाकर, उन्होंने GPU द्वारा उपयोग किए जाने वाले सटीक गुप्त नियमों का मानचित्र तैयार किया।
2. सिम्युलेटर (पुनरुत्पादन)
एक बार जब उन्हें गुप्त नियम पता चल गए, तो उन्होंने एक सॉफ्टवेयर सिम्युलेटर बनाया जो एक मानक CPU पर चलता है।
- यह सिम्युलेटर केवल "सामान्य" गणित नहीं करता है। यह GPU की विशिष्ट विचित्रताओं की नकल करता है।
- यदि GPU किसी संख्या को नीचे की ओर राउंड करता है, तो सिम्युलेटर भी उसे नीचे की ओर राउंड करता है।
- यदि GPU एक विशिष्ट पिरामिड क्रम में संख्याओं को जोड़ता है, तो सिम्युलेटर भी बिल्कुल वैसा ही करता है।
3. सटीक मिलान
अब, जब ऑडिटर को GPU के काम की जांच करनी होती है:
- GPU भोजन पकाता है (मैट्रिक्स मल्टीप्लिकेशन चलाता है)।
- ऑडिटर सामग्री और GPU की "गुप्त नियम पुस्तिका" (जिसे हॉकआई ने खोजा है) लेता है।
- ऑडिटर CPU पर हॉकआई सिम्युलेटर चलाता है।
- परिणाम: CPU का आउटपुट GPU के आउटपुट के बिट-फॉर-बिट समान होता है।
यदि संख्याएँ पूरी तरह से मेल खाती हैं, तो ऑडिटर जानता है कि GPU ने काम सही ढंग से किया है। यदि वे मेल नहीं खाते हैं, तो ऑडिटर जानता है कि GPU ने वास्तव में धोखाधड़ी की है या गलती की है, क्योंकि "हार्डवेयर अंतर" का बहाना खत्म हो चुका है।
यह क्यों महत्वपूर्ण है
- विश्वास: अब आप क्लाउड प्रदाताओं पर अपने AI मॉडल चलाने के लिए उन पर आँख मूंदकर भरोसा किए बिना विश्वास कर सकते हैं।
- कोई धीमापन नहीं: GPU को "परफेक्ट" होने के लिए धीमा होने की आवश्यकता नहीं है। यह अपने तेज़, विचित्र टेन्सर कोर का उपयोग जारी रख सकता है। हॉकआई बस ऑडिटर को GPU की भाषा बोलना सिखाता है।
- सुरक्षा: यह बुरे तत्वों को मॉडलों को गुप्त रूप से बदलने (जैसे एक छोटा, सस्ता मॉडल ट्रेन करना और बड़े मॉडल का दिखावा करना) से रोकता है क्योंकि गणित मेल नहीं खाएगा।
निष्कर्ष
हॉकआई एक अनुवादक की तरह है जो एक धीमे, मानक कंप्यूटर (CPU) को एक सुपर-फास्ट, विशिष्ट कंप्यूटर (GPU) की बिल्कुल सटीक बोली बोलने की अनुमति देता है। GPU के विशिष्ट "लहजे" और "स्लैंग" (राउंडिंग नियम, संचय क्रम) को सीखकर, हॉकआई किसी को भी GPU की गणनाओं को पूरी तरह से पुनरुत्पादित करने की अनुमति देता है, यह सुनिश्चित करता है कि AI मॉडल ठीक वैसे ही प्रशिक्षित और संचालित किए जाते हैं जैसा वादा किया गया था।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।