Bit-Exact AI Inference Verification Without Performance Tradeoffs
यह शोध पत्र यह प्रदर्शित करता है कि नियत (deterministic) आउटपुट को पुन: गणना करने के लिए केवल सॉफ्टवेयर-आधारित इम्यूलेशन का लाभ उठाकर, बिना किसी प्रदर्शन संबंधी समझौते के बिट-सटीक (bit-exact) AI इन्फरेंस सत्यापन प्राप्त किया जा सकता है, जिससे संचित राउंडिंग त्रुटियों को ऑडिट योग्य हस्ताक्षरों में परिवर्तित किया जा सके जो गुप्त विरोधियों को GPU गैर-नियतता (non-determinism) का लाभ उठाने से रोकते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह सत्यापित करने की कोशिश कर रहे हैं कि एक जादूगर ने बिल्कुल वैसा ही करतब दिखाया है जैसा उसने दावा किया था, बिना किसी धोखाधड़ी के। समस्या यह है कि जादूगर एक बहुत ही तेज़, जटिल मशीन (GPU) का उपयोग कर रहा है जो कभी-कभी बहुत मामूली, अदृश्य राउंडिंग एरर (rounding errors) करती है। क्योंकि इन मामूली त्रुटियों के कारण, हर बार जादू का परिणाम थोड़ा अलग दिखता है, भले ही जादूगर ने वही चीज़ बिल्कुल समान रूप से की हो। यह जादूगर को एक तरीका देता है जिससे वह कह सके, "अरे, परिणाम अलग है क्योंकि मशीन शोर (noise) पैदा कर रही है, न कि इसलिए कि मैंने करतब बदल दिया है!" इसे "तर्कसंगत खंडन" (plausible deniability) कहा जाता है।
यह शोध पत्र तर्क देता है कि हम अपनी मशीन की गति धीमी किए बिना वास्तव में इन जादूगरों को पकड़ सकते हैं। यहाँ सरल उपमाओं का उपयोग करके इसका विवरण दिया गया है:
1. समस्या: "शोर वाला" कैलकुलेटर
आधुनिक AI कंप्यूटर सुपर-फास्ट कैलकुलेटर की तरह हैं जो एक साथ लाखों गणितीय समस्याओं को हल करते हैं। जब वे संख्याओं को जोड़ते हैं, तो वे हमेशा उन्हें एक ही क्रम में नहीं जोड़ते।
- उपमा: कल्पना कीजिए कि आप और एक मित्र सिक्कों के ढेर को जोड़ रहे हैं। यदि आप पहले बड़े सिक्के जोड़ते हैं, तो आपको छोटे सिक्कों को जोड़ने के बाद प्राप्त होने वाले कुल योग से थोड़ा अलग परिणाम मिल सकता है, क्योंकि गणित संख्याओं को कैसे "राउंड" (round) करता है इस पर यह निर्भर करता है।
- मुद्दा: क्योंकि कंप्यूटर स्थिति के आधार पर संख्याओं को जोड़ने का क्रम बदल देता है, अंतिम उत्तर में थोड़ा "शोर" (noise) होता है। धोखेबाज (गुप्त विरोधी) इस शोर का उपयोग गुप्त संदेश भेजने (स्टेगनोग्राफी) या अतिरिक्त, अप्रमाणित गणनाओं को छिपाने के लिए कर सकते हैं।
2. खोज: यह रैंडम नहीं है, यह बस अलग है
शोधकर्ताओं ने पाया कि कंप्यूटर वास्तव में रैंडम (यादृच्छिक) नहीं हो रहा है। यह डिटरमिनिस्टिक (पूर्वानुमेय) है, लेकिन नॉन-इनवेरिएंट (परिणाम सेटअप बदलने पर बदल जाता है) है।
- उपमा: एक रेसिपी (विधि) के बारे में सोचें। यदि आप लकड़ी के चम्मच का उपयोग करते हैं, तो सूप का स्वाद एक जैसा होगा। यदि आप धातु के चम्मच का उपयोग करते हैं, तो स्वाद थोड़ा अलग होगा। लेकिन यदि आप ठीक उसी लकड़ी के चम्मच, ठीक उन्हीं सामग्रियों और ठीक उसी चलाने के क्रम का उपयोग करते हैं, तो आपको हर बार बिल्कुल वही सूप मिलेगा।
- निष्कर्ष: यह "शोर" रैंडम स्टेटिक नहीं है; यह एक फिंगरप्रिंट है। यह बताता है कि किस हार्डवेयर (चम्मच) और सॉफ़्टवेयर (रेसिपी) का उपयोग किया गया था। यदि आप रेसिपी और चम्मच को जानते हैं, तो आप सूप की सटीक भविष्यवाणी कर सकते हैं।
3. समाधान: "डिजिटल ट्विन" (Digital Twin)
शोधकर्ताओं ने एक विशेष सॉफ़्टवेयर प्रोग्राम (एक एमुलेटर) बनाया है जो AI कंप्यूटर के "डिजिटल ट्विन" के रूप में कार्य करता है।
- यह कैसे काम करता है: वास्तविक AI कंप्यूटर के काम की जांच करने के लिए आपको उस भौतिक कंप्यूटर की आवश्यकता नहीं है। यह सॉफ़्टवेयर कंप्यूटर के मस्तिष्क को सबसे छोटे बिट तक सिम्युलेट (अनुकरण) करता है। यह जानता है कि कंप्यूटर संख्याओं को कैसे राउंड करता है, यह मेमोरी को कैसे संभालता है, और यह चीजों को कैसे जोड़ता है।
- जादू: आप इस सिमुलेशन को एक सामान्य कंप्यूटर (CPU) पर चला सकते हैं, और यह उच्च श्रेणी के AI कंप्यूटर के बिल्कुल समान परिणाम, बिट-दर-बिट, देगा।
- पेंच: यह केवल तभी विफल होता है जब कंप्यूटर एक विशिष्ट "एटॉमिक" फंक्शन का उपयोग करता है (जैसे दो लोग एक ही समय में कागज के एक ही टुकड़े पर लिखने की कोशिश कर रहे हों)। शोधकर्ताओं ने पाया है कि आधुनिक AI सॉफ़्टवेयर अब शायद ही कभी इन फंक्शन्स का उपयोग करता है, इसलिए "डिजिटल ट्विन" लगभग हर समय काम करता है।
4. परिणाम: कोई गति दंड (Speed Penalty) नहीं
आमतौर पर, चीजों को पूरी तरह से अनुमानित बनाने के लिए, आपको कंप्यूटर को धीमा करना पड़ता है (जैसे कार को शॉर्टकट लेने के बजाय सीधी रेखा में चलने के लिए मजबूर करना)।
- महत्वपूर्ण उपलब्धि: यह शोध पत्र दिखाता है कि आपको कंप्यूटर को धीमा करने की आवश्यकता नहीं है। आपको बस कुछ अतिरिक्त विवरण रिकॉर्ड करने की आवश्यकता है (जैसे डेटा के बैच का आकार और सॉफ़्टवेयर का संस्करण)।
- परिणाम: उन विवरणों के साथ, आपका "डिजिटल ट्विन" परिणाम को पूरी तरह से फिर से बना सकता है। यदि कोई AI कंपनी दावा करती है कि उन्होंने एक विशिष्ट गणना चलाई थी, तो आप अपना सिमुलेशन चलाकर कह सकते हैं, "हाँ, यह पूरी तरह से मेल खाता है," या "नहीं, आपके नंबर गलत हैं, आपने धोखाधड़ी की है।"
सारांश
यह शोध पत्र सिद्ध करता है कि AI के परिणाम स्वाभाविक रूप से "धुंधले" या अनिश्चित नहीं होते हैं। वे सटीक हैं, लेकिन वे उपयोग किए गए विशिष्ट उपकरणों पर निर्भर करते हैं। उन उपकरणों की सटीक नकल करने वाले मॉडल का निर्माण करके, हम बिना किसी देरी के 100% सटीकता के साथ AI के काम को सत्यापित कर सकते हैं। यह राउंडिंग एरर के "शोर" को एक अद्वितीय फिंगरप्रिंट में बदल देता है जो साबित करता है कि वास्तव में क्या हुआ था।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।