Kernel Contracts: A Specification Language for ML Kernel Correctness Across Heterogeneous Silicon
यह शोधपत्र "कर्नेल कॉन्ट्रैक्ट्स" (Kernel Contracts) नामक एक औपचारिक विनिर्देश भाषा (formal specification language) प्रस्तावित करता है ताकि विभिन्न हार्डवेयर प्लेटफॉर्म पर मशीन लर्निंग कर्नेल व्यवहार में विसंगतियों को पहचानने के लिए एक मानकीकृत ढांचा प्रदान करके परिशुद्धता (precision), क्रमबद्धता (ordering) और मेमोरी त्रुटियों की पहचान करना, उन्हें मापना और उनका समाधान करना संभव हो सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप हज़ारों अलग-अलग विशिष्ट रोबोटों का उपयोग करके एक विशाल, उच्च-तकनीकी गगनचुंबी इमारत बना रहे हैं। कुछ रोबोट ईंटें बिछाने में विशेषज्ञ हैं, कुछ कांच लगाने में, और कुछ बिजली की वायरिंग करने में।
इमारत को पूरा करने के लिए, आप यह मान लेते हैं कि प्रत्येक रोबोट भौतिकी (physics) के समान बुनियादी नियमों का पालन करता है। लेकिन आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में, ये "रोबोट" वास्तव में सॉफ्टवेयर के छोटे टुकड़े हैं जिन्हें कर्नेल (kernels) कहा जाता है, और वे जिस "भौतिकी" का पालन करते हैं वह वास्तव में गणित है।
समस्या: "मौन झूठा" (The Silent Liar)
डरावनी बात यह है: AI में, ये गणित के रोबोट "मौन झूठे" होते हैं।
यदि एक निर्माण रोबोट गलती से एक ईंट को दो इंच बाईं ओर रख देता है, तो आप इसे तुरंत देख लेंगे। लेकिन यदि एक AI गणित का रोबोट गणना में एक छोटी सी, सूक्ष्म त्रुटि करता है—मान लीजिए, यह एक संख्या को उम्मीद के मुताबिक थोड़ा अलग तरीके से राउंड (round) कर देता है—तो इमारत तुरंत नहीं गिरती। इसके बजाय, इमारत बाहर से बिल्कुल सही दिखती है, लेकिन गहराई में, नींव के अंदर गणित थोड़ा "गलत" हो जाता है।
जैसे-जैसे आप ऊपर की ओर निर्माण करना जारी रखते हैं, वे छोटी त्रुटियाँ जमा होती जाती हैं। अंततः, आपकी पूरी इमारत (आपका AI मॉडल) झुकने लगती है, या लिफ्ट काम करना बंद कर देती है, या यह ऐसे तरीकों से व्यवहार करने लगती है जिन्हें कोई समझा नहीं सकता।
वर्तमान में, जब कोई AI मॉडल विफल होता है, तो इंजीनियर हफ्तों तक बहस करने में बिता देते हैं: "क्या यह NVIDIA रोबोट की गलती थी? या AMD रोबोट की? क्या गणित का रोबोट थक गया था, या उसे गलत तरीके से प्रोग्राम किया गया था?" वहां बहस को सुलझाने के लिए कोई "नियम पुस्तिका" (rulebook) नहीं है।
समाधान: "अनुबंध" (The Contract)
यह पेपर इस बहस को रोकने का एक तरीका प्रस्तावित करता है, जो काम शुरू करने से पहले ही प्रत्येक गणित के रोबोट को एक लिखित अनुबंध देने जैसा है।
इसे एक फ्रीलांस ठेकेदार के लिए कानूनी अनुबंध की तरह समझें। केवल यह कहने के बजाय कि, "हे, एक दीवार बनाओ," अनुबंध कहता है:
- कार्य का दायरा (The Scope): "आप ठीक 10 फीट ऊंची दीवार बना रहे हैं।"
- सटीकता (The Precision): "आपको उच्च-श्रेणी के सीमेंट का उपयोग करना चाहिए, न कि सस्ते वाले का।"
- सहनशीलता (The Tolerance): "यदि एक ईंट एक बाल बराबर भी इधर-उधर हुई, तो आपको इसकी सूचना देनी होगी। यदि यह एक सेंटीमीटर भी गलत है, तो आपने अनुबंध तोड़ दिया है।"
- दंड (The Signature): "यदि आप विफल होते हैं, तो हमें पता चल जाएगा कि आप किस तरह से विफल हुए (जैसे, 'दीवार बहुत डगमगा रही है' या 'रंग गलत है')।"
"टूटे हुए वादों" के चार परिवार (The Four Families of "Broken Promises")
यह पेपर पहचानता है कि गणित के रोबोध मुख्य रूप से चार तरीकों से अपने अनुबंधों को कैसे "तोड़ते" हैं:
- सटीकता की धोखाधड़ी (परिवार A): रोबोट वादा करता है कि वह एक उच्च-शक्ति वाले कैलकुलेटर का उपयोग करेगा लेकिन समय बचाने के लिए चुपके से एक सस्ते, बुनियादी कैलकुलेटर का उपयोग करता है। यह गणित को "धुंधला" (blurry) बना देता है।
- क्रम की अराजकता (परिवार B): गणित में, वही है जो है। लेकिन हाई-स्पीड AI गणित में, संख्याओं को जोड़ने का क्रम अंत के सूक्ष्म दशमलव को बदल सकता है। यह रोबोट एक सुसंगत परिणाम का वादा करता है लेकिन हर बार पूछने पर एक अलग परिणाम देता है।
- कंपाइलर का भ्रम (परिवार C): यह एक मैनेजर द्वारा रोबोट को निर्देशों का एक सेट देने जैसा है, लेकिन मैनेजर के अनुवादक ने गलती से "बाएं मुड़ें" को "दाएं मुड़ें" में बदल दिया। रोबोट ठीक वही करता है जो उसे बताया गया था, लेकिन निर्देश स्वयं ही बदल गया था।
- "ओह्स" हैंडलिंग (परिवार D): क्या होता है यदि रोबोट को कुछ असंभव करने के लिए कहा जाए, जैसे "शून्य से विभाजित करना" (divide by zero)? कुछ रोबोट मदद के लिए चिल्लाते हैं (Error raise करते हैं), कुछ ऐसा दिखावा करते हैं जैसे कुछ हुआ ही नहीं (Silent failure), और कुछ बस अनुमान लगाते हैं। अनुबंध उन्हें यह घोषित करने के लिए मजबूर करता है कि वे इनमें से कौन सा करेंगे।
यह क्यों महत्वपूर्ण है?
जैसे-जैसे हम बड़ी और बड़ी AI (जैसे ChatGPT या अगली पीढ़ी के सुपर-इंटेलिजेंट मॉडल) बना रहे हैं, हम विभिन्न कंपनियों (NVIDIA, AMD, Intel, Apple) के विभिन्न प्रकार के कंप्यूटर चिप्स का अधिक से अधिक उपयोग कर रहे हैं।
इन कर्नेल अनुबंधों (Kernel Contracts) के बिना, हम बुद्धिमत्ता की नींव "मौन झूठ" पर बना रहे हैं। यह पेपर AI के लिए एक "गुणवत्ता नियंत्रण विभाग" (Quality Control Department) का ब्लूप्रिंट प्रदान करता है, यह सुनिश्चित करता है कि आप चाहे किसी भी चिप का उपयोग करें, गणित ईमानदार, प्रलेखित और—सबसे महत्वपूर्ण—पूर्वानुमेय (predictable) हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।