Quotient Tree Arithmetic: Deferred-Division Computation with Bounded Symbolic Depth and Cross-Subtree Cancellation
यह शोध पत्र कोटिएंट ट्री अरिथमेटिक (QTA) का परिचय देता है, जो एक ऐसा गणनात्मक ढांचा है जो सटीक परिमेय अंकगणित (exact rational arithmetic), सीमित प्रतीकात्मक गहराई (bounded symbolic depth), और क्रॉस-सबट्री रद्दीकरण (cross-subtree cancellation) प्राप्त करने के लिए मानों को विलंबित भागफल युग्मों (deferred quotient pairs) के रूप में प्रस्तुत करता है, जिससे मशीन लर्निंग प्रशिक्षण में संख्यात्मक त्रुटियों और मेमोरी ओवरहेड को काफी कम किया जा सकता है और साथ ही बीजगणितीय स्थानीयकरण सिद्धांत (algebraic localization theory) को हार्डवेयर-नेटिव IEEE अंकगणित से जोड़ा जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक ऐसे पैमाने से दुनिया को मापने की कोशिश कर रहे हैं जिसमें एक सूक्ष्म, अदृश्य दोष है। दशकों से, वैज्ञानिक और कंप्यूटर प्रोग्रामर कंप्यूटर पर गणित करने के लिए "फ्लोटिंग-पॉइंट अंकगणित" (floating-point arithmetic) नामक एक मानक मापने वाले उपकरण का उपयोग करते आए हैं। यह अविश्वसनीय रूप से तेज़ है और लगभग हर चीज़ के लिए काम करता है, रॉकेट के प्रक्षेपवक्र (trajectories) की गणना करने से लेकर उस AI को प्रशिक्षित करने तक जो आपके अगले पसंदीदा गाने की सिफारिश करता है। लेकिन इसमें एक प्रसिद्ध, परेशान करने वाला दोष है: यह कुछ सरल संख्याओं को पूरी तरह से नहीं संभाल पाता है। यदि आप कंप्यूटर से 0.1 और 0.2 को जोड़ने के लिए कहते हैं, तो यह आपको सटीक रूप से 0.3 नहीं देता; यह आपको 0.30000000000000004 देता है। यह एक कुंद चाकू से पिज्जा के सटीक स्लाइस काटने की कोशिश करने जैसा है; अंततः, चूरा जमा हो जाता है, और आपके स्लाइस बराबर नहीं रह जाते। यह छोटी सी त्रुटि बड़ी समस्याएँ पैदा कर सकती है, जैसे कि एक AI का भ्रमित हो जाना क्योंकि इसकी आंतरिक गणनाएँ अलग होने लगती हैं, या एक वित्तीय प्रणाली का एक पैसे का हिसाब खो देना।
इसे ठीक करने के लिए, लोग आमतौर पर विशेष "डेसिमल" (decimal) उपकरणों का उपयोग करते हैं जो धीमे होते हैं, या वे "सिंबोलिक" (symbolic) गणित का उपयोग करते हैं जो अत्यंत सटीक लेकिन अविश्वसनीय रूप से भारी और धीमा होता है, जैसे कि कॉफी खरीदने के लिए अपने बैकपैक में एक पूरी लाइब्रेरी ले जाने की कोशिश करना। बड़ा सवाल हमेशा से यह रहा है: क्या हम तेज़, दोषपूर्ण पैमाने की गति और भारी, धीमे पैमाने की पूर्ण सटीकता को एक साथ प्राप्त कर सकते हैं? यह एक पहेली है जिसे ग्रेगरी मगारशाक (Gregory Magarshak) का एक नया शोध पत्र हल करने की कोशिश करता है। वह एक चतुर युक्ति प्रस्तावित करते हैं जो कंप्यूटर के मानक गणित को पूर्ण भिन्नों (fractions) की एक प्रणाली में बदल देती है, जिससे हार्डवेयर की गति बनी रहती है और उन सूक्ष्म त्रुटियों को समाप्त किया जा सके जो आमतौर पर आती हैं।
यह शोध पत्र रेशनल पेयर अंकगणित (Rational Pair Arithmetic - RPA) नामक एक प्रणाली पेश करता है। एक संख्या जैसे 0.3 को एक एकल, थोड़े अस्त-व्यस्त दशमलव के रूप में संग्रहीत करने के बजाय, कंप्यूटर इसे दो पूर्ण संख्याओं के जोड़े के रूप में संग्रहीत करता है: एक अंश (numerator) और एक हर (denominator)। इसे एक रेसिपी को "0.3 कप" लिखने के बजाय "10 में से 3 कप आटा विभाजित" के रूप में रखने की तरह समझें। जादू यहाँ होता है क्योंकि आधुनिक कंप्यूटर वास्तव में पूर्ण संख्याओं को पूरी तरह से संभालने में बहुत अच्छे हैं, जब तक कि वे बहुत बड़ी न हों। शोध पत्र बताता है कि कंप्यूटर किसी भी पूर्ण संख्या को लगभग 9 क्वाड्रिलियन () तक बिना किसी गलती के संभाल सकता है। चूंकि अधिकांश वास्तविक दुनिया के माप (जैसे पैसा, GPS निर्देशांक, या वैज्ञानिक डेटा) इस विशाल सीमा के भीतर सहजता से फिट बैठते हैं, इसलिए कंप्यूटर इन पूर्ण पूर्णांक जोड़ों का उपयोग करके अपना सारा गणित कर सकता है।
यह प्रणाली अंतिम विभाजन को टालने के काम आती है। जब आप इन जोड़ों को जोड़ते या गुणा करते हैं, तो कंप्यूटर बस ऊपर और नीचे की संख्याओं पर गणित करता है, और भिन्न (fraction) को तब तक "असंक्षिप्त" रखता है जब तक कि उसे बिल्कुल आवश्यकता न हो कि वह आपको दशमलव परिणाम दिखाए। संख्याओं को बहुत बड़ा और अव्यवस्थित होने से बचाने के लिए, इस प्रणाली में एक "सफाई" (cleanup) चरण होता है। कल्पना कीजिए कि आपके पास 6/10 जैसा एक भिन्न है; सफाई का चरण इसे तुरंत दोनों को उनके सबसे बड़े सामान्य गुणनखंड (greatest common factor) से विभाजित करके 3/5 में सरल बना देता है। शोध पत्र सुझाव देता है कि कंप्यूटर चिप्स के पास इस सफाई को तुरंत करने के लिए एक विशेष, सुपर-फास्ट बटन होना चाहिए, जिससे पूरी प्रक्रिया मानक, दोषपूर्ण गणित के लगभग समान तेज़ हो जाए।
इससे भी अधिक रोमांचक बात यह है कि शोध पत्र दिखाता है कि इन जोड़ों को एक दूसरे के भीतर स्टैक (stack) किया जा सकता है, जैसे रूसी नेस्टिंग डॉल्स (Russian nesting dolls)। आप एक ऐसा भिन्न रख सकते हैं जहाँ ऊपर या नीचे का हिस्सा स्वयं एक अन्य भिन्न हो। यह गणित का एक "पेड़" (tree) बनाता है जिसे कंप्यूटर अपनी मेमोरी में बिना अंतिम उत्तर की गणना किए रख सकता है। यह डीप लर्निंग (Deep Learning) के लिए एक गेम-चेंजर है (वह प्रकार का AI जो सेल्फ-ड्राइविंग कारों और चैटबॉट्स को शक्ति देता है)। इन AI प्रणालियों में, एक आम समस्या "वैनिशिंग ग्रेडिएंट" (vanishing gradient) है, जहाँ गणना के कई स्तरों के बाद गणित इतना छोटा हो जाता है कि वह प्रभावी रूप से गायब हो जाता है, जिससे AI सीखना बंद कर देता है। शोध पत्र सिद्ध करता है कि क्योंकि यह नई प्रणाली सटीक पूर्ण संख्याओं का उपयोग करती है, इसलिए गणित तब तक कभी भी शून्य नहीं हो सकता जब तक कि वह वास्तव में शून्य न हो। यह एक ऐसी सीढ़ी की तरह है जो कभी भी अपनी सीढ़ी नहीं खोती, चाहे आप कितनी भी ऊँचाई पर चढ़ें।
लेखक यह भी दिखाते हैं कि यह विधि कंप्यूटर परिणामों को पूरी तरह से अनुमानित (predictable) बनाती है। अभी, यदि आप दो अलग-अलग प्रकार के ग्राफिक्स कार्ड पर एक ही AI प्रशिक्षण चलाते हैं, तो आपको उनके राउंडिंग एरर (rounding errors) को संभालने के तरीके के कारण थोड़े अलग परिणाम मिल सकते हैं। इस नई प्रणाली के साथ, यदि आप एक ही चरणों का पालन करते हैं, तो आप किसी भी मशीन पर बिल्कुल वही उत्तर प्राप्त करेंगे। शोध पत्र यह दावा नहीं करता है कि यह सब कुछ के लिए एक जादुई समाधान है; यह स्वीकार करता है कि "सफाई" चरण के बिना अत्यधिक लंबी गुणा श्रृंखलाओं के लिए, संख्याएँ कंप्यूटर द्वारा संभालने के लिए बहुत बड़ी हो सकती हैं। लेकिन अधिकांश व्यावहारिक उपयोगों के लिए, यह सुझाव देता है कि वैज्ञानिक कंप्यूटिंग और AI प्रशिक्षण को सटीक, स्थिर और पुनरुत्पादक (reproducible) बनाने का एक तरीका है, बिना बहुत अधिक गति खोए। यह कंप्यूटर के गणित करने के आधार को अपग्रेड करने का एक प्रस्ताव है, जो एक ऐसी प्रणाली को बदल देता है जो अनुमान लगाती है, एक ऐसी प्रणाली में जो जानती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।