How AI settled the complexity of the oldest SGD algorithm
यह शोध पत्र इस बात का विवरण देता है कि कैसे आधुनिक एआई मॉडलों का उपयोग अंततः स्टिफन काज़मार्स द्वारा 1937 में प्रस्तावित एक मौलिक स्टोकेस्टिक ग्रेडिएंट डिसेंट पद्धति, काज़मार्स एल्गोरिदम की वर्स्ट-केस जटिलता (worst-case complexity) को निर्धारित करने के लिए किया गया था।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कहानी: कैसे AI ने 90 साल पुराने गणितीय पहेली को सुलझाया
कल्पना कीजिए कि एक गणित की समस्या है जो 1937 से एक शेल्फ पर धूल फांक रही है। यह एक पहेली है कि कैसे समीकरणों के एक विशाल तंत्र (एक जटिल प्रश्न का सटीक उत्तर खोजने का एक तरीका) को हल किया जाए। यह विशिष्ट विधि, जिसे काचरज़ैक एल्गोरिदम (Kaczmarz algorithm) कहा जाता है, वास्तव में उस तकनीक का "परदादा" है जो ChatGPT और Gemini जैसे आधुनिक AI को शक्ति प्रदान करती है।
दशकों तक, गणितज्ञों को पता था कि यह एल्गोरिदम काम करता है, लेकिन वे यह साबित नहीं कर सके कि सबसे खराब स्थिति (worst-case scenario) में यह वास्तव में कितनी तेज़ी से काम करता है। यह एक ऐसी कार की तरह था जिसे आप जानते थे कि वह न्यूयॉर्क से लॉस एंजिल्स तक जा सकती है, लेकिन आप यह सटीक गणना नहीं कर सकते थे कि यदि आपको हर एक रेड लाइट और ट्रैफिक जाम का सामना करना पड़े, तो इसमें अधिकतम कितना समय लगेगा।
यह शोध पत्र बताता है कि कैसे दो अलग-अलग AI मॉडल, Gemini और ChatGPT ने मिलकर अंततः इस रहस्य को सुलझाया, और यह साबित किया कि यह एल्गोरिदम कितनी तेज़ी से अभिसरण (converge) करता है।
पात्र और मिशन
- एल्गोरिदम (काचरज़ैक विधि): कल्पना कीजिए कि आप एक मानचित्र पर छिपे हुए खजाने को खोजने की कोशिश कर रहे हैं। आपको सटीक स्थान का पता नहीं है, लेकिन आपके पास संकेतों (समीकरणों) की एक सूची है। काचरज़ैक एल्गोरिदम एक ऐसे पदयात्री (hiker) की तरह है जो, हर कदम पर, एक यादृच्छिक संकेत चुनता है, उस स्थान की ओर बढ़ता है जो उस संकेत को संतुष्ट करता है, और फिर दूसरा यादृच्छिक संकेत चुनता है। समय के साथ, पदयात्री खजाने के करीब पहुँचता जाता है।
- रहस्य: पदयात्री अंततः खजाना खोज लेता है, लेकिन गणितज्ञ इसकी गति को लेकर बहस कर रहे थे। क्या पदयात्री लंबे समय तक चक्कर काटते हुए भटक सकता है? या क्या कोई गारंटीकृत गति सीमा है?
- मानव शोधकर्ता: दो वैज्ञानिकों (मिचाऊ और शियाओयू) ने पारंपरिक मानव गणित का उपयोग करके इसे हल करने की कोशिश की। वे करीब तो पहुँचे, लेकिन एक दीवार से टकरा गए। उन्हें एहसास हुआ कि उन्हें एक नए दृष्टिकोण की आवश्यकता है।
- AI टीम: शोधकर्ताओं ने AI की ओर रुख किया। उन्होंने केवल AI से इसे "हल करने" के लिए नहीं कहा। इसके बजाय, उन्होंने कंडक्टर की भूमिका निभाई, जिससे AI मॉडल एक-दूसरे से बात कर सकें।
"अहा!" क्षण: विचारों की एक रिले रेस
समाधान एक अकेले AI के काम करने से नहीं आया। यह एक रिले रेस की तरह हुआ जहाँ बैटन (baton) दो अलग-अलग धावकों के बीच पास किया गया था:
Gemini की अंतर्दृष्टि (द फंक्शनल एनालिस्ट): समस्या को हल करने के लिए पूछे जाने पर, Gemini ने पूरा प्रमाण नहीं दिया। इसके बजाय, इसने एक अजीब, शानदार संबंध बनाया। इसने गणित की समस्या को देखा और कहा, "यह केवल समीकरणों के बारे में नहीं है; यह फंक्शनल एनालिसिस (विशेष रूप से, 'क्वांटम मार्कोव सेमग्रुप्स' जैसी चीज़) नामक गणित की एक शाखा से संबंधित अवधारणा की तरह दिखता है।"
- उपमा: कल्पना कीजिए कि एक मैकेनिक टूटे हुए इंजन को ठीक करने की कोशिश कर रहा है। गियरों को देखने के बजाय, Gemini ने कहा, "यह इंजन वास्तव में एक परमाणु रिएक्टर के समान भौतिक सिद्धांतों पर चल रहा है।" यह एक अजीब, उच्च-स्तरीय संबंध था जिसे मानव शोधकर्ताओं ने पहले नहीं देखा था।
- सावधानी: Gemini ने संबंध तो सही बताया लेकिन उसे सिद्ध नहीं कर सका। इसने कुछ गणितीय शोध पत्रों का हवाला दिया जिनमें वास्तव में वह प्रमाण मौजूद नहीं था जिसकी उसे आवश्यकता थी। यह एक लाइब्रेरी की किताब की ओर इशारा करने जैसा था और कहना कि "उत्तर इसमें है," जबकि वह किताब वास्तव में खाली थी।
ChatGPT का प्रमाण (द एलीमेंट्री सॉल्वर): मानव शोधकर्ताओं ने Gemini के इस "अजीब संबंध" को लिया और ChatGPT को सौंप दिया। उन्होंने पूछा, "ठीक है, यदि यह संबंध सत्य है, तो क्या आप बुनियादी गणित का उपयोग करके इसे सिद्ध कर सकते हैं?"
- ChatGPT ने समस्या को देखा और कहा, "मैं यह कर सकता हूँ।" इसने Gemini द्वारा उल्लेखित जटिल, भ्रमित करने वाली शब्दावली का उपयोग नहीं किया। इसके बजाय, इसने कॉम्प्लेक्स नंबर्स (जटिल संख्याएं - एक प्रकार का गणित जो आमतौर पर उन्नत भौतिकी और इंजीनियरिंग के लिए आरक्षित होता है) से जुड़ी एक चतुर, प्रारंभिक तकनीक का उपयोग करके गति सीमा को सिद्ध किया।
- उपमा: यदि Gemini वह व्यक्ति था जिसने दूर के पहाड़ की ओर इशारा किया और कहा, "खजाना उस शिखर के नीचे है," तो ChatGPT वह था जिसने वास्तव में पहाड़ पर चढ़ाई की, गड्ढा खोदा और सोना खोज निकाला।
परिणाम: "अंतिम चरण" तेज़ है
यह शोध पत्र एक विशिष्ट बात सिद्ध करता है: काचरज़क एल्गोरिदम उतना ही तेज़ है जितनी हमें उम्मीद थी।
इन एल्गोरिदम की दुनिया में, उत्तर की जाँच करने के दो तरीके हैं:
- औसत (The Average): आप पदयात्री द्वारा लिए गए सभी कदमों को लेते हैं, उनका औसत निकालते हैं, और वह एक अच्छा उत्तर देता है। (हम पहले से ही जानते थे कि यह तेज़ है)।
- अंतिम चरण (The Last Step): आप बस देखते हैं कि पदयात्री बिल्कुल अंत में कहाँ रुका है। (यही रहस्य था)।
शोध पत्र सिद्ध करता है कि अंतिम चरण औसत जितना ही तेज़ है। पदयात्री को अंत में इधर-उधर भटकने की ज़रूरत नहीं है ताकि वह "स्थिर" हो सके। अंतिम स्थिति पहले से ही एक पूर्ण समाधान है।
यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)
- यह एक पूर्ण चक्र है: एल्गोरिदम का सबसे पुराना ज्ञात संस्करण जो आधुनिक AI को प्रशिक्षित करता है (SGD), उसे आधुनिक AI द्वारा हल किया गया।
- यह अनुसंधान का एक नया तरीका है: यह शोध पत्र केवल गणित के बारे में नहीं है; यह एक केस स्टडी है कि कैसे मनुष्य और AI मिलकर काम कर सकते हैं। मनुष्यों ने प्रमाण नहीं लिखा; AI ने लिखा। मनुष्यों ने केवल दो अलग-अलग AI के बीच बातचीत को सुगम बनाया।
- यह एक बड़ी समस्या को हल करता है: इस विशिष्ट पहेली को हल करके, उन्होंने सामान्य रूप से AI प्रशिक्षण एल्गोरिदम कितनी तेज़ी से काम करते हैं, इस बारे में एक व्यापक, लंबे समय से चले आ रहे प्रश्न को भी हल कर दिया।
निचोड़
यह शोध पत्र एक 90 साल पुरानी गणितीय समस्या की कहानी है जिसे अकेले मनुष्यों के लिए तोड़ना बहुत कठिन था। दो अलग-अलग AI मॉडल को सहयोग करने देकर—एक को एक अजीब, उच्च-स्तरीय संबंध खोजने के लिए, और दूसरे को वास्तविक प्रमाण बनाने के लिए—रहस्य को अंततः सुलझा लिया गया। परिणाम पुष्टि करता है कि इस क्लासिक एल्गोरिदम का "अंतिम चरण" पूरी तरह से कुशल है, और यह हमें भविष्य के वैज्ञानिक अनुसंधान की एक झलक दिखाता है: एक ऐसी साझेदारी जहाँ मनुष्य AI का मार्गदर्शन करते हैं, और AI भारी काम करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।