When the Next Step Is Not One Step: Distribution-Aware Execution Modeling for Concurrent Go Programs
यह शोध पत्र समवर्ती (concurrent) गो (Go) प्रोग्रामों के लिए एक डिस्ट्रीब्यूशन-अवेयर निष्पादन मॉडलिंग दृष्टिकोण प्रस्तुत करता है जो अनुभवजन्य घटना वितरणों (empirical event distributions) पर 7B मॉडल को फाइन-ट्यून करने के लिए शेड्यूलर नॉन-डिटरमिनिज्म का लाभ उठाता है, जिससे वास्तविक दुनिया के बग भविष्यवाणियों पर अत्याधुनिक सटीकता और बेहतर कैलिब्रेशन प्राप्त होता है और साथ ही विशिष्ट गोरौटीन लीक्स (goroutine leaks) का पता लगाने के लिए औपचारिक गारंटी भी प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को शतरंज के अगले कदम की भविष्यवाणी करना सिखाने की कोशिश कर रहे हैं। यदि यह एक मानक शतरंज का खेल है, तो नियम तय हैं: यदि आप यहाँ एक प्यादा चलते हैं, तो आपके प्रतिद्वंद्वी को एक विशिष्ट तरीके से प्रतिक्रिया देनी ही होगी। रोबोट को बस उस पैटर्न को याद करने की आवश्यकता है।
लेकिन अब, एक अराजक, शोर वाले कमरे में खेले जाने वाले शतरंज के खेल की कल्पना करें जहाँ तीन अलग-अलग लोग एक ही समय में मोहरों को चलाने की कोशिश कर रहे हैं और हवा का एक रैंडम झोंका बोर्ड को इधर-उधर उड़ा रहा है। कभी, यदि आप एक प्यादा चलते हैं, तो हवा उसे गिरा सकती है। कभी, एक खिलाड़ी आपके चलने से पहले ही मोहरे को पकड़ सकता है। कभी, प्रतिद्वंद्वी पूरी तरह से एक अलग मोहरा चलाने का निर्णय ले सकता है।
यह उन कंप्यूटर प्रोग्रामों की समस्या है जो एक साथ कई कार्य (tasks) चलाते हैं (concurrent programs)।
यह पेपर इसी अराजकता से निपटता है। यहाँ इसका सरल विवरण दिया गया है:
समस्या: "एक उत्तर" बनाम "कई संभावित उत्तर"
पारंपरिक कंप्यूटर विज्ञान में, जब एक प्रोग्राम चलता है, तो हम आमतौर पर मानते हैं कि यह एक सीधी रेखा का अनुसरण करता है। यदि आप इसे समान इनपुट देते हैं, तो यह समान आउटपुट देता है।
- पुराना तरीका: शोधकर्ताओं ने AI मॉडल को प्रशिक्षित किया कि वह प्रोग्राम के अगले एक कदम की भविष्यवाणी करे। उन्होंने प्रोग्राम के साथ एक सीधी रेखा की तरह व्यवहार किया।
- वास्तविकता: कंकरेंट प्रोग्राम्स (जैसे कि Go भाषा में लिखे गए) में, "शेड्यूलर" (वह हिस्सा जो यह तय करता है कि कौन सा कार्य कब चलेगा) एक अराजक रेफरी की तरह है। यदि आप एक ही प्रोग्राम को दो बार चलाते हैं, तो यह A फिर B कर सकता है, या B फिर A कर सकता है। दोनों सही हैं। दोनों वैध हैं।
यदि आप AI को ऐसी स्थिति के लिए केवल एक उत्तर का अनुमान लगाने के लिए प्रशिक्षित करते हैं जहाँ वास्तव में तीन वैध उत्तर मौजूद हैं, तो AI भ्रमित हो जाता है। यह एक मौसम विज्ञानी से यह पूछने जैसा है कि "बारिश होगी" जबकि वास्तविकता यह है कि "बारिश हो सकती है, बर्फबारी हो सकती है, या धूप खिली रह सकती है," और AI बस एक को चुन लेता है और उम्मीद करता है कि वह सही होगा।
समाधान: "मौसम के पूर्वानुमान" की भविष्यवाणी करना
लेखकों ने महसूस किया कि उन्हें इस अराजकता को एक गलती के रूप में नहीं देखना चाहिए। इसके बजाय, उन्होंने इस अराजकता को डेटा के रूप में माना।
- इसे कई बार चलाएं: उन्होंने एक प्रोग्राम लिया और उसे सैकड़ों बार चलाया।
- परिणामों को गिनें: उन्होंने देखा कि हालांकि क्रम बदल गया, लेकिन कुछ पैटर्न उभर कर आए। उदाहरण के लिए, "घटना A" 60% बार हुई, "घटना B" 30% बार और "घटना C" 10% बार।
- AI को वितरण (distribution) सिखाएं: AI को केवल "घटना A" का अनुमान लगाने के लिए प्रशिक्षित करने के बजाय, उन्होंने इसे पूरा पूर्वानुमान लगाने के लिए प्रशिक्षित किया: "घटना A की 60% संभावना है, B की 30% और C की 10%।"
उन्होंने एक विशेष गणितीय ट्रिक (जिसे "KL objective" कहा जाता है) का उपयोग किया ताकि एक 7-बिलियन पैरामीटर वाले AI मॉडल को केवल एक विजेता का अनुमान लगाने के बजाय इन वास्तविक दुनिया के प्रतिशतों से मेल खाने के लिए प्रशिक्षित किया जा सके।
परिणाम: क्या यह काम कर गया?
उन्होंने इसका परीक्षण Kubernetes और Google के gRPC जैसे प्रसिद्ध सिस्टम के वास्तविक दुनिया के, अव्यवस्थित कोड पर किया।
- AI बनाम विशेषज्ञ: फाइन-ट्यून किए गए AI (जिसे 1,000 से कम उदाहरणों पर प्रशिक्षित किया गया था) ने 36.2% बार अगला कदम सही बताया।
- प्रतिस्पर्धा: इसने एक बहुत शक्तिशाली, प्री-ट्रेंड AI (Gemini 3.5 Flash) को पीछे छोड़ दिया, जिसे इस विशिष्ट प्रकार की समस्या पर बिल्कुल भी प्रशिक्षित नहीं किया गया था (जिसने केवल 34.8% सही बताया)।
- "कैलिब्रेशन" की जीत: इससे भी महत्वपूर्ण बात यह है कि नया AI यह जानने में बेहतर था कि वह कब अनिश्चित है। यदि स्थिति अराजक थी, तो AI ने कहा, "मुझे यकीन नहीं है, यह कुछ भी हो सकता है।" यदि स्थिति अनुमानित थी, तो उसने कहा, "मुझे काफी यकीन है।" पुराने प्रशिक्षण के तरीके ने AI को अक्सर गलत तरीके से आत्मविश्वासी बना दिया था।
सीमाएं: वह सीमा जहाँ 'सीलिंग' है
यह पेपर इस बारे में बहुत ईमानदार है कि AI अभी क्या नहीं कर सकता:
- सटीकता की सीमा (Accuracy Ceiling): AI लगभग 35-36% सटीकता पर रुक जाता है। यह इससे अधिक नहीं हो सकता क्योंकि कुछ घटनाएं इतनी दुर्लभ होती हैं (जैसे कि किसी विशिष्ट प्रकार की गड़बड़ी) कि AI उन्हें सीखने के लिए पर्याप्त बार नहीं देख पाता।
- "एक कदम" की समस्या: AI अगले ही कदम की भविष्यवाणी करने में बहुत अच्छा है। लेकिन यदि आप इसे लगातार अगले 10 कदमों की भविष्यवाणी करने के लिए कहते हैं, तो यह एक कदम के बाद बिखर जाता है। यह एक ऐसे व्यक्ति की तरह है जो आपको फिल्म के अगले सेकंड में क्या होगा यह बता सकता है, लेकिन यदि आप उससे पूरी कहानी की भविष्यवाणी करने को कहें, तो वह मनगढ़ंत बातें बनाने लगता है।
"लीक" की खोज
लेखकों ने एक विशिष्ट "सिग्नेचर" भी पाया जो "गोरूटीन लीक" (जहाँ एक कार्य फंस जाता है और कभी समाप्त नहीं होता) नामक कंप्यूटर बग का प्रकार है।
- उन्होंने गणितीय रूप से सिद्ध किया कि यदि कोई कार्य एक विशिष्ट प्रकार के प्रतीक्षा लूप (waiting loop) में फंस जाता है, तो उसके "जागने" की संभावना शून्य है।
- यह वह नहीं है जो AI ने अनुमान लगाकर सीखा; यह ब्रह्मांड का एक नियम है (Go प्रोग्रामिंग भाषा के नियमों के अनुसार)। AI ने सही ढंग से सीखा कि इस विशिष्ट परिदृश्य में "जागना" असंभव है, जो इस बात का अच्छा संकेत है कि वह केवल नंबरों को याद नहीं कर रहा है, बल्कि तर्क को समझ रहा है।
सारांश
पेपर कहता है: "एक अराजक, बहु-पथ प्रणाली को एक एकल सीधी रेखा में बदलने की कोशिश करना बंद करें। इसके बजाय, AI को संभावनाओं का पूरा मानचित्र दिखाएं। यह पूर्ण नहीं होगा, और यह अभी तक लंबी घटनाओं की श्रृंखला की भविष्यवाणी नहीं कर सकता है, लेकिन यह अराजकता की प्रकृति को समझने और यह जानने में बहुत बेहतर हो जाता है कि वह कब अनुमान लगा रहा है।"
उन्होंने अपना कोड, डेटा और उपकरण जारी कर दिए हैं ताकि अन्य लोग इस "अराजकता-जागरूक" (chaos-aware) दृष्टिकोण पर काम कर सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।