DeltaBox: Scaling Stateful AI Agents with Millisecond-Level Sandbox Checkpoint/Rollback
यह शोध पत्र डेल्टाबॉक्स (DeltaBox) को प्रस्तुत करता है, जो एक नवीन सैंडबॉक्स सिस्टम है जो पूर्ण सिस्टम अवस्थाओं के बजाय केवल अवस्था परिवर्तनों को दोहराकर मिलीसेकंड-स्तर का चेकपॉइंट और रोलबैक प्राप्त करने के लिए ओएस-स्तरीय एब्स्ट्रैक्शन डेल्टाएफएस (DeltaFS) और डेल्टासीआर (DeltaCR) का लाभ उठाता है, जिससे एलएलएम-संचालित एआई एजेंटों के लिए उच्च-आवृत्ति अन्वेषण सक्षम होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही जटिल वीडियो गेम खेल रहे हैं जहाँ आप एक कठिन पहेली को हल करने की कोशिश कर रहे हैं। आप एक AI एजेंट हैं, और जीतने के लिए, आपको हजारों अलग-अलग रणनीतियों को आज़माना होगा। कभी-कभी आप एक चाल चलते हैं, और पता चलता है कि वह एक गलत चाल थी। आपको तुरंत उस चाल को "अनडू" (undo) करना होगा और एक अलग रास्ता आज़माना होगा।
AI कोडिंग एजेंटों की वास्तविक दुनिया में, यह "अनडू" बटन अविश्वसनीय रूप से धीमा और बोझिल है। आमतौर पर, पीछे जाने के लिए, कंप्यूटर को पूरे गेम की दुनिया (सभी फ़ाइलें, सभी खुले प्रोग्राम, मेमोरी) की एक विशाल, पूर्ण प्रतिलिपि बनानी पड़ती है। इसमें सेकंड लग जाते हैं। यदि आपको इसे सैकड़ों बार करना पड़ता है, तो आपका AI सोचने के बजाय सेव करने और लोड करने में अधिक समय बिताता है।
DeltaBox एक नया सिस्टम है जिसे इसे ठीक करने के लिए डिज़ाइन किया गया है। यह AI एजेंटों के लिए एक सुपर-फास्ट "टाइम मशीन" की तरह काम करता है, जिससे वे पलक झपकते ही (मिलीसेकंड में) अपनी स्थिति (state) को सेव और रिस्टोर कर सकते हैं।
यह कैसे काम करता है, यहाँ सरल उपमाओं का उपयोग करके बताया गया है:
मुख्य विचार: "केवल परिवर्तनों को सेव करें"
अधिकांश सिस्टम इस तरह काम करते हैं जैसे जब आप एक अकेली किताब हिलाते हैं, तो वे एक बिखरे हुए कमरे की पूरी फोटो खींच लेते हैं। इसमें फोटो खींचने में बहुत समय लगता है और कमरे को वापस वैसा ही करने में भी बहुत समय लगता है।
DeltaBox समझता है कि जब आप एक किताब हिलाते हैं, तो 99% कमरा नहीं बदला होता है। पूरे कमरे की नई फोटो लेने के बजाय, यह केवल एक छोटा सा नोट लेता है: "किताब मेज से कुर्सी पर चली गई।" वापस जाने के लिए, यह बस उस नोट को पढ़ता है और किताब को वापस उसकी जगह पर रख देता है। यही "मुख्य अंतर्दृष्टि" (Key Insight) है: पूरी स्थिति की नकल न करें; केवल परिवर्तनों की नकल करें।
दो जादुई तरकीबें
इसे काम करने योग्य बनाने के लिए, शोधकर्ताओं ने दो विशेष उपकरण (OS-स्तर के तंत्र) बनाए हैं जो एक साथ मिलकर काम करते हैं:
1. DeltaFS: एक "लेयर्ड केक" फ़ाइल सिस्टम
कल्पना कीजिए कि आपकी कंप्यूटर फ़ाइलें एक बहु-परतीय केक (multi-layered cake) की तरह हैं।
- पारंपरिक तरीका: यदि आप केक की स्थिति को सेव करना चाहते हैं, तो आपको पूरे केक को एक नए बॉक्स में कॉपी करना होगा। यदि आप पीछे जाना चाहते हैं, तो आप वर्तमान केक को फेंक देते हैं और पुराना बॉक्स बाहर निकाल लाते हैं।
- DeltaBox का तरीका: केक ट्रे की एक स्टैक (ढेर) पर रखा जाता है।
- निचली ट्रे मूल केक है (Read-Only)।
- जब आप कोई बदलाव करते हैं (जैसे चेरी जोड़ना), तो आप नीचे वाले केक को नहीं छेड़ते हैं। आप बस उसके ऊपर एक नई, खाली ट्रे रखते हैं और चेरी को वहां रख देते हैं।
- चेकपॉइंट (सेव) करने के लिए: आप बस वर्तमान ऊपरी ट्रे को फ्रीज कर देते हैं और उसके ऊपर एक नई खाली ट्रे स्लाइड कर देते हैं। इसमें एक सेकंड का भी छोटा हिस्सा लगता है।
- रोलबैक (अनडू) करने के लिए: आप बस ऊपरी ट्रे को खिसकाकर हटा देते हैं और उसके नीचे वाली ट्रे को देखते हैं। चेरी गायब है, और केक बिल्कुल वैसा ही है जैसा पहले था। कोई कॉपी करना नहीं, कोई भारी काम नहीं।
2. DeltaCR: "फ्रोजन क्लोन" मेमोरी मैनेजर
अब कल्पना कीजिए कि AI एजेंट एक दौड़ में भागने वाला व्यक्ति है। अपनी प्रगति को सेव करने के लिए, आपको आमतौर पर उन्हें रोकना पड़ता है, उनके द्वारा सोचे गए हर विचार को लिखना पड़ता है, और उनके शरीर को फ्रीज करना पड़ता है। फिर से शुरू करने के लिए, आपको नोट्स पढ़ने होते हैं और उन्हें जगाना होता है। यह धीमा है।
DeltaBox एक तकनीक का उपयोग करता है जिसे "फ्रोजन टेम्पलेट से फोर्किंग" कहा जाता है।
- सेटअप: जब AI एजेंट सोचने के लिए रुकता है, तो DeltaBox एजेंट के मस्तिष्क (मेमोरी) का एक "फ्रोजन क्लोन" बनाता है और उसे वहीं फ्रीज कर देता है। यह ऐसा है जैसे किसी व्यक्ति का सांस रोककर रखे हुए समय में उसके मस्तिष्क का स्नैपशॉट लेना।
- सेव: यह एक सुरक्षित जगह पर क्या बदला है (डेल्टा) के बारे में एक छोटा सा नोट भी लिखता है।
- अनडू: जब AI को पीछे जाने की आवश्यकता होती है, तो नोट्स की लंबी सूची पढ़ने और एक सोए हुए व्यक्ति को जगाने के बजाय, DeltaBox बस उस फ्रोजन मस्तिष्क को तुरंत क्लोन कर देता है। क्योंकि क्लोन पहले से ही बिल्कुल सही स्थिति में फ्रीज है, वह तुरंत जाग जाता है।
- सुरक्षा जाल (Safety Net): यदि फ्रोजन क्लोन बहुत पुराना हो जाता है या जगह बचाने के लिए उसे हटा दिया जाता है, तो सिस्टम के पास एक बैकअप प्लान होता है जिसमें नोट्स को पढ़ना और मस्तिष्क को फिर से बनाना शामिल है, लेकिन यह धीमा है। सिस्टम पर्याप्त फ्रोजन क्लोन तैयार रखता है ताकि वह लगभग हमेशा त्वरित विधि का उपयोग कर सके।
यह क्यों महत्वपूर्ण है
पेपर का परीक्षण वास्तविक दुनिया के कोडिंग कार्यों (Django या SymPy जैसे सॉफ़्टवेयर में बग्स ठीक करना) पर किया गया।
- पुराना तरीका: सेव करने और रिस्टोर करने में सैकड़ों मिलीसेकंड से लेकर सेकंड तक लग जाते थे। यह इतना धीमा था कि इसने AI को गहरी रणनीतियों को खोजने से रोक दिया।
- DeltaBox का तरीका: इसमें सेव करने के लिए लगभग 14 मिलीसेकंड और रिस्टोर करने के लिए 5 मिलीसेकंड लगते हैं।
परिणाम:
क्योंकि "अनडू" बटन अब बहुत तेज़ है, AI उसी समय में बहुत अधिक रास्तों को खोज सकता है। यह एक शतरंज खिलाड़ी के बीच के अंतर जैसा है जो केवल एक चाल आगे सोच सकता है क्योंकि बोर्ड को रीसेट करने में उसे एक घंटा लगता है, बनाम एक खिलाड़ी जो बोर्ड को तुरंत रीसेट कर सकता है और एक चाल लगाने के समय में 100 अलग-अलग चालें आजमा सकता है।
सारांश
DeltaBox एक ऐसा सिस्टम है जो AI एजेंटों को अपने स्वयं के कंप्यूटर वातावरण के साथ "क्या-होता-यदि" (what-if) खेल खेलने की अनुमति देता है। यह समझते हुए कि अधिकांश परिवर्तन छोटे होते हैं, यह पूरी दुनिया को कॉपी करने के बजाय केवल छोटे अंतरों को सेव करता है। यह एक धीमी, भारी प्रक्रिया को बिजली जैसी तेज़ प्रक्रिया में बदल देता है, जिससे AI अधिक समाधानों को आजमाकर कठिन समस्याओं को हल कर सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।