Arbor: Tree Search as a Cognition Layer for Autonomous Agents
Arbor एक मल्टी-एजेंट फ्रेमवर्क है जो जटिल, स्टेटफुल एक्शन स्पेस में स्वायत्त, समन्वित अनुकूलन को सक्षम करने के लिए एक संज्ञानात्मक परत (कॉग्निशन लेयर) के रूप में एक संरचित ट्री सर्च पेश करता है, जो परिकल्पनाओं की एक साझा वर्किंग मेमोरी बनाए रखकर और ऑर्केस्ट्रेटर और क्रिटिक एजेंटों के बीच चेक-एंड-बैलेंस आर्किटेक्चर का उपयोग करके फुल-स्टैक LLM इन्फरेंस में महत्वपूर्ण प्रदर्शन लाभ प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, जटिल रेस कार को यथासंभव तेज़ चलाने के लिए उसे ट्यून करने की कोशिश कर रहे हैं। उस कार में एक इंजन, एक ट्रांसमिशन, टायर, एरोडायनामिक्स और एक कंप्यूटर सिस्टम है। यदि आप केवल टायरों में बदलाव करते हैं, तो आप कार को तेज़ बना सकते हैं, लेकिन आप इंजन को ओवरहीट भी कर सकते हैं या ट्रांसमिशन को फिसलने (स्लिप होने) का कारण बन सकते हैं।
Arbor एक नया "सुपर-कोच" सिस्टम है जिसे इन जटिल कंप्यूटर सिस्टमों (विशेष रूप से, कंप्यूटर चिप्स पर चलने वाले AI मॉडल) को ट्यून करने के लिए डिज़ाइन किया गया है, ताकि इसके लिए किसी मानव टीम को हर एक हिस्से की बारीकी से निगरानी करने की आवश्यकता न पड़े।
यह कैसे काम करता है, यहाँ सरल उपमाओं (analogies) का उपयोग करके बताया गया है:
1. समस्या: पिछले सिस्टमों की "ब्लाइंड स्पॉट" (अंध बिंदु)
Arbor से पहले, AI ऑप्टिमाइज़ेशन टूल्स उन मैकेनिकों की तरह थे जो कार के एक समय में केवल एक ही हिस्से को देखते थे। यदि वे इंजन को ठीक करते थे, तो वे यह नहीं देखते थे कि नए इंजन ने ट्रांसमिशन को खराब तो नहीं कर दिया। वे अलग-थलग होकर काम करते थे।
- समस्या: वास्तविक दुनिया के AI में, एक लेयर (जैसे सॉफ्टवेयर कोड) को ठीक करने से अक्सर दूसरी लेयर (जैसे हार्डवेयर संचार) टूट जाती है। पिछले सिस्टम इन "डोमिनो प्रभावों" (एक के बाद एक होने वाली घटनाओं) को नहीं देख पाते थे और कुछ गलत होने पर क्रैश हो जाते थे या हार मान लेते थे।
2. समाधान: "विचारों का वृक्ष" (कॉग्निशन लेयर)
Arbor केवल एक चीज़ आज़माता और आगे बढ़ नहीं जाता। यह विचारों का एक विशाल, जीवित वृक्ष बनाता है।
- वृक्ष: कल्पना करें कि यह एक फैमिली ट्री (वंशवृक्ष) है, लेकिन पूर्वजों के बजाय, यह सिस्टम को तेज़ बनाने के हर प्रयास का एक मानचित्र है।
- शाखाएँ: हर बार जब सिस्टम कोई बदलाव करने की कोशिश करता है, तो यह एक नई शाखा उगाता है।
- यदि बदलाव काम करता है, तो शाखा हरी रहती है।
- यदि यह विफल होता है, तो शाखा लाल हो जाती है, लेकिन सिस्टम इसे मिटाता नहीं है। इसके बजाय, यह उस शाखा पर एक नोट लिखता है कि यह क्यों विफल हुआ।
- स्मृति (मेमोरी): यह वृक्ष सिस्टम की "साझा स्मृति" है। यह याद रखता है कि "टायर का आकार बदलने से इंजन ओवरहीट हो गया," इसलिए यह उस संयोजन को फिर से आज़माने की कोशिश नहीं करेगा। यह सिस्टम को वास्तविक समय में अपनी गलतियों से सीखने की अनुमति देता है।
3. टीम: एक "चेक और बैलेंस" क्रू
Arbor तीन विशिष्ट AI एजेंटों की एक टीम का उपयोग करता है जो एक अच्छी तरह से चलने वाली इंजीनियरिंग कंपनी की तरह कार्य करते हैं:
- ऑर्केस्ट्रेटर (प्रोजेक्ट मैनेजर): यह एजेंट ड्राइवर है। यह पूरे पेड़ को देखता है, सबसे बड़े बॉटलनेक (वह हिस्सा जो कार को सबसे अधिक धीमा कर रहा है) को पहचानता है, और कहता है, "चलो इंजन को ठीक करने की कोशिश करते हैं!" यह वास्तविक काम को विशेषज्ञों को सौंप देता है।
- डोमेन स्पेशलिस्ट्स (मैकेनिक): ये स्थिर रोबोट नहीं हैं; ये "ऑन-डिमांड" विशेषज्ञ हैं। यदि प्रोजेक्ट मैनेजर को इंजन ठीक करने की आवश्यकता होती है, तो वह तुरंत एक "कर्नेल स्पेशलिस्ट" बनाता है। यदि उसे ट्रांसमिशन ठीक करने की आवश्यकता होती है, तो वह एक "कंपाइलर स्पेशलिस्ट" बनाता है। वे गहरा, तकनीकी काम करते हैं।
- क्रिटिक (सेफ्टी इंस्पेक्टर): यह सबसे महत्वपूर्ण नया फीचर है। क्रिटिक प्रोजेक्ट मैनेजर द्वारा किए गए हर काम पर नज़र रखता है।
- यदि प्रोजेक्ट मैनेजर एक ऐसा जोखिम भरा बदलाव करने की कोशिश करता है जिससे पूरा सिस्टम क्रैश हो सकता है, तो क्रिटिक उसे रोक देता है।
- यदि किसी बदलाव के कारण क्रैश होता है, तो क्रिटिक "रूट कॉज एनालिसिस" (एक जासूस की तरह) करता है ताकि यह पता लगाया जा सके कि वास्तव में क्या टूटा और एक नियम लिख सके ताकि कोई भी वह गलती दोबारा न करे।
- संतुलन: प्रोजेक्ट मैनेजर तेज़ जाना चाहता है; क्रिटिक सुरक्षित रहना चाहता है। उन्हें किसी भी बदलाव को रखने से पहले सहमत होना पड़ता है। यह सिस्टम को अपूरणीय रूप से क्रैश होने से रोकता है।
4. यह कैसे सीखता है: "री-प्रोफाइलिंग"
जैसे-जैसे सिस्टम बदलाव करता है, "ट्रैफिक जाम" (बॉटलनेक) अपनी जगह बदलते हैं।
- उपमा: कल्पना करें कि आपने मेन स्ट्रीट पर ट्रैफिक जाम ठीक कर दिया है। अचानक, ट्रैफिक जाम 2nd एवेन्यू पर चला जाता है।
- Arbor का कदम: हर कुछ बदलावों के बाद, Arbor रुकता है और सिस्टम का एक ताज़ा "स्नैपशॉट" (प्रोफाइलिंग) लेता है। वह देखता है कि समस्या बदल गई है, इसलिए वह अपने पेड़ पर नए विचार खोजने के लिए नई शाखाएँ उगाता है। वह पुराने समस्या क्षेत्र को ठीक करने में अटका नहीं रहता।
5. परिणाम: गति और स्थिरता
इस पेपर में AMD कंप्यूटर चिप्स पर बड़े AI मॉडल चलाते हुए इसका परीक्षण किया गया।
- सोलो एजेंट (एकल एजेंट): जब उन्होंने केवल एक AI एजेंट के साथ (बिना क्रिटिक या पेड़ के) ऐसा करने की कोशिश की, तो उसने कुछ छोटे सुधार किए लेकिन फिर क्रैश हो गया और उबर नहीं पाया।
- Arbor टीम: पूरी टीम और पेड़ के साथ, उन्होंने भारी गति वृद्धि हासिल की—मानक सेटिंग्स की तुलना में 193% तक तेज़।
- विश्वसनीयता: सिस्टम इतना स्थिर था कि यदि आप एक ही परीक्षण को दो बार चलाते हैं, तो परिणाम लगभग समान होते हैं (2% के भीतर), जो यह साबित करता है कि यह केवल किस्मत नहीं थी।
सारांश
Arbor एक सेल्फ-ड्राइविंग रेस टीम की तरह है जो हर मोड़ पर अपने द्वारा लिए गए कदमों का एक मानचित्र बनाती है। इसमें एक ड्राइवर है जो गति के लिए दबाव डालता है, एक सुरक्षा निरीक्षक है जो क्रैश को रोकता है, और एक मैकेनिक है जो विशिष्ट हिस्सों को ठीक करता है। यह याद रखने के लिए कि क्या काम किया और क्या विफल हुआ, एक विस्तृत मानचित्र बनाकर, यह जटिल, बहु-स्तरीय कंप्यूटर सिस्टमों में नेविगेट कर सकता है ताकि कार को बिना तोड़े सबसे तेज़ संभव प्रदर्शन पाया जा सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।