🤖 AI

PANDO: Efficient Multimodal AI Agents via Online Skill Distillation

PANDO एक कुशल ऑनलाइन स्किल-डिस्टिलेशन फ्रेमवर्क पेश करता है जो मल्टीमॉडल वेब एजेंटों को एक संरचित स्किल लाइब्रेरी बनाए रखने और प्रोग्रेस रिफ्लेक्शन एवं कैश-अवेयर प्रॉम्प्टिंग जैसी तकनीकों को नियोजित करने के माध्यम से प्रदर्शन में सुधार करने और टोकन खपत को कम करने में सक्षम बनाता है, जिससे मौजूदा तरीकों की तुलना में काफी कम इन्फरेंस लागत के साथ VisualWebArena पर 58.3% सफलता दर प्राप्त होती है।

मूल लेखक: Yubo Li, Yidi Miao, Haotian Shen, Yuxin Liu

प्रकाशित 2026-05-26

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yubo Li, Yidi Miao, Haotian Shen, Yuxin Liu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ PANDO पेपर का सरल भाषा में अनुवाद दिया गया है:

बड़ी समस्या: "पे-पर-क्लिक" का जाल

कल्पना कीजिए कि आप ऑनलाइन खरीदारी करने में मदद के लिए एक बहुत ही बुद्धिमान, लेकिन महंगे सहायक को काम पर रख रहे हैं। हर बार जब वह किसी वेबपेज को देखता है, कुछ करने के बारे में सोचता है, या किसी बटन पर क्लिक करता है, तो आपको उसे एक छोटी सी फीस (जिसे "टोकन" कहा जाता है) देनी पड़ती है।

वर्तमान में, अधिकांश AI एजेंट अपने काम में बेहतर होने के लिए अधिक पैसा खर्च करने की कोशिश करते हैं। यदि वे विफल हो जाते हैं, तो वे फिर से प्रयास करते हैं। यदि वे फंस जाते हैं, तो वे दूसरी राय मांगते हैं। वे एक ही कार्य को दस बार करते हैं और सबसे अच्छे परिणाम को चुनते हैं। यह काम तो करता है, लेकिन यह बहुत महंगा और धीमा है—जैसे किराने की दुकान जाने के लिए एक टैक्सी लेना, फिर यह जांचने के लिए दूसरा टैक्सी बुलाना कि क्या आप अपना बटुआ भूल गए हैं, और फिर कीमत दोबारा जांचने के लिए तीसरी टैक्सी बुलाना। यह काम तो पूरा कर देता है, लेकिन यह अविश्वसनीय रूप से महंगा और धीमा है।

इस पेपर के लेखकों ने पूछा: क्या हम एक ऐसा एजेंट बना सकते हैं जो काम करने के साथ-साथ सस्ता और तेज़ होता जाए, बजाय इसके कि वह हर बार अधिक पैसा खर्च करे?

समाधान: PANDO (द "जायंट एस्पेन" एजेंट)

शोधकर्ताओं ने P_ANDO नामक एक एजेंट बनाया। उन्होंने इसका नाम यूटा के "Pando" एस्पेन के पेड़ों के समूह के नाम पर रखा है।

रूपक (Metaphor): Pando देखने में 47,000 अलग-अलग पेड़ों जैसा लगता है, लेकिन वास्तव में वे सभी ज़मीन के नीचे एक ही जड़ प्रणाली (root system) से जुड़े हुए हैं। जब एक पेड़ बढ़ता है, तो वह दूसरों के साथ पोषक तत्व साझा करता है। जब एक पेड़ मरता है, तो जड़ प्रणाली उसे याद रखती है और पूरे जंगल को जीवित रखती है।
AI संस्करण: PANDO एक ऐसा AI एजेंट है जिसके पास एक साझा "मेमोरी रूट" (एक स्किल लाइब्रेरी) है। हर नए कार्य को एक बिल्कुल नई समस्या मानने के बजाय, यह पिछले कार्यों से सीखी गई बातों को याद रखता है और नए कार्यों को हल करने के लिए उन सीखों का उपयोग करता है।

PANDO कैसे काम करता है (4-चरणीय लूप)

PANDO केवल अनुमान नहीं लगाता। यह एक चक्र का पालन करता है: योजना (Plan) → क्रिया (Act) → चिंतन (Reflect) → सीखना (Learn)।

योजना (Plan): "दिमाग" (एक स्मार्ट, महंगा AI) एक बड़े कार्य (जैसे "500 डॉलर से कम में सबसे सस्ता गिटार खोजें") को छोटे चरणों में तोड़ता है।
क्रिया (Act): "हाथ" (एक सस्ता, तेज़ AI) वास्तव में बटन क्लिक करता है।
चिंतन (Reflect): एक "मैनेजर" जाँचता है कि क्या चरण सफल रहे। क्या प्राइस फ़िल्टर ने वास्तव में लिस्ट बदल दी? यदि नहीं, तो क्यों?
सीखना (Learn - जादुई हिस्सा): यहीं से PANDO स्मार्ट बनता है।
- स्किल लाइब्रेरी (Skill Library): यदि एजेंट सफलतापूर्वक सस्ता गिटार ढूंढ लेता है, तो वह इसकी रेसिपी लिख देता है: "सस्ती चीजें खोजने के लिए, 'Sort by Price' पर क्लिक करें और फिर 'Low to High' चुनें।" यह इसे एक नियम (Rule) या रूटीन (Routine) के रूप में सहेज लेता है।
- कौशल का पुन: उपयोग (Reusing Skills): अगली बार जब एजेंट को "सबसे महंगी" वस्तु ढूंढनी होती है, तो उसे बहुत अधिक सोचने की आवश्यकता नहीं होती। वह बस अपनी लाइब्रेरी देखता है, नियम देखता है, और "High to Low" का स्विच चालू कर देता है।
- डिमोशन (Demotion - सफाई का काम): यदि कोई नियम काम करना बंद कर देता है (उदाहरण के लिए, वेबसाइट का लेआउट बदल जाता है), तो एजेंट उसे "टूटा हुआ" मार्क कर देता है और उसका उपयोग करना बंद कर देता है। यह एजेंट को पुराने, टूटे हुए निर्देशों का उपयोग करने के चक्कर में लूप में फंसने से रोकता है।

यह गेम चेंजर क्यों है

पेपर में PANDO का परीक्षण 910 विभिन्न वेब कार्यों (शॉपिंग, क्लासिफाइड, रेडिट) पर किया गया। यहाँ क्या हुआ:

सफलता दर (Success Rate): PANDO 58.3% बार सफल रहा। यह वर्तमान के शीर्ष एजेंटों (जो लगभग 54% के आसपास थे) से बेहतर है।
लागत (Cost): यही सबसे बड़ी जीत है। PANDO ने अगले सबसे अच्छे एजेंट की तुलना में 58% कम टोकन (पैसे) का उपयोग किया।
"फ्री लंच" प्रभाव:
- शुरुआत में: PANDO थोड़ा धीमा है क्योंकि वह नियम सीख रहा है।
- बाद में: जैसे-जैसे यह अपनी कौशल लाइब्रेरी बनाता है, यह तेज़ और सस्ता होता जाता है। परीक्षण के अंत तक, यह कम चरणों और कम पैसे के साथ कार्यों को हल कर रहा था।
- उपमा: कल्पना कीजिए कि एक छात्र गणित का टेस्ट दे रहा है।
  - पुराने एजेंट: हर बार जब वे एक नई समस्या देखते हैं, तो वे सूत्र (formula) को शून्य से फिर से बनाने की कोशिश करते हैं। इसमें बहुत समय लगता है।
  - PANDO: पहली बार जब वे एक समस्या देखते हैं, तो वे उसे हल करते हैं और सूत्र को एक 'चीट शीट' पर लिख लेते हैं। अगली 99 बार, वे बस उस चीट शीट को देखते हैं। वे टेस्ट को तेज़ी से और कम मानसिक शक्ति के साथ पूरा करते हैं।

"छिपी हुई लागतें" जिनसे PANDO बचता है

पेपर बताता है कि अन्य एजेंट दो तरीकों से अपनी लागत छिपाते हैं:

प्री-इवैल्यूएशन डिस्कवरी: कुछ एजेंट टेस्ट शुरू होने से पहले ही हफ्तों तक टूल्स को "खोजने" या "प्रशिक्षण" देने में खर्च करते हैं। PANDO टेस्ट के दौरान सीखता है, इसलिए कोई छिपी हुई अग्रिम लागत नहीं होती है।
रोलआउट स्केलिंग: कुछ एजेंट बस कार्य को 10 बार आज़माते हैं और विजेता को चुनते हैं। PANDO एक बार प्रयास करता है, लेकिन अपने मेमोरी का उपयोग करके उस एक प्रयास को सार्थक बनाता है।

निष्कर्ष

PANDO साबित करता है कि AI को बेहतर बनाने के लिए आपको केवल अधिक पैसा लगाने की आवश्यकता नहीं है। इसे एक संरचित स्मृति (कौशल की लाइब्रेरी) और खराब यादों को साफ करने का तरीका (डिमोशन) देकर, एजेंट काम करने के साथ अधिक कुशल हो जाता है।

यह एक ऐसे कर्मचारी और एक ऐसे कर्मचारी के बीच का अंतर है जो हर दिन सब कुछ भूल जाता है और जिसे लगातार फिर से प्रशिक्षित करना पड़ता है, बनाम एक ऐसे कर्मचारी के बीच जो "चीजें कैसे करनी हैं" का नोटबुक रखता है और हर दिन तेज़ होता जाता है।

मुख्य बात: PANDO केवल स्मार्ट नहीं होता; यह अनुभव प्राप्त करने के साथ-साथ सस्ता भी होता जाता है।

तकनीकी सारांश: PANDO – ऑनलाइन स्किल डिस्टिलेशन के माध्यम से कुशल मल्टीमॉडल AI एजेंट

समस्या विवरण

हालिया मल्टीमॉडल वेब एजेंटों में प्रगति मुख्य रूप से एक "टोकन इकोनॉमी" पर आधारित रही है जहाँ बेहतर प्रदर्शन को बढ़े हुए इन्फरेंस खर्चों के माध्यम से खरीदा जाता है। इसमें रोलआउट सर्च का विस्तार करना (जैसे, Best-of-N), वेरीफायर पासेस जोड़ना, ऑफलाइन टूल डिस्कवरी करना, या स्पेशलिस्ट मॉडल्स को स्टैक करना शामिल है। हालांकि ये बेंचमार्क स्कोर के लिए प्रभावी हैं, लेकिन यह दृष्टिकोण टोकन व्यय और सफलता के बीच एक रैखिक या सुपर-लीनियर संबंध बनाता है, जिससे उच्च विलंबता (latency), ऊर्जा की खपत और प्री-इवैल्यूएशन डिस्कवरी से जुड़े छिपे हुए खर्च उत्पन्न होते हैं।

लेखक VisualWebArena (VWA) बेंचमार्क पर वर्तमान एजेंट प्रक्षेपवक्र (trajectories) में तीन विशिष्ट यांत्रिक अक्षमताओं की पहचान करते हैं:

रिपीट-एक्शन लूप्स (Repeat-action loops): एजेंट अक्सर बार-बार दोहराए जाने वाले कार्यों के लूप में फंस जाते हैं (इमेज-एनोटेटेड विफलताओं में 34–42%)।
छिपी हुई डिस्कवरी लागत (Hidden discovery costs): WALT जैसे सिस्टम महत्वपूर्ण ऑफलाइन एक्सप्लोरेशन लागत उठाते हैं जो अक्सर प्रति-कार्य रिपोर्ट किए गए मेट्रिक्स में शामिल नहीं होते हैं।
प्रॉम्ट-आर्किटेक्चर अक्षमता (Prompt-architecture inefficiency): टेक्स्ट/कैप्शन विधियों में लो प्रॉम्ट-कैश यूटिलाइजेशन (<11%) दिखता है, जो एजेंट द्वारा अनुभव संचित करने के साथ स्थिर प्रीफिक्स का लाभ उठाने में विफल रहता है।

केंद्रीय प्रश्न यह है कि क्या एक एजेंट अनुभव संचित करने के साथ अधिक कुशल हो सकता है, बजाय इसके कि वह हर कार्य पर एक निश्चित "रीजनिंग टैक्स" चुकाता रहे।

कार्यप्रणाली: PANDO फ्रेमवर्क

PANDO (Pando एस्पेन ग्रोव के नाम पर, जो कई तनों को सहारा देने वाली एक एकल जड़ प्रणाली है), एक सिंगल-रोलआउट, ऑनलाइन स्किल-डिस्टिलेशन फ्रेमवर्क है। यह एक Plan → Act → Reflect → Learn लूप पर संचालित होता है, जिसे बिना किसी प्री-इवैल्यूएशन डिस्कवरी बजट के मूल्यांकन के दौरान एक संरचित 'स्किल लाइब्रेरी' विकसित करने के लिए डिज़ाइन किया गया है।

मुख्य घटक

स्ट्रक्चर्ड स्किल लाइब्रेरी ( $S_t$ ):
- लाइब्रेरी रूल्स (निश्चित, पैटर्न-ट्रिगर्ड गार्डरेल्स) और रूटीन्स (पैरामीटराइज्ड, एक्जीक्यूटेबल प्रोग्राम-एज़-एक्शन स्किल्स) का एक विलगित संघ (disjoint union) है।
- रिट्रीवल (Retrieval): एम्बेडिंग-आधारित रिट्रीवल के विपरीत, PANDO नियत (deterministic), ऑडिट करने योग्य और कैश-फ्रेंडली रिट्रीवल के लिए लिटरल कीवर्ड कंटेनमेंट का उपयोग करता है।
- लाइफसाइकिल मैनेजमेंट: लाइब्रेरी स्थिर नहीं है; यह ऑनलाइन बढ़ती है। सफल सब-ट्रैजेक्टरीज को रूटीन्स में प्रेरित किया जाता है, जबकि विफल पथों को ट्रैक किया जाता है।
लर्निंग और डिस्टिलेशन (Learning and Distillation):
- इंडक्शन (Induction): एक सफल प्रक्षेपवक्र के बाद, लर्निंग मॉड्यूल उन कैंडिडेट स्किल्स को निकालता है जिनमें पुन: प्रयोज्य सबगोल टेम्पलेट और सत्यापित सेलेक्टर पैटर्न होते हैं।
- पोलैरिटी-पेयर मर्जिंग (Polarity-Pair Merging): लाइब्रेरी के बढ़ने से रोकने के लिए, वे रूटीन्स जो केवल दिशा (जैसे, "सबसे सस्ता" बनाम "सबसे महंगा") में भिन्न होते हैं, उन्हें एक सिंगल पैरामीटराइज्ड रूटीन $f_{\pm}(x, d)$ में मर्ज कर दिया जाता है।
- कॉन्फिडेंस-आधारित डिमोशन (Confidence-Based Demotion): स्किल्स रनिंग कॉन्फिडेंस अनुमान ( $c_s = \alpha_s / (\alpha_s + \beta_s)$ ) बनाए रखती हैं। यदि कोई स्किल बार-बार विफल होती है, तो उसे एक डिमोशन ब्लैकलिस्ट में स्थानांतरित कर दिया जाता है, जिससे एजेंट को नाजुक रूटीन्स के साथ पुनः खोजने और विफल होने से रोका जा सके।
एक्जीक्यूशन इकोनॉमी (Execution Economy):
- हायरार्किकल रूटिंग (Hierarchical Routing): डिकम्पोजिशन और रिफ्लेक्शन के लिए एक मजबूत मॉडल (Planner) का स्पार्सली उपयोग किया जाता है। एक सस्ता मॉडल (Actor) हाई-फ्रीक्वेंसी ग्राउंडिंग को संभालता है।
- विजुअल कम्प्रेशन (Visual Compression): डोमिनेंट एक्टर टर्म के टोकन लोड को कम करने के लिए विजुअल इनपुट को कंप्रेस करता है।
- कैश-अवेयर प्रॉम्टिंग (Cache-Aware Prompting): प्रॉम्ट लेआउट को इस तरह व्यवस्थित किया गया है कि स्थिर निर्देशों और स्किल सारांशों को अस्थिर ऑब्जर्वेशन से पहले रखा जाए, जिससे लाइब्रेरी बढ़ने के साथ KV-कैश यूटिलाइजेशन अधिकतम हो सके।
लागत अपघटन (Cost Decomposition):
पेपर एजेंट लागत को चार योज्य (additive) पदों में औपचारिक रूप देता है:
$C(\pi; B) = \frac{C_{pre}}{|B|} + N_{rollout} C_{exec} + C_{verify} + C_{induce}$
PANDO का लक्ष्य $C_{pre}=0$ ($no $ऑफलाइन डिस्कवरी),$ N_{rollout}=1 $(सिंगल रोलआउट), और टास्क स्ट्रीम के भीतर ही भुगतान किया जाने वाला एक छोटा$ C_{induce} $प्राप्त करना है, जबकि स्किल पुन: उपयोग के माध्यम से$ C_{exec}$ को न्यूनतम करना है।

मुख्य योगदान

टोकन-इकोनॉमिक्स फ्रेमिंग: लेखकों ने एक कॉस्ट आइडेंटिटी को औपचारिक रूप दिया जो प्री-इवैल्यूएशन डिस्कवरी, रोलआउट स्केलिंग, वेरिफिकेशन और ऑनलाइन इंडक्शन को अलग करती है, और तर्क देती है कि वर्तमान बेंचमार्क अक्सर इन अलग-अलग 'कॉस्ट करेंसी' को छिपा देते हैं।
स्ट्रक्चर्ड स्किल-लर्निंग फ्रेमवर्क: PANDO पैटर्न-इंडेक्स्ड रूल्स, पैरामीटराइज्ड रूटीन्स, ऑनलाइन डिस्टिलेशन, पोलैरिटी-पेयर मर्जिंग, कॉन्फिडेंस-आधारित डिमोशन और कैश-अवेयर प्रॉम्टिंग को एक एकल एजेंट में एकीकृत करता है।
इंट्रिंसिक एफिशिएंसी मेट्रिक्स: सक्सेस रेट (SR) के अलावा, पेपर प्रक्षेपवक्र-स्तर की अक्षमताओं को निदान करने के लिए एक्शन रिपिटिशन रेट (ARR), स्टेप ओवरहेड रेश्यो (SOR), और प्रॉम्ट कैश यूटिलाइजेशन पेश करता है।
स्टेट-ऑफ-द-आर्ट परिणाम: PANDO सभी मूल्यांकित बेसलाइन्स की तुलना में काफी कम टोकन के साथ उच्च सफलता दर प्रदान करते हुए VWA पर एक नया पारेटो फ्रंटियर (Pareto frontier) प्राप्त करता है।

प्रयोगात्मक परिणाम

सभी 910 कार्यों के लिए VisualWebArena बेंचमार्क पर मूल्यांकित:

सफलता दर (SR): PANDO 58.3% प्राप्त करता है, जो SGV (54.0%) और WALT के रिप्रोडक्शन (45.2%) से आगे है।
टोकन दक्षता: PANDO प्रति कार्य औसतन 115K टोकन का उपयोग करता है। यह SGV (275K) से 58% कम और WALT (294K) से 61% कम है।
इंट्रिंसिक मेट्रिक्स:
- ARR: 9.1% (स्वचालित विधियों में सबसे कम), जो प्रभावी लूप अवॉयडेंस को दर्शाता है।
- SOR: 1.8× (सबसे कम), जो दिखाता है कि विफल कार्यों के कारण अत्यधिक स्टेप पेनल्टी नहीं होती है।
- कैश यूटिलाइजेशन: 72.4% (सबसे अधिक), जो स्थिर प्रॉम्ट प्रीफिक्स की प्रभावशीलता को प्रदर्शित करता है।
एब्लेशन स्टडीज (VWA-300):
- स्किल कंपोनेंट्स: रूल्स, रूटीन्स और ऑनलाइन डिस्टिलेशन ने SR में अधिकांश वृद्धि (38.6% से 57.3% तक) प्रदान की।
- एफिशिएंसी कंपोनेंट्स: हायरार्किकल रूटिंग, विजुअल कम्प्रेशन और कैश-अवेयर प्रॉम्टिंग ने SR में न्यूनतम योगदान दिया लेकिन वे टोकन कमी (147K से 117K तक) और बढ़े हुए कैश यूटिलाइजेशन के लिए जिम्मेदार थे।
लर्निंग डायनेमिक्स: सिस्टम एक "कोल्ड-स्टार्ट" चरण प्रदर्शित करता है जिसमें उच्च स्टेप काउंट (~30 स्टेप्स/टास्क) होता है जो लाइब्रेरी परिपक्व होने पर ~8.5 स्टेप्स/टास्क पर स्थिर हो जाता है। स्किल लाइब्रेरी स्ट्रीम के दौरान 12 सीड रूटीन्स से बढ़कर 47 इंड्यूस्ड रूटीन्स (डिमोशन के बाद 32 सक्रिय) हो गई।

महत्व और दावे

पेपर दावा करता है कि PANDO यह प्रदर्शित करता है कि वेब-एजेंट प्रगति को केवल बढ़े हुए रोलआउट्स, छिपे हुए डिस्कवरी बजट, या प्रति-स्टेप स्पेशलिस्ट स्टैकिंग के माध्यम से नहीं खरीदा जाना चाहिए।

पुन: प्रयोज्यता एक पूंजी के रूप में (Reusability as Capital): मुख्य अंतर्दृष्टि यह है कि पिछला टोकन व्यय पुन: प्रयोज्य पूंजी बनना चाहिए। एक संरचित, ऑडिट करने योग्य लाइब्रेरी में अनुभव को डिस्टिल करके, एजेंट समय के साथ अपने मार्जिनल इन्फरेंस लोड को कम करता है।
पारदर्शिता: ब्लैक-बॉक्स वेक्टर स्टोर्स या ऑफलाइन डिस्कवरी चरणों के विपरीत, PANDO की स्किल लाइब्रेरी निरीक्षण योग्य, नियत और प्रॉम्ट कैशिंग के तहत स्थिर है।
बेंचमार्क रिपोर्टिंग: लेखक तर्क देते हैं कि कंप्यूटर-यूज़ बेंचमार्क को एजेंट की पूर्ण दक्षता का पूरा चित्र प्रदान करने के लिए SR के साथ-साथ रॉ टोकन, कैश-टोकन शेयर, छिपे हुए डिस्कवरी स्पेंड और लेटेंसी को भी रिपोर्ट करना चाहिए।

पेपर निष्कर्ष निकालता है कि PANDO एक नया पारेटो-ऑप्टिमल पॉइंट प्राप्त करता है: उच्च सटीकता कम मार्जिनल लागत के साथ, जो यह सुझाव देता है कि "दक्षता कम काम करने से नहीं, बल्कि यह सुनिश्चित करने से प्राप्त होती है कि जो किया जा रहा है उसका कहीं न कहीं उपयोग हो।"