Tracing Agentic Failure from the Flow of Success
यह शोध पत्र OAT का प्रस्ताव करता है, जो एक हल्का, अनसुपरवाइज्ड (unsupervised) विफलता एट्रिब्यूशन मॉडल है जो सफल प्रक्षेपवक्र गतिकी (trajectory dynamics) को मॉडल करने के लिए न्यूरल कंट्रोल्ड डिफरेंशियल इक्वेशंस के साथ वन-क्लास लर्निंग का उपयोग करके LLM-आधारित एजेंटिक प्रणालियों में त्रुटि चरणों की पहचान करता है, जिससे मौजूदा प्रॉम्प्टिंग-आधारित या सुपरवाइज्ड विधियों की तुलना में काफी अधिक गति और सटीकता प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप रोबोट सहायकों की एक टीम को एक ट्रीहाउस (पेड़ पर घर) बनाने की कोशिश करते हुए देख रहे हैं। वे आपस में बात करते हैं, औज़ार पकड़ते हैं और लकड़ी को मापते हैं। अचानक, छत ढह जाती है। बड़ा सवाल यह है: किस विशिष्ट चाल ने इस आपदा को जन्म दिया? क्या वे लकड़ी को मापना भूल गए? क्या उन्होंने गलत हथौड़ा इस्तेमाल किया? या क्या वे डिज़ाइन के बारे में बहुत देर तक बहस करते रहे?
एक गलत कदम को ढूंढना एक हजार रोबोटिक क्रियाओं के ढेर में एक गिरी हुई सुई को खोजने जैसा है। आमतौर पर, इसे हल करने के लिए, विशेषज्ञों को हर असफल प्रयास में हर एक गलती को मैन्युअल रूप से लेबल करना पड़ता है, ताकि एक सुपर-स्मार्ट AI (जैसे कि एक विशाल मस्तिष्क) को गलतियों को पहचानने के लिए सिखाया जा सके। लेकिन यह धीमा, महंगा और बहुत अधिक मानवीय श्रम वाला काम है।
पेपर का बड़ा विचार: केवल सफलता से सीखना
लेखक, सैमुअल येह और उनकी टीम कहते हैं: "रुकिए। हमें गलतियों को खोजने के लिए विफलताओं का अध्ययन करने की आवश्यकता क्यों है? क्या होगा यदि हम केवल परफेक्ट ट्रीहाउस का अध्ययन करें?"
वे OAT (One-class Agent Tracing) नामक एक नया तरीका प्रस्तावित करते हैं। AI को टूटे हुए रोबोटों की लाइब्रेरी खिलाकर यह पूछने के बजाय कि "गलत" क्या दिखता है, वे इसे केवल सफल, आदर्श यात्राएं (trajectories) देते हैं। AI एक आदर्श काम के "ताल" या "प्रवाह" को सीखता है। यह सीखता है कि जब सब कुछ सही हो रहा हो, तो एक रोबोट को कैसे हिलना, सोचना और कार्य करना चाहिए।
जादुई ट्रिक: अदृश्य नदी
यहीं पर यह दिलचस्प हो जाता है। टीम रोबोट की क्रियाओं को समय के माध्यम से बहती एक नदी की तरह मानती है। वे Neural Controlled Differential Equations (Neural CDEs) नामक एक गणितीय उपकरण का उपयोग करते हैं। इसे एक अत्यंत सटीक मानचित्र के रूप में समझें जो उस "आदर्श पथ" को खींचता है जिसे एक रोबोट को लेना चाहिए।
जब कोई रोबोट विफल होता है, तो यह ऐसा होता है जैसे नदी अचानक किसी चट्टान से टकरा जाए या भंवर में बदल जाए। क्योंकि AI जानता है कि एक सुचारू, सफल नदी कैसी दिखती है, वह तुरंत पहचान सकता है कि पानी कहाँ उथल-पुथल भरा हो गया है। यह हर एक कदम को एक "अजीबोगरीब स्कोर" (anomaly score) देता है। यदि कोई कदम परफेक्ट फ्लो से बहुत अलग दिखता है, तो AI उसे अपराधी के रूप में चिह्नित कर देता है।
उन्होंने किसे खारिज किया
पेपर स्पष्ट रूप से दो सामान्य तरीकों के खिलाफ तर्क देता है:
- "विशाल मस्तिष्क से पूछें" वाला तरीका: विशाल, महंगे AI मॉडल (जैसे GPT-5) का उपयोग करना जो पूरी कहानी को पढ़कर गलती का अनुमान लगाते हैं। लेखक दिखाते हैं कि यह बहुत धीमा है और इसमें बहुत अधिक पैसा खर्च होता है।
- "सब कुछ लेबल करें" वाला तरीका: टूटे हुए रोबोटों के हजारों उदाहरण एकत्र करने की कोशिश करना और हर एक त्रुटिपूर्ण चरण को मैन्युअल रूप से लेबल करना। लेखक कहते हैं कि यह बहुत कठिन है और इसे बड़े पैमाने पर लागू करना अस्पष्ट है।
परिणाम: तेज़, सस्ता और आश्चर्यजनक रूप से बेहतर
टीम ने अपने विचार का वास्तविक डेटा पर परीक्षण किया। उन्होंने केवल 100 सफल रोबोट यात्राओं पर OAT को प्रशिक्षित किया। फिर, उन्होंने इसे उन टूटी हुई यात्राओं के परीक्षण में डाला जिन्हें इसने पहले कभी नहीं देखा था।
- गति: OAT विशाल AI मॉडलों से पूछने की तुलना में 200 से 5,000 गुना तेज़ है। इसमें "टोकन" शुल्क के रूप में शून्य अतिरिक्त पैसा खर्च होता है क्योंकि इसे समस्या को हल करने के लिए किसी बड़े मॉडल के साथ चैट करने की आवश्यकता नहीं होती है।
- सटीकता: भले ही इसने केवल 100 आदर्श उदाहरण देखे, OAT ने विशाल AI मॉडलों को भी पीछे छोड़ दिया। समान कार्यों पर परीक्षणों में, यह त्रुटियों को खोजने में 20% बेहतर था। पूरी तरह से अलग, कठिन कार्यों पर भी, यह 7% बेहतर था।
- "गेटकीपर" (Gatekeeper): उन्होंने अपने गणितीय मॉडल में एक विशेष "गेट" जोड़ा। यह गेट सिस्टम को तब शांत रहने में मदद करता है जब वह देखता है कि एक रोबोट बिल्कुल अजीब, नए तरीके से व्यवहार कर रहा है (जैसे कि किसी दूसरे ग्रह का रोबोट)। इस गेट ने सिस्टम को भ्रमित हुए बिना नई, अपरिचित स्थितियों को संभालने में बहुत बेहतर बनाया।
वे कितने आश्वस्त हैं?
लेखक इन आंकड़ों के प्रति बहुत आश्वस्त हैं क्योंकि उन्होंने विभिन्न रैंडम सीड्स के साथ कई बार परीक्षण किया और सुसंगत परिणाम प्राप्त किए। उन्होंने प्रदर्शन को मानक गणितीय स्कोर (जैसे F1 स्कोर और AUROC) का उपयोग करके मापा और पाया कि OAT लगातार प्रतिस्पर्धा से बेहतर प्रदर्शन करता है।
हालाँकि, वे सावधानी बरतते हुए कहते हैं कि हालांकि यह सिस्टम बहुत अच्छा काम करता है, लेकिन यह पूर्ण नहीं है। कुछ मामलों में, यह पहली गलती को मिस कर सकता है लेकिन उस चरण को पकड़ सकता है जहाँ त्रुटि स्पष्ट हो जाती है। वे सुझाव देते हैं कि कुछ बदलावों के साथ, यह और भी बेहतर हो सकता है, लेकिन फिलहाल, उन्होंने सिद्ध कर दिया है कि सफलता से सीखना विफलताओं को पहचानने का एक शक्तिशाली, व्यावहारिक और तेज़ तरीका है।
निष्कर्ष
यह जानने के लिए कि क्या गलत हुआ, मलबे का अध्ययन करने के बजाय, OAT एक आदर्श निर्माण के ब्लूप्रिंट को सीखता है। जब कुछ बिखर जाता है, तो इसे तुरंत पता चल जाता है कि कौन सी ईंट गलत तरीके से रखी गई थी, और यह इसे बिना किसी सुपरकंप्यूटर के बिजली की गति से करता है। यह भविष्य के रोबोटों को डीबग करने का एक नया, कुशल तरीका है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।