Learning Correct Behavior from Examples: Validating Sequential Execution in Autonomous Agents
यह शोध पत्र एक नवीन एल्गोरिदम प्रस्तुत करता है जो केवल 2-10 निष्पादन ट्रेसेस (execution traces) से सामान्यीकृत ग्राउंड ट्रुथ मॉडल सीखकर स्वायत्त एजेंटों के अनुक्रमिक व्यवहार को मान्य करता है, जो डोमिनेटर विश्लेषण और मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स का लाभ उठाकर विविध डोमेन में बग डिटेक्शन और व्याख्या योग्य सत्यापन में उच्च सटीकता प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, लेकिन थोड़े अराजक (chaotic) रोबोटिक सहायक को कॉफी का कप बनाना सिखा रहे हैं।
पुराने दिनों में, यदि आप यह जांचना चाहते थे कि रोबोट ने काम सही ढंग से किया या नहीं, तो आपको एक सख्त नियम पुस्तिका लिखनी पड़ती: "पहले मग पकड़ो। फिर बटन दबाओ। फिर ठीक 3 सेकंड प्रतीक्षा करो। फिर डालो।" यदि रोबोट ने मग पकड़ा, बटन दबाया, और मशीन उस दिन तेज़ होने के कारण 2 सेकंड में ही कॉफी डाल दी, तो आपकी सख्त नियम पुस्तिका चिल्ला उठती, "त्रुटि (ERROR)! आपने 3 सेकंड प्रतीक्षा नहीं की!" और रोब melalui विफल कर देती, भले ही कॉफी एकदम सही बनी हो।
यही आधुनिक AI एजेंटों का परीक्षण करने की समस्या है। वे लचीले होते हैं। कभी-कभी वे कोई छोटा रास्ता अपनाते हैं; कभी-कभी वे अधिक समय लेते हैं। वे हर बार बिल्कुल एक ही रास्ते का पालन नहीं करते, भले ही वे काम सही ढंग से कर रहे हों।
यह शोध पत्र इन एजेंटों का परीक्षण करने का एक नया तरीका पेश करता है जो एक सख्त नियम पुस्तिका के बजाय एक स्मार्ट मेंटर (शिक्षक) की तरह है।
मुख्य विचार: "अच्छे दिनों" से सीखना
नियम लिखने के बजाय, सिस्टम एजेंट से कार्य को सफलतापूर्वक केवल 2 से 10 बार करने के लिए कहता है। यह उन "अच्छे दिनों" को देखता है और एक मानसिक मानचित्र बनाता है कि क्या होना अनिवार्य है और क्या बदल सकता है।
इसे ऐसे समझें जैसे आप दोस्तों के एक समूह को एक विशिष्ट रेस्तरां तक पहुँचने के लिए शहर में रास्ता खोजते हुए देख रहे हैं:
- दोस्त A सबवे लेता है, मुख्य स्टेशन पर उतरता है, पार्क से होकर गुजरता है और पहुँच जाता है।
- दोस्त B बस लेता है, दो ब्लॉक दूर उतरता है, एक बेकरी के पास से गुजरता है और पहुँच जाता है।
- दोस्त C सबवे लेता है, मुख्य स्टेशन पर उतरता है, पार्क से होकर गुजरता है, लेकिन पहुँचने से पहले अपने जूते के फीते बांधने के लिए रुकता है।
एक सख्त परीक्षक कहेगा, "दोस्त B विफल रहा क्योंकि उसने सबवे नहीं लिया!" या "दोस्त C विफल रहा क्योंकि वह रुका!"
लेकिन यह नया सिस्टम अधिक स्मार्ट है। यह सभी तीन रास्तों को देखता है और पहचानता है:
- अनिवार्य पड़ाव (The "Dominator" Tree): हर किसी को घर से शुरू करना होगा और रेस्तरां पर खत्म करना होगा। ये गैर-परक्राम्य (non-negotiable) चेकपॉइंट्स हैं।
- वैकल्पिक पड़ाव: पार्क, बेकरी और जूते के फीते बांधना केवल बदलाव (variations) हैं। वे अच्छे हैं, लेकिन अनिवार्य नहीं हैं।
यह कैसे काम करता है (तीन चरण)
1. "फोटो एल्बम" (ट्रेस कैप्चर करना)
सिस्टम एजेंट द्वारा कार्य को सही ढंग से करने के कुछ स्क्रीनशॉट लेता है (या कार्यों को रिकॉर्ड करता है)। यह इन्हें एक फ्लोचार्ट में बदल देता है, जैसे कि एक "चूज़ योर ओन एडवेंचर" (Choose Your Own Adventure) पुस्तक, जहाँ प्रत्येक सफल पथ को रिकॉर्ड किया जाता है।
2. "स्मार्ट मर्जर" (पैटर्न खोजना)
यही जादुई हिस्सा है। सिस्टम यह पता लगाने के लिए कि क्या महत्वपूर्ण है, दो उपकरणों का उपयोग करता है:
- आंख (विजुअल मेट्रिक्स): यह स्क्रीनशॉट को देखता है। यदि दो स्क्रीन 99% समान दिखती हैं, तो यह उन्हें एक ही चरण मानता है।
- दिमाग (LLM विश्लेषण): कभी-कभी स्क्रीन अलग दिखती हैं लेकिन उनका अर्थ एक ही होता है (जैसे, एक विंडो थोड़ी बड़ी है, या घड़ी का समय बदल गया है)। सिस्टम एक शक्तिशाली AI भाषा मॉडल से पूछता है: "क्या ये अंतर महत्वपूर्ण हैं, या केवल दिखावटी हैं?" यदि AI कहता है, "नहीं, यह केवल एक अलग फ़ॉन्ट है," तो सिस्टम उसे अनदेखा कर देता है।
इन रास्तों को जोड़कर, सिस्टम एक "डोमिनेटर ट्री" (Dominator Tree) बनाता है। यह एक सरलीकृत मानचित्र है जो केवल उन महत्वपूर्ण मील के पत्थरों (milestones) को दिखाता है जिनसे हर सफल प्रयास गुजरा था। यह शोर (जैसे लोडिंग स्क्रीन जो कभी आती है और कभी नहीं) को फ़िल्टर कर देता है।
3. "चेकलिस्ट" (नए रन का सत्यापन)
जब एजेंट कार्य को फिर से करने की कोशिश करता है, तो सिस्टम यह जाँच नहीं करता कि क्या उसने ठीक उसी पथ का पालन किया। इसके बजाय, वह पूछता है: "क्या आपने सही क्रम में सभी महत्वपूर्ण मील के पत्थरों को छुआ?"
- यदि एजेंट ने "मुख्य विंडो" को छोड़ दिया और सीधे "परिणाम" (Results) पर चला गया, तो सिस्टम कहता है, "विफल (FAIL)।" (आपने एक महत्वपूर्ण पड़ाव छोड़ दिया)।
- यदि एजेंट ने "लोडिंग स्क्रीन" (जो कि वैकल्पिक है) को छोड़ दिया, तो सिस्टम कहता है, "सफल (PASS)।" (आपने काम कुशलतापूर्वक पूरा किया)।
यह क्यों महत्वपूर्ण है
इस शोध पत्र का परीक्षण एक कंप्यूटर एजेंट पर किया गया जिसे एक कोड एडिटर खोलने और टेक्स्ट खोजने का कार्य दिया गया था।
- पुराना तरीका (स्व-रिपोर्टिंग): एजेंट अक्सर कहता था, "मैंने कर लिया!" भले ही वह विफल रहा हो, या कहता था, "मैं विफल हो गया!" जब वास्तव में वह सफल रहा हो, क्योंकि वह समय संबंधी समस्याओं के कारण भ्रमित हो जाता था। इसकी सटीकता केवल 82% थी।
- नया तरीका: केवल 3 सफल उदाहरणों से सीखे गए "डोमिनेटर ट्री" का उपयोग करके, सिस्टम ने 100% सटीकता प्राप्त की। यह पहचान सका कि एजेंट वास्तव में सॉफ़्टवेयर को तोड़ रहा था (एक उत्पाद बग) बनाम जब वह केवल धीमे इंटरनेट कनेक्शन के कारण लड़खड़ा रहा था (एक एजेंट संबंधी समस्या)।
निष्कर्ष
यह शोध पत्र एक ऐसा उपकरण प्रस्तुत करता है जो एक AI को खुद को ग्रेड करना सिखाता है। हजारों उदाहरणों या एक कठोर नियम पुस्तिका की आवश्यकता के बजाय, यह केवल कुछ अच्छे उदाहरणों से एक सही कार्य के "कंकाल" (skeleton) को सीख लेता है। यह समझता है कि हालांकि यात्रा भिन्न हो सकती है, लेकिन गंतव्य और मुख्य मील के पत्थर समान रहने चाहिए। यह स्वायत्त एजेंटों (autonomous agents) का परीक्षण करना बहुत अधिक विश्वसनीय और गलत अलार्म से मुक्त बनाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।