When Not to Imitate: Boundary-Aware Skill Memory for Reliable Tool-Use LLM Agents

आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, शोधकर्ता कंप्यूटर प्रोग्रामों को स्वायत्त एजेंट (autonomous agents) के रूप में कार्य करने के लिए प्रशिक्षित कर रहे हैं। इन एजेंटों को जटिल डिजिटल वातावरण में नेविगेट करने के लिए डिज़ाइन किया गया है, जो समस्याओं को हल करने के लिए सॉफ्टवेयर अनुप्रयोगों और वेब सेवाओं जैसे उपकरणों का उपयोग करते हैं जिनमें कई चरण शामिल होते हैं। इन एजेंटों को बनाने में एक केंद्रीय चुनौती उन्हें निरंतर मानवीय पर्यवेक्षण के बिना अनुभव से सीखने में मदद करना है। प्रचलित विचार यह रहा है कि यदि कोई एजेंट किसी कार्य में सफल होता है, तो उसे उस सफलता को एक "कौशल" (skill) के रूप में सहेजना चाहिए और जब भी ऐसी ही स्थिति उत्पन्न हो, तो उसका पुन: उपयोग करना चाहिए। यह दृष्टिकोण इस धारणा पर आधारित है कि पिछली जीतें हमेशा भविष्य के कार्यों के लिए अच्छे मार्गदर्शक होती हैं, और एक एजेंट जितने अधिक सफल उदाहरण याद रख सकता है, उसका प्रदर्शन उतना ही बेहतर होगा। हालांकि, यह धारणा एक महत्वपूर्ण दोष की अनदेखी करती है: केवल इसलिए कि एक पिछला समाधान एक संदर्भ में काम कर गया, इसका मतलब यह नहीं है कि वह दूसरे संदर्भ में सुरक्षित या सही भी होगा।

शोधकर्ताओं की एक टीम ने एक विशिष्ट विफलता मोड की पहचान की है जहाँ यह पारंपरिक पद्धति प्रतिकूल परिणाम देती है। वे इसे "स्किल इमिटेशन ट्रैप" (Skill Imitation Trap - कौशल नकल का जाल) कहते हैं। जब एक एजेंट अपने वर्तमान प्रश्न के समान दिखने वाली किसी पिछली सफलता की स्मृति को पुनः प्राप्त करता है, तो वह अक्सर पुराने कार्यों की अंधाधुंध नकल करता है, भले ही नई स्थिति में पूरी तरह से अलग दृष्टिकोण की आवश्यकता हो। एजेंट परिचित पैटर्न के प्रति इतना आश्वस्त हो जाता है कि वह उन सूक्ष्म अंतरों को अनदेखा कर देता है जो पुराने समाधान को खतरनाक या गलत बनाते हैं। इसे ठीक करने के लिए, शोधकर्ताओं ने "बाउंड्री-अवेयर स्किल मेमोरी" (Boundary-Aware Skill Memory) नामक एक नई प्रणाली विकसित की। केवल एक सफल कार्य के चरणों को सहेजने के बजाय, यह प्रणाली एजेंट को उन विशिष्ट स्थितियों को भी रिकॉर्ड करने के लिए मजबूर करती है जिनमें वे चरण उपयोग करने के लिए सुरक्षित हैं, वे चेतावनी संकेत जो दर्शाते हैं कि उनका उपयोग नहीं किया जाना चाहिए, और यदि चीजें गलत हो जाती हैं तो कैसे सुधार किया जाए। प्रत्येक स्मृति में ये "सीमा" (boundary) नियम जोड़ने से, एजेंट न केवल यह सीखता है कि क्या करना है, बल्कि यह भी सीखता है कि कब करना है और कब रुकना है।

शोधकर्ताओं ने इस नए दृष्टिकोण का परीक्षण करने के लिए विश्लेषण किया कि बड़े भाषा मॉडल (large language models) कैसा व्यवहार करते हैं जब उन्हें पिछली सफलताओं तक पहुंच दी जाती है। उन्होंने पाया कि जैसे-जैसे वे एजेंट की स्मृति में अधिक सफल उदाहरण जोड़ते गए, गलत विकल्प चुनने में एजेंट का आत्मविश्वास वास्तव में बढ़ गया। एक विशिष्ट परीक्षण में, जब एजेंट के सामने ऐसी स्थिति आई जहाँ एक पिछला सफल उदाहरण समान था लेकिन लागू करने योग्य नहीं था, तो अधिक स्मृतियों को पुनः प्राप्त करने से एजेंट के गलत उपकरण को चुनने की संभावना बिना किसी स्मृति वाले एजेंट की तुलना में 47 प्रतिशत अधिक हो गई। एजेंट अनिवार्य रूप से अपने ही इतिहास द्वारा ठगा जा रहा था, वह पिछले समाधान को एक सार्वभौमिक नियम के रूप में, न कि एक संदर्भ-विशिष्ट नियम के रूप में मान रहा था। विश्लेषण ने दिखाया कि मॉडल पिछले कार्य के "कैसे" (how) यानी चरणों के क्रम पर पूरी तरह से ध्यान केंद्रित कर रहा था—जबकि इस बात को पूरी तरह से अनदेखा कर रहा था कि क्या वर्तमान स्थिति उस कार्य के लिए आवश्यक आवश्यकताओं से मेल खाती है।

इसे हल करने के लिए, टीम ने स्मृतियों को संग्रहीत करने का एक नया तरीका डिजाइन किया। उन्होंने प्रत्येक कौशल के लिए एक संरचित प्रारूप बनाया जिसमें सात विशिष्ट भाग शामिल हैं। पहले तीन भाग लक्ष्य, प्रक्रिया और उपयोग किए गए उपकरणों का वर्णन करते हैं, जो सफलता को रिकॉर्ड करने का मानक तरीका है। अन्य चार भाग नए जुड़ाव हैं: वे उन विशिष्ट स्थितियों को सूचीबद्ध करते हैं जहाँ कौशल लागू होता है, वे चेतावनी संकेत जो बताते हैं कि यह जोखिम भरा है, वे नियम कि क्या बचना है, और गलतियों को होने पर उन्हें कैसे ठीक किया जाए, इस पर नोट्स। जब एजेंट के सामने एक नया कार्य आता है, तो वह इन समृद्ध स्मृतियों को पुनः प्राप्त करता है। यदि वर्तमान स्थिति शर्तों से मेल खाती है, तो एजेंट उस कौशल का उपयोग करता है। यदि स्थिति जोखिम भरी है या शर्तें पूरी नहीं होती हैं, तो एजेंट पुराने कार्य की नकल करने की इच्छा को दबाने के लिए चेतावनी संकेतों का उपयोग करता है। यदि एजेंट कोई गलती करता है, तो रिकवरी नोट्स उसे विफल पैटर्न को दोहराने के बजाय त्रुटि को स्थानीय स्तर पर ठीक करने के लिए मार्गदर्शन करते हैं।

इस नई पद्धति के परिणाम विभिन्न परीक्षणों और विभिन्न आकारों के कंप्यूटर मॉडलों में सुसंगत रहे। सॉफ्टवेयर टूल का उपयोग करने की क्षमता का परीक्षण करने वाले एक बेंचमार्क पर, इस नई प्रणाली ने पुराने तरीके की तुलना में सफलता दर में 23.8 प्रतिशत तक सुधार किया। फंक्शन कॉल की सटीकता को मापने वाले एक अन्य परीक्षण में, इसने सटीकता में 5.0 प्रतिशत तक सुधार किया। शायद सबसे महत्वपूर्ण बात यह है कि नए सिस्टम ने एजेंटों को अधिक सुरक्षित बनाया। एक परीक्षण में, जिसे यह देखने के लिए डिज़ाइन किया गया था कि क्या एजेंटों को हानिकारक कार्यों को करने के लिए बहकाया जा सकता है, इस नए तरीके ने उन हमलों की सफलता दर को 4.6 प्रतिशत कम कर दिया। एजेंट अधिक कुशल भी हो गए, क्योंकि वे गलत समाधान लागू करने में समय बर्बाद करना बंद कर देते हैं और कम चरणों में कार्य पूरा करते हैं।

शोधकर्ताओं ने पुष्टि की कि यह सुधार केवल प्रॉम्प्ट में अधिक टेक्स्ट होने या निर्देशों की लंबी सूची का परिणाम नहीं था। उन्होंने कंप्यूटर मॉडलों द्वारा सूचना को संसाधित करने के तरीके पर विस्तृत जांच की। उन्होंने पाया कि जब एजेंट जोखिम भरी स्थिति में होता है, तो वह नए बाउंड्री नियमों, जैसे कि चेतावनी संकेतों और बचाव नियमों को पढ़ने के लिए अपना ध्यान सक्रिय रूप से स्थानांतरित करता है। जब उन्होंने एजेंट को इन विशिष्ट नियमों को पढ़ने से कृत्रिम रूप से रोक दिया, तो एजेंट तुरंत पुराने जाल में वापस गिर गया, और गलत चुनाव करने में फिर से आश्वस्त हो गया। इससे सिद्ध हुआ कि बाउंड्री नियम ही वे मुख्य तंत्र थे जो एजेंट को पिछली सफलताओं की अंधाधुंध नकल करने से रोक रहे थे। यह अध्ययन प्रदर्शित करता है कि कृत्रिम एजेंटों के विश्वसनीय रूप से विकसित होने और सुधार करने के लिए, उन्हें केवल सफलताओं के पुस्तकालय की ही नहीं, बल्कि उन सीमाओं की स्पष्ट समझ की भी आवश्यकता है जो यह परिभाषित करती हैं कि वे सफलताएं कब वैध हैं।