SoK: Agentic Skills -- Beyond Tool Use in LLM Agents
यह शोध पत्र एजेंटिक कौशल (agentic skills) पर एक व्यापक ज्ञान का व्यवस्थितकरण (Systematization of Knowledge - SoK) प्रस्तुत करता है, जो उनके डिज़ाइन और प्रतिनिधित्व के लिए दोहरी वर्गीकरण प्रणालियों (dual taxonomies) को पेश करता है, क्लॉहैवक (ClawHavoc) अभियान द्वारा स्पष्ट किए गए महत्वपूर्ण सुरक्षा जोखिमों का विश्लेषण करता है, और भविष्य की चुनौतियों को रेखांकित करने के लिए एजेंट विश्वसनीयता पर उनके प्रभाव का मूल्यांकन करता है ताकि सुदृढ़, सत्यापन योग्य स्वायत्त प्रणालियों का मार्ग प्रशस्त किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक बेहद बुद्धिमान लेकिन बहुत भुलक्कड़ व्यक्तिगत सहायक (AI एजेंट) को काम पर रखा है। यह सहायक अविश्वसनीय रूप से स्मार्ट है और लगभग किसी भी अन्य व्यक्ति से बेहतर पढ़, लिख और तर्क कर सकता है। हालाँकि, इसमें एक बड़ी खामी है: इसे चीजें करने के तरीके के लिए कोई दीर्घकालिक स्मृति (long-term memory) नहीं है।
हर बार जब आप इसे नल ठीक करने, केक बनाने या कंप्यूटर प्रोग्राम को डीबग करने के लिए कहते हैं, तो इसे पूरी प्रक्रिया को शून्य से फिर से समझना पड़ता है, जैसे कि इसने पहले कभी ऐसा न किया हो। यह एक बार सही हो सकता है, लेकिन यदि आप कल फिर से पूछेंगे, तो इसे चरणों को फिर से सीखना होगा। यह अक्षम, धीमा और गलतियों के प्रति संवेदनशील है।
यह शोध पत्र एक "स्किल लाइब्रेरी" (कौशल पुस्तकालय) देने के बारे में है।
AI से हर बार हर एक कदम के बारे में "सोचने" के बजाय, हम इसे पूर्व-पैकेज किए गए, पुन: प्रयोज्य निर्देशों का एक संग्रह देते हैं जिसे एजेंटिक स्किल्स (Agentic Skills) कहा जाता है। इन्हें केवल औजारों (जैसे हथौड़ा) की तरह न समझें, बल्कि इन्हें रेसिपी या मानक संचालन प्रक्रियाओं (Standard Operating Procedures) के रूप में समझें जिन्हें AI शेल्फ से निकाल सकता है, पढ़ सकता है और पूरी तरह से निष्पादित कर सकता है।
यहाँ रोजमर्रा के उदाहरणों का उपयोग करके इस शोध पत्र के मुख्य विचारों का विवरण दिया गया है:
1. एक "स्किल" क्या है? (रेसिपी कार्ड)
अतीत में, AI एजेंट केवल "टूल्स" (जैसे सर्च इंजन या कैलकुलेटर) का उपयोग करते थे। टूल एक अकेले हथौड़े की तरह है: आप एक कील ठोकते हैं, और काम हो जाता है।
एक स्किल (Skill) एक पूरी रेसिपी है।
- टूल: "हथौड़ा।"
- स्कilled: "पक्षी का घर कैसे बनाएं।" इसमें शामिल है: जांचें कि आपके पास लकड़ी है या नहीं (शर्त), इन क्रम में टुकड़ों को कील से जोड़ें (नीति), जब छत लग जाए तो रुक जाएं (समाप्ति), और मुझे तैयार बॉक्स थमा दें (इंटरफेस)।
यह शोध पत्र तर्क देता है कि AI के वास्तव में उपयोगी होने के लिए, इसे केवल हथौड़े नहीं, बल्कि इन पूरी रेसिपी की आवश्यकता है।
2. जीवन चक्र: स्किल्स कैसे विकसित होते हैं
यह शोध पत्र एक स्किल के पूरे जीवन को, जन्म से लेकर सेवानिवृत्ति तक, एक पौधे की तरह दर्शाता है:
- डिस्कवरी (खोज): यह नोटिस करना कि आप बार-बार एक ही काम कर रहे हैं (जैसे, "मुझे हमेशा इस रिपोर्ट को फॉर्मेट करना पड़ता है")।
- प्रैक्टिस (अभ्यास): इसे आज़माना, विफल होना और रेसिपी को तब तक ठीक करना जब तक कि यह काम न करने लगे।
- डिस्टिलेशन (निक्षेपण): उस अंतिम, पूर्ण रेसिपी को संक्षिप्त और स्पष्ट रूप रूप से लिखना।
- स्टोरेज (भंडारण): रेसिपी को एक लाइब्रेरी (डिजिटल कुकबुक) में रखना।
- रिट्रीवल (पुनर्प्राप्ति): जब आपको रिपोर्ट फॉर्मेट करने की आवश्यकता होती है, तो AI रेसिपी खोज लेता है।
- एक्ज़ीक्यूशन (निष्पादन): AI रेसिपी का पालन करता है।
- अपडेट (अद्यतन): यदि सॉफ़्टवेयर बदल जाता है, तो रेसिपी को अपडेट किया जाता है या हटा दिया जाता है।
3. स्किल्स को व्यवस्थित करने के सात तरीके (डिज़ाइन पैटर्न)
लेखकों ने पाया कि सिस्टम इन रेसिपी बुक्स को सात अलग-अलग तरीकों से व्यवस्थित करते हैं:
- मेन्यू (मेटाडेटा): AI स्किल के नामों की एक सूची देखता है। यह पूरी रेसिपी तभी पढ़ता है जब वह तय करता है कि उसे उस विशिष्ट व्यंजन की आवश्यकता है। (मेमोरी बचाता है)।
- कोड स्क्रिप्ट: स्किल एक कंप्यूटर प्रोग्राम है। यह सटीक और विश्वसनीय है, जैसे एक रोबोटिक हाथ सटीक निर्देशांकों का पालन करता है।
- सख्त मैनेजर: स्किल AI को एक कठोर क्रम का पालन करने के लिए मजबूर करता है (जैसे, "आपको कोड सेव करने से पहले उसका परीक्षण करना ही होगा")। चरणों को छोड़ना वर्जित है।
- स्व-सुधारने वाली लाइब्रेरी: AI जो कुछ भी सीखता है, उसके आधार पर अपनी नई रेसिपी खुद लिखता है। (जोखिम भरा है, लेकिन स्केलेबल है)।
- हाइब्रिड: मानव-पठनीय निर्देशों और कंप्यूटर कोड का मिश्रण।
- मेटा-स्किल: एक "सुपर-रेसिपी" जो AI को नई रेसिपी लिखना सिखाती है।
- ऐप स्टोर: एक मार्केटप्लेस जहाँ लोग स्किल्स साझा करते हैं। आप किसी अजनबी से "टैक्स फाइलिंग स्किल" डाउनलोड कर सकते हैं।
4. सबसे बड़ा खतरा: "ClawHavoc" हमला
यह इस शोध पत्र का डरावना हिस्सा है। लेखकों ने ClawHavoc नामक एक वास्तविक दुनिया की आपदा का विश्लेषण किया।
- परिदृश्य: कल्पना कीजिए कि AI स्किल्स के लिए एक लोकप्रिय "ऐप स्टोर" (ClawHub) है।
- हमला: हैकर्स ने 1,200 नकली "स्किल्स" अपलोड किए। वे मददगार टूल्स (जैसे, "क्रिप्टो वॉलेट मैनेजर") की तरह दिखते थे, लेकिन वास्तव में वे वायरस थे।
- परिणाम: जब उपयोगकर्ताओं ने इन स्किल्स को डाउनलोड किया, तो AI एजेंट केवल विफल नहीं हुए; उन्होंने पासवर्ड चुराए, क्रिप्टो वॉलेट खाली किए और निजी डेटा लीक किया।
- सबक: क्योंकि AI एजेंट कोड और निर्देशों को निष्पादित कर सकते हैं, इसलिए एक बुरा स्किल किसी अजनबी को आपके घर की चाबियाँ देने और कहने जैसा है, "ये लो, इस चाबी का उपयोग रसोई साफ करने के लिए करो।" वे रसोई तो साफ कर सकते हैं, लेकिन वे आपका गहना भी चुरा सकते हैं।
शोध पत्र इसे ठीक करने के लिए एक ट्रस्ट टियर सिस्टम (विश्वास स्तर प्रणाली) प्रस्तावित करता है:
- टियर 1: केवल नाम देखें।
- टियर 2: निर्देशों को पढ़ें (लेकिन उन्हें किसी भी चीज़ को छूने न दें)।
- ट्रेड 3: उन्हें छोटे कार्य करने दें, लेकिन पहले अनुमति मांगें।
- टियर 4: उन्हें स्वतंत्र रूप से काम करने दें (केवल उन स्किल्स के लिए जिन पर आप 100% भरोसा करते हैं)।
5. स्वर्णिम नियम: क्यूरेटेड बनाम स्व-निर्मित
इस शोध पत्र ने एक बड़ा प्रयोग किया यह देखने के लिए कि क्या सबसे अच्छा काम करता है।
- क्यूरेटेड स्किल्स (मानव-निर्मित): जब मनुष्यों ने रेसिपी लिखी, तो AI अपने कामों में 16% बेहतर हो गया।
- स्व-जेनरेटेड स्किल्स (AI-निर्मित): जब AI ने अपनी रेसिपी खुद लिखने की कोशिश की, तो वह वास्तव में बदतर (लगभग 1% से) हो गया।
उपमा: यह एक छात्र द्वारा अपना स्वयं का पाठ्यपुस्तक लिखने जैसा है। कभी-कभी वे इसे सही कर लेते हैं, लेकिन अक्सर वे ऐसे नियम बना देते हैं जो अस्तित्व में ही नहीं हैं। एक मानव विशेषज्ञ द्वारा पाठ्यपुस्तक लिखना बहुत अधिक विश्वसनीय होता है।
सारांश
यह शोध पत्र विश्वसनीय AI सहायकों को बनाने के लिए एक मार्गदर्शिका है।
- अच्छा: AI को "स्किल्स" (रेसिपी) देने से वे तेज़, स्मार्ट और अधिक सुसंगत बनते हैं।
- बुरा: यदि आप किसी को भी स्किल्स अपलोड करने की अनुमति देते हैं (जैसे, एक ऐप स्टोर), तो हैकर्स उन्हें ज़हरीला बना सकते हैं।
- समाधान: हमें सख्त नियमों, मानवीय निरीक्षण और एक तरीके की आवश्यकता है जिससे यह सत्यापित किया जा सके कि AI के उपयोग करने से पहले एक स्किल सुरक्षित है या नहीं।
संक्षेप में: अपने AI को केवल हथौड़ा न दें। उसे एक टूलबॉक्स दें, लेकिन सुनिश्चित करें कि टूलबॉक्स लॉक है, और उसकी चाबी केवल आपके पास है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।