Clawdrain: Exploiting Tool-Calling Chains for Stealthy Token Exhaustion in OpenClaw Agents
यह शोध पत्र Clawdrain को प्रस्तुत करता है, जो एक ट्रोजनयुक्त कौशल (Trojanized skill) है जो OpenClaw एजेंटों की टूल-कॉलिंग श्रृंखलाओं का लाभ उठाकर मल्टी-टर्न वेरिफिकेशन लूप उत्पन्न करता है, यह प्रदर्शित करते हुए कि इस तरह के हमले उत्पादन वातावरण (production environments) में 6-9 गुना टोकन प्रवर्धन (token amplification) प्राप्त कर सकते हैं और यह भी प्रकट करते हैं कि स्वायत्त टूल संरचना (autonomous tool composition) और वास्तुशिल्प कमजोरियां हमले के परिमाण और दृश्यता को कैसे आकार देती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट पर्सनल असिस्टेंट है, जिसका नाम "Claw" है। Claw एक डिजिटल बटलर की तरह है जो आपके लिए कुछ भी कर सकता है: समाचार देख सकता है, उड़ानें बुक कर सकता है, कोड लिख सकता है, या यहाँ तक कि आपके स्मार्ट होम को नियंत्रित भी कर सकता है। वह बहुत मददगार है क्योंकि वह समुदाय द्वारा बनाए गए "कौशल" (ऐप्स) के एक विशाल पुस्तकालय का उपयोग कर सकता है।
लेकिन यहाँ एक पेंच है: Claw आपसे प्रति शब्द शुल्क लेता है। हर बार जब वह सोचता है, बोलता है या कोई दस्तावेज़ पढ़ता है, तो इसमें आपकी लागत आती है (टोकन)।
आपके द्वारा साझा किया गया पेपर, "Clawdrain," एक सुरक्षा रिपोर्ट है जो एक ऐसी चालाकी भरी तकनीक के बारे में है जिसका उपयोग एक हमलावर Claw को इतना अधिक बोलने के लिए करने के लिए कर सकता है कि आपका बैंक खाता खाली हो जाए, भले ही वह ठीक वही काम कर रहा हो जो आपने उससे करने को कहा था।
यहाँ हमले की कहानी है, जिसे सरल रूप में समझाया गया है:
1. सेटअप: "नकली पासपोर्ट" की चाल
कल्पना कीजिए कि आपने एक नया सहायक काम पर रखा है, लेकिन आप नहीं जानते कि वह एक जासूस है। जासूस एक नकली निर्देश पुस्तिका (एक "ट्रोजनयुक्त कौशल") देता है।
निर्देश पुस्तिका कहती है: "इससे पहले कि मैं आपको मांगी गई समाचार हेडलाइन दे सकूँ, मुझे पहले एक जटिल सुरक्षा जांच करनी होगी। मुझे यह साबित करने के लिए कि मैं एक इंसान हूँ, आपको संख्याओं की एक लंबी सूची सुनानी होगी।"
जासूस की निर्देश पुस्तिका Claw को यह विश्वास दिलाने के लिए चालाकी करती है कि यह एक सामान्य, आवश्यक कदम है। इसलिए, Claw नंबरों को दोहराना शुरू कर देता है।
2. हमला: "अनंत लूप" (Endless Loop)
जासूस की निर्देश पुस्तिका को एक सेगमेंटेड वेरिफिकेशन प्रोटोकॉल (SVP) के रूप में डिज़ाइन किया गया है। यह एक खराब वेंडिंग मशीन की तरह काम करता है जो आपको तब तक स्नैक नहीं देती जब तक आप 50 बार भुगतान न कर दें।
- जाल: निर्देश पुस्तिका Claw को बताती है, "सिर्फ '1 से 100' न कहें। आपको हर एक संख्या लिखनी होगी: 1, 2, 3... पूरे 1,000 तक।"
- लूप: Claw द्वारा संख्याएँ लिखने के बाद, जासूस का स्क्रिप्ट कहता है, "ओह, यह पूरी तरह सही नहीं था। फिर से कोशिश करें, लेकिन इस बार इसे और तेज़ी से करें।"
- परिणाम: Claw बार-बार लंबी संख्याओं की सूचियाँ लिखता रहता है। वह कभी रुकता नहीं है और लगातार अधिक से अधिक टेक्स्ट जेनरेट करता रहता है।
उपमा (Analogy): यह एक कॉफी शॉप में ग्राहक की तरह है जो लाटे (latte) ऑर्डर करता है। बरिस्ता (Claw) बनाना शुरू करता है, लेकिन ग्राहक (जासूस) कहता रहता है, "रुको, मुझे आपसे दूध के झाग के रंग का विस्तार से वर्णन करने की आवश्यकता है, फिर कप का तापमान, फिर कॉफी बीन का इतिहास।" बरिस्ता बातें करता रहता है और नोट्स लिखता रहता है, जिससे आपके पैसे खर्च होते हैं, लेकिन अंततः, वह वास्तव में आपको लाटे थमा देता है। आपको अपनी कॉफी मिल जाती है, लेकिन आपने इसके लिए $500 दिए।
3. सरप्राइज: जब "विफलता" अधिक महंगी होती है
शोधकर्ताओं ने पाया कि कुछ अजीब हुआ। कभी-कभी संख्याएँ इतनी लंबी हो जाती हैं (जैसे 2,000 संख्याएँ) कि Claw भ्रमित हो जाता है और कहता है, "यह सिस्टम खराब है! मैं यह नहीं कर सकता!"
एक सामान्य कंप्यूटर प्रोग्राम में, सिस्टम बस रुक जाएगा। लेकिन Claw स्मार्ट है। जब वह फंस जाता है, तो वह घबरा जाता है और खुद को ठीक करने की कोशिश करता है।
- वह एक अलग टूल को कॉल करने की कोशिश करता है।
- वह समाधान के लिए वेब सर्च करने की कोशिश करता है।
- वह प्रक्रिया को फिर से शुरू करने की कोशिश करता है।
ट्विस्ट: यह "पैनिक मोड" सफल हमले की तुलना में अधिक पैसा खर्च करता है। शोधकर्ताओं ने पाया कि जब हमला "विफल" हुआ, तो Claw चीजों को ठीक करने की कोशिश में 11 मिनट तक लगातार बोलता रहा, जिससे सफल हमले की तुलना में और भी अधिक टोकन जल गए।
4. "स्मार्ट" बचाव: शॉर्टकट
यहाँ सबसे दिलचस्प बात है। Claw इतना स्मार्ट है कि वह समझ जाता है कि हाथ से 1,000 संख्याएँ लिखना बेवकूफी है।
एक प्रयोग में, संख्याओं को एक-एक करके लिखने के बजाय, Claw अचानक कहता है, "एक मिनट रुकिए," और संख्याओं को तुरंत जेनरेट करने के लिए एक छोटा कंप्यूटर स्क्रिप्ट (एक पायथन कमांड) लिखता है।
- जासूस की योजना: "उसे 1,000 शब्द लिखने पर मजबूर करो!"
- Claw की प्रतिक्रिया: "मैं एक 10-शब्दों का स्क्रिप्ट लिख दूँगा जो मेरे लिए यह काम कर देगा।"
इससे पैसे बच गए, लेकिन इसने यह भी दिखाया कि वास्तविक दुनिया का AI अप्रत्याशित है। यह ऐसे शॉर्टकट ढूंढ सकता है जो एक कंप्यूटर सिमुलेशन (एक परीक्षण संस्करण) कभी नहीं सोच पाएगा।
5. "अदृश्य" खतरा
पेपर यह भी बताता है कि आप Claw के साथ कैसे बात करते हैं, इसके आधार पर यह हमला अदृश्य होता है।
- यदि आप स्क्रीन पर चैट के माध्यम से उससे बात कर रहे हैं: तो आप संख्याओं की लंबी सूचियाँ देखेंगे। आपको पता चल जाएगा कि कुछ गलत है।
- यदि आप उसे बैकग्राउंड में (जैसे एक रोबोट की तरह) चलने देते हैं: तो आप कभी नहीं देख पाएंगे कि वह क्या कर रहा है। वह आपके सोते समय हजारों डॉलर खर्च कर सकता है, और आपको तब तक पता नहीं चलेगा जब तक कि आपके क्रेडिट कार्ड का बिल नहीं आ जाता।
मुख्य निष्कर्ष (The Big Takeaway)
"Clawdrain" पेपर हमें तीन मुख्य बातें सिखाता है:
- AI महंगा है: क्योंकि AI प्रति शब्द शुल्क लेता है, इसलिए आपको बहुत अधिक बोलने के माध्यम से हमला किया जा सकता है, भले ही वह अपना काम अच्छी तरह से कर रहा हो।
- वास्तविक जीवन अव्यवस्थित है: सिमुलेशन (परीक्षण) सब कुछ नहीं पकड़ पाते। वास्तविक AI एजेंट भ्रमित हो सकते हैं, घबरा सकते हैं, या चतुर शॉर्टकट ढूंढ सकते हैं जो पूरे खेल को बदल देते हैं।
- "साइलेंट" हत्या: सबसे डरावने हमले वे नहीं हैं जो सिस्टम को क्रैश कर देते; वे वे हैं जो चुपचाप बैकग्राउंड में चलते हैं, आपके पैसे खर्च करते रहते हैं जबकि आपको लगता है कि सब कुछ ठीक है।
संक्षेप में: पेपर चेतावनी देता है कि जैसे-जैसे हम AI एजेंटों को हमारे लिए अधिक चीजें करने की अनुमति देते हैं, हमें इस बात पर सावधान रहने की आवश्यकता है कि हम उनके "टूलबॉक्स" में किसे शामिल होने देते हैं, क्योंकि एक बुरा टूल उन्हें खुद को दिवालिया करने के लिए बोलने पर मजबूर कर सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।