Clawdrain: Exploiting Tool-Calling Chains for Stealthy Token Exhaustion in OpenClaw Agents
تقدم هذه الورقة "Clawdrain"، وهي مهارة مُخترقة (Trojanized skill) تستغل سلاسل استدعاء الأدوات الخاصة بوكلاء OpenClaw لإحداث حلقات تحقق متعددة الجولات، مما يوضح أن مثل هذه الهجمات يمكن أن تحقق تضخيماً في عدد الرموز (tokens) بمعدل 6 إلى 9 أضعاف في بيئات الإنتاج، مع الكشف عن كيفية تشكيل التركيب الذاتي للأدوات والثغرات المعمارية لحجم الهجوم وقابلية رصده.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مساعداً شخصياً فائق الذكاء، لنسمّه "Claw". "Claw" يشبه الخادم الرقمي الذي يمكنه فعل أي شيء من أجلك: التحقق من الأخبار، حجز الرحلات الجوية، كتابة الأكواد البرمجية، أو حتى التحكم في منزلك الذكي. إنه مفيد للغاية لأنه يمكنه استخدام مكتبة ضخمة من "المهارات" (التطبيقات) التي أنشأها المجتمع.
ولكن هناك مشكلة: "Claw" يتقاضى منك رسوماً مقابل كل كلمة. في كل مرة يفكر فيها، أو يتحدث، أو يقرأ وثيقة، يكلفك ذلك مالاً (توكنز/Tokens).
الورقة البحثية التي شاركتَها، "Clawdrain"، هي تقرير أمني حول خدعة ماكرة يمكن للمهاجم استخدامها لجعل "Clow" يتحدث كثيراً جداً لدرجة تستنزف حسابك البنكي، حتى لو كان لا يزال ينفذ بالضبط ما طلبته منه.
إليك قصة الهجوم، مشروحة ببساعة:
1. الإعداد: خدعة "جواز السفر المزيف"
تخيل أنك وظفت مساعداً جديداً، لكنك لا تعرف أنه جاسوس. يقوم الجاسوس بإعطائك دليل تعليمات مزيفاً ("مهارة ملغومة").
يقول الدليل: "قبل أن أتمكن من إعطائك عنوان الخبر الذي طلبته، يجب عليّ أولاً إجراء فحص أمني معقد. أحتاج منك أن تسرد قائمة طويلة من الأرقام لتثبت أنك بشر."
يخدع دليل الجاسوس "Claw" ليعتقد أن هذه خطوة طبيعية وضرورية. لذا يبدأ "Claw" في سرد الأرقام.
2. الهجوم: "الحلقة اللانهائية"
دليل الجاسوس مصمم ليكون بروتوكول تحقق مجزأ (SVP). يعمل مثل آلة بيع معطلة لا تعطيك الوجبة الخفيفة أبداً إلا بعد أن تدفع 50 مرة.
- الفخ: يخبر الدليل "Claw": "لا تكتفِ بقول 'من 1 إلى 100'. يجب عليك كتابة كل رقم: 1، 2، 3... وصولاً إلى 1,000".
- الحلقة: بعد أن يكتب "Claw" الأرقام، يقول نص الجاسوس: "عذراً، لم يكن هذا صحيحاً تماماً. حاول مرة أخرى، ولكن هذه المرة افعل ذلك بشكل أسرع".
- النتيجة: يستمر "Claw" في كتابة قوائم طويلة من الأرقام مراراً وتكراراً. هو لا يتوقف عن العمل، ويستمر في توليد المزيد والمزيد من النصوص.
التشبيه: الأمر يشبه زبوناً في مقهى يطلب "لاتيه". يبدأ "الباريستا" (Claw) في تحضيره، لكن الزبون (الجاسوس) يستمر في القول: "انتظر، أحتاج منك وصف لون رغوة الحليب بالتفصيل، ثم درجة حرارة الكوب، ثم تاريخ حبة البن". يستمر "الباريستا" في التحدث وكتابة الملاحظات، مستهلكاً أموالك، ولكنه في النهاية يسلمك اللاتيه بالفعل. لقد حصلت على قهوتك، لكنك دفعت 500 دولار مقابلها.
3. المفاجأة: عندما تكون "الفشل" أكثر تكلفة
وجد الباحثون شيئاً غريباً. أحياناً تصبح الأرقام طويلة جداً (مثل 2,000 رقم) لدرجة تجعل "Claw" يرتبك ويقول: "هذا النظام معطل! لا يمكنني القيام بهذا!".
في البرامج الحاسوبية العادية، يتوقف النظام ببساطة. لكن "Claw" ذكي. عندما يتعثر، يصاب بالذعر ويحاول إصلاح الأمر بنفسه.
- يحاول استدعاء أداة مختلفة.
- يحاول البحث في الويب عن حل.
- يحاول إعادة تشغيل العملية.
التحول: وضع "الذعر" هذا يكلف مالاً أكثر من الهجوم الناجح. وجد الباحثون أنه عندما "فشل" الهجوم، دخل "Claw" في نوبة من الهذيان استمرت 11 دقيقة لمحاولة إصلاح الأمور، مستهلكاً "توكنز" أكثر مما استهلكه عندما اتبع أوامر الجاسوس بنجاح.
4. الدفاع "الذكي": الاختصار
هذا هو الجزء الأكثر إثارة للاهتمام. "Clow" ذكي بما يكفي ليدرك أن كتابة 1,000 رقم يدوياً أمر سخيف.
في إحدى التجارب، بدلاً من كتابة الأرقام واحداً تلو الآخر، قال "Claw" فجأة: "انتظر لحظة"، وكتب نصاً برمجياً صغيراً (أمر بايثون) لتوليد الأرقام فوراً.
- خطة الجاسوس: "اجعله يكتب 1,000 كلمة!"
- رد فعل "Claw": "سأكتب نصاً برمجياً من 10 كلمات فقط ليقوم بالمهمة بدلاً مني".
لقد وفر هذا المال، ولكنه أظهر أيضاً أن الذكاء الاصطناعي في الواقع غير متوقع. يمكنه إيجاد طرق مختصرة قد لا تفكر فيها محاكاة الحاسوب (نسخة الاختبار).
5. الخطر "غير المرئي"
تشير الورقة أيضاً إلى أن الهجوم يكون غير مرئي اعتماداً على كيفية تحدثك مع "Claw".
- إذا كنت تدردش معه على الشاشة: سترى القوائم الطويلة من الأرقام. ستعرف أن هناك خطأ ما.
- إذا تركته يعمل في الخلفية (مثل روبوت): لن ترى ما يفعله. يمكنه استهلاك آلاف الدولارات من أموالك بينما أنت نائم، ولن تعرف ذلك إلا عندما تصلك فاتورة بطاقتك الائتمانية.
الخلاصة الكبرى
تعلمنا ورقة "Clawdrain" ثلاثة أشياء رئيسية:
- الذكاء الاصطناعي مكلف: لأن الذكاء الاصطناعي يتقاضى رسوماً مقابل كل كلمة، يمكنك التعرض لهجوم عبر جعله يتحدث كثيراً، حتى لو كان يؤدي عمله بشكل جيد.
- الواقع فوضوي: المحاكاة (الاختبارات) لا تكتشف كل شيء. يمكن لوكلاء الذكاء الاصطناعي الحقيقيين أن يرتبكوا، أو يصابوا بالذعر، أو يجدوا طرقاً مختصرة ذكية تغير قواعد اللعبة تماماً.
- "القتل الصامت": أخطر الهجمات ليست تلك التي تعطل النظام؛ بل هي التي تعمل بهدوء في الخلفية، وتستنزف محفظتك بينما تعتقد أن كل شيء يسير على ما يرام.
باختاً: تحذرنا الورقة من أنه كلما سمحنا لوكلاء الذكاء الاصطناعي بالقيام بأشياء أكثر من أجلنا، وجب علينا الحذر بشأن من نسمح لهم بدخول "صندوق أدواتهم"، لأن أداة سيئة يمكن أن تجعلهم يتحدثون حتى يفلسوا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.