Atomicity for Agents: Exposing, Exploiting, and Mitigating TOCTOU Vulnerabilities in Browser-Use Agents
تحدد هذه الورقة وتثبت تجريبياً أن وكلاء استخدام المتصفح عرضة بشكل واسع لهجمات "وقت التحقق إلى وقت الاستخدام" (TOCTOU) الناتجة عن تغير محتوى الويب الديناميكي بين مرحلتي التخطيط والتنفيذ، وتقترح آلية تحقق خفيفة الوزن قبل التنفيذ للتخفيف من هذه المخاطر.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة بحثية بعنوان "الذرية للوكلاء" (Atomicity for Agents)، مقسمة إلى مفاهيم بسيطة مع تشبيهات من الحياة اليومية.
الفكرة الكبرى: "النقطة العمياء" في متصفحات الروبوتات
تخيل أنك وظفت مساعداً آلياً (روبوت) ذكياً جداً للتسوق عبر الإنترنت. قلت له: "اذهب إلى ذلك الموقع، وابحث عن القميص الأحمر المعروض بخصم بسعر 20 دولاراً، واشترِه".
ينظر الروبوت إلى الشاشة، يرى القميص الأحمر، ويفكر: "حسناً، أنا أرى القميص. سأضغط هناك". ولكن بينما كان الروبوت يفكر ويكتب أمره، تغير الموقع الإلكتروني.
فجأة، ظهر إعلان منبثق غطى القميص. أو ارتفع السعر إلى 50 دولاراً. أو اختفى زر "الشراء". ولأن الروبوت بطيء في الاستجابة، فإنه ضغط بالضبط في المكان الذي اعتقد أن القميص موجود فيه، لكنه الآن يضغط على الإعلان، أو يضغط على زر يقوم بشيء آخر تماماً.
تسمي هذه الورقة البحثية هذه الحالة ثغرة TOCTOU (وقت التحقق، وقت الاستخدام). وهي الفجوة الخطيرة بين التحقق مما هو موجود واستخدامه (الضغط عليه).
المشكلة: فخ "فوربس" (Forbes)
وجد الباحثون أن هذا ليس مجرد خلل نادر؛ بل يحدث طوال الوقت. وقد استخدموا مثالاً من العالم الحقيقي من موقع "فوربس":
- الخطة (الوقت 1): يرى الروبوت مقالاً ويخطط للضغط على "متابعة القراءة".
- التغيير (الوقت 2): بينما لا يزال الروبوت يعالج البيانات، يقوم الموقع بتحميل إعلان مخادع ينزلق فوق زر "متابعة القراءة".
- الخطأ (الوقت 3): يضغط الروبوت حيث اعتقد أن الزر موجود. وبدلاً من قراءة المقال، ضغط بالخطأ على الإعلان وتم توجيهه إلى صفحة احتيالية.
التشبيه:
تخيل أنك تسير في غرفة مزدحمة لتصافح صديقاً لك. رصدته وبدأت تمشي نحوه. ولكن أثناء مشيك، تحرك الصديق، أو وضع نادل صينية أمامه. إذا استمررت في المشي في خط مستقيم بناءً على مكان رؤيتك له قبل ثانية واحدة، فقد تصطدم بالنادل أو بالصينية بدلاً من صديقك.
الحل: حارس "التحقق المزدوج"
بنى الباحثون نظام سلامة يسمى التحقق ما قبل التنفيذ (Pre-execution Validation). فكر فيه كحارس أمن يقف بين عقل الروبوت ويده.
إليك كيف يعمل:
- الروبوت يخطط: ينظر الروبوت إلى الشاشة ويقرر: "سأضغط على الزر الأزرق".
- الحارس يراقب: بينما يفكر الروبوت، يحدق الحارس في الشاشة، مراقباً أي حركة.
- التحقق النهائي: قبل جزء من الثانية من تحرك إصبع الروبوت فعلياً للضغط، يسأل الحارس: "هل لا يزال الزر الأزرق موجوداً؟ هل غطاه إعلان منبثق؟ هل تغير السعر؟"
- إذا كانت الشاشة مستقرة: يقول الحارس: "انطلق!" ويضغط الروبوت.
- إذا تغيرت الشاشة: يضغط الحارس على المكابح! "توقف! لقد تحرك الزر. لا تضغط الآن". يجب على الروبوت أن ينظر مرة أخرى ويضع خطة جديدة.
التشبيه:
إنه يشبه القناص الذي يستعد لإطلاق النار.
- بدون الحارس: يصوب القناص، يحسب الرياح، ثم يضغط على الزناد. لكن الهدف يتحرك أثناء عملية الحساب، فتخطئ الرصاصة.
- مع الحارس: يصوب القناص، يحسب، ثم يقوم "المراقب" بفحص الهدف في آخر ميلي ثانية قبل ضغط الزناد. إذا تحرك الهدف، يصرخ المراقب: "توقف عن إطلاق النار!" وينتظر القناص.
ما وجدوه
اختبر الباحثون هذا على 10 من مساعدي الروبوتات الشهيرة (مثل Browser-Use و Midscene وغيرها) باستخدام مجموعة اختبار خاصة بنوها تسمى DYNWEB (والتي تتضمن مواقع وهمية مصممة لخداع الروبوتات ومواقع حقيقية مثل المواقع الإخبارية).
- الأخبار السيئة: سقطت جميع الروبوتات التي اختبروها في الفخ تقريباً. لقد ضغطوا على أشياء خاطئة، أو اشتروا عناصر خاطئة، أو علقوا في حلقات مفرغة لأنهم لم يدركوا أن الصفحة قد تغيرت أثناء تفكيرهم.
- الأخبار الجيدة: عندما أضافوا نظام "الحارس" الخاص بهم (التحقق ما قبل التنفيذ)، أصبحت الروبوتات آمنة بنسبة 100% في اختباراتهم. لقد كشف الحارس كل خدعة.
- السرعة: الأفضل من ذلك؟ الحارس سريع للغاية. فهو لا يضيف أي تأخير يُذكر (أقل من 0.05 ثانية) إلى عمل الروبوت. إنه يشبه إضافة توقف قصير جداً لمراجعة عملك قبل تسليم الاختبار، وهو أمر يستغرق وقتاً ضئيلاً جداً ولكنه يمنع الأخطاء الكبيرة.
لماذا يهم هذا الأمر
بينما بدأنا في استخدام وكلاء الذكاء الاصطناعي للقيام بمهامنا في الخدمات المصرفية، والتسوق، وحجز السفر، نحتاج إلى التأكد من أنهم لن يضغطوا بالخطأ على الزر الخاطئ لأن الموقع تغير أثناء "تفكيرهم".
توضح لنا هذه الورقة البحثية ما يلي:
- الروبوتات حالياً "عمياء" تجاه التغييرات التي تحدث أثناء تفكيرها.
- يمكن للمخترقين أو المواقع السيئة استغلال ذلك لخداع الروبوتات للقيام بأشياء لا ينبغي لها القيام بها (مثل شراء سلع باهظة الثمن أو الضغط على روابط احتيالية).
- يمكننا إصلاح ذلك بسهولة عن طريق إضافة خطوة "تحقق مزدوج" بسيطة مباشرة قبل أن يتصرف الروبوت، دون الحاجة إلى إعادة بناء الروبوت بالكامل.
باختصار: لا تثق في ذاكرة الروبوت لما تبدو عليه الشاشة؛ بل اجعله يتحقق من الشاشة للمرة الأخيرة قبل أن يتصرف.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.