Seeing is Not Believing: Breaking the Physical-to-Digital Trust Boundary in Robotics

لم تعد الروبوتات مجرد آلات معزولة تتبع نصاً ثابتاً في زاوية مصنع؛ بل أصبحت شركاء تعاونيين يعملون جنباً إلى جنب مع البشر ومع بعضهم البعض في بيئات معقدة مثل المستودعات ومواقع استكشاف الفضاء. ولكي يعمل هذا العمل الجماعي، يجب أن يكون أحد الروبوتات أو المشرف البشري قادراً على الثقة في أن روبوتاً آخر يقوم بالفعل بما يدعي القيام به. وبما أنه من المستحيل على الإنسان مراقبة كل حركة لكل روبوت، تعتمد هذه الأنظمة على التقارير الرقمية — القياس عن بُعد (telemetry) — التي تروي قصة أفعال الروبوت، مثل الاتجاه الذي يشير إليه ذراعه أو ما تراه كاميرته. وهذا يخلق خط ثقة حرجاً: من المفترض أن يكون التقرير الرقمي مرآة وفية للواقع المادي. فإذا قال التقرير إن الروبوت التقط طرداً، يفترض الموثّق أن الطرد موجود بالفعل في قبضة الروبوت. والسؤال الذي يطرحه الباحثون الآن هو ما إذا كان من الممكن كسر تلك المرآة الرقمية، مما يسمح للروبوت بأن يبدو وكأنه يفعل شيئاً واحداً بينما يفعل سراً شيئاً مختلفاً تماماً.

اكتشف فريق من الباحثين أن حدود الثقة هذه أكثر هشاشة مما كان يُعتقد سابقاً. فقد وجدوا طريقة لخداع الروبوت للقيام بمهام خطيرة أو غير مصرح بها، بينما يرسل في الوقت نفسه تقارير مزيفة ومثالية للأشخاص أو الأنظمة التي تراقبه. يستهدف الهجوم البرامج التي تجعل الروبوتات تتواصل مع بعضها البعض، وتحديداً نظاماً يسمى ROS 2، وهو اللغة القياسية للروبوتات الحديثة. وأظهر الباحثون أن المهاجم لا يحتاج إلى اختراق نظام التشغيل الأساسي للروبوت أو سرقة كلمات مرور سرية، بل يمكنه ببساطة تغيير إعداد واحد في بيئة الكمبيوتر لإدراج أداة خفية تعترض الرسائل قبل إرسالها. تعمل هذه الأداة كمحرر صامت، حيث تستبدل البيانات الحقيقية القادمة من مستشعرات الروبوت بنسخة مزيفة بالكامل تبدو تماماً مثل الحقيقية.

ولتوضيح ذلك، قام الفريق بإعداد ذراع روبوتية مادية وشغل مهمة حيث كان من المفترض أن يلتقط جسماً ويضعه في مكان ما. في العالم الحقيقي، قام المهاجم باختطاف الروبوت، مما أجبره على التحرك في اتجاه مختلف أو القيام بفعل مختلف. ومع ذلك، لم يلحظ نظام المراقبة، الذي يعتمد على التقارير الرقمية، أي شيء غير عادي. فقد ولدت برمجية المهاجم تدفقاً مزيفاً من البيانات يتطابق تماماً مع ما كان ينبغي للروبوت فعله. تلقى نظام المراقبة بثاً فيديو وقائمة بمواقع المفاصل بدت طبيعية تماماً، مما أكد اكتمال المهمة بنجاح، رغم أن الروبوت المادي كان يفعل شيئاً آخر تماماً. اختبر الباحثون هذا على ذراع روبوتية من نوع Franka Emika تعمل بنسخة آمنة من البرنامج المصمم لمنع الاختراق. نجح الهجوم في كل مرة، حيث خدع النظام بنجاح بينما كان الروبوت يؤدي الأفعال غير المصرح بها.

يعتمد نجاح هذا الهجوم على حقيقة أن التدابير الأمنية المعمول بها تحمي الرسائل فقط أثناء انتقالها عبر الشبكة، وليس في اللحظة التي يتم فيها إنشاء الرسالة. وجد الباحثون أنه من خلال إدراج أداتهم الخفية في البرنامج قبل حتى أن يتم تغليف الرسالة للإرسال، تمكنوا من إعادة كتابة القصة قبل أن ترى الحراس الأمنيين الأمر. كانت البيانات المزيفة التي ولدوها مقنعة للغاية لدرجة أنها اجتازت كل اختبار وضعه الباحثون لها. لقد حاولوا اكتشاف الاحتيال من خلال البحث عن سرعات مستحيلة، والتحقق مما إذا كانت الحركة منطقية رياضياً، وتحليل الاهتزازات الطبيعية الصغيرة التي تمتلكها الآلات الحقيقية دائماً. تضمنت البيانات المزيفة هذه الاهتزازات الطبيعية الصغيرة والعلاقات الرياضية الصحيحة بين أجزاء حركة الروبوت المختلفة. في الواقع، كانت البيانات المزيفة قريبة جداً من الحقيقية لدرجة أنها لا يمكن تمييزها عن الاختلافات الطبيعية التي تظهر عند قيام روبوتين حقيقيين مختلفين بنفس المهمة.

من أكثر جوانب الهجوم إثارة للدهشة هو مدى سهولة انتشاره. وجد الباحثون أن النظام البيئي لبرمجيات الروبوت يعتمد بشكل كبير على "الحاويات" (containers) الجاهزة، وهي بمثابة صناديق رقمية تحتوي على جميع الأدوات التي يحتاجها الروبوت للعمل. حللوا الآلاف من هذه الحاويات ووجدوا أن عدداً هائلاً منها يتم إنشاؤه من قبل أفراد غير موثوقين. يمكن للمهاجم ببساطة إصدار أداة تبدو مفيدة وشعبية تحتوي على كود الاختطاف الخفي هذا. وعندما يقوم مطور الروبوت بتنزيل واستخدام هذه الأداة، يتم تثبيت الكود الخبيث تلقائياً، مما يمنح المهاجم موطئ قدم دون أن يعلم المطور بذلك. وهذا يعني أن الثغرة ليست مجرد خطر نظري بل هي خطر عملي يمكن توزيعه على نطاق واسع من خلال الأدوات التي يثق بها المطورون لبناء أنظمتهم.

اختبر الباحثون أيضاً ما إذا كان بإمكان هذا الخداع خداع أجهزة كشف الذكاء الاصطناعي المصممة لرصد الشذوذ. وحتى ضد كاشف تم تدريبه للتعرف على الأنماط الدقيقة للأجهزة الحقيقية، نجح الهجوم في خداع النظام بنسبة 87 بالمائة. السبب الوحيد الذي جعل الكاشف يضبط الـ 13 بالمائة المتبقية هو أن التوقيت الدقيق لحركات الروبوت الحقيقية يصعب محاكاته تماماً، ولكن في معظم الأوقات، تم قبول البيانات المزيفة على أنها حقيقية. يكشف هذا عن قصور جوهري في أمن الروبوتات الحالي: حماية نقل البيانات لا تضمن أن البيانات تعكس حقيقة العالم المادي. لقد أظهر الباحثون أن البيانات المزيفة كانت قريبة جداً من الواقع لدرجة يصعب معها تمييزها عن التباينات الطبيعية التي تظهر عند قيام روبوتين حقيقيين مختلفين بأداء المهمة نفسها.

لا يشير هذا العمل إلى أن الروبوتات غير آمنة بطبيعتها أو أنها ستتعرض للاستيلاء من قبل المخترقين قريباً، لكنه يكشف عن نقطة عمياء في كيفية التحقق من أفعالها. هذا الهجوم هو إثبات للمفهوم يوضح أن السجل الرقمي لسلوك الروبوت يمكن فصله عن واقعه المادي بسهولة مدهشة. إنه يتحدى الافتراض القائل بأن قناة اتصال آمنة كافية لضمان أن الروبوت يفعل ما يدعي أنه يفعله. إن عمل الباحثين بمثابة تحذير بأنه مع زيادة استقلالية الروبوتات وترابطها، يجب أن تتطور الأساليب التي نستخدمها للوثوق بها لتأخذ في الاعتبار احتمال أن تكون الأدلة التي نراها مجرد وهم مصنوع بعناية. ويتضمن المسار المستقبلي ترسيخ الثقة عند مصدر البيانات نفسه، وضمان أن القياس المادي نفسه موثق ومؤمن قبل أن يدخل إلى نظام البرمجيات الذي قد يكون مخترقاً.