LLM-Assisted Dynamic Threat Analysis for Attacker-Reachable Software Weaknesses in Autonomous Vehicles
تقيم هذه الورقة مدى جدوى استخدام النماذج اللغوية الكبيرة لأتمتة توليد آثار استغلال ديناميكية لـ Autoware، كاشفةً أنه في حين تتفوق نماذج الاستدلال على النماذج المتخصصة في البرمجة في مرحلة التجميع الأولية، فإن العائق الرئيسي لتأكيد نقاط الضعف في البرمجيات ليس توليد المرشحين أو الاختبار العشوائي، بل هو معدل الفشل المرتفع في تكامل البناء الناتج عن توصيل التبعيات والاعتماد على الكود المستنسخ.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن البرمجيات داخل السيارة ذاتية القيادة هي مدينة ضخمة وصاخبة. هذه المدينة تضم ملايين العمال الصغار (أسطر الكود) الذين يتحدثون مع بعضهم البعض ليقرروا متى يلف مقود التوجيه أو يضغط على المكابح. وللحفاظ على سلامة هذه المدينة، يعمل المهندسون كالمحققين. أولاً، يستخدمون "التحليل الساكن" (static analysis)، وهو يشبه قارئ خرائط فائق السرعة يمسح المخطط الكامل للمدينة للعثور على البقاع التي يمكن لغريب أن يتسلل منها ويرسل رسالة سيئة تسبب الفوضى. لكن الخريطة ليست هي المدينة الحقيقية؛ فمجرد كون المسار يبدو مفتوحاً على المخطط لا يعني أنه يمكنك السير فيه فعلياً؛ فربما هناك بوابة مغلقة أو جسر غير موجود. وللتأكد، تحتاج إلى إرسال مستكشف حقيقي إلى المدينة لمحاولة السير في ذلك المسار، وهذا ما يسمى "التحليل الديناميكي" (dynamic analysis).
لسنوات، كان الأمل هو أن الذكاء الاصطناعي، وتحديداً النماذج اللغوية الكبيرة (LLMs) — وهي نفس التقنية التي تكتب القصص أو تحل المسائل الرياضية — يمكن أن تعمل كأولئك المستكشفين. كانت الفكرة هي أنه بدلاً من توظيف إنسان لبناء "سيارة اختبار" مخصصة لكل نقطة مشبوهة على الخريطة، يمكننا ببساء طلب بناء ذلك من الذكاء الاصطناعي. إذا استطاع الذكاء الاصطناعي بناء هذه السيارات الاختبارية تلقائياً، وقيادتها داخل البرمجيات، ورؤية ما إذا كانت ستتحطم، فيمكننا التحقق من سلامة السيارات ذاتية القيادة بسرعة البرق. تسأل هذه الورقة البحثية سؤالاً بسيطاً وعالي الخطورة: هل يمكن لهؤلاء المحققين من الذكاء الاصطناعي بناء سيارات الاختبار بشكل جيد بما يكفي لإثبات ما إذا كانت السيارة ذاتية القيادة آمنة حقاً، أم أنهم سيعلقون في بناء سيارات مزيفة تبدو حقيقية ولكنها لا تعمل؟
تجربة اختبار القيادة الكبرى للذكاء الاصطناعي
في هذه الدراسة، أعد الباحثون تجربة ضخمة باستخدام Autoware، وهو نظام برمجيات مفتوح المصدر وشائع يشغل العديد من السيارات ذاتية القيادة. فكر في Autoware كأنه نظام تشغيل لسيارة روبوت، يتكون من 185 حزمة مختلفة (مثل أحياء مختلفة في مدينتنا) وآلاف الملفات.
الإعداد: الخريطة وبناة الذكاء الاصطناعي
أولاً، استخدم الباحثون "قارئ الخرائط" الخاص بهم (التحليل الساكن) للعثور على 740 نقطة محددة في كود Autowata حيث يمكن لمدخل سيء من مهاجم أن يصل إلى قرار حساس للسلامة، مثل إخبار السيارة بالتوقف أو التحرك. كانت هذه هي "المشتبه بهم".
بعد ذلك، سلموا هؤلاء المشتبه بهم الـ 740 إلى نموذجين مختلفين من الذكاء الاصطناعي (أحدهما متخصص في البرمجة، والآخر نموذج استنتاجي عام) وطلبوا منهما بناء "هيكل اختبار" (test harness). باللغة البسيطة، هيكل الاختبار هو برنامج صغير مصمم لوخز تلك النقطة المحددة في الكود لمعرفة ما إذا كانت ستتعطل. قدم الباحثون للذكاء الاصطناعي الكود المحيط بالمشتبه به، ووصف المشكلة، وقواعد الطريق (بيئة البناء).
الرحلة: أين ضل الذكاء الاصطناعي طريقه؟
بعد ذلك، حاول الباحثون تجميع (بناء) هذه البرامج الاختبارية المولدة بواسطة الذكاء الاصطناعي مقابل برنامج Autoware الحقيقي. وهنا تأخذ القصة منعطفاً.
من بين 2,960 محاولة لبناء هذه البرامج الاختبارية (740 هدفاً × 4 ظروف مختلفة للذكاء الاصطناعي)، كانت النتائج واقعية ومحبطة:
- جدار "البناء": فشلت معظم محاولات الذكاء الاصطناعي الأولى في التجميع. حوالي 80% من حالات الفشل لم تكن بسبب كتابة الذكاء الاصطناعي لمنطق سيء، بل لأن الذكاء الاصطنا_ي لم يعرف كيفية توصيل برنامج الاختبار ببقية برمجيات السيارة. كان الأمر يشبه بناء الذكاء الاصطناعي لمحرك سيارة ولكنه نسي تركيب العجلات أو خط الوقود.
- فخ "النماذج البديلة" (Stub Trap): منح الباحثون الذكاء الاصطناعي فرصة ثانية. أظهروا له رسائل الخطأ وطلبوا منه إصلاح الكود (عملية تسمى "الإصلاح عبر حلقة المترجم" أو compiler-in-the-loop repair). أصبح الذكاء الاصطناعي أفضل في إصلاح الأخطاء، مما أدى في النهاية إلى جعل 100% من البرامج قابلة للتجميع.
- ومع ذلك، كان هناك فخ. لكي يتمكن الذكاء الاصطناعي من تجميع الكود، غالباً ما كان يستبدل الأجزاء الحقيقية والمعقدة من برمجيات السيارة بـ "نماذج بديلة" (stubs). النموذج البديل هو مثل مجسم كرتوني لباب؛ يبدو كباب، ويمكن لبرنامج الاختبار "فتحه"، لكنه ليس باباً حقيقياً ولا يؤدي إلى أي مكان. كان الذكنا الاصطناعي يبني أساساً سيارات اختبار تقود نحو مجسمات كرتونية بدلاً من البرمجيات الحقيقية.
النتيجة: لا حوادث تم العثور عليها (لأنه لم يحدث قيادة حقيقية)
بعد كل عمليات الإصلاح والتجميع، حاول الباحثون تشغيل الاختبارات.
- 652 فقط من أصل 2,960 محاولة أدت فعلياً إلى الربط مع برنامج Autoware الحقيقي ووصلت إلى "الفوزر" (fuzzer) (الجزء الذي يحاول كسر الكود).
- صفر من المشتبه بهم الـ 740 الأصليين تم تأكيد خطورتهم.
- أما الـ 37 حادثة التي وقعت بالفعل؟ فقد حدثت جميعها داخل كود "النماذج البديلة" الخاص بالذكاء الاصطناعي نفسه — أي داخل تلك المجسمات الكرتونية — وليس في برنامج Autoware الحقيقي.
ماذا يعني هذا؟
تخلص الورقة البحثية إلى أنه بينما يجيد الذكاء الاصطناعي كتابة مقتطفات برمجية، فإنه لا يمكنه حالياً بناء بيئات الاختبار المعقدة والمتكاملة اللازمة لاختبار نظام كامل لسيارة ذاتية القيادة بأمان.
العائق الرئيسي ليس في عدم قدرة الذكاء الاصطناعي على كتابة المنطق؛ بل في عدم قدرته على فهم كيفية ربط برنامج الاختبار الخاص به بنظام برمجيات ضخم وحقيقي دون كسره أو تزييف الاتصال. وجد الباحثون أن "تكامل البناء" (جعل الاختبار يتواصل فعلياً مع برمجيات السيارة الحقيقية) هو عنق الزجاجة، وليس توليد الاختبار نفسه.
الخلاصة:
تشير الدراسة إلى أننا لا نستطيع الاعتماد بعد على الذكاء الاصطناعي لتأكيد ما إذا كانت برمجيات السيارات ذاتية القيادة آمنة بشكل مستقل. يميل الذكاء الاصطناعي إلى بناء اختبارات "مزيفة" تُجمع برمجياً ولكنها لا تختبر الشيء الحقيقي فعلياً. وحتى نتمكن من تعليم الذكاء الاصطناعي بناء سيارات اختبار تقود في "المدينة الحقيقية" وليس فقط نحو مجسمات كرتونية، سيظل المهندسون البشريون هم من يقومون بالعمل الشاق المتمثل في التحقق من مسارات السلامة هذه. لا يزال التحليل الساكن (الخريطة) مفيداً لتحديد أين يجب النظر، لكن التأكيد الديناميكي (تجربة القيادة) يظل وظيفة لا يزال الذكاء الاصطناي، بمفرده، غير مستعد للقيام بها بعد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.