An Inline Control Architecture for Language Models in Intelligent Transportation Systems
تقدم هذه الورقة Guarded-V2X، وهي بنية حماية دلالية متضمنة (inline) تدمج آليات أمنية متعددة الطبقات لحماية أنظمة المركبة إلى كل شيء (V2X) المدعومة بالنماذج اللغوية الكبيرة من هجمات مستوى المطالبة (prompt-level attacks) مع الحفاظ على قيود الأداء في الوقت الفعلي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً لا تكتفي فيه سيارتك بالقيادة الذاتية فحسب، بل تتحدث أيضاً مع إشارات المرور، والسيارات الأخرى، واللوحات الإرشادية على جانب الطريق للحفاظ على سلامة الجميع. يُسمى هذا "الاتصال بين المركبة وكل شيء" (V2X). إنه يشبه دردشة جماعية ضخمة وعالية السرعة للمركبات، حيث تتشارك التحذيرات بشأن الطرق الجليدية، أو الحوادث، أو مناطق الإنشاءات. ولجعل هذه المحادثات أكثر ذكاءً، بدأ المهندسون في استخدام "نماذج اللغات الكبيرة" (LLMs) — وهي نفس نوع الذكاء الاصطناي الفائق الذي يمكنه كتابة القصص أو الإجابة على الأسئلة — لمساعدة النظام في تلخيص هذه الرسائل ومساعدة المشغلين البشريين.
ومع ذلك، هناك عقبة. فبينما تتميز عقول الذكاء الاصطناعي هذه بقدرة رائعة على فهم اللغة، إلا أنه يمكن خداعها. تماماً كما يمكن خداع الإنسان بكلام كاذب صيغ ببراعة، يمكن خداع الذكاء الاصطناعي عبر "حقن الأوامر" (prompt injection) — وهي تعليمات مخادعة مخفية داخل رسالة تأمره بتجاهل قواعد السلامة أو القيام بشيء خطير. إن أمن السيارات التقليدي يشبه الحارس الذي يفحص الهويات عند الباب؛ فهو يتأكد من أن الرسالة قادمة من سيارة حقيقية، لكنه لا يفحص محتوى ما تقوله الرسالة بالفعل. إذا أرسل شخص سيء النية هوية صالحة مع أمر خطير بداخلها، فقد تسمح أنظمة الأمن القديمة بمرورها. تسأل هذه الورقة البحثية: كيف نبني حارساً أكثر ذكاءً يفحص محتوى المحادثة في الوقت الفعلي، دون إبطاء حركة المرور؟
قام الباحثون وراء هذه الدراسة، من جامعة "تليكوم باريس" (Télécom Paris)، ببناء نظام سلامة جديد يسمى Guarded-V2X. فكر في Guarded-V2X كأنه نقطة تفتيش أمنية متعددة الطبقات وفائقة السرعة لعقل الذكاء الاصطناعي. فبدلاً من ترك الذكاء الاصطناعي يدردش بحرية، يعمل Guarded-V2X كمدير تحرير صارم ومدقق حقائق في آن واحد، حيث يعمل في الجزء من الثانية بين وصول الرسالة وبين اتخاذ السيارة أو نظام المرور للإجراء.
إليك كيف يعمل "حاجز الحماية" الخاص بهم، باستخدام بعض الاستعارات الإبداعية:
أولاً، تخيل المُرشِّح القائم على القواعد (Rule-Based Filter) كحارس عند باب النادي يقوم بمسح سريع للعلامات الحمراء الواضحة، مثل كلمات محظورة معينة أو أكواد غريبة. إذا رأى شيئاً مريباً، فإنه يحظر الدخول فوراً دون حتى إيقاظ الذكاء الاصطناعي.
بعد ذلك، يوجد مصنف سلامة خفيف الوزن (Lightweight Safety Classifier). هذا يشبه حارس أمن سريع البديهة يلقي نظرة خاطفة على الرسالة ويعطيها "درجة خطورة". إذا بدت الرسالة خطيرة بعض الشيء، يقوم الحارس بإيقافها. هذه الخطوة سريعة للغاية، ومصمما لتحدث في طرفة عين.
ثم يأتي نموذج اللغة الكبير المقيد بالسياسات (Policy-Constrained LLM). هذا هو الذكاء الاصطناعي نفسه، ولكن تم وضعه في قفص صارم جداً. فبدلاً من السماكن على كتابة مقال حر، يُجبر على إخراج إجابته في تنسيق محدد وصارم (مثل نموذج مطبوع مسبقاً). يمكنه فقط ملء الفراغات بإجراءات معتمدة. وإذا حاول كتابة شيء خارج الخطوط، يرفضه النظام. هذا يضمن أن الذكاء الاصطناعي لا يمكنه بالخطأ (أو بسوء نية) اتخاذ قرار مجنون.
أخيراً، هناك مجموعة الحكام (Judge Ensemble). تخيل لجنة من ثلاثة حكام يراقبون مخرجات الذكاء الاصطناعي. هم يصوتون على ما إذا كانت الإجابة آمنة أم لا. إذا قال حتى واحد من الحكام: "انتظر، هذا يبدو خطيراً"، يتم حظر الإجراء. نظام "التصويت بالأغلبية" هذا يجعل من الصعب جداً على أي هجوم مخادع أن يتسلل.
اختبر الفريق هذا النظام باستخدام بيئة محاكاة تحاكي سيناريوهات مرورية حقيقية، بما في ذلك الهجمات الخداعية حيث حاول المخترقون خداع الذكاء الاصطناعي عبر جولتين من المحادثة (مثل نصب فخ في الرسالة الأولى ثم تنفيذه في الثانية). وجدوا أنه بدون حواجز الحماية هذه، يمكن حتى لنماذج الذكاء الاصطناعي المتقدمة أن تُخدع بقبول أوامر خطيرة بنسبة 0.6% من المرات. ولكن مع Guarded-V2X، منع النظام جميع المحاولات غير الآمنة المرصودة في اختباراتهم المكونة من جولتين (500 تجربة)، محققاً معدل نجاح قبول الاختراق بنسبة 0.0% للمهاجمين ضمن ذلك التقييم المحدد. ويؤكد المؤلفون أن هذه النتيجة الصفرية تعكس الأداء تحت مجموعة محدودة من الاختبارات، وليست ضماناً نظرياً بأن النظام محصن ضد جميع الهجمات المستقبلية.
ومن الأهمية بمكان أن الورقة البحثية تؤكد أن هذه السلامة لم تأتِ على حساب السرعة. ففي عالم السيارات ذاتية القيادة، كل ميلي ثانية لها قيمتها. استغرقت عملية Guarded-V2X بأكملها — من فحص القواعد إلى تصويت الحكام — 118 ميلي ثانية فقط (زمن الاستجابة p95)، وهو أقل بكثير من حد الأمان البالغ 150 ميلي ثانية المطلوب لهذه الأنظمة. وهذا يعني أن الذكاء الاصطناعي يمكن أن يكون آمناً وذكياً دون جعل السيارات تنتظر.
كما قارن الباحثون نظامهم بطرق سلامة أخرى، مثل مجرد إخبار الذكاء الاصطناعي "كن حذراً" (مطالبة السلامة) أو استخدام فلاتر عامة. ووجدوا أن مجرد إخبار الذكاء الاصطناعي بأن يكون لطيفاً لم يكن كافياً؛ إذ لا يزال بإمكان خداع الذكاء الاصطناതി. لكن نهجهم الهيكلي متعدد الطبقات — الذي يجمع بين القواعد، والمصنفات، والتنسيق الصارم — كان الوحيد الذي أوقف الهجمات تماماً مع البقاء سريعاً بما يكفي لحركة المرور الواقعية.
باختصار، يشير Guarded-V2X إلى أنه لكي نجعل الذكاء الاصطناعي آمناً لطرقنا، لا يمكننا الاعتماد فقط على حكم الذكاء الاصطناعي نفسه أو التحذيرات البسيطة. نحن بحاجة إلى فريق أمني مخصص ومتعدد الطبقات يفحص كل كلمة، ويجبر الذكاء الاصطناعي على اتباع نص صارم، ويصوت على القرار النهائي، كل ذلك بينما تستمر حركة المرور بالسرعة الكاملة. وبينما تعتمد النتائج على عمليات المحاكاة والاختبارات المحكومة، فإن النتائج تشير بقوة إلى أن هذا النوع من بنية "حواجز الحماية المدمجة" هو خطوة ضرورية نحو الوثوق بالذكاء الاصطناعي في المهمة المعقدة وعالية المخاطر المتمثلة في إدارة شبكات النقل المستقبلية لدينا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.