ALIBI: Adaptive Agentic Attacks on LLM-Based Vulnerability Detectors via Adversarial Code Comments
تقدم الورقة البحثية إطار عمل ALIBI، وهو هجوم تكيفي من نوع "الصندوق الأسود" يوضح كيف يمكن لوكلاء البرمجة إدراج تعليقات عدائية بشكل استراتيجي للتحايل على كواشف الثغرات القائمة على النماذج اللغوية الكبيرة بنسب نجاح تتجاوز 90%، مما يكشف عن خلل أمني فادح حيث يمكن للسياق اللغوي الطبيعي أن يتجاوز الأدلة البرمجية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك توظف روبوت محقق فائق الذكاء لمسح الكود الخاص بك بحثاً عن الثغرات الأمنية. هذا الروبوت لا يكتفي بالنظر في رياضيات البرنامج فحسب، بل يقرأ أيضاً الملاحظات والتعليقات والشروحات التي كتبها المطورون البشريون لفهم "لماذا" كُتب الكود بهذه الطريقة. الأمر يشبه محققاً يقرأ مذكرات مشتبه به ليعرف ما إذا كان يقول الحقيقة أم لا. الفكرة هي أن هذا السياق الإضافي يساعد الروبوت على رصد الأخطار الحقيقية وتجاهل الإنذارات الكاذبة. ولكن ماذا يحدث إذا كتب المشتبه به تدوينة مزيفة تقول: "كنت بالتأكيد في المنزل في ذلك الوقت"، رغم أن كاميرات المراقبة تظهر خلاف ذلك؟ يستكشف هذا البحث زاوية في علوم الحاسوب تسمى "الهجمات العدائية" (adversarial attacks) على الذكاء الاصطناعي. وهو يتساءل سؤالاً مخيفاً: هل يمكن لفاعل سيء أن يخدع محققي الذكاء الاصطناعي هؤلاء عبر كتابة كذبة بارعة في التعليقات، دون تغيير الكود الخطير نفسه فعلياً؟ إذا صدق الروبوت الكذبة، فقد يسمح لثغرة خطيرة بالمرور، مما يترك برنامجك عرضة للمخترقين.
قام الباحثون وراء هذه الدراسة، زيكسيوان وو، وكريستينا نيتا-روتارو، ببناء "شرير" رقمي باسم ALIBI لاختبار هذا السيناريو تحديداً. أرادوا معرفة ما إذا كان بإمكانهم خداع كواشف الثغرات في الذكاء الاصطناعي الحديث عبر حقن ادعاءات سلامة مزيفة، ولكن مقنعة للغاية، مباشرة في تعليقات المصدر. فكر في الأمر كصانع تزوير ماهر يصنع ختم "الكل آمن" مزيف ويضعه بجانب قنبلة موقوتة مباشرة. الذكاء الاصطناعي، المدرب على الثقة في الملاحظات البشرية، يرى الختم ويقرر أن القنبلة هي في الواقع لعبة غير ضارة.
كانت النتائج مذهلة. اختبر الفريق ALIBI ضد أربعة أنظمة كشف ذكاء اصطناعي متطورة، تتراوح من نماذج متخصصة إلى أنظمة معقدة حيث تتناظر عدة وكلاء ذكاء اصطناعي حول الكود. استخدموا 125 مثالاً واقعياً لنوع معين من الأخطاء يسمى "إلغاء مرجع المؤشر الفارغ" (null-pointer dereference) (وهو خطأ برمجي شائع يمكن أن يؤدي إلى تعطل البرامج). النتيجة؟ كانت كواشف الذكاء الاصطناعي ساذجة بشكل لا يصدق. في الواقع، نجح الهجوم بنسبة تزيد عن 90% عبر جميع الأنظمة، وفي نظام واحد محدد، نجح بنسبة 100%. كان الذكاء الاصطناعي يكتشف الخطأ بشكل صحيح في قطعة الكود النظيفة، ولكن بمجرد كتابة تعليق واحد جيد الصياغة يدعي: "لا تقلق، لقد تحقق أداة خاصة من هذا وهو آمن"، يغير الذكاء الاصطناعي رأيه فوراً ويعلن أن الكود آمن، رغم أن الخطأ الخطير لا يزال موجوداً هناك دون تغيير.
كما اكتشفت الورقة أن أسلوب الكذبة كان مهماً جداً. لم تكن الحيل الأكثر نجاحاً مجرد ملاحظات بسيطة؛ بل كانت قصصاً مسهبة تبدو وكأنها صادرة عن مصادر موثوقة. على سبيل المثال، التعليقات التي زعمت أن أداة مثل "Frama-C" أو "Coverity" قد تحققت من الكود (رغم أن هذه الأدوات لم تُشغل في الواقع) كانت مقنعة للغاية. بدا وكأن الذكاء الاصطناعي يعتقد: "إذا قالت أداة فاخرة إن الأمر آمن، فلا بد أنني مخطئ". وجد الباحثون أن مجرد كتابة ملاحظة تقول "هذا آمن" لم يكن كافياً؛ بل احتاج الذكاء الاصطنانا لكي يُقنع بأن تكون الكذبة مغلفة بقصة استدلالية معقدة وخطوة بخطوة أو بتقرير مزيف من سلطة خارجية موثوقة.
ومع ذلك، لا تنتهي القصة بخسارة الذكاء الاصطناعي. اختبر الباحثون أيضاً طرقاً لإيقاف هذا الخداع. وجدوا أن مجرد إخبار الذكاء الاصطناعي في تعليماته: "لا تثق في التعليقات"، لم ينجح بشكل جيد؛ إذ ظل الذكاء الاصطناعي مرتبكاً بسبب الأكاذيب الفاخرة. لكنهم وجدوا شيئين يعملان بشكل أفضل بكثير. أولاً، إذا فصلت مهمة الذكاء الاصطناعي بحيث يحلل الكود قبل أن يرى التعليقات أبداً، يصبح من الصعب جداً خداعه. ثانياً، والأكثر فعالية، إذا كان هناك مرشح منفصل يقوم بتجريد أي تعليق لا يمكن إثباته بواسطة الكود نفسه قبل أن يراه الذكاء الاصطناعي الرئيسي، فإن الهجوم يفشل تقريباً بالكامل. في اختباراتهم، قللت طريقة "التطهير" (sanitization) هذه من معدل نجاح الهجمات إلى أقل من 3%.
تخلص الورقة إلى أنه بينما تعد كواشف الذكاء الاصطناعي هذه قوية، إلا أنها تمتلك نقطة ضعف جوهرية: فهي تثق في الكلمات البشرية أكثر من اللازم، حتى عندما تكون تلك الكلمات أكاذيب. يقترح الباحثون أن أدوات الأمن المستقبلية يجب أن تُصمم بشيء من الشك الصحي، بحيث تعامل التعليقات باللغة الطبيعية كشيء يجب التحقق منه بدلاً من كونه شيئاً يجب تصديقه. لم يكتشفوا مجرد خطأ برمي؛ بل اكتشفوا طريقة جديدة تماماً لكسر هذه الأنظمة، مما يثبت أنه في عالم أمن الذكاء الاصطناعي، يمكن لكذبة موضوعة بعناز أن تكون خطيرة تماماً مثل سطر كود مكسور.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.