Stochastic Code, Deterministic Defense: Assessing the Security Blind Spots in GenAI-Driven CI/CD Pipelines
تُثبت هذه الدراسة تجريبياً أن أدوات الأمن الحتمية التقليدية تفشل في اكتشاف الثغرات الأمنية المعتمدة على السياق والصحيحة نحوياً والتي تُدخلها الذكولة الاصطناعية التوليدية في مسارات التطوير والنشر المستمر (CI/CD)، مما يسلط الضوء على الحاجة الملحة لأطر تحقق احتمالية وواعية بالقصد.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً لا يُكتب فيه البرمجيات فقط بواسطة بشر يطبعون على لوحات المفاتيح، بل يتم "تخيلها" بواسطة روبوت فائق الذكاء يخمن الكلمة التالية، والسطر التالي، والدالة التالية بناءً على ما رآه من قبل. هذا هو عالم الذكاء الاصطناعي التوليدي (أو GenAI)، وهي تقنية تغير بسرعة طريقة بناء الأدوات الرقمية. في عالم التكنولوجيا الحديث، غالباً ما يتم تجميع هذه الأدوات في مصنع عالي السرعة يسمى خط أنابيب CI/CD. فكر في خط الأنابيب هذا كحزام ناقل حيث يتم كتابة الكود، واختباره، وتعبئته، وشحنه إلى الإنترنت في ثوانٍ معدودة.
لسنوات، كان حراس الأمن الذين يراقبون هذا الحزام الناقل هم الماسحات الحتمية (Deterministic Scanners). هؤلاء يشبهون الحراس الصارمين الذين يحملون لوحة ملاحظات لـ "الحركات المحظورة". إذا رأوا نمطاً معيناً يعرفون أنه خطير — مثل أداة فتح أقفال معروفة أو تعويذة محظورة — فإنهم يوقفون الكود. إنهم بارعون في صيد الأشرار الواضحين. ولكن إليكم التحول: الذكاء الاصطناعي التوليدي لا يقوم فقط بنسخ ولصق الحركات السيئة القديمة؛ بل يبتكر تنويعات جديدة في كل مرة، مثل عازف جاز يرتجل لحناً. السؤال الكبير الذي يواجه العلماء والمهندسين هو: هل يمكن لحراسنا القدامى الصارمين صيد عازف جاز يعزف مقطوعة تبدو مثالية ولكنها خطيرة في السر؟ تغوص هذه الورقة البحثية في هذا اللغز تحديداً، متسائلة عما إذا كانت أدواتنا الأمنية الحالية عمياء عن الأخطاء الفريدة وغير المتوقعة التي يرتكبها الذكاء الاصطناعي.
قصة "التحلل الصامت"
في هذه الدراسة، قام الباحثون محمد بجاوي، وسيدي محمد بن سليمان، ومحمد ياسين قازي تاني، بإعداد تجربة رقمية لمعرفة ما يحدث عندما تسمح لروبوت ذكاء اصطناعي محلي بكتابة كود لتطبيق واقعي ثم تحاول فحصه باستخدام أدوات أمنية قياسية. لم يكتفوا بالتخمين؛ بل أجروا محاكاة محكومة 50 مرة، كأنهم عالم مجنون في مختبر، ليروا ما إذا كان بإمكان الذكاء الاصطناعي تمرير "فكرة سيئة" من خلف حراس الأمن.
الإعداد: كاتب روبوت وحارس صارم
بنى الفريق نسخة مصغرة من مصنع برمجيات حديث. استخدموا نموذج ذكاء اصطناعي محلي (روبوت "Code Llama") لكتابة نوعين من الكود:
- الخلل المنطقي (V1): طُلب من الذكاء الاصطناعي كتابة فحص أمني لموقع إلكتروني. كتب كوداً يبدو مثالياً ويتبع جميع قواعد القواعد النحوية، لكنه نسي خطوة حاسمة: لم يتحقق فعلياً مما إذا كان المستخدم هو الشخص الذي يدعي أنه هو. كان الأمر أشبه بحارس في ملهى ليلي يتحقق من بطاقة الهوية الخاصة بك ولكنه ينسى التحقق مما إذا كانت الصورة تطابق وجهك.
- انحراف البنية التحتية (V3): طُلب من الذكاء الاصطناعي كتابة تعليمات لخادم (Kubernetes manifest). كتب تعليمات تبدو صحيحة من الناحية التركيبية ولكنها وضعت "فحص حالة" بسيطاً للغاية. كان الأمر أشبه بطبيب يتحقق مما إذا كان المريض يتنفس ولكنه يتجاهل ما إذا كان قلبه ينبض. سيظل الخادم "حياً" حتى لو كان البرنامج بداخله معطلاً تماماً.
الاختبار: هل تستطيع الأدوات القديمة رؤية الأخطاء الجديدة؟
بمجرد أن كتب الذكاء الاصطناعي الكود، تم إرساله عبر خط أنابيب أمني قياسي باستخدام ثلاثة "حراس" مشهورين: Semgrep، و Trivy، و Kube-linter. هذه الأدوات هي المعيار في الصناعة، وهي مصممة لصيد الأخطاء المعروفة من خلال البحث عن أنماط محددة.
كانت النتائج مذهلة. في 50 جولة من التجربة:
- نجح الذكاء الاصطناعي في توليد كود اجتاز عملية البناء 46 مرة في سيناريو الخلل المنطقي و 48 مرة في سيناريو انحراف البنية التحتية. كان الكود "صالحاً" بما يكفي ليتم شحنه.
- عندما قامت الأدوات الأمنية بفحص هذا الكود، فشلت في اكتشاف الثغرة بنسبة 100% (أو 96% في إحصاء واحد محدد، مع وجود إنذارين خاطئين فقط من أصل 48).
- أظهر التحليل الإحصائي أن هذا لم يكن مجرد سوء حظ؛ إذ كانت احتمالية تفويت هذه الأدوات للأخطاء عن طريق الصدفة أقل من 0.001 (p < .001).
الكشف الكبير: "النقطة العمياء"
تخلص الورقة البحثية إلى وجود "نقطة عمياء" ضخمة في أنظمتنا الأمنية الحالية. لم يكتب الذكاء الاصطناعي كوداً "شريراً"؛ بل كتب كوداً ركز على الوظائف بدلاً من الأمن. ولأن الكود اتبع جميع القواعد النحوية، قالت الماسحات الحتمية (الحراس ذوو لوحات الملاحظات): "كل شيء آمن!" وسمحت بمروره.
يطلق الباحثون على هذا اسم "التحلل الصامت" (Silent Decay). إنه سيناريو يستمر فيه مصنع البرمجيات في العمل بسلاسة، وتظل الأضواء خضراء، ولا تدق إنذارات الأمن أبداً، ولكن المنتج النهائي معطل وغير آمن بشكل أساسي. تنفي الدراسة صراحة فكرة أن هذه الأدوات فشلت لأن الكود كان فوضوياً للغاية أو يحتوي على "هلوسة" غير منطقية؛ فقد كان الكود نظيفاً، وصحيحاً، ولكنه فقط أخطأ في فهم جوهر الأمن.
ماذا يعني هذا؟
يجادل المؤلفون بأنه لا يمكننا الاعتماد على الطريقة القديمة في فحص الكود بعد الآن. إذا كان الكود يتم توليده بواسطة ذكاء اصطناعي احتمالي (واحد يخمن وينوع مخرجاته)، فإن الماسح الحتمي (الذي يبحث عن أنماط ثابتة) سيفشل دائماً في اكتشاف الأخطاء الدقيقة التي تعتمد على السياق. تقترح الورقة البحثية أننا بحاجة إلى نوع جديد من الدفاع — نوع يفهم قصد الكود، وليس فقط شكله. يقترحون استخدام وكلاء ذكاء اصطناعي آخرين لمراجعة الكود، أو استخدام طرق "عصبية-رمزية" (neuro-symbolic) تجمع بين الفهم الشبيه بالبشر والمنطق الرياضي.
باختصار، تثبت الدراسة أنه في عصر الذكاء الاصطناعي، لا يعني "الضوء الأخضر" من ماسح أمني أن الكود آمن. إنه يعني فقط أن الكود يبدو جيداً على الورق. الخطر الحقيقي يكمن في الفجوات بين السطور، حيث تتجاوز إبداعية الذكاء الاصطناعي قدرتنا على التحقق منها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.