Security of LLM-generated Code: A Comparative Analysis
تقيم هذه الورقة تجريبياً أمن الكود البرمجي الذي يتم إنشاؤه بواسطة سبعة من النماذج اللغوية الكبيرة الشائعة، وتجد أن جميعها تنتج كوداً يحتوي على ثغرات أمنية، معظمها ذو خطورة حرجة أو عالية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك وظفت فريقاً من سبعة "متدربين فائقين الذكاء" لكتابة الأكواد البرمجية لبرنامجك. هؤلاء المتدربون مدعومون بالذكاء الاصطناعي (AI)، وهم مشهورون بكونهم سريعين جداً ومفيدين للغاية. إنهم من أفضل الأدوات في هذا المجال، ويستخدمهم ملايين المطورين.
قرر الباحثون في جامعة كارلتون وضع هؤلاء المتدربين السبعة تحت اختبار صارم. لم يطلبوا منهم بناء سفينة فضاء أو كتابة رواية؛ بل أعطوهم مجموعة محددة من 81 مهمة برمجية شائعة — مثل "اصنع صفحة تسجيل دخول" أو "اسمح للمستخدم برفع صورة". كان الهدف هو معرفة ما إذا كان الكود الذي كتبه هؤلاء المتدربون من الذكاء الاصطناوي آمناً للاستخدام، أم أنه مليء بالفخاخ الخفية.
إليك ما وجدوه، مقسماً ببساطة:
1. المتدرب "المثالي" غير موجود
الاكتشاف الأكثر صدمة؟ لم يجتز أي من المتدربين السبعة الاختبار. كل أداة ذكاء اصطناعي اختبروها (بما في ذلك أسماء كبيرة مثل GPT-4o من OpenAI، وGemini من Google، وwatsonx من IBM) أنتجت كوداً يحتوي على ثغرات أمنية.
فكر في الأمر كأنك تشتري سيارة من سبعة مصنعين مشهورين مختلفين. تتوقع أن يكون واحد منهم على الأقل ذا تقييم سلامة مثالي. بدلاً من ذلك، وجد الباحثون أن كل سيارة كانت تحتوي على مكابح مكسورة أو عجلة قيادة مرتخية. في الواقع، كان الغالبية العظمى من الأكواد التي كتبوها تحتوي على عيوب ذات خطورة "حرجة" أو "عالية" — مما يعني أنها ليست مجرد خدوش بسيطة، بل هي فجوات واسعة يمكن أن تسمح للقراصنة بالاختراق.
2. "الفخ" في التعليمات
استخدم الباحثون مجموعة خاصة من التعليمات (البرومبت/الأوامر) المصممة لخداع الذكاء الاصطناعي لارتكاب الأخطاء. على سبيل المثال، طلبوا من الذكاء الاصطناعي "كتابة دالة تسمح للمستخدم برفع ملف".
- خطأ الذكاء الاصطناعي: كتبت بعض أدوات الذكاء الاصطناعي أكواداً تسمح للقراصنة برفع فيروس بدلاً من صورة.
- المفاجأة: حتى عندما نجح الذكاء الاصطناعي في تنفيذ المهمة الأساسية، فإنه غالباً ما كان ينسى قواعد السلامة. على سبيل المثال، كتب أحد أنظمة الذكاء الاصطناعي صفحة تسجيل دخول تعمل بشكل مثالي، لكنها تخزن كلمات المرور بنص واضح (مثل كتابة كلمة مرورك على ورقة ملاحظات لاصقة على جهاز الكمبيوتر الخاص بك).
3. كارثة "وضع التصحيح" (Debug Mode)
كان أحد الأخطاء الأكثر شيوعاً التي تم العثين عليها هو ترك "وضع التصحيح" يعمل.
- التشبيه: تخيل مطبخ مطعم. "وضع التصحيح" يشبه ترك الباب الخلفي مفتوحاً مع لافتة تقول: "تعال وانظر إلى وصفاتنا السرية وجرب الموقد". هذا أمر رائع للطاهي أثناء التعلم، لكنه أمر سيء لمطعم حقيقي مفتوح للجمهور.
- الواقع: استمر الذكاء الاصطناعي في كتابة كود يترك هذا "الباب الخلفي" مفتوحاً. إذا استخدم المطور هذا الكود دون فحصه، فقد يتم اختراق نظامه بالكامل. لاحظ الباحثون أنه بينما أضافت بعض أدوات الذكاء الاصطناعي تعليقاً صغيراً يقول "أوقف هذا في الحياة الواقعية"، إلا أنه لا يمكن الاعتماد على المطورين لقراءة هذه الملاحظة واتباعها فعلياً.
4. مفارقة "السرعة ولكن الخطورة"
وجد البحث نمطاً غريباً مع أداة واحدة محددة، وهي watsonx من IBM.
- التشبيه: تخيل متدرباً واحداً يكتب جملًا قصيرة وبسيطة (كود قصير). قد تعتقد: "الجمل القصيرة أسهل في الفحص، لذا يجب أن تكون أكثر أماناً".
- الواقع: هذا المتدرب كان لديه في الواقع أعلى معدل من الأخطاء الخطيرة لكل سطر كود. ولأن الكود كان قصيراً جداً، فقد تخطى فحوصات السلامة الهامة تماماً. كان الأمر أشبه بسائق يأخذ طريقاً مختصراً عبر حقل ألغام لأنه في عجلة من أمره.
5. المطور "الواثق أكثر من اللازم"
تسلط الورقة البحثية الضوء على عنصر بشري خطير. المطورون يحبون أدوات الذكاء الاصطنا هذه لأنها تجعل العمل أسرع. ومع ذلك، تشير الدراسة إلى أن المطورين أصبحوا واثقين أكثر من اللازم.
- التشبيه: الأمر يشبه سائقاً يشتري سيارة بميزة "القيادة الذاتية" ثم ينام خلف المقود، مفترضاً أن السيارة لن تصطدم أبداً.
- الواقع: أدوات الذكاء الاصطناعي بارعة جداً في الظهور بمظهر الواثق، مما يجعل المطورين يفترضون أن الكود آمن. وجد الباحثون أن أكثر من 73% من مقتطفات الكود التي أنتجتها هذه الأدوات تحتوي على ثغرة أمنية واحدة على الأقل. إذا قام المطور بمجرد نسخ ولصق هذا الكود دون فحصه، فهو في الواقع يدعو المشاكل.
الخلاصة
تخلص الورقة إلى أنه بينما تعد أدوات الذكاء الاصطنا هذه مذهلة في كتابة الكود بسرعة، إلا أنها حالياً سيئة جداً في كتابة كود آمن بشكل افتراضي.
إنهم يشبهون طباخاً موهوباً ولكن غير متمرس، يمكنه تقطيع الخضروات أسرع من أي شخص آخر، ولكنه يستمر في نسيان غسل يديه أو التحقق مما إذا كان الطعام فاسداً. يحذر الباحثون أنه حتى يتم تعليم أدوات الذكاء الاصطنا هذه إعطاء الأولوية للسلامة على السرعة (أو حتى يتعلم المطورون فحص كل سطر بدقة)، فإن استخدامهم لكتابة البرامج هو مقامرة خطيرة.
الخلاصة المستفमाة: لا تثق بالذكاء الاصطناعي فحسب. عامل الكود الذي ينتجه كأنه مسودة من موظف مبتدئ: يحتاج إلى خبير أمني رفيع المستوى لمراجعته قبل أن يصبح متاحاً للاستخدام الفعلي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.