← أحدث الأبحاث
🤖 AI

CIPHER: Cryptographic Insecurity Profiling via Hybrid Evaluation of Responses

تقدم هذه الورقة CIPHER، وهو معيار ومسار تسجيل تلقائي مصمم لتقييم وقياس الثغرات التشفيرية في الأكواد البرمجية التي تولدها النماذج اللغوية الكبيرة، كاشفةً أنه بينما يخفف التوجيه الآمن الصريح من بعض المشكلات، فإنه يفشل في القضاء بشكل موثوق على العيوب التشفيرية عبر النماذج المتنوعة.

المؤلفون الأصليون: Max Manolov, Tony Gao, Siddharth Shukla, Cheng-Ting Chou, Ryan Lagasse

نُشر 2026-02-09
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Max Manolov, Tony Gao, Siddharth Shukla, Cheng-Ting Chou, Ryan Lagasse

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك توظف فريقاً من الروبوتات فائقة السرعة والذكاء لكتابة الأقفال والمفاتل لخزنة البنك الخاصة بك. تقول لهم: "اصنعوا قفلاً آمناً"، فيقومون فوراً بإنتاج تصميم. لكن هنا تكمن المشكلة؛ فبالرغم من أن هذه الروبوتات بارعة، إلا أنها غالباً ما تصنع أقفالاً تبدو مثالية من الخارج، ولكن بها شقوق صغيرة غير مرئية يمكن لـلص أن يستغلها بسهولة.

تقدم هذه الورقة البحثية CIPHER، وهو "تقرير درجات" جديد صُمم لاختبار مدى جودة هذه الروبوتات الذكية في بناء أقفال تشفير آمنة (مثل التشفير وحماية كلمات المرور) في الأكواد البرمجية.

إليك تفصيل لما قام به الباحثون وما وجدوه، باستخدام تشبيهات بسيطة:

1. المشكلة: "العيب الصامت"

عندما يكتب الذكاء الاصطناعي كوداً برمجياً للأمن، فإنه غالباً ما يجتاز الاختبارات الأساسية (أي أن الكود يعمل دون توقف أو انهيار)، ولكنه يغفل عن قواعد أمنية دقيقة.

  • التشبيه: تخيل روبوتاً يبني منزلاً. إنه يضع الجدران والسقف (الكود يعمل)، لكنه ينسى تركيب قفل للمدخل الأمامي أو يترك النافذة الخلفية مفتوحة (ثغرة أمنية). المنزل قائم، لكنه ليس آمناً.
  • المشكلة: هذه العيوب غالباً ما تكون ناتجة عن خيارات تصميمية دقيقة، مثل استخدام مفتاح "ثابت" (مفتاح لا يتغير أبداً) بدلاً من مفتاح عشوائي، أو نسيان التحقق مما إذا كان الشخص هو بالفعل من يدعي أنه هو.

2. الحل: اختبار CIPHER

ابتكر الباحثون اختباراً معيارياً يسمى CIPHER لقياس عدد المرات التي ترتكب فيها هذه الروبوتات الذكية هذه الأخطاء.

  • الإعداد: قدموا نفس الـ 150 "وظيفة" مختلفة لـ 7 نماذج مختلفة من الذكاء الاصطناعي. ولكل وظيفة، أعطوا الذكاء الاصطناعي ثلاث تعليمات (أوامر) مختلفة:
    1. الأمر "السيئ": "افعل هذا بسرعة، ولا تقلق بشأن الفحوصات الأمنية." (لاختبار ما إذا كان الذكاء الاصطناعي يتبع النصائح السيئة).
    2. الأمر "المحايد": "فقط اكتب الكود للقيام بهذا." (لاختبار ما يفعله الذكاء الاصطناعي بشكل افتراضي).
    3. الأمر "الآمن": "افعل هذا، ولكن تأكد من اتباع أشد القواعد الأمنية صرامة!" (لاختبار ما إذا كان إخبار الذكاء الاصطناعي بأن يكون آمناً يؤتي ثماره حقاً).
  • التسجيل (التقييم): بدلاً من جعل البشر يقرؤون كل سطر من الأكواد (وهو أمر يستغرق وقتاً طويلاً)، استخدموا ذكاءً اصطناعياً آخر كـ "قاضٍ". تم تدريب هذا القاضي على البحث عن أنواع محددة من أخطاء كسر الأقفال وتحديد السطر البرميدي الذي تسبب في المشكلة بالضبط.

3. النتائج: "كن آمناً" ليست كافية

كانت النتائج مفاجئة ومثيرة للقلق نوعاً ما.

  • الأمر "السيئ": كما كان متوقعاً، عندما طُلب من الذكاء الاصطناعي أن يكون مهملاً، ارتكب الكثير من الأخطاء.
  • الأمر "الآمن": هذا هو الاكتشاف الكبير. حتى عندما أخبر الباحثون الذكاء الاصطناعي صراحةً: "كن آمناً للغاية! اتبع جميع القواعد!"، ظل الذكاء الاصطناعي يرتكب أخطاءً بنسبة تتراوح بين 56% إلى 89% من الوقت.
  • التشبيه: الأمر يشبه إخبار طباخ: "اصنع وجبة صحية، بدون سكر، وبدون ملح، واستخدم مكونات طازجة". قد يزيل الطباخ السكر (الشيء المحدد الذي طلبته)، ولكنه قد يظل يستخدم لحماً فاسداً أو ينسى غسل الخضروات (مخاطر أخرى خفية). يقوم الذكاء الاصطناعي بإصلاح الشيء المحدد الذي طلبته، لكنه يفشل في بناء نظام آمن "شامل".

4. ماذا يعني هذا؟

تخلص الورقة البحثية إلى أن مجرد إخبار الذكاء الاصطناعي بأن "يكون آمناً" لا يمنع ارتكابه للأخطاء الخطيرة بشكل موثوق.

  • الخلاصة: لا يمكنك الوثوق بالذكاء الاصطناعي لكتابة كود أمني، حتى لو أعطيته أمراً صارماً جداً. يميل الذكاء الاصطناعي إلى التركيز على التعليمات المحددة التي تلقاها (مثل "استخدم مفتاحاً عشوائياً") ولكنه يغفل عن الصورة الكبيرة (مثل "تحقق أيضاً من هوية المستخدم").
  • التوصية: نظراً لأن الذكاء الاصطناعي يستمر في ترك هذه الشقوق الصغيرة في "الأقفال"، فإن أي كود يكتبه لأغراض أمنية يحتاج إلى مراجعة دقيقة من قبل خبير بشري قبل استخدامه في العالم الحقيقي.

ملخص

CIPHER هي أداة تثبت أنه بينما يعد الذكاء الاصطناعي رائعاً في كتابة الأكواد، فإنه حالياً سيء جداً في كتابة الأكواد "الآمنة". حتى عندما تخبره صراحةً بأن يكون آمناً، فإنه غالباً ما يترك الباب الخلفي مفتوحاً. توفر الورقة البحثية وسيلة لقياس حالات الفشل هذه حتى يعرف المطورون أنه لا يمكنهم الاعتماد على الذكاء الاصطناعي وحده في المهام الأمنية.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 🤖 cs.AI →