Understanding Human-AI Collaboration in Cybersecurity Competitions
تقدم هذه الورقة أول دراسة تجريبية للتعاون بين الإنسان والذكاء الاصطناًعي في مسابقة "التقط العلم" (Capture-the-Flag) حية، كاشفةً أنه بينما تفوض الفرق البشرية المهام للذكاء الاصطناعي بشكل متزايد، فإن أداءهم غالباً ما يواجه عائقاً يتمثل في صياغة الأوامر غير الفعالة، في حين أن الوكلاء المستقلين تماماً الذين يوجهون استخدام أدواتهم ذاتياً يتفوقون على معظم الفرق البشرية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الصورة الكبيرة: "الأولمبياد السيبراني"
تخيل بطولة فيديو عالية المخاطر تسمى "التقاط العلم" (Capture the Flag - CTF). في هذه اللعبة، تحاول فرق من الهكرز العثور على "أعلام" مخفية (أكواد سرية) داخل ألغاز رقمية. تتراوح هذه الألغاز بين كسر شفرة سرية (التشفير) إلى اختراق موقع إلكتروني وهمي (استغلال الويب).
لسنوات، كان الباحثون يختبرون روبوتات الذكاء الاصطناعي ليروا ما إذا كان بإمكانها الفوز بهذه الألعاب بمفردها. لكن هذا البحث يسأل سؤالاً مختلفاً: ماذا يحدث عندما يشكل لاعب بشري فريقاً مع روبوت ذكاء اصطناعي؟ هل سيحصل الإنسان على قوى خارقة، أم أنه سيتشتت فقط؟
قام الباحثون بتنظيم بطولة واقعية حيث لعب 41 طالباً مع مساعد ذكاء اصطناعي يسمى CTFriend. كما قاموا ببناء فريق من روبوتات الذكاء الاصطناعي ذاتية التشغيل بالكامل للعب نفس اللعبة دون أي تدخل بشري.
الاكتشافات الثلاثة الكبرى
1. تأثير "انتهاء شهر العسل" (توقعات البشر)
التشبيه: تخيل أنك اشتريت سيارة ذاتية القيادة لأنك تعتقد أنها ستوصلك إلى وجهتك بشكل مثالي. تركب السيارة، وفي أول خمس دقائق، يكون الأمر مذهلاً. ولكن بعد ذلك، تحاول قيادتك نحو بحيرة لأنها أخطأت في قراءة لافتة، أو تتوقف فجأة لأنها ارتبكت بسبب منطقة بناء. تبدأ في الشعور بالإحباط وتفكر: "ربما يجب أن أقود بنفسي".
النتيجة:
قبل المنافسة، كان اللاعبون البشر متفائلين للغاية. ظنوا أن الذكاء الاصطناعي سيكون عصا سحرية تحل كل شيء.
- ما حدث: بعد استخدام الذكاء الاصطناعي فعلياً، انخفضت ثقتهم. فقد ارتكب الذكاء الاصطناعي أخطاء (تسمى "الهلوسة"، حيث يبتدع معلومات بثقة)، وكتب أكواداً لا تعمل، وأحياناً تعثر بسبب القواعد الأخلاقية (رفض المساعدة لأنه اعتبر المهمة "سيئة").
- الدرس المستفاد: أدرك الناس أن الاعتماد بنسبة 100% على الذكاء الاصطناعي أمر محفوف بالمخاطر. أفضل اللاعبين كانوا هم الذين عرفوا كيف يقودون السيارة (يستخدمون الذكاء الاصطناعي) بدلاً من مجرد الجلوس في المقعد الخلفي.
2. "لاعب آلة القمار" مقابل "المهندس المعماري" (كيف استخدم البشر الذكاء الاصطناعي)
التشبيه:
- لاعب آلة القمار: تخيل مقامراً يستمر في سحب الرافعة على آلة القمار، آملاً في الفوز بالجائزة الكبرى. هو لا يفهم اللعبة؛ هو فقط يأمل أن يحالفه الحظ. في الدراسة، فعل الكثير من المبتدئين ذلك مع الذكاء الاصطناعي. كانوا يلصقون لغزاً صعباً ويقولون: "حل هذا"، وإذا فشل، يكتفون بقول "حاول مجدداً" مراراً وتكراراً، آملين أن يخمن الذكاء الاصطناعي الإجابة الصحيحة بالصدفة.
- المهندس المعماري: تخيل بانيًا ماهرًا يستأجر طاقم عمل. الباني لا يكتفي بالقول "ابنِ منزلاً". بل يقول: "إليك المخطط، وإليك المواد، وهذا هو المشكل المحدد في الأساس. أصلح ذلك، ثم ابنِ الجدران".
النتيجة:
- المبتدئون تصرفوا مثل لاعب آلة القمار. افتقروا إلى المعرفة لتوجيه الذكاء الاصطناعي، لذا استمروا في طلب الإجابات فقط، مما أدى إلى الفشل.
- الخبراء تصرفوا مثل المهندس المعماري. استخدموا الذكاء الاصطناعي للقيام بالأعمال الشاقة (مثل فحص السجلات أو كتابة كود أساسي) ولكنهم قدموا السياق والاستراتيجية. لقد أخبروا الذكاء الاصطناعي لماذا يفعلون شيئاً ما وأعطوه أدلة محددة.
- المفاجأة: حتى الأشخاص الذين لم يعرفوا شيئاً عن الهكرز تمكنوا من الفوز إذا عاملوا الذكاء الاصطناعي كـ معلم. فبدلاً من سؤال "ما هي الإجابة؟"، كانوا يسألون "كيف يمكنني اكتشاف هذا؟" ويتعلمون أثناء العملية.
3. الروبوت مقابل الإنسان (من يفوز؟)
التشبيه:
- الإنسان: بارع في الحدس. إذا كان الباب مغلقاً، قد يبحث الإنسان عن نافذة، أو يدرك أن القفل مزيف، أو يلاحظ رائحة دخان تشير إلى وجود حريق.
- الروبوت: بارع في السرعة والتكرار. إذا كانت المهمة هي "اقرأ هذه الملفات العشرة آلاف وابحث عن كلمة 'تفاحة'"، فإن الروبوت يفعل ذلك في ثوانٍ. ولكن إذا كانت المهمة تتطلب فتح نافذة في غرفة غير موجودة، فقد يحاول الروبوت كسر الحائط للأبد.
النتيجة:
- فريق روبوتات الذكاء الاصطناعي: فريق الذكاء الاصطناعي ذاتي التشغيل بالكامل (بدون بشر) جاء في المركز الثاني إجمالاً! لقد حلوا العديد من الألغاز بشكل أسرع من البشر واستخدموا "طاقة" (تكلفة حوسبة) أقل.
- أين تعثر الذكاء الاصطناعي: كان الذكاء الاصطناعي سيئاً في المهام التي تتطلب تفاعلاً مادياً أو بيئات معقدة متعددة الخطوات. على سبيل المثال، إذا كان اللغز يتطلب التفاعل مع موقع إلكتر_وني حي يتغير كل ثانية، فإن الذكاء الاصطناعي يرتبك ويستسلم. كان البشر أفضل بكثير في هذه السيناريوهات "الفوضوية" الواقعية.
- أين تعثر البشر: كان البشر بطيئين في المهام المملة والمتكررة. كان بإمكان الذكاء الاصطناعي مسح آلاف الأسطر من الكود فوراً؛ بينما الإنسان قد يصاب بالتعب.
الحل الذهبي: "البرمجة الثنائية" (Pair Hacking)
يخلص البحث إلى أن المستقبل ليس "الإنسان ضد الذكاء الاصطناعي" أو "الإنسان مع الذكاء الاصطناعي". بل هو البرمجة الثنائية (Pair Hacking).
التشبيه: فكر في الطيار ومساعد الطيار.
- الذكاء الاصطناعي (مساعد الطيار): يقود الطائرة، يفحص الأجهزة، ويمسح الأفق بحثاً عن العواصف. هو يقوم بالأعمال المملة وعالية السرعة.
- الإنسان (الطيار): يبقي يده على مقود التحكم. عندما يرتبك المساعد بسبب تشكيل سحابي غريب (لغز صعب)، يتدخل الإنسان ويقول: "مهلاً، تجاهل تلك السحابة، وانظر إلى الجبل بدلاً منها"، ويوجه السفينة مرة أخرى إلى المسار الصحيح.
الخلاصة:
- للطلاب: لا تطلب الإجابات من الذكاء الاصطناعي فحسب. استخدمه للتعلم. إذا كنت لا تعرف الأساسيات، فلن يساعدك الذكاء الاصطناعي كثيراً.
- للمنظمين: للحفاظ على عدالة هذه المسابقات، يحتاجون إلى إنشاء ألغاز صعبة على الروبوتات (تتطلب تفاعلات معقدة وفوضوية من العالم الحقيقي) ولكنها سهلة للبشر.
- للمستقبل: أفضل فرق الأمن ستكون تلك التي يعمل فيها البشر والذكاء الاصطناعي معاً، حيث يوفر الإنسان "العقل" (الاستراتيجية) ويوفر الذكاء الاصطناعي "العضلات" (السرعة ومعالجة البيانات).
ملخص في جملة واحدة
الذكاء الاصطناعي أداة قوية يمكنها هزيمة البشر في السرعة والمنطق، لكنه يحتاج إلى "طيار" بشري لتوجيهه، وتجنب الفخاخ، والتعامل مع المشكلات الواقعية الفوضوية التي لا يستطيع الروبوت فهمها بعد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.