Bridging Cybersecurity Expertise Gaps through Human-LLM Collaboration: Trust, Reliance, and Design Imperatives from a Mixed-Methods Study
تكشف هذه الدراسة المختلطة المنهج التي شملت 58 من متخصصي الأمن السيبراني أنه في حين أن التعاون بين البشر والنماذج اللغوية الكبيرة يحسن دقة الفرز، فإن درجة الاعتماد على مشورة الذكاء الاصطناعي تتباين بشكل كبير بناءً على شفافية المهام، مما يؤدي إلى ضرورات تصميمية محددة لبناء مساعدين للأمن السيبراني موثوقين ومدركين للسياق يقللون من انحياز الأتمتة ويدعمون الحكم البشري المعاير.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العالم الرقمي، تواجه فرق الأمن فيضاً مستمراً من التنبيهات. ففي كل يوم، يتعين عليهم فرز الآلاف من رسائل البريد الإلكتروني المشبوهة وتنبيهات الشبكة لتقرير ما إذا كانت مجرد ضجيج غير ضار أم هجمات حقيقية. هذه العملية، المعروفة باسم "التصنيف"، غالباً ما يقوم بها أشخاص يشعرون بالإرهاق، وتحت الضغط، ويفتقرون أحياناً إلى الخبرة العميقة. ومع نمو عدد التهديدات السيبرانية بسرعة تفوق عدد الخبراء المدربين، تتجه المؤسسات إلى الذكاء الاصطناعي للمساعدة. وتحديداً، يقومون باختبار النماذج اللغوية الكبيرة — وهي برامج حاسوبية يمكنها القراءة والكتابة والاستنتاج بلغة البشر — لتعمل كمساعدين. والأمل هو أن تتمكن هذه الأدوات من رصد المخاطر التي قد يغفل عنها البشر. ومع ذلك، ظهر سؤال جديد: إذا قدم الحاسوب نصيحة، فهل سيثق بها الإنسان بشكل مفرط، أم لن يثق بها بما يكفي؟ إن التحدي الحقيقي لا يكمن فقط في مدى ذكاء الحاسوب، بل في مدى قدرة الإنسان على فهم منطق الحاسوب بما يكفي لاتخاذ القرار النهائي.
لقد وضع فريق من الباحثين من منظمة البحوث العلمية والصناعية في أستراليا (CSIRO) نصب أعينهم استكشاف هذه العلاقة بين العمال البشريين والذكاء الاصطناعي. لم يكتفوا ببساطة باختبار مدى قدرة الحاسوب على اكتشاف رسائل البريد الإلكتروني الضارة أو هجمات الشبكة بمفرده، بل درسوا كيف يعمل البشر والحواسيب معاً. قاموا بتجنيد 58 مشاركاً، كان الكثير منهم يمتلك معرفة تقنية ولكنهم ليسوا محللي أمن سيبراني محترفين. طُلب من هؤلاء المتطوعين القيام بنوعين مختلفين تماماً من الفحوصات الأمنية. تضمن المهمة الأولى قراءة رسائل البريد الإلكتروني لمعرفة ما إذا كانت محاولات تصيد احتيالي — وهي رسائل مخادعة مصممة لسرقة المعلومات. تحتوي هذه الرسائل على أدلة مرئية، مثل عناوين المرسلين الغريبة أو الروابط المشبوهة، والتي يمكن للشخص رؤيتها والتحقق منها بنفسه. أما المهمة الثانية، فقد تضمنت فحص سجلات الشبكة، وهي جداول بيانات توضح كيفية تواصل أجهزة الكمبيوتر مع بعضها البعض. هذه السجلات أصعب بكثير في القراءة؛ إذ تكمن الأدلة داخل أرقام وأنماط معقدة ليست واضحة للعين المجردة.
في الدراسة، اتخذ المشاركون أولاً قراراتهم الخاصة حول ما إذا كانت رسالة البريد الإلكتروني أو سجل الشبكة آمناً أم خطيراً. ثم أُعطوا الفرصة للعمل مع مساعد ذكاء اصطناعي. كان بإمكان المساعد شرح منطقه، والإشارة إلى تفاصيل محددة، وتقديم توصية. راقب الباحثون عن كثب كيف تفاعل البشر مع ذلك، ووجدوا أن طريقة استخدام الناس للذكاء الاصطناعي اعتمدت كلياً على مدى سهولة التحقق من الأدلة بأنفسهم. عندما كانت المهمة هي فحص البريد الإلكتروني، حيث كانت الأدلة مرئية، استخدم المشاركون الذكاء الاصطناعي كرأي ثانٍ مفيد؛ حيث كان بإمكانهم النظر إلى البريد الإلكتروني، ورؤية الرابط المشبوه الذي ذكره الذكاء الاصطناعي، وتقرير ما إذا كانوا يتفقون معه أم لا. ساعدهم الذكاء الاصطناعي في ضبط بعض الأخطاء الإضافية، لكن البشر ظلوا هم المسيطرين.
تغير الوضع بشكل جذري عندما انتقل المشاركون إلى سجلات الشبكة. نظرًا لأن الأدلة كانت مخفية داخل بيانات معقدة، لم يستطع البشر التحقق من ادعاءات الذكاء الاصطناعي بسهء بأنفسهم. في هذا الإعداد، أصبح مستوى ثقة الذكاء الاصطناعي هو العامل الأكثر قوة. فعندما تحدث الذكاء الاصطناعي بيقين، مال البشر إلى اتباع نصيحته، حتى لو كان الذكاء الاصطناعي مخطئاً. لاحظ الباحثون أن النصائح الخاطئة المقدمة بثقة أدت إلى أخطاء أكثر من النصائح المترددة. وقد خلق هذا فجوة خطيرة: في المهام التي كانوا يحتاجون فيها إلى أكبر قدر من المساعدة، كانوا أيضاً الأكثر عرضة للثقة العمياء بالآلة. أظهرت الدراسة أنه بينما حسن الذكاء الاصطناعي الدقة الإجمالية للمجموعة، فقد فعل ذلك من خلال تغيير طريقة تفكير الناس. في مهمة الشبكة الصعبة، عمل الذكاء الاصطناعي أقل كأداة وأكثر كمرشد، يقود الإنسان عبر مسار لا يستطيع رؤيته بمفرده.
نظر الباحثون أيضاً في كيفية طرح الناس للأسئلة. عند فحص رسائل البريد الإلكتروني، طرح الناس أسئلة مباشرة مثل: "هل هذا بريد إلكتروني تصيدي؟". ولكن عند النظر في بيانات الشبكة، طرحوا أسئلة استكشافية أكثر، مثل: "ما الذي يجعل هذا الاتصال غير عادي؟" أو "هل يمكنك مقارنة هذا بحركة المرور الطبيعية؟". أظهر هذا التحول أنه بالنسبة للمشكلات المعقدة، لم يكن الناس يريدون مجرد إجابة بنعم أو لا، بل أرادوا فهم المنطق الكامن وراءها. وجدت الدراسة أن استجابات الذكاء الاصطناعي الأكثر فائدة هي تلك التي تشير إلى دليل محدد وتشرح سبب أهمية هذا الدليل. عندما كان الذكاء الاصطناعي يكتفي بإعطاء تسمية دون دليل، أو عندما يتحدث بثقة مفرطة بشأن مواقف غير مؤكدة، كان البشر يتخذون قرارات أسوأ.
تشير النتائج إلى أنه لكي يكون الذكاء الاصطناعي مفيداً حقاً في الأمن السيبراني، يجب تصميمه بشكل مختلف اعتماداً على الوظيفة. بالنسبة للمهام البسيطة حيث يمكن للبشر رؤية الأدلة، يجب أن يكون الذكاء الاصطناعي مساعداً هادئاً يسلط الضوء على التفاصيل. أما بالنسبة للمهام المعقدة حيث تكون الأدلة مخفية، فيجب أن يكون الذكاء الاصطناعي شريكاً حذراً يشرح عدم يقينه ويشجع الإنسان على إعادة التحقق. خلصت الدراسة إلى أن الهدف ليس استبدال الخبراء البشريين بالآلات، بل إنشاء شراكة يدعم فيها الجهاز الحكم البشري دون تجاوزه. ومن خلال تعليم الذكاء الاصطناعي كيفية عرض عمله والاعتراف عندما يكون غير متأكد، يمكن لفرق الأمن سد الفجوة بين العدد المتزايد للتهديدات والعدد المحدود من الخبراء المتاحين لإيقافها. وتشير الأبحاث إلى أن مستقبل الأمن لا يكمن في خوارزميات أكثر ذكاءً وحدها، بل في طرق أكثر ذكاءً للتواصل بين البشر والآلات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.