The Dual-Use Nature of Large Language Models in Cybersecurity: A Bibliometric Analysis and Critical Review
تجمع هذه الورقة بين تحليل ببليومتري لـ 7,369 وثيقة ومراجعة نقدية لتكشف أن الأبحاث المتعلقة بالنماذج اللغوية الكبيرة في مجال الأمن السيبراني مجزأة عبر أدوار هجومية ودفاعية معزولة، مما دفع المؤلفين إلى اقتراح إطار عمل مزدل الاستخدام مقترن وثمانية اتجاهات بحثية ذات أولوية لمعالجة نقص التقييم التكيفي واستراتيجيات الأمن المتكاملة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في السنوات القليلة الماضية، ظهر نوع جديد من البرامج الحاسوبية يمكنه القراءة والكتابة والاستنتاج بلغة البشر. هذه البرامج، المعروفة باسم نماذج اللغات الكبيرة، ليست مجرد برامج دردشة؛ بل هي أدوات قوية بدأت المنظمات في استخدامها لإدارة أمنها الرقمي. يمكنها فحص آلاف التنبيهات الأمنية للعثور على التهديدات الحقيقية، أو كتابة أكواد برمجية لإصلاح الثغرات البرمجية، أو حتى مساعدة الفرق الأمنية في التخطيط لدفاعاتها. لكن لهذه الأدوات نفسها جانباً مظلماً؛ فبسبب براعتها الشديدة في اتباع التعليمات وتوليد النصوص، يمكن للمتربصين خداعها لكتابة برمجيات خبيثة، أو إنشاء رسائل بريد إلكتروني مزيفة ومقنعة، أو تجاوز قواعد السلامة. وهذا يخلق وضعاً فريداً حيث تعمل هذه التكنولوجيا ذاتها كدرع وسلاح وهدف في آن واحد. فهي الدرع عندما تحمي شبكة، وهي السلاح عندما تساعد مهاجماً، وهي الهدف عندما يحاول شخص ما خداع البرنامج نفسه. إن فهم كيفية تفاعل هذه الأدوار الثلاثة أمر بالغ الأهمية، لأننا إذا درسنا الأداة كمدافع فقط، فقد نغفل عن حقيقة أن الأداة نفسها عرضة للهجمات التي تحاول صدها.
لقد عزم فريق من الباحثين على رسم خريطة لهذا المشهد المعقد، ليس من خلال قراءة بضع أوراق بحثية، بل عبر تحليل آلافها لمعرفة كيف يفكر المجتمع العلمي فعلياً في هذه المشكلات. قاموا بجمع ما يقرب من 13,000 سجل نُشرت بين عام 2023 وأواخر عام 2026، ثم قاموا بتصفيتها لتصل إلى مجموعة أساسية مكونة من 7,369 وثيقة تتناول مباشرة التقاطع بين نماذج اللغات هذه والأمن السيبراني. وباستخدام منهج يعامل البحث كخريطة، نظروا في مدى تكرار ظهور مواضيع مختلفة معاً وفي أي الدراسات كانت الأكثر استشهاداً. أرادوا معرفة ما إذا كان العلماء يدرسون الأدوار الثلاثة لهذه النماذج معاً، أم أنهم يعملون في صوامع منفصلة. كما أرادوا معرفة ما إذا كانت الأدلة التي تدعم سلامة هذه الأدوات قوية بقدر ما تبدو عليه.
وجد الباحثون أن هذا المجال ينمو بسرعة هائلة، حيث يتضاعف عدد الوثائق ذات الصلة أو يتضاعف ثلاث مرات كل عام تقريباً. ومع ذلك، فإن البحث منقسم بعمق؛ إذ تركز الغالبية العظمى من الدراسات على دور واحد فقط من الأدوار الثلاثة بشكل منعزل. ولم تتناول حوالي ثمانية بالمائة فقط من الوثائق التي تم فحصها أكثر من دور واحد في نفس الوقت. وهذا يعني أن الأشخاص الذين يدرسون كيفية مهاجمة هذه النماذج نادراً ما يتواصلون مع الأشخاص الذين يدرسون كيفية استخدامها للدفاع. والأمر الأكثر إثارة للقلق هو أنه عندما يبني الباحثون نظاماً دفاعياً باستخدام هذه النماذج، فإنهم نادراً ما يختبرون ما إذا كان هذا النظام يمكن خداعه بنفس الهجمات التي من المفترض أن يصدها. ففي الدراسات الدفاعية التي راجعوها، ذكرت حوالي أحد عشر بالمائة فقط من الدراسات خطر تعرض النموذج نفسه للاختراق. وخلص الباحثون إلى أنه بينما التكنولوجيا متصلة بطبيعتها — حيث تكون الأداة الدفاعية هي أيضاً هدفاً محتملاً — إلا أن مجتمع البحث لم يواكب هذا الواقع بعد.
وعندما نظر الفريق عن كثب في الأدلة المتعلقة بمدى كفاءة عمل هذه النماذج كأسلحة أو دروع، وجدوا أن الأرقام الواردة في الدراسات المختلفة كانت متضاربة للغاية. فعلى سبيل المثال، عندما اختبر الباحثون مدى قدرة الذكاء الاصطناعي على اختراق نظام حاسوبي، تراوحت معدلات النجاح المسجلة من صفر بالمائة إلى تسعين بالمائة. لم يكن هذا الفارق الهائل بسبب تغير النماذج، بل بسبب اختلاف طريقة تصميم الاختبارات؛ فقد أعطت بعض الدراسات النموذج ميزة كبيرة عبر إخباره بالضبط بمكان الضعف، بينما اختبرته دراسات أخرى في بيئة واقعية حيث يتعين عليه اكتشاف الضعف بمفرده. وأشار الباحثون إلى أن العديد من الدراسات لم تختبر دفاعاتها ضد مهاجمين يحاولون بنشاط اكتشاف كيفية كسرها، بل اختبرتها ضد هجمات ثابتة ومتوقعة. وهذا يشبه اختبار قفل ضد مفتاح لا يتغير أبداً، بدلاً من اختباره ضد صانع أقفال يحاول فتح القفل بمهارة.
كما كشفت الدراسة أن التهديدات الأكثر خطورة تنتقل إلى مستويات أعلى. فقد ركزت الأبحاث المبكرة على الحيل البسيطة لجعل النموذج يقول شيئاً لا ينبغي له قوله، أما الآن، فقد انتقل التركيز إلى أنظمة أكثر تعقيداً حيث يمكن للنموذج تذكر المحادثات السابقة، واستخدام الأدوات، واتخاذ القرارات بمرور الوقت. هذه الأنظمة "الوكيلة" (agentic) أصعب بكثير في حمايتها لأن خطأ واحداً يمكن أن يؤدي إلى سلسلة من الإجراءات السيئة التي تنتشر عبر الشبكة. ووجد الباحثون أنه بينما توجد طرق عديدة لمهاجمة هذه الأنظمة، فإن الدفاعات غالباً ما تكون هشة؛ فالدفاع الذي يعمل اليوم قد يفشل غداً إذا غير المهاجم نهجه قليلاً. علاوة على ذلك، فإن الأدوات المستخدمة لقياس النجاح غالباً ما تكون قديمة أو متوفرة باللغة الإنجليزية فقط، مما يعني أنها قد لا تعمل لبقية العالم.
في النهاية، تجادل الورقة البحثية بأننا لا يمكننا معاملة هذه النماذج كأدوات بسيطة تكون إما جيدة أو سيئة. إنها تقنيات مزدوجة الاستخدام حيث يتلاشى الخط الفاصل بين الهجوم والدفاع. ويقترح الباحثون أن العمل الأكثر أهمية في المستقبل ليس مجرد ابتكار هجمات أو دفاعات جديدة، بل بناء طرق أفضل لاختبارها. نحن بحاجة إلى التوقف عن افتراض أن الدفاع يعمل لمجرد أنه اجتاز اختباراً بسيطاً. بدلاً من ذلك، نحتاج إلى اختبار كل نظام دفاعي كما لو كان هدفاً أيضاً، والتحقق باستمرار مما إذا كان يمكن خداعه بالمحتوى الذي من المفترض أن يحلله. وإلى أن يبدأ مجتمع البحث في دراسة هذه الأدوار الثلاثة معاً، فسنظل غافلين عن الصورة الكاملة لكيفية استخدام هذه الأدوات القوية، وإساءة استخدامها، وحمايتها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.