AI Deployment and Cyber Governance Failures in Public-Sector Organizations: A Typological Analysis
تعالج هذه الورقة الفجوة في الأدبيات المتعلقة بإخفاقات الأمن السيبراني المدفوعة بالذكاء الاصطناعي في مؤسسات القطاع العام من خلال اقتراح تصنيف مكون من سبعة مجالات ونموذج إخفاق ثلاثي المسارات لإثبات أن أطر الحوكمة الحالية لا تعالج بشكل كافٍ قضايا حرجة مثل "الذكاء الاصطناعي الخفي" (Shadow AI) وعدم تماثل السرعة، مما يوفر مواصفات تصميم لنموذج نضج جديد للأمن السيبراني الممكن بالذكاء الاصطناي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالم أمن الحاسوب كأنها لعبة شطرنج ضخمة وعالية المخاطر تلعبها الحكومات. لعقود من الزمن، حاول اللاعبون حماية "ملكهم" (بيانات المواطنين) من "الفرسان" الماكرين (المخترقين) باستخدام مجموعة من القواعد الراسخة تسمى الحوكمة. تخبر هذه القواعد الحكومة بكيفية شراء أدوات جديدة، ومن المسؤول عن إصلاح المشكلات، وكيفية التأكد من عدم غش أحد. ولكن مؤخرًا، دخلت ورقة رابحة جديدة وغير متوقعة إلى اللعبة: الذكاء الاصطناعي. هذا ليس مجرد قطعة شطرنج جديدة؛ بل هو أشبه بروبوت يمكنه تعلم اللعبة بشكل أسرع من قدرة اللاعبين البشر على كتابة كتاب القواعد. والسؤال الكبير الذي يطرحه الجميع هو: عندما تبدأ الحكومات في استخدام أدوات الذكاء الاصطناعي فائقة السرعة والذكاء هذه، هل لا تزال قواعد السلامة القديمة الخاصة بها تعمل، أم أن اللعبة بأكملها ستنهار؟ تغوص هذه الورقة في ذلك الفوضى تحديدًا، وتنظر في سبب معاناة الحكومات للحفاظ على سلامة استخدامها للذكاء الاصطناعي، وماذا يحدث عندما لا تستطيع القواعد مواكبة الروبوتات.
يجادل مؤلفو هذه الدراسة، محمد صلاح الدين، وجيمس روني، وفيدا حسن، بأن المشكلة ليست فقط في كون الذكاء الاصطناعي معقدًا؛ بل في أن "كتاب قواعد" الحكومة يتحرك بسرعة مختلفة تمامًا عن سرعة التكنولوجيا نفسها. ويسمون هذا عدم التماثل في السرعة (Speed Asymmetry). فكر في الأمر كالتالي: تخيل أن مراهقًا يمكنه تحميل تطبيق جديد ورائع على هاتفه في حوالي خمس دقائق. ولكن لكي تكتب الحكومة قانونًا يقول ما إذا كان هذا التطبيق آمنًا أم لا، يتطلب الأمر سنوات من الاجتماعات والمناقشات والأوراق الرسمية. وفي تلك الفجوة بين "الخمس دقائق" و"السنوات"، توجد منطقة خطيرة وغير محروسة حيث يمكن أن تسوء الأمور.
تشير الورقة إلى أنه بسبب فجوة السرعة هذه، يحدث نوع محدد من المشاكل يسمى الذكاء الاصطناعي الخفي (Shadow AI). وهذا يحدث عندما يبدأ موظفو الحكومة، في محاولتهم لإنجاز عملهم بشكل أسرع، في استخدام أدوات ذكاء اصطناعي لا تعرف عنها الحكومة أو لا توافق عليها. الأمر يشبه طالبًا يحضر آلة حاسبة مخفية إلى امتحان الرياضيات. والمشكلة هي أن هذه الأدوات المخفية قد ترسل بيانات حكومية سرية إلى خوادم أجنبية، مما يخلق تسريبًا هائلًا لا يراقبه أحد. وقد وجد المؤلفون أن قوائم التحقق والقواعد الأمنية الحالية (مثل تلك الصادرة عن NIST أو ISO) غير فعالة إلى حد كبير ضد هذا النوع. إنها تشبه خريطة لمدينة رُسمت قبل عشر سنوات؛ فهي تظهر الشوارع القديمة، لكنها لا تظهر الأنفاق السرية الجديدة التي يحفرها الذكاء الاصطناعي الآن.
قام الباحثون ببناء "خريطة" جديدة للمشكلة، حيث حددوا عشرة أسباب محددة لفشل حوكمة الذكاء الاصطناعي في القطاع العام. وقد صنفوا هذه الأسباب ضمن سبعة مجالات، وهي تشبه الغرف المختلفة في منزل يمكن أن يبدأ منه الخلل. على سبيل المثال، هناك غرفة "المشتريات"، حيث تشتري الحكومة الأشياء. وتقول الورقة إن قواعد شراء الذكاء الاصطناعي مفقودة تمامًا، لذا تشتري الحكومة أدوات دون التحقق مما إذا كانت آمنة. وهناك غرفة أخرى هي "القوى العاملة"، حيث قد يكون الموظفون متعبين جدًا أو مشتتين لدرجة تمنعهم من استخدام الذكاء الاصطناعي بشكل صحيح، مما يؤدي إلى إجهاد التنبيه (Alert Fatigue) — وهي حالة يصبح فيها حراس الأمن مثقلين للغاية بالإنذارات الكاذبة لدرجة تجعلهم يغفلون عن الخطر الحقيقي.
كما تقدم الورقة "نموذج فشل المسارات الثلاثة". تخيل منزلاً حيث ترتبط السباكة والكهرباء والأقفال ببعضها البعض. إذا انفجرت السباكة (فشل المساءلة)، وتعطلت الكهرباء (فشل المرونة التشغيلية)، وانكسرت الأقفال (فشل الامتثال). يوضح المؤلفون أن هذه الإخفاقات الثلاثة تغذي بعضها البعض، مما يجعل النظام بأكمله ينهار بشكل أسرع مما توقعه أي شخص. لقد اختبروا خمسة أطر عمل أمنية رئيسية موجودة مقابل خريطتهم الجديدة ووجدوا نتيجة حاسمة: لا يوجد أي منها لديه قواعد محددة للذكاء الاصطناـي الخفي أو عدم التماثل في السرعة. وبينما تقدم بعض أطر العمل إرشادات جزئية حول "فراغ الحوكمة" (المساحة الفارغة حيث لا يعرف أحد من هو المسؤول) وتغطية كاملة لمخاطر سلسلة التوريد، إلا أنها تفتقر تمامًا إلى الضوابط التشغيلية المحددة اللازمة لإدارة استخدام الذكاء الاصطناعي غير المصرح به وفجوة السرعة نفسها.
إذًا، ما هو الحل؟ لا يدعي المؤلفون امتلاك حل سحري، لكنهم يقترحون تصميمًا جديدًا لـ "نموذج النضج". فكر في هذا ككتاب قواعد جديد وديناميكي يتغير مع سرعة التكنولوجيا نفسها. سيتطلب ذلك من الحكومات التحقق باستمرار من أدوات الذكاء الاصطناعي التي يستخدمها موظفوها، وتوظيف المزيد من الأشخاص لإدارة التنبيهات، وإعادة كتابة قوانينها لتغطية هذه المخاطر الجديدة. وتقترح الورقة أنه ما لم تتوقف الحكومات عن معاملة الذكاء الاصطناعي كمجرد برنامج حاسوبي آخر وتبدأ في معاملته كتحدٍ هيكلي يكسر قواعدها القديمة، فستستمر في مواجهة حالات فشل الحوكمة هذه. الخلاصة الرئيسية هي أنه لا يمكنك مجرد إصلاح البرمجيات؛ بل يجب عليك إعادة تصميم المنزل بأكمله للتعامل مع الضيوف الجدد، الأسرع، والأكثر عدم قابلية للتنبؤ.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.