تخيل أنك تبني منزلاً. لعقود من الزمن، امتلكنا مجموعة مثالية من المخططات والأدوات لقياس مدى قوة الجدران، ومدى أمان الأقفال، ومدى احتمالية قيام لص بفتح قفل معين. هذه الأدوات تعمل بشكل رائع للمنازل التقليدية المصنوعة من الخشب والطوب. ولكن الآن، تخيل أننا فجأة نبني منازل من سحب حية ومفكرة يمكنها التحدث إليك، وكتابة رسائل البريد الإلكتروني الخاصة بك، وحتى قيادة سيارتك. الأدوات القديمة لا تعمل هنا. لا يمكنك قياس "قوة" السحابة بمطرقة، واللص لا يحتاج إلى كسر قفل؛ بل يحتاج فقط إلى الهمس بكلمة سر سرية للسحابة لتسمح له بالدخول. هذا هو عالم الذكاء الاصطناعي (AI). إنه نوع جديد من التكنولوجيا التي تتعلم من البيانات بدلاً من مجرد اتباع قائمة ثابتة من التعليمات. ولأن أنظمة الذكاء الاصطناعي هذه جديدة ومختلفة تماماً، فإن قوائم التحقق الأمنية القديمة التي نستخدمها للبرامج الحاسوبية العادية تفتقد لأهم أجزاء اللغز. نحن بحاجة إلى طريقة جديدة لفهم المخاطر، وإلا فقد نجد أنفسنا نعيش في منزل يبدو آمناً ولكنه في الواقع مليء بالشقوق غير المرئية.

هذه الورقة، التي كتبها شوبام بايكراو، تشبه مجموعة أدوات جديدة ومصممة خصيصاً لهذه المنازل ذات "السحب المفكرة". يجادل المؤلف بأن درجات السلامة التي نستخدمها اليوم تشبه محاولة قياس وزن سحابة باستخدام ميزان الحمام: فهي ببساطة لا تناسبها. تقترح الورقة أنه بدلاً من محاولة فرض رقم جديد على الأدوات القديمة، نحتاج إلى النظر إلى مخاطر الذكاء الاصطناعي من خلال خمسة "عدسات" أو أبعاد يتجاهلها تماماً ما نستخدمه حالياً. هذه العدسات هي: سطح الهجوم (كم عدد الأبواب والنوافذ المفتوحة للذكاء الاصطناعي)، قابلية استغلال النموذج (مدى سهولة خداع الذكاء الاصطناعي أو التلاعب به)، سلامة البيانات (مدى موثوقية المعلومات التي تعلمها الذكاء الاصطناعي حقاً)، التعرض التنظيمي (مقدار المشاكل القانونية التي قد يسببها الذكاء الاصطناعي للشركة)، ونضج التحكم (مدى جودة مراقبة الشركة للذكاء الاصطناعي).

لا تدعي هذه الورقة امتلاك آلة حاسبة سحرية تعطي مبلغاً دولارياً دقيقاً لكل خطر في الوقت الحالي. في الواقع، تقول الورقة صراحة إننا لا نملك تاريخاً كافياً من كوارث الذكاء الاصطناعي لجعل تلك التنبؤات المالية الدقيقة. بدلاً من ذلك، هي تقدم "إطاراً مفاهيمياً"، وهو تعبير منمق يعني أنها توفر دعامة متينة أو لغة مشتركة. إنها طريقة تجعل المديرين، وحراس الأمن، والمنظمين الحكوميين يتحدثون جميعاً نفس اللغة عند الحديث عن مخاطر الذكاء الاصطناعي. يقترح المؤلف أنه من خلال استخدام هذه الأبعاد الخمسة، يمكن للمؤسسات التوقف عن التخمين والبدء في إجراء محادثات واضحة ومنظمة حول مواضع ضعف الذكاء الاصطناعي لديهم وأين يحتاجون لبناء دفاعات أقوى. إنها ليست منتجاً نهائياً، لكنها الخطوة الأولى الضرورية للتأكد من أن مستقبل الذكاء الاصطناعي لن ينهار تحت وطأة وزنه.

المشكلة في درجات السلامة القديمة

تخيل أنك حارس أمن في متحف. لسنوات، استخدمت ماسحاً ضوئياً خاصاً لفحص اللوحات بحثاً عن الشقوق. إذا كان في اللوحة شق، يصدر الماسح صوتاً ويعطيها درجة من 1 إلى 10. هذا يعمل بشكل مثالي مع اللوحات. ولكن بعد ذلك، قرر المتحف عرض روبوت يمكنه رسم لوحاته الخاصة. الروبوت ليس به شقوق، بل لديه "هلوسات" (حيث يرى أشياء ليست موجودة)، ويمكن خداعه من قبل زائر يهمس بعبارة غريبة (ما يسمى "حقن الأوامر" أو Prompt Injection)، وقد ينسى ببطء كيفية الرسم بشكل صحيح (ما يسمى "انحراف النموذج" أو Model Drift).

إذا حاولت استخدام ماسح اللوحات القديم على الروبوت، فلن يصدر أي صوت. سيقول إن الروبوت آمن تماماً لأنه لم يجد أي شقوق في الكود. لكن الروبوت في الواقع في خطر! تشير الورقة إلى أن أدوات السلامة الحالية لدينا، مثل CVSS (الذي يقيم مدى سوء ثغرة برمجية) و FAIR (الذي يحاول تخمين كم ستكلف الكارثة مالياً)، قد بُنيت لعالم البرمجيات الثابتة القديم. وهي عمياء عن الحيل الفريدة التي يمكن أن تكسر الذكاء الاصطناعي.

على سبيل المثال، تشير الورقة إلى أن CVSS ممتاز في إخبارك بمدى سهولة كسر باب، لكن ليس لديه طريقة لقياس مدى سهولة خداع الروبوت ليفتح الباب لأن شخصاً ما أخبره بنكتة مضحكة. وبالمثل، فإن FAIR ممتاز في حساب المخاطر المالية، لكنه يحتاج إلى بيانات تاريخية (مثل "كم مرة حدث هذا العام الماضي؟") ليعمل. وبما أن الذكاء الاصطناعي جديد جداً، فنحن لا نملك تاريخاً كافياً من هذه الكوارث المحددة للذكاء الاصطناعي لتغذية الآلة. تجادل الورقة بأن محاولة استخدام هذه الأدوات القديمة للذكاء الاصطناعي تشبه محاولة قياس درجة حرارة النار بمسطرة؛ فالأداة ذات شكل خاطئ تماماً للمهمة.

العدسات الخمس الجديدة

لإصلاح ذلك، تقدم الورقة خمس طرق جديدة للنظر إلى مخاطر الذكاء الاصطناعي. فكر في هذه الطرق كخمسة مصابيح يدوية تحتاج لتسليطها على نظام الذكاء الاصطناعي الخاص بك لرؤية الصورة كاملة.

1. سطح الهجوم: الأبواب المفتوحة
يتعلق هذا الأمر بعدد الطرق التي يمكن لفاعل سيئ من خلالها الدخول. بالنسبة للكمبيوتر العادي، قد يكون هذا بضعة منافذ مفتوحة. أما بالنسبة للذكاء الاصطناعي، فهو أكبر بكثير. في كل مرة تتحدث فيها مع روبوت دردشة، أو ترفع ملفاً، أو تسمح للذكاء الاصطناعي بالاتصال ببريدك الإلكتروني، فإنك تفتح باباً جديداً. تسلط الورقة الضوء على أنه إذا سمحت لـ "وكيل ذكاء اصطناعي" (روبوت يمكنه القيام بأفعال) بالتواصل مع حسابك البنكي أو بريدك الإلكتروني، فإنك تفتح "سطح هجوم" هائلاً. الأمر يشبه ترك باب منزلك الأمامي، والباب الخلفي، ومرآب السيارات، ونوافذ القبو مفتوحة على مصراعيها. كلما زادت طرق تفاعل الذكاء الاصطناعي مع العالم الخارجي، زاد تعرضه للخطر.

2. قابلية استغلال النموذج: العقل الماكر
يقيس هذا مدى سهولة خداع الذكاء الاصطناعي. بعض أنظمة الذكاء الاصطناعي هي "صناديق سوداء" (لا نعرف كيف تفكر)، بينما البعض الآخر مفتوح. تقترح الورقة أنه إذا كانت تعليمات الذكاء الاصطناعي عامة أو إذا كانت الشركة بطيئة في إصلاح الحيل المعروفة، فإن الذكاء الاصطناعي يكون عالي "القابلية للاستغلال". إنه يشبه ساحرًا نسي أسراره؛ إذا عرف شخص ما الخدعة، يمكنه جعل الساحر يفعل أي شيء. تشير الورقة إلى أن "حقن الأوامر" (خداع الذكاء الاصطناعي بالنصوص) هو جزء أساسي من كيفية عمل هذه النماذج، مما يعني أنه لا يمكن "إصلاحه" تماماً مثل القفل المكسور؛ بل يجب إدارته باستمرار.

3. سلامة البيانات: البئر المسمومة
يتعلم الذكاء الاصطناعي من البيانات، تماماً كما يتعلم الطالب من الكتب المدرسية. إذا كانت الكتب المدرسية مليئة بالأكاذيب أو السموم، فسوف يتعلم الطالب الأكاذيب. ينظر هذا البعد إلى ثلاثة أمور:

• التسميم (Poisoning): هل تسلل شخص ما ببيانات سيئة إلى تدريب الذكاء الاصطناعي؟
• الانحراف (Drift): هل نسي الذكاء الاصطناعي كيفية العمل لأن العالم الحقيقي تغير؟ (تخيل ذكاءً اصطناعياً طبياً تم تدريبه على بيانات عام 2020 يحاول تشخيص فيروس من عام 2026؛ قد يخطئ في التشخيص).
• الهلوسة (Hallucinations): هل يقدم الذكاء الاصطناعي معلومات خاطئة بثقة تامة؟
  تؤكد الورقة أنه على عكس برنامج الكمبيوتر المعطل الذي يتوقف ببساطة عن العمل، فإن الذكاء الاصطناعي "المنحرف" قد يستمر في العمل ولكنه يعطيك إجابات خاطئة بمهارة لشهور دون أن يلاحظ أحد.

4. التعرض التنظيمي: عين القانون الساهرة
يتعلق هذا الأمر بتكلفة كسر القواعد. تضع الحكومات قوانين جديدة للذكاء الاصطناعي، مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي وقواعد هيئة الأوراق المالية والبورصات (SEC). إذا خرق الذكاء الاصطناعي الخاص بك القانون، فقد تواجه غرامات ضخمة (تصل إلى 35 مليون يورو أو 7% من دخلك العالمي، وفقاً للورقة) أو قد تضطر للإفصاح عن أخطائك للجمهور. تشير الورقة إلى أن أدوات المخاطر القديمة لا تحسب هذه التكاليف القانونية. الأمر يشبه قيادة سيارة بدون تأمين؛ قد تسير السيارة بشكل جيد، ولكن إذا وقع حادث، فستكون الصدمة المالية هائلة.

5. نضج التحكم: مهارة حارس الأمن
هذا هو الجزء الأخير: ما مدى جودة الشركة في إدارة المخاطر؟ حتى لو كان للذكاء الاصطناعي العديد من الأبواب المفتوحة (سطح هجوم عالٍ) وكان من السهل خداعه (قابلية استغلال عالية)، فإن الخطر يكون أقل إذا كان لدى الشركة حارس أمن ماهر للغاية يراقبه على مدار الساعة. يشمل ذلك أشياء مثل اختبار الذكاء الاصطناعي بمدخلات سيئة (Red-teaming)، ومراقبة مخرجاته، ووجود بشر للتحقق من القرارات المهمة. تجادل الورقة بأن الشركة التي تمتلك نظام تحكم "ناضج" تكون في وضع أفضل بكثير من تلك التي تكتفي بالأمل في الأفضل.

كيف يعمل ذلك في العالم الحقيقي

تستخدم الورقة ثلاثة أمثلة لتوضيح كيف يغير هذا الإطار الجديد طريقة تفكيرنا في المخاطر.

• روبوت الدردشة في البنك: يتحدث هذا الذكاء الاصطناعي مع العملاء ويمكنه الاطلاع على معلومات الحساب. لديه سطح هجوم عالٍ (الجميع يمكنه التحدث إليه) وقابلية استغلال عالية (لأنه صندوق أسود). لديه مخاطر تنظيمية متوسطة. تقترح الورقة أن هذا يمثل خطراً حرجاً لأنه من السهل جداً مهاجمته وهو متاح للعامة.
• ذكاء التقييم الطبي في المستشفى: يساعد هذا الذكاء الاصطالأ الأطباء في تحديد من يحتاج للمساعدة أولاً. لديه سطح هجوم متوسط (الأطباء فقط يستخدمونه) ولكن مخاطر سلامة بيانات عالية (إذا هلوس، فقد يتضرر مريض). كما أن لديه مخاطر تنظيمية حرجة بسبب قوانًين الصحة. تقول الورقة إن هذا أيضاً خطر حرج، ولكن لأسباب مختلفة. الحل ليس مجرد "إغلاق الباب"، بل هو "التأكد من أن الذكاء الاصطناعي لا يكذب".
• مساعد البرمجة في شركة برمجيات: يساعد هذا الذكاء الاصطناعي المبرمجين في كتابة الكود. لديه سطح هجوم منخفض (الموظفون فقط يستخدمونه) ومخاطر تنظيمية منخفضة. حتى لو ارتكب أخطاء، فالأمر ليس كبيراً. تقول الورقة إن هذا الخطر مُدار ولا يحتاج إلى الكثير من الاهتمام.

الخلاصة الرئيسية هي أن نظامين يمكن أن يكون كلاهما "خطراً حرجاً"، ولكن لأسباب مختلفة تماماً. الأدوات القديمة ستعطيك مجرد رقم واحد، مما يجعل من المستحيل معرفة كيفية الإصلاح. هذا الإطار الجديد يخبرك بالضبط أين يجب أن تركز طاقتك.

ما تفعله الورقة وما لا تفعله

من المهم فهم ما لا تدعيه هذه الورقة. المؤلف واضح جداً في أن هذه ليست آلة حاسبة سحرية تعطيك مبلغاً دولارياً دقيقاً لكل خطر في الوقت الحالي. نحن لا نملك البيانات الكافية لنقول: "هذا الذكاء الاصطناعي سيكلفنا 50,000 دولار إذا فشل". تعترف الورقة بأن الأرقام المتعلقة بمدى تكرار كوارث الذكاء الاصطنا هذه مفقودة. بدلاً من ذلك، تقدم الورقة هيكلاً للتفكير. إنها طريقة لتنظيم المحادثة بحيث عندما نحصل على البيانات في المستقبل، سنعرف كيفية استخدامها.

كما تنفي الورقة فكرة أنه يمكننا مجرد تعديل الأدوات القديمة. تجادل بأنك لا تستطيع مجرد إضافة بعض الإعدادات الجديدة إلى CVSS أو FAIR لجعلها تعمل مع الذكاء الاصطناعي. المشكلة أعمق؛ الطريقة التي نفكر بها في المخاطر بأكملها يجب أن تتغير لتشمل هذه الأبعاد الجديدة.

لماذا هذا مهم

تخلص الورقة إلى أن أكبر مشكلة نواجهها ليست أننا لا نعرف ما يكفي عن التهديدات، بل هي أننا لا نملك لغة مشتركة للتحدث عنها. المنظمون، وشركات التأمين، وفرق الأمن جميعهم يتحدثون لغات مختلفة. يقترح هذا الإطار مفردات مشتركة. فهو يمنح مجلس الإدارة طريقة لفهم المخاطر دون الحاجة لأن يكون خبيراً في الكمبيوتر، ويمنح فرق الأمن قائمة تحقق واضحة لما يجب بناؤه.

في النهاية، تقترح الورقة أننا في مرحلة "الدعامات". نحن نبني الهيكل الذي سيدعم في النهاية نظاماً دقيقاً ومكمماً بالكامل لإدارة مخاطر الذكاء الاصطناعي. وحتى نمتلك البيانات لملء الأرقام، فإن هذا الإطار المكون من خمسة أبعاد هو أفضل أداة لدينا لضمان أننا لا نبني مستقبلنا على أساس من الرمال. إنها خطوة عملية ومرحّة وضرورية لضمان ألا يحرق أصدقاؤنا من الذكاء الاصطناعي المنزل بالخطأ.