Capability-Based Planning for AI Crisis Preparedness
تقترح هذه الورقة إطار عمل للتخطيط القائم على القدرات من أجل الجاهزية للأزمات في مجال الذكاء الاصطناعي، والذي يستبدل تقييم المخاطر التقليدي القائم على الاحتمالية بنهج قائم على السيناريوهات لتقييم وتحديد أولويات القدرات الحكومية في ظل حالة عدم اليقين العميق.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إن مستقبل الذكاء الاصطناब्दी المتقدم هو مشهد من عدم اليقين العميق. فخلافاً لتوقعات الطقس، حيث يمكن للعلماء التنبؤ بهطول الأمطار بدقة معقولة، لا يتفق الخبراء على متى، أو حتى ما إذا كانت أنظمة الذكاء الاصطناعي القوية الجديدة ستظهر. فبينما يتوقع البعض وصولها في غضض سنوات قليلة، يعتقد آخرون أنها لا تزال على بعد عقود. ولأن الجدول الزمني غير واضح للغاية، ولأن هذه الأنظمة قد تتصرف بطرق لا يمكن لأحد التنبؤ بها حالياً، تواجه الحكومات مشكلة صعبة: كيف تستعد لأزمة لا يمكنك وصفها؟ تعتمد التخطيط التقليدي على تخمين الخطر الأكثر احتمالاً وبناء دفاعات لذلك السيناريو المحدد. ولكن إذا وصل الخطر في شكل مختلف تماماً، أو في وقت لم يتوقعه أحد، فقد تكون تلك الدفاعات المحددة عديمة الفائدة. لهذا السبب هناك حاجة إلى نهج مختلف—نهج لا يحاول التنبؤ بالمستقبل، بل يتساءل عما يجب أن تكون الحكومة قادرة على فعله، بغض النظر عما يخبئه المستقبل.
لقد اقترح فريق من الباحثين طريقة جديدة لحل هذه المشكلة، مستمدين استراتيجيات تستخدمها الجيوش ووكالات الاستجابة للكوارث منذ عقود. فبدلاً من السؤال "ما هي كارثة الذكاء الاصطناعي الأكثر احتمالاً؟"، يسألون "ما هي القدرات التي يجب أن تمتلكها الحكومة للتعامل مع أي أزمة ذكاء اصطناعي شديدة؟" ويسمونها التخطيط القائم على القدرات. ولاختبار هذه الفكرة، بنى الباحثون أداة عملية: شبكة ضخمة تقاطع بين مجموعة واسعة من سيناريوهات كوارث الذكاء الاصطناعي المحتملة وقائمة من الإجراءات الحكومية المحددة. لم يحاولوا التخمين أي سيناريو سيحدث، بل نظروا إلى أربع فئات عريضة من التهديدات الشديدة—مثل سيطرة أنظمة الذكاء الاصطناعي على عملياتها الخاصة، أو استخدام الذكاء الاصطناعي لإنشاء أسلحة بيولوجية—وأنشأوا مجموعة متنوعة من الحالات المحددة ضمن تلك الفئات. ولكل حالة، طرحوا سؤالاً بسيطاً: إذا حدث هذا اليوم، هل تستطيع الحكومة فعلياً إيقافه أو إدارته؟
وجد الباحثون أن الحالة الراهنة للجاهزية الحكومية غير متكافئة وغالباً ما تكون غير كافية، رغم أنهم يحذرون من أن هذه النتائج أولية. لقد حددوا 65 وظيفة حكومية متميزة، تتراوح من القدرة على التنسيق بين الوكالات المختلفة إلى السلطة لإغلاق خوادم الكمبيوتر، لكن دراستهم التجريبية قيمت 13 قدرة فقط من هذه القدرات مقابل مكتبة سيناريوهات الكوارث الخاصة بهم. وحتى مع هذه العينة المحدودة، ظهر نمط يشير إلى أن الحكومة تفتقر في معظم الأحيان إلى القدرة الفورية على التحرك دون تحضير مسبق كبير. على سبيل المثال، إذا أفلت نظام ذكاء اصطناعي خطير فجأة إلى الإنترنت، فمن المرجح أن الحكومة لن تملك السلطة القانونية أو الوسائل التقنية لإيقافه في اللحظة ذاتها. وتشير الدراسة إلى أن المؤسسات الحالية ليست مستعدة للتعامل مع هذه الأزمات بشكل فوري. ومع ذلك، وجد الباحثون أيضاً أن بعض القدرات مفيدة في كل الكوارث المحتملة تقريباً، ومن بينها القدرة على حشد الدوائر الحكومية المختلفة بسرعة والتنسيق مع الشركاء الدوليين. ولأن هذه الإجراءات مفيدة بغض النظر عن طبيعة التهديد المحدد، يرى الباحثون وجوب أن تكون هي الأولوية الأولى للاستثمار، بغض النظر عن مدى احتمالية وقوع أي كارثة بمفردها.
كشفت الدراسة أيضاً أن نوع التهديد يهم أقل من الطبيعة المحددة للسيناريو. فسواء كان الخطر ناتجاً عن فقدان السيطرة على نظام ذكاء اصطناعي أو عن هجوم سيبراني، فإن الفجوات في الجاهزية الحكومية تبدو متشابهة جداً. وهذا يشير إلى أن الحكومات لا ينبغي أن تركز تخطيطها على تسميات محددة مثل "سيبراني" أو "بيولوجي"، بل على الآليات الأساسية للأزمة. اكتشف الباحثون أنه بالنسبة للسيناريوهات الأكثر خطورة، مثل تلك التي قد تهدد وجود البشرية، تحتاج الحكومة إلى مجموعة محددة جداً من الأدوات: القدرة على احتواء التهديد، والتحكم في أنظمة الكمبيوتر التي تشغل الذكاء الاصطناعي، وإيقاف نشر النماذج الجديدة. وبدون هذه القدرات المحددة، ستفشل الاستجابة للأزمة تماماً. وفي المقابل، بالنسبة لأنواع أخرى من التهديدات، قد تتمكن الحكومة من الاعتماد على شبكات الطوارئ الحالية، ولكن بالنسبة لأكثر الاحتمالات خطورة، فإن البنية التحتية الحالية ليست كافية.
ومن أكثر النتائج لفتاً للنظر أن الحكومات يمكنها البدء في الاستعداد لهذه الأزمات دون الحاجة إلى الاتفاق على متى ستحدث بالضبط أو مدى احتمالية وقوعها. فمن خلال التركيز على إجراءات "لا تندم عليها" (no-regret actions)—وهي الخطوات المفيدة في أي مستقبل—يمكن للحكومة بناء أساس من الجاهزية يظل صالحاً حتى مع تغير العالم. وجد الباحثون أن التنسيق والقدرة على التحرك بحسم هما الحاجتان الأكثر أهمية. وهم يقترحون أن الخطوة الأولى لأي حكومة هي تعيين وكالة رائدة محددة لكل نوع من أنواع الأزمات وبناء شبكات ثقة مع الشركات التي تبني وتستخدم الذكاء الاصطناعي. هذه الخطوات لا تتطلب التنبؤ بالمستقبل؛ بل تتطلب ببساطة الاعتراف بأن النظام الحالي ليس مبنياً للتعامل مع الاضطرابات المفاجئة والشديدة.
لا تدعي الورقة البحثية أنها حلت مشكلة سلامة الذكاء الاصطناعي، كما أنها لا تقدم قائمة مثالية لكل الحلول الممكنة. لقد كان الباحثون واضحين في أن عملهم هو دراسة تجريبية، وهي إثبات لمفهوم يوضح قيمة هذا النوع الجديد من التفكير. لقد اختبروا جزءاً صغيراً فقط من الوظائف الحكومية الممكنة مقابل مجموعة محدودة من السيناريوهات، وهم يقرون بأن هناك مزيداً من العمل المطلوب لسد الفجوات. ومع ذلك، فإن الأداة التي بنوها توفر وسيلة لتجاوز شلل عدم اليقين. فبدلاً من انتظار ظهور تهديد معين، يمكن للحكومات الآن رسم خريطة للقدرات الدقيقة التي تحتاجها للنجاة من مجموعة واسعة من المستقبلات المحتملة. وتخلص الدراسة إلى أن أكبر عقبة في الأزمة ليست التكنولوجيا نفسها، بل هي قدرة الدولة على الاستجابة. ومن خلال تحديد هذه الفجوات الآن، يمكن للحكومات ضمان أنها عندما تصل الأزمة، لن تُؤخذ على حين غرة، بل ستكون مستعدة للتحرك بالسلطة والموارد اللازمة لحماية مواطنيها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.