AI Security Priorities: A Field-Wide Agenda
تقدم هذه الورقة أجندة متعددة القطاعات وذات أولوية للنهوض بأمن الذكاء الاصطناعي، منظمة في أربعة محاور رئيسية ومستمدة من مقابلات وورش عمل مع خبراء، لتوجيه الاستثمار والعمل المنسق في حماية أنظمة الذكاء الاصطناعي وبنيتها التحتية مع تجاوز وتيرة اعتمادها لسرعة الجاهزية الأمنية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالم الحواسيب كمدينة ضخمة وصاخبة. لعقود من الزمن، ركز الناس الذين يبنون هذه المدينة على جعل المباني أكثر طولاً والطرق أكثر سرعة. لقد ابتكروا أدوات قوية لحل المشكلات، وكتابة القصص، وتنظيم البيانات. ولكن مؤخرًا، بدأوا في بناء شيء جديد: روبوتات لا تكتفي فقط باتباع الأوامر، بل يمكنها حقًا "التفكير" فيما ستفعله بعد ذلك، والإمساك بالأدوات، والتجول في المدينة بمفردها. تُسمى هذه الروبوتات "وكلاء الذكاء الاصطناعي" (AI agents).
المشكلة هي أن حراس الأمن في المدينة لا يزالون يرتدون زيًا رسميًا من قبل عشر سنوات. هم يعرفون كيفية قفل باب أو إيقاف لص يستخدم عتلة، لكنهم ليسوا مستعدين لروبوت يمكنه فتح القفل، أو خداع حارس لفتح بوابة، أو إعادة كتابة مخططات المدينة بينما أنت نائم. تتحدث هذه الورقة عن مجموعة من الخبراء — أشخاص يبنون هذه الروبوتات، وأشخاص يحرسون المدينة، وأشخاص يضعون القواعد — أدركوا أن الفجوة بين مدى ذكاء الروبوتات وسرعة تطورها وبين سرعة تعلمنا لكيفية حمايتها تزداد اتساعًا بشكل خطير. لقد اجتمعوا لتحديد ما نحتاج فعله بالضبط للحفاظ على سلامة المدينة قبل أن تصبح الروبوتات أكبر من أن يتم التحكم فيها.
هذه الورقة، التي تحمل عنوان "أولويات أمن الذكاء الاصطناعي: أجندة شاملة للمجال"، هي في الأساس قائمة مهام ضخمة وضعها أكثر من 20 خبيرًا من جميع أنحاء العالم. لم يكتفوا بالتخمين؛ بل أجروا مقابلات مع القادة، وعقدوا ورش عمل، ورتبوا الأفكار بناءً على شيئين: مدى أهميتها ومدى العائد الذي تقدمه مقابل الجهد المبذول. ووجدوا أننا لا يمكننا مجرد سد الثغرات في البرامج فحًا؛ بل نحتاج إلى طريقة تفكير جديدة تمامًا تجاه الأمن.
إليكم ما وجدوه، مقسمًا إلى أربعة أحياء رئيسية في المدينة:
1. حي دار البلدية (الاستراتيجية والقواعد)
يقول الخبراء إننا بحاجة إلى التوقف عن معاملة أمن الذكاء الاصطناعي كمسألة تقنية بسيطة، والبدء في معاملته كقضية دفاع وطني. يقترحون أن تحتاج الحكومة إلى "استراتيجية ردع" واضحة. فكر في الأمر كلوحة على سياج تقول: "إذا حاولت سرقة عقول روبوتاتنا، فسنعرف ذلك، وسنرد بقوة". حاليًا، قد يعتقد الأشرار أنه يمكنهم سرقة نماذج الذكاء الاصطناعي القوية هذه دون عواقب لأن القواعد غير واضحة. تقول الورقة أيضًا إننا بحاجة إلى قاموس مشترك؛ فحاليًا، تطلق مجموعة ما اسم "السلامة" على مشكلة، بينما تطلقها مجموعة أخرى باسم "الأمن"، مما يسبب ارتباكًا. نحن بحاجة لأن يتحدث الجميع نفس اللغة حتى نتمكن من بناء الجدران الصحيحة. كما يريدون مكتبة ضخمة ("مركز موارد") حيث يمكن لأي شخص العث find أفضل الأدوات والأدلة لتأمين الذكاء الاصطنا الخاص به، حتى لا نضطر جميعًا إلى إعادة اختراع العجلة.
2. حي مراقبة الحي (التنسيق بين القطاعين العام والخاص)
أقوى روبوتات الذكاء الاصطناعي يتم بناؤها من قبل عدد قليل من الشركات الخاصة، لكن التهديدات ضدها تأتي من دول بأكملها. الأمر يشبه محاولة لجنة مراقبة حي صغيرة إيقاف جيش أجنبي؛ لا يمكنهم فعل ذلك بمفردهم. تقترح الورقة ضرء أن يتعاون كل من الحكومة والشركات. فالحكومة لديها معلومات استخباراتية سرية عن الأشرار لا تراها الشركات، والشركات لديها الروبوتات التي تحتاج إلى حماية. وهم يقترحون إنشاء "شارات تصريح" خاصة للأشخاص الذين يعملون على هذه الروبوتات، على غرار كيفية حصول الجواسيس على تصاريح أمنية، للتأكد من أن لا أحد من الداخل يعمل لصالح العدو. كما يريدون وجود "خط ساخن" مخصص حيث يمكن للشركات مشاركة قصص حول الهجمات دون الوقوع في مشاكل، بحيث إذا تعرضت إحدى الشركات للاختراق، يعرف الآخرون فورًا كيفية إصلاح الأمر.
3. ورشة الهندسة (الأمن التقني)
هنا يحدث البناء الفعلي. تشير الورقة إلى أن الأدوات الحالية ليست قوية بما يكفي. يقترحون استخدام "الحوسبة السرية" (Confidential Computing)، وهي تشبه وضع عقل الذكاء الاصطناعي داخل صندوق زجاجي فائق الأمان وغير قابل للكسر، لا يمكن لأحد رؤية ما بداخله سوى الذكاء الاصطناعي نفسه. حتى لو اقتحم مخترق المبنى، فلن يتمكن من التلصص على الصندوق لسرقة أسرار الروبوت. يريدون أيضًا استخدام الذكاء الاصطناعي لكتابة كود برمجي أفضل، آملين أن يتمكن روبوت ذكي من اكتشاف أخطائه قبل أن يفعل البشر ذلك. فكرة كبيرة أخرى هي "الفريق الأحمر" (Red-teaming)، وهو ما يشبه استئجار فريق من اللصوص المحترفين لمحاولة اقتحام النظام. تقول الورقة إننا بحاجة إلى استئجار أفضل اللصوص، أولئك الذين يفكرون كالحكومات الأجنبية، لاختبار دفاعاتنا قبل وصول الأشرار الحقيقيين.
4. غرفة التحكم في الروبوتات (حوكمة الذكاء الاصطناعي الوكيل)
هذا هو الجزء الأكثر مستقبلية. مع بدء الروبوتات في القيام بأشياء من تلقاء نفسها — مثل إدارة شبكات الطاقة أو تحريك الأموال — نحتاج إلى قواعد جديدة. تقترح الورقة الحاجة إلى "أطر عمل للإذن". تخيل روبوتًا يريد شراء سيارة؛ لا ينبغي أن يكون قادرًا على فعل ذلك ببساطة، بل يجب أن يسأل بشرًا: "هل يمكنني شراء هذه السيارة؟" ويجب أن يوافق البشر على ذلك. نحتاج أيضًا إلى إثبات رياضي بأن الروبوت لا يمكنه القيام بأشياء خطيرة معينة، مثل إرسال كل أموال الشركة إلى شخص غريب. تحذر الورقة من أننا إذا تركنا هذه الروبوتات تعمل دون هذه الضوابط المحددة، فقد تهاجم بالخطأ (أو عمدًا) الأنظمة التي من المفترض أن تساعدها.
الخلاصة
لا تدعي الورقة أنها حلت كل شيء. في الواقع، تعترف بأن هذه مجرد المسودة الأولى لخطة. الخبراء واضحون للغاية في أن مشهد التهديدات يتغير بسرعة، وما ينجح اليوم قد لا ينجح غدًا. ومع ذلك، فهم واثقون من أنه إذا بدأنا العمل على هذه الأولويات الـ 18 الآن — بناء القواعد، ومشاركة الأسرار، وتحصين التكنولوجيا، والتحكم في الروبوتات — فيمكننا ترجيح الكفة لصالحنا. إنهم يريدون التأكد من أنه بينما تكبر هذه الأدوات القوية، تظل آمنة، ومحمية، ومفيدة للجميع، بدلاً من أن تصبح خطرًا على المدينة التي بُنيت لخدمتها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.