SL5 Standard for AI Security
تقدم هذه الورقة معيار المستوى الأمني الخامس (SL5)، وهو إطار عمل استشرافي لأمن مراكز بيانات الذكاء الاصطناعي صُمم لمواجهة التهديدات السيبرانية على مستوى الدول من خلال إعطاء الأولوية للبنية التحتية والتطورات التنظيمية ذات الفترات الزمنية الطويلة التي يجب البدء فيها فوراً لضمان قابليتها للتنفيذ بحلول عامي 2028/2029.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل مجموعة من كبار المهندسين وخبراء الأمن من أكبر مختبرات الذكاء الاصطي باع العالم، يجتمعون لبناء "فورت نوكس" (حصن منيع) لأكثر نماذج الذكاء الاصطناعي قوة على الإطلاق. يطلقون على هذه الخطة اسم المستوى الأمني 5 (SL5).
فكر في نماذج الذكاء الاصطناعي التي يحمونها ليس مجرد برمجيات، بل كـ "الجواهر التاجية" للمستقبل — عقول رقمية يمكنها تصميم أدوية جديدة، أو حل مشكلات المناخ، أو حتى تصميم ذكاء اصطناعي أفضل. ولأن هذه النماذج قيمة للغاية، فإن الأشخاص الذين يحاولون سرقتها (مثل الدول المنافسة ذات الميزانيات غير المحدودة والعباقرة الفائقين) هم بمدى خطورة وحدة سيبرانية عسكرية كاملة لدولة ما.
هذه الوثيقة هي مسودة مخطط (الإصدار 0.1) لكيفية بناء حصن حول هذه العقول الرقمية بحيث لا يستطيع حتى أقوى الأعداء سرقتها أو كسرها. إليك الخطة، مقسمة إلى مفاهيم بسيطة:
1. التهديد: "الهاكر الخارق"
تفترض الورقة أن العدو ذكي للغاية. تخيل فريقًا مكونًا من 1000 عبقري يعمل لصالح حكومة، بميزانية قدرها مليار دولار، يحاول سرقة الذكاء الاصطناعي الخاص بك لسنوات. لديهم موارد تتجاوز بكثير ما تملكه أي شركة عادية. الهدف من SL5 هو إيقاف هؤلاء.
2. الاستراتيجية: القلعة "المعزولة هوائيًا"
الفكرة الجوهرية هي بناء قلعة رقمية معزولة تمامًا عن العالم الخارجي.
- العزل الهوائي (The Air Gap): تخيل غرفة بلا نوافذ ولا أبواب تتصل بالإنترنت. هذا هو شبكة SL5. لا شيء يدخل أو يخرج إلكترونيًا. إذا أردت نقل بيانات للداخل أو الخارج، يجب عليك حملها فعليًا على قرص صلب، مثل جاسوس ينقل فيلمًا مجهريًا في فيلم سينمائي.
- "جيب الأوزان" (The Weight Enclave): داخل هذه القلعة، توجد غرفة أصغر وأقوى تسمى جيب الأوزان. هذا هو المكان الذي يعيش فيه "عقل" الذكاء الاصطناعي الفعلي (أوزانه). إنه يشبه خزنة داخل قبو. يُسمح فقط بالحد الأدنى المطلق من البرمجيات هنا، وهي خاضعة لرقابة صارمة.
3. الركائز الخمس للدفاع
🏰 الأمن المادي: "الحصن"
المباني التي تضم أجهزة الكمبيوتر الخاصة بالذكاء الاصطناعي ليست مجرد مراكز بيانات عادية؛ بل بُنيت مثل المنشآت الحكومية السرية (المعروفة باسم SCIFs).
- الجدران: الغرف محمية بحيث لا تتسرب منها أي إشارات راديو (مثل قفص فاراداي) ولا يمكن لأحد التنصت عبر الجدران.
- الأبواب: للدخول، عليك المرور عبر "غرفة محبوسة" (mantrap) — وهي غرفة صغيرة بها بابان. يغلق الباب الأول قبل أن يفتح الثاني، حتى لا يتسلل أحد خلفك.
- الأشخاص: لا يمكن إلا للأشخاص الأكثر ثقة (الذين يمتلكون تصاريح أمنية رفيعة المستوى) الدخول بمفردهم. أما الجميع، فيحتاجون إلى حارس يرافقهم طوال الوقت.
🤖 أمن الآلات: "الصندوق غير القابل للكسر"
تحتاج أجهزة الكمبيوتر (المسرعات) التي تشغل الذكاء الاصطناعي إلى ميزات أجهزة خاصة.
- الدماغ المستقل: شريحة الذكاء الاصطناعي تشبه روبوتًا لا يثق بجهاز الكمبيوتر الخاص به. حتى لو تم اختراق الكمبيوتر الرئيسي (المضيف)، فإن شريحة الذكاء الاصطناعي تغلق نفسها وتمنع المخترق من رؤية البيانات.
- الختم: تتحقق الشريحة من هويتها في كل مرة تبدأ فيها للتحقق من أن أحدًا لم يستبدل دماغها بآخر مزيف.
🧍 أمن الأفراد: "الدائرة الداخلية"
تقدم الورقة طريقة جديدة لفحص خلفيات الأشخاص، تسمى مستويات الحساسية (SenL).
- المستويات: فكر في الأمر كأنه لعبة فيديو بـ 5 مستويات من التصريح.
- المستوى 1: يمكنك المشي في الردهة.
- المستوى 5: يمكنك المشي في الغرفة السرية بمفردك.
- التدقيق: للحصول على المستوى 5، تحتاج إلى فحص خلفية عميق لدرجة أنه يقترب من تصريح جاسوس حكومي. وتقر الورقة بأن الشركات الخاصة قد تحتاج إلى مساعدة الحكومة للقيام بذلك بشكل مثالي.
📦 أمن سلسلة التوريد: "فحص المكونات"
تمامًا كما يفحص الطاهي كل مكون للتأكد من عدم وجود سم، يجب على بناة الذكاء الاصطناعي فحص كل قطعة من الأجهزة وكل سطر من الأكواد.
- منطقة التجهيز: قبل دخول أي بيانات جديدة (مثل مجموعة بيانات جديدة للتدريب) إلى القلعة، تقبع في "منطقة حجر صحي". يتم فحصها بواسطة روبوتات وبشر للتأكد من أنها لا تحتوي على أفخاخ مخفية (مثل بيانات "مسمومة" تخدع الذكاء الاصطناعي).
- القطع: يجب أن تأتي الرقائق والخوادم من موردين موثوقين. إذا بدت أي شريحة مشبوهة، يتم فحصها بالأشعة السينية للتأكد من أن أحدًا لم يزرع "بابًا خلفيًا" سريًا داخلها.
🔒 أمن الشبكة: "شارع باتجاه واحد"
- لا إنترنت: الشبكة الرئيسية ليس لها اتصال بالإنترنت الخارجي.
- "قاعدة الاثنين": إذا كان لا بد من نقل البيانات بين مبنيين مختلفين، فإنها تمر عبر جهازي تشفير مختلفين من شركتين مختلفتين. إنه يشبه وجود قفلين مختلفين على الباب؛ إذا فشل أحدهما، يظل الآخر صامدًا.
- حد السرعة: هناك حد سرعة فيزيائي لكمية البيانات التي يمكن أن تخرج من "جيب الأوزان". حتى لو حاول مخترق سرقة عقل الذكاء الاصطناعي بالكامل، فإن "الأنبوب" ضيق جدًا بحيث لا يسمح بخروج كل شيء في الوقت المناسب.
4. المجهولات الكبرى (أسئلة مفتوحة)
المؤلفون صرحوا بأنهم لا يملكون جميع الإجابات بعد. إنهم يطلبون المساعدة في ثلاث ألغاز كبيرة:
- هل يمكننا الوثوق بأشخاصنا؟ هل فحص الخلفية في شركة خاصة كافٍ لإيقاف جاسوس دولة، أم أننا بحاجة لتدخل الحكومة؟
- هل يمكننا كشف "السم الخفي"؟ هل يمكننا بناء كاشف يجد كل خدعة قد يستخدمها العدو لتسميم بيانات تدريب الذكاء الاصطناعي؟ (حالياً، الإجابة هي "لسنا متأكدين").
- هل يمكننا تدريب الذكاء الاصطناعي عبر العالم؟ إذا كان "جيب الأوزان" لا يمكن اتصاله بالإنترنت، فكيف ندرب ذكاءً اصطناعيًا ضخمًا باستخدام أجهزة كمبيوتر في دول مختلفة؟ تقترح الورقة أننا قد نضطر لنقل البيانات بواسطة الشاحنات (الوسائط الفيزيائية) بدلًا من الإنترنت، وهو أمر بطيء وصعب.
الملخص
هذه الوثيقة هي "مسودة أولية" لطريقة فائقة الأمان لبناء الذكاء الاصطناعي. تقول: "لحماية أقوى ذكاء اصطناعي من أفضل مخترقي العالم، نحتاج إلى بناء حصون مادية، واستخدام أجهزة خاصة غير قابلة للكسر، وفحص موظفينا مثل الجواسيس، وقطع الاتصال بالإنترنت تمامًا".
إنه مخطط جريء يعترف بصعوبة التنفيذ، لكنه يجادل بأنه إذا أردنا بناء مستقبل الذكاء الاصطناعي بأمان، فعلينا البدء في بناء هذه الحصون الآن.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.