Assuming You Knew: Fixing an Epistemic Semantics for Flow Policies Using Agentic AI
تقدم هذه الورقة تصحيحاً تم التحقق منه آلياً لإطار عمل من عام 2018 خاص بالدلالات المعرفية لسياسات تدفق المعلومات، والذي تم إنجازه بمساعدة مساعد برمجة يعمل بالذكاء الاصطناعي الوكيل، لتوفير أساس متين وعام لتحديد وإنفاذ المتطلبات الأمنية التعبيرية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
حراس الأسرار والهمس الرقمي
تخيل عالماً حيث كل برنامج كمبيوتر هو مدينة صاخبة، والمعلومات هي العملة التي تتدفق في شوارعها. في هذه المدينة، هناك أسرار قيمة للغاية — مثل مفتاح رئيسي أو كلمة مرور — بحيث لا يجوز لها أبداً أن تغادر خزنة محددة. هذا هو مجال أمن تدفق المعلومات، وهو فرع من علوم الحاسوب مخصص لضمان عدم تسرب البيانات الحساسة عن طريق الخطأ (أو بسوء نية) إلى الأعين غير المصرح لها. لكن الحياة ليست دائماً أبيض وأسود؛ فأحياناً، يحتاج السر إلى المشاركة، ولكن تحت شروط محددة للغاية. ربما يريد بنك إخبار عميل بأن حسابه آمن، ولكن فقط بعد أن يجيب على سؤال أمني بشكل صحيح. تسمى عملية التوازن الصعبة هذه "خفض المستوى" (downgrading): وهي أخذ سر من مستوى عالٍ وخفض مستوى حمايته بعناية حتى يمكن رؤيته، ولكن فقط عندما تسمح القواعد بذلك.
ولفهم هذه القواعد المعقدة، يستخدم العلماء فرعاً من المنطق يسمى المنطق الإبستمي (Epistemic Logic). فكر في هذا كـ "منطق المعرفة". فبدلاً من مجرد السؤال عن "ماذا حدث؟"، يسأل "ما الذي يعرفه المراقب؟". إذا كان هناك مخترق يراقب المدينة، فما الذي يمكنه استنتاجه عن الأسرار الموجودة في الخزنة بناءً على حركة المرور التي يراها؟ لقد كان التحدي دائماً هو كتابة كتاب قواعد مثالي يحدد بالضبط متى يمكن مشاركة السر دون خلق ثغرة. لسنوات، حاول الباحثون بناء إطار رياضي لهذا، لكن المخططات كانت مليئة بالشقوق. فإذا كان المنطق الرياضي خاطئاً، فإن الأمن سيكون مجرد وهم.
إصلاح المخطط بمساعدة روبوت مساعد
تحكي هذه الورقة قصة كيف تعاون الباحث ديفيد نومان مع مساعد برمجي يعمل بالذكاء الاصطناعي لإصلاح مخطط مكسور لقواعد الأمن هذه. كان المخطط الأصلي، الذي نُشر في عام 2018، محاولة ذكية لتحديد متى يُسمح للبرنامج بـ "إلغاء تصنيف" (declassify) سر ما. وقد استخدم مفهوماً يسمى "التعليقات التوضيحية العلاقاتية" (relational annotations)، وهي تشبه الملاحظات اللاصقة الموضوعة على الكود والتي تقول: "من المقبول إظهار هذا السر إذا كانت رمية العملة العشوائية قد استقرت على الوجه". وكانت الفكرة هي أنه إذا اتفقت تشغيلتان مختلفتان للبرنامج على نتيجة رمية العملة، فيمكنهما الاتفاق على إظهار السر.
ومع ذلك، عندما عُرضت الورقة الأصلية، أدرك المؤلف وجود خلل كبير في برهانه. كان الأمر يشبه بناء جسر يبدو متيناً ولكنه ينهار تحت نوع معين من الرياح. كان المؤلف قد رسم مسودة للتصحيح، لكن التفاصيل كانت فوضوية وغير مؤكدة. تأخذ هذه الورقة تلك المسودة وتحولها إلى هيكل صلب لا يتزعزع.
النتيجة الرئيسية هنا هي البرهان المدقق آلياً (machine-checked proof). لم يكتفِ المؤلف بكتابة الرياضيات على الورق؛ بل قام بتغذيتها في برنامج كمبيوتر يسمى Rocq (مساعد برهان) يعمل كمعلم رياضيات شديد الانتباه. قام هذا المعلم الروبوتي بفحص كل خطوة من خطوات المنطق للتأكد من عدم وجود فجوات خفية. والنتيجة هي إطار عمل مصحح يثبت أنه: إذا اتبع البرنامج مجموعة محددة من قواعد "السلامة" (وهي قواعد سهلة التحقق أثناء تشغيل البرنامج)، فإنه مضمون أمنياً من الناحية الرياضية وفقاً لقواعد "المعرفة" المعقدة.
تستبعد الورقة صراحةً فكرة أن البرهان الأصلي لعام 2018 كان صحيحاً كما كُتب. فهي توضح أن التعريف السابق لـ "سياسة الإصدار" (القاعدة التي تحدد متى يمكن مشاركة الأسرار) كان معيباً لأنه لم يأخذ في الاعتبار جميع الطرق التي يمكن للبرنامج أن يعلق فيها أو يتوقف عن العمل (diverge). ويجادل المؤلف بأنه لا يمكنك ببساحث الاعتماد على حدس البشر في هذه السيناريوهات المعقدة متعددة التشغيل؛ بل تحتاج إلى الآلة للتحقق من كل الاحتمالات.
المحقق والحجة
لفهم كيفية عمل ذلك، تخيل محققاً (النظام الأمني) يحاول معرف من أن مشتبهاً به (البرنامج) يسرب أسراراً. يمتلك المحقق أداتين: السلامة (Safety) والأمن (Security).
- الأمن (Security) هو الهدف النهائي: "المشتبه به لم يخبر أحداً بأي شيء لم يكن من المفترض أن يعرفه". وهذا أمر يصعب إثباته لأن عليك تخيل كل سيناريو محتمل قد يكون المشتبه به قد مر به.
- السلامة (Safety) هي فحص محلي أبسط: "هل اتبع المشتبه به القواعد خطوة بخطوة أثناء تقدمه؟"
الاختراق الكبير في هذه الورقة هو إثبات أن السلامة تستلزم الأمن. إذا اتبع البرنامج قواعد "السلامة" (التي تشبه قائمة "أدلة الغياب" لكل خطوة)، فإن ضمان "الأمن" المعقد سيتحقق تلقائياً. إنه يشبه إثبات أنه إذا لم يقطع السائق أبداً إشارة حمراء أو يتجاوز السرعة المحددة (السلامة)، فإنه لن يتسبب أبداً في نوع معين من الحوادث (الأمن).
استخدم المؤلف مساعد برمجة يعمل بالذكاء الاصطناعي الوكيل (agentic AI coding assistant) (تحديداً أداة تسمى Claude Code) للمساعدة في كتابة كود برهان Rocq. لم يكن هذا مجرد مدقق إملائي؛ بل ساعد الذكاء الاصطناعي في ترجمة المسودات الرياضية الفوضوية إلى كود صارم، بل واكتشف بعض أخطاء المؤلف نفسه. على سبيل المثال، أشار الذكاء الاصطناعي إلى أن تعريف "التوقف/التعليق" (divergence) (عندما يعلق البرنامج في حلقة مفرغة) كان صارماً للغاية وكان بحاجة إلى تخفيف لجعل البرهان يعمل. كما حاول الذكاء الاصطناعي "جعل الافتراضات أقوى مما يجب"، لكن المؤلف البشري رصده وصحح المسار.
النتيجة: كتاب قواعد موثق
تخلص الورقة إلى أن إطار العمل المصحح صلب. يؤكد البرهان المدقق آلياً أن الفكرة الأصلية كانت على الطريق الصحيح، لكن التفاصيل كانت بحاجة إلى عملية إصلاح شاملة. يسمح إطار العمل الجديد بـ "سياسة إصدار" محددة بوضوح ومنفصلة عن فحص الأمن نفسه. وهذا يعني أن المطورين يمكنهم كتابة الكود الخاص بهم باستخدام عبارات "افترض" (مثل "افترض أن المستخدم مسجل الدخول") والحصول على ضمان رياضي بأن هذه الافتراضات تتحكم بشكل صحيح فيما يتم الكشف عنه من أسرار.
المؤلف واثق جداً من هذه النتيجة لأنها تم تدقيقها آلياً. هذا ليس محاكاة أو اقتراحاً؛ بل هو برهان رسمي بأن المنطق يصمد أمام الفحص. ومع ذلك، فهو يعترف بأن الكود حالياً فوضوي ويحتاج إلى تنظيف بشري ليكون قابلاً للقراءة حقاً، تماماً مثل مسودة عبقرية مكتوبة على منديل ورقي تحتاج إلى نسخها في كتاب نظيف.
في النهاية، تعد هذه الورقة انتصاراً للدقة. فهي تظهر أنه حتى في العالم المجرد لأمن الكمبيوتر، حيث يمكن أن يصبح المنطق متشابكاً للغاية، يمكننا استخدام كل من البصيرة البشرية ومساعدة الذكاء الاصطناعي لبناء أساس لا يمكن كسره رياضياً. إنها تحول مسودة مهتزة إلى حصن موثق، مما يضمن أننا عندما نقرر مشاركة سر ما، فإننا نفعل ذلك بالضبط في الوقت الذي نقصده، وليس قبل ذلك بلحظة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.