Certified Purity for Cognitive Workflow Executors: From Static Analysis to Cryptographic Attestation
تقدم هذه الورقة بنية نقاء معتمدة تعزز حوكمة سير العمل المعرفي من خلال استبدال الاصطلاحات وقت التشغيل بحدود هيكلية عبر تجميع "ويب أسيمبلي" (WebAssembly) مقيد، وشهادات نقاء تشفيرية، وإثبات عن بُعد، مما يثبت رياضياً القضاء على التجاوزات العدائية مع الحفاظ على عبء تشغيلي ضئيل.
البحث الأصلي مُهدى إلى الملك العام بموجب CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تدير مطبخاً عالي المخاطر حيث يقوم فريق من الطهاة (وكلاء الذكاء الاصطناعي) بإعداد وجبات معقدة (سير عمل معرفي) لضيوف متميزين. القواعد صارمة: يمكن للطهاة التخطيط للوجبة وكتابة المكونات التي يحتاجونها، لكن يُمنع عليهم منعاً باتاً لمس الموقد، أو فتح الثلاجة، أو الاتصال بسائق التوصيل. فقط رئيس الطهاة ("خط حوكمة العمليات") هو المسموح له بالقيء بهذه الأفعال.
لفترة طويلة، اعتمد المطبخ على قاعدة بسيطة: "ثق بالطهاة في اتباع القواعد". كان مديرو المطبخ ينظرون إلى دفاتر وصفات الطهاة (التحليل الساكن) ليروا ما إذا كانوا قد كتبوا أي تعليمات محظورة. إذا بدت الوصفة نظيفة، يُسمح للطاهي بالعمل.
المشكلة: ثغرة "الخدعة السحرية"
يوضح الورقة البحثية أن نظام "ثق بالوصفة" هذا يعاني من خلل قاتل. يمكن لطاهٍ ماكر ومصمم استخدام خدع سحرية لتجاوز القواعد دون كتابتها في دفتر الوصفة. على منصة المطبخ المحددة التي يستخدمونها (تسمى BEAM/Erlang)، يمكن للطاهي أن:
- يتظاهر بأنه شخص آخر: يستدعي دالة باسمها في اللحظة الأخيرة، مخفياً حقيقة أنه يستدعي أداة خطيرة.
- يكتب قواعد جديدة أثناء العمل: يكتب أمراً جديداً أثناء الطهي، مما يؤدي فعلياً إلى إعادة كتابة وصفته الخاصة في منتصف الوجبة.
- يوظف حارساً شخصياً: يحمل أداة سرية مكتوبة مسبقاً (NIF) يمكنها فعل أي شيء، بما في ذلك فتح الثلاجة.
- يرسل عداءً: يرسل شخصاً منفصلاً خارج المطبخ ليحضر المكونات.
- يستبدل دفتر الوصفة: يحمل دفتر وصفة مختلفاً تماماً وخطيراً أثناء الطهي.
لأن هذه الخدع تحدث أثناء عمل الطاهي، فإن النظر في دفتر الوصفة مسبقاً (التحليل الساكن) لا يمكنه كشفها. الأمر يشبه محاولة إيقاف ساحر عبر تفتيش جيوبه قبل العرض؛ فقد يخرج بطاقة مخفية لاحقاً.
الحل: مطبخ "النقاء المعتمد"
تقترح هذه الورقة تصميماً جديداً جذرياً للمطبخ يجعل هذه الخدع السحرية مستحيلة فيزيائياً، وليس مجرد مخالفة للقواعد.
1. المطبخ الجديد (صندوق WebAssembly المعزول)
بدلاً من ترك الطهاة يعملون في مطبخ مفتوح، يعملون الآن داخل صندوق زجاجي شفاف ومغلق.
- لا وجود للخدع السحرية: داخل هذا الصندوق، أدوات "الإخفاء" أو "إعادة الكتابة" أو "توظيف الحراس الشخصيين" ببساطة غير موجودة. لقد بُني الصندوق بحيث تكون الطريقة الوحيدة للخروج هي عبر باب واحد مغفل.
- القائمة البيضاء: يحتوي الصندوق فقط على قائمة محددة من الأدوات التي يمكنه استخدامها (مثل الآلة الحاسبة، ودفتر الملاحظات، و"نموذج طلب"). لا يمكنه لمس الموقد أو الثلاجة. إذا لم تكن الأداة مدرجة في القائمة، فإن الصندوق حرفياً لا يملك مقبضاً لها.
2. شارة الهوية (شهادة النقاء)
قبل دخول الطاهي إلى المطبخ، يجب أن يحصل على شارة هوية خاصة.
- الإثبات: تنظر سلطة موثوقة إلى كود الطاهي (الثنائي/Binary) وتتحقق من أنه يستخدم فقط الأدوات المسموح بها.
- الختم: تقوم هذه السلطة بتوقيع الشارة بختم تشفير (مثل الختم الشمعي). هذا الختم يثبت أن هذه النسخة المحددة من كود الطاهي نظيفة.
- مقاومة التلاعب: إذا حاول الطاهي تغيير الكود الخاص به ولو قليلاً (لإضافة أداة سرية)، سينكسر الختم. تصبح الشارة غير صالحة. لا يمكنك أخذ شارة نظيفة من الطاهي (أ) وإعطاؤها للطاهي (ب) المعدل.
3. حارس الأمن (بوابة وقت التشغيل)
عند وصول الطاهي إلى باب المطبخ، يتحقق حارس الأمن من الشارة.
- التحقق: يتحقق الحارس من الختم، ويتأكد من أن الكود يطابق الشارة، ويؤكد أن الأدوات المدرجة لا تزال ضمن القائمة "المسموح بها".
- النتيجة: إذا كانت الشارة صالحة، يدخل الطاهي. وإذا لم تكن كذلك، يتم منعه فوراً. يحدث هذا في كل مرة قبل أن يبدأ الطاهي في الطهي.
4. جواز السفر عبر المطابخ (التوثيق عن بُعد)
ماذا لو عمل الطاهي (أ) في المطبخ (أ)، لكنه يحتاج إلى توظيف الطاهي (ب) من المطبخ (ب)؟
- يحمل الطاهي (ب) "جواز سفر" (سجل توثيق) يثبت أنه تم فحصه من قبل حارس الأمن في مطبخه الخاص وأن مطبخه يتبع نفس القواعد الصارمة.
- يمكن للمطبخ (أ) قراءة جواز السفر هذا والثقة في الطاهي (ب) دون الحاجة إلى رؤية كود المصدر الخاص بالطاهي (ب) أو توقيع عقد معه. إنه دليل قابل للقراءة آلياً على الثقة.
لماذا هذا مهم (النتائج)
تثبت الورقة البحثية أن هذا النظام يعمل رياضياً:
- لا توجد ثغرات: لأن "الخدع السحرية" (فئات التجاوز) غائبة هيكلياً من المطبخ الجديد، لا يمكن للطاهي الماكر القيام بها حرفياً. المسألة ليست أنه سيُكشف، بل إنه لا يستطيع القيام بها.
- السرعة: يستغرق التحقق من الشارة أقل من رمشة عين (حوالي 40 ميكروثانية). الوقت الإضافي الذي يضيفه للطهي أقل من 0.4% من الوقت المستغرق لانتظار شاحنة التوصيل.
- اللامركزية في الثقة: ليس عليك الوثوق بالطاهي، أو مدير المطبخ، أو حتى المطبخ الآخر. أنت تثق فقط في الرياضيات وراء الختم وفي تصميم الصندوق الزجاجي.
باخت ملخص
تنقل الورقة البحثية الحوكمة من لافتة "الرجاء عدم السرقة" (التي تعتمد على اتباع الناس للقواعد) إلى جدار "أنت فيزيائياً لا تستطيع السرقة" (الذي يعتمد على هيكل البناء). إنها تحول الوعد إلى ضمان رياضي، مما يضمن أن وكلاء الذكاء الاصطناعي يمكنهم التخطيط والتفكير، ولكن لا يمكنهم أبداً التصرف سراً خارج القواعد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.