Algebraic Semantics of Governed Execution: Monoidal Categories, Effect Algebras, and Coterminous Boundaries
تقدم هذه الورقة دلالات جبرية ميكانيكية للتنفيذ المحكوم، تم صياغتها في ٣٢ وحدة من وحدات روك (Rocq) باستخدام أشجار التفاعل والاستقراء المشترك، مما يؤسس لفئة متناظرة مونويدية حيث يتم وضع قواعد الحوكمة كبديهيات، وتكون تركيبية ومتزامنة مع القدرة على التعبير، مما يضمن أن جميع البرامج القابلة للإنشاء محكومة مع الحفاظ على اكتمال تورينج واستبعاد الإدخال والإخراج غير الوسيط.
البحث الأصلي مُهدى إلى الملك العام بموجب CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تقوم ببناء روبوت معقد يمكنه التفكير، والتحدث، وتذكر الأشياء، وحتى الخروج إلى العالم لشراء البقالة أو الاتصال بصديق. تريد لهذا الروبوت أن يكون ذكيًا وقادرًا للغاية، ولكنك تحتاج أيضًا إلى التأكد من أنه لن يفعل أبدًا أي شيء خطير أو غير قانوني أو مخالف للقواعد أثناء عمله.
تقدم هذه الورقة البحثية طريقة جديدة لتصميم "دماغ" و"قواعد" مثل هذا الروبوت. بدلًا من مجرد الأمل في أن يسلك الروبوت سلوكًا جيدًا، قام المؤلفون ببناء حصن رياضي حول أفعاله. وقد أطلقوا على ذلك اسم "التنفيذ المحكوم" (Governed Execution).
إليك تفصيل لفكرتهم باستخدام تشبيهات بسيطة:
1. المشكلة: "الغرب المتوحش" للذكاء الاصطناعي
في الوقت الحالي، نحاول التحكم في الذاء الاصطناعي بطريقتين:
- نهج "الفلتر" (المرشح): نقوم بتدريب الذكاء الاصطناعي ليكون مهذبًا أو نقوم بفلترة إجاباته بعد أن يتحدث. هذا يشبه محاولة إيقاف صنبور مسرب للمياه عن طريق مسح الأرض؛ فهو لا يمنع الماء من الخروج، بل يحاول فقط تنظيفه لاحقًا.
- نهج "الحواجز الواقية": نضع أسوارًا حول الروبوت. ولكن غالبًا ما تكون هذه الأسوار مجرد اقتراحات أو قواعد لينة يمكن للروبوت القفز فوقها بالخطأ (أو عن عمد).
يجادل المؤلفون بأننا بحاجة إلى نظام تكون فيه القواعد مدمجة في صلب قدرة الروبوت على الفعل. إذا حاول الروبوت القيام بشيء دون إذن، فإنه حرفيًا لا يستطيع القيام به.
2. الحل: "المقعد ذو الثلاث أرجل" (الجبر)
ابتكر المؤلفون إطارًا رياضيًا يسمى "جبر الحوكمة" (Governance Algebra). فكر في هذا كأنه مقعد ذو ثلاث أرجل يجب أن يكون متوازنًا تمامًا ليعمل النظام. إذا فُقدت أي ساق، سينهار الشيء بأكمله. الأرجل الثلاث هي:
- الأمان: يجب ألا يتخذ الروبوت أي إجراء دون "إذن" (فحص حوكمة).
- الشفافية: إذا كان لدى الروبوت إذن بالفعل، فلا ينبغي للقواعد أن تغير ما يفعله، بل تغير فقط حقيقة أنه تحقق أولاً. (لا ينبغي أن يبطئ الروبوت أو يغير إجابته، بل يضمن فقط أنه آمن).
- الاستقامة (Properness): يجب أن تكون القواعد متسقة. إذا قام روبوتان بنفس الفعل، يجب أن تعاملهما القواعد بنفس الطريقة تمامًا.
3. "شجرة التفاعل": عملية التفكير لدى الروبوت
لإثبات نجاح ذلك، يمثلون تفكير الروبوت كـ "شجرة" ضخمة.
- الأغصان: في كل مرة يفكر فيها الروبوت، تنقسم أفكاره إلى أغصان.
- الأوراق: هي الأفعال النهائية (مثل "الاتصال بصديق" أو "كتابة ملف").
- الجذع: هو المسار الذي يتخذه الروبوت للوصول إلى هناك.
في نظامهم، يجب أن يمر كل غصن من هذه الأغصان عبر بوابة أمنية (مشغل الحوكمة) قبل أن يتمكن من النمو. إذا حاول غصن النمو دون المرور عبر البوابة، فإن الشجرة ببساطة ترفض الوجود.
4. "الضمان المزدوج": بطاقة الهوية وحارس الأمن
تقدم الورقة نظام سلامة ذكيًا يتكون من جزأين:
- بطاقة الهوية (القدرات - Capabilities): قبل أن يبدأ الروبوت، يحصل على بطاقة هوية تسرد بالضبط ما يُسمح له بفعله (على سبيل المثال: "يمكنه قراءة الملفات"، "لا يمكنه حذف الملفات"). هذه قائمة ثابتة.
- حارس الأمن (الحوكمة - Governance): بينما يتحرك الروبوت، يقوم حارس أمن بفحص كل خطوة. حتى لو كان لدى الروبوت بطاقة هوية، فإن الحارس يوقفه إذا بدا الفعل المحدد مريبًا في تلك اللحظة.
تثبت الورقة أن كلا الأمرين يجب أن يحدثا في وقت واحد. لا يمكنك الاكتفاء ببطاقة الهوية فقط (لأن الروبوت قد يصاب بالارتباك)، ولا يمكنك الاكتفاء بالحارس (لأن الحارس قد يفوته شيء ما). يعملان معًا لضمان أن كل فعل هو فعل مرخص ومفحوص في آن واحد.
5. "الحدود المتطابقة" (Coterminous Boundary): التطابق المثالي
هذا هو الجزء الأكثر إثارة في الورقة. يثبت المؤلفون نظرية "التطابق المثالي".
- الادعاء: في نظامهم، كل ما هو قادر على بنائه الروبوت هو آمن تلقائيًا.
- التشبيه: تخيل مصنع ألعاب حيث الألعاب الوحيدة التي يمكنك بناؤها هي تلك التي تأتي مع شهادة سلامة. لا يمكنك بالخطأ بناء لعبة غير آمنة. إذا لم تكن آمنة، فلن تسمح لك آلة المصنع حتى بالبدء في بنائها.
- النتيجة: منطقة "الآمن" ومنطقة "الممكن" متساويتان تمامًا في الحجم. لا توجد "منطقة رمادية" يمكن للروبوت فيها القيام بشيء خطر. إذا كان بإمكان الروبوت التعبير عن فكرة أو فعل، فهو مضمون الحوكمة.
6. إثبات "الصندوق الأسود"
لم يكتفِ المؤلفون بكتابة ذلك فح�سب؛ بل بنوا آلة إثبات رقمية ضخمة (باستخدام أداة تسمى Rocq) تحتوي على أكثر من 12,000 سطر من الكود و454 إثباتًا رياضيًا.
- أثبتوا أنه إذا اتبعت قواعدهم، فإن الروبوت لا يمكنه بالخطأ القيام بشيء سيء.
- أثبتوا أن الروبوت لا يزال ذكيًا بما يكفي للقيام بمهام معقدة (فهو "تورينج كامل" - Turing complete، مما يعني أنه يمكنه حل أي مشكلة يمكن للحاسوب حلها).
- حتى أنهم بنوا "سجلًا" (مثل مذكرات غير قابلة للتلاعب) يسجل كل فحص للأذونات وكل فعل، بحيث إذا حاول أي شخص الغش لاحقًا، فإن السجل يثبت قيامه بذلك.
الملخص
تقول هذه الورقة: "لقد بنينا قفصًا رياضيًا لأفعال الذكاء الاصطناعي. داخل هذا القفص، الذكاء الاصطناعي حر في فعل أي شيء يريده، ولكن من المستحيل فيزيائيًا أن يفعل أي شيء غير آمن. القواعد ليست مجرد اقتراحات؛ إنها قوانين الفيزياء لهذا النظام المحدد."
لقد أثبتوا ذلك رياضيًا، واختبروه مع ملايين السيناريوهات العشوائية، وأظهروا أن النسخة "الآمنة" من الذكاء الاصطناعي تعمل بنفس سرعة النسخة "غير الآمنة". إنها طريقة لجعل الذكاء الاصطناعي قويًا دون جعله خطيرًا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.