From Human Approval to Current Authority: Adaptive Runtime Governance at the Execution Boundary of AI-Enabled Organizational Workflows

تخيل عالماً لا يكتفي فيه مساعدك الروبوتي المفضل بالدردشة معك فحسب، بل يخرج بالفعل للقيام بأشياء نيابة عنك—مثل تحويل الأموال، أو تغيير إعدادات حسابك المصرفي، أو الموافقة على مشروع إنشائي ضخم. نحن نسمي هذا "الذكاء الاصطناعي في مكان العمل". ولكن إليك الجزء الصعب: مجرد أن مديراً بشرياً قال "نعم" للروبوت بالأمس، هل يعني ذلك أن بإمكان الروبوت القيام بذلك اليوم؟

فكر في الأمر كأنها تذكرة حفلة موسيقية. إذا اشتريت تذكرة لعرض يوم الجمعة، فإن هذه التذكرة صالحة فقط لتلك الليلة المحددة. إذا حاولت استخدام نفس التذكرة يوم السبت، يجب على الحارس أن يمنعك، حتى لو كنت لا تزال تمسك بالورقة في يدك. في عالم الذكاء الاصطناعي، "الموافقة البشرية" تشبه تلك التذكرة. أحياناً، المدير الذي وقع بالموافقة قد يُطرد من عمله، أو تتغير قواعد اللعبة، أو تنتهي صلاحية التذكرة ببساطة. إذا لم يتحقق الروبوت مما إذا كانت التذكرة لا تزال صالحة قبل القيام بالإجراء مباشرة، فقد يخرق القانون أو يتسبب في فوضى، رغم امتلاكه "مذكرة موقعة" من إنسان. هذا البحث يدور حول بناء "حارس" صارم للغاية لروبوتات الذكاء الاصطناعي، يقوم بالتحقق من صلاحية التذكرة لمرة أخيرة قبل السماح للعرض بالبدء.

---

الورقة البحثية: حارس لإجراءات الروبوت

تقدم هذه الدراسة، التي كتبتها ماريا كوليا، فكرة جديدة تسمى الحوكمة التكيفية أثناء التشغيل (Adaptive Runtime Governance - ARG). يمكنك التفكير في (ARG) كطبقة أمنية ذكية وغير مرئية توضع عند بوابة اتخاذ القرار للذكاء الاصطناعي. مهمتها ليست تحديد ما إذا كانت فكرة الذكاء الاصطناعي جيدة (مثل: "هل هذا القرض عادل؟")؛ بل تسأل سؤالاً أبسط، ولكنه حاسم: "هل لا يزال المدير البشري يملك السلطة لقول 'نعم' لهذا الأمر في هذه اللحظة؟"

تركز الورقة على اختبار جزء محدد من هذا النظام الكبير، وهو: بوابة التنفيذ الحتمي (deterministic execution gate). تخيل هذه البوابة كأنها نقطة تفتيش نهائية في لعبة فيديو. قبل أن تقفز الشخصية من منحدر للإمساك بكنز، تتوقف اللعبة وتتحقق من قائمة القواعد:

1. هل اللاعب الذي أعطى الأمر قد غادر اللعبة بالفعل؟
2. هل تغير دور اللاعب (ربما تم تخفيض رتبته من "مسؤول/Admin" إلى "ضيف/Guest")؟
3. هل تحدثت قواعد اللعبة منذ صدور الأمر؟
4. هل الأمر قديم جداً بحيث لم يعد صالحاً للاستخدام؟

إذا فشلت أي من هذه التحققات، تغلق البوابة بإحكام وتقول: "لا، تم رفض الإجراء!"، ولن يتمكن الروبوت من القيام بالشيء، حتى لو كان لديه سجل من الموافقات.

ما الذي بنوه واختبروه بالفعل

لم تكتفِ المؤلفة بالحلم بهذا المشروع، بل قامت ببناء نموذج أولي يعمل باستخدام لغة بايثون (Python) وإطار عمل فاست-آي بي (FastAPI) (وهي أدوات لبناء تطبيقات الويب)، واختبرته في بيئة معزولة وآمنة (قاعدة بيانات خاصة). لم تختبره على بنوك أو مستشفيات حقيقية، بل أنشأت "مختبر محاكاة" يحتوي على 223 حالة اختبار محددة لمعرفة ما إذا كانت البوابة تعمل كما هو موعود.

إليك ما حدث في مختبرها:

• الأمور الجيدة: أنشأت 30 سيناريو حيث كان كل شيء مثالياً. المدير البشري لا يزال نشطاً، والقواعد لم تتغير، والتذكرة حديثة. في جميع الحالات الثلاثين، أعطت البوابة "ضوءاً أخضر" (حالة HTTP 200)، وسُمح للإجراء بالاستمرار.
• أمور "التوقف": أنشأت 192 سيناريواً حيث كان هناك خطأ ما. ربما طُرد المدير، أو تغيرت السياسة، أو أن الموافقة مر عليها 25 ساعة (بينما القاعدة هي 24 ساعة). في جميع الحالات الـ 192، قالت البوابة "لا" بشكل صحيح ومنعت الإجراء.
• سجل التدقيق: قامت أيضاً بفحص "سجل التدقيق" (audit trail)—وهو سجل رقمي لكل حدث. وتحققت من أن 492 حدث تدقيق مرتبطة ببعضها البعض بشكل صحيح، مما يثبت أن النظام احتفظ بسجل مثالي لمن فعل ماذا ومتى.

كانت النتائج واضحة: في هذا الاختبار المنضبط، عملت البوابة تماماً كما هو مصمم لها. لقد نجحت في إيقاف الإجراءات التي لا ينبغي أن تحدث، وسمحت بمرور الإجراءات التي ينبغي أن تتم.

ما لا تقوله هذه الورقة البحثية

من المهم جداً فهم ما لا تدعيه هذه الورقة، لأن المؤلفة حريصة جداً على عدم تقديم وعود مبالغ فيها.

• هي لا تجعل الذكاء الاصطناعي أكثر ذكاءً: البوابة لا تتحقق مما إذا كانت فكرة الذكاء الاصطناعي عادلة أو آمنة أو دقيقة. إذا وافق مدير بشري على خطة سيئة أو متحيزة أو خطيرة، وكان المدير لا يزال يملك الحق في الموافقة عليها، فإن البوابة ستسمح بمرورها. البوابة تتحقق من السلطة فقط، وليس من الحكمة.
• ليست منتجاً نهائياً جاهزاً للعالم الحقيقي بعد: تذكر المؤلفة صراحة أن هذا نموذج أولي. لقد اختبرته في مختبر حاسوبي محلي، وليس على شبكة ضخمة مع متسللين حقيقيين، أو كلمات مرور حقيقية، أو ملايين المستخدمين. كما اعترفت بأن أموراً مثل "التزامن" (ماذا يحدث إذا حاول شخصان الموافقة على الشيء نفسه في نفس الميلي ثانية بالضبط) و"أمن الإنتاج" (دفاعات الاختراق في العالم الحقيقي) لم يتم اختبارها.
• هي لا تحل كل شيء: تذكر الورقة أفكاراً رائعة أخرى مثل "الحوكمة في حالات الطوارئ" (ماذا نفعل أثناء الأزمات) أو "الحرج التكيفي" (اتخاذ قرار تلقائي بمدى الصرامة بناءً على المخاطر)، ولكن هذه مجرد مقترحات. لم يتم بناؤها أو اختبارها في هذه الدراسة.

الخلاصة الكبرى

النتيجة الرئيسية هي حقيقة بسيطة ولكنها قوية: الموافقة البشرية من الماضي ليست هي نفسها السلطة الحالية. مجرد كون مدير بشري قد وقع على شيء ما بالأمس لا يعني أنه يملك القدرة على التوقيع عليه اليوم.

تثبت الورقة أنه يمكننا بناء برمجيات تتحقق من هذه الشروط تلقائياً، مباشرة قبل وقوع الإجراء. إذا لم تتحقق الشروط، يمكن للبرمجيات رفض الفعل، مما يحول "الإشراف البشري" الذي قد يكون مجرد ختم روتيني إلى شبكة أمان حقيقية وفعالة.

ومع ذلك، المؤلفة واضحة في قولها: هذه مجرد الخطوة الأولى. لدينا "حارس" يعمل في المحاكاة، ولكننا لا نزال بحاجة إلى بناء نظام الأمان الكامل، واختباره في العالم الحقيقي، والتأكد من أنه يعمل عندما يشتد الضغط. في الوقت الحالي، نعلم على الأقل أن بعض القواعد التي نحتاجها للسيطرة على الذكاء الاصطناعي يمكن برمجتها في بوابة تقول "لا" عندما تزول السلطة.