From Governance Norms to Enforceable Controls: A Layered Translation Method for Runtime Guardrails in Agentic AI

إليك ملخص تقني مفصل لورقة البحث بعنوان "من معايير الحوكمة إلى الضوابط القابلة للإنفاذ: منهجية الترجمة متعددة الطبقات للحواجز الوقائية في وقت التشغيل للذكاء الاصطادي" للكاتب كريستوفر كوخ.

1. بيان المشكلة

أدى الظهور السريع لأنظمة الذكاء الاصطادي (Agentic AI) — القادرة على التخطيط، واستخدام الأدوات، والحفاظ على الحالة، والتنفيذ متعدد الخطوات — إلى خلق فجوة حوكمة لا تستطيع الأطر الحالية معالجتها مباشرة.

• التحول في المخاطر: على عكس الذكاء الاصطيدي التوليدي أحادي الدور، حيث تُقيم المخاطر غالباً على مستوى المطالبة (Prompt) أو المخرجات، فإن مخاطر الذكاء الاصطادي تنشأ ديناميكياً أثناء مسارات التنفيذ (Execution Trajectories). قد يبدو الوكيل (Agent) آمناً في خطوات فردية، ولكنه قد ينتج نتائج غير مقبولة عند دمج الإجراءات بمرور الوقت.
• فجوة المعايير: توفر أطر الحوكمة الرئيسية (مثل ISO/IEC 42001، وISO/IEC 23894، وNIST AI RMF، وغيرها) أنظمة إدارة عالية المستوى، وعمليات مخاطر، ومعايير للمساءلة. ومع ذلك، فهي محايدة تكنولوجياً ولا تحدد لغات سياسة قابلة للتنفيذ أو مخططات إجراءات (Action Schemas).
• التحدي الجوهري: تواجه المؤسسات صعوبة في ترجمة أهداف الحوكمة عالية المستوى هذه إلى حواجز وقائية (Guardrails) قابلة للتنفيذ في وقت التشغيل (Runtime). هناك نقص في المنهجية المنضبطة لتحديد المتطلبات التي يجب إنفاذها في وقت التشغيل، والتي يجب أن تظل قيوداً في وقت التصميم، والتي تتطلب تصعيداً بشرياً، وأيها يُفضل التعامل معه عبر التأكيد اللاحق (Post-hoc Assurance).

2. المنهجية: منهجية الترجمة متعددة الطبقات

تقترح الورقة إطاراً تفسيرياً موجهاً نحو التصميم لسد الفجوة بين نية الحوكمة والتنفيذ التقني. تتكون المنهجية من خمس خطوات متميزة:

أ. تمييز المصنفات (Artifact Differentiation)

تقوم المنهجية أولاً بفصل أربعة مفاهيم مختلطة إلى مصنفات متميزة ذات أدوار محددة:

1. هدف الحوكمة: الأهداف المعيارية (مثل المساءلة، وتقليل المخاطر) المستمدة من المعايير.
2. الضابط التقني: الآليات اللازمة لتشغيل الأهداف (مثل صلاحيات الوصول المقيدة، والسجلات).
3. الحاجز الوقائي في وقت التشغيل: مجموعة فرعية من الضوابط التي تتدخل أثناء التنفيذ (السماح، الرفض، التأخير، التصعيد، أو إعادة تشكيل الإجراءات).
4. أدلة التأكيد (Assurance Evidence): المصنفات التي تثبت وجود الضابط وتنفيذه (السجلات، الشهادات، آثار التدقيق).

ب. الخطوة 1: استخراج الهدف المعياري

تحديد المتطلب المحدد من معيار أو سياسة داخلية (على سبيل المثال: "ضمان أن الوصول مصرح به").

ج. الخطوة 2: المعايرة إلى "توبل الضبط" (Control Tuple)

إعادة كتابة الهدف إلى توبل مهيكل $\kappa = \langle a, x, r, \phi, \delta, \epsilon, o \rangle$:

• $a$: الطرف الفاعل (الوكيل/الإنسان).
• $x$: فئة الإجراء.
• $r$: المورد المحمي/الأثر.
• $\phi$: الشرط المسبق/السياق.
• $\delta$: قرار الضبط (سماح، رفض، تصعيد، إلخ).
• $\epsilon$: مصنف الدليل المراد إنتاجه.
• $o$: المالك المسؤول عن المساءلة.

د. الخطوة 3: تقييم قابلية الإنفاذ في وقت التشغيل

باستخدام مقياس قابلية الإنفاذ في وقت التشغيل (الجدول الأول)، يتم تقييم ما إذا كان الضابط مناسباً للإنفاذ في وقت التشغيل. يجب أن تستوفي الضوابط ذات القابلية العالية للإنفاذ معايير مثل:

• التوقيت: يجب أن يكون الضرر قابلاً للمنع قبل التنفيذ.
• القابلية للملاحظة: الحالة/السياق المطلوب يمكن ملاحظته آلياً.
• الحسم (Determinacy): القاعدة واضحة ومحددة، ولا تتطلب موازنة أخلاقية مفتوحة النهايات.
• القابلية للتراجع: الأخطاء يصعب التراجع عنها، مما يستوجب تدخلاً عاجلاً.
• الدليل: يمكن تسجيل النتائج ونسبها بوضوح.

هـ. الخطوة 4: تعيين طبقات الضبط

بناءً على الدرجة، يتم تعيين الضابط للطبقة المناسبة:

1. طبقة أهداف الحوكمة: النوايا والملكية.
2. طبقة وقت التصميم: الهندسة المعمارية، تحديد نطاق الحد الأدنى من الامتيازات، تصميم البيئة المعزولة (Sandbox).
3. طبقة وقت التشغيل: التحقق من الإجراءات، فحوصات السياسة، والتفويض الديناميكي.
4. طبقة التأكيد: القياس عن بُعد (Telemetry)، التدقيق، ومراقبة الانحراف.
   ملاحظة: التصعيد البشري هو الخيار الافتراضي للقرارات الغامضة أو عالية التأثير.

و. الخطوة 5: تحديد الدليل والملكية

ضمان أن كل ضابط تمت ترجمته يحدد بوضوح مصنف الدليل الخاص به والمالك المسؤول لضمان قابلية التدقيق.

3. المساهمات الرئيسية

1. التمييز المفاهيمي: الفصل بوضوح بين أهداف الحوكمة، والضوابط التقنية، والحواجز الوقائية في وقت التشغيل، وأدلة التأكيد، مما يمنع خلط النوايا الإدارية مع منطق التنفيذ.
2. إطار الترجمة: تقديم منهجية نظامية (توبل الضبط ومقياس قابلية الإنضاء) لربط المتطلبات المستمدة من المعايير بطبقات معمارية محددة.
3. التحقق عبر دراسة حالة: إثبات المنهجية باستخدام وكيل مشتريات مؤسسي، حيث يوضح كيف تترجم متطلبات مثل "الموردون المعتمدون فقط" إلى قوائم سماح في وقت التشغيل، بينما تترجم "التصنيف العادل" إلى قيود في وقت التصميم وتدقيقات لاحقة.
4. أجندة التقييم: اقتراح خمسة أبعاد لتقييم حوكمة الذكاء الاصطادي: دقة السياسة، جودة التدخل، تغطية المسار، المقايضة بين السلامة والمنفعة، واكتمال الأدلة.

4. النتال والنتائج (عبر دراسة الحالة)

أسفرت دراسة حالة وكيل المشتريات عن رؤى محددة:

• قابلية إنفاذ عالية في وقت التشغيل: المتطلبات ذات القواعد الحاسمة والحالات الملحوظة قبل التنفيذ (مثل "الموردون المعتمدون فقط"، "المشتريات > 5000 يورو تتطلب موافقة") يتم ربطها بنجاح بـ حواجز وقائية في وقت التشغيل (قوائم السماح، بوابات الموافقة).
• قابلية إنفاذ منخفضة في وقت التشغيل: المتطلبات التي تتضمن حكماً مفتوحاً (مثل "تصنيف الموردين يجب أن يكون عادلاً وقابلاً للاعتراض") هي مرشحات سيئة للإنفاذ في وقت التشغيل. محاولة ترميز هذه المتطلبات كقواعد حتمية قد يؤدي إلى فشلات في السلامة أو عرقلة مفرطة للعمليات. هذه المتطلبات تُعالج بشكل أفضل عبر قيود وقت التصميم وتدقيقات التأكيد اللاحقة.
• التبعية المعمارية: تكون الحواجز الوقائية في وقت التشغيل أكثر فعالية عندما يكون تحديد النطاق في وقت التصميم (مثل اعتماد الحد الأدنى من الامتيازات) قد قيد بالفعل مساحة إجراءات الوكيل.
• الدفاع متعدد الطبقات: طبقة واحدة لا تكفي. تتطلب الحوكمة الفعالة مزيجاً من قيود وقت التصميم، وفحوصات وقت التشغيل، والتصعيد البشري، والتأكيد اللاحق.

5. الأهمية والآثار المترتبة

• الحوكمة الواقعية: تجادل الورقة ضد الجمع الساذج للمعايير مباشرة في الكود البرمجي. بدلاً من ذلك، تدعو إلى نهج متعدد الطبقات حيث تُخصص الحواجز الوقائية في وقت التشغيل فقط للضوابط القابلة للملاحظة، والحاسمة، والحساسة للوقت.
• تخفيف المخاطر: من خلال وضع الضوابط بشكل صحيح (مثل نقل فحوصات "العدالة" إلى مرحلة التأكيد بدلاً من وقت التشغيل)، يمكن للمؤسسات تجنب عيوب الأتمتة الهشة والنتائج الإيجابية الكاذبة التي تقلل من فائدة الوكيل.
• قابلية التدقيق: يضمن التركيز على "توبل الضبط" و"مصنفات الأدلة" الصريحة بقاء أنظمة الذكاء الاصطناي قابلة للتدقيق والمساءلة، مما يعالج طبيعة "الصندوق الأسود" لاتخاذ القرار في الأنظمة الذكية.
• التوجه المستقبلي: يوفر الإطار مخططاً للأبحاث المستقبلية للتحقق تجريبياً من وضع الضوابط وقياس دقة ترجمة السياسات في عمليات النشر الواقعية.

باختصار، توفر الورقة جسراً حيوياً بين معايير حوكمة الذكاء الاصطناي عالية المستوى والهندسة العملية للأنظمة الذكية الآمنة والمتوافقة، مؤكدة أن الحواجز الوقائية في وقت التشغيل هي أداة محددة، وليست كامل الحوكمة.