ملخص تقني: SARC – إطار عمل الحوكمة عبر البنية الهيكلية لأنظمة الذكاء الاصطناعي الوكيلية

1. بيان المشكلة

تدخل أنظمة الذكاء الاصطناعي الوكيلية (Agentic AI)، التي تدرك وتخطط وتعمل من خلال أدوات ووكلاء فرعيين، البيئات التنظيمية بسرعة أكبر من نضج البنية التحتية للحوكمة. هناك عدم تطابق هيكلي حرج: فالالتزताओं التنظيمية (مثل الإشراف البشري، وإدارة المخاطر) تُقيّم عادةً عبر التوثيق اللاحق أو عبر ربطها بالنماذج (Prompts) ولوحات التحكم. وهذا يخلق "عدم تطابق هيكلي" حيث تُقيم القيود التي تهدف إلى الحد من التنفيذ فقط بعد وقوع الفعل.

تعاني النهج الحالية من أوجه فشل محددة:

• حواجز حماية النماذج (Prompt Guardrails): يمكن للنماذج تجاهل التعليمات أو إعادة تفسيرها أو الالتفاف حولها عبر الأدوات.
• تصفية المخرجات (Output Filtering): لا يمكنها رصد الانتهاكات التي تتحقق من خلال الآثار الجانبية على العالم بدلاً من النصوص المرئية.
• التدقيق اللاحق (Post-hoc Audit): يوثق الانتهاكات ولكنه لا يستطيع منعها.
• قواعد سير العمل (Workflow Rules): غالباً ما تكون غير كافية في مساحات العمل الديناميكية المتوسعة ما لم تكن مرتبطة بسجل كامل ويتم فرضها عند الإرسال (Dispatch).

تجادل الورقة بأن ضوابط الحوكمة يجب أن تنتقل من كونها ملحقة بـ المصنوعات (النماذج، السجلات) إلى كونها ملحقة بـ التنفيذ داخل بنية النظام.

2. المنهجية: إطار عمل SARC

قدم المؤلفون إطار عمل SARC (الحالة State، مساحة العمل Action، المكافأة Reward، القيود Constraints) للحوكمة عبر البنية الهيكلية. وبينما تعد $S$ و $A$ و $R$ عناصر أساسية قياسية في التعلم التعزيزي (RL)، فإن $C$ (القيود) هي المساهمة المبتكرة. فهي تعامل القيود ككائنات مواصفات من الدرجة الأولى، مساوية للحالة والمكافأة، وتفرضها عند نقاط معلنة في وقت تشغيل الوكيل.

2.1 توبل المواصفات (The Specification Tuple)

تُعرف مواصفات SARC كـ $\Sigma = \langle S, A, R, C \rangle$.

• القيود ($C$): مقسمة إلى ثلاثة أصناف:
  • $C_h$ (القيود الصارمة/الصلبة): لا يُسمح بالانتهاكات تحت أي سياسة.
  • $C_s$ (القيود المرنة): الانتهاكات مقبولة بتكلفة هامشية معلنة.
  • $C_e$ (التصعيد): الظروف التي تتطلب نقل التحكم إلى مشغل بشري.
• هيكل القيد: كل قيد $c \in C$ هو خماسية $\langle src, class, pred, verif, resp \rangle$ حيث:
  • $src$: المصدر (تنظيمي، تعاقدي، إلخ).
  • $class$: صنف القيد ($h, s, e$).
  • $pred$: المسند (Predicate) على الحالة، والعمل، والزمن.
  • $verif$: آلية التحقق (شرط مسبق، مراقب وقت التشغيل، أو ما بعد التنفيذ).
  • $resp$: بروتوكول الاستجابة (حظر، تسجيل، تصعيد، أو إيقاف).

2.1 بنية فرض القيود في وقت التشغيل

تُترجم القيود إلى أربعة مواقع فرض مسمى داخل حلقة الوكيل:

1. بوابة ما قبل العمل (PAG): تقيم قبل الإرسال. تُستخدم للقيود الصارمة والتصعيدات التنبؤية التي يمكن تحديدها من الحالة والعمل وحدهما.
2. مراقب وقت العمل (ATM): يقيم أثناء التنفيذ (مثل تغليف استدعاءات الأدوات). يُستخدم للقيود التي تعتمد على مخرجات جزئية (تراكم التكلفة، المحتوى المتدفق).
3. مدقق ما بعد العمل (PAA): يقيم بعد الاكتمال. يُستخدم لمقارنة حالة ما بعد العمل بحالة ما قبل العمل (الانحراف، التحقق من الآثار الجانبية).
4. موجه التصعيد (ER): يوجه الأفعال التي تم رصدها إلى المشغلين البشريين مع زمن انتقال طابور محدود بالنسبة لزمن قابلية عكس الفعل.

2.3 التوسع متعدد الوكلاء

بالنسبة لسير عمل الوكلاء المتعددين، يقدم SARC ما يلي:

• انتشار القيود: ترث القيود عبر سلسلة الاستدعاء. إذا كان القيد غير قابل للتحديد عند طبقة الوكيل الفرعي، فإنه يُقيم عند أعمق طبقة قابلة للتحديد ("إنقاذ القابلية للتحديد").
• تقاطع السلطة: السلطة هي تقاطع جميع الأطراف والوكلاء في سلسلة الاستدعاء؛ وهي تتناقص بشكل رتيب.
• أشجار التتبع المحافظة على النسب: مسار التدقيق هو شجرة هرمية، وليس تسلسلاً مسطحاً، مما يحافظ على سلسلة العلاقات الكاملة بين الأصيل والوكيل لمنع تميع النسب.

2.4 الخصائص الرسمية

• محدودية تشكيل المكافأة: تقدم الورقة مثالاً مضاداً رسمياً (Proposition 1) يوضح أن عقوبات المكافأة المحدودة لا يمكنها عموماً ضمان استيفاء القيود الصارمة للانتهاكات ذات العائد العالي والاحتمالية المنخفضة. لذا، يجب أن تكون القيود الصارمة مسندات هيكلية، وليست حدود مكافأة.
• تطابق المواصفات والمسار: يكون النظام "متوافقاً مع SARC" إذا استوفى ثمانية ثوابت (مثل مقبولية ما قبل العمل، اشتقاق المسار، واكتمال الإنفاذ). يضمن هذا أنه لكل فعل في المسار، يمكن للمدقق التحقق ميكانيكياً من القيود التي طبقت والاستجابة التي اتُخذت، دون الوصول إلى النموذج أو النماذج (Prompts).

3. المساهمات الرئيسية

1. نموذج مواصفات القيود: نموذج مصنف حسب الفئة ($\langle src, class, pred, verif, resp \rangle$) مستقل عن التنفيذ ولكنه يتطلب بيانات وصفية محددة للقابلية للتنفيذ والتدقيق.
2. بنية فرض القيود في حلقة الوكيل: نظام يربط فئات القيود بنقاط فرض محددة (PAG, ATM, PAA, ER)، محولاً الحوكمة من توثيق إلى تحكم في التنفيذ.
3. قابلية تدقيق قابلة للفحص: تعريف رسمي لـ "القابلية للتدقيق بالتصميم" وفاحص نموذج أولي يتحقق من مسارات وقت التشغيل مقابل المواصفات في زمن قدره $O(|T| \cdot |C|)$.
4. التوسع متعدد الوكلاء: آليات لانتشار القيود، وتقاطع السلطة، وأشجار التتبع للتعامل مع الطبوغرافيات المؤسسية المعقدة.
5. مسار التجميع التنظيمي: طريقة لربط البنود التنظيمية (مثل المادة 14 من قانون الذكاء الاصطناعي في الاتحاد الأوروبي) بمسندات قابلة للتنفيذ وفحوصات وقت التشغيل.

4. التقييم التجريبي

أجرى المؤلفون تقييماً اصطناعياً قابلاً لإعادة الإنتاج على مهمة شراء ($H=1,000$ طلب، 50 بذرة) مقارنةً بـ SARC مع أربعة خطوط أساس: التدقيق اللاحق، تصفية المخرجات، قواعد سير العمل، و"السياسة ككود" (PaC) فقط.

النتائج:

• الانتهاكات الصارمة: نفذ SARC صفر انتهاكات للقيود الصارمة تحت المسندات الدقيقة، مطابِقاً لخط الأساس "السياسة ككود"، ومتفوقاً على تصفية المخرات والتدقيق اللاحق.
• القيود المرنة: قلل SARC تجاوزات النافذة المرنة بنسبة 89.5% مقارنة بخط الأساس "السياسة ككოდ فقط". وعُزي ذلك إلى الوضع الصريح لاستجابة التخفيف (Throttling) في مدقق ما بعد العمل (PAA) بدلاً من الاعتماد على الأداء الذاتي.
• الانتهاكات المتبقية: في ظل الإنفاذ غير المكتمل (ضجيج المسند أو فشل الإنفاذ)، توسعت الانتهاكات المتبقية مع خطأ مكدس الإنفاذ ($\epsilon_{pred} + \epsilon_{exec}$) بدلاً من معدل فرصة الانتهاك البيئي.
• مقايضة زمن الانتقال: تكبد SARC زمن انتقال قدره ~21 مللي ثانية لكل خطوة (مقابل 0 مللي ثانية للتدقيق اللاحق)، مما يوضح التكلفة الصريحة للحوكمة في وقت التشغيل.

5. الأهمية والادعاءات

تضع الورقة SARC ليس كضمان للسلامة أو شهادة امتثال قانوني، بل كـ ركيزة هيكلية تجعل الالتزامات قابلة للتنفيذ، والفحص، والتدقيق في وقت التشغيل.

• التحول من المصنوعات إلى التنفيذ: المساهمة الأساسية هي التحول من ربط القيود بالمصنوعات (النماذج، السجلات) إلى ربطها بمسارات التنفيذ.
• قابلة للتدقيق بالتصميم: يتيح SARC "التدقيق بالتصميم"، حيث يتم إنشاء مسار التدقيق من خلال التزام النظام بمواصفاته، بدلاً من إعادة بنائه من السجلات بعد حد وقوع الحدث.
• النظام B (Regime B): صُمم الإطار لعمليات النشر في "النظام B" (البيئات المنظمة، أو غير القابلة للعكس، أو ذات الخسائر غير المتماثلة) حيث يؤدي حذف مكون القيد $C$ إلى جعل المواصفات غير مكتملة.
• الوضوح الاقتصادي: من خلال فرض الإعلان الصريح عن نقاط التشغيل ونوافذ القابلية للعكس، يجعل SARC المقايضات بين النتائج الإيجابية الكاذبة، والنتائج السلبية الكاذبة، وقدرة المشغل، قرارات واضحة لتخصيص رأس المال.

يخلص المؤلفون إلى أن SARC لا يجعل الأنظمة آمنة بحد ذاته؛ بل يوفر الانضباط الهيكلي المطلوب لهندسة السلامة والامتثال، وفصل التحسين ($R$)، والقدرة ($A$)، والمقبولية ($C$) لمنع فشل الأنظمة كظواهر غير قابلة للملاحظة.