ملخص تقني: الوكيل الذكي المسؤول يتطلب إثبات مصدر صريح

1. بيان المشكلة

لقد تجاوز الانتشار السريع للذكاء الاصطناعي الوكيل (Agentic AI) —وهي أنظمة قادرة على التخطيط المستقل، واستخدام الأدوات، والتنفيذ متعدد الخطوات في بيئات واقعية— وتيرة تطوير هياكل المساءلة. وبينما قد تجتاز المكونات الفردية (مثل المهارات، أو الأدوات، أو النماذج) عمليات تدقيق السلامة، فإن تركيبها داخل "وكيل" غالباً ما يؤدي إلى أضرار ناشئة، وانتهاكات تنظيمية، وتشتت في المسؤولية.

تعتمد مناهج "الذكاء الاصطناعي الجدير بالثقة" الحالية على قياس الأداء للمكونات المنفصلة والتدقيق اللاحق. وتفشل هذه الأساليب لأن:

• المخاطر التركيبية: الخصائص الأمنية التي يتم التحقق منها في العزل لا تصمد أمام التفاعل.
• المسؤولية المتشتتة: ينشأ الضرر من مسارات طويلة الأمد وسلاسل سببية موزعة لا يصممها أو يسيطر عليها طرف واحد بشكل كامل من البداية إلى النهاية.
• نقص القابلية للحوسبة: تظل المسؤولية مفهوماً ذاتياً غير مفروض لعدم وجود سجل صريح وقابل للتتبع (إثبات المصدر/Provenance) يربط بين أضرار محددة وأطراف معينة ومساهمات سببية محددة.

تجادل الورقة بأنه بدون إثبات مصدر صريح عبر دورة حياة الوكيل الكاملة، لا يمكن جعل المسؤولية قابلة للحوسبة، أو الإجراء، أو الإنفاذ.

2. المنهجية والصياغة الرسمية

يقترح المؤلفون إطار عمل قائماً على إثبات المصدر الصريح لجعل المسؤولية قابلة للحوسبة. ويتضمن ذلك صياغة الأدلة الضرورية والطبقات الهيكلية المطلوبة لتحديد المسؤولية.

2.1 التعريفات الجوهرية

• المسار الوكيل ($\tau$): تسلسل محدود من حالات البيئة والإجراءات المشتركة للوكيل.
• المساهمة السببية ($\kappa$): مقياس للتأثير السببي لطرف ما على حدث ضار $\omega$. وتُعرف بأنها الفرق في احتمال وقوع الضرر مع قرارات الطرف مقابل مسار مضاد (Counterfactual) حيث تم تحييد تلك القرارات:
  $$\kappa(p, \omega, \tau) = \Pr[\omega | \tau] - \Pr[\omega | \tau_{-p}]$$
• الموقف المعرفي ($\varepsilon$): مقياس لما عرفه الطرف أو ما كان ينبغي له توقعه بشكل معقول بالنظر إلى دوره والمعلومات المتاحة لديه في الوقت $t$.
• المسؤولية القابلة للحوسبة ($\rho$): دالة تخصص وزناً للمسؤولية لكل طرف $p$ عن الضرر $\omega$، وتحقق الشروط التالية:
  1. التناسب: $\rho \propto \kappa \cdot \mathbb{1}[\text{foreseeable}]$.
  2. الاكتمال: مجموع المسؤوليات الفردية بالإضافة إلى المسؤولية المؤسسية المتبقية يساوي 1.
  3. عدم التهرب: لا يمكن للأطراف الهروب من المسؤولية عن المساهمات المتوقعة عبر تعقيد النظام.
• تنسور المسؤولية ($R$): هيكل متعدد الأبعاد $R \in [0, 1]^{|P| \times |\Omega| \times |D|}$ يشفر المسؤولية عبر الأطراف، وأحداث الضرر، والأبعاد الاجتماعية التقنية (مثل المعايير، التنظيم، والمهنية).

2.2 أجندة دورة الحياة رباعية الطبقات

لتشغيل هذه التعريفات، تحدد الورقة أجندة بحثية مكونة من أربع طبقات:

1. L1 (التصميم): إنشاء رسم بياني للتبعية السببية ($G$) يمثل الأطراف والنماذج والمهارات قبل النشر. يضمن ذلك تصميم النظام لإنتاج إثبات المصدر اللازم.
2. L2 (الهندسة): تنفيذ المراقبة الآنية للمسار لتقدير مخاطر المسار ($\Pr[\omega | e_t, \alpha_{t:T}]$) في الوقت الفعلي. يجب أن تنتج هذه الطبقة سجلات تنفيذ مهيكلة ومتوافقة مع حالات الفشل لدعم كل من التتبع (بأثر رجعي) والقدرة على التدخل (بأثر مستقبلي).
3. L3 (النشر): ترجمة إثبات المصدر التقني إلى أحكام معيارية. يتضمن ذلك تحديد "أغلفة المسؤولية"، وأوزان الأبعاد ($w_k$)، وخطط الاستجابة للحوادث لربط الإشارات السببية بأطراف محددة.
4. L4 (الخبرة): معالجة الأضرار التراكمية (مثل تآكل الاستقلالية، وتضخيم التحيز) التي تحدث عبر آفاق زمنية طويلة دون تجاوز عتبات الخطوة الواحدة. يتطلب ذلك مراقبة على مستوى السكان لمجموعات خيارات المستخدمين وتباعد المعتقدات.

3. النتالئج الرئيسية والتجارب

تقدم الورقة تحققاً تجريبياً أولياً لطبقة L2 (الهندسة)، مع التركيز تحديداً على إمكانية تقدير الإشارات السببية عبر الإنترنت.

• الإعداد التجريبي: استخدم المؤلفون بنية مراقبة عصبية-رمزية (NeSy) قابلة للتركيب ملحقة بأنظمة الوكلاء. تقوم هذه البنية بتحويل آثار الوكيل الخام إلى تمثيلات معيارية على مستوى الخطوة وتقوم بتقييمها باستخدام مراقبين متنوعين (نماذج تسلسل عصبية، آلات الحالة المحدودة، نماذج Transformer، ونماذج GRU) دون تعديل المكونات الداخلية للوكيل.
• مجموعات البيانات: أُجريت التجارب عبر أربعة اختبارات مرجعية: WebArena، و TAU2Bench، و SkillsBench، و TerminalBench.
• المقياس: تم استخدام المساحة تحت منحنى الدقة والاستدعاء (AUPRC) لقياس مدى جودة تحديد المراقبين للمسارات الفاشلة قبل مادية الضرر.
• النتائج:
  • تفوقت المراقبات المتعلمة بشكل كبير على الخطوط المرجعية العشوائية وخطوط الأساس لنماذج LLM ذات القدرة صفرية (Zero-shot).
  • نجحت متغيرات الحالة المحدودة (Finite-State) في ضغط السلوكيات التحذيرية إلى حالات رمزية مفهومة للمدققين البشريين، مما وفر الأدلة القابلة للفحص المطلوبة للتتبع.
  • حددت المراقبات المقدمات عالية المخاطر في وقت مبكر بما يكفي لدعم التدخل قبل تراكم العواقب غير القابلة للإصلاح، مما يؤكد شرط القدرة على التدخل.
• دراسة حالة: أظهر المؤلفون كيف يمكن ربط هذه الحالات الرمزية (مثل "استعلام بحث غير متوافق" أو "إعادة توجيه البحث الخارجي") بأطراف محددة في سلسلة النشر (مثل مطوري المهارات، أو مشغلي المنصات) لتغذية تنسور المسؤولية، مما يحول اللوم الذاتي إلى تخصيص قابل للحوسبة.

4. الأهمية والادعاءات

تضع الورقة إثبات المصدر الصريح ليس كمجرد تحسين اختياري، بل كـ شرط ضروري للذكاء الاصطناعي الوكيل المسؤول.

• الضرورة الهيكلية: يجادل المؤلفون بأن "فجوة الثقة" الحالية في تبني الذكاء الاصطناعي هي فجوة هيكلية، وليست مجرد تقنية. فجوات المسؤولية موجودة لأن لا أحد ينتج السجلات القابلة للقياس، والتتبع، والتدخل اللازمة لتحديد المسؤولية عند ظهور الضرر من السلوك التركيبي.
• تحول في النموذج: ينقل هذا العمل المجال من "التقييم القائم على الاختبارات المرجعية" (الذي يقيم القدرة في العزل) إلى "المساءلة القائمة على إثبات المصدر" (التي تقيم المسؤولية عبر دورة الحياة الكاملة).
• القابلية للتنفيذ: من خلال صياغة المسؤولية كدالة قابلة للحوسبة بناءً على المساهمة السببية والتوقع، تدعي الورقة أنها تجعل مفهوم المسؤولية قابلاً للتطبيق للمشرعين والمطورين والمؤسسات.
• الثقة المؤسسية: يرى المؤلفون أن العقبة أمام اعتماد الذكاء الاصطناعي الوكيل ليست نقص القدرة، بل نقص الثقة. ويُقدمت بنية إثبات المصدر الصريح كآلية لبناء الثقة المؤسسية المطلوبة للتفويض واسع النطاق للسلطة.

تخلص الورقة إلى أن سد الفجوة بين التقدم التكنولوجي السريع وهياكل المسؤولية هو التزام مشترك، يتطلب تعاوناً مستداماً بين علوم الحاسوب، والقانون، والأخلاق، والعلوم الاجتماعية لتصميم بنية المساءلة التي يتطلبها الذكاء الاصطناعي الوكيل.