يقف عالم الذكاء الاصطناي يقف عند مفترق طرق هادئ ولكنه حاسم. لسنوات، تم الاحتفاء بهذه الأنظمة لقدرتها على توليد النصوص، أو كتابة الأكواد، أو تلخيص الأخبار، حيث عملت كمساعدين أقوياء يفكرون ويتحدثون. ولكن مرحلة جديدة بدأت، حيث لم تعد هذه الأنظمة تكتفي بمجرد التحدث؛ بل أصبحت تقوم بالأفعال. لقد أصبح يُطلب منها تنفيذ مهام معقدة، مثل شراء المستلزمات، أو إدارة الحسابات الرقمية، أو تنسيق سير العمل عبر منصات برمجية مختلفة. هذا التحول من توليد الكلمات إلى تنفيذ الأفعال يطرح مشكلة جوهرية: كيف نثق في آلة عندما تبدأ باتخاذ خطوات في العالم الحقيقي؟ إذا ارتكب موظف بشري خطأً، يمكننا مراجعة عمله وتصحيحه. ولكن إذا اتخذ وكيل مستقل قراراً خاطئاً أثناء تشغيل سير عمل ما، فقد يقوم فوراً بتحويل أموال، أو حذف ملف، أو إغلاق نظام بالكامل من الوجود. التحدي لا يكمصر في جعل الذكاء الاصطناعي أكثر ذكاءً فحسب، بل في بناء نظام سلامة يراقب أفعال الذكاء الاصطناعي في الوقت الفعلي، مما يضمن اتباعه للقواعد دون إبطائه أو تكبد تكاليف باهظة لتشغيله.

وفي هذا السياة، اقترح باحث يدعى "دايجونغ بيون" (DaeJung Byun) إطار عمل جديداً يسمى "ذكاء حوكمة التنفيذ"، أو EGA V9. صُمم هذا النظام ليعمل كمشرف آلي صارم لهذه الوكلاء المستقلين. وبدلاً من محاولة تخمين ما إذا كان قرار الذكاء الاصطناعي جيداً أم سيئاً بناءً على الاحتمالات، يتخذ EGA V9 نهجاً مختلفاً: فهو يعامل تنفيذ المهمة كفيلم مسجل يمكن إعادة تشغيله فوراً. الفكرة الجوهرية هي أنك إذا عرفت بالضبط ما كان من المفترض أن يفعله الذكاء الاصطناعي، وكان لديك سجل مثالي لما فعله بالفعل، يمكنك رصد الفرق فوراً. يعمل النظام من خلال التقاط كل خطوة يتخذها الذكاء الاصطناعي، من لحظة بدء المهمة حتى لحظة انتهائها. ثم يقوم بعمل "إعادة تشغيل" لتلك الخطوات في جزء من الثانية ليرى ما إذا كانت النتيجة تطابق الخطة. إذا حاول الذكاء الاصطناعي الانحراف، رب الله باستخدام أداة لم يكن مسموحاً له بلمسها أو بتغيير رقم في معاملة ما، يكتشف النظام عدم التطابق ويوقف الإجراء قبل وقوع الضرر.

لقد اختبر الباحثون هذا الإطار بدقة شديدة لمعرفة ما إذا كان بإمكانه التعامل مع فوضى سيناريوهات العالم الحقيقي. لقد أنشأوا آلاف المواقف الاختبارية، تتراوح من مهام بسيطة مثل شراء عنصر ما إلى محاولات خبيثة معقدة حيث حاول مهاجم خداع النظام للقيام بمشتريات غير مصرح بها أو تجاوز قواعد السلامة. في هذه الاختبارات، طُلب من النظام معالجة ما يصل إلى 10,000 سير عمل مختلف. كانت النتائج متسقة بشكل مذهل ضمن السيناريوهات التي تم تقييمها. نجح إطار العمل في اكتشاف كل حالة حاول فيها الذكاء الاصطناعي كسر القواعد في هذه الاختبارات المحددة، حيث رصد 100 بالمائة من الأخطاء دون أن يخطئ أبداً في تصنيف إجراء آمن على أنه خطير. لقد فعل ذلك بدقة مثالية، مما يعني أنه لم تكن هناك إنذارات كاذبة ولا تهديدات فائتة عبر كامل نطاق الاختبارات، بما في ذلك الحالات الأكثر صعوبة المصممة لتبدو تماماً مثل العمل المشروع. ومع ذلك، يوضح الباحثون أن هذه النتائج تصف اكتشاف "تباين التنفيذ" ضمن السيناريوهات التي تم تقييمها، ولا ينبغي تفسيرها كضمانات لجميع خصائص أمن وقت التشغيل.

وما يجعل هذا النهج لافتاً للنظر بشكل خاص هو مدى كفاءة تشغيله. عادةً، يؤدي إضافة طبقة سلامة إلى نظام حاسوبي إلى إبطائه أو يتطلب قوة حوسبة إضافية مكلفة. ومع ذلك، تم تصميم EGA V9 ليعمل محلياً على نفس الجهاز الذي يعمل عليه الذكاء الاصطناعي، دون الحاجة إلى طلب المساعدة من حاسوب منفصل وقوي. أظهرت الاختبارات أن النظام لم يضف أي تأخير يذكر إلى العملية. فقد قيس الوقت الذي استغرقه التحقق من خطوة واحدة بأجزاء من الألف من الثانية، وتحديداً حوالي 0.003 مللي ثانية لأسرع عمليات التحقق. علاوة على ذلك، لم يتطلب النظام أي استدعاءات إضافية لنماذج اللغات الكبيرة التي تشغل الذكاء الاصطناعي، كما لم يكن بحاجة إلى إرسال طلبات إضافية إلى خدمات خارجية. وهذا يعني أن فحص السلامة يحدث فوراً ومجاناً، من حيث الوقت والمال، مما يسمح للذكاء الاصطناعي بالعمل بالسرعة الكاملة مع بقائه تحت الإشراف المستمر.

بُني إطار العمل على خمس طبقات متميزة تعمل معاً لإنشاء بيئة آمنة. الطبقة الأولى، "نواة الثالوث" (Trinity Core)، تعمل كذاكرة، حيث تسجل كل تغيير في الحالة وكل إجراء ليمكن إعادة تشغيله لاحقاً. الطبقة الثانية، "طبقة الأصل" (Provenance Layer)، تبني خريطة للسبب والنتيجة، وتتتبع بدقة أي قرار أدى إلى أي إجراء. إذا أظهرت الخريطة رابطاً مكسوراً أو خطوة مفقودة، فإن النظام يعرف أن هناك خطأ ما. الطبقة الثالثة، "طبقة الاحتواء" (Containment Layer)، هي الحارس الذي يتدخل عند اكتشاف مشكلة. إذا اكتشف النظام أن الذكاء الاصطناعي يتصرف خارج قواعده، تقوم هذه الطبقة فوراً بحظر الإجراء وعزل سير العمل، مما يمنع انتشار أي ضرر. توفر الطبقة الرابعة نافذة للمشغلين البشريين لرؤية ما يحدث، وتسمح الطبقة الخامسة للباحثين باختبار النظام ضد أنواع جديدة من الهجمات في بيئة آمنة ومنضبطة. وتعمل هذه الطبقات معاً لإنشاء نظام "إغلاق عند الفشل" (fail-closed)، مما يعني أنه إذا كان النظام غير متأكد أو اكتشف تهديداً، فإنه يلجأ افتراضياً إلى إيقاف الإجراء بدلاً من السماح له بالاستمرار.

وعلى الرغم من هذه النتائج المثيرة للإعجاب، فإن الباحثين حذرون في تحديد حدود ما يمكن لنظامهم القيام به. تؤكد الدراسة أن إطار العمل يعمل بشكل استثنائي لأنواع المهام والهجمات المحددة التي اختبروها، لكنه لا يدعي أنه حل عالمي لكل خطر محتمل. على سبيل المثال، بينما يثبط النظام التنفيذ بفعالية أثناء وجود تباين نشط، فإنه لا يملك بعد القدرة على منع الذكاء الاصطناعي بشكل دائم من محاولة القيام بنفس الإجراء السيئ مرة أخرى بعد زوال التهديد المباشر. كما لا يمكنه بعد ضمان أن سلسلة معقدة من الإجراءات ستحدث مرة واحدة فقط دون أي تكرار، وهي ميزة مهمة للمعاملات المالية. بالإضافة إلى ذلك، بينما يمكن للنظام تتبع ما يفعله الذكاء الاصطناعي داخلياً، فإنه لا يستطيع التحقق بالكامل من سلامة كل قطعة من الأدلة إذا كانت البيانات نفسها مفقودة أو مزورة قبل وصولها إلى النظام. هذه ليست إخفاقات في الاختبارات الحالية، بل هي حدود واضحة للتكنولوجيا كما هي موجودة اليوم.

تكمن أهمية هذا العمل في إثبات أنه يمكننا بناء شبكة أمان للذكاء الاصطناعي المستقل تكون سريعة، ورخيصة، وموثوقة دون الحاجة إلى تغيير الذكاء الاصطناعي نفسه. ومن خلال معاملة التنفيذ كعملية حتمية - عملية يمكن إعادة تشغيلها والتحقق منها بيقين مطلق - أظهر الباحثون أننا لسنا بحاجة إلى الاعتماد على التخمين للحفاظ على سلامة هذه الأنظمة. لقد أثبت النظام أنه من الممكن الحصول على مشرف يراقب كل حركة، ويكتشف كل خطأ ضمن النطاق الذي تم تقييمه، ويوقف كل تهديد يتم اكتشافه أثناء طلب الحوكمة النشط، كل ذلك دون إضافة عبء يذكر على أداء الكمبيوتر. وهذا يقدم مساراً عملياً للمؤسسات التي ترغب في استخدام وكلاء الذكاء الاصطناعي القويين لأداء مهام حقيقية، مع العلم أن هناك آلية قائمة لضمان إكمال تلك المهام بأمان وصحة. ويظل العمل مفتوحاً للآخرين لاختباره، وتحديه، وتحسينه، مما يدعو المجتمع العلمي الأوسع للتحقق من هذه النتائج ودفع حدود الممكن في مجال السلامة المستقلة.