في عالم رقمي حديث، تعتمد المنظمات الكبيرة على برامج تعمل نيابة عنها. لعقود من الزمن، كانت هذه البرامج قابلة للتنبؤ: يقوم مهندس بشري بكتابة الكود، وتثبيت البرنامج، وإعطائه مجموعة محددة من التعليمات. إذا احتاج البرنامج إلى إرسال بريد إلكتروني أو نقل أموال، فإنه سيفعل ما أُمر به بالضبط، لا أكثر ولا أقل. وللحفاظ على سلامة هذه البرامج، بنت الشركات أنظمة للتحقق من هويتها وتسجيل أفعالها، تماماً مثل حارس أمن يتحقق من شارة عند الباب. ومع ذلك، فقد وصل نوع جديد من البرامج يغير القواعد؛ وهي الوكلاء المستقلون (autonomous agents)، وهي برامج لا تكتفي باتباع نص ثابت، بل تستخدم الذكاء الاصطناعي لتقرر بنفسها ما ستفعله تالياً. يمكن لهذه الوكلاء الظهور والاختفاء في ثوانٍ، ويمكنهم الاختيار من بين مجموعة واسعة من الإجراءات الممكنة التي لم يكتبها أي إنسان مسبقاً، ويمكن لأي شخص لديه اتصال بالإنترنت إنشاء واحد منها. ولأن هؤلاء الوكلاء مختلفون تماماً عن البرامج القديدة القابلة للتنبؤ، فإن الأنظمة الأمنية المصممة للماضي تفشل في الحماية منهم.

أمضى فريق من الباحثين في "أوريت إيه آي" (Aurite AI) وقتاً في بناء طريقة جديدة لإدارة هؤلاء الوكلاء غير المتوقعين أثناء تشغيلهم. ويجادلون بأن محاولة التحكم في هؤلاء الوكلاء عبر إصلاح الكود الخاص بهم قبل البدء أمر مستحيل، لأن الوكيل يقرر أفعاله الخاصة في اللحظة الأخيرة. بدلاً من ذلك، يقترحون نظاماً يراقب كل إجراء يحاول الوكيل القيام به ويوقفه إذا لم يكن مسموحاً به. ولإنجاح ذلك، حددوا خمسة أسئلة جوهرية يجب الإجابة عليها لكل إجراء. أولاً، يجب أن يعرف النظام وجود الوكيل. ثانياً، يجب أن يثبت من هو الوكيل. ثالثاً، يجب أن يقرر ما إذا كان مسموحاً للوكيل بالقيام بما يطلبه. رابعاً، يجب إنشاء سجل دائم وغير قابل للتغيير لما حدث بحيث يمكن لأي شخص التحقق منه لاحقاً. خامساً، يجب التحقق مما يتكون منه الوكيل لضمان عدم تعديله سراً. بنى الباحثون نظاماً يجيب على الأسائل الأربعة الأولى في الوقت الفعلي، وهم يعملون حالياً على تطوير السؤال الخامس كأداة منفصلة. ووجدوا أنه بينما يعد هذا النهج ضرورياً، إلا أنه يأتي بتكلفة: فهو يبطئ النظام قليلاً ويتطلب برنامجاً مساعداً صغيراً ليعمل بجانب كل وكيل.

تتمثل المشكلة الجوهرية التي واجهها الباحثون في أن الأمن التقليدي يعتمد على معرفة ما سيفعله البرنامج بالضبط قبل بدئه. إذا تم توظيف موظف بشري، فيُمنح شارة وقائمة من القواعد. وإذا تم تثبيت خدمة، فتُمنح وصفاً وظيفياً محدداً. لكن الوكيل المستقل مختلف؛ فهو يشبه مسافراً يصل بدون تأشيرة، ويدعي أنه مواطن، ثم يقرر في اللحظة ذاتها أي بلد سيزور وماذا سيفعل هناك. وجد الباحثون أن أدوات الأمن القديمة، التي بُنيت للبشر والخدمات الثابتة، لا يمكنها التعامل مع هذا. قد يتحقق فحص أمني قياسي مما إذا كان الوكيل هو من يدعي أنه هو، لكنه لا يستطيع منع الوكيل من اختيار إجراء خطير لم يتوقعه أحد. وبالمثل، فإن حارس الأمن الذي يتحقق فقط من قائمة الإجراءات المعتمدة لا يمكنه منع وكيل من ابتكار إجراء جديد وضار في اللحظة ذاتها. وخلص الباحثون إلى أن الطريقة الوحيدة لحوكمة هؤلاء الوكلاء هي التدخل في اللحظة الدقيقة التي يحاولون فيها القيام بفعل ما، والتحقق من طلبهم مقابل مجموعة من القواعد قبل السماح لهم بالمضي قدماً.

ولحل هذه المعضلة، صمم الفريق نظاماً مبنياً حول خمسة أجزاء متميزة، أو "بدائيات" (primitives)، تعمل معاً. الجزء الأول هو الاكتشاف (discovery). ولأن الوكلاء يمكن أن يظهروا في أي مكان وفي أي وقت، يجب أن يكون النظام قادراً على العثور عليهم. أدرك الباحثون أن مجرد إدراج الوكلاء المعروفين ليس كافياً، لأن أخطر الوكلاء هم أولئك الذين لم يتم تسجيلهم بعد. صُمم نظامهم لملاحظة متى يحاول وكيل القيام بشيء لا يتعرف عليه النظام. وبدلاً من مجرد حظره، يقوم النظام بتسجيل المحاولة وتنبيه مشغل بشري، والذي يمكنه بعد ذلك تقرير ما إذا كان ينبغي السماح بهذا الإجراء الجديد في المستقبل. وهذا يحول الفشل المحتمل إلى وسيلة للتعلم وتحديث القواعد.

الجزء الثاني هو الهوية (identity). في الماضي، قد يدعي برنامج ما أنه خدمة معينة، لكن الباحثين وجدوا أن الوكلاء يمكنهم الكذب بشأن هويتهم. يتطلب نظامهم من الوكيل إثبات هويته باستخدام اعتماد رقمي يتم إنشاؤه تلقائياً بناءً على مكان تشغيل الوكيل ومما يتكون. يتم التحقق من هذا الإثبات في اللحظة التي يحاول فيها الوكيل الاتصال، مما يضمن أن النظام يتحدث إلى الوكيل الحقيقي وليس إلى منتحل شخصية. هذا الإثبات قصير الأمد ويتغير باستمرار، لذا حتى لو سرق مخترقٌ اعتماداً ما، فإنه سينتهي بسرعة.

الجزء الثالث هو الحوكمة (governance)، وهي عملية صنع القرار الفعلية. قبل أن يتمكن الوكيل من إرسال بريد إلكتروني أو تحويل أموال، يجب أن يطلب الإذن. يتحقق النظام من الطلب مقابل مجموعة من القواعد الخاصة بتلك المنظمة. إذا كان الإجراء مسموحاً به، يستمر الوكيل. وإذا لم يكن كذلك، يتم حظر الطلب فوراً. يحدث هذا قبل وقوع الإجراء، وهي الطريقة الوحيدة للتحكم الفعلي في الوكيل. كما أدرج الباحثون "مفتاح إيقاف" (kill switch) يمكنه إيقاف الوكيل فوراً إذا بدأ يتصرف بشكل سيء، دون انتظار انتهاء صلاحية اعتماداته الرقمية.

الجزء الرابع هو التصديق (attestation)، وهو يتعلق بإنشاء سجل جدير بالثقة. في الماضي، كانت الشركات تحتفظ بسجلات لما فعلته برامجها، لكن تلك السجلات كانت تُكتب بواسطة نفس البرامج التي تخضع للمراقبة. إذا خرج برنامج عن السيطرة، فقد يقوم أيضاً بتغيير السجلات لإخفاء آثاره. بنى الباحثون نظاماً يكتب كل قرار في سلسلة سجلات خاصة وغير قابلة للتغيير. هذه السلسلة موقعة بمفتاح سري تمتلكه المنظمة وحدها، وهي مصممة بحيث يمكن لأي شخص، حتى خارج الشركة، التحقق من أن السجل حقيقي ولم يتم التلاعب به. وهذا يوفر وسيلة لإثبات ما حدث أمام محكمة أو أثناء تحقيق.

الجزء الخامس هو التحقق من سلسلة التوريد (supply chain verification)، والذي يسأل عما يتكون منه الوكيل فعلياً. حتى لو تم تحديد هوية الوكيل والموافقة على أفعاله، فقد يكون يعمل على نسخة مخترقة من برمجياته. بنى الباحثون أدوات للتحقق من مكونات الوكيل — كوده، وبياناته، وتبعيته — لكن هذه الأدوات تعمل حالياً بشكل منفصل عن عمليات التحقق في الوقت الفقل. وبينما يجادل الباحثون بأن هذا التحقق ضروري لأن الوكيل المحدد تماماً والمبني على أجزاء تالفة لا يزال خطيراً، فإن هذا الفحص المحدد لا يحجب الإجراءات في لحظة وقوعها بعد؛ بل يظل خطوة تطوير منفصلة بدلاً من كونه جزءاً متكاملاً من عملية التفويض الفورية.

اختبر الباحثون نظامهم في تجارب خاصة مع عدد من المنظمات. ووجدوا أن أربعة من الأجزاء الخمسة مبنية وتعمل بالكامل، بينما لا يزال الجزء الخامس قيد التطوير كأداة منفصلة. وقد كانوا صريحين بشأن تكاليف هذا النهج الجديد. نظرًا لأن النظام يتحقق من كل طلب قبل حدوثه، فإنه يضيف تأخيراً طفيفاً للعملية. كما يتطلب برنامجاً مساعداً صغيراً، يسمى "سايدكار" (sidecar)، ليعمل بجانب كل وكيل لإدارة هويته. والأهم من ذلك، إذا تعطل النظام الأمني نفسه، فيجب أن تتوقف الوكلاء عن العمل لضمان السلامة. وهذا يعني أن فشل النظام الأمني يؤدي إلى توقف العمل التجاري، وهو مقايضة يعتقد الباحثون أنها ضرورية لمنع الضرر.

كانت واحدة من أكثر النتائج إثارة للدهشة هي أن النظام يجب أن يحكم نفسه أيضاً. أدرك الباحثون أن الأدوات التي بنوها لإدارة الوكلاء هي نفسها برامج مؤتمتة. قرروا تشغيل أدوات الإدارة الخاصة بهم عبر نفس الضوابط الأمنية المستخدمة مع الوكلاء العملاء. وهذا يعني أن النظام يتحقق من هويته الخاصة، ويقرر ما إذا كانت أفعاله مسموحة، ويسجل قراراته في نفس السلسلة غير القابلة للتغيير. هذا يضمن أن الأشخاص الذين بنوا النظام الأمني لا يمكنهم تجاوز القواعد التي وضعوها للآخرين.

يؤكد الباحثون أن عملهم لا يتعلق بتغيير كيفية تفكير نماذج الذكاء الاصطناعي أو سلوكها. هم يفترضون أن النماذج تعمل كما هو مخطط لها ويركزون بدلاً من ذلك على القواعد التي تحكم ما يُسمح لها بالوصول إليه أو تغييره. ويجادلون بأن محاولة حل المشكلة عبر تحسين النماذج فقط ليست كافية، لأن حتى النموذج جيد السلوك يحتاج إلى حدود لما يمكنه الوصول إليه وتغييره. إن حلهم هو إطار عملي يمكن للمنظمات استخدامه لإدارة هؤلاء الوكلاء غير المتوقعين اليوم. ومن خلال تقسيم المشكلة إلى خمسة أسئلة واضحة، فإنهم يقدمون خارطة طريق لأي شخص يحاول جلب هذه الأدوات القوية إلى بيئة آمنة ومسيطر عليها. إن العمل لم ينتهِ بعد، والجزء الخامس من النظام لا يزال قيد التكامل، لكن الفكرة الأساسية — وهي ضرورة مراقبة هؤلاء الوكلاء والتحقق منهم في الوقت الفعلي — قد طُرحت كنهج معماري ضروري، حيث تم التحقق من منطق التصميم من خلال التنفيذ بدلاً من النتائج المقاسة عبر مجتمع نشر واسع النطاق.