← أحدث الأبحاث
💻 علوم الحاسوب

Verifiable Delegated Authority for LLM Agents in Banking: A Formal Architecture, Capability Protocol, and Audit Guarantees

تقترح هذه الورقة بنية رسمية لوكلاء النماذج اللغوية الكبيرة (LLM) الآمنين في القطاع المصرفي، والتي تفصل عملية التفويض عن النموذج باستخدام رموز قدرات مخففة ومحركات سياسات حتمية، مما يوفر ضمانات مثبتة لاحتواء السلطة، والحد من الخسائر المالية، ونزاهة التدقيق ضد الجهات المعادية.

المؤلفون الأصليون: Neeraj Aggarwal

نُشر 2026-10-20
📖 5 دقيقة قراءة🧠 قراءة متعمّقة
CC BY 4.0

المؤلفون الأصليون: Neeraj Aggarwal

البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في عالم المصارف عالي المخاطر، بُنيت الثقة تقليديًا على قواعد صارمة وفاعلين يمكن التنبؤ بسلوكهم. ولعقود من الزمن، أمّنت البنوك أبوابها الرقمية عبر ضمان أن كل إجراء صادر عن إنسان معروف أو خدمة حاسوبية موثوقة ومبرمجة مسبقًا. تعمل هذه الأنظمة وفق مبدأ بسيط: إذا كان الطلب موقعًا من الشخص الصحيح واتبع الخطوات الصحيحة، فهو آمن للتنفيذ. ومع ذلك، دخل نوع جديد من العمال إلى المشهد: الوكيل القائم على الذكاء الاصطناعي. وخلافًا للبشر أو البرامج الحاسوبية القياسية، تعمل هؤلاء الوكلاء مدعومين بنماذج لغوية كبيرة يمكنها التفكير من خلال معلومات معقدة وغير منظمة مثل رسائل البريد الإلكتروني أو التقارير، ويمكنهم اتخاذ قرار بشأن الخطوات التالية التي يجب اتخاذها بمفردهم. هذا المرونة تجعلهم مفيدين للغاية في التعامل مع المهام الإدارية الخلفية الفوضوية، لكنها تفرض أيضًا حالة من عدم اليقين العميق. فبسبب عدم قدرة هؤلاء الوكلاء على اتخاذ نفس القرار مرتين، حتى عند منحهم نفس المعلومات، فإن نماذج الأمن القديمة التي تفترض وجود فاعل يمكن التنبؤ به لم تعد صالحة. فإذا مُنح وكيل ذكاء اصطناعي مفاتيح تحريك الأموال، كيف يمكن للبنك أن يتأكد من أنه لن ينقل الأموال التي لا ينبغي له نقلها، سواء عن طريق الخطأ أو بسوء نية؟

يعالج نيراج أغاروال، وهو باحث في "إنفوسيس" (Infosys)، هذه المشكلة تحديدًا بإطار عمل جديد مصمم خصيصًا للعمل المصرفي. الفكرة الجوهرية هي التوقف عن محاولة جعل الذكاء الاصطناعي نفسه آمنًا تمامًا، وبدلاً من ذلك بناء قفص آمن حوله. في هذه البنية الجديدة، يُعامل الذكاء الاصطناعي ليس كصانع قرار موثوق، بل كمقترح غير موثوق؛ حيث يُسمح له باقتراح الإجراءات، لكن لا يُسمح له أبدًا بتنفيذها مباشرة. بدلاً من ذلك، يجب أن يمر كل اقتراح عبر محرك سياسة حتمي منفصل يعمل كحارس بوابة صارم. يقوم هذا المحرك بفحص الاقتراح مقابل مجموعة من القواعد و"رمز قدرة" (capability token) محدد يحد بدقة مما يمكن للوكيل القيام به، وكمية الأموال التي يمكنه تحريكها، ولأي مدة زمنية. تم تصميم النظام بحيث أنه حتى لو تعرض الذكاء الاصطناعي للخداع بواسطة أمر خبيث أو ارتبك بسبب بيانات سيئة، فلا يمكنه الخروج من حدود المهام الموكلة إليه. وقد أثبت الباحثون رياضيًا أنه بموجب هذا التصميم، لا يمكن للوكيل تصعيد صلاحياته للقيام بشيء لم يُصرح له به، كما قاموا بحساب الحد الأقصى الدقيق للمبالغ التي يمكن خسارتها في حال تعرض النظام لهجوم دون تدخل بشري.

ولضمان حدوث كل شيء بشكل صحيح، قام الباحثون أيضًا ببناء نظام من الأدلة القابلة للتحقق. فكل خطوة يتخذها الوكيل، بدءًا من الفكرة الأولية وصولاً إلى التنفيذ النهائي، تُسجل في سجل آمن وغير قابل للتغيير، موقع ومترابط كالسلسلة. وهذا يسمح للمدقق، أو حتى لحاسوب آخر، بالنظر في السجل بعد أشهر والتحقق من أن الوكيل قد التزم بقواعده، دون الحاجة إلى رؤية العمليات الذهنية الداخلية للذكاء الاصطناعي أو إعادة تشغيل الذكاء الاصطناعي نفسه. كما يقدم النظام طريقة لاستخدام وكلاء ذكاء اصطناعي متعددين لمراجعة أعمال بعضهم البعض. وقد وجد الباحثون أن مجرد إضافة المزيد من المراجعين لا يضمن السلامة؛ بل إن المفتاح يكمن في امتلاك مراجعين متنوعين، بمعنى أنهم مبنيون على نماذج مختلفة أو تم تدريبهم بشكل مختلف. فإذا تشارك جميع المراجعين في نفس "النقطة العمياء"، فسوف يرتكبون جميعًا نفس الخطأ. ومن خلال قياس هذه المخاطر، يمكن للنظام تحديد متى تكون الرأي الثاني يستحق التكلفة ومتى يكون من الضروري التوقف وطلب المساعدة من إنسان.

اختبر الفريق هذه الأفكار من خلال بناء نموذج أولي عامل وتمريره عبر آلاف الهجمات المحاكية. وفي هذه الاختبارات، حاول حاسوب معادٍ — يعمل كبديل لوكيل خبيث، دون وجود نموذج لغوي حقيقي في الحلقة — خداع النظام للقيام بإجراءات غير مصرح بها، مثل تزوير الرموز، أو إعادة تشغيل أوامر قديمة، أو التلاعب بالسجلات. وعبر 700,000 محاولة، نجح النظام في حظر كل تنفيذ غير مصرح به. وأكدت عمليات المحاكاة، التي اعتمدت على بيانات اصطناعية واستخدمت تقنية HMAC-SHA256 لتمثيل التوقيعات الرقمية الحقيقية، أن الحدود الرياضية للخسارة المالية كانت دقيقة؛ فعندما حاول المهاجمون دفع النظام إلى أقصى حدوده، طابقت الخسائر الحد الأقصى المتوقع تمامًا، مما أثبت إحكام شبكة الأمان. كما كشفت الاختبارات عن نقطتي ضعف محددتين في التصميم الأولي: إحداهما تتعلق بمدة صلاحية الرموز، والأخرى تتعلق بالقدرة على استرجاع السجلات إلى حالة سابقة. وقد عالج التصميم النهائي هذه الثغرات، مما ضمن أنه حتى لو تمكن المهاجم من سرقة رمز ما، فلا يمكن استخدامه إلا مرة واحدة وفقط ضمن نافذة زمنية قصيرة جدًا.

يمثل هذا النهج تحولًا في كيفية تفكيرنا في تأمين الأنظمة الذكية في البنية التحتية الحيوية. فبدلاً من الأمل في أن يتصرف الذكاء الاصطناعي بشكل جيد دائمًا، يفترض النظام أنه قد لا يفعل ذلك، ويبني طبقة إنفاذ منفصلة عن منطق الذكاء الاصطناعي. والنتيجة هي سير عمل يمكن للذكاء الاصطناعي من خلاله القيام بعمله في فرز المعلومات المعقدة واقتراح الحلول، بينما يحتفظ البنك بالسيطرة المطلقة على الإجراء النهائي. لقد أثبت الباحثون أنه من الممكن امتلاك وكلاء مؤتمتين أقوياء في بيئة مصرفية دون خلق مخاطر غير قابلة للتدقيق. ومن خلال معاملة الذكاء الاصطناعي كمقترح وطبقة التنفيذ كمنفذ، ومن خلال الاحتفاظ بسجل غير قابل للتلاعب بكل قرار، يمكن للبنوك البدء في استخدام هذه الأدوات بمستوى من السلامة والمساءلة كان مستحيلاً في السابق. لا يزال العمل نموذجًا رسميًا ومحاكاة، ولكنه يوفر مسارًا واضحًا ومثبتًا لنقل وكلاء الذكاء الاصطناعي من الأدوات التجريبية إلى صلب العمليات المالية المنظمة.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💻 cs →