← أحدث الأبحاث
🤖 AI

AUDITA: certified auditing and causal attribution of adverse outcomes in autonomous multi-agent systems

تقدم هذه الورقة البحثية إطار عمل AUDITA، وهو إطار تدقيق معتمد للأنظمة المستقلة متعددة الوكلاء يجمع بين سجلات الأوامر غير القابلة للتلاعب ومحرك عزو سببي متدرج لضمان التعيين العادل للمسؤولية رياضياً، ومنع إلقاء اللوم على الآخرين، وحل النتائج السلبية المعقدة ومتعددة الأسباب بدقة حيث تفشل الطرق التقليدية التي تعتمد على تحديد مذنب واحد.

المؤلفون الأصليون: Zhixu Du, Yiran Chen

نُشر 2026-08-25
📖 5 دقيقة قراءة🧠 قراءة متعمّقة
CC BY 4.0

المؤلفون الأصليون: Zhixu Du, Yiran Chen

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في المستقبل القريب، لن تُدار المصانع والمستودعات والمساحات العامة بواسطة مشرفين بشريين، بل بواسطة أسراب من الآلات التي يوجهها عقل واحد يعمل بالذكاء الاصطناعي. هذا العقل لا يصدر أوامر لروبوت واحد؛ بل ينسق حواراً معقداً بين العشرات من الوكلاء البرمجيين المتخصصين، لكل منهم وظيفة محددة، بدءاً من تخطيط مسار وصولاً إلى الإمساك بصندوق ثقيل. وعندما تعمل هذه الأنظمة، فإنها تتحرك بسرعة وكفاءة أكبر مما يمكن لأي فريق بشري أن يفعل. ولكن عندما يحدث خطأ ما — إصابة عامل، أو تلف شحنة، أو تحطم آلة — يصبح السؤال حول من الملام يتحول إلى فوضى متشابكة. صانع الآلة، ومطور البرمجيات، ومشغل المصنع، وشركة التأمين، جميعهم يتبادلون الاتهامات. حالياً، لا توجد طريقة موثوقة لفك هذا التشابك؛ إذ يمكن تعديل السجلات الرقمية التي تسجل ما حدث، وغالباً ما تجبر الأنظمة التي تحللها شخصاً واحداً أو برنامجاً واحداً على تحمل المسؤولية، حتى عندما يكون الحادث ناتجاً عن سلسلة من الأحداث، أو إشارة مفقودة، أو أمرين مختلفين كان كلاهما كافياً للتسبب في الكارثة.

قام فريق من الباحثين في جامعة ديوك ببناء نظام جديد يسمى "Audita" لحل هذه المشكلة. بدلاً من التخمين حول المسؤول بناءً على سجلات غير كاملة أو سهلة التزييف، ينشئ Audita سجلاً دائماً وغير قابل للتغيير لكل أمر يتم إرساله بين الوكلاء البرمجيين. فكر في هذا السجل كدفتر يوميات مختوم وغير قابل للتلاعب، حيث يتم توقيع كل مدخل من قبل المرسل وربطه بالمدخل السابق، مما يجعل من المستحيل حذف صفحة أو تغيير كلمة دون أن يلاحظ الجميع ذلك. عندما يقع حادث، لا يبحث Audita فقط عن "شخص سيء" واحد؛ بل يستخدم تحقيقاً صارماً وخطوة بخطوة لتتبع كيفية وقوع الضرر بالضبط. فهو يتحقق مما إذا كان الأمر قد نُفذ بالفعل، أو إذا تم تجاهل أمر ضروري، أو إذا ساهم وكلاء متعددون في الفشل. ثم يقوم النظام بتعيين درجة محددة من المسؤولية لكل طرف، تتراوح من الصفر إلى المسؤولية الكاملة، ويقدم شهادة تثبت بالضبط سبب اتخاذ هذا القرار.

اختبر الباحثون هذا النظام بطريقتين مختلفتين تماماً. أولاً، استخدموه على نظام حي يعمل، حيث كانت وكلاء الذكاء الاصطناعي يحلون مسائل رياضية معقدة. في هذه الاختبارات، كانت الطرق القياسية المستخدمة اليوم لتحديد المسؤولية خاطئة في نصف الحالات تقريباً، وغالباً ما كانت تغفل حقيقة أن عدة وكلاء يتشاركون المسؤولية. في المقابل، قلل Audita معدل الخطأ بنحو ثلاثة أضعاف، حيث حدد بشكل صحيح أن الفشل كان عادةً جهداً مشتركاً بين وكيل التخطيط ووكيل التحقق. ثانياً، اختبر الفريق نظام Audita على مكتبة من الحوادث المحاكية بناءً على حوادث روبوتات حقيقية، بما في ذلك سيناريوهات توقفت فيها آلة لأن أحداً لم يأمرها بالتوقف، أو حيث حاولت آلتان القيام بنفس المهمة وفشلت كلتاهما. في هذه الاختبارات المنضبطة، فشلت الطرق القديمة تماماً، وغالباً ما ألقت باللوم على الآلة الخطأ أو اخترعت مذنباً حيث لا يوجد أحد. ومع ذلك، حدد Audota السبب الدقيق لكل حادث بدقة تامة، حتى عندما حاول الباحثون خداع النظام عن طريق حذف أجزاء من السجل أو محاولة توريط آلة بريئة.

جزء حاسم من هذا الاكتشاف هو ما يثبت النظام أنه من المستحيل تزييفه. فقد أظهر الباحثون أنه بينما يمكن لفاعل ضار أن يحاول جعل آلة بريئة تبدو وكأنها تسببت في حادث عن طريق إرسال أمر مزيف إليها، فإن النظام سيكشف تلك المحاولة ويحمل المهاجم المسؤولية بدلاً من ذلك. كما أثبت النظام أنه لا يمكنك ببساطة حذف الأدلة لجعل الطرف المذنب يبدو بريئاً؛ فإذا كان هناك دليل مفقود، سيقوم النظام بتمييزه كفجوة ويرفض تبرئة المتهم، بدلاً من التظاهر بأن الجزء المفقود لم يكن موجوداً أبداً. وهذا يعني أن النظام يمكنه التمييز بين آلة خرقت القواعد فعلياً وبين آلة كانت مجرد وسيط لخطأ شخص آخر. كما يمكنه التعامل مع المواقف التي لم تفعل فيها الآلة أي شيء خاطئ ولكنها فشلت في إيقاف حادث لأنها لم تُؤمر بالتحرك، وهو نوع من الفشل تتجاهله الأنظمة الحالية غالباً.

كما استكشفت الدراسة حدود ما يمكن لأي نظام كهذا القيام به. وجد الباحثون أنه إذا كان السجل الرقمي غير مكتمل — أي إذا كانت الآلات تتواصل فيما بينها عبر قنوات سرية لا يستطيع النظام رؤيتها — فإن النظام لا يمكنه تحديد المسؤولية الكاملة؛ بل يمكنه فقط قول ما حدث بناءً على الأدلة المتاحة لديه. ومع ذلك، وضمن هذه الحدود، فإن النظام مثبت رياضياً بأنه عادل؛ فلا يمكن خداعه ليلوم آلة ممتثلة، ولا يمكن خداعه ليعفي آلة مذنبة. وقد أظهر الباحثون أنه مع زيادة قوة نماذج الذكاء الاصطناعي، تتحسن قدرة النظام على إيجاد الحقيقة، بينما تظل الطرق القديمة عالقة عند نفس مستوى الخطأ.

يشير هذا العمل إلى أنه لكي تصبح الآلات ذاتية القيادة موثوقة في العالم الحقيقي، فإننا بحاجة إلى طريقة جديدة لتسجيل النتائج. إن النهج الحالي المتمثل في البحث عن مذنب واحد هو نهج معيب جوهرياً لأنه لا يتوافق مع كيفية فشل الأنظمة المعقدة في الواقع. ومن خلال الجمع بين سجل غير قابل للتغيير للأحداث وطريقة تفهم تفاصيل المسؤولية المشتركة، يقدم Audita طريقة لتحويل الجدل حول من الملام إلى عملية حسابية قائمة على أدلة دامغة. لا يدعي الباحثون أن هذا يحل كل المشكلات القانونية أو الأخلاقية، لكنهم أظهروا أنه من الممكن إنشاء نظام يجيب على سؤال المسؤولية بمستوى من اليقين كان يُعتقد سابقاً أنه مستحيل. وبينما لم يتم اختبار النظام بعد على روبوتات مادية أو سلاسل إنتاج، يقترح الباحثون استخدامه كطبقة ضرورية للمجموعات المستقلة في المستقبل، مما يوفر مساراً نحو عالم يمكن فيه محاسبة الآلات بطريقة عادلة وشفافة وسليمة رياضياً.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 🤖 cs.AI →