← أحدث الأبحاث
💻 computer science

BRA-Audit: Budgeted Runtime Auditing for LLM Multi-Agent Systems via Cumulative-Exposure Audit-Point Placement

تقدم الورقة البحثية BRA-Audit، وهو إطار عمل للتدقيق في وقت التشغيل يراعي الميزانية، يعمل على تحسين وضع نقاط التدقيق ضمن أنظمة الوكلاء المتعددين للنماذج اللغوية الكبيرة لتقليل التعرض التراكمي غير المفحوص، مما يؤدي إلى تقليل تكاليف الرموز (tokens) بشكل كبير مع الحفاظ على الأداء العالي وتحديد مواقع الفشل بفعالية.

المؤلفون الأصليون: Kaixiang Wang, Yidan Lin, Jiong Lou, Jie Li

نُشر 2026-08-18
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Kaixiang Wang, Yidan Lin, Jiong Lou, Jie Li

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في المشهد المتطور للذكاء الاصطناعي، برز نهج جديد حيث تعمل نماذج لغوية كبيرة متعددة معاً كفريق واحد لحل المشكلات المعقدة. فبدلاً من محاولة برنامج حاسوبي واحد تنفيذ مهمة بمفرده، تقوم هذه الأنظمة بتعيين أدوار مختلفة لوكلاء متنوعين، مما يسمح لهم بمشاركة المعلومات، ومناقشة الأفكار، ودمج نقاط قوتهم. يحاكي هذا التعاون كيفية عمل الفرق البشرية، مما يؤدي غالباً إلى حلول أكثر قوة وإبداعاً للتحديات الصعبة. ومع ذلك، فإن هذه الطبيعة المترابطة تفرض ثغرة أمنية محددة: إذا ارتكب أحد الأعضاء خطأً أو تم خداعه لتقديم معلومات خاطئة، يمكن لهذا الخطأ أن ينتشر بسرعة. ولأن الوكلاء يعتمدون على مخرجات بعضهم البعض لاتخاذ خطواتهم التالية، فإن قطعة واحدة من البيانات الفاسدة يمكن أن تتسلسل عبر المجموعة بأكملها، مما يؤدي إلى فشل النظام بأكمله. وقد كان التحدي الذي يواجه الباحثين هو إيجاد طريقة للتحقق من عمل الفريق بحثاً عن الأخطاء دون إبطاء العملية أو استهلاك كمية مفرطة من موارد الحوسبة.

ولمعالجة هذا التوازن الدقيق، طور فريق من الباحثين طريقة تسمى BRA-Audit، والتي تعمل كـمشرف ذكي ومراعي للميزانية لهذه الفرق متعددة الوكلاء. الفكرة الجوهرية هي وقف عدم الكفاءة الناتج عن فحص كل تفاعل، وهو أمر مكلف للغاية، وتجنب خطر الفحص في النهاية فقط، وهو أمر يكون قد فات الأوان فيه لإصلاح المشكلات. بدلاً من ذلك، يتعامل النظام مع تدفق المعلومات بين الوكلاء كخريطة ديناميكية من الاتصالات. ومن ثم، يقوم بوضع "نقاط تفتيش" استراتيجية في اللحظات الأكثر حرجاً في سير عمل الفريق. هذه النقاط ليست عشوائية؛ إذ يحسب النظام أي الوكلاء ظلوا لأطول فترة دون فحص، وأي الوكلاء يؤثرون حالياً على أكبر عدد من أجزاء المحادثة الأخرى. ومن خلال تركيز موارده المحدودة على هذه المناطق عالية المخاطر وعالية التأثير، يمكن للنظام رصد الأخطاء مبكراً ومنعها من الانتشار بشكل أكبر.

اختبر الباحثون هذا النهج في سيناريوهات متنوعة، تراوحت من مهام التنسيق المنظمة حيث يجب على الوكلاء الاتفاق على خطة محددة، إلى ألغاز الاستدلال المنطقي المعقدة، وصولاً إلى المشاريع مفتوحة النهايات حيث يتعاون الوكلاء لتوليد أفكار بحثية جديدة. وفي هذه الاختبارات، قاموا بمحاكاة هجمات حيث تمت برمجة بعض الوكلاء لتقديم معلومات مضللة أو غير صحيحة. وبدون أي حماية، تسببت هذه المدخلات الخبيثة في انهيار أداء الفريق بأكه، حيث انخفضت معدلات النجاح بشكل كبير. وعندما طبق الباحثون نظام BRA-Audit، تمكن الفريق من استعادة أدائه، والعودة إلى مستويات تقارب تلك التي كانت ستتحقق لو لم تحدث أخطاء على الإطلاق. والأهم من ذلك، أن هذا التعافي جاء مع توفير كبير في التكلفة؛ فمقارنة بالأساليب الأخرى التي تفحص عمل الفريق باستمرار، خفض BRA-Audit إجمالي قدرة الحوسبة المطلوبة بنسبة تتراوح بين 17.2% و40.6%، اعتماداً على المهمة.

تعتمد فعالية هذه الطة على كيفية قرارها بمكان البحث. فالنظام لا يكتفي ببساطة بعدّ عدد المرات التي يتحدث فيها الوكيل؛ بل ينظر إلى هيكل المحادثة. فهو يحدد الوكلاء الذين عملوا لفترة طويلة دون إشراف، وأولئك الذين أوشكت مخرجاتهم على التأثير في العديد من القرارات الأخرى. ومن خلال إعطاء الأولوية لهذه العقد المحددة في الشبكة، يضمن النظام أنه في حال اكتشاف خطأ، يتم احتواء الضرر في قسم صغير يمكن السيطرة عليه. وإذا تم اكتشاف مشكلة، يمكن للنظام التراجع فقط عن الجزء المتضرر من المحادثة وإعادة تنفيذه، بدلاً من التخلص من المشروع بأكمله. هذا التعافي الموضعي يمنع الحاجة إلى إعادة تشغيل كاملة، والتي ستكون أكثر تكلفة واستهلاكاً للوقت.

كما استكشفت الدراسة كيف أثرت عوامل مختلفة على النتائج، مثل حجم فريق الوكلاء وتعقيد شبكة الاتصال. وقد أثبتت الطريقة متانتها عبر أحجام الفرق المختلفة وطرق اتصال الوكلاء المتنوعة، سواء كانت مجمعة في مجموعات صغيرة أو مرتبطة بنمط "المحور والأسلاك" (hub-and-spoke). ووجد الباحثون أن هناك "نقطة مثالية" لعدد مرات إجراء هذه الفحوصات. فالفحص المتكرر جداً يهدر الموارد على التفاعلات الآمنة، بينما الفحص النادر جداً يسمح للأخطاء بالنمو. ومن خلال ضبط النظام ليفحص نسبة مئوية محددة من التفاعلات بناءً على المخاطر المحسوبة، حقق الباحثون توازناً جعل الفريق آمناً وفعالاً. ويشير هذا النهج إلى أنه لكي تكون أنظمة الذكاء الاصطناዊ واسعة النطاق موثوقة، فهي لا تحتاج إلى مراقبة مستمرة، بل إلى مراقبة ذكية، تركز انتباهها تماماً حيث تشتد الحاجة إليها.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💻 cs →