BlindGuard: Safeguarding LLM-based Multi-Agent Systems under Unknown Attacks
ब्लाइंडगार्ड (BlindGuard) एक अनसुपरवाइज्ड डिफेंस फ्रेमवर्क है जो एलएलएम-आधारित मल्टी-एजेंट सिस्टम के लिए है, जो लेबल किए गए अटैक डेटा या विशिष्ट खतरों के पूर्व ज्ञान पर निर्भर हुए बिना, प्रभावी ढंग से दुर्भावनापूर्ण एजेंटों की पहचान करने और विविध हमलों को कम करने के लिए एक पदानुक्रमित एजेंट एनकोडर (hierarchical agent encoder) और एक करप्शन-गाइडेड डिटेक्टर (corruption-guided detector) का उपयोग करता है।