🤖 machine learning
When Local Monitors Miss Compositional Harm: Diagnosing Distributed Backdoors in Multi-Agent Systems
यह शोध पत्र प्रदर्शित करता है कि मल्टी-एजेंट LLM सिस्टम में स्थानीय रनटाइम मॉनिटर उन वितरित बैकडोर्स (distributed backdoors) का पता लगाने में विफल रहते हैं जब हानिकारक पेलोड को व्यक्तिगत रूप से निर्दोष अंशों में विभाजित किया जाता है, जो एक अवलोकन सीमा (observability boundary) स्थापित करता है जहाँ सुरक्षा केवल तभी सुनिश्चित की जा सकती है जब असेंबल की गई वस्तु का पता लगाया जाए या उस अंतर्निहित प्रतिनिधित्व तक पहुँचा जाए जहाँ क्षति उजागर होती है।