Whose Side Is Your Agent On? Multi-Party Principal Loyalty in LLM Agents
यह शोधपत्र PrincipalBench प्रस्तुत करता है, जो यह प्रकट करता है कि LLM एजेंट अक्सर अपने प्रिंसिपल (स्वामी) के प्रति वफादारी और प्रतिकूल प्रतिपक्षी (counterparty) की जांचों के बीच संतुलन बनाने में संघर्ष करते हैं, और प्रॉम्प्ट स्कैफोल्डिंग एवं नॉलेज डिस्टिलेशन को ऐसे तंत्रों के रूप में प्रस्तावित करता है जो नुकसान को कम करने में सुधार करते हैं लेकिन मौलिक रूप से लीक्स (सूचना रिसाव) को रोकने और अत्यधिक इनकार (over-refusal) से बचने के बीच एक ट्रेड-ऑफ द्वारा सीमित हैं।