💻 संगणक विज्ञान
Measuring How LLM Tool Descriptions, Cross-Tool Ambiguity, and Action Chains Compose into Excessive Agency Exploits
यह शोध पत्र AGENTSPILL को प्रस्तुत करता है, जो एक अनुभवजन्य ऑडिट (empirical audit) है जो यह प्रदर्शित करता है कि लार्ज लैंग्वेज मॉडल्स अत्यधिक एजेंसी शोषण (excessive agency exploits) के प्रति अत्यधिक संवेदनशील हैं—जिसमें 50.6% की समग्र सफलता दर प्राप्त हुई है—विशेष रूप से टूल विवरण इंजेक्शन (tool description injection) और अनकन्फ़र्म्ड एक्शन चेनिंग (unconfirmed action chaining) के माध्यम से, जो मॉडल्स को कैनोनिकल टूल परिभाषाओं के बजाय हेरफेर किए गए निर्देशों को प्राथमिकता देने और स्वायत्त रूप से विनाशकारी अनुक्रमों को निष्पादित करने के लिए प्रेरित करते हैं।