💬 NLP
ToolFlood: Beyond Selection -- Hiding Valid Tools from LLM Agents via Semantic Covering
यह शोध पत्र ToolFlood को प्रस्तुत करता है, जो एक नवीन रिट्रीवल-लेयर हमला है जो प्रतिकूल रूप से तैयार किए गए उपकरणों के एक छोटे सेट को इंजेक्ट करके टूल-ऑगमेंटेड LLM एजेंटों से समझौता करता है, जो विविध उपयोगकर्ता प्रश्नों को अर्थपूर्ण रूप से कवर करते हैं ताकि शीर्ष-k रिट्रीवल परिणामों पर प्रभुत्व जमाया जा सके और सभी सौहार्दपूर्ण (benign) उपकरणों को विस्थापित किया जा सके, जिससे न्यूनतम इंजेक्शन दरों के साथ 95% तक हमले की सफलता प्राप्त होती है।