Inference Cost Attacks for Retrieval-Augmented Large Language Models
यह शोध पत्र रिट्रीवल-ऑगमेंटेड इन्फरेंस कॉस्ट अटैक (RA-ICA) का परिचय देता है, जो एक नवीन ढांचा है जो एलएलएम (LLM) एजेंटों और मेमोरी-ऑगमेंटेड ग्रुप रिलेटिव पॉलिसी ऑप्टिमाइज़ेशन एल्गोरिदम का उपयोग करके बाहरी ज्ञान भंडारों को ऐसे दुर्भावनापूर्ण दस्तावेजों से विषाक्त करता है जो उत्तर की अखंडता को बनाए रखते हुए आरएजी (RAG)-संवर्धित एलएलएम प्रणालियों में टोकन खपत को महत्वपूर्ण रूप से बढ़ा देते हैं।