Zero-Shot Embedding Drift Detection: A Lightweight Defense Against Prompt Injections in LLMs
यह शोध पत्र ज़ीरो-शॉट एम्बेडिंग ड्रिफ्ट डिटेक्शन (ZEDD) को प्रस्तुत करता है, जो एक हल्का और प्रशिक्षण-मुक्त ढांचा है जो एम्बेडिंग स्पेस में सिमेंटिक बदलावों को मापकर LLMs को प्रत्यक्ष और अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन हमलों से सुरक्षित करता है, और आंतरिक तंत्र तक पहुंच या विशिष्ट हमलों के प्रकारों के पूर्व ज्ञान की आवश्यकता के बिना विविध मॉडलों में 93% से अधिक सटीकता प्राप्त करता है।