💻 computer science
Confidently Wrong: Severity-Aware Calibration of Prompt-Injection Detectors under Attack Shift
यह शोधपत्र प्रकट करता है कि वर्तमान प्रॉम्प्ट-इंजेक्शन डिटेक्टर, मानक बेंचमार्क पर सुव्यवस्थित दिखने के बावजूद, विस्थापित हमले के वितरण (shifted attack distributions) का सामना करते समय खतरनाक रूप से अति-आत्मविश्वासी हो जाते हैं, और संरचनात्मक विश्लेषण के बजाय कंटेंट-कीइंग (content-keying) पर निर्भरता के कारण छूटे हुए, उच्च-गंभीरता वाले हमलों को लगातार लगभग पूर्ण आत्मविश्वास स्कोर प्रदान करते हैं।