Exploiting Web Search Tools of AI Agents for Data Exfiltration
यह शोध पत्र वेब सर्च टूल्स के माध्यम से अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन हमलों के प्रति लार्ज लैंग्वेज मॉडल्स की संवेदनशीलता का व्यवस्थित रूप से मूल्यांकन करता है, जो विविध मॉडल्स में निरंतर बनी रहने वाली कमजोरियों को प्रकट करता है और सुरक्षा को कोर एआई डिज़ाइन में एकीकृत करने के लिए उन्नत प्रशिक्षण, केंद्रीकृत थ्रेट डेटाबेस और एकीकृत परीक्षण ढांचे की वकालत करता है।