Scam2Prompt: A Scalable Framework for Auditing Malicious Scam Endpoints in Production LLMs
यह शोध पत्र Scam2Prompt को प्रस्तुत करता है, जो एक स्केलेबल फ्रेमवर्क है जो प्रोडक्शन लार्ज लैंग्वेज मॉडल्स में एक गंभीर और बिगड़ती सुरक्षा भेद्यता को उजागर करता है, जहाँ दुर्भावनापूर्ण स्कैम साइटों से प्राप्त स्वचालित प्रॉम्प्ट कई मॉडल्स में 47.3% मामलों तक हानिकारक कोड उत्पन्न करने में सफलतापूर्वक ट्रिगर करते हैं, जिससे गार्डरेल्स और RAG जैसे वर्तमान सुरक्षा उपाय अपर्याप्त हो जाते हैं।