Scam2Prompt: A Scalable Framework for Auditing Malicious Scam Endpoints in Production LLMs
Il documento introduce Scam2Prompt, un framework scalabile che rivela una vulnerabilità di sicurezza critica e in peggioramento nei Large Language Models in produzione, in cui prompt automatizzati derivati da siti di truffa malevoli attivano con successo la generazione di codice dannoso in fino al 47,3% dei casi su più modelli, rendendo insufficienti le attuali misure di sicurezza come i guardrail e il RAG.