Scam2Prompt: A Scalable Framework for Auditing Malicious Scam Endpoints in Production LLMs
O artigo apresenta o Scam2Prompt, um framework escalável que revela uma vulnerabilidade de segurança crítica e agravante em Modelos de Linguagem de Grande Porte em produção, onde prompts automatizados derivados de sites de golpes maliciosos desencadeiam com sucesso a geração de código prejudicial em até 47,3% dos casos em múltiplos modelos, tornando as medidas de segurança atuais, como guardrails e RAG, insuficientes.