Resumo Técnico: Avaliação de Ataques de Smishing Gerados por IA vs. Escritos por Humanos

Declaração do Problema

O phishing personalizado (spear phishing) continua sendo uma ameaça crítica à cibersegurança porque as mensagens podem ser adaptadas ao trabalho, interesses e contexto social específicos de um alvo, tornando-as altamente convincentes. Embora os Grandes Modelos de Linguagem (LLMs) prometam automatizar a criação de tal conteúdo direcionado em escala e com baixo custo, existe uma lacuna significativa na literatura empírica sobre se as mensagens geradas por IA são de fato mais convincentes do que as escritas por humanos quando ambas são adaptadas ao mesmo indivíduo. Além disso, não está claro se os alvos conseguem distinguir confiavelmente entre fontes de IA e humanas, ou se o próprio texto retém sinais detectáveis de sua origem. Este estudo aborda essas lacunas comparando mensagens de SMS de spear phishing (smishing) geradas pelo GPT-4 contra mensagens escritas por autores humanos novatos para os mesmos 25 alvos.

Metodologia

O estudo empregou um design piloto envolvendo 25 participantes que atuaram como alvos. A pesquisa utilizou um framework de avaliação proposto chamado TRAPD (Threshold Ranking Approach for Personalized Deception), projetado para permitir comparações controladas e éticas de conteúdo enganoso personalizado sem o uso de ataques reais.

Design Experimental

1. Recrutamento de Alvos: 41 indivíduos completaram uma pesquisa fornecendo dados pessoais (nome, ocupação, hobbies, postagens recentes em redes sociais, etc.). 25 desses participantes retornaram para a fase de avaliação.
2. Geração de Mensagens:
   • Condição IA: O GPT-4 (via API da OpenAI, temperatura 0.7) gerou mensagens baseadas em uma estrutura de prompt compartilhada usando os dados do alvo.
   • Condição Humana: 99 autores novatos (estudantes de graduação em cibersegurança/honras) escreveram mensagens sob restrições de tempo (aprox. 15 minutos) utilizando a mesma estrutura de prompt.
   • Tópicos: As mensagens foram geradas para três contextos específicos por alvo: Relacionado ao Trabalho, Relacionado a Hobbies e Relacionado a Redes Sociais.
   • Volume: Cada alvo recebeu 12 mensagens no total (6 geradas por IA, 6 escritas por humanos; 2 de cada por tópico).
3. Procedimento de Avaliação (TRAPD):
   • Classificação: Os participantes organizaram fisicamente as 12 mensagens da mais para a menos provável de induzir um clique.
   • Estabelecimento de Limiar (Thresholding): Os participantes marcaram um limiar na lista classificada indicando o ponto acima do qual eles teriam a intenção de clicar.
   • Explicação Qualitativa: Os participantes explicaram seu raciocínio para as classificações e limiares.
   • Atribuição de Origem: Os participantes identificaram quais mensagens acreditavam ser geradas por IA e explicaram seus critérios.
4. Análise Computacional: Um classificador de regressão logística usando embeddings semânticos (text-embedding-3-small) foi treinado para distinguir entre os dois conjuntos de mensagens. Esta análise incluiu testes de sensibilidade onde características superficiais óbvias (URLs, emojis, comprimento, pontuação) foram normalizadas para testar se o classificador dependia de padrões textuais mais profundos.

Principais Contribuições

1. Comparação Controlada: Fornece uma comparação direta, dentro do mesmo alvo, de mensagens de smishing personalizadas geradas pelo GPT-4 e escritas por humanos, uma lacuna na literatura existente que tem focado majoritariamente em e-mail ou phishing em massa.
2. Avaliação de Atribuição de Origem: Documenta a precisão dos alvos humanos em distinguir fontes de IA de humanas e analisa os sinais específicos (ou a falta deles) nos quais eles se baseiam.
3. Análise de Características: Identifica características de mensagens (relevância, identidade do remetente, estrutura da URL, estilo, urgência) que os participantes associam à capacidade de convencer ou à suspeita.
4. Distinguibilidade Computacional: Demonstra que, embora os humanos não consigam distinguir as origens, o texto dos conjuntos de mensagens específicos do estudo permanece computacionalmente distinguível, mesmo após o controle de características de nível superficial.
5. Framework TRAPD: Introduz o framework TRAPD e documenta sua viabilidade e limitações para a comparação controlada de conteúdo enganoso personalizado dentro do mesmo alvo, trocando parte do realismo ecológico por um controle rigoroso dentro do alvo e dados qualitativos ricos.

Resultados

Convincentismo (RQ1 & RQ2)

• IA vs. Humano: As mensagens geradas pelo GPT-4 provocaram uma intenção de clique em 28,0% dos casos, comparado a 21,3% para as mensagens escritas por humanos. No entanto, essa diferença não foi estatisticamente confiável (IC 95%: -2,9 a 16,3 pontos percentuais; p = 0,147). O estudo não estabelece nem que a IA supera os humanos, nem que as condições são equivalentes.
• Impacto do Tópico: Mensagens relacionadas ao trabalho foram significativamente mais convincentes do que as de hobbies ou redes sociais. 38% das mensagens relacionadas ao trabalho excederam o limiar de intenção de clique, comparado a 19% para hobbies e 17% para redes sociais. Mensagens de trabalho tiveram chances de intenção de clique significativamente maiores do que as outras duas categorias (p < 0,05 após ajuste de Holm).
• Direcionadores Qualitativos: Os participantes citaram relevância pessoal (76%), identidade do remetente (68%) e características da URL (64%) como fatores primários. A personalização precisa aumentou a credibilidade, enquanto incompatibilidades (ex: colegas incorretos, tópicos irrelevantes) aumentaram a suspeita.

Atribuição de Origem (RQ3 & RQ4)

• Precisão Humana: Os participantes identificaram corretamente a fonte (IA vs. Humano) apenas 52,0% das vezes, o que não é melhor do que o acaso (p = 0,597).
• Dicas Utilizadas: Apesar da baixa precisão, os participantes basearam-se em pistas inconsistentes como "estilo" (formalidade, tom genérico), "escolha de palavras" (palavras da moda vs. gírias), "gramática" (perfeição vs. erros) e "emojis". Muitos participantes expressaram incerteza, baseando-se em "pressentimentos" em vez de critérios concretos.

Atribção de Origem Computacional (RQ5)

• Distinguibilidade de Máquina: Em contraste com o desempenho humano, um classificador computacional pôde distinguir os conjuntos de mensagens com alta precisão, mesmo após uma normalização estrita (remoção de URLs, emojis, padronização de comprimento/caixa).
• Desempenho: Na condição mais rigorosa (comprimento equalizado, texto normalizado), o classificador alcançou uma Acurácia Balanceada de 88,7% e um ROC AUC de 0,954 em alvos não vistos. Isso sugere que os conjuntos de mensagens específicos do estudo continham padrões textuais sutis e distribuídos, detectáveis por máquinas, mas não por humanos.

Significância e Alegações

O artigo alega que a personalização assistida por IA acessível pode aumentar a escala prática das ameaças de engenharia social, mesmo que as mensagens individuais de IA não sejam atualmente superiores às humanas. O achado principal é que um prompt simples pode produzir mensagens personalizadas que são comparavelmente convincentes às escritas por humanos novatos monitorados, dentro da incerteza deste piloto.

O estudo destaca que pretextos de ambiente de trabalho são particularmente potentes no smishing, exigindo atenção específica em treinamento e defesa. Ele também ressalta um descompasso crítico: enquanto os humanos não conseguem detectar a autoria de IA de forma confiável, o texto retém sinais computáveis. No entanto, os autores alertam que esses resultados computacionais são específicos das condições do estudo (um modelo, um prompt, autores novatos) e não devem ser tratados como um detector de IA geral, especialmente dado que atacantes podem revisar o texto para evitar a detecção.

Finalmente, o artigo posiciona o TRAPD como um framework valioso e eticamente sólido para pesquisas futuras, permitindo comparações controladas e análises detalhadas de raciocínio que experimentos de phishing reais não podem fornecer, ao mesmo tempo em que reconhece suas limitações quanto à validade ecológica e generalização.