Detecting Malicious Intents in Smart Contracts with Pre-trained Programming Language Models

1. Problema e Contexto

Os contratos inteligentes (smart contracts) são a infraestrutura fundamental para aplicações descentralizadas (DApps), mas a transparência e imutabilidade da blockchain também expõem riscos significativos. Enquanto a detecção de vulnerabilidades acidentais (bugs) é bem estudada, a detecção de intenções maliciosas deliberadas por desenvolvedores permanece subexplorada.

Essas intenções maliciosas não são necessariamente bugs, mas funcionalidades intencionalmente embutidas para prejudicar os usuários, como:

• Fee: Taxas excessivas ou manipuláveis.
• DisableTrading: Capacidade do dono de desativar o comércio arbitrariamente.
• Blacklist/Reflect/MaxTX/Honeypot/Reward/Rebase/MaxSell/Mint: Diversos esquemas de manipulação de tokens, restrições de venda e mecanismos de recompensa fraudulentos.

O trabalho anterior, SmartIntentNN, utilizava um codificador de sentença universal (USE) combinado com clustering e redes BiLSTM, alcançando um F1-score de 0,8633. No entanto, enfrentava limitações na captura de nuances semânticas específicas do código e em classes minoritárias devido ao desequilíbrio de dados.

2. Metodologia: SmartIntentV2

O artigo apresenta o SmartIntentV2, uma evolução que integra modelos de linguagem pré-treinados (PLMs) adaptados ao domínio. A arquitetura é composta por três etapas principais:

A. SmartBERT (Pré-treinamento Adaptado ao Domínio)

• Base: O modelo inicia com o CodeBERT (baseado em RoBERTa), conhecido por sua capacidade de entender código.
• Adaptação de Domínio: O modelo é pré-treinado novamente (domain-adaptive pre-training) em um corpus de 16.000 contratos inteligentes reais usando a tarefa de Modelagem de Linguagem Mascaramentada (MLM).
• Granularidade: O pré-treinamento e a extração de características ocorrem no nível de função, não de contrato inteiro, para capturar semântica mais fina e respeitar limites de sequência.
• Representação: Utiliza mean pooling (média) sobre os embeddings dos tokens para gerar um vetor fixo para cada função, que é então agregado para formar a representação do contrato.

B. Rede de Classificação Multi-rótulo

• Arquitetura: Os embeddings das funções do contrato são alimentados em uma rede BiLSTM (Long Short-Term Memory Bidirecional) para capturar dependências entre as funções.
• Saída: Uma camada de classificação com ativação Sigmoid gera probabilidades para cada uma das 10 categorias de intenções inseguras.
• Função de Perda: Utiliza-se Binary Focal Loss para lidar com o desequilíbrio de classes, dando mais peso aos exemplos difíceis e às classes minoritárias.

C. Estratégia de Treinamento

• Fase 1: Treinamento padrão no conjunto de dados original.
• Fase 2 (Otimização): Uma fase secundária de treinamento balanceado por classe, onde amostras são reamostradas para garantir representação equitativa de todas as 10 categorias, mitigando o viés de classes majoritárias.

3. Contribuições Chave

1. SmartIntentV2: Um novo estado da arte (SOTA) para detecção de intenções em contratos inteligentes, superando significativamente o modelo anterior e outras bases.
2. SmartBERT: Um modelo de linguagem pré-treinado especificamente adaptado para código Solidity, disponível publicamente, que captura padrões sintáticos e semânticos únicos de contratos inteligentes.
3. Open Source: Disponibilização completa do dataset (30.000 contratos anotados), código, documentação e modelos no repositório do projeto.
4. Análise de Custo-Eficiência: Demonstração de que modelos especializados são drasticamente mais rápidos e baratos do que Grandes Modelos de Linguagem (LLMs) genéricos para esta tarefa.

4. Resultados Experimentais

O modelo foi avaliado em um conjunto de teste independente de 10.000 contratos reais.

• Desempenho Geral (SmartIntentV2):

  • Acurácia: 0,9789
  • Precisão: 0,9090
  • Recall: 0,9476
  • F1-Score (Micro-average): 0,9279

• Comparação com o Antecessor (SmartIntentNN V1):

  • Melhoria relativa de 7,48% no F1-score (de 0,8633 para 0,9279).

• Comparação com Baselines e LLMs:

  • Superou modelos tradicionais (LSTM, CNN) e outros pré-treinados (CodeBERT, RoBERTa) sem adaptação de domínio.
  • Vs. GPT-4.1: O SmartIntentV2 obteve um F1-score de 0,9279, enquanto o GPT-4.1 (em configuração zero-shot) obteve apenas 0,5606. Isso representa uma melhoria relativa de 65,5% no F1-score.
  • Custo e Latência: Em um teste de 100 contratos, o SmartIntentV2 levou 2,63 segundos com custo computacional negligenciável. O GPT-4.1 levou 11,07 segundos e custou aproximadamente $2,88 em taxas de API, demonstrando a superioridade econômica do modelo especializado.

5. Significado e Conclusão

O trabalho estabelece que a adaptação de domínio é crucial para a segurança de contratos inteligentes. Modelos de linguagem genéricos ou pré-treinados em código geral não capturam as nuances sutis de intenções maliciosas específicas da blockchain.

O SmartIntentV2 demonstra que uma arquitetura leve, baseada em pré-treinamento específico e otimização para desequilíbrio de classes, é superior a LLMs massivos em termos de precisão, velocidade e custo para tarefas de classificação especializada. Isso oferece uma ferramenta prática e escalável para auditores e plataformas de segurança, permitindo a detecção proativa de riscos que vão além de vulnerabilidades técnicas, focando na intenção maliciosa do desenvolvedor.

O artigo também identifica limitações, como a dependência de código-fonte (não funcionando em contratos não verificados) e a necessidade de atualização contínua para novas categorias de ataques, propondo trabalhos futuros em detecção baseada em bytecode e localização precisa do código malicioso.