Retrofit: Continual Learning with Controlled Forgetting for Binary Security Detection and Analysis

Resumo Técnico: RETROFIT

1. Problema e Motivação

O campo de segurança de binários (como detecção de malware e análise de código) depende cada vez mais de modelos de aprendizado profundo. No entanto, esses modelos enfrentam dois desafios principais devido à natureza não estacionária dos dados de segurança:

1. Deriva Temporal (Temporal Drift): Malwares evoluem constantemente, com novas famílias e técnicas de ataque surgindo ao longo do tempo.
2. Mudança de Representação (Representation Shift): Binários sofrem transformações como compilação, otimização e, crucialmente, o stripping (remoção de símbolos), o que altera a representação dos dados sem mudar a semântica subjacente.

O Dilema do Aprendizado Contínuo (CL):
Para adaptar-se a essas mudanças, os modelos precisam de aprendizado contínuo. Contudo, em ambientes de segurança, existem restrições severas:

• Restrições de Dados: Devido a privacidade, propriedade intelectual e regulamentações, não é possível armazenar ou reutilizar dados históricos (malwares antigos ou binários proprietários) para replay (repetição de treinamento).
• Esquecimento Catastrófico: Sem dados antigos, os métodos tradicionais de CL (como fine-tuning contínuo) tendem a sobrescrever o conhecimento antigo, levando a uma queda drástica na detecção de ameaças antigas ainda relevantes.
• Falta de Generalização: Os modelos falham em transferir conhecimento de representações simples (binários completos) para representações complexas e escassas (binários stripped).

O objetivo do RETROFIT é permitir o aprendizado contínuo sem acesso a dados históricos, mitigando o esquecimento catastrófico e garantindo a generalização entre diferentes níveis de abstração.

---

2. Metodologia: RETROFIT

O RETROFIT é um método de Aprendizado Contínuo livre de retrospectiva (não usa dados antigos). A sua ideia central é consolidar o conhecimento através da fusão de parâmetros entre o modelo antigo (que atua como "professor" do conhecimento legado) e o modelo recém-atualizado (que aprende o novo conhecimento), utilizando esquecimento controlado.

A metodologia baseia-se em dois mecanismos complementares:

A. Adaptação Estrutural (Baixo Rank e Máscaras Esparsas)

• Decomposição de Baixo Rank (LoRA): Em vez de atualizar todos os parâmetros do modelo, o RETROFIT restringe as atualizações a um subespaço de baixo rank. Para cada tarefa $t$, o modelo aprende apenas matrizes de projeção $A_t$ (fixas e aleatórias) e $B_t$ (treináveis).
• Máscaras Esparsas ($M_t$): Uma máscara esparsa é aprendida sobre a matriz $B_t$ para filtrar quais componentes do subespaço de baixo rank devem ser ativados. Isso garante que as atualizações sejam aproximadamente ortogonais entre tarefas, minimizando a interferência destrutiva no conhecimento antigo.
• Fusão de Parâmetros: O novo conhecimento é consolidado fundindo as atualizações mascaradas ao modelo base, em vez de treinar um novo modelo do zero.

B. Arbitragem Guiada por Confiança
Para decidir como fundir o conhecimento antigo e o novo, o sistema utiliza uma arbitragem baseada na confiança das previsões:

• Professores: O modelo antigo ($f_{old}$) e o modelo adaptado ($f_{new}$) atuam como professores.
• Seleção de Aluno: Para cada amostra, o sistema avalia a confiança do modelo antigo na classe verdadeira.
  • Se o modelo antigo estiver confiante, o conhecimento antigo é priorizado para preservar a estabilidade (evitar esquecimento).
  • Se o modelo antigo estiver inseguro, o modelo novo é priorizado para permitir a adaptação a novos conceitos.
• Modos de Arbitragem:
  • Hard Arbitration: Seleção discreta do professor (usada em detecção de malware com rótulos claros).
  • Soft Arbitration: Combinação ponderada suave dos professores (usada em sumarização de binários onde os rótulos podem ser ruidosos).

Teoria do Esquecimento Controlado:
O artigo fornece limites teóricos que demonstram que a deriva de previsão é limitada pela razão entre o rank e a dimensão do modelo ($r/d_{in}$) e pela sobreposição das máscaras, garantindo que o esquecimento seja "controlado" e não catastrófico.

---

3. Principais Contribuições

1. Formulação de CL para Segurança: O trabalho formaliza o problema de aprendizado contínuo sob restrições de dados sensíveis, identificando a perda de retenção e a falha de generalização como desafios acoplados.
2. Método RETROFIT: Propõe uma abordagem inovadora que substitui o replay de dados pela consolidação de modelos via fusão de parâmetros com restrições de baixo rank e máscaras esparsas, sem necessidade de dados históricos.
3. Validação Empírica Robusta: Demonstra superioridade em dois cenários críticos: detecção de malware (deriva temporal) e análise de binários (mudança de representação).

---

4. Resultados Experimentais

Os autores avaliaram o RETROFIT em duas aplicações principais:

A. Detecção de Malware (Deriva Temporal)

• Dataset: 259K aplicativos Android (2014-2018).
• Desempenho: O RETROFIT superou todas as bases de comparação (incluindo fine-tuning contínuo, distilação e métodos baseados em arquitetura).
  • Retenção: Melhorou a pontuação de retenção de tarefas antigas em 38,6% em comparação com o fine-tuning contínuo (CFT).
  • Adaptabilidade: Mantém alta performance em novas ameaças, superando até mesmo o limite superior "Oracle" (treinamento conjunto com todos os dados) em alguns cenários.
  • Comparação: Superou métodos como LwF, PODNet e ResAdapt, equilibrando melhor a estabilidade e a plasticidade.

B. Sumarização de Binários (Mudança de Representação)

• Dataset: 215K pares de função-documentação de binários Linux em diferentes níveis de ofuscação (Full, Anonimizado, Stripped).
• Desempenho:
  • Tarefa Crítica (Binários Stripped): O RETROFIT alcançou mais de 2x a pontuação BLEU em comparação com abordagens de transferência de aprendizado anteriores.
  • Generalização: Obteve uma pontuação média XRep (Cross-Representation) de 25,81, superando todas as bases de comparação.
  • Qualidade: Em casos de análise qualitativa, o RETROFIT foi capaz de recuperar a intenção funcional precisa de binários altamente ofuscados onde outros métodos falhavam ou alucinavam semântica.

Comparação com Agregação:
O RETROFIT também superou métodos de agregação de modelos (como Weight Averaging e Ensemble), que tentam combinar modelos treinados independentemente. Isso confirma que a adaptação contínua controlada é superior à agregação estática em dados de segurança não-IID.

---

5. Significado e Impacto

• Viabilidade em Ambientes Restritos: O RETROFIT resolve o impasse de segurança onde o armazenamento de dados históricos é proibido, oferecendo uma solução prática para sistemas de detecção que precisam evoluir indefinidamente.
• Eficiência Computacional: O método é leve, exigindo apenas o treinamento de matrizes de baixo rank e máscaras, mantendo o tamanho do modelo e o custo de inferência constantes.
• Generalização Robusta: Ao contrário de métodos que apenas evitam o esquecimento, o RETROFIT promove a acumulação de conhecimento que melhora a performance em tarefas futuras e em representações mais complexas (como binários stripped).
• Aplicabilidade: O framework é genérico e pode ser aplicado a outras tarefas de segurança, como detecção de vulnerabilidades e similaridade de binários, além de ser compatível com arquiteturas modernas de LLMs.

Em suma, o RETROFIT estabelece um novo padrão para aprendizado contínuo em segurança cibernética, demonstrando que é possível manter modelos robustos e adaptáveis sem violar as rígidas políticas de privacidade e retenção de dados.