🤖 AI

Adapter-Based Few-Shot Continual Learning for Malicious Packet Recognition

Este artigo propõe uma estrutura híbrida combinando um backbone de aprendizado autossupervisionado, Adaptação de Baixo Rank (LoRA) e uma cabeça de classificação baseada em protótipos para enfrentar o esquecimento catastrófico e alcançar o estado da arte no aprendizado incremental de classes com poucos exemplos para o reconhecimento de pacotes maliciosos.

Autores originais: Kyle Stein, Guillermo Francia, III Eman El-Sheikh, Andrew Arash Mahyari

Publicado 2026-08-25

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Kyle Stein, Guillermo Francia, III Eman El-Sheikh, Andrew Arash Mahyari

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

No mundo digital, os sistemas de segurança atuam como sentinelas constantes, monitorando o fluxo de dados que se move através de nossas redes para detectar códigos maliciosos. Durante anos, esses sistemas dependeram de treinamento com bibliotecas massivas de ameaças conhecidas, aprendendo a reconhecer padrões específicos de comportamento nocivo. No entanto, o cenário das ameaças cibernéticas não é estático; é um alvo móvel. Novas famílias de malware surgem constantemente, muitas vezes aparecendo em pequenos números antes de se espalharem amplamente. Os modelos de segurança tradicionais lutam contra essa realidade porque são construídos para aprender com vastas quantidades de dados de uma só vez. Quando forçados a aprender uma nova ameaça sem esquecer as antigas, esses sistemas frequentemente sofrem um fenômeno conhecido como esquecimento catastrófico, onde o novo aprendizado sobrescreve o antigo, deixando o sistema cego para perigos anteriores. Além disso, regras estritas de privacidade e segurança frequentemente impedem que as organizações mantenhem cópias do código malicioso que já viram, tornando impossível usar exemplos passados para ajudar a ensinar o sistema sobre novos. Isso cria um quebra-cabeça difícil: como pode um sistema de segurança aprender novas ameaças com apenas um punhado de exemplos, sem perder sua memória do passado e sem jamais armazenar o código perigoso que já processou?

Pesquisadores da Universidade de West Florida e do Instituto de Cognição Humana e Máquina da Flórida enfrentaram esse desafio desenvolvendo um novo método para o reconhecimento de pacotes de rede maliciosos. A abordagem deles foca em um cenário específico chamado aprendizado incremental de poucas classes (few-shot class-incremental learning), onde um sistema deve se adaptar a novas categorias de malware usando apenas alguns exemplos rotulados, enquanto retém sua capacidade de identificar todas as categorias anteriores. Para resolver o problema do esquecimento sem a capacidade de armazenar dados passados, a equipe construiu um framework que se baseia em um processo de aprendizado de duas etapas. Primeiro, eles treinaram um modelo de deep learning do zero usando uma técnica auto-supervisionada. Em vez de alimentar o modelo com exemplos rotulados de tipos específicos de malware, eles permitiram que ele estudasse a estrutura bruta de milhões de pacotes de rede, ensinando-o a entender a linguagem subjacente do tráfego de internet sem precisar saber o que cada pacote de ataque representava. Isso criou uma base robusta, um entendimento de propósito geral de como os dados maliciosos se parecem.

Uma vez estabelecida essa base, os pesquisadores introduziram um método para ensinar novas ameaças ao sistema sem alterar o conhecimento central que ele já havia aprendido. Eles utilizaram uma técnica chamada adaptação de baixo ranking (low-rank adaptation), que permite ao sistema aprender novas informações adicionando pequenas e eficientes camadas de ajuste, em vez de reescrever todo o modelo. Imagine uma biblioteca onde os livros já estão escritos e encadernados; em vez de reescrever os volumes existentes para adicionar novos capítulos, os pesquisadores simplesmente anexam novos cartões de índice leves que guiam o leitor até a nova informação. Em seu sistema, o "cérebro" central do modelo permanece congelado e inalterado, preservando o conhecimento de todas as famílias de malware aprendidas anteriormente. Quando uma nova ameaça aparece, o sistema utiliza esse céreã congelado para extrair características dos poucos exemplos disponíveis da nova ameaça e cria um ponto de referência simples, ou protótipo, para ela. Isso permite que o sistema reconheça a nova ameaça comparando os dados recebidos contra esses pontos de referência, tudo isso mantendo o conhecimento original perfeitamente intacto.

A equipe testou este método em dois conjuntos de dados bem conhecidos de tráfego de rede, contendo milhares de amostras de vários tipos de ataques cibernéticos. Eles configuraram um teste rigoroso onde o sistema primeiro aprendeu um grande conjunto de ataques comuns e, em seguida, teve que aprender novos tipos distintos de ataques em rodadas subsequentes, vendo apenas cinco exemplos de cada novo tipo. Os resultados mostraram que a abordagem deles superou significativamente métodos anteriores projetados para esta tarefa. Na rodada final de testes, seu sistema alcançou uma precisão de mais de 61 por cento em um conjunto de dados e quase 59 por cento no outro, superando os próximos melhores métodos por uma margem de mais de oito pontos percentuais. Talvez mais importante, o sistema demonstrou uma estabilidade notável. Enquanto outros métodos que tentavam aprender novas informações ajustando seus pesos internos frequentemente esqueciam até 22 por cento do que haviam aprendido anteriormente, esta nova abordagem reduziu esse esquecimento para menos de nove por cento. Isso indica que, ao manter o modelo central congelado e realizar apenas pequenos ajustes direcionados, o sistema pode se adaptar a novas ameaças sem apagar sua memória das antigas.

Os pesquisadores também exploraram se manter um pequeno buffer de exemplos passados ajudaria, uma estratégia comum em outros campos. Eles descobriram que, embora armazenar alguns exemplos passados permitisse que o sistema aprendesse novas ameaças um pouco mais rápido, isso vinha com um custo alto: o sistema esquecia significativamente mais de seu conhecimento anterior. Mais criticamente, armazenar mesmo uma pequena quantidade de código malicioso real representa um risco de segurança severo, pois poderia ser acidentalmente executado ou vazado. As descobertas da equipe sugerem que, para a cibersegurança, onde os riscos de retenção de dados são altos, um sistema estático e robustamente pré-treinado é superior a um que depende da reprodução de dados passados. O trabalho deles demonstra que é possível construir sistemas de segurança adaptáveis que respeitem as restrições de privacidade e lidem com a rápida evolução das ameaças, provando que um modelo pode permanecer flexível o suficiente para aprender o novo e, ao mesmo tempo, sólido o suficiente para lembrar o antigo.

Resumo Técnico: Aprendizado Contínuo de Poucos Exemplos Baseado em Adaptadores para o Reconhecimento de Pacotes Maliciosos

Definição do Problema
O artigo aborda o desafio de detectar variantes de malware em evolução em implantações de cibersegurança do mundo real. Classificadores tradicionais de aprendizado profundo lutam quando novas famílias de malware emergem mais rápido do que grandes conjuntos de dados rotulados podem ser curados. Embora o Aprendizado Contínuo (CL) e o Aprendizado de Classe Incremental (CIL) ofereçam estruturas para se adaptar a novas classes ao longo do tempo, eles tipicamente assumem sessões equilibradas com dados abundantes por classe. O cenário específico de Aprendizado de Poucos Exemplos de Classe Incremental (FSCIL - Few-Shot Class-Incremental Learning), onde novas classes de malware devem ser aprendidas a partir de apenas alguns exemplos rotulados, permanece subexplorado no domínio de malware.

Uma restrição crítica neste domínio é o requisito de ser livre de "rehearsal" (revisão/reprodução). Métodos padrão de CL frequentemente dependem de "rehearsal" (armazenar e reproduzir dados passados) para evitar o esquecimento catastrófico. No entanto, na análise de malware, armazenar payloads maliciosos brutos acarreta graves riscos de segurança e privacidade (ex: execução acidental ou vazamento de dados), tornando as abordagens baseadas em rehearsal impraticáveis para implantações seguras. O desafio central é, portanto, projetar um sistema que se adapte a novas e escassas classes de malware sem esquecer as anteriores e sem reter dados históricos.

Metodologia
Os autores propõem uma estrutura híbrida, livre de rehearsal, que combina aprendizado autossupervisionado específico de domínio com ajuste fino eficiente em parâmetros. A abordagem opera em três estágios distintos:

Pré-treinamento Autossupervisionado (SSL): Um codificador transformer é treinado do zero em bytes de pacotes de malware brutos usando um objetivo de Modelagem de Linguagem Mascarada (MLM). Diferente dos modelos de PLN que usam tokens de palavras, este modelo trata cada byte (0–255) como um token discreto, expandindo seu vocabulário para lidar com preenchimento (padding) e mascaramento. Este estágio aprende representações de características de semântica de protocolo robustas e específicas do domínio sem a necessidade de rótulos de classe.
Adaptação da Sessão Base com LoRA: Após o pré-treinamento, o modelo é adaptado a uma sessão base de classes de malware conhecidas usando Low-Rank Adaptation (LoRA). Em vez de um ajuste fino total, que corre o risco de overfitting e esquecimento, os pesos do backbone pré-treinado são congelados. Matrizes de baixo posto treináveis são injetadas nas camadas de atenção (projeções de query, key e value) para aprender características específicas da tarefa de forma eficiente.
Aprendizado Incremental Livre de Rehearsal: Para sessões incrementais subsequentes, onde apenas $K$ amostras por nova classe estão disponíveis, o backbone permanece congelado. O sistema emprega um cabeçalho de classificação baseado em protótipos. Para cada nova classe, um vetor de protótipo é computado através da média dos vetores de características normalizados em L2 das poucas amostras de suporte disponíveis. A inferência é realizada usando um classificador de similaridade de cosseno escalonado contra esses protótipos, eliminando a necessidade de atualizações de gradiente durante a fase incremental.

Para fornecer uma linha de base, os autores também implementaram uma variante baseada em rehearsal que armazena um pequeno buffer de exemplares para comparar as trocas (trade-offs) entre estabilidade e plasticidade.

Principais Contribuições

Estrutura Inovadora: O artigo introduz a primeira estrutura que combina pré-treinamento autossupervisionado do zero com FSCIL baseado em adaptadores especificamente para o reconhecimento de pacotes maliciosos.
Adaptação Livre de Rehearsal: Propõe um método que permite a adaptação eficiente a novas classes de malware emergentes sem reter amostras observadas anteriormente, abordando restrições críticas de segurança e privacidade.
Solução de Estabilidade-Plasticidade: Ao alavancar um espaço de características robusto e pré-treinado e uma classificação baseada em protótipos, o método preserva as fronteiras de decisão para classes antigas enquanto acomoda novas, mitigando efetivamente o esquecimento catastrófico sem reprodução de dados.
Avaliação Granular: O trabalho avalia o sistema sob um protocolo de granularidade fina onde subtipos específicos de ataques são tratados como classes independentes, aumentando a dificuldade ao forçar o modelo a resolver alta similaridade inter-classe.

Resultos Experimentais
O método foi avaliado em dois conjuntos de dados de referência: CIC-IDS2017 e UNSW-NB15. Os experimentos seguiram um protocolo FSCIL de 5 disparos (5-shot) com uma sessão base (S0) e três sessões incrementais (S1–S3).

Desempenho: O método proposto livre de rehearsal superou significativamente as linhas de base existentes (BFS-NID e MalFSCIL). No CIC-IDS2017, alcançou uma precisão de sessão final de 61,05% comparado a 52,30% da melhor linha de base livre de rehearsal. No UNSW-NB15, alcançou 58,59% contra 50,44%.
Esquecimento: O método demonstrou estabilidade superior, reduzindo a taxa média de esquecimento em aproximadamente metade em comparação ao MalFSCIL (8,59% vs. 17,28% no CIC-IDS2017).
Comparação de Rehearsal: Embora a variante baseada em rehearsal (com um buffer de 5 amostras) tenha alcançado uma precisão final comparável, ela exibiu um esquecimento significativamente maior (19,95% vs. 8,59%). Isso confirma que o espaço de características estático e congelado da abordagem livre de rehearsal fornece melhor estabilidade para preservar o conhecimento das classes base, validando a hipótese de que a reprodução de dados é desnecessária e potencialmente prejudicial neste contexto de segurança específico.

Significância e Alegações
O artigo alega que um espaço de características robusto e congelado, inicializado via aprendizado autossupervisionado, é preferível à reprodução de dados para o FSCIL de malware. Os autores argumentam que sua abordagem navega com sucesso pelo dilema estabilidade-plasticidade ao congelar o backbone central para preservar representações, enquanto utiliza adaptadores leves para a sessão base e regras baseadas em protótipos para sessões incrementais.

A significância reside em fornecer uma solução segura e pronta para implantação em sistemas de detecção de intrusão adaptáveis onde a retenção de dados é proibida. O trabalho demonstra que arquiteturas complexas que dependem de autoencoders variacionais ou reprodução de dados não são estritamente necessárias; em vez disso, uma combinação de pré-treinamento específico de domínio e ajuste fino eficiente em parâmetros pode alcançar desempenho de estado da arte em classificação de malware de poucos disparos. Os autores reconhecem limitações, observando o alto custo computacional inicial do pré-treinamento e a suposição de que o backbone pré-treinado permanece suficientemente discriminativo mesmo para novos ataques com mudanças significativas de domínio.

Mais como este