🤖 AI

Adapter-Based Few-Shot Continual Learning for Malicious Packet Recognition

Este artículo propone un marco híbrido que combina una red base de aprendizaje autosupervisado, Adaptación de Bajo Rango (LoRA) y un cabezal de clasificación basado en prototipos para abordar el olvido catastrófico y lograr un rendimiento de vanguardia en el aprendizaje incremental de clases con pocos ejemplos para el reconocimiento de paquetes maliciosos.

Autores originales: Kyle Stein, Guillermo Francia, III Eman El-Sheikh, Andrew Arash Mahyari

Publicado 2026-08-25

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Kyle Stein, Guillermo Francia, III Eman El-Sheikh, Andrew Arash Mahyari

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el mundo digital, los sistemas de seguridad actúan como centinelas constantes, escaneando el flujo de datos que se mueve a través de nuestras redes para detectar código malicioso. Durante años, estos sistemas dependieron del entrenamiento con bibliotecas masivas de amenazas conocidas, aprendiendo a reconocer patrones específicos de comportamiento erróneo. Sin embargo, el panorama de las ciberamenazas no es estático; es un objetivo móvil. Surgen constantemente nuevas familias de malware, que a menudo aparecen en números pequeños antes de propagarse ampliamente. Los modelos de seguridad tradicionales luchan contra esta realidad porque están construidos para aprender de grandes cantidades de datos de una sola vez. Cuando se ven obligados a aprender una nueva amenaza sin olvidar las anteriores, estos sistemas suelen sufrir un fenómeno conocido como olvido catastrófico, donde el nuevo aprendizaje sobrescribe el antiguo, dejando al sistema ciego ante peligros previos. Además, las estrictas normas de privacidad y seguridad a menudo impiden que las organizaciones conserven copias del código malicioso que ya han visto, lo que hace imposible utilizar ejemplos pasados para ayudar a enseñar al sistema sobre los nuevos. Esto crea un rompecabezas difícil: ¿cómo puede un sistema de seguridad aprender nuevas amenazas con solo un puñado de ejemplos, sin perder su memoria del pasado y sin almacenar nunca el código peligroso que ya ha procesado?

Investigadores de la Universidad de West Florida y del Instituto de Florida para la Cognición Humana y la Máquina han abordado este desafío desarrollando un nuevo método para reconocer paquetes de red maliciosos. Su enfoque se centra en un escenario específico llamado aprendizaje incremental de pocas clases (few-shot class-incremental learning), donde un sistema debe adaptarse a nuevas categorías de malware utilizando solo unos pocos ejemplos etiquetados, mientras mantiene su capacidad de identificar todas las categorías previas. Para resolver el problema del olvido sin la capacidad de almacenar datos pasados, el equipo construyó un marco que se basa en un proceso de aprendizaje de dos pasos. Primero, entrenaron un modelo de aprendizaje profundo desde cero utilizando una técnica de autoaprendizaje supervisado. En lugar de alimentar al modelo con ejemplos etiquetados de tipos específicos de malware, permitieron que estudiara la estructura bruta de millones de paquetes de red, enseñándole a comprender el lenguaje subyacente del tráfico de internet sin necesidad de saber qué ataque representaba cada paquete. Esto creó una base sólida, una comprensión de propósito general de cómo luce la información maliciosa.

Una vez establecida esta base, los investigadores introdujeron un método para enseñar al sistema nuevas amenazas sin alterar el conocimiento central que ya había aprendido. Utilizaron una técnica llamada adaptación de bajo rango (low-rank adaptation), que permite al sistema aprender nueva información mediante la adición de capas de ajuste pequeñas y eficientes en lugar de reescribir todo el modelo. Imagine una biblioteca donde los libros ya están escritos y encuadernados; en lugar de reescribir los volúmenes existentes para añadir nuevos capítulos, los investigadores simplemente adjuntan nuevas fichas de índice ligeras que guían al lector hacia la nueva información. En su sistema, el "cerebro" central del modelo permanece congelado e inalterado, preservando el conocimiento de todas las familias de malware aprendidas anteriormente. Cuando aparece una nueva amenaza, el sistema utiliza este cerebro congelado para extraer características de los pocos ejemplos disponibles de la nueva amenaza y crea un punto de referencia simple, o prototipo, para ella. Esto permite al sistema reconocer la nueva amenaza comparando los datos entrantes con estos puntos de referencia, todo ello manteniendo el conocimiento original perfectamente intacto.

El equipo probó este método en dos conjuntos de datos bien conocidos de tráfico de red, que contienen miles de muestras de varios tipos de ciberataques. Establecieron una prueba rigurosa en la que el sistema primero aprendía un gran conjunto de ataques comunes y luego debía aprender nuevos tipos de ataques distintos en rondas subsiguientes, viendo solo cinco ejemplos de cada nuevo tipo. Los resultados mostraron que su enfoque superaba significativamente a los métodos anteriores diseñados para esta tarea. En la ronda final de pruebas, su sistema alcanzó una precisión de más del 61 por ciento en un conjunto de datos y casi el 59 por ciento en el otro, superando a los siguientes mejores métodos por un margen de más de ocho puntos porcentuales. Quizás más importante aún, el sistema demostró una estabilidad notable. Mientras que otros métodos que intentaban aprender nueva información ajustando sus pesos internos a menudo olvidaban hasta un 22 por ciento de lo que habían aprendido previamente, este nuevo enfoque redujo ese olvido a menos del nueve por ciento. Esto indica que, al mantener el modelo central congelado y realizar solo ajustes pequeños y dirigidos, el sistema puede adaptarse a nuevas amenazas sin borrar su memoria de las antiguas.

Los investigadores también exploraron si mantener un pequeño búfer de ejemplos pasados ayudaría, una estrategia común en otros campos. Descubrieron que, si bien almacenar algunos ejemplos pasados permitía al sistema aprender nuevas amenazas un poco más rápido, esto conllevaba un costo elevado: el sistema olvidaba significativamente más de su conocimiento previo. Más críticamente, almacenar incluso una pequeña cantidad de código malicioso real supone un grave riesgo de seguridad, ya que podría ejecutarse o filtrarse accidentalmente. Los hallazgos del equipo sugieren que, para la ciberseguridad, donde las apuestas de la retención de datos son altas, un sistema estático y robustamente preentrenado es superior a uno que depende de la repetición de datos pasados. Su trabajo demuestra que es posible construir sistemas de seguridad adaptables que respeten las restricciones de privacidad y gestionen la rápida evolución de las amenazas, demostrando que un modelo puede ser lo suficientemente flexible para aprender lo nuevo y lo suficientemente sólido para recordar lo viejo.

Resumen Técnico: Aprendizaje Continuo de Pocos Disparos Basado en Adaptadores para el Reconocimiento de Paquetes Maliciosos

Planteamiento del Problema
El artículo aborda el desafío de detectar variantes de malware en evolución en despliegues de ciberseguridad del mundo real. Los clasificadores tradicionales de aprendizaje profundo luchan cuando surgen nuevas familias de malware más rápido de lo que se pueden curar grandes conjuntos de datos etiquetados. Aunque el Aprendizaje Continuo (CL) y el Aprendizaje Incremental de Clases (CIL) ofrecen marcos para adaptarse a nuevas clases con el tiempo, típicamente asumen sesiones equilibradas con abundantes datos por clase. El escenario específico de Aprendizaje de Pocos Disparos de Clase-Incremental (FSCIL), donde las nuevas clases de malware deben aprenderse a partir de solo unos pocos ejemplos etiquetados, permanece poco explorado en el dominio del malware.

Una restricción crítica en este dominio es el requisito de no utilizar el ensayo (rehearsal-free). Los métodos estándar de CL a menudo dependen del "ensayo" (almacenar y reproducir datos pasados) para prevenir el olvido catastrófico. Sin embargo, en el análisis de malware, almacenar cargas útiles (payloads) maliciosas puras plantea graves riesgos de seguridad y privacidad (por ejemplo, ejecución accidental o filtración de datos), lo que hace que los enfoques basados en el ensayo sean impracticables para despliegues seguros. El desafío central es, por tanto, diseñar un sistema que se adapte a nuevas clases de malware escasas sin olvidar las anteriores y sin retener datos históricos.

Metodología
Los autores proponen un marco híbrido, libre de ensayo, que combina el aprendizaje autodirigido (self-supervised learning) específico del dominio con el ajuste fino eficiente en parámetros. El enfoque opera en tres etapas distintas:

Preentrenamiento Autodirigido (SSL): Un codificador de transformador se entrena desde cero sobre bytes de paquetes de malware crudos utilizando un objetivo de Modelado de Lenguaje Enmascarado (MLM). A diferencia de los modelos de PLN que utilizan tokens de palabras, este modelo trata cada byte (0–255) como un token discreto, expandiendo su vocabulario para manejar el relleno (padding) y el enmascaramiento. Esta etapa aprende representaciones de características robustas y específicas del dominio de la semántica de los protocolos sin requerir etiquetas de clase.
Adaptación de la Sesión Base con LoRA: Tras el preentrenamiento, el modelo se adapta a una sesión base de clases de malware conocidas utilizando Adaptación de Bajo Rango (LoRA). En lugar de un ajuste fino completo, que conlleva riesgos de sobreajuste y olvido, los pesos del backbone preentrenado se mantienen congelados. Se inyectan matrices de bajo rango entrenables en las capas de atención (proyecciones de consulta, clave y valor) para aprender características específicas de la tarea de manera eficiente.
Aprendizaje Incremental Libre de Ensayo: Para las sesiones incrementales subsiguientes donde solo hay disponibles $K$ muestras por cada nueva clase, el backbone permanece congelado. El sistema emplea un cabezal de clasificación basado en prototipos. Para cada nueva clase, se computa un vector de prototipo promediando los vectores de características normalizados en L2 de las pocas muestras de soporte disponibles. La inferencia se realiza mediante un clasificador de similitud de coseno escalado contra estos prototipos, eliminando la necesidad de actualizaciones de gradiente durante la fase incremental.

Para proporcionar una línea base, los autores también implementaron una variante basada en el ensayo que almacena un pequeño búfer de ejemplares para comparar las compensaciones entre estabilidad y plasticidad.

Contribuciones Clave

Marco Novedoso: El artículo introduce el primer marco que combina el preentrenamiento autodirigido desde cero con FSCIL basado en adaptadores específicamente para el reconocimiento de paquetes maliciosos.
Adaptación Libre de Ensayo: Propone un método que permite la adaptación eficiente a clases de malware emergentes sin retener muestras observadas previamente, abordando restricciones críticas de seguridad y privacidad.
Solución de Estabilidad-Plasticidad: Al aprovechar un espacio de características robusto y preentrenado junto con una clasificación basada en prototipos, el método preserva los límites de decisión para las clases antiguas mientras acomoda las nuevas, mitigando eficazmente el olvido catastrófico sin la reproducción de datos.
Evaluación de Grano Fino: El trabajo evalúa el sistema bajo un protocolo de grano fino donde subtipos de ataque específicos son tratados como clases independientes, aumentando la dificultad al forzar al modelo a resolver una alta similitud interclase.

Resultados Experimentales
El método fue evaluado en dos conjuntos de datos de referencia: CIC-IDS2017 y UNSW-NB15. Los experimentos siguieron un protocolo FSCIL de 5 disparos con una sesión base (S0) y tres sesiones incrementales (S1–S3).

Desempeño: El método propuesto, libre de ensayo, superó significativamente a las líneas base existentes (BFS-NID y MalFSCIL). En CIC-IDS2017, alcanzó una precisión de sesión final del 61.05% frente al 52.30% de la mejor línea base libre de ensayo. En UNSW-NB15, alcanzó un 58.59% frente al 50.44%.
Olvido: El método demostró una estabilidad superior, reduciendo la tasa de olvido promedio aproximadamente a la mitad en comparación con MalFSCIL (8.59% vs. 17.28% en CIC-IDS2017).
Comparación de Ensayo: Aunque la variante basada en el ensayo (con un búfer de 5 muestras) logró una precisión final comparable, exhibió un olvido significativamente mayor (19.95% vs. 8.59%), lo que confirma que el espacio de características estático y congelado del enfoque libre de ensayo proporciona una mejor estabilidad para preservar el conocimiento de las clases base, validando la hipótesis de que la reproducción de datos es innecesaria y potencialmente perjudicial en este contexto de seguridad específico.

Significancia y Reivindicaciones
El artículo sostiene que un espacio de características robusto y congelado, inicializado mediante aprendizaje autodirigido, es preferible al ensayo de datos para el FSCIL de malware. Los autores argumentan que su enfoque navega con éxito el dilema de estabilidad-plasticidad al congelar el backbone central para preservar las representaciones, mientras utiliza adaptadores ligeros para la sesión base y reglas basadas en prototipos para las sesiones incrementales.

La significancia radica en proporcionar una solución segura y lista para el despliegue para sistemas de detección de intrusiones adaptativos donde la retención de datos está prohibida. El trabajo demuestra que las arquitecturas complejas que dependen de autoencoders variacionales o de la reproducción de datos no son estrictamente necesarias; en su lugar, una combinación de preentrenamiento específico del dominio y ajuste de parámetros eficientes puede lograr un rendimiento de vanguardia en la clasificación continua de malware de pocos disparos. Los autores reconocen limitaciones, señalando el alto costo computacional inicial del preentrenamiento y la suposición de que el backbone preentrenado sigue siendo suficientemente discriminativo incluso para ataques novedosos con cambios significativos en el dominio.

Más como este