Resumen Técnico: Adaptación de HyperNet para la Generación de Casos de Prueba Basada en Difusión (HyNeA)

1. Declaración del Problema

El creciente despliegue de sistemas de aprendizaje profundo (DL) requiere una evaluación sistemática de su fiabilidad en escenarios del mundo real. Los ataques adversarios tradicionales basados en gradientes introducen perturbaciones imperceptibles que a menudo no corresponden a fallos realistas, centrándose en la robustez en lugar del comportamiento funcional. Si bien los métodos de generación de pruebas generativos ofrecen una alternativa mediante la síntesis de diversas variaciones de entrada, los enfoques existentes enfrentan limitaciones significativas:

• Alcance Limitado: Muchos están restringidos a conjuntos de datos simples o dominios de entrada restringidos debido a limitaciones arquitectónicas.
• Falta de Controlabilidad: Aunque los modelos de difusión (DM) permiten la síntesis de imágenes de alta fidelidad, su aplicación al testeo a gran escala se ve obstaculizada por altos costos computacionales y una controlabilidad limitada.
• Dependencia de Datos Curados: Los enfoques de difusión controlable actuales (p. ej., ControlNet) dependen de conjuntos de datos de condicionamiento curados a priori que emparejan explícitamente entradas con señales de control. Esto restringe la capacidad de generar casos de prueba para modos de fallo no representados en la distribución de entrenamiento, lo cual es un objetivo primario del testeo de DL.

2. Metodología: HyNeA

Los autores proponen HyNeA (Adaptación de HyperNet), un método de testeo generativo libre de conjuntos de datos que permite un control directo y eficiente sobre la generación basada en difusión sin requerir el ajuste fino (fine-tuning) o conjuntos de datos de condicionamiento curados.

Arquitectura Central

HyNeA se basa en los principios arquitectónicos de ControlNet, pero invierte fundamentalmente el mecanismo de control:

• ControlNet (Estándar): Aprende un mapeo global de entradas de condicionamiento ($c$) hacia salidas guiadas ($X$) utilizando un conjunto de datos curado ($c \to X$).
• HyNeA (Propuesto): Optimiza una HyperNet de forma por cada caso de prueba para producir señales de condicionamiento que induzcan un fallo deseado en el Sistema Bajo Prueba (SUT) ($X \to c$).

Componentes Clave

1. Sistema Bajo Prueba (SUT): El modelo de DL que se está evaluando (p. ej., clasificador, detector de objetos).
2. Manipulador: Un Modelo de Difusión Latente (LDM) preentrenado aumentado con una HyperNet entrenable (una red auxiliar). Los parámetros del LDM base están congelados; solo se actualizan los pesos de la HyperNet.
3. Proyector de Control ($\phi_c$): Una función entrenable que proyecta salidas arbitrarias del SUT (p. ej., logits de clasificación, puntuaciones de detección) en una señal de control espacial compatible con el espacio latente de la imagen. Esto permite que las predicciones no espaciales del SUT guíen el proceso de difusión.
4. Optimizador: Utiliza AdamW con un esquema de tasa de aprendizaje OneCycle para adaptar los pesos de la HyperNet para cada instancia específica de caso de prueba.
5. Objetivos (Función de Pérdida): El objetivo de entrenamiento es impulsado por el comportamiento en lugar de estar basado en la reconstrucción. Combina:
   • Fidelidad Visual: Una pérdida de distancia de Frobenius ($\omega_{dF}$) para asegurar que la imagen generada permanezca estructuralmente similar a la original.
   • Direccionamiento de Comportamiento: Pérdidas específicas de la tarea (Entropía Cruzada para clasificación, Entropía Cruzada Binaria para atributos, Entropía Cruzada de Reducción Media para detección de objetos) que dirigen la salida del SUT hacia un estado de fallo objetivo.

Estrategia de Entrenamiento

A diferencia del entrenamiento estándar de ControlNet, que minimiza el error de reconstrucción sobre un conjunto de datos, HyNeA realiza la retropropagación de la pérdida desde la imagen generada final a través del proceso de difusión hacia los pesos de la HyperNet. Esta adaptación por instancia elimina la necesidad de pares origen-objetivo, permitiendo la generación de casos de prueba que inducen fallos incluso cuando no existen ejemplos explícitos de tales fallos en los datos de entrenamiento.

3. Contribuciones Clave

• Método de Testeo: Introducción de HyNeA, un nuevo enfoque que permite la generación de entradas controlables y libre de conjuntos de datos mediante la adaptación de HyperNet específica por instancia. Evita la necesidad de conjuntos de datos de condicionamiento curados o reentrenamiento a gran escala.
• Evaluación Empírica: Un estudio exhaustivo a través de múltiples tareas de visión (clasificación multiclase, clasificación de atributos binarios y detección de objetos) que demuestra que HyNeA genera casos de prueba realistas y semánticamente coherentes que revelan fallos de modelos más informativos que las líneas base existentes.

4. Resultados Experimentales

Los autores evaluaron HyNeA frente a líneas base de vanguardia: Mimicry (interpolación de latentes basada en StyleGAN) y GIFTbench (perturbación de latentes basada en difusión).

Efectividad (RQ1)

• Inducción de Fallos: HyNeA logró una tasa de clasificación errónea del 100% en todas las tareas (ImageNet, CelebA, Driving), induciendo con éxito fallos en el SUT.
• Controlabilidad: HyNeA demostró un control superior con una Tasa de Escape de 0.00 para ImageNet (lo que significa que se indujeron fallos dirigidos sin afectar características no relacionadas), comparado con 0.52 para Mimicry y 0.84 para GIFTbench.
• Diversidad: HyNeA generó casos de prueba con mayor diversidad de embeddings y menor diferencia de traza (cambio semántico) en comparación con las líneas base.

Eficiencia (RQ2)

• Presupuesto Computacional: HyNeA fue significativamente más eficiente, requiriendo órdenes de magnitud menos evaluaciones del SUT. En ImageNet, HyNeA utilizó ~25 evaluaciones frente a ~2,500 para Mimicry y ~700 para GIFTbench.
• Tiempo de Ejecución: Aunque los tiempos de tiempo de reloj variaron según la tarea, la extrapolación de los presupuestos de evaluación sugiere que un Mimicry aumentado por difusión incurriría en un tiempo de ejecución de 5 a 10 veces mayor que HyNeA.

Validez (RQ3)

• Realismo: Evaluadores humanos calificaron las imágenes generadas por HyNeA como hasta un 90% más realistas que las líneas base.
• Preservación de Etiquetas: HyNeA preservó la etiqueta de clase original en el 78.7% de los casos (comparado con el 28.7% para Mimicry y el 46.3% para GIFTbench), lo que indica que los fallos inducidos fueron errores genuinos del modelo en lugar de cambios semánticos en la entrada.
• Calidad Visual: HyNeA produjo imágenes con entre un 40% y un 100% menos de degradación visual (medido por MS-SSIM y LPIPS) en comparación con los métodos existentes.

Sensibilidad (RQ4)

• El estudio analizó el impacto de las tasas de aprendizaje. Las tasas de aprendizaje pequeñas aumentaron el tiempo de ejecución sin mejorar la calidad, mientras que las tasas más altas redujeron el tiempo de ejecución pero degradaron la fidelidad visual. Se identificó un esquema de compromiso específico para equilibrar el realismo, la preservación estructural y la eficiencia.

5. Significado y Reivindicaciones

El artículo afirma que HyNeA aborda la brecha crítica en el testeo de DL donde los métodos generativos existentes carecen de controlabilidad o requieren cantidades irreales de datos curados. Al invertir el paradigma de ControlNet, HyNeA permite:

1. Testeo Libre de Conjuntos de Datos: La capacidad de generar casos de fallo dirigidos sin necesidad de un conjunto de datos que contenga explícitamente esos fallos.
2. Control de Grano Fino: Manipulación precisa de atributos o comportamientos específicos (p. ej., suprimir una detección de objeto específica) manteniendo la integridad semántica general de la escena.
3. Escalabilidad: Aplicabilidad a dominios complejos y de alta dimensión como la conducción autónoma (detección de objetos) donde los métodos tradicionales basados en prompts o perturbación de latentes luchan por mantener la coherencia.

Los autores concluyen que HyNeA proporciona un marco práctico, eficiente y efectivo para generar casos de prueba realistas que exponen comportamientos no anticipados de los modelos, avanzando así en la evaluación sistemática de la fiabilidad del aprendizaje profundo.