Testing Neural Networks via Bayesian-Guided Exploration of Decision Landscapes

Resumen Técnico: Pruebas de Redes Neuronales mediante la Exploración del Paisaje de Decisión Guiada por Bayes

Planteamiento del Problema
A medida que las Redes Neuronales Profundas (DNN) se despliegan en dominios críticos para la seguridad, las pruebas son esenciales para evaluar su fiabilidad. Sin embargo, los métodos de prueba existentes enfrentan limitaciones significativas. Los enfoques de caja negra dependen de mutaciones aleatorias o basadas en la búsqueda sin guía interna, lo que a menudo requiere un exceso de consultas para encontrar fallos. Los métodos de caja blanca suelen priorizar la maximización de la cobertura de neuronas; sin embargo, una alta cobertura no garantiza el descubrimiento de fallos críticos en la decisión, ya que muchas neuronas activadas pueden ser irrelevantes para la predicción final del modelo. Además, las estrategias existentes a menudo luchan por equilibrar la eficiencia con la diversidad bajo presupuestos de mutación limitados, desperdiciando frecuentemente recursos en regiones irrelevantes para la decisión o convergiendo en modos de fallo similares. El desafío central es explorar sistemáticamente las "regiones críticas para la decisión"—áreas donde pequeñas perturbaciones inducen cambios significativos en los límites de decisión—manteniendo al mismo tiempo la proximidad a la distribución y la semántica de los datos originales.

Metodología: BAYESWARP
Los autores proponen BAYESWARP, un marco de pruebas de caja blanca que aborda estas limitaciones a través de tres componentes complementarios:

1. Localización de Regiones Críticas para la Decisión: En lugar de mutar todo el espacio de entrada, BAYESWARP primero identifica las regiones altamente influyentes en las decisiones del modelo utilizando técnicas de interpretabilidad basadas en la prominencia (p. ej., Grad-CAM, Integrated Gradients, SmoothGrad). Procesa los mapas de prominencia resultantes mediante:

   • Umbralización para retener los píxeles más prominentes.
   • Extracción de componentes conectados de 8 vecindades y descarte de fragmentos pequeños.
   • Fusión de cajas delimitadoras (bounding boxes) basada en la Intersección sobre la Unión (IoU) y la distancia de centroides para reducir la fragmentación.
   • Selección de un subconjunto de cajas fusionadas mediante una estrategia codiciosa (greedy) basada en la masa de prominencia, restringida por un presupuesto de cobertura predefinido ($\rho$). Esto transforma la atribución a nivel de píxel en un espacio de mutación localizado y tratable.

2. Objetivo de Prueba Orientado a la Diversidad: El marco define una función objetivo que equilibra adaptativamente la supresión de la confianza de la clase original y la promoción de la confianza de una clase objetivo seleccionada.

   • Ponderación Adaptativa: Un peso dinámico $\lambda(x)$ desplaza el enfoque del objetivo desde la desestabilización de la decisión original hacia la inducción de la divergencia de la predicción a medida que aumenta la confianza de la clase objetivo.
   • Programación de Clase Objetivo: El sistema selecciona iterativamente las clases objetivo no exploradas con la mayor confianza inicial, asignando un presupuesto de mutación fijo por clase para evitar el enfoque excesivo en una sola dirección de fallo.

3. Mutación Guiada por Bayes: Para buscar eficientemente en el espacio de mutación localizado bajo un presupuesto fijo, BAYESWARP emplea Optimización Bayesiana (BO) con un sustituto de Proceso Gaussiano de Variación Dispersa (SVGP).

   • Las mutaciones se parametrizan en una cuadrícula espacial gruesa que cubre la región crítica, reduciendo la dimensionalidad.
   • El sustituto SVGP modela la función objetivo, proporcionando estimaciones de la media predictiva y la incertidumbre.
   • Una función de adquisición de Límite de Confianza Superior (UCB) guía la selección de los pasos de mutación, equilibrando la explotación de direcciones prometedoras con la exploración de áreas inciertas.
   • El proceso incluye restricciones para asegurar que los casos de prueba generados permanezcan dentro de un rango acotado de la distribución de los datos originales e incorpora la inyección de ruido estocástico para evitar la convergencia prematura.

Contribuciones Clave

• Enfoque: La introducción de BAYESWARP, que integra la localización de regiones críticas para la decisión, objetivos orientados a la diversidad adaptativa y optimización Bayesiana escalable basada en SVGP.
• Herramienta: Una implementación de un marco de pruebas automatizado y de código abierto.
• Evaluación: Evaluación exhaustiva a través de tres conjuntos de datos (MNIST, CIFAR-10, ImageNet) y seis modelos de redes neuronales (LeNet, VGG, ResNet), demostrando mejoras sobre las líneas base del estado del arte (ADAPT, NSGen, SUNTest).

Resultados
Los resultados experimentales indican que, bajo un presupuesto de mutación fijo (10,000 mutaciones por semilla), BAYESWARP supera a los métodos existentes en varias métricas clave:

• Descubrimiento de Fallos: Logra un mayor Número de Fallos (NoF) y una Tasa de Semillas Inductoras de Fallos (FSR) en la mayoría de los modelos y conjuntos de datos.
• Eficiencia: Requiere menos Tiempo por Fallo (TPF) en comparación con las líneas base, lo que indica un uso más efectivo del presupuesto de mutación.
• Diversidad: Descubre un espectro más amplio de modos de fallo (mayor Diversidad de Fallos, DoF), explorando múltiples direcciones de decisión competidoras en lugar de una sola dirección dominante.
• Calidad: Los casos de prueba generados exhiben una menor Distancia de Inception de Fréchet (FID) y un mayor Puntaje de Consistencia Semántica (SCS), confirmando que permanecen distribucional y semánticamente cercanos a los datos originales.
• Cobertura Interna: A pesar de no optimizar explícitamente la cobertura, BAYESWARP logra una mayor Cobertura de Neuronas Top-k (TKNC) y Cobertura de Neuronas Críticas (CNC) que las líneas base, sugiriendo que ejercita eficazmente los estados internos relevantes para la decisión.
• Mejora del Modelo: El ajuste fino de los modelos con los casos de fallo generados por BAYESWARP conduce a mayores mejoras en la precisión en comparación con el ajuste fino con casos de otras técnicas de prueba.

Significancia y Reivindicaciones
El artículo afirma que BAYESWARP demuestra el valor de cambiar los paradigmas de prueba de DNN de una mutación global o impulsada por la cobertura hacia una exploración orientada a la diversidad y crítica para la decisión. Al centrarse en las regiones que realmente influyen en las decisiones del modelo y utilizar una optimización consciente de la incertidumbre para navegar por ellas, el marco descubre diversas debilidades del modelo sin sacrificar la fidelidad de los datos. Los autores postulan que este enfoque revela inestabilidades intrínsecas del modelo que son más informativas para el reentrenamiento y la mejora de la robustez del modelo que los fallos generados por métodos aleatorios o puramente impulsados por la cobertura. El trabajo se distingue de los ataques adversarios al priorizar el descubrimiento de modos de fallo diversos y alineados con la distribución para la prueba y mejora, en lugar de optimizar las perturbaciones mínimas bajo modelos de amenaza.