Resumen Técnico: Gobernanza de la Superficie de Explicación en la Detección de Intrusiones en Redes Habilitada por XAI bajo Restricciones de Recursos

1. Planteamiento del Problema

La investigación actual en IA Explicable (XAI) para Sistemas de Detección de Intrusiones en Redes (NIDS) se centra predominantemente en la interpretabilidad semántica: hacer que las decisiones del modelo sean transparentes para los analistas. Sin embargo, esta literatura trata mayoritariamente las explicaciones como artefactos de confianza pasivos añadidos a los resultados de detección, ignorando su realidad operativa como salidas de servicio que consumen recursos. En entornos con restricciones de recursos (por ejemplo, edge, IoT y puertas de enlace empresariales), la generación de explicaciones consume CPU, memoria y recursos de aceleración, introduce retrasos de cola y crea una "deuda de explicación" (un rezago de alertas no explicadas o de baja fidelidad).

Además, la interfaz de explicación presenta una vulnerabilidad de seguridad. Los adversarios pueden manipular el tráfico para activar una "inflación de demanda de explicación", generando un alto volumen de alertas limítrofes que obligan al sistema a consumir un cómputo excesivo, retrasar alertas críticas o agotar los presupuestos de exposición de información. Los marcos existentes carecen de un mecanismo para gobernar cuándo, cómo y con qué fidelidad debe generarse una explicación cuando se enfrenta a una capacidad finita, tráfico errático y presión adversarial. El problema central es la ausencia de una capa de control que equilibre la Calidad de Servicio (QoS) de los paquetes, la interpretabilidad del operador, la deuda de explicación y la exposición de fuga de información.

2. Metodología: XAI-Gate

El artículo introduce XAI-Gate, un marco de gobernanza de servicio en línea y agnóstico al detector que se sitúa entre el detector de intrusiones y el mecanismo de entrega de explicaciones. No requiere el reentrenamiento del IDS subyacente ni del explicador. En su lugar, gestiona la "superficie de explicación" seleccionando dinámicamente entre un conjunto de siete acciones de explicación basadas en el estado del sistema en tiempo real.

2.1 Modelo de Sistema y Estado

El sistema se modela como un problema de control estocástico restringido (Proceso de Decisión de Markov). El estado $S_t$ en el intervalo de tiempo $t$ incluye:

• Presión de la Cola de Paquetes ($Q_t$): Carga actual en la cola de servicio de paquetes.
• Deuda de Explicación ($E_t$): Un rezago ponderado por riesgo de alertas que requieren explicación.
• Presupuesto de Exposición ($L_t$): La fuga de información permitida restante.
• Creencia de Descarga ($b_{rt}$): Tiempo de ida y vuelta (RTT) estimado para la descarga a fog/cloud.
• Estado de Sospecha ($H_t$): Una puntuación que indica una potencial inflación de la demanda de explicación por parte de un adversario.

2.2 Espacio de Acciones

Para cada alerta, XAI-Gate selecciona una acción del conjunto $\mathcal{A} = \{0, C, D, F, O, A, R\}$:

1. Suprimir (0): Sin explicación; evita liberaciones de bajo valor o inseguras.
2. Gruesa (C): Revela solo los grupos de características principales; limita el detalle bajo sospecha media.
3. Retrasar (D): Mantiene la explicación en una cola hasta que los recursos se recuperen.
4. Local Completa (F): Libera la atribución local completa (p. ej., SHAP/LIME) para el máximo detalle.
5. Descargar (O): Envía datos de alerta saneados a un explicador gestionado en la nube/fog.
6. Solo Auditoría (A): Registra metadatos para forense sin liberación inmediata.
7. Redactar (R): Enmascara atributos sensibles bajo alta sospecha o presión de exposición.

2.3 Política de Decisión

La política $\pi$ mapea el estado del sistema y las características de la alerta (puntuación $s$, costo estimado $c$) a una acción. La selección es impulsada por una puntuación de acción $\Psi_t(a; i)$ que equilibra:

• Utilidad: Valor de seguridad y utilidad para el operador de la explicación.
• Costos: Costo de cómputo local, penalización por exposición, incremento de deuda y RTT de descarga.
• Restricciones: Límites estrictos en el presupuesto de exposición acumulado y la capacidad de cómputo local.

La política incluye un "guardián de tope de exposición estricto" que degrada o retrasa las explicaciones si admitir un conjunto completo de alertas de alto riesgo sobrepasaría el presupuesto de exposición restante. El método se implementa mediante un sustituto en línea inspirado en el control de MDP restringido y de penalización de deriva (drift-plus-penalty), asegurando la estabilidad sin requerir una ley de transición conocida.

3. Contribuciones Clave

1. Formulación de la Gestión de la Superficie de Explicación: El artículo redefine la defensa habilitada por XAI como un problema de gestión de servicios donde las explicaciones son salidas de capacidad finita, sensibles al retardo y activables por adversarios. Define el estado gestionado, el espacio de acciones y los modelos de amenazas para la inflación de la demanda de explicación.
2. Política de Control en Línea XAI-Gate: Una política agnóstica al detector que selecciona dinámicamente la fidelidad de la explicación y el modo de entrega basándose en la presión de paquetes, la deuda, la incertidumbre de la descarga y la sospecha. Aplica topes estrictos de exposición sin requerir un nuevo entrenamiento del IDS.
3. Análisis Formal de Frontera de Servicio: Los autores derivan condiciones de dominancia y proposiciones de factibilidad (por ejemplo, cuándo una explicación local completa es dominada por acciones más baratas, o cuándo la descarga es preferible) que hacen que la lógica de control sea inspeccionable en lugar de puramente heurística.
4. XAI-SurfaceBench: Un benchmark de pruebas de estrés riguroso anclado en los conjuntos de datos KDDCup99, UNSW-NB15 y TON IoT. Evalúa el comportamiento del rendimiento a través de nueve regímenes de tráfico/incertidumbre (incluyendo tráfico errático, no markoviano e inflación de demanda adversarial) sin requerir el entrenamiento de un nuevo detector, centrándose en el comportamiento de la frontera de servicio.

4. Resultados Experimentales

La evaluación se realizó utilizando 20 semillas aleatorias en varios regímenes de estrés. Los hallazgos clave incluyen:

• Inflación de Demanda Adversarial: En el régimen adversarial por defecto, XAI-Gate logró una cobertura de explicación de alto riesgo de 0.800 mientras mantenía cero violaciones del presupuesto de exposición. En contraste, las políticas de umbral convencionales lograron una cobertura ligeramente superior (~0.884) pero violaron el presupuesto de exposición en el 28% de los intervalos y consumieron un 39% más de presupuesto de exposición.
• Reducción de Deuda: Comparado con las políticas de umbral, XAI-Gate redujo la deuda media de explicación en un 57.3% (de ~3660 a ~1561).
• Frontera de Servicio: XAI-Gate no maximiza la cobertura universalmente. En su lugar, desplaza la frontera operativa, intercambiando una pequeña cantidad de cobertura inmediata de alto riesgo (aproximadamente 8.4 puntos porcentuales) por una exposición acotada y una deuda significativamente menor.
• Robustez: Bajo una severa inflación de la demanda (multiplicador de ataque 2.0), el sistema entra en un estado de "Denegación de Explicación" (DoE) donde la cobertura cae y ocurren descartes de paquetes, confirmando que la capacidad finita es un límite físico que ninguna política puede eludir. Sin embargo, XAI-Gate mantuvo consistentemente cero violaciones de exposición en los regímenes factibles donde las líneas base fallaron.
• Estudios de Ablación: Eliminar mecanismos específicos (conciencia de deuda, presupuesto de exposición o control de fidelidad) degradó el rendimiento, confirmando que la gestión conjunta de estas variables es esencial para las ganancias observadas.
• Anclajes de Datos Reales: Los resultados se mantuvieron consistentes al ser calibrados con UNSW-NB15 (incluyendo una ejecución de de-duplicación) y los conjuntos de datos TON IoT, reforzando que los hallazgos no son artefactos de distribuciones de puntuación sintéticas.

5. Significado y Reivindicaciones

El artículo posiciona modestamente su contribución no como un nuevo detector, un nuevo explicador o una mejora de precisión universal, sino como una capa de gestión de servicios para la defensa de red habilitada por XAI.

• Cambio Operativo: La principal significancia es el cambio de tratar las explicaciones como artefactos de interpretabilidad estáticos a tratarlas como salidas de servicio dinámicas y con restricciones de recursos que requieren control de admisión y selección de fidelidad.
• Factibilidad Acotada: El trabajo demuestra que es posible gobernar la generación de explicaciones para prevenir la fuga de información y la degradación del servicio sin reentrenar los modelos de IA subyacentes.
• Gestión de Compromisos (Trade-offs): Los hallazgos muestran que, en entornos con restricciones, la estrategia óptima no es "explicar siempre" o "explicar basado en un umbral estático", sino una política consciente del estado que equilibra la QoS de los paquetes, el contexto del operador y la exposición de seguridad.
• Limitaciones: Los autores declaran explícitamente que XAI-Gate no puede mejorar la precisión de detección (ROC) del IDS base. Además, la evaluación depende de colas simuladas y tiempos proxy; la latencia de hardware absoluta y la dinámica de confianza del operador humano requieren validación adicional mediante hardware-in-the-loop y estudios de usuario. El sistema está diseñado para entornos restringidos; en entornos con abundancia de recursos o sin preocupaciones de exposición, políticas más simples pueden ser suficientes.

En resumen, XAI-Gate proporciona un marco reproducible para controlar la "superficie de explicación", asegurando que los beneficios operativos de la XAI en NIDS no ocurran a costa de la estabilidad del sistema, el agotamiento de recursos o la exposición de seguridad.