Privacy-Preserving Explainable AIoT Application via SHAP Entropy Regularization

Título: Aplicación de IAoT Explicable y Preservadora de la Privacidad mediante Regularización de Entropía SHAP

1. Problema

La integración generalizada de la Inteligencia Artificial de las Cosas (IAoT) en entornos de hogares inteligentes ha aumentado la demanda de modelos transparentes e interpretables para cumplir con normativas emergentes (como el GDPR y la Ley de IA de la UE) y fomentar la confianza del usuario. Métodos de IA Explicable (XAI) posteriores al entrenamiento, como SHAP (SHapley Additive exPlanations) y LIME, se utilizan ampliamente para explicar el comportamiento de los modelos.

Sin embargo, el artículo identifica un riesgo crítico de privacidad: las explicaciones mismas pueden filtrar información sensible. En aplicaciones de IAoT, como la predicción del consumo energético, las explicaciones detalladas pueden revelar inadvertidamente patrones de comportamiento privados (horarios de sueño, presencia en el hogar, uso de electrodomésticos específicos). Los adversarios pueden utilizar estas explicaciones para realizar ataques de inferencia de membresía (determinar si un hogar específico estuvo en el conjunto de entrenamiento) o inferencia de propiedades (reconstruir hábitos de vida), comprometiendo la privacidad del usuario incluso sin acceso a los datos crudos.

2. Metodología

Los autores proponen un enfoque novedoso basado en la Regularización de Entropía SHAP para mitigar estos riesgos durante el entrenamiento del modelo.

• Modelo Base: Se utiliza un modelo de regresión LSTM (Long Short-Term Memory) diseñado para manejar datos secuenciales de consumo energético de electrodomésticos.
• Regularización de Entropía: El núcleo de la propuesta es modificar la función de pérdida del modelo. Además de minimizar el error de predicción (MSE), se introduce un término de penalización basado en la entropía de Shannon de los valores SHAP.
  • Objetivo: Penalizar las distribuciones de atribución SHAP de baja entropía (donde el modelo depende excesivamente de unas pocas características dominantes).
  • Mecanismo: Se fomenta una distribución más uniforme de la importancia de las características. La función de pérdida total se define como:
    $$L_{total} = L_{mse} + \lambda \cdot (\alpha - H_{SHAP}(x))^2$$
    Donde $H_{SHAP}$ es la entropía de SHAP, $\alpha$ es un umbral objetivo de entropía y $\lambda$ es el peso de regularización.
• Ataques de Evaluación: Para validar la eficacia, los autores diseñaron un conjunto de ataques basados en SHAP que un adversario podría utilizar para extraer información:
  1. Ataque de Entropía SHAP: Identifica muestras memorizadas por su baja entropía.
  2. Ataque de Similitud SHAP: Usa similitud coseno para inferir membresía.
  3. Ataque de Divergencia SHAP: Utiliza la Divergencia Jensen-Shannon para medir similitud estadística con datos de entrenamiento.
  4. Ataque de Correlación de Rango SHAP: Analiza la correlación de Spearman en el orden de importancia de las características.
  5. Ataque de Consistencia de Rango SHAP: Mide la consistencia ordinal usando Tau de Kendall.

3. Contribuciones Clave

• Nueva Metodología de Privacidad: Propone el primer enfoque que utiliza la regularización basada en explicaciones (entropía SHAP) para mitigar ataques de inferencia de membresía dirigidos a valores SHAP en aplicaciones de IAoT.
• Modelo Híbrido: Desarrolla un modelo LSTM regularizado que captura dependencias temporales en el consumo de energía mientras incorpora privacidad en la explicabilidad.
• Marco de Evaluación Exhaustivo: Diseña una suite de cinco ataques basados en SHAP para evaluar la fuga de privacidad desde múltiples ángulos (estabilidad de atribución, divergencia distribucional y consistencia de rangos).
• Validación Empírica: Demuestra que es posible mejorar la privacidad sin sacrificar significativamente la precisión predictiva ni la fidelidad de la explicación.

4. Resultados

Los experimentos se realizaron utilizando el conjunto de datos REFIT (mediciones de carga eléctrica de hogares en el Reino Unido), comparando tres modelos:

1. LSTM Baseline: Sin mecanismos de defensa.
2. DP-LSTM: LSTM con Privacidad Diferencial (DP).
3. SHAP-Regularized LSTM: El modelo propuesto.

Hallazgos principales:

• Protección de Privacidad: El modelo con regularización SHAP superó consistentemente a los modelos Baseline y DP-LSTM en la mayoría de las métricas de ataque de privacidad.
  • Mostró una entropía SHAP más alta (distribuciones más uniformes).
  • Presentó menor similitud, divergencia y correlación de rangos con los datos de entrenamiento, lo que dificulta que un adversario infiera si un hogar específico fue parte del entrenamiento.
• Utilidad (Precisión): El modelo propuesto mantuvo una precisión predictiva alta (medida por Error Absoluto Medio - MAE), comparable o ligeramente superior a la del DP-LSTM y muy cercana al Baseline, demostrando que la regularización no degrada significativamente el rendimiento del modelo.
• Comparación con Privacidad Diferencial (DP): Mientras que la DP introduce ruido que puede suavizar excesivamente las explicaciones (haciéndolas menos útiles o con valores cercanos a cero), la regularización de entropía SHAP logra oscurecer los patrones de atribución específicos manteniendo la utilidad de la explicación.

5. Significado

Este trabajo es fundamental para el desarrollo de IA confiable y segura en el contexto del IoT.

• Cierre de Brecha: Aborda una brecha crítica en la literatura existente: la mayoría de las técnicas de privacidad (como DP o Federated Learning) protegen los datos crudos o los parámetros del modelo, pero ignoran los riesgos de privacidad inherentes a las explicaciones generadas.
• Cumplimiento Normativo: Ofrece una solución práctica para cumplir con regulaciones de protección de datos que exigen tanto transparencia (explicabilidad) como privacidad, evitando que la búsqueda de transparencia comprometa la seguridad del usuario.
• Futuro de la IAoT: Establece un nuevo estándar para el diseño de sistemas de IA en hogares inteligentes, donde la privacidad de los patrones de comportamiento debe ser una consideración de diseño desde el entrenamiento, no solo una característica añadida.

En resumen, la regularización de entropía SHAP permite crear modelos que son a la vez explicables y privados, reduciendo la capacidad de los adversarios para reconstruir perfiles de comportamiento sensibles a partir de las explicaciones del modelo.