Interpretable-Aware Privacy Preserving Framework for Deepfake Detection using Federated ResNet and Explainable AI Techniques

Resumen Técnico: Marco de Preservación de la Privacidad con Conciencia de Interpretabilidad para la Detección de Deepfakes mediante ResNet Federada y Técnicas de IA Explicable

Planteamiento del Problema
El rápido avance de la inteligencia artificial generativa ha facilitado la creación de imágenes y vídeos deepfake altamente realistas, lo que plantea amenazas significativas para la seguridad digital, la privacidad personal y la confianza social. Si bien el aprendizaje profundo (DL) ha mejorado las capacidades de detección, los enfoques tradicionales dependen de arquitecturas centralizadas que requieren la agregación de grandes volúmenes de datos de imágenes sensibles en un único servidor. Esta centralización crea vulnerabilidades respecto a la privacidad de los datos, la propiedad y el cumplimiento normativo. Además, los sistemas de detección existentes suelen carecer de transparencia, operando como "cajas negras" que proporcionan resultados de clasificación sin explicar el razonamiento detrás de sus decisiones. El desafío radica en desarrollar un sistema de detección que garantice simultáneamente la privacidad de los datos, gestione distribuciones de datos heterogéneas entre dispositivos y proporcione información interpretable sobre sus predicciones.

Metodología
El marco propuesto aborda estos desafíos integrando Aprendizaje Federado (FL), una Red Neuronal Convolucional (CNN) ligera y técnicas de IA Explicable (XAI).

1. Arquitectura de Aprendizaje Federado: En lugar de centralizar los datos brutos, el sistema emplea un enfoque de entrenamiento distribuido donde los modelos se entrenan localmente en los dispositivos cliente. Solo se transmiten las actualizaciones del modelo (pesos) a un servidor central para su agregación, asegurando que los datos de imagen sensibles nunca abandonen el entorno local.
2. Arquitectura del Modelo (ResNet-18): El modelo de detección central utiliza ResNet-18. Esta arquitectura fue seleccionada por su equilibrio entre eficiencia computacional y capacidad de extracción de características. Las conexiones residuales permiten que el modelo se entrene de manera estable y capture artefactos visuales sutiles (por ejemplo, mezcla antinatural, inconsistencias de textura) necesarios para la detección de deepfakes sin la carga computacional excesiva de redes más profundas.
3. Estrategia de Optimización (FedProx): Para abordar el problema de los datos no idénticamente distribuidos (Non-IID) entre los clientes, que pueden causar divergencia e inestabilidad en el modelo, el marco incorpora el algoritmo FedProx. FedProx modifica la función de pérdida local añadiendo un término proximal que restringe las actualizaciones del modelo local para que permanezcan cerca de los parámetros del modelo global. Esta regularización mejora la estabilidad de la convergencia en entornos heterogéneos.
4. Generación de Decisiones Explicables: Para mejorar la transparencia, el marco incluye un módulo de análisis forense. Durante la inferencia, el sistema genera predicciones acompañadas de explicaciones visuales. Esto implica:
   • Detección de Bordes: Computar magnitudes de gradiente para resaltar inconsistencias estructurales y transiciones bruscas que suelen encontrarse en regiones manipuladas.
   • Análisis de Ruido Residual: Restar una versión suavizada (con desenfoque Gaussiano) de la imagen original para aislar patrones de ruido de alta frecuencia y artefactos sintéticos invisibles al ojo humano.
   • Visualización: Combinar las características de bordes y ruido en un mapa de explicación superpuesto en la imagen original para justificar visualmente la clasificación.

Contribuciones Clave

• Marco de Preservación de la Privacidad: El estudio introduce un sistema unificado que permite la detección colaborativa de deepfakes sin necesidad de compartir datos de imagen brutos, abordando así preocupaciones críticas de privacidad y regulación.
• Entrenamiento Federado Estable: Al integrar FedProx con ResNet-18, el trabajo demuestra un método para mantener la estabilidad del entrenamiento y la convergencia del modelo a pesar de los desafíos de las distribuciones de datos Non-IID comunes en entornos federados del mundo real.
• Interpretabilidad: El marco va más allá de la simple clasificación al incorporar análisis de características forenses (mapas de bordes y residuales), proporcionando evidencia visual de por qué una imagen es clasificada como real o falsa.
• Arquitectura Eficiente: La selección de ResNet-18 asegura que el sistema siga siendo computacionalmente factible para entornos distribuidos mientras captura eficazmente características específicas de los deepfakes.

Resultados Experimentales
El marco fue evaluado utilizando el conjunto de datos FaceForensics++, un estándar de referencia que contiene vídeos reales y manipulados a través de cuatro tipos de manipulación: DeepFakes, Face2Face, FaceSwap y Neural Textures. Los experimentos se realizaron en una NVIDIA GeForce de 4 GB con una tasa de aprendizaje de 0.001 y un tamaño de lote (batch size) de 48.

Los resultados cuantitativos indican un alto rendimiento:

• Exactitud (Accuracy): 97.20%
• Precisión (Precision): 96.30%
• Sensibilidad (Recall): 96.72%
• Puntuación F1 (F1-Score): 96.90%

El análisis de la matriz de confusión reveló que el modelo clasificó correctamente la mayoría de las muestras, con errores concentrados en solo algunas clases específicas. El análisis de precisión (visualizado mediante diagramas de radar) mostró un rendimiento constante a través de los diferentes tipos de manipulación, indicando que el modelo no está sesgado hacia clases específicas. El proceso de entrenamiento requirió aproximadamente 45 minutos, con un tiempo de inferencia promedio de 12 segundos por imagen no vista.

Significancia y Reivindicaciones
Los autores afirman que este estudio demuestra un camino viable hacia la detección de deepfakes segura, que preserva la privacidad y es interpretable. Al unificar el Aprendizaje Federado, las CNN y la explicabilidad, el marco mejora la transparencia y la confianza del usuario, elementos esenciales para el despliegue en el mundo real. El trabajo sostiene que logra equilibrar la necesidad de alta precisión de detección con las restricciones de privacidad de datos y eficiencia computacional, haciéndolo adecuado para entornos donde los datos no pueden compartirse de forma centralizada. La integración de FedProx se destaca como un factor crítico para asegurar la robustez del sistema contra la heterogeneidad de los datos, mientras que el componente de visualización forense aborda la creciente necesidad de transparencia en los sistemas de toma de decisiones automatizados.