💻 computer science

Beyond Deepfake vs Real: Facial Deepfake Detection in the Open-Set Paradigm

Este artículo propone un nuevo algoritmo de clasificación de deepfakes basado en aprendizaje contrastivo supervisado que opera bajo un paradigma de conjunto abierto, permitiendo detectar no solo manipulaciones conocidas sino también identificar técnicas de falsificación nunca antes vistas como "desconocidas", superando así las limitaciones de los métodos tradicionales de conjunto cerrado.

Autores originales: Nadarasar Bahavan, Sachith Seneviratne, Sanjay Saha, Ken Chen, Sanka Rasnayaka, Saman Halgamuge

Publicado 2026-03-30

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Nadarasar Bahavan, Sachith Seneviratne, Sanjay Saha, Ken Chen, Sanka Rasnayaka, Saman Halgamuge

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

¡Claro que sí! Imagina que este artículo es como una historia sobre un guardián de seguridad muy inteligente que trabaja en la puerta de un club exclusivo (la realidad).

Aquí tienes la explicación de la investigación, traducida a un lenguaje sencillo y con analogías creativas:

🕵️‍♂️ El Problema: El Guardián Tradicional vs. Los Falsificadores

Imagina que tienes un guardia de seguridad (el detector de deepfakes) que ha sido entrenado para reconocer a dos tipos de personas:

Los Clientes Reales: Personas auténticas.
Los Falsos Conocidos: Personas que usan máscaras de un tipo específico (por ejemplo, máscaras hechas con "plástico rojo").

El problema: Hasta ahora, los guardias funcionaban bajo una regla estricta: "Si no eres un cliente real o no llevas una máscara de plástico rojo, ¡eres un cliente real!".

Pero los falsificadores (los creadores de deepfakes) son muy astutos. Ahora están creando máscaras de plástico azul, plástico verde o incluso máscaras hechas de agua. Cuando el guardia ve a alguien con una máscara de plástico azul, como no ha sido entrenado para verla, piensa: "Esa máscara no es roja, así que debe ser una persona real". ¡Error! La persona es falsa, pero el guardia la deja pasar.

💡 La Solución: El Nuevo Sistema "Abierto"

Los autores de este paper proponen un cambio radical. En lugar de entrenar al guardia solo para ver máscaras rojas, le enseñan a reconocer lo que NO sabe.

Imagina que el nuevo guardia tiene una regla diferente:

Si veo a un cliente real → Pasa.
Si veo una máscara roja (la que conozco) → Detén, es falsa.
Si veo una máscara azul, verde o de agua (algo que nunca he visto) → Detén, es "Desconocida".

En lugar de asumir que lo desconocido es real, el sistema lo marca como "sospechoso" o "desconocido". Esto es lo que llaman el Paradigma de Conjunto Abierto (Open-Set). Es como decir: "No sé quién eres, pero sé que no eres uno de los que conozco, así que no entras hasta que verifiquemos".

🛠️ ¿Cómo lo hacen? (La Magia de la "Agrupación")

Para lograr esto, usan una técnica llamada Aprendizaje Contrastivo Supervisado. Vamos a usar una analogía de una fiesta en una habitación gigante:

El Espacio de la Fiesta (Espacio Latente): Imagina que cada foto es una persona en una habitación.
El Problema: Las fotos reales (la gente auténtica) suelen estar muy dispersas por toda la habitación, como si cada uno estuviera en una esquina diferente. Las fotos falsas (deepfakes) tienden a agruparse en pequeños grupos según cómo fueron hechas.
La Innovación: El nuevo algoritmo actúa como un organizador de fiestas muy estricto con las personas reales. Les dice: "¡Oigan, gente real! ¡Acerquense! ¡Formen un círculo muy apretado y compacto!".
- Al hacer que las fotos reales se agrupen muy juntas, dejan mucho espacio vacío alrededor de ellas.
- Si alguien (una foto falsa nueva o desconocida) entra a la habitación, no encaja en ese círculo apretado de gente real, ni en los grupos pequeños de falsos conocidos.
- ¡Boom! El sistema ve que esa persona está "flotando" en el espacio vacío y dice: "¡Esa persona no pertenece a ningún grupo conocido! ¡Es un intruso desconocido!".

🏆 Los Resultados: ¿Funciona?

Los autores probaron su sistema con un banco de datos famoso llamado FaceForensics++.

Caza de lo Desconocido: Cuando les mostraron tipos de deepfakes que el sistema nunca había visto antes (como máscaras de plástico azul), el sistema tradicional (Xception) fallaba mucho, creyendo que eran reales. El nuevo sistema, en cambio, los detectó como "sospechosos" con mucha más precisión.
Caza de lo Conocido: Cuando les mostraron los tipos de deepfakes que sí conocía, funcionó tan bien como los mejores sistemas actuales, sin perder velocidad ni precisión.
Prueba de Fuego: Incluso cuando probaron el sistema con fotos de otra base de datos diferente (cambiando la iluminación, la calidad, etc.), siguió funcionando mejor que muchos otros métodos, aunque todavía tiene margen de mejora si la diferencia entre las fotos es demasiado grande.

🚀 En Resumen

Este paper es como un manual para construir un detector de mentiras que no se deja engañar por la novedad.

Antes: Si no conocías la mentira, la creías.
Ahora: Si no reconoces la mentira, la detienes como "desconocida" y la investigas.

Es un paso gigante hacia un futuro donde, aunque los falsificadores inventen nuevas formas de engañarnos, nuestro sistema de defensa no se quedará ciego, sino que levantará la mano y dirá: "Algo raro pasa aquí, necesito ayuda".

Resumen Técnico: Detección de Deepfakes Faciales en el Paradigma de Conjunto Abierto

1. El Problema: Limitaciones del Paradigma de Conjunto Cerrado

Los métodos actuales de detección de deepfakes (falsificaciones faciales) operan predominantemente bajo un paradigma de conjunto cerrado (closed-set). Esto asume que todas las técnicas de falsificación presentes en el conjunto de pruebas ya han sido vistas y etiquetadas durante el entrenamiento.

La Limitación: En escenarios del mundo real, los atacantes desarrollan constantemente nuevas técnicas de generación de deepfakes (mediante GANs, modelos de difusión, etc.) que no existen en los datos de entrenamiento.
La Consecuencia: Los modelos convencionales tienden a clasificar incorrectamente estas nuevas técnicas desconocidas como "reales" (falsos negativos), ya que no encajan en las categorías de "falsas" conocidas. Esto compromete la seguridad y la fiabilidad de los sistemas forenses.
La Necesidad: Se requiere un enfoque de conjunto abierto (open-set) capaz no solo de identificar deepfakes conocidos, sino también de detectar y etiquetar como "desconocidos" aquellos generados por técnicas nunca antes vistas, evitando su clasificación errónea como auténticos.

2. Metodología Propuesta

Los autores proponen un algoritmo de clasificación de deepfakes en conjunto abierto basado en Aprendizaje Contrastivo Supervisado (SupCon) modificado. El enfoque se estructura en tres etapas:

Etapa 1: Aprendizaje de Representación (Contrastivo Supervisado Ponderado)
- Se utiliza una red codificadora (Encoder) para mapear las imágenes a un espacio latente.
- Innovación Clave: Se modifica la función de pérdida contrastiva supervisada estándar. Dado que los datos reales tienden a tener representaciones dispersas en el espacio de características, se introduce un factor de escala de similitud par a par ( $s(i, j)$ ) que prioriza la clase "Real".
- Esto fuerza a que las muestras reales se agrupen más estrechamente (clustering más compacto) en el espacio latente, mientras que las falsificaciones (conocidas y desconocidas) se separan. El objetivo es crear un espacio donde la "realidad" sea un grupo cohesivo y las manipulaciones sean anomalías.
Etapa 2: Ajuste Fino Supervisado
- Se utiliza un codificador con Promedio Móvil Estocástico (SWA) para mejorar la generalización.
- Se entrena un clasificador sobre las representaciones aprendidas utilizando pérdida de entropía cruzada para distinguir entre las clases conocidas (Real, DeepFake A, DeepFake B, etc.).
Etapa 3: Algoritmo de Detección de Conjunto Abierto
- Se establecen umbrales de rechazo para cada clase conocida basándose en las puntuaciones de confianza (probabilidades softmax) de los datos de entrenamiento.
- Durante la inferencia, si una muestra de prueba no supera el umbral de confianza para ninguna de las clases conocidas, se clasifica automáticamente como "Desconocida" en lugar de forzar una clasificación en una clase conocida.

3. Contribuciones Clave

Algoritmo de Aprendizaje de Representación: Propuesta de una variante de SupCon diseñada específicamente para problemas de deepfakes, que enfatiza la compactación de la clase real para mejorar la detección de anomalías.
Rendimiento Superior en Desconocidos: El método demuestra una capacidad significativamente superior a los modelos base (como Xception) para detectar técnicas de falsificación nunca antes vistas, sin necesidad de datos de entrenamiento de esas nuevas técnicas.
Competitividad en Conocidos: Logra resultados competitivos con el estado del arte (SOTA) en la clasificación de deepfakes conocidos, a pesar de operar bajo un paradigma más complejo (conjunto abierto).
Primera Investigación en este Contexto: Es, según los autores, el primer trabajo que aborda formalmente el problema de la clasificación en conjunto abierto específicamente para la detección de deepfakes faciales.

4. Resultados Experimentales

Las evaluaciones se realizaron utilizando el dataset FaceForensics++ (FF++c23) y CelebDF, bajo protocolos de manipulación cruzada y entre conjuntos de datos.

Detección de Deepfakes Desconocidos:
- El modelo propuesto superó consistentemente a la línea base Xception en la detección de clases desconocidas.
- Ejemplo: Al probar con DeepFakes (DF) como clase desconocida, el modelo propuesto alcanzó un AUROC de 0.7189 frente a 0.5184 de Xception.
- En la detección de NeuralTextures (NT) desconocido, alcanzó un 0.8233 vs 0.5985.
Detección de Deepfakes Conocidos:
- El modelo mostró un rendimiento competitivo con detectores de conjunto cerrado (como Face X-ray o S-MIL-T), logrando AUROCs superiores al 97% en la mayoría de las técnicas conocidas (DF, F2F, FS), demostrando que el aprendizaje de características es generalizable.
Detección de Conjunto Abierto (TOSC):
- Utilizando la métrica TOSC (True Open-Set Classification), que evalúa la capacidad de distinguir entre reales, falsos conocidos y falsos desconocidos, el modelo propuesto alcanzó resultados de Estado del Arte (SOTA).
- Obtuvo un 83.95% de precisión en la detección de DF desconocido y superó a métodos anteriores como CLRNet y TAR en todas las categorías de prueba.
Evaluación entre Conjuntos de Datos (Cross-Dataset):
- Al entrenar en FF++ y probar en CelebDF, el modelo mantuvo un rendimiento competitivo (AUROC 0.695), superando a varios detectores existentes, aunque se notó cierta sensibilidad a los cambios de dominio en los datos reales.

5. Significado e Impacto

Este trabajo representa un cambio de paradigma fundamental en la ciberseguridad y la forense digital:

Robustez ante Amenazas Emergentes: Permite que los sistemas de defensa no fallen catastróficamente cuando aparecen nuevas técnicas de generación de deepfakes. En lugar de ser engañados, el sistema puede alertar sobre la presencia de una manipulación "desconocida".
Herramienta Forense Práctica: Facilita a los expertos forenses identificar rápidamente nuevas variantes de ataques, permitiendo el uso de aprendizaje continuo o few-shot para adaptar rápidamente los modelos con pocos datos.
Validación de la Hipótesis de Familiaridad: Confirma que es más efectivo aprender a reconocer la falta de características esperadas (anomalías) que intentar aprender todas las características de las falsificaciones posibles.

En conclusión, la propuesta demuestra que el aprendizaje contrastivo supervisado, ajustado para compactar la clase real, es una estrategia superior para construir detectores de deepfakes resilientes y capaces de operar en entornos dinámicos donde las amenazas evolucionan constantemente.