Deepfakes: we need to re-think the concept of "real" images
Este documento de posición sostiene que el enfoque actual en la detección de imágenes «falsas» es fundamentalmente defectuoso porque se basa en definiciones y conjuntos de datos obsoletos de imágenes «reales», instando a la comunidad investigadora a reevaluar el concepto de autenticidad dado que la fotografía moderna con teléfonos inteligentes utiliza en sí misma algoritmos basados en redes neuronales similares a los empleados en modelos generativos.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina que eres un detective tratando de atrapar a un falsificador. Tu trabajo es observar un cuadro y decidir: "¿Es esta una obra maestra real o es una falsificación?"
Durante años, la comunidad del aprendizaje automático ha estado construyendo escáneres de alta tecnología para resolver este problema de los "deepfakes". Han entrenado a sus detectives de IA con una vasta biblioteca de cuadros "reales" (fotografías) para aprender cómo se ve la autenticidad.
El Problema: Los autores de este artículo sostienen que los detectives están utilizando una biblioteca obsoleta. Están intentando detectar falsificaciones modernas utilizando una definición de "real" que dejó de funcionar hace unos diez años.
Aquí está el desglose de su argumento, utilizando analogías simples:
1. El problema de la "biblioteca antigua"
Los detectives de IA se entrenan actualmente con conjuntos de datos (bibliotecas de fotos) que tienen principalmente entre 10 y 15 años.
- La analogía: Imagina intentar enseñar a un estudiante a reconocer coches modernos mostrándole fotos de los Ford Modelo T. El estudiante aprende cómo se ve un "coche" basándose en ruedas de madera y techos abiertos. Cuando le muestras un Tesla moderno, podría confundirse porque no se parece a los coches "reales" de su libro.
- La realidad: El artículo demuestra que casi todos los conjuntos de datos de imágenes "reales" actuales son antiguos, de baja resolución y están fuertemente comprimidos (como los JPEG). No representan las fotos que tomamos hoy en día.
2. El cambio hacia la "cámara inteligente"
Hoy en día, más del 90% de las fotos se toman con teléfonos inteligentes. Pero aquí está el giro: los teléfonos inteligentes no solo "toman" fotos; las "computan".
- La analogía: En los viejos tiempos, una cámara era como una ventana. Mirabas a través de ella y la luz golpeaba la película. La imagen era una grabación directa de la realidad.
- La nueva realidad: Un teléfono inteligente moderno es más como una licuadora de cocina. Pones ingredientes crudos (luz de múltiples sensores, múltiples cámaras, múltiples fotogramas capturados en una fracción de segundo) y el ordenador interno del teléfono (utilizando redes neuronales complejas) los mezcla para crear un batido perfecto (la foto final).
- El conflicto: Los detectores de IA fueron entrenados para identificar imágenes "falsas" creadas por generadores de IA. Pero ahora, las imágenes "reales" que salen de nuestros teléfonos también están siendo creadas por algoritmos de IA (redes neuronales) dentro del teléfono. La línea entre "real" y "falso" se está difuminando porque las fotos "reales" ya están siendo cocinadas digitalmente.
3. La prueba fallida
Los autores realizaron un experimento sencillo para demostrar su punto.
- La prueba: Tomaron sus mejores modelos de IA para "detectar falsificaciones" y les mostraron dos cosas:
- Fotos antiguas y de baja calidad de internet (que la IA conocía bien).
- Fotos nuevas y crudas tomadas con los últimos iPhones en la vida real.
- El resultado: La IA funcionó muy bien con las fotos antiguas. Pero cuando se le mostraron las fotos nuevas del iPhone, la IA se confundió y comenzó a fallar. No podía distinguir entre una foto "real" de iPhone y una imagen "falsa" generada por IA, porque la foto del iPhone había sido procesada por la propia IA del teléfono.
- La metáfora: Es como un guardia de seguridad entrenado para detectar a personas que llevan gorras rojas. Atrapa a todos los que llevan gorras rojas. Pero entonces, la fuerza policial empieza a llevar gorras rojas también. Ahora, el guardia no puede distinguir a los criminales de la policía.
4. La trampa filosófica
El artículo argumenta que estamos atrapados en un bucle.
- Si definimos "Real" como "no tocado por la IA", entonces casi ninguna foto es real hoy en día, porque nuestros teléfonos utilizan IA para corregir la iluminación, eliminar el ruido y afilar la imagen.
- Si definimos "Real" como "tomado por un humano", entonces la definición no nos ayuda, porque la IA del teléfono hizo el trabajo pesado.
La conclusión de los autores
El artículo no ofrece un nuevo algoritmo para arreglar los detectores. En cambio, lanza una alarma: Necesitamos detenernos y repensar todo el juego.
- Nuevos datos: Necesitamos nuevos conjuntos de datos que incluyan fotos modernas computadas por teléfonos inteligentes, no solo las antiguas y de baja resolución.
- Nuevas definiciones: Necesitamos ponernos de acuerdo sobre qué significa "Real". ¿Es una foto real si el teléfono la aclaró? ¿Es falsa si una IA eliminó una imperfección? Ya no podemos buscar solo "huellas dactilares digitales" porque las fotos "reales" también las tienen.
- Quizás los detectores no funcionen: Los autores sugieren que quizás intentar detectar falsificaciones observando los píxeles de la imagen sea un callejón sin salida. En su lugar, podríamos necesitar confiar en otros métodos, como marcas de agua digitales o firmas de blockchain, para probar el origen de una imagen, en lugar de intentar adivinar si parece "real".
En resumen: Las herramientas que construimos para atrapar mentirosos están fallando porque los que dicen la verdad (nuestros teléfonos) han empezado a usar los mismos trucos que los mentirosos. Necesitamos reescribir el reglamento antes de poder atrapar a la próxima generación de falsificaciones.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.