AI assistance and error communication in deepfake evidence evaluation: A systematic review of human authenticity judgments

En el mundo moderno, una grabación de video se trata a menudo como un registro inalterable de la verdad. Si una cámara captura a una persona hablando, la suposición es que esa persona estuvo allí, diciendo esas palabras, en ese momento. Esta creencia constituye la columna vertebral de las investigaciones criminales y los juicios legales. Sin embargo, una nueva tecnología llamada generación de deepfakes ha perturbado esta certeza. Estos sistemas pueden crear videos donde el rostro y la voz de una persona son reemplazados o alterados de manera tan convincente que el evento nunca ocurrió en realidad. El problema para los investigadores no es solo detectar estos falsos; es averiguar cómo utilizar herramientas computacionales que afirman detectarlos. Cuando un juez o un oficial de policía se les muestra un video junto con la opinión de una computadora que dice "esto es falso", ¿cómo cambia esa asesoría su forma de pensar? ¿Ayuda la computadora a ver la verdad, o los engaña para que cometan errores que no habrían cometido solos?

Esta pregunta es el foco de una revisión sistemática reciente realizada por el investigador Hardianto Djanggih. El estudio no probó un nuevo programa informático ni realizó un experimento único. En su lugar, recopiló y analizó siete estudios existentes que se centraron específicamente en cómo reaccionan los humanos cuando reciben ayuda de la inteligencia artificial al juzgar si un video o una imagen es real. El investigador quería saber si esta asistencia mejora la precisión del juicio humano, cómo importa la forma en que se presenta el consejo y si estos hallazgos pueden ser confiables en un entorno judicial. La revisión encontró que la respuesta no es un simple "sí" o "no". El valor de la IA depende enteramente de si el consejo es correcto y de cómo se le muestra al humano.

La revisión examinó experimentos donde las personas veían videos o miraban rostros y decidían si eran auténticos o manipulados. En algunos casos, a los participantes se les dio una predicción de un modelo computacional antes de tomar su decisión final. En otros, vieron pistas visuales, como áreas resaltadas donde la computadora pensaba que un falso se escondía, o se les dijo qué tan confiable era la computadora usualmente. Los resultados most mostraron que cuando la computadora daba un consejo correcto, a menudo ayudaba a las personas a obtener la respuesta correcta con más frecuencia. Por ejemplo, en un estudio que involucró clips de video, mostrar la predicción de la computadora elevó la tasa de identificación correcta del 66 por ciento al 73 por ciento. Sin embargo, el estudio también reveló un efecto secundario peligroso: cuando la computadora daba el consejo equivocado, las personas tendían a seguirlo, incluso cuando esto las llevaba a una conclusión errónea. La asistencia no solo los hizo más inteligentes; también los hizo más propensos a cometer errores específicos si la herramienta misma era defectuosa.

Cómo se presentaba la información importaba tanto como la información misma. Un estudio comparó etiquetas de texto simples con pantallas visuales que amplificaban los diminutos y antinaturales artefactos que a menudo deja la creación de deepfakes. Las pantallas visuales hicieron que las personas fueran más confiadas en sus juicios y más propensas a aceptar la evaluación de la computadora. Sin embargo, esta confianza no siempre significaba que estuvieran en lo cierto. En otro experimento, los investigadores dijeron a los participantes que una computadora era muy precisa, pero el desempeño real de la computadora no coincidía con esa afirmación. Los participantes confiaron más en la computadora cuando se les dijo que era mejor, a pesar de que la tecnología subyacente era la misma. Esto sugiere que la forma en que se comunica una tasa de error puede cambiar cuánto depende una persona de la herramienta, independientemente de si la herramienta está cumpliendo realmente con lo prometido.

La revisión también analizó si la fuente del consejo importaba. En un experimento, los participantes recibieron la misma guía exacta, pero a veces se etiquetó como proveniente de una inteligencia artificial y otras veces de un humano. La precisión de las decisiones finales no cambió según quién pensaban los participantes que estaba dando el consejo. Este hallazgo desafía la idea de que las personas confían automáticamente más en las máquinas que en los humanos, o que son naturalmente suspicaces hacia las computadoras. En cambio, la calidad del consejo y la corrección de los datos subyacentes eran los verdaderos motores del éxito o el fracaso. Los investigadores señalaron que en muchos de estos estudios, el consejo dado a los participantes era perfecto o simulado, lo que significa que los experimentos no probaron completamente qué sucede cuando un detector del mundo real comete un error.

Una limitación crítica de esta investigación es que ninguno de los estudios incluidos probó cómo funcionan estas herramientas en un juicio penal real. Los experimentos involucraron a personas comunes tomando decisiones rápidas en un laboratorio o en línea, no a jueces o abogados decidiendo el destino de un acusado. La revisión no encontró evidencia de que el uso de estas herramientas conduzca a veredictos más precisos en casos legales reales. Los estudios tampoco midieron si las personas podían identificar correctamente quién creó un video falso o si la persona en el video realmente cometió un delito. La investigación solo abordó la pregunta más estrecha de si un video parece real o falso. Esta brecha es significativa porque un video puede ser técnicamente auténtico pero aun así ser utilizado para contar una historia engañosa, o un video falso podría ser utilizado para un propósito inofensivo.

El autor concluye que la relación entre los humanos y la IA en este campo es compleja. La asistencia, la confianza y el juicio preciso son tres cosas diferentes. Una persona puede confiar en una herramienta y estar de acuerdo con ella, pero aun así estar equivocada. La revisión sugiere que para que estas herramientas sean útiles como evidencia criminal, la comunicación sobre ellas debe ser muy precisa. Los expertos deben explicar exactamente bajo qué condiciones fue probada la herramienta y qué es lo que no puede hacer. Deben evitar hacer afirmaciones amplias como "esta grabación es falsa" y, en su lugar, ceñirse a declaraciones específicas y comprobables como "este archivo contiene características asociadas con un tipo específico de manipulación". El estudio también destaca la necesidad de transparencia. Si una herramienta resalta un área sospechosa en un video, el video original debe permanecer disponible para que otros puedan verificar si la herramienta de resaltado mismo está funcionando correctamente.

En última instancia, esta revisión sirve como una guía de precaución más que como una celebración de la tecnología. Muestra que, si bien la asistencia de la IA puede mejorar la detección humana de deepfakes, también introduce nuevos riesgos si el consejo es incorrecto o si el humano se vuelve demasiado dependiente de la máquina. Los hallazgos sugieren que, en un entorno legal, el enfoque no debe estar en cuánto aumenta una herramienta la confianza, sino en si ayuda a las personas a distinguir entre un consejo útil y un error engañoso. Hasta que estas herramientas sean probadas en escenarios legales reales con consecuencias reales, su capacidad para asegurar la justicia sigue siendo una pregunta abierta. El camino a seguir requiere pruebas cuidadosas, una comunicación clara de los límites y un humano que permanezca capaz de verificar el trabajo, en lugar de simplemente aceptar la palabra de la computadora.