Like Article, Like Audience: Enforcing Multimodal Correlations for Disinformation Detection

Imagina que el internet es una plaza de pueblo enorme y bulliciosa donde todo el mundo grita, comparte y discute. En este pueblo digital, la "desinformación" es como un molino de rumores que hace girar historias salvajes y falsas para engañar a la gente o causar problemas. Durante mucho tiempo, los científicos que intentan detener estos rumores se han centrado principalmente en las palabras mismas, analizando las noticias como un detective que examina un único papel en busca de errores ortográficos o frases sospechosas. Pero este artículo sugiere que mirar solo el papel no es suficiente. Propone una nueva idea: para entender una historia, también necesitas entender a la multitud que la ama. El concepto central aquí es el "aprendizaje multimodal", que es solo una forma elegante de decir que debemos mirar diferentes tipos de pistas juntas, como el texto del artículo y el texto de las personas que lo comparten. La gran pregunta que se hacen los investigadores es simple: ¿se ven y suenan las personas que comparten una historia falsa de manera diferente a las que comparten una real? Si podemos enseñar a una computadora a notar esa conexión, tal vez pueda detectar a los mentirosos más rápido.

Los autores de este artículo, trabajando con datos de Twitter, decidieron construir un programa de computadora inteligente que actúa como un detective que no solo lee el titular, sino que también revisa las credenciales de las personas que lo sostienen. Crearon un sistema que aprende mirando dos cosas a la vez: el artículo de noticias en sí mismo y el "contenido generado por el usuario" de las personas que lo compartieron. El contenido generado por el usuario es simplemente lo que la gente normal crea, como la biografía de Twitter de alguien (descripción del perfil) y sus tweets recientes. Los investigadores notaron que las personas suelen tener una personalidad en línea coherente; si escribes sobre música en tu biografía, probablemente compartas artículos de música. Se preguntaron si un artículo de noticias falso atraería a un "tipo" de persona específico, y si esas personas compartirían una vibra similar entre sí.

Para probar esto, construyeron un algoritmo de aprendizaje que utiliza tres reglas específicas, u "objetivos", para entrenar a la computadora. Primero, la computadora tiene que aprender a distinguir entre una historia verdadera y una falsa, tal como lo haría un detective normal. Segundo, esta es la parte ingeniosa, la computadora es forzada a aprender que la "vibra" del artículo debe coincidir con la "vibra" de las personas que lo comparten. Si se comparte un artículo falso, la computadora aprende que el artículo y quienes lo comparten deben parecerse en un espacio matemático oculto. Tercero, la computadora aprende que las personas que comparten el mismo artículo también deben parecerse entre sí. Es como decir: "Si un grupo de extraños corre a compartir esta historia extraña, probablemente tienen algo en común, así que asegurémonos de que la computadora vea esa conexión".

Los investigadores probaron esta idea en tres tipos diferentes de cerebros de computadora (clasificadores neuronales) utilizando datos reales de sitios web de verificación de hechos y noticias sobre el COVID-19. Descubrieron que cuando añadieron estas "pistas sociales" al proceso de entrenamiento, las computadoras mejoraron su capacidad para detectar noticias falsas. Los resultados mostraron que los modelos aprendieron a separar las historias reales de las falsas de manera más clara. De hecho, cuando observaron las matemáticas detrás de escena, vieron que las historias falsas y las historias reales eran empujadas más lejos la una de la otra en la mente de la computadora cuando utilizaba estas pistas de usuario.

Sin embargo, el artículo también tiene algunos giros que lo mantienen con los pies en la tierra. Los investigadores intentaron ver si importaba qué personas elegían. Pensaron que quizás las primeras personas en compartir una historia (los "adoptantes tempranos") serían las mejores pistas, pero sorprendentemente, no hubo una gran diferencia entre elegir a los primeros que compartieron o a los últimos. También intentaron engañar a la computadora intercambiando aleatoriamente los artículos con los grupos de personas equivocados. Incluso cuando alteraron las conexiones, la computadora siguió funcionando mejor que si no tuviera pistas de usuario en absoluto, lo que sugiere que la mera cantidad de datos adicionales ayuda, incluso si los vínculos específicos no son perfectos.

Un hallazgo interesante surgió al observar un ejemplo específico donde la computadora obtuvo la respuesta correcta solo cuando miraba la biografía del usuario, pero se equivocó cuando miraba sus tweets. Los tweets eran ruidosos y hablaban de demasiadas cosas diferentes, mientras que la biografía era enfocada. Esto sugiere que, si bien los datos del usuario son útiles, pueden ser desordenados, y el trabajo futuro podría necesitar filtrar el ruido.

En última instancia, el artículo sugiere que, al enseñar a las computadoras a respetar la relación entre una historia y su audiencia, podemos construir mejores herramientas para combatir la desinformación. Los autores aclaran cuidadosamente que este método solo utiliza la información del usuario mientras la computadora está aprendiendo, no cuando está realizando una predicción. Esto significa que la computadora no necesita saber quién eres para juzgar un artículo de noticias; solo necesita haber aprendido de los patrones de cómo las personas y las historias se conectan. Si bien los resultados son prometedores y el método es nuevo, los autores admiten que, a medida que pasa el tiempo, los perfiles de usuario cambian y los creadores de noticias falsas desaparecen, por lo que los datos podrían quedar obsoletos. Pero por ahora, es un recordatorio lúdico y poderoso de que, en la lucha contra las noticias falsas, a veces la mejor manera de detectar una mentira es mirar quién la cuenta.