Predicting, Evaluating, and Explaining Top Misinformation Spreaders via Archetypal User Behavior
Este artículo propone un marco para predecir, evaluar y explicar a los principales propagadores de desinformación mediante el modelado de tres arquetipos de usuario distintos (amplificadores, superpropagadores y cuentas coordinadas, demostrando que los rasgos de los superpropagadores dominan las clasificaciones principales, mientras que la dinámica temporal y la IA explicable mejoran la precisión predictiva y la interpretabilidad para una moderación de contenido proactiva.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
En las redes sociales, la información viaja a la velocidad de un pensamiento, pero no todos los que la comparten desempeñan el mismo papel. Algunos crean las historias originales, mientras que otros simplemente las transmiten, y unos pocos trabajan juntos para asegurarse de que un mensaje llegue a la mayor cantidad de ojos posible. Cuando la información falsa se propaga, rara vez es culpa de una sola persona; en cambio, es el resultado de una compleja red de comportamientos donde diferentes tipos de usuarios amplifican, coordinan y lanzan narrativas. Comprender quiénes son estas personas y cómo operan es crucial porque las historias falsas pueden distorsionar la opinión pública, erosionar la confianza en la ciencia y causar daños en el mundo real. El desafío para las plataformas es que, para cuando una historia falsa es marcada y eliminada, a menudo ya ha viajado demasiado lejos como para ser detenida. Para detener la propagación antes de que gane impulso, los investigadores necesitan una forma de identificar las cuentas específicas con mayor probabilidad de causar daños, no adivinando sus intenciones, sino observando cómo se comportan realmente.
Un equipo de investigadores se propuso resolver este problema analizando las huellas digitales dejadas por los usuarios que difunden contenido de baja credibilidad. Se centraron en tres patrones distintos de comportamiento, o "arquetipos", que estos usuarios tienden a seguir. El primer grupo, al que llaman amplificadores, rara vez crea sus propias publicaciones. En su lugar, actúan como un megáfono, compartiendo constantemente contenido creado por otros para aumentar su alcance. El segundo grupo, conocido como superdifusores, son los creadores originales de contenido viral. Escriben publicaciones que consistentemente son compartidas miles de veces, actuando como la chispa que inicia un incendio. El tercer grupo consiste en cuentas coordinadas, que son grupos de usuarios trabajando en sincronía para impulsar el mismo mensaje al mismo tiempo, creando la ilusión de un amplio acuerdo público. Los investigadores se dieron cuenta de que estos roles no siempre son separados; un solo usuario puede actuar como un superdifusor para una historia y como un amplificador para otra, o un grupo puede coordinar sus acciones para imitar una sola voz influyente.
Para probar qué tan bien podían predecir quién difundiría desinformación a continuación, los investigadores analizaron dos colecciones masivas de datos de Twitter durante la pandemia. Un conjunto de datos contenía conversaciones de Italia, mientras que el otro era una colección global de publicaciones en muchos idiomas. Primero etiquetaron el contenido basándose en la confiabilidad de los sitios web enlazados en las publicaciones, utilizando un sistema que califica los dominios de noticias de cero a cien. Luego construyeron diferentes modelos matemáticos para clasificar a los usuarios según los tres arquetipos de comportamiento. Algunos modelos contaban cuántas veces un usuario compartía historias falsas, mientras que otros observaban qué tan temprano un usuario compartía una historia después de haber sido publicada, o qué tan estrechamente coincidía la actividad de un usuario con la de otros en un grupo coordinado. También crearon una nueva versión del clásico puntaje de influencia, sensible al tiempo, que tiene en cuenta cómo cambia la actividad de un usuario a lo largo de días y semanas, en lugar de mirar solo un instante en el tiempo.
Los resultados mostraron que la forma más efectiva de encontrar a los mayores alborotadores era buscar a los superdifusores. Cuando los investigadores clasificaron a los usuarios basándose en su capacidad para generar contenido original que otros compartirían, estas cuentas aparecieron consistentemente en la cima de la lista. Estos son los individuos responsables del estallido inicial de viralidad que permite que las narrativas falsas se arraiguen. Sin embargo, a medida que los investigadores miraban más abajo en la lista de usuarios influyentes, el panorama se volvía más complejo. En los rangos medios y bajos, el comportamiento de los amplificadores y los grupos coordinados se volvía mucho más prominente. Esto sugiere que, si bien unos pocos superdifusores inician el fuego, son los amplificadores quienes lo mantienen ardiendo y los grupos coordinados quienes avivan las llamas a través de la red.
Para obtener una imagen más clara de cómo funcionan juntos estos diferentes comportamientos, el equipo entrenó un modelo de aprendizaje automático que combina los tres arquetipos en un solo sistema. Luego utilizaron una técnica que explica cómo el modelo toma sus decisiones, lo que les permitió ver qué comportamientos importaban más. Descubrieron que el modelo dependía fuertemente del número de veces que un usuario compartía contenido de baja credibilidad, un rasgo asociado con los amplificadores. Esto fue sorprendente porque uno podría esperar que los creadores de contenido viral fueran la señal más importante. En cambio, los datos mostraron que el acto de compartir es un indicador poderoso de riesgo. El modelo también confirmó que los superdifusores, identificados por su capacidad de generar un compromiso constante, eran críticos, especialmente entre los usuarios mejor clasificados. A medida que el ranking descendía, la influencia del comportamiento coordinado y la frecuencia de compartir se volvían más fuertes, revelando un ecosistema estratificado donde diferentes tipos de actores desempeñan diferentes roles en el mismo problema.
El estudio también probó qué tan bien funcionan estos métodos cuando hay muy pocos datos disponibles, simulando un escenario en el que una plataforma necesita tomar una decisión rápidamente después de que aparece una nueva historia. Encontraron que el puntaje de influencia sensible al tiempo se mantuvo estable y preciso incluso con información limitada, superando a los métodos más antiguos que no tenían en cuenta el tiempo de la actividad del usuario. El modelo de aprendizaje automático, sin embargo, tuvo dificultades cuando fue entrenado con cantidades muy pequeñas de datos, lo que sugiere que, si bien los modelos complejos son poderosos, necesitan suficiente historial para aprender los patrones. Los investigadores concluyeron que el mejor enfoque para las plataformas es probablemente una combinación de estas herramientas: usar puntajes simples y conscientes del tiempo para identificar rápidamente las cuentas más peligrosas, y usar modelos más detallados para comprender la gama completa de comportamientos que sostienen la propagación de la desinformación. Al centrarse en estos patrones observables en lugar de intentar adivinar la intención de un usuario, las plataformas pueden intervenir antes, apuntando a las cuentas específicas que impulsan el mayor daño antes de que la información falsa sea imposible de contener.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.