Angry but Accurate: Detecting and Profiling the Counter-Misinformation Ecosystem on Twitter

Planteamiento del Problema
Si bien la desinformación en las redes sociales representa una amenaza significativa para el discurso público, una parte sustancial de la actividad en línea involucra a usuarios ordinarios que combaten activamente las afirmaciones falsas. Sin embargo, el "ecosistema de la contra-desinformación" —los usuarios y el contenido que corrigen las falsedades— permanece insuficientemente caracterizado. Los supuestos dominantes en el campo sugieren que la emoción negativa es una firma primaria de la falsedad, lo que implica que el contenido correctivo es más neutral. Además, los métodos de detección existentes suelen depender del muestreo de URLs o hashtags, lo que omite las falsedades de solo texto o aquellas que carecen de etiquetas específicas. Existe la necesidad de comprender las características lingüísticas y a nivel de cuenta de quienes se oponen a la desinformación a escala, específicamente para determinar si los perfiles emocionales y estructurales de las publicaciones correctivas difieren de la desinformación que tienen como objetivo.

Metodología
Los autores emplearon un flujo de trabajo de tres etapas para detectar y perfilar el ecosistema de la contra-desinformación utilizando un gran corpus de tweets sobre el COVID-19 de 2020–2021:

1. Recuperación y Emparejamiento de Datos: Los investigadores agregaron 15,374 afirmaciones falsas únicas sobre el COVID-19 verificadas por expertos (por ejemplo, de PolitiFact, Snopes). Utilizando la recuperación BM25, vincularon estas afirmaciones con un conjunto de datos de Twitter a gran escala, generando 1,537,400 pares de afirmación-tweet candidatos.
2. Detección de Postura (NLI): Se aplicó a los pares candidatos un modelo de Inferencia de Lenguaje Natural (NLI) específico del dominio, previamente ajustado con datos de desinformación sobre COVID-19 y aumentado con datos sintéticos generados por GPT-4o (mediante Generación de Desinformación Controlable). Este modelo clasifica el texto como a favor, en contra o neutral respecto a una afirmación. Tras filtrar duplicados y casos ambiguos, la muestra analítica final comprendió 264,737 tweets (195,922 a favor, 68,815 en contra).
3. Perfilado y Comparación: El estudio comparó 23 características a nivel de usuario y de texto entre los grupos pro-desinformación y anti-desinformación. Las características incluyeron:
   • Emoción: Puntuaciones de las seis emociones básicas de Ekman (ira, asco, miedo, alegría, tristeza, sorpresa) utilizando el modelo Demux.
   • Toxicidad: Siete puntuaciones de toxicidad a través de DeToxify.
   • Probabilidad de Bot: Puntuaciones del API Botometer X.
   • Atributos de Usuario/Texto: Antigüedad de la cuenta, número de seguidores, número de menciones en listas, longitud del tweet y niveles de actividad.
   • Modelado Predictivo: Se entrenaron clasificadores de aprendizaje automático (Random Forest, XGBoost, etc.) para predecir la postura basándose únicamente en estas 23 características para evaluar la separabilidad.

Resultados Clave
El estudio arrojó varios hallazgos contraintuitivos con respecto a los perfiles emocionales y estructurales del ecosistema de la contra-desinformación:

• Tono Emocional: Contrario al supuesto de que la emoción negativa es un sello distintivo de la falsedad, las publicaciones que se oponen a la desinformación exhibieron niveles significativamente más altos de emoción negativa que las publicaciones que la apoyan. Específicamente, los tweets anti-desinformación puntuaron más alto en tristeza (Cliff's $\delta = -0.125$), ira ($\delta = -0.098$) y asco ($\delta = -0.097$). Por el contrario, los tweets pro-desinformación se caracterizaron por una mayor longitud y niveles más altos de sorpresa.
• Características del Usuario: Los usuarios que publican contenido anti-desinformación tendieron a ser más "consolidados". Tenían cuentas más antiguas, más seguidores, mayor número de menciones en listas y una mayor actividad general (tweets/retweets) en comparación con los usuarios que difunden desinformación.
• Actividad de Bots: Las puntuaciones de probabilidad de bot no diferenciaron significativamente entre los dos grupos, lo que sugiere que las cuentas automatizadas no se concentran desproporcionadamente en ningún lado de la división en este conjunto de datos.
• Separabilidad Predictiva: Los modelos de aprendizaje automático entrenados con estas características pudieron distinguir entre posturas pro y anti-desinformación con una precisión modesta pero consistente por encima del azar (Random Forest $F1 = 0.632$, Precisión = 0.620). El análisis SHAP confirmó que la tristeza, el asco y la longitud de tweet más corta fueron predictores fuertes de una postura de "oposición".

Significancia y Reivindicaciones
El artículo afirma proporcionar la primera medición a gran escala de emociones discretas que establece que las publicaciones correctivas son a menudo más emocionalmente negativas que la desinformación que tienen como objetivo. Los autores argumentan que este hallazgo desafía la heurística prevalente de que la emoción negativa es una señal confiable para la desinformación.

La principal significancia radica en las implicaciones para la gobernanza de las plataformas y la moderación de contenidos. Los autores advierten que los sistemas diseñados para marcar el contenido emocionalmente cargado como posible desinformación pueden suprimir inadvertidamente el discurso correctivo legítimo y la base de usuarios establecida que ancla el ecosistema de la contra-desinformación. El estudio sugiere que combatir la desinformación requiere comprender el contenido correctivo que surge en respuesta, en lugar de centrarse únicamente en suprimir el contenido falso.

Limitaciones
Los autores señalan varias restricciones: el estudio se limita al COVID-19 en Twitter (2020–2021), lo que podría limitar la generalización a otros temas o épocas. La dependencia de modelos pre-entrenados para la detección de emociones y bots introduce posibles sesgos. El clasificador NLI, aunque robusto, es imperfecto, y el uso de datos sintéticos generados por LLM para el entrenamiento conlleva riesgos de inversión de tareas (task flipping) y subrepresentación de ciertos tipos de contenido. Finalmente, las diferencias observadas a nivel de grupo son modestas a nivel de tweet individual, lo que significa que estas características reflejan tendencias distributivas más que señales fiables por cada tweet.