Community Notes undermoderate polarizing content by design creating risks in electoral processes

El estudio revela que el sistema de Notas de la Comunidad de X, aunque diseñado para fomentar el consenso bipartidista, submodera sistemáticamente el contenido polarizante en diversos contextos electorales globales, lo que genera riesgos para el discurso cívico y los procesos democráticos.

Lo esencial

🕵️‍♂️ El Gran Experimento de "Notas de la Comunidad" en X (Twitter)

Imagina que X (antes Twitter) es una gigantesca plaza pública donde millones de personas hablan a la vez. A veces, alguien grita un chisme falso o una mentira. Para arreglarlo, la plataforma lanzó un sistema llamado "Notas de la Comunidad".

La idea era genial: en lugar de tener un solo "policía" (un experto) que decida qué es verdad y qué no, se permite que cualquier vecino escriba una nota aclaratoria. Pero hay una regla de oro: para que la nota se muestre a todo el mundo, debe ser aprobada por vecinos de ambos lados del espectro político.

Los autores de este estudio (Bouchaud y Ramaciotti) decidieron investigar cómo funciona este sistema en el mundo real, analizando 1.9 millones de notas en 13 países.

🧠 ¿Cómo funciona el cerebro de la máquina?

Imagina que el algoritmo de X es un traductor de sentimientos.

1. Cuando alguien escribe una nota, el sistema le asigna una "etiqueta invisible" (una ideología oculta).
2. Cuando alguien vota si la nota es "útil" o no, el sistema también le asigna una etiqueta al votante.
3. La magia: El sistema busca notas que sean útiles tanto para el "Vecino de la Izquierda" como para el "Vecino de la Derecha". Si una nota solo le gusta a la izquierda, el sistema la ignora. Si le gusta a ambos, la muestra.

El estudio descubrió que este sistema es muy inteligente para entender las divisiones políticas de cada país. En EE. UU. entiende la división Demócrata vs. Republicano; en Francia, la división de izquierda vs. derecha; y en otros países, entiende matices como "anti-elites" vs. "pro-instituciones".

⚠️ El Problema: El "Filtro de Consenso"

Aquí es donde entra la parte preocupante, y la analogía clave:

Imagina que hay un fuego en la plaza pública (una mentira peligrosa sobre una elección).

• Si el fuego es pequeño y aburrido (ej. "Este actor es feo"), todos los vecinos (izquierda y derecha) están de acuerdo en que es falso. El sistema lo apaga rápido.
• Pero si el fuego es polémico (ej. "El candidato X robó las urnas"), los vecinos de la izquierda gritan "¡Es verdad!" y los de la derecha gritan "¡Es mentira!".

El sistema de X tiene un fallo de diseño: Como requiere que ambos lados estén de acuerdo para mostrar la nota correctiva, el fuego polémico nunca se apaga.

El sistema, por diseño, ignora sistemáticamente los temas más polarizantes. Si la gente está muy dividida, el algoritmo dice: "No hay consenso, así que no mostraremos ninguna nota correctiva".

🗳️ El Peligro en las Elecciones

Los investigadores miraron lo que pasó durante cuatro elecciones grandes (EE. UU., Reino Unido, Francia y Alemania). Descubrieron algo alarmante:

• Cuando se habla de estafas o fraudes (temas donde todos están de acuerdo en que son malos), el sistema funciona bien.
• Pero cuando se habla de elecciones y política, el sistema falla. Las notas que intentan corregir mentiras sobre elecciones tienen mucha menos probabilidad de ser mostradas que las notas sobre otros temas.

La analogía final:
Imagina que tienes un guardia de seguridad en un estadio. Su trabajo es detener a los fanáticos que tiran objetos peligrosos.

• Si un fanático tira una piedra, el guardia lo detiene.
• Pero si los fanáticos de un equipo empiezan a gritar insultos a los del otro equipo, el guardia se queda paralizado. Dice: "No puedo decidir quién tiene razón, así que no haré nada".
• Resultado: Mientras los fanáticos se pelean y tiran cosas, el guardia (el algoritmo) no hace nada porque "no hay consenso".

📉 ¿Qué significa esto para nosotros?

El estudio concluye que Community Notes está diseñado para no moderar el contenido más peligroso.

1. Funciona bien para lo aburrido: Corrige errores de datos, fotos falsas de celebridades o estafas.
2. Fallará en lo importante: Cuando la información falsa es política y divide a la gente (como en las elecciones), el sistema se queda quieto.
3. El riesgo: Durante las elecciones, las mentiras polarizantes pueden circular libremente porque el sistema espera un acuerdo que, por naturaleza de la polarización, nunca llegará.

💡 En resumen

El sistema de X es como un puente que solo se construye si la gente de ambos lados del río está de acuerdo en cómo hacerlo. El problema es que, en los momentos más críticos (como las elecciones), la gente de ambos lados nunca está de acuerdo. Por lo tanto, el puente no se construye, y la gente sigue cruzando por el río peligroso sin protección.

Los autores nos advierten: No podemos depender solo de la "sabiduría de las multitudes" para detener la desinformación política. A veces, necesitamos expertos o reglas más estrictas cuando la gente está demasiado dividida para ponerse de acuerdo.

Resumen técnico

Resumen Técnico: Community Notes y la Submoderación de Contenido Polarizante

1. El Problema

Las plataformas de redes sociales enfrentan un desafío persistente: la difusión de desinformación y contenido polarizante, especialmente durante eventos críticos como las elecciones. Los enfoques tradicionales de verificación de hechos por expertos (fact-checking) tienen limitaciones de escala, visibilidad y percepción de sesgo partidista.

Para abordar esto, X (anteriormente Twitter) implementó Community Notes (CN), un sistema de verificación de hechos basado en la sabiduría de las multitudes. El sistema permite a los usuarios añadir notas contextuales y a otros usuarios calificarlas. Sin embargo, el algoritmo central de CN está diseñado para seleccionar únicamente aquellas notas que reciben un consenso transversal (apoyo de usuarios de diferentes ideologías).

La hipótesis central del estudio es que este diseño, aunque efectivo para reducir el sesgo, crea una limitación intrínseca: submodera sistemáticamente el contenido altamente polarizante. Si un tema es tan divisivo que no existe consenso entre los grupos ideológicos, la nota no se mostrará, incluso si es factualmente correcta. El estudio investiga si esta limitación pone en riesgo la integridad de los procesos electorales.

2. Metodología

Los autores (Bouchaud y Ramaciotti) realizaron un análisis a gran escala combinando datos de la plataforma con modelos de escalado ideológico.

• Datos Analizados:

  • Volumen: 1.88 millones de notas de Community Notes propuestas hasta marzo de 2025, con 135 millones de calificaciones de 1.15 millones de contribuyentes.
  • Alcance Geográfico: Análisis cruzado en 13 países (EE. UU., Reino Unido, Francia, Alemania, Japón, Brasil, España, Canadá, Argentina, Israel, Australia, Polonia y México).
  • Eventos Específicos: Se evaluó el rendimiento del sistema durante cuatro elecciones recientes: EE. UU. (2024), Reino Unido (2024), Francia (2024) y Alemania (2025).

• Modelado del Algoritmo de X:

  • Los autores replicaron el modelo de factorización de matrices utilizado por X para inferir parámetros latentes:
    • $\theta_n$: Ideología latente de la nota.
    • $\theta_r$: Ideología latente del calificador.
    • $\beta_n, \beta_r, \beta_0$: Sesgos de ayuda, tolerancia y línea base global.
  • La fórmula predictiva es: $\hat{\eta}_{rn} = \beta_0 + \beta_n + \beta_r + \theta_n \cdot \theta_r$.
  • El sistema selecciona notas con alto $\beta_n$ (consenso) y bajo $|\theta_n|$ (baja polarización ideológica).

• Escalado Ideológico Externo:

  • Para validar las dimensiones latentes aprendidas por el algoritmo de X, los autores utilizaron datos de redes de seguidores de parlamentarios (MPs) y los calibraron con la Encuesta Global de Partidos (Global Party Survey).
  • Se mapearon las posiciones de los usuarios en dos dimensiones principales: Izquierda-Derecha y Anti-élite (desconfianza en instituciones).
  • Se comparó la dimensión latente aprendida por CN ($\theta$) con las dimensiones políticas estructurantes reales de cada país.

3. Contribuciones Clave

1. Validación Global del Modelo Latente: Demostraron que el algoritmo de Community Notes aprende consistentemente la dimensión ideológica principal que estructura la comunicación política en 13 países distintos, alineándose fuertemente con las divisiones políticas reales (Izquierda-Derecha y, en algunos casos, Anti-élite).
2. Evidencia de Submoderación por Diseño: Probaron matemáticamente que el requisito de consenso transversal actúa como un filtro que excluye automáticamente el contenido que activa las líneas de división política más profundas.
3. Análisis de Riesgo Electoral: Cuantificaron la disparidad en la moderación de notas relacionadas con elecciones frente a otros temas, demostrando que el sistema falla en proporcionar contexto en los momentos de mayor necesidad.

4. Resultados Principales

• Alineación Ideológica:

  • En los 13 países estudiados, la dimensión latente aprendida por CN ($\theta$) se alinea fuertemente con la dimensión política estructurante ($\delta_1$) de cada nación.
  • El modelo predice con alta precisión (AUC promedio de 0.808) si una nota se asociará con cuentas de izquierda o derecha basándose en la ideología de los calificadores.

• La Paradoja del Consenso (Submoderación):

  • Solo el 11.97% de las notas propuestas alcanzan el estado "Helpful" (útil) y se hacen visibles.
  • Contenido Polarizante: Las notas sobre temas divisivos (política, elecciones, conflictos) tienen tasas de éxito significativamente más bajas que las notas sobre estafas o fraudes.
    • Ejemplo en EE. UU.: Solo el 6.9% de las notas sobre la elección presidencial alcanzaron estatus "Helpful", frente al 14.7% del corpus general.
    • En Alemania (2025): 8.6% vs 11.9%.
    • En Francia (2024): 12.8% vs 16.8%.
  • Las notas sobre estafas ("Scams") tienen una tasa de éxito del 39%, ya que generan consenso transversal.

• Riesgo en Procesos Electorales:

  • Durante las cuatro elecciones analizadas, la proporción de notas relacionadas con elecciones que lograron consenso fue sistemáticamente inferior a la de otros temas.
  • Esto implica que la información más crítica y polarizante durante las campañas electorales es la que tiene menos probabilidades de ser moderada por el sistema, dejando a los usuarios expuestos a desinformación sin contexto.

• Dinámicas de Eliminación de Publicaciones:

  • Se observó una asimetría en la visibilidad de las notas "Helpful": aparecen con más frecuencia en cuentas de derecha que en cuentas de izquierda.
  • Sin embargo, el estudio sugiere que esto podría deberse a un sesgo de selección: los usuarios de izquierda tienden a borrar sus publicaciones más frecuentemente cuando reciben una nota de "Helpful", mientras que los de derecha las mantienen. Esto distorsiona la percepción de quién es moderado más a menudo.

5. Significado e Implicaciones

• Limitación Intrínseca del Diseño: El estudio concluye que la submoderación de contenido polarizante no es un fallo técnico, sino una consecuencia del diseño del algoritmo. Al priorizar el consenso sobre la veracidad factual, el sistema sacrifica la moderación de temas donde el consenso es imposible por definición (política partidista).
• Riesgo para la Democracia: En momentos de alta tensión política (elecciones), donde la desinformación es más prevalente y dañina, Community Notes falla en su función de proporcionar contexto. Esto puede exacerbar la polarización y socavar la integridad de los procesos democráticos.
• Necesidad de Híbridos: Los autores argumentan que la moderación basada en multitudes no puede sustituir completamente a la verificación de hechos por expertos en temas altamente polarizados. Se requiere una evaluación de riesgos que considere la complementariedad de ambos enfoques, especialmente para eventos críticos como las elecciones.
• Escalabilidad Global: Dado que otras plataformas (Meta, TikTok, YouTube) están adoptando algoritmos similares basados en el código abierto de X, estos hallazgos tienen implicaciones globales para la gobernanza de la información en todo el mundo.

En resumen, el paper demuestra que Community Notes es efectivo para moderar contenido no polarizante y generar consenso, pero está estructuralmente diseñado para fallar en los temas más importantes para la salud democrática: la política divisiva y las elecciones.