Resumen Técnico: Un Marco Bayesiano Fundamentado Cognitivamente para la Susceptibilidad a la Desinformación

Declaración del Problema

Los enfoques actuales de Procesamiento del Lenguaje Natural (PLN) para la detección de desinformación tratan predominantemente el problema como una tarea de clasificación de veracidad: dada una afirmación, predecir si es verdadera o falsa. Aunque efectivos para identificar contenido falso, estos paradigmas son reductores porque ignoran los procesos cognitivos del lector. Los modelos existentes carecen de una representación del agente humano, fallando en predecir quién es susceptible a tipos específicos de desorden informativo, por qué creen en ello, o cómo diferentes perfiles cognitivos conducen a interpretaciones divergentes de la misma afirmación. Además, las prácticas estándar a menudo descartan el desacuerdo de los anotadores (por ejemplo, mediante votación mayoritaria), perdiendo señales valiosas sobre la ambigüedad inherente o la incertidumbre epistémica de una afirmación.

El artículo argumenta que la susceptibilidad a la desinformación no es meramente un fallo de la verificación de hechos, sino una consecuencia de la racionalidad limitada. Los humanos no procesan el lenguaje como razonadores bayesianos ideales; operan bajo restricciones como la memoria de trabajo limitada, la dependencia de atajos mentales (heurísticas) y la influencia de información saliente o repetida con frecuencia.

Metodología: El Oyente Pragmático Limitado (BPL)

Los autores introducen el Oyente Pragmático Limitado (BPL), un marco bayesiano formal que extiende la teoría de los Actos de Habla Racionales (RSA). BPL modela a un agente que actualiza creencias sobre un estado del mundo $w$ (afirmación verdadera/falsa) dada una enunciación $u$ (afirmación de noticias), sujeto a tres restricciones de recursos motivadas cognitivamente:

1. Límite de Profundidad de Recursión ($k$):

   • Concepto: Limita la profundidad del razonamiento de la "Teoría de la Mente" (ToM). Modela cuántas capas de intención del hablante puede rastrear un agente (por ejemplo, $k=0$: aceptar contenido literal; $k=1$: reconocer que un hablante hizo una afirmación; $k=2$: razonar sobre la intención del hablante de manipular el consenso social).
   • Base Cognitiva: Fundamentado en los límites de la memoria de trabajo (Cowan, 2001) y hallazgos empíricos que indican que los agentes rara vez recursan más allá de la profundidad 2 en juegos estratégicos (Camerer et al., 2004).
   • Mecanismo: La profundidad efectiva es $k^* = \min(k, d+1)$, donde $d$ es la profundidad epistémica de la afirmación (anidamiento de operadores de atribución de creencias).

2. Parámetro de Compresión de Priors ($\beta$):

   • Concepto: Modela cómo un agente preserva creencias matizadas de credibilidad frente a colapsarlas en heurísticas gruesas (por ejemplo, "fuente sospechosa") bajo carga cognitiva.
   • Base Cognitiva: Derivado de la teoría del Cuello de Botella de Información (Tishby et al., 1999) y la teoría de los procesos duales (Sistema 1 vs. Sistema 2).
   • Mecanismo: El agente mantiene una representación comprimida $\tilde{P}_\beta(w)$ mediante una variable de cuello de botella $Z$ (esquemas de credibilidad). A medida que $\beta \to 0$, el agente descarta priors (procesamiento heurístico); a medida que $\beta \to \infty$, el agente preserva priors completos (procesamiento sistemático). La credibilidad de la fuente $\gamma$ modula esta compresión.

3. Tamaño de Muestra de Disponibilidad ($N$):

   • Concepto: Modela el número de ejemplos similares que un agente recupera mentalmente para evaluar una afirmación, operacionalizando el muestreo de importancia con pesos de saliencia.
   • Base Cognitiva: Basado en la heurística de disponibilidad (Tversky y Kahneman, 1973) y el "efecto de verdad ilusoria" (Hasher et al., 1977).
   • Mecanismo: En lugar de calcular verosimilitudes exactas, el agente estima la verosimilitud mediante muestreo desde una distribución propuesta $Q(u)$ ponderada por factores de saliencia psicológica: valencia emocional ($\nu$), número de repeticiones ($r$) y recencia ($\rho$). Un $N$ pequeño conduce a una sobrepesificación sistemática de ejemplos vívidos o repetidos.

Mapeo del Desorden Informativo

El marco mapea explícitamente la taxonomía de desorden informativo de Wardle y Derakhshan (2017) a los parámetros de BPL:

• Desinformación (Mis-information): Explota priors comprimidos ($k=0$).
• Desinformación (Dis-information): Explota razonamiento ToM superficial ($k \ge 1$).
• Malinformación (Mal-information): Explota recursión profunda y encuadre meta-epistémico ($k \ge 2$).

Este mapeo conduce a la Paradoja de Desajuste de Profundidad: Los agentes con conciencia pragmática parcial ($k=1$) pueden ser más susceptibles a la desinformación que aquellos sin conciencia ($k=0$), ya que reconocen la atribución pero fallan en evaluar la intención engañosa detrás de ella.

Implementación y Evaluación

Los autores implementaron BPL utilizando dos conjuntos de datos: LIAR (afirmaciones de PolitiFact) y MultiFC (afirmaciones de verificación de hechos de múltiples dominios).

• Población de Agentes: Se simuló una población de nueve tipos de agentes canónicos que abarcan el espacio paramétrico $(k, \beta, N)$.
• Fundamentación con LLM: Se desarrolló una versión híbrida donde los Modelos de Lenguaje de Gran Escala (LLM, específicamente Gemini 2.5 Pro) se utilizaron para derivar caracterizaciones semánticamente ricas de las afirmaciones, incluyendo:
  • Esquemas verbales para la compresión de priors (reemplazando tablas diseñadas a mano).
  • Pesos de saliencia ($\phi$) basados en intensidad emocional, novedad, memorabilidad y compartibilidad.
  • Recuperación de memoria simulada para la muestra de disponibilidad.
• Métricas: Clasificación de veracidad (AUC, F1), error de predicción y calibración a nivel de componente (correlación entre el recuerdo simulado y la verdad fundamental).

Resultados Clave

1. Clasificación de Veracidad

• Conjunto de Datos LIAR: La "Línea Base Superficial" (utilizando metadatos del historial del hablante) logró un AUC perfecto (1.000), pero esto se atribuyó a una filtración de datos donde el historial del hablante codificaba directamente la etiqueta. El modelo BPL Completo (utilizando el historial del hablante solo como un prior comprimido, no como una característica directa) logró un AUC de 0.930 y un F1 de 0.885, estableciendo una línea base fuerte libre de filtraciones. Un solo escalar BPL (puntuación de susceptibilidad) logró un AUC de 0.811 utilizando solo el texto de la afirmación y la identidad del hablante.
• Conjunto de Datos MultiFC: BPL Completo logró un AUC de 0.840 en comparación con una línea base superficial de 0.879. Aunque BPL no mejoró la discriminación (AUC), combinar características de BPL con características superficiales mejoró la puntuación F1 de 0.439 a 0.517, indicando mejores compensaciones precisión-llamada cruciales para la verificación de hechos de alta llamada.

2. Estudios de Ablación

• La Compresión de Priors es Crítica: Eliminar el límite de compresión de priors ($\beta$) causó la mayor caída de rendimiento ($\Delta r = -0.064$), lo que sugiere que modelar cómo los humanos comprimen la credibilidad de la fuente es el factor más significativo en el éxito del marco.
• Efectos del Límite de Profundidad: En el conjunto de datos LIAR completo (92% de afirmaciones de profundidad 0), relajar el límite de profundidad tuvo efectos insignificantes. Sin embargo, cuando se condicionó a afirmaciones de profundidad 1, el límite de profundidad se convirtió en el principal impulsor del rendimiento.

3. La Paradoja de Desajuste de Profundidad

• Validación Empírica: Los agentes con $k=1$ (conciencia parcial) tuvieron un rendimiento significativamente peor en afirmaciones de profundidad 1 (error 0.510) que los agentes $k=0$ (error 0.450).
• Interpretación: Los agentes $k=1$ reconocen la atribución pero no pueden evaluar la intención engañosa del hablante, lo que los lleva a tratar la afirmación como evidencia positiva débil. Los agentes $k=0$ ignoran la atribución y evalúan el contenido literal (que a menudo es lingüísticamente implausible), resultando en una menor creencia. Los agentes $k=2$ infieren correctamente el engaño, logrando el error más bajo (0.340).

4. Fundamentación con LLM y Calibración

• Ganancia de Rendimiento: El LLM-BPL Híbrido logró un AUC de 0.868 en una muestra pequeña en comparación con 0.695 para una línea base basada en características coincidente.
• Canal Epistémico: Los modelos basados en LLM y características mostraron independencia casi total ($r=0.184$), lo que sugiere que el LLM accede a un canal epistémico distinto (coherencia de encuadre semántico) en lugar de depender de metadatos léxicos.
• Calibración de Disponibilidad: El recuerdo simulado por LLM de afirmaciones falsas se correlacionó fuertemente ($r=0.562$) con la falsedad real de la afirmación sin supervisión, validando el mecanismo de disponibilidad. El modelo recuperó naturalmente más ejemplos falsos para afirmaciones falsas, suprimiendo efectivamente la creencia en ellas.

Significado y Afirmaciones

El artículo posiciona a BPL como un trabajo en progreso que ofrece una alternativa fundamentada cognitivamente a la detección estándar de desinformación. Sus contribuciones principales son:

1. Teórica: Un mapeo formal de los tipos de Desorden Informativo a restricciones cognitivas, prediciendo la "paradoja de desajuste de profundidad" donde el entrenamiento parcial puede aumentar la vulnerabilidad.
2. Metodológica: Un marco probabilístico que se reduce a RSA estándar cuando se relajan las restricciones, permitiendo el modelado de perfiles cognitivos heterogéneos y la predicción del desacuerdo de los anotadores como varianza posterior.
3. Empírica: Evidencia de que la compresión de priors (modelar cómo los humanos simplifican la credibilidad de la fuente) es el factor dominante en la clasificación de veracidad, y que la fundamentación con LLM mejora significativamente el rendimiento al simular la recuperación de memoria y el encuadre semántico similares a los humanos.

Los autores concluyen que, aunque BPL es un clasificador sólido, su verdadero valor radica en su capacidad para explicar por qué ciertos agentes son susceptibles. Advierten que la arquitectura actual asume una verdad binaria y depende de heurísticas simplificadas para la extracción de profundidad, señalando que el trabajo futuro debería abordar la veracidad graduada y un análisis de dependencias más sofisticado. El marco sugiere que las intervenciones centradas únicamente en enseñar a las personas a notar la atribución (sin enseñar la evaluación de la intención) podrían aumentar inadvertidamente la susceptibilidad a la desinformación.