VIGIL: An Extensible System for Real-Time Detection and Mitigation of Cognitive Bias Triggers

El artículo presenta VIGIL, la primera extensión de navegador de código abierto diseñada para detectar y mitigar en tiempo real los disparadores de sesgos cognitivos en la información en línea mediante la reformulación impulsada por modelos de lenguaje, ofreciendo opciones de inferencia privada y una arquitectura extensible.

Lo esencial

Imagina que navegar por internet es como caminar por un mercado muy bullicioso. En este mercado, hay vendedores (las noticias, los tweets, los artículos) que no solo te ofrecen productos, sino que usan trucos de magia para que compres lo que quieren, incluso si no es bueno para ti.

Estos "trucos de magia" son lo que los científicos llaman disparadores de sesgos cognitivos. Son frases cargadas de emoción, repeticiones constantes o palabras que activan tu "piloto automático" mental, haciendo que reacciones rápido y sin pensar, en lugar de usar tu lógica.

El artículo que presentas habla de una nueva herramienta llamada Vigil (que significa "Guardia" o "Vigilante"), diseñada para ser tu superhéroe personal en este mercado.

Aquí te explico cómo funciona, usando analogías sencillas:

1. ¿Qué hace Vigil? (El Detective de Trucos)

La mayoría de las herramientas actuales te dicen: "Oye, este vendedor es de un partido político X" o "Esta noticia es falsa". Pero Vigil hace algo más sutil y profundo: te dice CÓMO te están manipulando.

• La Analogía: Imagina que vas al cine. Las herramientas antiguas te dicen si la película es de terror o comedia. Vigil, en cambio, es como un detective que se sienta a tu lado y te susurra: "¡Cuidado! El actor acaba de usar una frase muy dramática para que te asustes y no pienses bien. Es un truco de manipulación".

2. ¿Cómo funciona? (El Asistente Invisible)

Vigil es una extensión para tu navegador (como Chrome) que trabaja en tiempo real mientras lees.

• Sincronización con tu mirada: A medida que bajas (haces scroll) por una página de Twitter o un periódico, Vigil te sigue. No tienes que seleccionar el texto; él sabe qué estás leyendo en ese momento.
• El "Semáforo" de alertas: Si detecta un truco, resalta la frase sospechosa en la pantalla y te muestra una pequeña tarjeta al lado explicando qué truco es (por ejemplo: "Uso de lenguaje cargado" o "Apelación a la emoción").
• El "Borrador Mágico" (Mitigación): Esta es la parte más genial. Si te gusta la noticia pero no quieres que te manipulen, puedes hacer clic en un botón llamado "Reescribir".
  • La Analogía: Imagina que lees un anuncio de un coche que dice: "¡El coche más rápido y peligroso del mundo!". Vigil toma esa frase y la cambia suavemente por: "Este coche tiene una velocidad muy alta".
  • Lo importante: Puedes cambiarlo de nuevo al original con un solo clic. Vigil nunca borra nada, solo te ofrece una versión "limpia" y neutral para que tú elijas cómo leerlo.

3. Privacidad: Tu Casa vs. La Oficina (Arquitectura)

El sistema está diseñado para respetar tu privacidad como si fuera tu propia casa. Tienen cuatro niveles de seguridad:

1. Nivel 1 (El más seguro): Todo ocurre dentro de tu ordenador. Nadie sale de tu casa. Es como si un amigo leyera el texto contigo en tu sala.
2. Nivel 2: Usa la potencia de tu propia tarjeta gráfica para pensar, pero sigue sin salir de tu casa.
3. Nivel 3 y 4: Si necesitas un cerebro más potente, puedes enviar el texto a un servidor local o a la nube, pero el sistema está diseñado para que tú decidas cuánto quieres compartir.

• La clave: No guardan tus datos ni te espían. Si usas los niveles bajos, es 100% privado y sin internet.

4. ¿Por qué es especial? (La Innovación)

Antes, teníamos herramientas que decían "¿Quién escribió esto?" (política) o "¿Es verdad?" (hechos). Vigil es el primero en preguntarse: "¿Cómo me están haciendo sentir esto?".

Es como si antes solo te dijeran si un alimento está en mal estado, y ahora te dijeran: "Oye, este alimento tiene un sabor muy dulce añadido para que no notes que está podrido".

En resumen

Vigil es como tener un traductor de intenciones en tu navegador. Te ayuda a ver los "trucos de magia" que usan los textos para manipular tus emociones, te permite leer la versión "limpia" de la información y todo esto ocurre en tiempo real, respetando tu privacidad. Es una herramienta para recuperar el control de tu propia mente mientras navegas por internet.

Resumen técnico

A continuación presento un resumen técnico detallado del artículo "Vigil: An Extensible System for Real-Time Detection and Mitigation of Cognitive Bias Triggers", traducido y adaptado al español.

Resumen Técnico: Vigil

1. El Problema

El auge de la Inteligencia Artificial generativa ha exacerbado los riesgos para la integridad de la información en línea y el discurso cívico, principalmente a través de la desinformación. Si bien existen herramientas de alfabetización mediática que abordan la facticidad (veracidad de los hechos) y la ideología (sesgo político de la fuente), estas no abordan un problema más sutil pero igualmente dañino: la explotación de los sesgos cognitivos humanos.

La teoría del proceso dual distingue entre un sistema de pensamiento rápido (heurístico) y uno lento (deliberado). El contenido en línea a menudo utiliza "disparadores de sesgos cognitivos" (como lenguaje cargado que explota el heurístico de afecto o la repetición que induce al efecto de verdad ilusoria) para manipular al lector, activando el sistema rápido y provocando un procesamiento irracional de la información. Actualmente, no existen herramientas que detecten y mitiguen estos disparadores en tiempo real dentro de la experiencia de navegación.

2. Metodología y Arquitectura del Sistema

El sistema propuesto, Vigil (VIrtual GuardIan angeL), es una extensión de navegador basada en Chromium diseñada para la detección y mitigación en tiempo real. Su arquitectura se compone de cuatro capas principales que se comunican mediante mensajes tipados:

• Capa de Contenido: Extrae texto, rastrea el área visible (viewport) y maneja la renderización. El rastreo del viewport permite un análisis sincronizado con el desplazamiento (scroll-synced) sin necesidad de selección manual.
• Enrutador de Mensajes: Coordina la comunicación entre los componentes.
• Panel Lateral (Sidepanel): Proporciona la interfaz de usuario para analizar, configurar y mostrar los hallazgos.
• Tiempo de Ejecución de Inferencia: Ejecuta modelos de lenguaje (LLM) directamente en el navegador (usando WebGPU) o se conecta a APIs externas, manteniéndose aislado de la interfaz de usuario.

Sistema de Plugins y Contratos:
La detección se encapsula en plugins que comparten un contrato común de "Hallazgo" (Finding), que incluye el tipo de disparador, la severidad, el fragmento de texto y una explicación.

• Plugins de Navegador:
  • cbt-regex: Realiza coincidencia de patrones contra una taxonomía de 14 tipos de sesgos cognitivos con latencia cero.
  • cbt-llm: Utiliza inferencia de LLM para detectar los mismos tipos, mapeando técnicas de propaganda (como las de SemEval-2020) a los sesgos cognitivos que explotan.
• Plugins de Servidor:
  • moralization-llm: Detecta moralización basada en la Teoría de los Fundamentos Morales, soportando inglés y alemán.

Arquitectura de Inferencia por Niveles de Privacidad:
Vigil ofrece cuatro niveles que abarcan el espectro privacidad-capacidad:

1. Regex en el navegador: Detección instantánea, cero red.
2. LLM en el navegador (WebGPU): Ejecución local de modelos como Llama 3.2 1B vía WebLLM. Garantiza cero red verificable.
3. API local (Ollama): Ejecución en máquina local.
4. Endpoint en la nube: Conexión a APIs compatibles con OpenAI.
   Los niveles (i) y (ii) aseguran que ningún dato salga de la máquina del usuario. No se persisten datos en el servidor y los resultados se almacenan en caché localmente.

3. Contribuciones Clave

• Primera extensión de su tipo: Vigil es el primer sistema que combina detección y mitigación de disparadores de sesgos cognitivos en tiempo real dentro del navegador.
• Detección y Mitigación In-situ: Ofrece detección a nivel de fragmento de texto (span-level) sincronizada con el desplazamiento.
• Mitigación Reversible: Permite a los usuarios reescribir el texto detectado para neutralizarlo manteniendo la equivalencia semántica, con la opción de restaurar el original con un clic.
• Extensibilidad: Un sistema de plugins abierto que facilita la adición de nuevos tipos de disparadores.
• Privacidad por Diseño: Arquitectura escalable desde totalmente offline hasta la nube, sin telemetría.

4. Resultados y Evaluación

El sistema fue evaluado utilizando plugins de alta calidad contra benchmarks establecidos:

• Detección de Propaganda: En la tarea SemEval-2020 Task 11, el plugin cbt-llm logró un Micro-F1 de 0.533 (con una precisión de 0.626), favoreciendo deliberadamente la precisión para reducir falsos positivos.
• Detección de Moralización: El plugin moralization-llm alcanzó un Macro-F1 de 0.789 en el Corpus de Moralización, superando al mejor resultado previo de los autores del corpus (0.772).
• Rendimiento (Latencia):
  • Regex: 0.03 ms (instantáneo).
  • WebGPU (Local): 3.4 s.
  • Nube: 3.9 s.
  • La caché local hace que las vistas repetidas sean instantáneas.

5. Significado e Impacto

Vigil representa un cambio de paradigma en las herramientas de alfabetización mediática. A diferencia de herramientas anteriores que se centran en quién publica (ideología) o qué se dice (facticidad), Vigil se centra en cómo se presenta la información y si activa limitaciones cognitivas en el lector.

• Comparativa: Mientras que herramientas como NewsGuard o Perspective API carecen de integración in-situ o capacidades de mitigación, Vigil es el único sistema que opera en la dimensión del procesamiento cognitivo con detección en tiempo real y mitigación activa.
• IA Responsable: El sistema es de código abierto, basado en taxonomías académicas publicadas y diseñado para ser reversible, empoderando al usuario para tomar decisiones informadas sin comprometer su privacidad.
• Aplicabilidad: Está optimizado para funcionar eficazmente en feeds de redes sociales (como Twitter/X) y sitios de noticias, donde la manipulación retórica es más prevalente.

En conclusión, Vigil cierra una brecha crítica en la defensa de la integridad de la información, proporcionando una barrera técnica contra la manipulación psicológica en tiempo real dentro del flujo natural de navegación del usuario.