Resumen Técnico: IA DE PROPAGANDA: UN ANÁLISIS DE LA DIVERGENCIA SEMÁNTICA EN MODELOS DE LENGUAJE DE GRAN ESCALA

Definición del Problema

El artículo aborda un punto ciego específico en las evaluaciones de seguridad de los Modelos de Lenguaje de Gran Escala (LLM) actuales: la divergencia semántica condicionada por conceptos. Mientras que las defensas existentes detectan eficazmente las "puertas traseras de disparadores de tokens" (cadenas léxicas raras que fuerzan salidas específicas), no logran identificar comportamientos activados por señales de alto nivel comunes, tales como ideologías, figuras públicas o encuadres específicos.

Los autores definen este fenómeno como casos donde las señales de alto nivel provocan respuestas inusualmente uniformes y de tipo postura que evaden las auditorías a nivel de token. A diferencia de las puertas traseras tradicionales que dependen de disparadores raros, estos comportamientos están vinculados a conceptos que aparecen frecuentemente en datos benignos. En consecuencia, un ajuste fino sesgado o las dinámicas de muestreo pueden consolidar comportamientos sistemáticos, similares a la propaganda, sin requerir marcadores léxicos inusuales. Los autores plantean que estos no son evidencia de "creencias" subyacentes o intención maliciosa, sino patrones estables y robustos ante la paráfrasis que sirven como señales de triaje para revisión.

Metodología: El Marco RAVEN

Los autores proponen RAVEN (Response Anomaly Vigilance - Vigilancia de Anomalías de Respuesta), una auditoría de comportamiento de caja negra diseñada para detectar estas divergencias semánticas. El marco opera sin acceso a los pesos del modelo, gradientes o datos de entrenamiento, basándose únicamente en el acceso mediante consultas y el uso de múltiples muestras de prompting.

El proceso de detección consta de cuatro etapas:

1. Definición de Dominio y Entidad: El sistema identifica temas sensibles (ej. Vacunación, Cambio Climático) y los empareja con perspectivas conceptuales (ej. defensa de la vacunación, escepticismo contra la vacunación). Se generan múltiples plantillas de prompts para cada par para asegurar la cobertura de diferentes formulaciones.

2. Consulta Multi-Modelo: El sistema consulta un conjunto diverso de LLMs pares utilizando los prompts generados, muestreando múltiples salidas (ej. $k=6$) por cada prompt a una temperatura fija.

3. Entropía Semántica mediante Agrupamiento por Implicación: Para un modelo objetivo $M$ y un prompt $p$, las respuestas se agrupan basándose en la implicación bidireccional (utilizando un modelo de implicación fuerte como GPT-4o-mini). Dos respuestas se consideran semánticamente equivalentes solo si se implican mutuamente. La Entropía Semántica (SE) se calcula basándose en la distribución de las respuestas a través de estos grupos. Una SE baja indica salidas inusualmente uniformes (alta confianza en una sola postura).

4. Divergencia entre Modelos y Puntuación de Sospecha: El marco calcula una puntuación de sospecha ($S$) que combina:

   • Confianza: La inversa de la entropía semántica del modelo objetivo (alta confianza = baja entropía).
   • Divergencia: El grado en que la respuesta dominante del modelo objetivo discrepa de las respuestas representativas de los modelos pares.

   La puntuación se define como $S = \alpha \cdot \text{Confianza} + (1-\alpha) \cdot \text{Divergencia}$. Se marca un caso si el modelo exhibe una entropía semántica baja (por debajo del umbral $\theta_e$) y una alta discrepancia entre modelos (por encima de un umbral), resultando en una puntuación de sospecha elevada.

Principales Contribuciones

El artículo realiza cuatro contribuciones primarias:

1. Formalización: Define la divergencia semántica condicionada por concepto y explica por qué evade las auditorías a nivel de token, enmarcando explícitamente los comportamientos detectados como señales de triaje en lugar de pruebas de intención.
2. Método de Auditoría: Introduce RAVEN, que acopla la entropía semántica dentro del modelo con la discrepancia entre modelos en una puntuación de sospecha calibrada.
3. Demostración de Factibilidad: A través de un estudio controlado, los autores demuestran que las posturas condicionadas por conceptos pueden implantarse en LLMs usando un pequeño corpus sesgado (vía ajuste fino LoRA) sin necesidad de disparadores de tokens raros.
4. Tamizaje a Gran Escala: El marco se aplicó para auditar cinco familias de LLM en doce temas sensibles (360 prompts por modelo), revelando divergencias recurrentes y específicas de cada modelo en 9 de los 12 temas.

Resultados Experimentales

El estudio aborda cuatro preguntas de investigación (RQ):

• RQ1 (Implantación): Las posturas condicionadas por conceptos pueden implantarse con éxito. En un estudio de ajuste fino LoRA controlado sobre cuatro modelos (Llama-3.1, Llama-2, Mistral, DeepSeek), un pequeño corpus sesgado indujo posturas negativas estables hacia una entidad objetivo (Entidad-X). Por ejemplo, Mistral-7B mostró un cambio de sentimiento de $\approx 3.8/5$ (control) a $\approx 2.0/5$ (objetivo), con un 88% de las respuestas hacia el objetivo siendo negativas.
• RQ2 (Divergencia Pre-entrenada): Existen divergencias semánticas en modelos pre-entrenados. La auditoría detectó comportamientos anómalos en 9 de 12 temas. Los dominios basados en posturas (Medio Ambiente, Salud, Género, Religión) y los dominios basados en sentimientos mostraron un claro comportamiento de tipo "propaganda", mientras que los dominios basados en aspectos (ej. Corporativo/Amazon) mostraron menos anomalías.
• RQ3 (Efectividad de la Detección): RAVEN identifica estos casos de manera efectiva. Las puntuaciones de sospecha altas se concentraron donde la entropía semántica cercana a cero coexistía con una fuerte discrepancia entre modelos. Por ejemplo, Mistral-7B recibió una puntuación de sospecha de 100.0 por rechazar argumentos filosóficos sobre la incertidumbre de las vacunas, mientras que sus pares reconocieron dichos argumentos.
• RQ4 (Patrones de Respuesta): Los casos detectados se agrupan en cuatro patrones: Polarización de Postura (posiciones extremas de un solo lado), Favoritismo de Entidad (salidas uniformemente positivas/negativas para entidades específicas), Rechazo Categórico (negativa a reconocer alternativas) y Manipulación de Sentimiento.

El estudio también validó que la detección de RAVEN es robusta frente a diferentes ratios de sesgo en el ajuste fino y sigue siendo efectiva incluso utilizando modelos de pesos abiertos más pequeños como jueces de implicación, aunque los modelos más grandes (Qwen-14B) igualaron exactamente el rendimiento de la línea base de GPT-4o-mini.

Significado y Reivindicaciones

El artículo posiciona a RAVEN como una señal de alerta temprana práctica para la evaluación de lanzamientos y el monitoreo post-despliegue. Su importancia radica en complementar las defensas existentes a nivel de token al operar al nivel del significado, donde no es necesario que existan claves de rareza.

Los autores declaran explícitamente que RAVEN es una herramienta de triaje, no un mecanismo de atribución. Identifica patrones estables y robustos ante la paráfrasis que se asemejan a la complacencia o a la respuesta de deseabilidad social en encuestas humanas. Las alertas de alta sospecha indican la necesidad de una revisión humana para investigar la procedencia de los datos o los registros de ajuste fino, pero el sistema en sí no pretende probar una intención maliciosa o una atribución causal. El trabajo destaca que, a medida que los LLM informan cada vez más decisiones de alto impacto, los controles de seguridad a nivel de concepto son esenciales para garantizar la confiabilidad, particularmente contra la influencia de tipo propaganda que puede dirigir la exposición de contenido a gran escala.