Friend or Foe? Language as an ideological switch in open-weight LLMs under Russian disinformation stress

Resumen Técnico: "¿Amigo o Enemigo? El lenguaje como interruptor ideológico en los LLM de pesos abiertos bajo el estrés de la desinformación rusa"

Planteamiento del Problema
El estudio aborda una brecha crítica en la comprensión de cómo se comportan los modelos de lenguaje de gran tamaño (LLM) de pesos abiertos en entornos de información contestados, específicamente en el contexto de la guerra de Rusia contra Ucrania. Mientras que el discurso político e industrial suele asumir que el ajuste fino (fine-tuning) culturalmente alineado (por ejemplo, un modelo ajustado para usuarios ucranianos) codifica inherentemente la orientación política de esa comunidad y resiste las narrativas adversarias, esta suposición permanece sin verificar. Los autores investigan si los modelos de pesos abiertos ajustados regionalmente —desplegados sin capas de seguridad comercial o moderación de contenido— actúan como defensas resilientes contra la desinformación rusa o si, por el contrario, la amplifican inadvertidamente. El problema central es la potencial "transferencia ideológica", donde los modelos absorben y generalizan sesgos políticos de sus corpus de entrenamiento, y la hipótesis de que el lenguaje de la consulta puede funcionar como un "interruptor ideológico", activando regiones distribucionales latentes y conflictivas dentro del modelo.

Metodología
La investigación emplea una auditoría comparativa controlada de cuatro LLM que comparten una base arquitectónica común: Gemma 3 (12B) (el modelo base neutral), Lapa (ajustado para el contexto lingüístico/cultural ucraniano), Saiga (ajustado para el contexto ruso) y MamayLM (una variante desarrollada en Bulgaria orientada a la soberanía digital ucraniana).

El diseño experimental involucra:

• Estímulos: Diez declaraciones de narrativas contestadas que abarcan cinco clústeres temáticos: estatalidad/historia ucraniana, gobernanza/legitimidad (incluyendo la "desnazificación"), integridad territorial (Crimea), atrocidades militares (Bucha/Mariupol) y derechos culturales/lingüísticos.
• Arquetipos de Prompt: Se utilizaron dos formatos distintos para sondear diferentes capas cognitivas:
  1. Experto/Analítico: Un prompt estructurado que requiere que el modelo actúe como un historiador neutral, extraiga argumentos y los clasifique, forzando un proceso de razonamiento de "Cadena de Pensamiento" (Chain-of-Thought).
  2. Simple/Conversacional: Un prompt no estructurado y coloquial que simula a un usuario de respuesta rápida que busca información superficial.
• Condiciones Lingüísticas: Todos los prompts fueron administrados en tres idiomas: inglés, ucraniano y ruso.
• Medición: Se obligó a los modelos a asignar porcentajes de probabilidad explícitos a la "Posición A" (la posición histórica factual y reconocida internacionalmente) frente a la "Posición B" (la narrativa de desinformación rusa).
• Configuración: Todos los ensayos utilizaron decodificación codiciosa (greedy decoding) (temperatura, top-p y penalización de frecuencia establecidos en cero) con system prompts nulos para eludir los alineamientos de seguridad y revelar las tendencias puras del modelo. Cada consulta se repitió cinco veces para asegurar la estabilidad determinista.

Resultos Clave
El estudio identifica una "Paradoja del Ajuste Fino" que desmiente sistemáticamente la suposición de que la alineación cultural garantiza la resiliencia:

1. Deriva Contraintuitiva: El modelo orientado a Ucrania (Lapa) exhibió la resistencia más débil a la desinformación rusa, particularmente cuando se le consultó en ruso. En la condición experta en ruso, la probabilidad media de Lapa para la posición factual cayó al 50.5%, asignando a menudo la mayoría de la probabilidad a la narrativa de desificación (Posición B). Por el contrario, el modelo orientado a Rusia (Saiga) demostró la mayor capacidad de rechazo a la desinformación rusa, superando consistentemente al modelo base y a la variante ucraniana en favor de la precisión factual.
2. El Efecto del "Agente Oculto": El lenguaje de la consulta actúa como un interruptor direccional. Para Lapa, cambiar el idioma de la consulta de inglés a ucraniano y luego a ruso resultó en una deriva progresiva alejándose de la posición factual, lo que sugiere que, en ruso, el modelo vuelve por defecto a los datos de preentrenamiento en lengua rusa de su modelo base, los cuales pueden carecer de contra-narrativas robustas. Para Saiga, las consultas en ruso activaron un corpus rico en contra-propaganda, lo que condujo a puntuaciones factuales más altas.
3. el Varianza de la Estructura del Prompt: La interacción entre el formato del prompt y el comportamiento del modelo fue no lineal. En algunos casos (por ejemplo, la variante búlgara en ruso), cambiar de prompts analíticos a conversacionales causó un cambio de casi 90 puntos en las puntuaciones de desviación. En otros (por ejemplo, Gemma en ruso), el prompt analítico condujo a puntuaciones factuales más bajas que el prompt conversacional, indicando que el razonamiento estructurado a veces puede desacoplar el contenido argumentativo de la base de conocimiento subyacente del modelo.
4. Resiliencia Temática: No todos los temas fueron igualmente susceptibles a la deriva. Las narrativas sobre la negación de atrocidades (Bucha/Mariupol) y la anexión de Crimea mostraron una alta estabilidad en todos los modelos, probablemente debido a la densidad de la documentación legal internacional en los corpus de entrenamiento. En contraste, las narrativas sobre legitimidad de gobernanza ("desnazificación") e identidad nacional (la tesis de "un solo pueblo") mostraron la mayor varianza y susceptibilidad a la deriva ideológica.

Significado y Reivindicaciones
El artículo sostiene que la principal amenaza para la soberanía de la información regional no es necesariamente el ajuste fino adversarial en sí mismo, sino la suposición no probada de que la alineación cultural garantiza la resiliencia. Los hallazgos sugieren que:

• Composición del Corpus > Procedencia Cultural: La composición específica del corpus de ajuste fino (por ejemplo, la presencia de literatura de contra-propaganda en el discurso ruso frente a la ausencia de la misma en el discurso ucraniano) es un factor más decisivo en el output ideológico de un modelo que el objetivo cultural nominal del ajuste fino.
• El Lenguaje como Amplificador: El lenguaje de la consulta no solo recupera información; activa distribuciones ideológicas específicas y, a menudo, conflictivas dentro del modelo. Un modelo ajustado para una comunidad específica puede fallar en defender la narrativa de esa comunidad cuando se le consulta en un idioma donde su datos de entrenamiento son escasos o están dominados por fuentes adversarias.
• Implicaciones de Gobernanza: El estudio desafía la noción de que los modelos de pesos abiertos pueden desplegarse de forma segura en entornos de información contestados basándose únicamente en su procedencia cultural. Destaca cómo los modelos "sin guardia" pueden servir inadvertidamente como vectores de desinformación patrocinada por estados, no a través de una programación explícita, sino mediante la activación de sesgos latentes en los datos de entrenamiento cuando son activados por combinaciones específicas de lenguaje y prompts.

Los autores concluyen que asegurar los entornos de información requiere ir más allá de la suposición de la alineación cultural y centrarse en la curaduría rigurosa de los datos de entrenamiento para garantizar una documentación factual densa y de múltiples fuentes, particularmente para las narrativas geopolíticas de alto riesgo.