Resumen Técnico: AMEL (Efectos de Mensajes Acumulados en los Juicios de los LLM)

Enunciado del Problema

Los modelos de lenguaje grandes (LLM) se despliegan cada vez más como jueces automatizados para tareas como la revisión de código, la moderación de contenido y la puntuación. En entornos de producción, la eficiencia a menudo dicta que múltiples elementos sean evaluados dentro de una sola sesión de conversación, creando un historial de juicios previos. Este artículo investiga si la polaridad de este historial de conversación previo sesga los juicios subsiguientes. Los autores definen este fenómeno como el Efecto de Mensajes Acumulados en los Juicios de los LLM (AMEL).

El estudio distingue AMEL de conceptos relacionados:

• Sycophancy (Adulación): A diferencia de la adulación, donde los modelos están de acuerdo con las opiniones del usuario, AMEL ocurre cuando un modelo se conforma con su propio patrón previo de respuestas sin opinión externa del usuario.
• Sesgo de Etiqueta Mayoritaria: A diferencia del sesgo de clasificación con pocos ejemplos donde ejemplos formateados distorsionan las predicciones, AMEL surge de intercambios completos de preguntas y respuestas sobre diversos temas.
• Anclaje: A diferencia del anclaje, no hay un punto de referencia numérico explícito; el sesgo surge del tono agregado de la conversación.

Metodología

El estudio emplea un diseño experimental entre sujetos que involucra 75,898 llamadas a la API a través de 11 modelos de cuatro proveedores (OpenAI, Anthropic, Google y modelos locales de código abierto).

Diseño Experimental

• Condiciones: Los mismos elementos de prueba se presentaron bajo cuatro condiciones:
  1. Línea Base: El elemento sigue solo el prompt del sistema (sin historial).
  2. No Saturado: El elemento sigue $N$ turnos previos donde el 90% de las evaluaciones fueron "no" (negativo).
  3. Sí Saturado: El elemento sigue $N$ turnos previos donde el 90% de las evaluaciones fueron "sí" (positivo).
  4. Neutro: El elemento sigue $N$ turnos previos con una división 50/50.
• Longitud del Contexto ($N$): Variada entre $\{5, 10, 20, 50\}$ turnos para probar la acumulación.
• Dominios: Se probaron tres dominios de evaluación binaria:
  1. Revisión de Código: "¿Este código está listo para producción?"
  2. Moderación de Contenido: "¿Es apropiado este comentario?"
  3. Evaluación Nutricional: "¿Es esta una opción saludable?"
• Elementos de Prueba: Cada dominio incluyó 21 elementos categorizados como Positivo Claro, Ambiguo y Negativo Claro.
• Puntuación de Sesgo (BS): Definida como $P(r^*|\text{tratamiento}) - P(r^*|\text{línea base})$, donde $r^*$ es la respuesta objetivo para la condición de polaridad. Una puntuación negativa indica un desplazamiento hacia "no" (el sesgo negativo dominante observado).

Modelos Probados

El estudio abarcó una gama de escalas y arquitecturas, incluyendo GPT-4.1 Nano, GPT-5.2, Claude Haiku/Sonnet/Opus, Gemini 2.5 Flash/Pro, y modelos locales (Llama 3.2, Qwen3/3.5). Todos los modelos de API utilizaron una temperatura de $T=1.0$.

Hallazgos Clave

1. Existencia y Magnitud de AMEL

En los 11 modelos, el historial de conversación desplaza significativamente las respuestas hacia la polaridad predominante del historial, con un tamaño de efecto global de $d = -0.17$ ($p < 10^{-46}$). Esto indica una deriva sistemática hacia "no" independientemente de si el historial fue predominantemente positivo, negativo o neutral. Nueve de los once modelos mostraron un sesgo significativo después de la corrección de Bonferroni.

2. Susceptibilidad e Incertidumbre

El efecto no es uniforme; se concentra en elementos donde el modelo es genuinamente incierto en la línea base.

• Elementos de Alta Entropía: Elementos donde la probabilidad de línea base del modelo $P(\text{sí})$ es no determinista absorben aproximadamente 2× más sesgo ($d = -0.34$) que elementos donde la línea base es determinista ($d = -0.15$).
• Implicación Práctica: Los elementos más vulnerables a AMEL son los casos limítrofes donde la evaluación imparcial es más crítica.

3. Asimetría de Negatividad

Los historiales negativos inducen un sesgo significativamente más fuerte que los historiales positivos.

• Magnitud: Los contextos negativos producen un desplazamiento por elemento 1.62× más fuerte que los contextos positivos ($t = 13.46, p < 10^{-39}$).
• Historial Neutro: Incluso un historial equilibrado (50/50) produce un desplazamiento negativo, lo que sugiere que la mera presencia de un contexto evaluativo desencadena un modo más crítico independiente de la polaridad del contenido.

4. Saturación y Longitud del Contexto

El sesgo no crece linealmente con la longitud del contexto.

• Saturación Inmediata: Cinco turnos de historial sesgado producen el mismo desplazamiento que cincuenta turnos ($Spearman |r| < 0.01, p > 0.94$).
• Mecanismo: El modelo detecta el patrón predominante rápidamente y alcanza un equilibrio; ejemplos adicionales no fortalecen el sesgo.

5. Escalado de Modelos y Varianza

• Escalado: Los modelos más grandes dentro de las familias de proveedores generalmente muestran menos sesgo (por ejemplo, Anthropic Haiku $d=-0.22$ vs. Opus $d=-0.17$), pero ninguno es inmune.
• Excepciones:
  • Gemini: La tendencia se invirtió para los modelos de Google, mostrando Gemini 2.5 Pro más sesgo que Flash, posiblemente debido a que los tokens de "pensamiento" amplifican el reconocimiento de patrones.
  • Qwen: Qwen3 4B exhibió un sesgo contrario significativo (desviándose del historial), posiblemente debido a que el ajuste de instrucciones penaliza la repetición.

6. Mecanismos y Caracterización

Tres experimentos de seguimiento estrecharon los mecanismos plausibles:

• Desplazamiento Continuo: El análisis de logprobs confirmó que AMEL es un desplazamiento continuo en la distribución de probabilidad de los tokens, no un artefacto de umbral.
• Fuentes de Token vs. Semánticas: La asimetría de negatividad tiene componentes tanto a nivel de token como semánticos. En GPT-4.1 Nano, el propio token "no" parece pegajoso; en Llama 3.2 3B, el concepto de "rechazo" (semántico) impulsa la asimetría.
• Independencia de Posición: La posición de los turnos sesgados dentro de un historial de 50 turnos (inicio, final o disperso) no importa; cualquier cinco turnos sesgados son suficientes para producir el efecto completo.

Significado y Recomendaciones

El artículo argumenta que AMEL representa una vulnerabilidad fundamental en las tuberías de evaluación de LLM de múltiples turnos. Los autores concluyen que el escalado por sí solo no resuelve el problema, ya que incluso los modelos de vanguardia siguen siendo susceptibles.

Recomendaciones Prácticas:

1. Contextos Frescos: La mitigación principal es evaluar cada elemento en una conversación nueva sin historial previo, eliminando el canal de sesgo por completo.
2. Agrupación Equilibrada: Si la agrupación es inevitable, los elementos deben aleatorizarse y equilibrarse (intercalando resultados esperados de "sí" y "no") para evitar una deriva de polaridad de realimentación propia.
3. Proteger Elementos Inciertos: Priorizar contextos frescos para elementos donde la incertidumbre de línea base del modelo es alta.
4. Corrección en Tiempo de Ejecución: Para sistemas donde los contextos frescos no son viables, se pueden usar detectores de sesgo de historial de respuestas (por ejemplo, puntuación B) o correcciones basadas en logprobs para detectar y corregir parcialmente la deriva.

El estudio enfatiza que, aunque el tamaño del efecto es moderado en general, su concentración en elementos ambiguos representa un riesgo significativo para la fiabilidad de la evaluación automatizada en dominios de alto riesgo.