Measuring Distribution Shift in User Prompts and Its Effects on LLM Performance

1. El Problema

Los Grandes Modelos de Lenguaje (LLM) se despliegan cada vez más en entornos dinámicos y del mundo real. Sin embargo, la distribución de los prompts (instrucciones) que los usuarios envían a estos modelos cambia naturalmente con el tiempo, entre diferentes grupos de usuarios y según la ubicación geográfica. Este fenómeno, denominado cambio de distribución natural de prompts (natural prompt distribution shift), representa un desafío crítico para la fiabilidad y seguridad de los modelos.

A pesar de la atención existente en la robustez fuera de distribución (OOD), existe una falta de exploración sobre cómo medir estos cambios naturales en prompts reales y cómo afectan específicamente a los LLM desplegados. Los modelos entrenados en datos históricos pueden volverse obsoletos rápidamente cuando el comportamiento de los usuarios evoluciona, lo que lleva a una degradación significativa del rendimiento y a una insatisfacción del usuario.

2. Metodología: El Framework LENS

Para abordar este problema, los autores introducen LENS (LLM Evaluation under Natural prompt Shift), un enfoque centrado en los datos para cuantificar el cambio de distribución y evaluar su impacto.

A. Recopilación y Estructuración de Datos

• Fuente de Datos: Utilizan WildChat, un conjunto de datos de 1 millón de consultas de usuarios reales enviadas a modelos de OpenAI.
• Configuración de Experimentos: Crearon 192 escenarios de cambio de distribución {ID, OOD} (Dentro de Distribución, Fuera de Distribución) a lo largo de tres ejes:
  1. Tiempo: Comparación de prompts de meses anteriores (entrenamiento) contra prompts de meses posteriores (evaluación).
  2. Grupos de Usuarios: Segmentación basada en la etapa de adopción (temprana, media, tardía) y el volumen de consultas (bajo, medio, alto).
  3. Geografía: Comparación entre diferentes regiones (ej. California, París, Tokio).
• Datos de Entrenamiento vs. Evaluación:
  • ID (In-Distribution): Datos de entrenamiento representativos del periodo/grupo anterior.
  • OOD (Out-of-Distribution): Datos de evaluación del periodo/grupo futuro o diferente.
  • Modelo Oráculo: Un modelo fine-tuneado con datos de la misma distribución que la evaluación (OOD), utilizado como referencia de rendimiento máximo posible.

B. Modelos y Entrenamiento

• Se entrenaron 81 modelos en total utilizando 3 modelos base de código abierto: Qwen2.5-7B, Qwen2.5-14B y Llama3-8B.
• Se utilizaron 4.68 millones de prompts para el entrenamiento y 57.6k prompts para la evaluación.
• Se empleó Fine-tuning Supervisado (SFT) con LoRA (Low-Rank Adaptation) para adaptar los modelos base a los datos de instrucción específicos de cada escenario.

C. Métricas de Evaluación

1. Medición del Cambio de Distribución (RQ1): Se utilizaron medidas no supervisadas para cuantificar la divergencia entre los prompts de entrenamiento y evaluación:
   • MAUVE: Mide la divergencia en un espacio de embeddings cuantizado (captura errores Tipo I y II).
   • Puntaje $\Delta$ (Delta): Basado en la profundidad estadística para medir la representatividad de una distribución sobre otra.
   • Perplejidad: Evalúa qué tan "sorprendentes" son los nuevos prompts para el modelo entrenado.
   • BLEU: Mide la superposición léxica (n-gramas) entre distribuciones.
2. Evaluación de Rendimiento (RQ2): Se comparó el modelo ID contra el modelo Oráculo en los prompts OOD.
   • Tasa de Pérdida (Loss Rate): Porcentaje de comparaciones donde el modelo ID perdió contra el Oráculo (evaluado mediante GPT-4o como juez).

3. Contribuciones Clave

• Framework LENS: La primera metodología sistemática y controlada para evaluar LLMs bajo cambios de distribución de prompts naturales en escenarios de despliegue real, en lugar de cambios sintéticos o de tarea específica.
• Escala sin precedentes: La evaluación a gran escala abarcando 192 configuraciones, 3 modelos de diferentes tamaños y familias, y múltiples ejes de variación (tiempo, usuario, geografía).
• Análisis Causal: Aislamiento del efecto del cambio de distribución de los prompts, manteniendo fijos el modelo base, el tamaño del conjunto de datos y los procedimientos de entrenamiento.

4. Resultados Principales

A. Magnitud del Cambio de Distribución (RQ1)

• Se observaron cambios significativos en la distribución de los prompts en los tres ejes.
• Geografía: Presentó el cambio más fuerte (MAUVE promedio de 0.05 vs. un baseline aleatorio de 0.96), indicando que las diferencias culturales y lingüísticas alteran drásticamente la estructura de los prompts.
• Tiempo: Mostró un cambio moderado pero sustancial (MAUVE promedio de 0.54), sugiriendo que los usuarios evolucionan sus estilos de interacción (de exploratorios a más estructurados y con restricciones de formato).
• Grupos de Usuarios: Aunque mostró el cambio menor entre los tres, aún fue medible (MAUVE de 0.61), indicando diferencias sistemáticas entre usuarios tempranos/voluminosos y tardíos.

B. Degradación del Rendimiento (RQ2)

• Existe una correlación directa entre la magnitud del cambio de distribución y la caída en el rendimiento.
• Pérdida Masiva: Los modelos sufrieron una pérdida promedio de rendimiento del 73% en escenarios OOD naturales.
  • Tiempo: ~44% de tasa de pérdida.
  • Grupos de Usuarios: ~88% de tasa de pérdida.
  • Geografía: ~88% de tasa de pérdida.
• Falta de Transferencia: La capacidad de seguir instrucciones aprendida en un grupo o periodo no se transfiere naturalmente a otros. Los modelos entrenados en un grupo específico fallaron estrepitosamente al interactuar con nuevos usuarios o en nuevas ubicaciones.
• Robustez del Modelo: La degradación fue consistente a través de diferentes tamaños de modelos (7B, 14B) y familias (Qwen, Llama), lo que sugiere que el problema no se resuelve simplemente aumentando el tamaño del modelo.

C. Análisis Cualitativo

• Tiempo: Los prompts evolucionaron de ser casuales a ser más estructurados, con instrucciones explícitas de formato (ej. "usa markdown", "sigue esta plantilla").
• Usuarios: Los usuarios de alto volumen tienden a usar prompts repetitivos y plantillas (integración en flujos de trabajo), mientras que los de bajo volumen son más diversos.
• Geografía: Se observaron diferencias culturales y de dialecto, incluso dentro del idioma inglés, así como mezclas de código.

5. Significado e Implicaciones

• Monitoreo Basado en Datos: El estudio demuestra que el monitoreo pasivo no es suficiente; se requieren sistemas activos para detectar cambios en la distribución de los prompts en tiempo real.
• Reentrenamiento Continuo: La capacidad de seguir instrucciones no es estática. Los modelos desplegados requieren estrategias de actualización continua (continual learning) o fine-tuning periódico con datos recientes para mantener la fiabilidad.
• Evaluación Realista: Las evaluaciones actuales de LLMs a menudo asumen distribuciones estacionarias. Este trabajo aboga por incluir pruebas de robustez bajo cambios naturales de distribución como un estándar para el despliegue de modelos en producción.
• Riesgo de Sesgo Geográfico y Demográfico: La alta tasa de fallo en cambios geográficos y de grupos de usuarios subraya el riesgo de que los modelos funcionen bien solo para el "usuario promedio" del conjunto de datos de entrenamiento, fallando en poblaciones diversas.

En conclusión, el trabajo de Seegmiller y Preum revela que la evolución natural del comportamiento humano frente a los LLMs es una amenaza crítica para su rendimiento a largo plazo, y que sin mecanismos de adaptación específicos, la utilidad de estos modelos en entornos dinámicos se verá severamente comprometida.