Resumen Técnico: Inferencia de la Disposición a Pagar a partir de Decisiones Subjetivas en Modelos de Lenguaje de Gran Escala

Planteamiento del Problema

A medida que los Modelos de Lenguaje de Gran Escala (LLM) se despliegan cada vez más como agentes autónomos en dominios como la asistencia de viajes y el soporte de compras, se requiere con frecuencia que tomen decisiones subjetivas donde no existe una respuesta objetivamente correcta. Una brecha crítica en la investigación actual es comprender si estos modelos poseen límites de decisión robustos e interpretables y qué tan susceptibles son estos límites a la manipulación mediante ingeniería de prompts o contexto del usuario. Específicamente, sigue sin estar claro hasta qué punto los LLM pueden exhibir preferencias latentes consistentes que puedan ser cuantificadas y comparadas con parámetros económicos humanos, y si estas preferencias pueden ser desplazadas sistemáticamente por variaciones simples en el prompt.

Metodología

El estudio adopta un marco económico basado en el modelado de elección discreta para inferir preferencias latentes a partir del comportamiento de los LLM. La metodología procede a través de las siguientes etapas:

1. Generación de Dilemas: Los autores construyeron 240 dilemas de elección basados en un estudio previo de Masiero et al. (2015) sobre la selección de habitaciones de hotel. Cada dilema presenta dos alternativas (A y B) definidas por siete atributos: Vista, Piso, Acceso al Club del Hotel, Minibar Gratuito, Smartphone para Huéspedes, Política de Cancelación y Precio por noche.
2. Diseño Experimental: El estudio evalúa tres LLM de última generación: Llama 3.3 70B, GPT-4o y Gemini-3.1-Pro. Se excluyeron los modelos más pequeños debido a su bajo poder explicativo y sesgos sistemáticos. Los experimentos se realizaron a una temperatura de 0 para minimizar el ruido estocástico, aunque se realizaron comprobaciones de robustez a 0.7.
3. Estrategias de Prompting: Los autores probaron cuatro configuraciones de prompting distintas para evaluar la Hipótesis 2 (Desplazamientos impulsados por el contexto):
   • Base (Baseline): Sin información del usuario proporcionada.
   • Aprendizaje en Contexto (ICL): Proporcionar ejemplos de elecciones pasadas del usuario (por ejemplo, elegir consistentemente opciones más baratas o más caras).
   • Prompting de Persona: Asignar un perfil de usuario específico (por ejemplo, un estudiante con presupuesto limitado frente a un viajero de negocios pagado por una empresa).
   • Combinado: Una combinación de persona y ejemplos de ICL.
4. Modelado de Datos: Las elecciones simuladas se analizaron mediante modelos logit multinomiales. La función de utilidad se definió como $U_c^{(i)} = \epsilon_c^{(i)} + \alpha_c + \beta_c \cdot x_c^{(i)}$. A partir de los coeficientes estimados ($\beta$), los autores derivaron los valores de Disposición a Pagar (WTP) para cada atributo utilizando la fórmula: $WTP_k = \frac{\beta_k \cdot \sigma_{price}}{\beta_{price} \cdot \sigma_k}$.
5. Análisis de Robustez: El estudio incluyó controles exhaustivos de sesgo de orden (intercambiando alternativas A y B), parafraseo de prompts, conversión de moneda (HKD frente a USD) y variaciones de temperatura.

Contribuciones Clave

El artículo realiza cuatro contribuciones primarias a la literatura sobre la elicitación de preferencias en IA:

• Cuantificación de las Preferencias de los LLM: Demuestra que se pueden derivar estimaciones de WTP significativas y económicamente interpretables para los LLM más grandes, proporcionando una visión estructurada de las tendencias de decisión del modelo que va más allá de las métricas de precisión estándar.
• Sensibilidad Contextual: Muestra empíricamente que el comportamiento de decisión de los LLM es altamente maleable. La inclusión de contexto específico del usuario (elecciones pasadas o personas) induce desplazamientos sistemáticos y direccionales en los valores de WTP, a menudo amplificándolos significativamente.
• Fragilidad del Prompt: El estudio destaca que los valores de WTP son sensibles a los cambios de representación, incluyendo la longitud del prompt, el encuadre de los atributos (positivo frente a neutral), el orden de presentación y la moneda.
• Identificación de Casos de Ruptura: Los autores identifican escenarios específicos donde la estimación de WTP falla, tales como cuando los modelos exhiben un sesgo de orden extremo, se adhieren a límites de decisión rígidos basados en reglas (ignorando compensaciones) o producen valores de WTP negativos debido a coeficientes de precio positivos.

Resultados Clave

Emergencia de Preferencia Estructural (Hipótesis 1)

Los modelos más grandes (Llama 3.3 70B, GPT-4o, Gemini-3.1-Pro) generalmente exhiben estimaciones de WTP interpretables con altos valores de pseudo-$R^2$, lo que indica que sus elecciones pueden ser racionalizadas por un modelo de elección discreta estándar. Sin embargo, se observaron desviaciones sistemáticas de los parámetros humanos (Masiero et al., 2015):

• Subvaloración: Los modelos generalmente asignaron un WTP menor a los atributos "Vista" y "Piso" en comparación con los participantes humanos.
• Sobrevaloración: Los modelos sobrevaloraron consistentemente el "Acceso al Club del Hotel", con estimaciones que oscilan entre 2x y 4x más altas que los parámetros humanos.
• Varianza de los Modelos: GPT-4o y Gemini-3.1-Pro generalmente mostraron un mayor poder explicativo ($R^2$) que Llama 3.3 70B, aunque todos los modelos mostraron cierto grado de sesgo de orden.

Desplazamientos de Valor Impulsados por el Contexto (Hipótesis 2)

Proporcionar contexto de usuario alteró significativamente las estimaciones de WTP:

• Desplazamientos Ascendentes: Condicionar a los modelos con preferencias "caras" (mediante ejemplos de ICL de elecciones de alto costo o una persona de "negocios") provocó incrementos dramáticos en el WTP. Por ejemplo, añadir tres ejemplos caros aumentó el WTP por "Acceso al Club" en factores de 6.4x (Llama), 8.5x (GPT-4o) y 10.07x (Gemini) respecto a la base.
• Desplazamientos Descendentes: Condicionar con preferencias "baratas" (persona de estudiante o ejemplos baratos) generalmente redujo el WTP. En casos extremos (Gemini-3.1-Pro con una persona de estudiante), el modelo colapsó a una regla de decisión de un solo atributo, seleccionando la habitación de menor precio independientemente de otras características, lo que imposibilitó la estimación del WTP.
• Efectos de Interacción: Combinar personas con ejemplos de ICL a menudo amplificó estos efectos, llevando a valoraciones más extremas para la persona de negocios y valoraciones más realistas (aunque también desplazadas) para la persona de estudiante en Llama 3.3 70B.

Desplazamientos Dependientes del Prompt (Hipótesis 3)

El estudio confirmó que los valores de WTP no son estables ante variaciones en el prompt:

• Sensibilidad del Encuadre (Framing): Acortar la descripción de "Acceso al Club" redujo su WTP en aproximadamente un 50%, mientras que expandir la descripción de "Vista" duplicó o cuadriplicó su WTP dependiendo del modelo.
• Sesgo de Orden: Aunque se redujo en los modelos más grandes en comparación con los más pequeños, el sesgo de orden persistió, con constantes específicas de la alternativa permaneciendo estadísticamente significativas.
• Moneda y Temperatura: Los modelos mostraron relativa robustez ante cambios de moneda (USD frente a HKD) y variaciones de temperatura (0 frente a 0.7), aunque Llama 3.3 70B exhibió una mayor varianza que Gemini-3.1-Pro.

Significado e Implicaciones Prácticas

El artículo concluye que, si bien los LLM más grandes pueden generar valores de WTP interpretables, no son optimizadores de preferencias autónomos y fiables para la toma de decisiones subjetivas sin salvaguardas. La importancia de estos hallazgos reside en las siguientes implicaciones prácticas:

1. Transparencia y Auditoría: La metodología propuesta ofrece una herramienta para auditar el comportamiento de decisión de los LLM, revelando si las recomendaciones están impulsadas por preferencias de atributos o por heurísticas como el sesgo de orden.
2. Selección de Modelos: Los profesionales deben evitar el uso de modelos más pequeños para el soporte de decisiones subjetivas debido a su susceptibilidad al sesgo de orden y su bajo poder explicativo. Incluso los modelos más grandes requieren un monitoreo cuidadoso.
3. Gestión del Contexto: La adición de información del usuario (personas o historial) debe manejarse con extrema precaución, ya que puede inducir comportamientos de valoración extremos que divergen significadamente de las normas humanas.
4. Vulnerabilidad del Encuadre: La sensibilidad al encuadre positivo sugiere que los asistentes basados en LLM pueden ser manipulados por proveedores para sobrevalorar características específicas. Los sistemas deben estar "protegidos" contra tal encuadre.
5. Humano en el Bucle (Human-in-the-Loop): Dados los casos de ruptura identificados (por ejemplo, WTP negativo, seguimiento de reglas rígidas), los autores argumentan en contra de la autonomía total para los agentes de viajes de LLM. En su lugar, el despliegue debe incluir salvaguardas, aleatorización del orden y supervisión humana para detectar compensaciones incoherentes.

El estudio enfatiza que las preferencias derivadas de los LLM dependen del modelo y son altamente sensibles al diseño del prompt, lo que sugiere que los futuros despliegues en entornos de agentes deben priorizar las comprobaciones de robustez y los mecanismos de humano en el bucle sobre la delegación sin restricciones.