Uncertainty Quantification of Click and Conversion Estimates for the Autobidding

Este artículo presenta DenoiseBid, un método basado en un enfoque bayesiano que corrige las estimaciones ruidosas de CTR y CVR para optimizar la eficiencia de los algoritmos de puja automática en plataformas de comercio electrónico, validado mediante experimentos en diversos conjuntos de datos.

Lo esencial

Imagina que eres el director de una campaña publicitaria gigante en internet, como en una plataforma de ventas enorme. Tu objetivo es simple: conseguir que la gente compre tu producto (conversiones) sin gastar más dinero del que tienes en el presupuesto.

Para lograr esto, usas un "robot" (un algoritmo de puja automática) que decide cuánto pagar por cada anuncio que aparece. Pero aquí está el problema: el robot no es un vidente perfecto.

El Problema: El Robot con Gafas de Niebla

El robot necesita dos datos clave para tomar decisiones:

1. CTR (Probabilidad de Clic): ¿Qué probabilidad hay de que alguien haga clic en el anuncio?
2. CVR (Probabilidad de Conversión): ¿Qué probabilidad hay de que, tras hacer clic, compren el producto?

El problema es que el robot adivina estos números basándose en modelos de inteligencia artificial. A veces, la "niebla" de la incertidumbre es tan densa que el robot cree que un anuncio es un éxito seguro cuando en realidad es un fracaso, o viceversa.

Si el robot se equivoca en sus predicciones, empieza a gastar tu dinero de forma desastrosa:

• Si cree que algo es mejor de lo que es, pujará demasiado y gastará tu presupuesto en vano.
• Si cree que algo es peor, no pujará y perderá ventas que podría haber ganado.

En el mundo real, estas predicciones nunca son 100% exactas; siempre tienen "ruido" o error.

La Solución: DenoiseBid (El "Denoiser" de las Predicciones)

Los autores del paper proponen un nuevo método llamado DenoiseBid. Para entenderlo, usemos una analogía culinaria:

Imagina que estás cocinando una sopa y necesitas saber si está salada.

• El método antiguo (No Robust): Pruebas la sopa con una cuchara llena de agua sucia. Si la cuchara tiene mucha agua, el sabor se diluye y no sabes si realmente está salada. Basas tu decisión (añadir más sal o no) en ese gusto falso.
• El método Robust (RobustBid): Como no confías en la cuchara, decides no añadir nada de sal por miedo a que esté muy salada. La sopa queda insípida, pero al menos no te arriesgas a que esté salada. Es seguro, pero aburrido.
• El método DenoiseBid: En lugar de probar la sopa directamente, usas un filtro especial. Sabes que tu cuchara suele tener un poco de agua (ruido). Usas un filtro matemático (Bayesiano) que "limpia" el agua de la cuchara y te dice: "Oye, aunque la cuchara estaba sucia, la sopa en realidad está perfectamente salada".

DenoiseBid hace exactamente esto con los datos:

1. Reconoce que las predicciones del robot tienen "ruido" (incertidumbre).
2. En lugar de usar el número "sucio" directamente, calcula cuál es la probabilidad real detrás de ese número, basándose en cómo se comportan los datos en el pasado.
3. Limpia la predicción y le dice al robot: "No pujes por el número que te dio el modelo, puja por el número real que hemos deducido".

¿Cómo funciona mágicamente? (La Analogía del Mapa)

Imagina que el robot tiene un mapa del tesoro (los datos históricos) y una brújula defectuosa (el modelo de IA actual).

• La brújula te dice: "El tesoro está a 10 metros al norte". Pero sabes que la brújula a veces se desvía 2 metros.
• DenoiseBid no ignora la brújula, ni tampoco la cree ciegamente. Combina la lectura de la brújula con el mapa histórico para decir: "Probablemente el tesoro está a 9 metros al norte".

El método utiliza una técnica estadística llamada Desconvolución Extrema (XDGMM). Piensa en esto como un "reconstruidor de imágenes borrosas". Si tienes una foto borrosa de un paisaje, este algoritmo intenta adivinar cómo se veía el paisaje original antes de que la cámara temblara, usando patrones que ya conoce.

Los Resultados: ¿Funciona?

Los autores probaron su método en cuatro escenarios diferentes (datos falsos para probar la teoría y datos reales de plataformas de publicidad).

• El resultado: El método DenoiseBid logró conseguir más ventas (conversiones) que los métodos antiguos, sin violar las reglas de presupuesto.
• La clave: Mientras que los otros métodos o bien gastaban demasiado (porque creían ciegamente en predicciones erróneas) o gastaban muy poco (por miedo), DenoiseBid encontró el punto dulce: gastó el dinero justo donde era más efectivo, "limpiando" el ruido de las predicciones.

En Resumen

DenoiseBid es como un filtro de realidad para los robots de publicidad. Les ayuda a ver a través de la niebla de la incertidumbre, permitiéndoles tomar decisiones de compra más inteligentes, gastar el presupuesto de forma más eficiente y conseguir más ventas reales, todo sin romper las reglas del juego.

Es una forma de decirle al robot: "No te preocupes por el ruido, yo te ayudo a escuchar la señal real".

Resumen técnico

Resumen Técnico: DenoiseBid

1. El Problema

Las plataformas de comercio electrónico modernas utilizan mecanismos de subasta automatizados (como la Subasta de Segundo Precio o SPA) para asignar espacios publicitarios. Para escalar esto a millones de subastas diarias, se emplean sistemas de puja automática (autobidding) que calculan ofertas óptimas basadas en estimaciones de Tasa de Clics (CTR) y Tasa de Conversión (CVR) generadas por modelos de aprendizaje automático.

• Desafío Central: Las predicciones de estos modelos son inherentemente inciertas (ruidosas). En el enfoque tradicional, los errores de estimación en el CTR y CVR se propagan linealmente a la oferta (bid), lo que puede llevar a una asignación de presupuesto subóptima y violaciones de las restricciones de costo por clic (CPC) del anunciante.
• Limitación de Métodos Previos:
  • Las estrategias no robustas ignoran la incertidumbre y fallan cuando el ruido es alto.
  • Los métodos de optimización robusta (como RobustBid) suelen utilizar conjuntos de incertidumbre estáticos o discretizar las distribuciones, perdiendo información valiosa sobre la incertidumbre específica de cada predicción y sin aprovechar las estimaciones de incertidumbre calibradas de los modelos modernos.

2. Metodología: DenoiseBid

Los autores proponen DenoiseBid, un método de puja automática basado en un enfoque bayesiano. La idea central es reemplazar las estimaciones ruidosas de CTR y CVR por sus esperanzas posteriores (posterior expectations) condicionadas a las observaciones del modelo y una distribución a priori recuperada de datos históricos.

Componentes Clave:

• Formulación Estocástica:

  • En lugar de maximizar la conversión esperada con valores deterministas, el problema se reformula para maximizar la esperanza condicional de las conversiones reales dadas las observaciones ruidosas ($O$).
  • Se utiliza una aproximación de Taylor de primer orden para manejar la restricción de CPC (una relación de expectativas), permitiendo reducir el problema estocástico a un problema de Programación Lineal (LP) canónico.
  • La fórmula de oferta óptima resultante depende de las esperanzas posteriores: $E[CTR_t | O]$ y $E[CTR_t \cdot CVR_t | O]$.

• Modelado de Ruido y Distribuciones:

  • Espacio Logit: Dado que CTR y CVR están en $[0, 1]$, el ruido se modela en el espacio logit ($\xi = \ln(\frac{p}{1-p})$) asumiendo que es aditivo y sigue una distribución normal: $\hat{\xi} = \xi + \epsilon$, donde $\epsilon \sim N(0, \sigma^2)$.
  • Priori de Mezcla Gaussiana: Para capturar la complejidad y multimodalidad de las distribuciones reales de CTR/CVR, se modela la distribución a priori de los logits como una Mezcla de Gaussianas (Gaussian Mixture).

• Recuperación de la Distribución A Priori (XDGMM):

  • Como no se conocen los valores reales (ground-truth) de los logits, solo las estimaciones ruidosas, el método utiliza la técnica de Desconvolución Extrema (Extreme Deconvolution - XDGMM).
  • XDGMM estima los parámetros de la mezcla gaussiana (pesos, medias, varianzas) maximizando la verosimilitud de las observaciones ruidosas, teniendo en cuenta las varianzas de ruido individuales de cada muestra.

• Escenarios de Incertidumbre:

  1. Solo CTR: Se asume independencia entre CTR y CVR. Se deriva una expresión cerrada para la esperanza posterior utilizando una aproximación probit para la integral de la función sigmoide.
  2. Incertidumbre Conjunta (CTR-CVR): Se modela la correlación entre CTR y CVR mediante una Mezcla Gaussiana Bivariada en el espacio logit. Para calcular la esperanza del producto de dos sigmoideas correlacionadas, se utiliza la cuadratura de Gauss-Hermite tras una descomposición de Cholesky de la matriz de covarianza posterior.

3. Contribuciones Principales

1. Formulación Teórica: Se establece formalmente el problema de puja automática bajo valores ruidosos de CTR/CVR y se deriva una regla de puja en forma cerrada basada en esperanzas bayesianas.
2. Algoritmo DenoiseBid: Desarrollo de un método práctico que recupera la distribución a priori de CTR/CVR de observaciones ruidosas mediante XDGMM y calcula ofertas "desruidadas" (denoised bids) de manera eficiente.
3. Validación Empírica: Extensa evaluación en cuatro conjuntos de datos (Sintético, iPinYou, BAT y Criteo Attribution) bajo ruido sintético y ruido empírico, demostrando mejoras consistentes.

4. Resultados Experimentales

Los experimentos compararon DenoiseBid contra una estrategia no robusta (basada en LP estándar) y RobustBid (optimización robusta).

• Rendimiento bajo Ruido Sintético:

  • A medida que aumenta el ruido ($\sigma$), la estrategia no robusta viola las restricciones de CPC y pierde eficiencia.
  • RobustBid cumple las restricciones pero sacrifica significativamente el volumen de conversiones (baja relación $R/R^*$).
  • DenoiseBid logra el mejor equilibrio: mantiene un volumen de conversiones cercano al óptimo y cumple estrictamente con las restricciones de CPC, mostrando la mayor estabilidad.

• Rendimiento bajo Ruido Empírico (Criteo Attribution):

  • Se simuló ruido variando la escala de los datos de entrenamiento y eliminando características.
  • La configuración de DenoiseBid con mezcla gaussiana en el espacio logit demostró mejoras estadísticamente significativas en la reducción de la desviación del CPC y aumentos en las conversiones, superando consistentemente a los baselines en múltiples escenarios de ruido.

5. Significado e Impacto

• Modelo-Agnóstico: A diferencia de métodos anteriores que restringen el modelo predictivo a familias paramétricas específicas, DenoiseBid funciona con cualquier modelo que pueda proporcionar estimaciones de incertidumbre (como ensembles o modelos bayesianos).
• Eficiencia Computacional: A pesar de la complejidad bayesiana, el método mantiene reglas de puja en forma cerrada y utiliza aproximaciones numéricas rápidas (cuadratura Gauss-Hermite con pocos nodos), haciéndolo viable para sistemas de puja en tiempo real.
• Gestión de Riesgo: Proporciona un marco riguroso para incorporar la incertidumbre de los modelos de ML en la toma de decisiones de negocio, mejorando la robustez de las campañas publicitarias sin sacrificar el rendimiento.

En conclusión, el artículo presenta una solución elegante y práctica al problema de la propagación de errores en la puja automática, demostrando que tratar las predicciones como variables aleatorias y corregirlas mediante inferencia bayesiana mejora tanto la eficiencia económica como el cumplimiento de restricciones.