Resumen Técnico: Optimización Bayesiana Aumentada con Elicitación (EA-BO)

Enunciado del Problema

La Optimización Bayesiana (BO) es un marco eficiente en muestras para optimizar funciones de caja negra costosas. Si bien los métodos de BO con Humano en el Bucle (HITL) buscan mejorar la eficiencia de costos aprovechando la experiencia de dominio, los enfoques existentes suelen asumir que los expertos pueden cuantificar explícitamente sus conocimientos (por ejemplo, especificando distribuciones previas o señalando ubicaciones de consultas). Sin embargo, la experiencia humana es a menudo tácita y cualitativa; los humanos son generalmente más fiables al clasificar candidatos que al asignar valores numéricos calibrados.

Este artículo aborda el desafío de incorporar conocimientos expertos tácitos en BO mediante comparaciones por pares (clasificar dos diseños) en lugar de una cuantificación directa. El problema central es desarrollar un método que:

1. Combine evaluaciones directas de la función (costosas, de alta fidelidad) con comparaciones por pares (baratas, de menor fidelidad, ruidosas).
2. Maneje tanto la optimización de un solo objetivo como la de múltiples objetivos bajo una función de utilidad conocida.
3. Asigne dinámicamente un presupuesto fijo entre estas dos fuentes de información basándose en sus costos relativos e informatividad.

Metodología

1. Modelo Sustituto: GP Variacional Escaso con Verosimilitud Mixta

Los autores proponen un modelo sustituto de Proceso Gaussiano (GP) que trata tanto las observaciones directas como las comparaciones por pares como evidencia ruidosa sobre la función objetivo $f$.

• Observaciones Directas: Modeladas con una verosimilitud gaussiana estándar: $y = f(x) + \epsilon_{eval}$.
• Comparaciones por Pares: Modeladas utilizando una función de enlace probit. Un juicio binario $d \in \{0, 1\}$ indica si $x$ está clasificado por encima de $x'$ basándose en la diferencia de utilidad $\Delta = U(f(x)) - U(f(x'))$. La verosimilitud es $p(d=1) = \Phi\left(\frac{\Delta}{\sqrt{2}\sigma_{comp}}\right)$.
• Inferencia: El modelo emplea Inferencia Variacional Escasa (SVGP) para aproximar la posterior. La Cota Inferior de la Evidencia (ELBO) es descomponible en términos separados para observaciones y comparaciones.
  • El término de observación admite una solución gaussiana de forma cerrada.
  • El término de comparación implica una esperanza de $\log \Phi(\cdot)$. Para funciones de utilidad lineales, la diferencia de utilidad es gaussiana, lo que permite calcular la esperanza mediante cuadratura de Gauss–Hermite unidimensional. Las utilidades no lineales se manejan mediante ajuste de momentos.

2. Función de Adquisición: Valor de la Información (VoI) Consciente del Costo

El método adopta una estrategia miope de un paso de anticipación para seleccionar la siguiente acción. El espacio de acciones incluye tanto evaluaciones directas ($x \in \mathcal{X}$) como consultas por pares ($(x, x') \in \mathcal{X}^2$).

• Objetivo: Maximizar el Valor de la Información normalizado por costo: $\frac{\alpha(a; D)}{c(a)}$, donde $\alpha$ es la ganancia de utilidad esperada y $c(a)$ es el costo.
• VoI de Evaluación Directa ($\alpha_{eval}$): Se reduce al Gradiente de Conocimiento para utilidades lineales. Se optimiza utilizando una reformulación "de un solo disparo" con puntos fantasma.
• VoI de Comparación por Pares ($\alpha_{comp}$): Los autores derivan una actualización de posterior fantasma de forma cerrada bajo la verosimilitud probit para objetivos de múltiples salidas con utilidad conocida. Esto extiende el gradiente de conocimiento por pares (Wu y Gardner, 2026) al caso de múltiples salidas. El VoI se calcula exactamente como una esperanza discreta sobre el resultado binario, evitando la aproximación de Monte Carlo para el paso de comparación.
• Optimización: Ambas funciones de adquisición se optimizan conjuntamente con las entradas candidatas utilizando la reformulación de un solo disparo y el optimizador Adam.

Contribuciones Clave

1. GP Variacional Escaso con Verosimilitud Mixta: Un método principiado para actualizar una posterior de GP acoplando una verosimilitud de observación gaussiana con una verosimilitud de comparación probit, generando una ELBO descomponible con términos tratables.
2. Regla de Adquisición Consciente del Costo: Derivación de una actualización de media posterior de forma cerrada bajo comparaciones probit para objetivos de múltiples salidas, lo que permite una función de adquisición VoI normalizada por costo que equilibra evaluaciones directas y consultas por pares sin programación manual.
3. Marco Unificado: Un único algoritmo (EA-BO) que maneja tanto la optimización de un solo objetivo como la de múltiples objetivos de manera uniforme, tratando las clasificaciones por pares como evidencia sobre los valores observables de la función objetivo.

Resultados Experimentales

El método, denominado Optimización Bayesiana Aumentada con Elicitación (EA-BO), se evaluó en estándares de un solo objetivo y múltiples objetivos (Branin, Hartmann6, BraninCurrin, VLMOP2) con funciones de utilidad lineales y de Chebyshev.

• Rendimiento vs. Fuente Única: EA-BO se aproxima a la envolvente convexa de las trayectorias de las fuentes de información individuales.
  • Cuando las comparaciones por pares son baratas (por ejemplo, 5 veces más baratas que las evaluaciones), EA-BO asigna la mayor parte del presupuesto inicial a las comparaciones, logrando una convergencia inicial rápida comparable a los métodos que solo usan comparaciones (KG-Comp).
  • A medida que la posterior se afina o las comparaciones se vuelven ruidosas, EA-BO se desplaza hacia evaluaciones directas, recuperando la precisión asintótica de la BO solo con evaluaciones (KG-Eval).
• Rendimiento vs. Líneas Base HITL: EA-BO supera sustancialmente a CoExBO (Adachi et al., 2024), el método HITL existente más cercano que utiliza comparaciones por pares. A diferencia de CoExBO, que usa comparaciones para guiar la selección de candidatos mediante un modelo auxiliar, EA-BO las incorpora directamente como evidencia de verosimilitud.
• Sensibilidad:
  • Relación de Costos: EA-BO abandona automáticamente las comparaciones cuando son más costosas que las evaluaciones y aumenta la asignación a medida que crece la relación de costos.
  • Ruido: El método prioriza las comparaciones cuando son informativas. A medida que aumenta el ruido de las comparaciones, el algoritmo se desplaza progresivamente hacia evaluaciones directas. Curiosamente, a niveles de ruido moderados, se produce una caída no monótona en el rendimiento porque el VoI miope aún asigna un valor positivo a las comparaciones ruidosas antes de abandonarlas por completo a niveles altos de ruido.

Significado y Afirmaciones

El artículo afirma que EA-BO ofrece un marco robusto y adaptativo para aprovechar la experiencia humana tácita en BO. Su significado principal radica en su capacidad para equilibrar automáticamente entre datos cualitativos ruidosos y baratos (clasificaciones) y datos cuantitativos costosos y de alta fidelidad (evaluaciones).

Los autores declaran que el método:

• Mejora significativamente la eficiencia en muestras cuando las consultas por pares son más baratas que las evaluaciones.
• Recupera el rendimiento de la BO estándar cuando las consultas por pares son demasiado costosas o ruidosas para ser útiles.
• Evita la necesidad de programación manual o conmutación heurística entre fuentes de información.
• Proporciona una extensión principada de los gradientes de conocimiento por pares a configuraciones de múltiples objetivos con utilidades conocidas.

El artículo reconoce limitaciones, específicamente la suposición de que los juicios expertos están gobernados por la verdadera función de utilidad $U \circ f$ (ignorando posibles desviaciones en el modelo mental del experto) y el requisito de que la función de utilidad $U$ sea conocida antes de la optimización. Se propone trabajo futuro para abordar funciones de utilidad aprendibles y correlaciones aprendibles entre los modelos mentales expertos y el objetivo real.