Resumen Técnico: Evaluación Condicionada al Régimen en la Optimización Bayesiana Multicontexto

Enunciado del Problema

Las evaluaciones actuales de la Optimización Bayesiana (BO) de transferencia y de las funciones de adquisición adolecen de un defecto fundamental de medición: informan sobre los Efectos Promedio del Tratamiento (ATE) sobre variables de régimen ocultas en lugar de los Efectos Promedio del Tratamiento Condicionales (CATE) específicos del contexto del practicante. El artículo argumenta que la clasificación de rendimiento de las funciones de adquisición (por ejemplo, Greedy frente a UCB) no es una propiedad intrínseca del algoritmo, sino una función del régimen de evaluación, definido específicamente por la relación del presupuesto ($B/|A|$), la calidad del prior ($\rho$), la cantidad de contextos ($K$) y el tipo de métrica.

Una auditoría de 40 artículos recientes (2022–2025) revela que el 98% no varía la relación del presupuesto $B/|A|$ como un eje controlado, y el 80% informa únicamente sobre una sola familia de métricas. En consecuencia, las tablas de clasificación existentes son "no controladas por el régimen". Los autores demuestran que los mismos puntos de referencia pueden producir conclusiones opuestas basándose únicamente en el presupuesto: en el punto de referencia de respuesta a fármacos GDSC2, Greedy supera a UCB por 0.050 Hit@1 en $B=50$, mientras que UCB supera a Greedy por 0.035 Hit@1 en $B=100$. Estas no son contradicciones, sino diferentes CATE. El artículo postula que, sin controlar estas variables de régimen, cualquier clasificación reportada es una propiedad de la configuración de medición, no del algoritmo.

Metodología

1. La Puntuación de Régimen Portátil (PRS)

Para hacer observable el régimen, los autores definen la Puntuación de Régimen Portátil (PRS):
$$PRS = \frac{B}{|A|} (1 - \rho)$$
Donde:

• $B$: Presupuesto por contexto.
• $|A|$: Tamaño del espacio de acciones.
• $\rho$: Correlación de rango de Spearman entre las medias del prior y los valores verdaderos de las acciones (medible a partir de una ejecución piloto).

La PRS sirve como un parámetro de orden unidimensional. Una PRS alta indica un presupuesto grande en relación con el espacio de acciones y/o un prior débil, lo que sugiere que la exploración probablemente valga la pena. Una PRS baja indica un prior fuerte o un presupuesto limitado, favoreciendo la explotación (Greedy).

2. Marco Teórico

El artículo introduce la Proposición de la Tabla de Clasificación Sin Gratis (Proposición A.11). Demuestra que si el CATE de una elección de función de adquisición cambia de signo a través de una variable de régimen (como se observa con la PRS), entonces el ATE reportado en cualquier punto de referencia es un parámetro libre determinado por la mezcla del punto de referencia. Al elegir apropiadamente las condiciones de evaluación, se puede lograr cualquier clasificación (incluyendo empates o inversiones) sin falsificación. Esto formaliza por qué las tablas de clasificación agnósticas al régimen son herramientas de decisión poco fiables.

3. REGIMEPLANNER

Para demostrar que la visión del régimen es explotable, los autores proponen REGIMEPLANNER, un algoritmo adaptativo que:

1. Estima $\hat{\rho}$ en línea dentro de cada contexto utilizando medias del prior en caché y resultados observados.
2. Calcula la PRS dinámica ($\hat{PRS}_t$).
3. Cambia entre Greedy y UCB basándose en un umbral $\theta = 0.10$.
   • Si $\hat{PRS}_t < \theta$: Cambiar a Greedy (explotación).
   • Si $\hat{PRS}_t \ge \theta$: Cambiar a UCB (exploración).

Esto permite que el planificador se adapte a cambios de régimen dentro de un solo contexto, una capacidad que carecen las políticas fijas.

4. Auditoría Empírica y Validación

• Auditoría: Una revisión sistemática de 40 artículos de BO de transferencia (NeurIPS, ICML, ICLR, etc.) cuantificó la falta de control de régimen (el 98% no realiza un barrido de $B/|A|$).
• Puntos de referencia: Se realizaron experimentos en tres puntos de referencia principales:
  • Buchwald-Hartwig: Una tarea de optimización de reacciones químicas con priores mezclados para aislar los efectos de la calidad del prior.
  • GDSC2: Un punto de referencia biológico de respuesta a fármacos con observaciones ruidosas.
  • HPO-B: Un punto de referencia comunitario de optimización de hiperparámetros en 16 espacios de búsqueda.
• Análisis: Los autores analizaron 79 condiciones que abarcan estos puntos de referencia, midiendo Hit@1 y Discovery AUC.

Resultados Clave

1. Predecibilidad del Régimen

La PRS predice fuertemente la "ventaja de exploración" (la brecha de rendimiento entre las estrategias de exploración y explotación).

• En 79 condiciones, la PRS se correlaciona con la ventaja de exploración con un coeficiente de modelo jerárquico $\beta = 0.50$ ($p = 1.1 \times 10^{-9}$).
• Las correlaciones dentro del punto de referencia son fuertes: GDSC2 ($r=0.96$), HPO-B ($r=0.83$) y Buchwald ($r=0.75$).
• La PRS supera a sus componentes individuales ($B/|A|$ solo o $1-\rho$ solo) como predictor.

2. Inversión de Clasificaciones

El estudio confirma que las clasificaciones de adquisición cambian completamente basándose en el régimen:

• Inversión por Presupuesto: En GDSC2, Greedy gana con presupuestos bajos ($B=50$), mientras que UCB/REIGN ganan con presupuestos altos ($B=100$).
• Inversión por Calidad del Prior: En Buchwald, con un prior débil, la exploración gana; con un prior estructurado fuerte, Greedy domina por un gran margen (0.481 vs 0.389 Hit@1), comprimiendo el valor de la elección de adquisición.
• Inversión por Métrica: En GDSC2, Greedy domina el Discovery AUC en todos los presupuestos, mientras que UCB/REIGN dominan Hit@1 solo por encima del umbral del régimen.

3. Rendimiento de REGIMEPLANNER

• GDSC2: En $B=50$, REGIMEPLANNER logra 0.676 Hit@1, superando a todos los planificadores fijos y excediendo al oráculo {Greedy, UCB} emparejado por contexto en un 18%.
• HPO-B: En $B=100$, REGIMEPLANNER gana en los 16 espacios de búsqueda contra Greedy (media +0.103 Hit@1) y se clasifica en el puesto #1 en general, mientras que Greedy queda en último lugar.
• Adaptabilidad: REGIMEPLANNER tiene éxito al rastrear la evolución de $\hat{\rho}$ dentro de un contexto. En GDSC2, $\hat{\rho}$ aumenta de ~0.12 a ~0.66 durante un episodio, permitiendo que el planificador cambie de exploración a explotación a mitad de camino, una hazaña imposible para políticas fijas.

4. Modos de Fallo y Zonas de Equivalencia

• Precisión: La PRS predice al ganador empírico en el 74.7% de las 79 condiciones.
• Zona de Equivalencia: El 19% de las condiciones caen en una zona de equivalencia ($|ventaja| < 0.01$ Hit@1) donde las diferencias son prácticamente indistinguibles, sin embargo, estas "no diferencias" a menudo generan clasificaciones publicables.
• Fallas en los Límites: Las predicciones se degradan cerca del umbral ($PRS \in [0.05, 0.15)$) y en casos con cantidades de contextos muy bajas ($K < K_{min}$) donde el prior aún no ha diferenciado entre planificadores.
• Validación Pre-registrada: En 40 condiciones retenidas, el método alcanzó una precisión del 67.5%, por debajo del objetivo del 90%, destacando que el umbral no es universalmente agnóstico al dominio sin estimación de ruido.

Significado y Afirmaciones

El artículo afirma tres contribuciones principales:

1. Predecibilidad: El régimen es predecible antes de cualquier ejecución de comparación utilizando la PRS, que ordena la ventaja de exploración a través de diversos dominios (química, biología, HPO).
2. Explotabilidad: El CATE es explotable en línea. REGIMEPLANNER demuestra que una regla adaptativa basada en cantidades observables ($B/|A|$ y $\hat{\rho}$) puede superar a las políticas fijas e incluso a los oráculos por contexto en regímenes específicos.
3. Transparencia Diagnóstica: La proposición de "Tabla de Clasificación Sin Gratis" formaliza por qué las clasificaciones agnósticas al régimen son poco fiables. El artículo argumenta que omitir $B/|A|$, $\rho$, $K$ y el tipo de métrica produce "afirmaciones de medición, no algorítmicas".

Los autores concluyen que el campo ha estado discutiendo sobre no diferencias (zonas de equivalencia) y que la "mejor" función de adquisición es una propiedad del régimen en el que fue evaluada. Proponen un nuevo protocolo de informe: las comparaciones de adquisición deben informar la condición del prior, la relación del presupuesto, el tipo de métrica y la cantidad de contextos para ser interpretables. El trabajo sirve como una herramienta diagnóstica (PRS) y una prueba de existencia (REGIMEPLANNER) de que la evaluación condicionada al régimen es necesaria para una evaluación algorítmica fiable.