Resumo Técnico: Avaliação Condicionada ao Regime em Otimização Bayesiana Multi-Contexto

Declaração do Problema

As avaliações atuais de Otimização Bayesiana (BO) de transferência e de funções de aquisição sofrem de uma falha fundamental de medição: elas relatam Efeitos Médios de Tratamento (ATE) sobre variáveis de regime ocultas, em vez de Efeitos Médios de Tratamento Condicionais (CATE) específicos ao contexto do praticante. O artigo argumenta que o ranking de desempenho das funções de aquisição (por exemplo, Greedy vs. UCB) não é uma propriedade intrínseca do algoritmo, mas uma função do regime de avaliação, definido especificamente pela razão de orçamento ($B/|A|$), pela qualidade do prior ($\rho$), pela contagem de contextos ($K$) e pelo tipo de métrica.

Uma auditoria de 40 artigos recentes (2022–2025) revela que 98% não variam a razão de orçamento $B/|A|$ como um eixo controlado, e 80% relatam apenas uma única família de métricas. Consequentemente, os rankings existentes são "descontrolados em relação ao regime". Os autores demonstram que benchmarks idênticos podem produzir conclusões opostas baseadas exclusivamente no orçamento: no benchmark de resposta a drogas GDSC2, o Greedy supera o UCB em 0,050 Hit@1 em $B=50$, enquanto o UCB supera o Greedy em 0,035 Hit@1 em $B=100$. Estes não são contradições, mas diferentes CATEs. O artigo postula que, sem controlar essas variáveis de regime, qualquer ranking relatado é uma propriedade da configuração de medição, não do algoritmo.

Metodologia

1. A Pontuação de Regime Portátil (PRS)

Para tornar o regime observável, os autores definem a Pontuação de Regime Portátil (PRS):
$$PRS = \frac{B}{|A|} (1 - \rho)$$
Onde:

• $B$: Orçamento por contexto.
• $|A|$: Tamanho do espaço de ações.
• $\rho$: Correlação de posto de Spearman entre as médias do prior e os verdadeiros valores das ações (mensurável a partir de uma execução piloto).

A PRS serve como um parâmetro de ordem unidimensional. Uma PRS alta indica um orçamento grande em relação ao espaço de ações e/ou um prior fraco, sugerindo que a exploração provavelmente valerá a pena. Uma PRS baixa indica um prior forte ou orçamento limitado, favorecendo a exploração (Greedy).

2. Estrutura Teórica

O artigo introduz a Proposição de Ranking Sem Gratuidade (Proposição A.11). Ela prova que, se o CATE de uma escolha de função de aquisição mudar de sinal através de uma variável de regime (como observado com a PRS), então o ATE relatado em qualquer benchmark é um parâmetro livre determinado pela mistura do benchmark. Ao escolher condições de avaliação apropriadamente, qualquer ranking (incluindo empates ou reversões) pode ser alcançado sem falsificação. Isso formaliza por que rankings agnósticos ao regime são ferramentas de decisão não confiáveis.

3. REGIMEPLANNER

Para demonstrar que a visão de regime é explorável, os autores propõem o REGIMEPLANNER, um algoritmo adaptativo que:

1. Estima $\hat{\rho}$ online dentro de cada contexto usando médias de prior em cache e resultados observados.
2. Computa a PRS dinâmica ($\hat{PRS}_t$).
3. Alterna entre Greedy e UCB com base em um limiar $\theta = 0,10$.
   • Se $\hat{PRS}_t < \theta$: Alterne para Greedy (exploração).
   • Se $\hat{PRS}_t \ge \theta$: Alterne para UCB (exploração).

Isso permite que o planejador se adapte a mudanças de regime dentro de um único contexto, uma capacidade que políticas fixas não possuem.

4. Auditoria Empírica e Validação

• Auditoria: Uma revisão sistemática de 40 artigos de BO de transferência (NeurIPS, ICML, ICLR, etc.) quantificou a falta de controle de regime (98% não realizam varredura de $B/|A|$).
• Benchmarks: Experimentos foram conduzidos em três benchmarks principais:
  • Buchwald-Hartwig: Uma tarefa de otimização de reação química com priores embaralhados para isolar efeitos da qualidade do prior.
  • GDSC2: Um benchmark de biologia de resposta a drogas com observações ruidosas.
  • HPO-B: Um benchmark comunitário de otimização de hiperparâmetros através de 16 espaços de busca.
• Análise: Os autores analisaram 79 condições abrangendo esses benchmarks, medindo Hit@1 e Discovery AUC.

Resultados Chave

1. Previsibilidade do Regime

A PRS prevê fortemente a "vantagem de exploração" (a lacuna de desempenho entre estratégias de exploração e exploração).

• Através de 79 condições, a PRS correlaciona-se com a vantagem de exploração com um coeficiente de modelo hierárquico $\beta = 0,50$ ($p = 1,1 \times 10^{-9}$).
• Correlações dentro do benchmark são fortes: GDSC2 ($r=0,96$), HPO-B ($r=0,83$) e Buchwald ($r=0,75$).
• A PRS supera seus componentes individuais ($B/|A|$ sozinho ou $1-\rho$ sozinho) como preditor.

2. Reversão de Rankings

O estudo confirma que os rankings de aquisição invertem-se completamente com base no regime:

• Reversão de Orçamento: No GDSC2, o Greedy vence em orçamentos baixos ($B=50$), enquanto UCB/REIGN vencem em orçamentos altos ($B=100$).
• Reversão de Qualidade do Prior: No Buchwald, com um prior fraco, a exploração vence; com um prior estruturado forte, o Greedy domina por uma grande margem (0,481 vs 0,389 Hit@1), comprimindo o valor da escolha da função de aquisição.
• Reversão de Métrica: No GDSC2, o Greedy domina o Discovery AUC em todos os orçamentos, enquanto UCB/REIGN dominam o Hit@1 apenas acima do limiar de regime.

3. Desempenho do REGIMEPLANNER

• GDSC2: Em $B=50$, o REGIMEPLANNER alcança 0,676 Hit@1, superando todos os planejadores fixos e excedendo o oráculo {Greedy, UCB} correspondente por contexto em 18%.
• HPO-B: Em $B=100$, o REGIMEPLANNER vence em todos os 16 espaços de busca contra o Greedy (média +0,103 Hit@1) e classifica-se em #1 no geral, enquanto o Greedy classifica-se em último.
• Adaptabilidade: O REGIMEPLANNER tem sucesso ao rastrear a evolução de $\hat{\rho}$ dentro de um contexto. No GDSC2, $\hat{\rho}$ sobe de ~0,12 para ~0,66 durante um episódio, permitindo que o planejador alterne de exploração para exploração no meio do processo, uma façanha impossível para políticas fixas.

4. Modos de Falha e Zonas de Equivalência

• Precisão: A PRS prevê o vencedor empírico em 74,7% das 79 condições.
• Zona de Equivalência: 19% das condições caem em uma zona de equivalência ($|vantagem| < 0,01$ Hit@1) onde as diferenças são praticamente indistinguíveis, ainda que essas "não-diferenças" frequentemente gerem rankings publicáveis.
• Falhas de Limite: As previsões degradam-se perto do limiar ($PRS \in [0,05, 0,15)$) e em casos com contagens de contexto muito baixas ($K < K_{min}$), onde o prior ainda não diferenciou entre os planejadores.
• Validação Pré-registrada: Em 40 condições mantidas de fora, o método alcançou 67,5% de precisão, abaixo da meta de 90%, destacando que o limiar não é universalmente agnóstico ao domínio sem estimativa de ruído.

Significado e Alegações

O artigo alega três contribuições primárias:

1. Previsibilidade: O regime é previsível antes de qualquer execução de comparação usando a PRS, que ordena a vantagem de exploração através de domínios diversos (química, biologia, HPO).
2. Explorabilidade: O CATE é explorável online. O REGIMEPLANNER demonstra que uma regra adaptativa baseada em quantidades observáveis ($B/|A|$ e $\hat{\rho}$) pode superar políticas fixas e até oráculos por contexto em regimes específicos.
3. Transparência Diagnóstica: A proposição "Sem Ranking Gratuito" formaliza por que rankings agnósticos ao regime são não confiáveis. O artigo argumenta que omitir $B/|A|$, $\rho$, $K$ e o tipo de métrica produz "alegações de medição, não algorítmicas".

Os autores concluem que o campo tem debatido sobre não-diferenças (zonas de equivalência) e que a "melhor" função de aquisição é uma propriedade do regime em que foi avaliada. Eles propõem um novo protocolo de relatórios: comparações de aquisição devem relatar a condição do prior, a razão de orçamento, o tipo de métrica e a contagem de contextos para serem interpretáveis. O trabalho serve como uma ferramenta diagnóstica (PRS) e uma prova de existência (REGIMEPLANNER) de que a avaliação condicionada ao regime é necessária para uma avaliação algorítmica confiável.