Resumo Técnico: Otimização Bayesiana Aumentada por Elaboração (EA-BO)

Declaração do Problema

A Otimização Bayesiana (BO) é um framework eficiente em amostras para otimizar funções de caixa-preta caras. Embora os métodos de BO com Humano no Loop (HITL) visem melhorar a eficiência de custos ao aproveitar a expertise de domínio, as abordagens existentes geralmente assumem que os especialistas podem quantificar explicitamente seu conhecimento (por exemplo, especificando distribuições a priori ou localizando pontos de consulta). No entanto, a expertise humana é frequentemente tácita e qualitativa; os humanos são geralmente mais confiáveis ao classificar candidatos do que ao atribuir valores numéricos calibrados.

Este artigo aborda o desafio de incorporar conhecimento tácito de especialistas na BO por meio de comparações pareadas (classificando dois projetos) em vez de quantificação direta. O problema central é desenvolver um método que:

1. Combine avaliações diretas de função (caras, alta fidelidade) com comparações pareadas (baratas, baixa fidelidade, ruidosas).
2. Lidere com otimização de objetivo único e multiobjetivo sob uma função de utilidade conhecida.
3. Aloque dinamicamente um orçamento fixo entre essas duas fontes de informação com base em seus custos relativos e informatividade.

Metodologia

1. Modelo Surrogado: GP Variacional Esparsa com Verossimilhança Mista

Os autores propõem um modelo surrogado de Processo Gaussiano (GP) que trata tanto observações diretas quanto comparações pareadas como evidências ruidosas sobre a função objetivo $f$.

• Observações Diretas: Modeladas com uma verossimilhança Gaussiana padrão: $y = f(x) + \epsilon_{eval}$.
• Comparações Pareadas: Modeladas usando uma função de ligação probit. Um julgamento binário $d \in \{0, 1\}$ indica se $x$ é classificado acima de $x'$ com base na diferença de utilidade $\Delta = U(f(x)) - U(f(x'))$. A verossimilhança é $p(d=1) = \Phi\left(\frac{\Delta}{\sqrt{2}\sigma_{comp}}\right)$.
• Inferência: O modelo emprega Inferência Variacional Esparsa (SVGP) para aproximar o posterior. O Limite Inferior da Evidência (ELBO) é decomponível em termos separados para observações e comparações.
  • O termo de observação admite uma solução Gaussiana de forma fechada.
  • O termo de comparação envolve uma expectativa de $\log \Phi(\cdot)$. Para funções de utilidade lineares, a diferença de utilidade é Gaussiana, permitindo que a expectativa seja computada via quadratura Gauss–Hermite unidimensional. Utilidades não lineares são tratadas via correspondência de momentos.

2. Função de Aquisição: Valor da Informação Consciente de Custos (VoI)

O método adota uma estratégia de olhar para frente miope, de um passo, para selecionar a próxima ação. O espaço de ação inclui tanto avaliações diretas ($x \in \mathcal{X}$) quanto consultas pareadas ($(x, x') \in \mathcal{X}^2$).

• Objetivo: Maximizar o Valor da Informação normalizado por custo: $\frac{\alpha(a; D)}{c(a)}$, onde $\alpha$ é o ganho de utilidade esperado e $c(a)$ é o custo.
• VoI de Avaliação Direta ($\alpha_{eval}$): Reduz-se ao Gradiente de Conhecimento para utilidades lineares. Otimizado usando uma reformulação "one-shot" com pontos fantasma.
• VoI de Comparação Pareada ($\alpha_{comp}$): Os autores derivam uma atualização de posterior fantasma de forma fechada sob a verossimilhança probit para objetivos de múltiplas saídas com utilidade conhecida. Isso estende o gradiente de conhecimento pareado (Wu e Gardner, 2026) para o caso de múltiplas saídas. O VoI é calculado exatamente como uma expectativa discreta sobre o resultado binário, evitando aproximação de Monte Carlo para o passo de comparação.
• Otimização: Ambas as funções de aquisição são otimizadas conjuntamente com entradas candidatas usando a reformulação one-shot e o otimizador Adam.

Contribuições Principais

1. GP Variacional Esparsa com Verossimilhança Mista: Um método principiado para atualizar um posterior de GP acoplando uma verossimilhança de observação Gaussiana com uma verossimilhança de comparação probit, resultando em um ELBO decomponível com termos tratáveis.
2. Regra de Aquisição Consciente de Custos: Derivação de uma atualização de média posterior de forma fechada sob comparações probit para objetivos de múltiplas saídas, permitindo uma função de aquisição VoI normalizada por custo que equilibra avaliações diretas e consultas pareadas sem agendamento manual.
3. Framework Unificado: Um único algoritmo (EA-BO) que trata otimização de objetivo único e multiobjetivo de forma uniforme, tratando classificações pareadas como evidências sobre os valores observáveis da função objetivo.

Resultados Experimentais

O método, denominado Otimização Bayesiana Aumentada por Elaboração (EA-BO), foi avaliado em benchmarks padrão de objetivo único e multiobjetivo (Branin, Hartmann6, BraninCurrin, VLMOP2) com funções de utilidade lineares e de Chebyshev.

• Desempenho vs. Fonte Única: O EA-BO aproxima-se da casca convexa das trajetórias das fontes de informação individuais.
  • Quando as comparações pareadas são baratas (por exemplo, 5x mais baratas que as avaliações), o EA-BO aloca a maior parte do orçamento inicial para comparações, alcançando convergência inicial rápida comparável a métodos apenas de comparação (KG-Comp).
  • À medida que o posterior se afina ou as comparações tornam-se ruidosas, o EA-BO desloca-se para avaliações diretas, recuperando a precisão assintótica da BO apenas de avaliação (KG-Eval).
• Desempenho vs. Baselines HITL: O EA-BO supera substancialmente o CoExBO (Adachi et al., 2024), o método HITL existente mais próximo que usa comparações pareadas. Diferentemente do CoExBO, que usa comparações para guiar a seleção de candidatos via um modelo auxiliar, o EA-BO as incorpora diretamente como evidência de verossimilhança.
• Sensibilidade:
  • Razão de Custo: O EA-BO abandona automaticamente as comparações quando elas são mais caras que as avaliações e aumenta a alocação à medida que a razão de custo cresce.
  • Ruído: O método prioriza comparações quando são informativas. À medida que o ruído da comparação aumenta, o algoritmo desloca-se progressivamente para avaliações diretas. Curiosamente, em níveis moderados de ruído, ocorre uma queda não monotônica no desempenho porque o VoI miope ainda atribui valor positivo a comparações ruidosas antes de abandoná-las completamente em altos níveis de ruído.

Significado e Alegações

O artigo afirma que o EA-BO oferece um framework robusto e adaptativo para aproveitar a expertise humana tácita na BO. Seu significado principal reside na capacidade de equilibrar automaticamente entre dados qualitativos baratos e ruidosos (classificações) e dados quantitativos caros e de alta fidelidade (avaliações).

Os autores afirmam que o método:

• Melhora significativamente a eficiência em amostras quando consultas pareadas são mais baratas que avaliações.
• Recupera o desempenho da BO padrão quando consultas pareadas são muito custosas ou ruidosas para serem úteis.
• Evita a necessidade de agendamento manual ou troca heurística entre fontes de informação.
• Fornece uma extensão principiada de gradientes de conhecimento pareados para configurações multiobjetivo com utilidades conhecidas.

O artigo reconhece limitações, especificamente a suposição de que julgamentos de especialistas são governados pela verdadeira função de utilidade $U \circ f$ (ignorando possíveis desvios no modelo mental do especialista) e o requisito de que a função de utilidade $U$ seja conhecida antes da otimização. Trabalhos futuros são propostos para abordar funções de utilidade aprendíveis e correlações aprendíveis entre modelos mentais de especialistas e o objetivo verdadeiro.