Resumo Técnico: DT-PBO – Um Modelo Surrogado Baseado em Árvore Interpretável para Otimização Bayesiana Preferencial

1. Declaração do Problema

A Otimização Bayesiana Preferencial (PBO) visa identificar a solução mais preferida por um tomador de decisão (DM) dentro de um espaço de busca, utilizando o menor número possível de comparações pareadas (PCs). Embora os métodos existentes de PBO dependam predominantemente de surrogados de Processo Gaussiano (GP), esses modelos sofrem de uma limitação crítica: falta de interpretabilidade. Os GPs funcionam como modelos de caixa preta, dificultando que os DMs compreendam por que certas soluções são preferidas. Essa opacidade é uma barreira significativa em domínios de alto risco (por exemplo, saúde, defesa), onde estruturas regulatórias (como o GDPR da UE) e diretrizes éticas (por exemplo, a estratégia de IA responsável da OTAN) exigem explicabilidade. Além disso, métodos de explicação post-hoc para GPs são frequentemente infiel ao modelo subjacente, potencialmente fornecendo insights enganosos.

O artigo aborda a necessidade de um modelo surrogado que seja intrinsecamente interpretável, mantendo ao mesmo tempo a capacidade de modelar incerteza de preferência e apoiar a aprendizagem ativa (eficiência de amostragem).

2. Metodologia: DT-PBO

Os autores propõem o DT-PBO, um novo modelo surrogado baseado em Árvore de Decisão (DT) projetado especificamente para PBO. Diferentemente das árvores de decisão padrão treinadas em dados de classificação ou classificação por ordem, o DT-PBO aprende diretamente a partir de dados de comparação pareada. O método segue o loop de otimização padrão de PBO (Figura 1), mas substitui o surrogado GP por uma estrutura baseada em árvore.

2.1 Particionamento do Espaço (Heurística de Divisão)

A inovação central é uma heurística de divisão baseada em Escore de Consistência projetada para particionar o espaço de características com base em preferências observadas, em vez de rótulos de classificação.

• Mecanismo: Para um nó $A$ contendo um conjunto de comparações $D_A$, o algoritmo avalia divisões candidatas (índice de característica $k$ e limiar $t$).
• Escore de Consistência ($S_A$): Uma divisão é pontuada com base na medida em que ela separa "vencedores" de "perdedores". Especificamente, calcula-se a média empírica de uma variável $Z_i(s)$, que é $+1$ se o vencedor estiver de um lado da divisão e o perdedor do outro, $-1$ se invertido, e $0$ se ambos estiverem do mesmo lado. A pontuação é o valor absoluto dessa média.
• Exclusão de "Straddlers": Uma característica estrutural chave é a exclusão de "straddlers" (pares onde um item cai na criança esquerda e o outro na direita) dos conjuntos de dados usados para divisões de descendentes. Os autores argumentam matematicamente que os "straddlers" não contêm informações sobre a estrutura interna dos nós filhos uma vez que a divisão do pai é estabelecida. Essa exclusão controla naturalmente o crescimento da árvore, favorecendo árvores rasas e interpretáveis sem exigir ajuste agressivo de hiperparâmetros.

2.2 Estimação de Parâmetros de Folha

Uma vez determinada a estrutura da árvore, o modelo atribui uma estimativa probabilística a cada folha para apoiar a aprendizagem ativa.

• Folhas Probabilísticas: Em vez de um único valor, cada folha $j$ é modelada como uma distribuição Gaussiana com média $f_j$.
• Aproximação de Laplace (LA): Os autores empregam uma abordagem bayesiana onde os valores de utilidade latente através das folhas seguem uma prior conjunta multivariada Gaussiana. Eles usam a Aproximação de Laplace para encontrar a estimativa de Máxima A Posteriori (MAP) e a covariância posterior.
• Identificabilidade: Para resolver a invariância translacional inerente às probabilidades pareadas (onde adicionar uma constante a todas as utilidades não altera as preferências), aplica-se uma restrição de soma-zero ($\sum f_i = 0$). Isso garante que o modelo seja identificável e remove a variância irredutível na direção de deslocamento constante.
• Hiperparâmetros: O modelo depende da razão entre a variância do ruído e a variância da priori ($\sigma^2_{ruído}/\sigma^2_{priori}$), que se mostra ser o único parâmetro identificável que governa a otimização.

2.3 Aprendizagem Ativa

O modelo utiliza a função de aquisição qEUBO (Utilidade Esperada da Melhor Opção) para selecionar a próxima comparação pareada mais informativa.

• Entre-folhas vs. Dentro-folhas: Embora o qEUBO selecione efetivamente comparações entre folhas diferentes, ele colapsa dentro de uma única folha (onde a média preditiva é constante). Para abordar isso, os autores empregam uma heurística para priorização dentro-folha em configurações discretas, focando a exploração na folha atualmente acreditada conter o ótimo.

3. Principais Contribuições

1. Aprendizagem de Preferência Baseada em Árvore: O desenvolvimento de um algoritmo que aprende árvores de decisão interpretáveis diretamente a partir de dados de comparação pareada, utilizando uma heurística de divisão baseada em consistência e estimação probabilística de folhas.
2. Avaliação Numérica: Verificação empírica mostrando que o DT-PBO alcança convergência competitiva em relação a modelos baseados em GP de última geração (SkewGP e GP baseado em LA), particularmente em funções com paisagens de otimização acidentadas (por exemplo, De Jong, Holder, Schwefel). O método demonstra tempos de execução computacional significativamente mais rápidos (10–400x mais rápido que GPs).
3. Estudos de Caso do Mundo Real: Demonstração da interpretabilidade e utilidade do modelo em dois cenários distintos:
   • Preferências de Sushi: Mostrando que o modelo pode recuperar preferências do usuário e generalizar para itens não vistos.
   • Classificação de Mensagens de Pacientes (PMR): Uma tarefa de triagem clínica de alto risco onde o modelo identifica características específicas (por exemplo, "síndrome de bandeira vermelha", "acionabilidade da mensagem") que impulsionam a urgência, fornecendo insights opacos para abordagens de caixa preta como LLMs ou GPs.

4. Resultados

• Convergência: Através de oito funções de referência, o DT-PBO desempenha de forma competitiva. Ele performa ligeiramente abaixo em funções suaves e não acidentadas (por exemplo, Rosenbrock, Hartmann), mas supera ou iguala os GPs em funções acidentadas.
• Eficiência: O DT-PBO é computacionalmente superior, com tempos de execução de ~12 segundos para 200 iterações, comparado a centenas ou milhares de segundos para variantes de GP. Isso é atribuído à evitação da otimização de hiperparâmetros para escalas de comprimento de kernel e à redução do tamanho da matriz Hessiana do número de itens únicos ($m$) para o número de folhas ($m_l$).
• Robustez: O modelo é robusto ao ruído nas preferências e insensível a pequenas mudanças no hiperparâmetro de razão ruído/priori.
• Interpretabilidade: Nos estudos de caso, as árvores resultantes (profundidade 4–6) fornecem regras claras e legíveis por humanos (por exemplo, "Se dor no peito estiver presente, priorize") que se alinham com o conhecimento de domínio, ao contrário das saídas de caixa preta de GPs ou Modelos de Linguagem Grandes (LLMs).

5. Significado e Limitações

O artigo afirma que o DT-PBO oferece uma alternativa viável e intrinsecamente interpretável a surrogados GP de caixa preta em PBO. Seu significado reside em preencher a lacuna entre otimização eficiente em amostras e a necessidade de explicabilidade em domínios de tomada de decisão crítica. Ao fornecer modelos transparentes, permite que os tomadores de decisão refinem suas preferências com maior confiança e confiança.

Limitações reconhecidas pelos autores:

• Indiferença: O modelo atual não pode modelar explicitamente declarações de indiferença ($A \sim B$).
• Altas Dimensões: O desempenho degrada-se em funções não acidentadas à medida que a dimensionalidade aumenta ($D > 7$), provavelmente devido à natureza alinhada aos eixos das divisões de árvores de decisão lutando com fronteiras de decisão diagonais complexas, comuns em funções suaves de alta dimensão.
• Extração de Características: No estudo de caso PMR, a qualidade do modelo final depende da confiabilidade do LLM usado para extração de características.

Os autores concluem que, embora existam limitações, o DT-PBO demonstra com sucesso que modelos surrogados interpretáveis podem alcançar desempenho competitivo em PBO, particularmente em cenários onde a interpretabilidade é um pré-requisito para implantação.