Conformal Candidate Certification for Offline Model-Based Optimization

Resumo Técnico: Certificação de Candidatos Conforme para Otimização Baseada em Modelo Offline

Enunciado do Problema
A Otimização Baseada em Modelo (MBO) Offline busca identificar designs de alto desempenho $x$ (ex: em engenharia de proteínas ou ciência dos materiais) utilizando apenas um conjunto de dados históricos fixo $D$, sem acesso adicional ao oráculo. O pipeline padrão treina um modelo substituto $\hat{f}_\theta$ sobre $D$ e o otimiza para propor candidatos. No entanto, este processo inerentemente conduz os candidatos para regiões fora da distribuição (OOD) onde o substituto é não confiável, levando a uma superestimação sistemática.

Métodos existentes tentam mitigar isso modificando o mecanismo de proposta (ex: substitutos conservadores, representações invariantes ou modelos generativos condicionais). Uma lacuna crítica permanece: esses métodos não fornecem um certificado estatístico por candidato de que um design proposto $x^*$ satisfaz um limiar alvo $\tau$ (isto é, $f(x^*) \ge \tau$) com um nível de confiança garantido. Conflitar a tarefa de proposta (geração) e a de certificação (validação) resulta ou em uma penalidade de conservadorismo ou na falta de garantias de cobertura rigorosas para candidatos individuais.

Metodologia: Certificação de Candidato Conforme (CCC)
Os autores propõem a Certificação de Candidato Conforme (CCC), um wrapper pós-hoc que anexa um limite inferior unilateral calibrado a qualquer candidato gerado por um algoritmo de MBO offline. A CCC separa a tarefa de proposta da tarefa de certificação, tratando esta última como um problema de predição conforme de mudança de covariável (covariate-shift conformal prediction).

Os componentes centrais da metodologia são:

1. Modelagem de Mudança de Covariável via Inclinação de Gibbs:
   O artigo modela a distribuição de proposta $Q_X$ (da qual os candidatos são extraídos) como uma versão com inclinação de Gibbs da distribuição de dados históricos $P_X$. Isso surge naturalmente da maximização de substituto regularizada por entropia:
   $$q_T(x) \propto p_X(x) \exp\{\hat{f}_\theta(x)/T\}$$
   Crucialmente, o mesmo substituto $\hat{f}_\theta$ usado para gerar o deslocamento também fornece os pesos de importância $w(x) = dQ_X/dP_X(x)$, eliminando a necessidade de um passo separado de estimativa de razão de densidade.

2. Estimativa de Temperatura:
   O parâmetro de temperatura $T$ é estimado via correspondência de momentos (moment-matching). Para evitar pesos degenerados quando os candidatos estão OOD em relação ao conjunto de validação, os autores agrupam o conjunto de validação $D_{val}$ com as pontuações do substituto do candidato para ancorar a cauda superior da distribuição de referência.

3. Predição Conforme Ponderada (IW-CP):
   A CCC emprega predição conforme ponderada por importância para restaurar a validade marginal sob a mudança de covariável:

   • Função de Pontuação: Uma pontuação de não conformidade unilateral é definida como $s(x, y) = (\mu(x) - y)/\sigma(x)$, onde $\mu$ e $\sigma$ são a média e a incerteza do substituto. Isso foca a probabilidade de calibração na cauda inferior (superestimação).
   • Quantil Ponderado: Para um candidato $x^*$, o método calcula um quantil ponderado das pontuações de calibração usando pesos derivados de Gibbs. Se o peso do ponto de teste for muito alto em relação ao conjunto de calibração, o limite torna-se vácuo (indicando corretamente suporte insuficiente).
   • Certificação: O limite inferior é computado como $y(x^*) = \mu(x^*) - \hat{q}^w_{1-\alpha}(x^*)\sigma(x^*)$. Um candidato é certificado apenas se $y(x^*) \ge \tau$.

Principais Contribuições

1. Formulação: O artigo formula a certificação de candidato pós-hoc para MBO offline como um problema de predição conforme de mudança de covariável, explicitamente desacoplando a certificação da proposta.
2. Proposta com Inclinação de Gibbs: Demonstra que a maximização de substituto regularizada por entropia induz uma distribuição de proposta com inclinação de Gibbs, permit um que o próprio substituto forneça os pesos de importância necessários para a predição conforme ponderada sem estimativa externa de densidade.
3. Validade Teórica: Os autores provam a validade de limite inferior marginal de amostra finita ($P\{Y^* \ge y(X^*)\} \ge 1-\alpha$) para um novo candidato da distribuição de proposta, assumindo pesos de oráculo.
4. Demonstração Empírica: Um estudo sintético valida que a CCC certifica com sucesso um subconjunto não trivial de propostas agressivas com quase zero falsas certificações, enquanto a predição conforme padrão (não ponderada) colapsa sob mudança de covariável.

Resultados Experimentais
Em um estudo sintético controlado envolvendo um pool de proposta de Boltzmann agressivo:

• Substituto Ingênuo: Aceitou todos os candidatos, mas alcançou apenas 41% de precisão real (muitos falsos positivos).
• Predição Conforme Não Ponderada: Ignorar a mudança de covariável resultou em uma cobertura empírica de 0,416 contra um alvo nominal de 0,90, com uma taxa de falsa aceitação de 22,7%.
• CCC: Certificou 16,7% do pool de candidatos. Crucialmente, manteve uma cobertura empírica de 0,990 no nível nominal de 0,90, com uma taxa de falsa aceitação abaixo de 0,5%. O método permaneceu conservador, mas não vácuo através de vários níveis nominais ($\alpha \in \{0,05, \dots, 0,20\}$).

Significância e Alegações
O artigo afirma que a CCC fornece uma solução fundamentada para a questão que o MBO offline deixou sem resposta: "Quais candidatos propostos são confiáveis o suficiente para serem testados?"

• Separação de Preocupações: Ao envolver qualquer algoritmo de MBO existente, a CCC permite que o mecanismo de proposta permaneça agressivo enquanto garante que apenas candidatos com suporte empírico suficiente (via um limite inferior calibrado) avancem para a avaliação experimental dispendiosa.
• Robustez à Mudança: O método aborda explicitamente o modo de falha da predição conforme padrão sob mudança de covariável, que é a característica dominante do MBO offline.
• Limitações Modestas: Os autores reconhecem que a garantia de amostra finita mantém-se estritamente apenas para pesos de oráculo. Na prática, usar pesos de Gibbs estimados significa que a garantia não é exata, embora os resultados empíricos sugiram que o método permanece conservador (mantendo a cobertura acima do nível nominal) em vez de anti-conservador. O artigo observa que, para medições ruidosas, adições de suposições são necessárias para certificar o objetivo latente $f(x^*)$ diretamente, já que a garantia atual aplica-se à resposta medida $Y^*$.

Em resumo, a CCC oferece uma camada de certificação pós-hoc que transforma propostas de MBO potencialmente agressivas e não confiáveis em um conjunto de candidatos com garantias estatísticas rigorosas, preenchendo a lacuna entre a otimização offline e a tomada de decisão online confiável.