Conformal Candidate Certification for Offline Model-Based Optimization

Sintesi Tecnica: Certificazione Conforme di Candidati per l'Ottimizzazione Basata su Modelli Offline

Definizione del Problema
L'ottimizzazione basata su modelli (MBO) offline mira a identificare design ad alte prestazioni $x$ (ad esempio, nell'ingegneria proteica o nella scienza dei materiali) utilizzando esclusivamente un dataset storico fisso $D$, senza ulteriore accesso all'oracolo. La pipeline standard addestra un modello surrogato $\hat{f}_\theta$ su $D$ e lo ottimizza per proporre candidati. Tuttavia, questo processo spinge intrinsecamente i candidati verso regioni fuori distribuzione (OOD) dove il surrogato è inaffidabile, portando a una sistematica sovrastima.

I metodi esistenti tentano di mitigare questo problema modificando il meccanismo di proposta (ad esempio, tramite surrogati conservativi, rappresentazioni invarianti o modelli generativi condizionali). Rimane tuttavia una lacuna critica: questi metodi non forniscono un certificato statistico per singolo candidato che garantisca che un design proposto $x^*$ soddisfi una soglia target $\tau$ (ovvero, $f(x^*) \ge \tau$) con un livello di confidenza garantito. Confondere il compito di proposta (generazione) con quello di certificazione (validazione) comporta o una penalità di conservativismo o una mancanza di garanzie rigorose di copertura per i singoli candidati.

Metodologia: Certificazione Conforme di Candidati (CCC)
Gli autori propongono la Certificazione Conforme di Candidati (CCC), un wrapper post-hoc che applica un limite inferiore unidirezionale calibrato a qualsiasi candidato generato da un algoritmo di MBO offline. La CCC separa il compito di proposta da quello di certificazione, trattando quest'ultimo come un problema di previsione conforme con shift di covariata.

I componenti principali della metodologia sono:

1. Modellazione dello Shift di Covariata tramite Gibbs Tilt:
   Il modello assume che la distribuzione di proposta $Q_X$ (da cui vengono estratti i candidati) sia una versione "Gibbs-tilted" della distribuzione dei dati storici $P_X$. Ciò deriva naturalmente dalla massimizzazione del surrogato regolarizzata dall'entropia:
   $$q_T(x) \propto p_X(x) \exp\{\hat{f}_\theta(x)/T\}$$
   Fondamentalmente, lo stesso surrogato $\hat{f}_\theta$ utilizzato per generare lo shift fornisce anche i pesi di importanza $w(x) = dQ_X/dP_X(x)$, eliminando la necessità di un passaggio separato di stima del rapporto di densità.

2. Stima della Temperatura:
   Il parametro di temperatura $T$ viene stimato tramite moment-matching. Per evitare pesi degeneri quando i candidati sono OOD rispetto al set di validazione, gli autori accorpano il set di validazione $D_{val}$ con i punteggi surrogati dei candidati per ancorare la coda superiore della distribuzione di riferimento.

3. Previsione Conforme Pesata (IW-CP):
   La CCC utilizza la previsione conforme pesata per importanza per ripristinare la validità marginale sotto lo shift di covariata.

   • Funzione di Punteggio: Viene definita una funzione di non-conformità unidirezionale $s(x, y) = (\mu(x) - y)/\sigma(x)$, dove $\mu$ e $\sigma$ sono la media e l'incertezza del surrogato. Ciò focalizza la probabilità di calibrazione sulla coda inferiore (sovrastima).
   • Quantile Pesato: Per un candidato $x^*$, il metodo calcola un quantile pesato dei punteggi di calibrazione utilizzando i pesi derivati da Gibbs. Se il peso del punto di test è troppo elevato rispetto al set di calibrazione, il limite diventa vacuo (indicando correttamente un supporto insufficiente).
   • Certificazione: Il limite inferiore è calcolato come $y(x^*) = \mu(x^*) - \hat{q}^w_{1-\alpha}(x^*)\sigma(x^*)$. Un candidato è certificato solo se $y(x^*) \ge \tau$.

Contributi Chiave

1. Formulazione: Il documento formula la certificazione post-hoc dei candidati per l'MBO offline come un problema di previsione conforme con shift di covariata, separando esplicitamente la certificazione dalla proposta.
2. Proposta Gibbs-Tilted: Dimostra che la massimizzazione del surrogato regolarizzata dall'entropia induce una distribuzione di proposta Gibbs-tilted, permettendo al surrogato stesso di fornire i pesi di importanza necessari per la previsione conforme pesata senza stime esterne di densità.
3. Validità Teorica: Gli autori dimostrano la validità del limite inferiore marginale a campioni finiti ($P\{Y^* \ge y(X^*)\} \ge 1-\alpha$) per un nuovo candidato proveniente dalla distribuzione di proposta, assumendo pesi oracle.
4. Dimostrazione Empirica: Uno studio sintetico valida che la CCC certifica con successo un sottoinsieme non banale di proposte aggressive con quasi zero false certificazioni, mentre la previsione conforme standard (non pesata) collassa sotto lo shift di covariata.

Risultati Sperimentali
In uno studio sintetico controllato coinvolgente un pool di proposte Boltzmann aggressive:

• Surrogato Naive: Accettava tutti i candidati ma raggiungeva solo il 41% di vera precisione (molti falsi positivi).
• Previsione Conforme Non Pesata: Ignorando lo shift di covariata, il risultato ha prodotto una copertura empirica di 0.416 contro un target nominale di 0.90, con un tasso di falsa accettazione del 22.7%.
• CCC: Ha certificato il 16.7% del pool di candidati. Fondamentalmente, ha mantenuto una copertura empirica di 0.990 al livello nominale di 0.90, con un tasso di falsa accettazione inferiore allo 0.5%. Il metodo è rimasto conservativo ma non vacuo attraverso vari livelli nominali ($\alpha \in \{0.05, \dots, 0.20\}$).

Significatività e Rivendicazioni
Il documento sostiene che la CCC fornisce una soluzione fondata alla domanda che l'MBO offline ha lasciato senza risposta: "Quali candidati proposti sono abbastanza affidabili da essere testati?"

• Separazione delle Responsabilità: Avvolgendo qualsiasi algoritmo di MBO esistente, la CCC permette al meccanismo di proposta di rimanere aggressivo pur garantendo che solo i candidati con sufficiente supporto empirico (tramite un limite inferiore calibrato) vengano avanzati alla costosa valutazione sperimentale.
• Robustezza allo Shift: Il metodo affronta esplicitamente il fallimento della previsione conforme standard sotto lo shift di covariata, che è la caratteristica dominante dell'MBO offline.
• Limitazioni Modeste: Gli autori riconoscono che la garanzia a campioni finiti è strettamente valida solo per i pesi oracle. In pratica, l'uso di pesi Gibbs stimati significa che la garanzia non è esatta, sebbene i risultati empirici suggeriscano che il metodo rimanga conservativo (mantenendo la copertura sopra il livello nominale) piuttosto che anti-conservativo. Il documento nota che per misurazioni rumorose sono necessarie assunzioni aggiuntive per certificare direttamente l'obiettivo latente $f(x^*)$, poiché l'attuale garanzia si applica alla risposta misurata $Y^*$.

In sintesi, la CCC offre uno strato di certificazione post-hoc che trasforma le proposte potenzialmente inaffidabili e aggressive dell'MBO in un insieme di candidati con rigorose garanzie statistiche, colmando il divario tra l'ottimizzazione offline e il processo decisionale online affidabile.