Conformal Candidate Certification for Offline Model-Based Optimization

Resumen Técnico: Certificación de Candidatos Conforme para la Optimización Basada en Modelos Offline

Planteamiento del Problema
La Optimización Basada en Modelos (MBO) Offline busca identificar diseños de alto rendimiento $x$ (por ejemplo, en ingeniería de proteínas o ciencia de materiales) utilizando únicamente un conjunto de datos históricos fijo $D$, sin acceso adicional al oráculo. El flujo de trabajo estándar entrena un modelo sustituto $\hat{f}_\theta$ sobre $D$ y lo optimiza para proponer candidatos. Sin embargo, este proceso conduce inherentemente a los candidatos hacia regiones fuera de la distribución (OOD, por sus siglas en inglés) donde el sustituto no es fiable, lo que provoca una sobreestimación sistemática.

Los métodos existentes intentan mitigar esto modificando el mecanismo de propuesta (por ejemplo, mediante sustitutos conservadores, representaciones invariantes o modelos generativos condicionales). Persiste una brecha crítica: estos métodos no proporcionan un certificado estadístico por candidato de que un diseño propuesto $x^*$ satisface un umbral objetivo $\tau$ (es decir, $f(x^*) \ge \tau$) con un nivel de confianza garantizado. Confluir las tareas de propuesta (generación) y certificación (validación) resulta en una penalización por conservadurismo o en una falta de garantías de cobertura rigurosas para candidatos individuales.

Metodología: Certificación de Candidatos Conforme (CCC)
Los autores proponen la Certificación de Candidatos Conforme (CCC), un envoltorio (wrapper) post-hoc que adjunta un límite inferior unilateral calibrado a cualquier candidato generado por un algoritmo de MBO offline. CCC separa la tarea de propuesta de la tarea de certificación, tratando esta última como un problema de predicción conforme de cambio de covariables (covariate-shift conformal prediction).

Los componentes centrales de la metodología son:

1. Modelado de Cambio de Covariables mediante Sesgo de Gibbs:
   El artículo modela la distribución de propuesta $Q_X$ (de la cual se extraen los candidatos) como una versión con sesgo de Gibbs de la distribución de los datos históricos $P_X$. Esto surge naturalmente de la maximización del sustituto con regularización de entropía:
   $$q_T(x) \propto p_X(x) \exp\{\hat{f}_\theta(x)/T\}$$
   Crucialmente, el mismo sustituto $\hat{f}_\theta$ utilizado para generar el sesgo también suministra los pesos de importancia $w(x) = dQ_X/dP_X(x)$, eliminando la necesidad de un paso separado de estimación de la relación de densidades.

2. Estimación de la Temperatura:
   El parámetro de temperatura $T$ se estima mediante el emparejamiento de momentos (moment-matching). Para evitar pesos degenerados cuando los candidatos están fuera de la distribución respecto al conjunto de validación, los autores combinan el conjunto de validación $D_{val}$ con las puntuaciones del sustituto de los candidatos para anclar la cola superior de la distribución de referencia.

3. Predicción Conforme Ponderada (IW-CP):
   CCC emplea la predicción conforme ponderada por importancia para restaurar la validez marginal bajo el cambio de covariables.

   • Función de Puntuación: Se define una función de no conformidad unilateral: $s(x, y) = (\mu(x) - y)/\sigma(x)$, donde $\mu$ y $\sigma$ son la media y la incertidumbre del sustituto. Esto enfoca la probabilidad de calibración en la cola inferior (sobreestimación).
   • Cuantil Ponderado: Para un candidato $x^*$, el método calcula un cuantil ponderado de las puntuaciones de calibración utilizando los pesos derivados de Gibbs. Si el peso del punto de prueba es demasiado alto en relación con el conjunto de calibración, el límite se vuelve vacuo (indicando correctamente una insuficiencia de soporte).
   • Certificación: El límite inferior se calcula como $y(x^*) = \mu(x^*) - \hat{q}^w_{1-\alpha}(x^*)\sigma(x^*)$. Un candidato se certifica solo si $y(x^*) \ge \tau$.

Contribuciones Clave

1. Formulación: El artículo formula la certificación post-hoc de candidatos para MBO offline como un problema de predicción conforme de cambio de covariables, desacoplando explícitamente la certificación de la propuesta.
2. Propuesta con Sesgo de Gibbs: Demuestra que la maximización del sustituto con regularización de entropía induce una distribución de propuesta con sesgo de Gibbs, permitiendo que el propio sustituto proporcione los pesos de importancia necesarios para la predicción conforme ponderada sin una estimación de densidad externa.
3. Validez Teórica: Los autores demuestran la validez de la validez marginal del límite inferior de muestra finita ($P\{Y^* \ge y(X^*)\} \ge 1-\alpha$) para un candidato nuevo de la distribución de propuesta, asumiendo pesos de oráculo.
4. Demostración Empírica: Un estudio sintético valida que CCC certifica con éxito un subconjunto no trivial de propuestas agresivas con una falsa certificación cercana a cero, mientras que la predicción conforme estándar (no ponderada) colapsa bajo el cambio de covariables.

Resultados Experimentales
En un estudio sintético controlado que involucra un grupo de propuestas de Boltzmann agresivas:

• Sustituto Naive: Aceptó todos los candidatos pero logró solo un 41% de precisión real (muchos falsos positivos).
• Predicción Conforme No Ponderada: Ignorar el cambio de covariables resultó en una cobertura empírica de 0.416 frente a un objetivo nominal de 0.90, con una tasa de falsa aceptación del 22.7%.
• CCC: Certificó el 16.7% del conjunto de candidatos. Crucialmente, mantuvo una cobertura empírica de 0.990 en el nivel nominal de 0.90, con una tasa de falsa aceptación inferior al 0.5%. El método se mantuvo conservador pero no vacuo a través de varios niveles nominales ($\alpha \in \{0.05, \dots, 0.20\}$).

Significancia y Reivindicaciones
El artículo afirma que CCC proporciona una solución fundamentada a la pregunta que la MBO offline ha dejado sin respuesta: "¿Qué candidatos propuestos son lo suficientemente fiables para ser probados?"

• Separación de Preocupaciones: Al envolver cualquier algoritmo de MBO existente, CCC permite que el mecanismo de propuesta permanezca agresivo mientras asegura que solo los candidatos con suficiente soporte empírico (mediante un límite inferior calibrado) avancen a la evaluación experimental costosa.
• Robustez al Cambio: El método aborda explícitamente el modo de fallo de la predicción conforme estándar bajo el cambio de covariables, que es la característica dominante de la MBO offline.
• Limitaciones Modestas: Los autores reconocen que la garantía de muestra finita se cumple estrictamente solo con pesos de oráculo. En la práctica, el uso de pesos de Gibbs estimados significa que la garantía no es exacta, aunque los resultados empíricos sugieren que el método sigue siendo conservador (manteniendo la cobertura por encima del nivel nominal) en lugar de anti-conservador. El artículo señala que para mediciones ruidosas, se requieren supuestos adicionales para certificar directamente el objetivo latente $f(x^*)$, ya que la garantía actual se aplica a la respuesta medida $Y^*$.

En resumen, CCC ofrece una capa de certificación post-hoc que transforma las propuestas de MBO agresivas y potencialmente poco fiables en un conjunto de candidatos con garantías estadísticas rigurosas, cerrando la breancia entre la optimización offline y la toma de decisiones online fiable.