Resumen Técnico: ¿Cuándo Ayuda el Recorte a la Predicción Conformal?

Enunciado del Problema

La predicción conformal se basa en la intercambiabilidad de las puntuaciones de calibración y de prueba para proporcionar garantías de cobertura en muestras finitas. Sin embargo, esta intercambiabilidad falla bajo contaminación de calibración, donde la muestra de calibración se extrae de una distribución mixta $P^\star = (1-\epsilon)P + \epsilon Q$ (con $P$ siendo la ley objetivo limpia y $Q$ una ley contaminante desconocida), mientras que el punto de prueba sigue extrayéndose de $P$.

Una respuesta común de la práctica es recortar los puntos de calibración con puntuaciones de anomalía altas antes de calcular el cuantil conformal. Aunque intuitivo, el artículo argumenta que este procedimiento no simplemente "purifica" los datos. En su lugar, transforma la ley de calibración en una ley retenida $R$. La validez del conjunto de predicción resultante para el objetivo limpio $P$ se convierte en un problema de transferencia desde $R$ hacia $P$. La pregunta central es: ¿Bajo qué condiciones el recorte mejora realmente la cobertura del objetivo limpio, y cuándo falla o incluso degrada el rendimiento?

Metodología

El Marco de la Ley Retenida

Los autores replantean el recorte de umbral fijo no como una purificación de datos, sino como condicionamiento. Dada una puntuación de anomalía $S$ y un umbral $t^\star$, los puntos de calibración se retienen si $S(Z) \le t^\star$. El conjunto de calibración retenido resultante es i.i.d. según la ley retenida:
$$R = P^\star(\cdot \mid S \le t^\star)$$
Esta ley generalmente no es ni la ley contaminada original $P^\star$ ni la ley limpia $P$.

Diagnósticos Teóricos

El artículo deriva una identidad exacta de muestra finita para la cobertura limpia marginal, que depende de la distribución de la cuenta retenida y de la relación entre la ley retenida $R$ y la ley limpia $P$.

Para hacer esto manejable, los autores introducen un hueco de transferencia escalar $d_{R \to P, +} = \sup_t (F^A_R(t) - F^A_P(t))_+$, donde $F^A$ denota la función de distribución acumulada (CDF) de la puntuación de no conformidad $A$. La garantía de cobertura está acotada por:
$$\text{Cobertura} \ge [1 - \alpha - d_{R \to P, +}]_+$$

Utilizando la descomposición de mezcla de $R$, los autores derivan una cota superior componente a componente para este hueco:
$$d_{R \to P, +} \le (1 - \tilde{\epsilon}^\star) \Delta^A_{\text{trim}, +} + \tilde{\epsilon}^\star D_{Q, +}$$
donde:

1. $\Delta^A_{\text{trim}, +}$ (Costo del lado limpio): La distorsión de la distribución de la puntuación de no conformidad limpia causada por el condicionamiento en la retención. El artículo demuestra que esto es exactamente una covarianza unilateral entre el indicador de retención y la puntuación de no conformidad bajo la ley limpia $P$.
2. $\tilde{\epsilon}^\star$ (Coeficiente de mezcla retenido): El nivel de contaminación efectivo en el conjunto retenido, dado por $\tilde{\epsilon}^\star = \frac{\epsilon p_d}{(1-\epsilon)p_c + \epsilon p_d}$, donde $p_c$ y $p_d$ son las probabilidades de retención para puntos limpios y sucios, respectivamente.
3. $D_{Q, +}$ (Discrepancia sucia retenida): La discrepancia entre el componente sucio retenido y el objetivo limpio.

Principales Conclusiones Teóricas

• Identidad de Covarianza: El costo de recortar datos limpios está impulsado por la dependencia entre la puntuación de anomalía $S$ y la puntuación de no conformidad $A$ bajo $P$. Si $S$ y $A$ son independientes bajo $P$ (por ejemplo, puntuaciones solo de covariables en regresión heterocedástica), el costo del lado limpio es cero.
• Dicotomía de Separación a Nivel de Coeficiente: El recorte reduce la contaminación solo si la puntuación de anomalía separa los puntos limpios y sucios ($p_d \ll p_c$). Si $p_d \approx p_c$, entonces $\tilde{\epsilon}^\star \approx \epsilon$, y el recorte no puede reducir el coeficiente de mezcla. En este régimen de "sin separación", el recorte puede empeorar estrictamente la cobertura al introducir distorsión del lado limpio sin reducir la contaminación.
• Nitidez de Muestra Finita: Se demuestra que la cota inferior escalar es óptima minimax dentro de la clase de problemas definidos únicamente por la restricción de discrepancia escalar. Ninguna cota inferior uniforme que utilice solo el hueco escalar puede superar este valor.

Plantillas de Certificados

Dado que las cantidades poblacionales son desconocidas en la práctica, el artículo proporciona plantillas de certificados para garantías numéricas:

1. Auditoría Componente a Componente: Acotando los ingredientes ($p_c, p_d, \Delta^A_{\text{trim}, +}, D_{Q, +}$) utilizando información independiente (por ejemplo, muestras de auditoría limpia o conocimiento del dominio).
2. Auditoría Directa: Utilizando una muestra de auditoría limpia independiente para certificar el conjunto seleccionado final mediante inversión binomial exacta o cotas de Kolmogorov-Smirnov.
3. Selección en la Muestra: Se proporciona una cota empírica de CDF en una cuadrícula finita para casos donde el umbral se selecciona de la misma muestra de calibración, incurriendo en una penalización de $\sqrt{\log K / N}$.

Resultados Experimentales

Los autores evalúan la teoría en una tarea de regresión heterocedástica con contaminación geométrica de covariables.

• Régimen de Puntuación Visible: Cuando la puntuación de anomalía (norma de puntuación de Stein) separa efectivamente las distribuciones de covariables de los datos limpios y sucios, el recorte mejora significativamente la cobertura. La mejora está impulsada por una reducción en el coeficiente de mezcla retenido $\tilde{\epsilon}^\star$ (que cae a cerca de cero) y un costo del lado limpio manejable.
• Régimen de Sin Separación: Cuando los puntos limpios y sucios tienen probabilidades de retención similares, el recorte falla en reducir $\tilde{\epsilon}^\star$. La cobertura permanece baja, confirmando que el recorte no puede ayudar sin separación.
• Contaminación Solo de Etiquetas: Cuando solo la respuesta $Y$ está corrupta (y $X$ está limpia), el recorte basado en covariables no tiene ventaja. El método identifica correctamente que el recorte no puede mejorar la cobertura en este escenario.
• Tamaño de Muestra Grande: Aumentar el tamaño de calibración $m$ reduce la holgura de muestra finita pero no elimina el déficit de cobertura a nivel poblacional causado por el hueco de transferencia de la ley retenida. La cobertura límite está gobernada por los diagnósticos poblacionales, no por el tamaño de la muestra.

Significado y Afirmaciones

El artículo afirma proporcionar un diagnóstico a nivel poblacional que explica cuándo y por qué el recorte ayuda, yendo más allá de la creencia heurística de que "eliminar valores atípicos siempre ayuda".

1. Replanteamiento del Recorte: Establece que el recorte es una transformación de la ley de calibración, no una restauración de la ley original. La validez es exacta solo para la ley retenida, requiriendo una transferencia hacia el objetivo limpio.
2. Principios de Diseño: Formaliza que una buena puntuación de anomalía para el recorte debe ser neutra en puntuación en la población limpia (minimizando la covarianza con la puntuación de no conformidad) mientras sea separativa entre las poblaciones limpias y sucias.
3. Limitaciones: Demuestra que el recorte no puede reducir la contaminación a través del coeficiente de mezcla si la puntuación falla en separar las probabilidades de retención. En tales casos, el recorte puede degradar estrictamente el rendimiento.
4. Seguridad Operativa: El artículo distingue entre diagnósticos poblacionales (explicaciones mecanísticas usando leyes de simulación conocidas) y certificados numéricos (garantías que requieren datos de auditoría independientes), asegurando que los practicantes no confundan cotas teóricas con certificados basados en datos sin la auditoría adecuada.

El trabajo concluye que el recorte no es una solución universal para la contaminación; su eficacia está estrictamente gobernada por la interacción entre la capacidad de la puntuación de anomalía para separar la contaminación y su neutralidad hacia la distribución del objetivo limpio.