Resumen Técnico: Predicción Conformal Posterior (PCP)

1. Planteamiento del Problema

La predicción conformal (CP) es una técnica ampliamente utilizada, libre de modelos, para construir intervalos de predicción con garantías de cobertura libres de distribución. Sin embargo, los métodos estándar de CP, como la Predicción Conformal Dividida (SCP), proporcionan únicamente validez marginal. Esto significa que la garantía de cobertura ($1-\alpha$) se cumple en promedio sobre toda la población, pero puede fallar para subgrupos o individuos específicos, particularmente cuando los datos de prueba se extraen de una subpoblación con datos de entrenamiento escasos (por ejemplo, condados rurales en la previsión electoral o grupos demográficos subrepresentados).

Lograr la validez condicional —garantizar la cobertura para cada vector de características específico $X$— es teóricamente imposible en configuraciones libres de distribución sin realizar suposiciones fuertes (por ejemplo, suavidad), ya que requeriría longitudes de intervalo infinitas en expectativa. Los enfoques existentes para aproximar la validez condicional, como la localización (ponderación de vecinos por distancia de características) o la agrupación (partición por atributos sensibles), enfrentan limitaciones:

• Localización: En espacios de alta dimensión, los "vecinos" pueden estar muy separados, lo que conduce a datos dispersos e intervalos inestables.
• Agrupación: La partición por atributos sensibles puede provocar una pérdida de cobertura para individuos minoritarios dentro de esos grupos (por ejemplo, mujeres altas en un grupo predominantemente femenino) debido a tamaños de muestra pequeños.

El artículo aborda la necesidad de un método que equilibre la validez marginal y condicional identificando "tipos latentes" de puntos de datos basados en su comportamiento de residuo en lugar de la proximidad de características crudas.

2. Metodología: Predicción Conformal Posterior (PCP)

PCP introduce un marco que modela la distribución de puntuaciones de no conformidad (residuos) como una mezcla finita de distribuciones de clúster. En lugar de definir la similitud basándose en las características crudas $X$, PCP define la similitud basándose en las probabilidades de pertenencia a clúster de los residuos.

Mecanismo Central

1. Modelado de Mezcla: Se asume que las puntuaciones de no conformidad $R_i = |Y_i - \hat{\mu}(X_i)|$ siguen un modelo de mezcla:
   $$R_i | X_i \sim \sum_{k=1}^K \pi_k(X_i) f_k$$
   donde $\pi(X_i)$ es un vector de probabilidades de pertenencia a clúster y $f_k$ son distribuciones de clúster distintas.
2. Pesos Aleatorizados: Para construir un intervalo de predicción para un punto de prueba $X_{n+1}$, PCP no utiliza el verdadero (desconocido) $\pi(X_{n+1})$. En su lugar, introduce un paso de aleatorización:
   • Extrae una muestra $L^* \sim \text{Multi}(m, \pi(X_{n+1}))$ (o una versión estimada $\hat{\pi}$) para obtener frecuencias empíricas $\pi^*(X_{n+1}) = L^*/m$.
   • Este "ruido" en la probabilidad de pertenencia evita que el punto de prueba sea identificado de manera única, preservando la intercambiabilidad.
3. Cuantil Ponderado: El intervalo de predicción se construye utilizando un cuantil empírico ponderado de los residuos. El peso $w_i$ para un punto de validación $i$ es proporcional a la probabilidad de que su pertenencia a clúster $\pi(X_i)$ haya generado la observación aleatorizada $\pi^*(X_{n+1})$:
   $$w_i \propto \prod_{k=1}^K [\pi_k(X_i)]^{m \pi^*_k(X_{n+1})}$$
   Esto pondera efectivamente hacia arriba los puntos de validación cuyas distribuciones de residuo (pertenencias a clúster) son similares a las del punto de prueba, incluso si sus características crudas están distantes.

Manejo de Parámetros Desconocidos

Dado que el verdadero $\pi(X)$ es desconocido, PCP lo aprende a partir de los datos. El algoritmo:

• Imputa la respuesta de prueba $Y_{n+1} = y$ para todos los candidatos $y$.
• Utiliza un algoritmo de aprendizaje simétrico para estimar las probabilidades de pertenencia $\hat{\pi}_y$ a partir del conjunto de datos aumentado.
• Emplea un algoritmo de emparejamiento eficiente (rejilla, ajuste y agrupamiento) con complejidad lineal en el tamaño de la muestra para estimar estas probabilidades sin reajustar modelos complejos para cada candidato $y$.

3. Contribuciones Clave y Garantías Teóricas

Validez Teórica

• Validez Condicional en la Pertenencia a Clúster: El Teorema 1 establece que el intervalo PCP satisface $P(Y_{n+1} \notin \hat{C}_n(X_{n+1}) \mid \pi^*(X_{n+1})) \le \alpha$. Esto garantiza la validez condicional sobre la asignación de clúster aleatorizada del punto de prueba.
• Validez Condicional Aproximada: A medida que aumenta el parámetro de precisión $m$, $\pi^*(X_{n+1})$ se concentra alrededor del verdadero $\pi(X_{n+1})$. El artículo muestra que el intervalo se acerca a la validez condicional en el propio punto de prueba, siempre que el modelo de mezcla aproxime bien la verdadera distribución de residuos.
• Longitud de Intervalo Finita: A diferencia de los métodos de localización estricta que pueden producir intervalos infinitos en altas dimensiones, PCP puede mantener intervalos finitos incluso con $m$ grande si un número suficiente de puntos de validación comparte probabilidades de pertenencia a clúster similares (Teorema 2).
• Garantías PAC: Bajo suposiciones de estabilidad en el algoritmo de aprendizaje de mezclas, PCP satisface garantías "Probablemente Correctas Aproximadamente" (PAC), asegurando que la validez se mantenga con alta probabilidad sobre la realización de los datos de validación (Sección D).

Extensiones

• Cobertura Condicional Igualada: PCP se aplica para garantizar la cobertura de subgrupos (por ejemplo, género) asegurando al mismo tiempo que el intervalo sea asintóticamente independiente de la pertenencia al subgrupo. Esto previene la pérdida de cobertura del "minoritario dentro de un minoritario" observada en los métodos de partición estándar (Proposición 3).
• Cobertura Adaptativa al Nivel para Clasificación: Para respuestas categóricas, PCP ajusta el nivel de cobertura objetivo basándose en las probabilidades predictivas del clasificador. Si un clasificador está bien calibrado y es confiable, PCP produce conjuntos de predicción más pequeños (singulares) mientras mantiene la validez (Proposición 4).

4. Resultados Experimentales

Los autores evalúan PCP en conjuntos de datos sintéticos y del mundo real, comparándolo con SCP, SCP con Calibración Condicional (SCP+CC) y Predicción Conformal Localizada Aleatoriamente (RLCP).

• Conjunto de Datos de Comunidades y Crimen: PCP logra una tasa de cobertura condicional de "peor rebanada" cercana al objetivo (0.9), superando significativamente a SCP (aprox. 0.8) y igualando a métodos avanzados como RLCP y SCP+CC. Crucialmente, PCP mantiene longitudes de intervalo comparables a SCP, mientras que RLCP produce intervalos significativamente más amplios.
• Datos Sintéticos (Residuos No Lineales): En configuraciones donde la varianza del residuo depende de manera no lineal de una característica, PCP identifica con éxito la característica relevante y adapta las anchuras de los intervalos, manteniendo la cobertura en todo el rango de la característica. RLCP y SCP+CC no logran capturar estas no linealidades, lo que conduce a brechas de cobertura.
• Encuesta del Panel de Gastos Médicos (MEPS): En un escenario con subgrupos desequilibrados (por ejemplo, género), los métodos de partición estándar (SCP+Partición) fallan al cubrir a individuos minoritarios dentro del grupo mayoritario. PCP corrige esto ampliando los intervalos para individuos subrepresentados mientras los estrecha para los bien representados, logrando una cobertura uniforme en los subgrupos sin sacrificar la eficiencia general.
• HAM10000 (Lesiones Cutáneas): Para clasificación, PCP genera conjuntos de predicción más pequeños para clasificadores bien calibrados en comparación con los conjuntos conformales estándar, alineando el tamaño del conjunto con la confianza del clasificador.

5. Significado y Afirmaciones

El artículo afirma que PCP ofrece un enfoque radicalmente diferente para modelar la similitud en la predicción conformal. Al desplazar el enfoque del espacio de características crudas a la distribución de puntuaciones de no conformidad, PCP aprovecha información no local para construir intervalos más ajustados y robustos.

El significado radica en su capacidad para:

1. Cerrar la brecha entre la validez marginal y condicional sin requerir suposiciones distribucionales sobre las características.
2. Equilibrar automáticamente la compensación entre la cobertura condicional y la longitud del intervalo, evitando la "maldición de la dimensionalidad" que afecta a los métodos de localización.
3. Mejorar la equidad asegurando la cobertura para individuos subrepresentados dentro de los subgrupos, abordando un modo de fallo específico de los métodos basados en partición.
4. Adaptarse a la confianza del clasificador en tareas de clasificación, generando conjuntos de predicción más accionables.

Los autores enfatizan que, aunque PCP depende del aprendizaje de un modelo de mezcla, sigue siendo un método libre de distribución en el sentido de que no asume una forma paramétrica específica para la distribución condicional de $Y|X$, solo que los residuos pueden aproximarse mediante una mezcla de clústeres. Se demuestra que el método es computacionalmente eficiente (lineal en el tamaño de la muestra) y efectivo en diversos dominios, incluidas la socioeconomía, la ciencia de materiales y la atención médica.