Prediction Sets and Conformal Inference with Interval Outcomes

Resumen Técnico: Conjuntos de Predicción e Inferencia Conformal con Resultados Intervalares

1. El Problema

El artículo aborda el desafío de construir conjuntos de predicción (intervalos o uniones de intervalos) para una variable de resultado $Y$ cuando esta no se observa directamente, sino que está censurada por intervalos o es de naturaleza intervalar.

• Contexto: En muchas encuestas y datos económicos (salarios, ingresos, duración del desempleo), los datos exactos no están disponibles. En su lugar, se observan rangos o "corchetes" $[Y_L, Y_U]$ tales que $Y_L \leq Y \leq Y_U$. Esto incluye casos de censura a la derecha ($Y \in [Y_L, \infty)$), a la izquierda ($Y \in (-\infty, Y_U]$) y datos de riesgos competitivos.
• Objetivo: Dado un conjunto de covariables $X$, se desea construir un conjunto de predicción $C_n(x)$ que contenga una nueva observación $Y_{n+1}$ con una probabilidad de cobertura de al menos $1-\alpha$ (nivel de error $\alpha$).
• Desafío Principal:
  1. Identificación Parcial: Debido a la censura, la distribución conjunta $(X, Y)$ no está identificada puntualmente. Solo se conoce el conjunto identificado de distribuciones compatibles con los datos observados $(X, Y_L, Y_U)$.
  2. Optimalidad: Se busca el "conjunto de predicción oráculo" ($C^*$), definido como el conjunto con el volumen mínimo (longitud mínima) que satisface la condición de cobertura bajo identificación parcial.
  3. Limitaciones de Métodos Existentes: Los métodos basados en cuantiles estándar no garantizan un volumen mínimo si la distribución es multimodal (el conjunto óptimo podría ser la unión de varios intervalos disjuntos) y no manejan adecuadamente la incertidumbre de los parámetros en muestras finitas sin supuestos distribucionales fuertes.

2. Metodología

Los autores proponen un enfoque híbrido que combina la identificación parcial con la inferencia conformal.

A. Definición del Conjunto Oráculo bajo Identificación Parcial

• Se redefine el conjunto oráculo $C^*$ como la solución a un problema de optimización que minimiza el volumen (medida de Lebesgue) sujeto a que la probabilidad de cobertura sea $\geq 1-\alpha$ para todas las distribuciones en el conjunto identificado $\mathcal{P}_I$.
• Proposición Clave (Lemmas 2.2 y 2.3): Demuestran que la condición de cobertura bajo identificación parcial puede reformularse de manera factible utilizando solo las distribuciones observadas de los límites $[Y_L, Y_U]$. Específicamente, el problema se reduce a encontrar el conjunto $C(x)$ que minimiza su volumen sujeto a:
  $$P([Y_L, Y_U] \subset C(x) \mid X=x) \geq 1-\alpha$$
  Esto evita la necesidad de imputar valores faltantes o asumir una distribución específica para $Y$ dentro del intervalo.

B. Estimación Consistente (Sección 3)

• Se propone un estimador no paramétrico basado en suavizado por núcleos (kernel smoothing) para la función de distribución condicional de los intervalos observados.
• Se demuestra la consistencia uniforme del estimador $\hat{C}(x)$ hacia el conjunto oráculo $C^*(x)$ a medida que el tamaño de la muestra $n \to \infty$.
• El método permite que el conjunto de predicción sea una unión de intervalos disjuntos, lo cual es crucial cuando la densidad condicional es multimodal (ej. mercados laborales con dos tipos de salarios distintos).
• Se manejan tanto la censura aleatoria (ruido continuo) como la censura fija (corchetes discretos de encuestas) mediante ajustes en el problema de optimización (introduciendo un término de relajación $\psi_n$).

C. Inferencia Conformal para Validez en Muestra Finita (Sección 4)

• Para garantizar una cobertura válida en muestras finitas (no solo asintótica), se aplica inferencia conformal (split conformal prediction).
• Puntaje de Conformidad (Conformity Score): Se diseña una función de puntaje específica para datos intervalares:
  $$s(y_L, y_U, x; C) = \inf \{ \theta : [y_L, y_U] \subset C^\theta \}$$
  Donde $C^\theta$ es una expansión del conjunto $C$ por una cantidad $\theta$.
  • Si el intervalo observado está contenido en el conjunto de predicción, el puntaje es $\leq 0$.
  • Si no está contenido, el puntaje es positivo y mide cuánto falta para contenerlo.
• Construcción del Conjunto Final: Se calcula el cuantil empírico de los puntajes en un conjunto de calibración y se ajusta el conjunto estimado $\hat{C}$ expandiéndolo uniformemente (o mediante una distancia euclidiana mínima) para asegurar:
  $$P(Y_{n+1} \in \tilde{C}(X_{n+1})) \geq 1-\alpha$$
  Este procedimiento es libre de distribución y válido para cualquier $P$ bajo el supuesto de intercambibilidad.

3. Contribuciones Clave

1. Caracterización del Oráculo: Extiende la definición de conjuntos de predicción óptimos (volumen mínimo) al contexto de identificación parcial inducida por censura de intervalos.
2. Estimadores Consistentes: Desarrolla estimadores no paramétricos consistentes para conjuntos de predicción que pueden ser uniones de múltiples intervalos, superando las limitaciones de los métodos de regresión de cuantiles que asumen un solo intervalo.
3. Inferencia Conformal para Intervalos: Propone una nueva función de puntaje de conformidad diseñada específicamente para datos intervalares, logrando validez en muestra finita sin asumir un mecanismo de censura específico (no requiere que la censura sea independiente condicionalmente de $Y$ dado $X$).
4. Robustez: El método no requiere imputación de datos ni especificación paramétrica del mecanismo de censura, evitando sesgos por mala especificación del modelo de imputación.

4. Resultados

Experimentos de Simulación (Sección 5):

• Se evaluaron tres modelos: distribuciones bimodales heterocedásticas, mezcla de datos exactos e intervalares (censura fija), y distribuciones unimodales sesgadas.
• Desempeño: Los conjuntos propuestos ($\tilde{C}$) lograron una cobertura cercana al nivel nominal ($1-\alpha$) y mostraron un volumen significativamente menor que los conjuntos basados en regresión de cuantiles (CQR), especialmente en casos multimodales donde los métodos de cuantiles fallan en capturar la estructura bifurcada de la distribución.
• La versión "local" de la inferencia conformal mejoró la cobertura cerca de los bordes del soporte de las covariables.

Aplicaciones Empíricas (Sección 6):

• Datos de Anuncios de Trabajo en el Reino Unido (Adzuna): Se predijeron intervalos salariales para el sector TI condicionados a la ubicación geográfica.
  • Hallazgo: Se observó una fuerte heterogeneidad espacial. Londres y grandes ciudades mostraron intervalos de predicción mucho más amplios (mayor dispersión salarial) que las zonas rurales, algo que un estimador puntual (media/mediana) no capturaría.
• Encuesta de Población Actual (CPS) de EE. UU.: Predicción de ingresos basada en educación y experiencia.
  • Hallazgo: Comparar el uso de datos intervalares reales frente a datos imputados mostró diferencias sustanciales, especialmente en las colas de la distribución. Los intervalos construidos con datos censurados reales tuvieron una cobertura empírica mucho más cercana al nivel nominal que aquellos basados en imputación, la cual tendió a subestimar la cobertura.

5. Significancia e Impacto

Este trabajo es fundamental para la econometría y la ciencia de datos aplicada porque:

• Provee una alternativa robusta a la imputación: En lugar de "rellenar" datos faltantes con supuestos (que pueden ser incorrectos y generar sesgos), el método utiliza la información completa de los intervalos observados.
• Mejora la toma de decisiones: Al proporcionar conjuntos de predicción (en lugar de puntos únicos) que son óptimos en volumen y válidos en muestras finitas, ofrece una visión más completa de la incertidumbre, incluyendo la incertidumbre estocástica, la incertidumbre de identificación parcial y la incertidumbre de muestreo.
• Aplicabilidad General: La metodología es aplicable a cualquier campo donde los datos sean intervalares (salud, finanzas, demografía), ofreciendo una herramienta rigurosa para la predicción bajo incertidumbre estructural.

En resumen, el artículo establece un marco teórico y práctico sólido para la predicción en presencia de datos censurados, combinando la teoría de identificación parcial con las garantías de cobertura finita de la inferencia conformal.