Resumen Técnico: Recorte de Pesos para Inferencia Conformal Robusta bajo Desplazamientos de Covariables No Acotados

1. Enunciado del Problema

La Predicción Conformal (CP) ofrece conjuntos de predicción libres de distribución con garantías rigurosas de cobertura, pero estas garantías dependen fundamentalmente de la intercambiabilidad de los datos de entrenamiento (calibración) y de prueba. En la práctica, esta suposición se viola frecuentemente debido a desplazamientos de covariables, donde la distribución marginal de las entradas cambia entre el entrenamiento ($P_X$) y la prueba ($Q_X$), mientras que la distribución condicional de las etiquetas permanece invariante ($P(Y|X) = Q(Y|X)$).

La Predicción Conformal Ponderada (WCP) aborda esto reponderando las muestras de calibración utilizando la razón de densidad $w^*(x) = dQ_X/dP_X$. Sin embargo, WCP enfrenta dos modos de fallo críticos cuando la razón de densidad verdadera es no acotada o debe ser aprendida a partir de datos:

1. Alta Varianza: Las razones no acotadas conducen a estimaciones de alta varianza del umbral de la puntuación de no conformidad, reduciendo drásticamente el "tamaño de muestra efectivo".
2. Sobreajuste y Mala Generalización: Cuando $w^*$ se aprende (por ejemplo, mediante Ajuste de Importancia por Mínimos Cuadrados, LSIF), los límites de generalización a menudo dependen del error $L_1$ de la estimación de los pesos. Si la razón verdadera tiene colas pesadas (momentos superiores no acotados), los estimadores estándar pueden sufrir un sobreajuste catastrófico, lo que lleva a una subcobertura significativa incluso con grandes conjuntos de datos.

El artículo aborda la siguiente pregunta: ¿Podemos obtener garantías de cobertura conformal confiables y condicionales al conjunto de datos bajo desplazamiento de covariables cuando la razón de densidad verdadera es no acotada o debe aprenderse?

2. Metodología

Los autores proponen un marco llamado Predicción Conformal Ponderada con Pesos Recortados (CWCP), que integra una técnica novedosa de estimación de razones de densidad con un mecanismo de corrección de sesgo.

2.1. Ajuste de Importancia por Mínimos Cuadrados Recortado (CLISF)

En lugar de aprender una razón de densidad no acotada, los autores proponen aprender una razón recortada $\hat{w}$ restringida al rango $[0, B]$ para algún umbral $B \ge 1$.

• Mecanismo: El algoritmo minimiza el objetivo estándar de LSIF sobre una clase de funciones recortadas $\mathcal{W}_B = \{x \mapsto \min(w(x), B) : w \in \mathcal{W}\}$.
• Compensación Sesgo-Varianza: El recorte introduce un sesgo controlable (la diferencia entre la razón verdadera y la razón recortada) pero reduce significativamente la varianza del estimador.
• Ventaja Teórica: A diferencia de las heurísticas de recorte post-hoc utilizadas en trabajos anteriores, CLISF integra el recorte directamente en el paso de estimación. Esto permite límites de generalización de muestra finita donde la complejidad de la muestra depende del parámetro de recorte $B$ y de la complejidad de Rademacher de la clase recortada, en lugar de los momentos superiores de la razón verdadera no acotada.

2.2. Estimación y Corrección del Sesgo

El recorte inevitablemente conduce a una subcobertura porque los pesos recortados subestiman la importancia verdadera de las regiones de alta densidad.

• Cuantificación del Sesgo: El sesgo se define como $\Delta_B = \mathbb{E}_P[(w^*(X) - B)_+]$.
• Estimación: Los autores muestran que $\Delta_B$ puede estimarse con precisión a partir de datos utilizando la razón recortada aprendida $\hat{w}$ y una muestra de estimación del sesgo. Específicamente, $\hat{\Delta}_B = 1 - \frac{1}{m}\sum \hat{w}(X_i)$.
• Nivel de Cobertura Objetivo Inflado: Para restaurar una cobertura válida, CWCP ejecuta WCP con un nivel de cobertura objetivo inflado de $1 - \alpha + \hat{\Delta}_B + \text{términos de error}$. Esta corrección cuenta con la subcobertura sistemática causada por el recorte.

2.3. Minimización del Riesgo Estructural (SRM) para la Selección de Parámetros

Seleccionar el parámetro de recorte $B$ es crítico. La validación cruzada estándar es poco fiable porque el propio objetivo de CLISF puede tener alta varianza. Los autores proponen utilizar la Minimización del Riesgo Estructural (SRM) para seleccionar $B$ minimizando una cota superior del riesgo verdadero, que incluye el riesgo empírico y una penalización de complejidad derivada de la complejidad de Rademacher de la clase recortada.

3. Contribuciones Clave

1. Técnica de Estimación Novel (CLISF): El artículo introduce CLISF, el primer método que proporciona teoría de muestra finita para el recorte de pesos en inferencia conformal. Aprende razones en una clase recortada, reduciendo la varianza y el sobreajuste mientras proporciona garantías de generalización demostrables para la razón de densidad estimada.
2. Garantías Condicionales al Conjunto de Datos: Los autores demuestran que CWCP logra cobertura marginal condicional al conjunto de datos. Crucialmente, la complejidad de la muestra requerida para lograr estas garantías no explota con los momentos superiores de la razón de densidad verdadera (una limitación clave de trabajos anteriores).
3. Garantías Bilaterales: A diferencia de gran parte del trabajo anterior que solo proporciona garantías de cobertura unilaterales (límite inferior), CWCP proporciona garantías bilaterales. Esto asegura que el método no logre la cobertura objetivo mediante una sobrecobertura trivial (produciendo conjuntos de predicción excesivamente grandes).
4. Estimación del Sesgo: El artículo proporciona un método para estimar con precisión el sesgo de recorte a partir de datos, permitiendo la inflación precisa del objetivo de cobertura requerida para restaurar la validez.

4. Resultados

Resultados Teóricos

• Teorema 3.4: Establece un límite de generalización de error $L_2$ para CLISF que depende de $B$ y de la complejidad de Rademacher, independiente de los momentos superiores de $w^*$.
• Teorema 4.4: Demuestra que CWCP logra cobertura condicional al conjunto de datos con alta probabilidad. La cobertura está acotada inferiormente por $1 - \alpha - 2\sqrt{2\Delta_R}$ (donde $\Delta_R$ es el error de especificación) y superiormente por un término que involucra el sesgo $\Delta_B$ y el error de estimación.
• Corolario 4.5: Combina lo anterior para proporcionar garantías de extremo a extremo para el pipeline completo (aprendizaje de $\hat{w}$, estimación del sesgo y construcción de conjuntos de predicción).

Resultados Empíricos

Los autores validan su método en datos sintéticos y puntos de referencia del mundo real:

• Conjunto de Datos iWildCam: En una tarea de clasificación de imágenes de vida silvestre con desplazamiento de covariables (diferentes ubicaciones de cámaras), CWCP demostró una cobertura más ajustada y estable alrededor del nivel nominal de 0.8 en comparación con WCP estándar y Conformal Dividido. Conformal Dividido sufrió una subcobertura significativa debido al desplazamiento no contabilizado, mientras que WCP exhibió alta varianza.
• Conjunto de Datos de Comunidades y Crimen: En una tarea de predicción de tasas de criminalidad con desplazamientos de covariables basados en demografía, CWCP mantuvo una cobertura estable con baja varianza, whereas WCP mostró una varianza muy alta, particularmente en desplazamientos de poblaciones hispanas y asiáticas.
• Datos Sintéticos: Los experimentos con distribuciones gaussianas desplazadas confirmaron que CWCP equilibra las ventajas de WCP (contabilizar el desplazamiento) y Conformal Dividido (baja varianza), especialmente cuando la razón de densidad verdadera sigue una distribución de colas pesadas (ley de potencias).

5. Significado y Afirmaciones

El artículo afirma proporcionar las primeras garantías teóricas para el recorte de pesos en inferencia conformal. Su significado principal radica en abordar la inestabilidad de WCP bajo desplazamientos de covariables no acotados sin requerir suposiciones sobre razones de densidad acotadas o momentos.

• Robustez: El método es robusto a desplazamientos de colas pesadas donde WCP tradicional falla catastróficamente.
• Practicidad: Al estimar el factor de inflación necesario a partir de datos, el método evita la necesidad de ajustar manualmente los objetivos de cobertura para compensar un sesgo desconocido.
• Avance Teórico: Los resultados representan un avance cualitativo para la predicción conformal en escenarios realistas donde las razones de densidad pueden ser no acotadas, ofreciendo una complejidad de muestra que escala con el parámetro de recorte $B$ en lugar de los momentos potencialmente infinitos de la razón verdadera.

Los autores notan que, aunque el método se centra en la cobertura marginal, el trabajo futuro podría extender este marco a garantías condicionales a la clase o condicionales a grupos. También reconocen que el problema de optimización de CLISF es generalmente no convexo, sugiriendo investigación futura sobre sustitutos convexos o estrategias de optimización eficientes para clases de funciones específicas.