Resumen Técnico: Predicciones como Sustitutos: Revisitando los Resultados Sustitutos en la Era de la IA

1. Planteamiento del Problema

En muchos dominios científicos, la adquisición de la variable de resultado real $Y$ es costosa, lenta o invasiva, lo que genera conjuntos de datos donde $Y$ solo se observa parcialmente. Los investigadores suelen recurrir a resultados sustitutos (variables auxiliares $\hat{Y}$) que son más económicos de obtener y están correlacionados con $Y$. Aunque se han establecido modelos de sustitución tradicionales en bioestadística y economía, el auge de la IA ha introducido una nueva clase de sustitutos: predicciones de modelos de aprendizaje automático pre-entrenados (por ejemplo, Modelos de Lenguaje de Gran Escala, modelos de visión computacional).

El artículo identifica una brecha en la Inferencia Potenciada por Predicciones (PPI, por sus siglas en inglés), un campo naciente que busca incorporar estas predicciones de IA en la inferencia estadística. Los métodos de PPI existentes a menudo tratan las predicciones como sustitutos directos de los resultados o aplican correcciones lineales simples. Sin embargo, estos enfoques enfrentan limitaciones:

1. Ineficiencia: Pueden no alcanzar el límite de eficiencia semiparamétrica, especialmente cuando las predicciones están sesgadas o se desvían sistemáticamente del resultado real.
2. Sesgo de Sobreajuste (Overfitting): Cuando se utilizan modelos de aprendizaje automático flexibles para aprender la relación entre los sustitutos y los resultados, el uso de los mismos datos tanto para el aprendizaje como para la inferencia (ajuste de la misma muestra) puede introducir un sesgo de primer orden, invalidando los intervalos de confianza.
3. Desajustes de Modalidad y Distribución: Los modelos pre-entrenados suelen sufrir de desajustes de modalidad (por ejemplo, predecir a partir de imágenes mientras que la inferencia requiere covariables tabulares) o cambios en la distribución (entrenados en datos generales, aplicados a subpoblaciones específicas), lo que conduce a predicciones mal calibradas.

El problema central es desarrollar un marco estadísticamente riguroso, computacionalmente factible y eficiente que aproveche las predicciones de IA pre-entrenadas como sustitutos, corrigiendo al mismo tiempo sus sesgos inherentes y garantizando una inferencia válida.

2. Metodología: Inferencia Potenciada por Predicciones Recalibrada (RePPI)

Los autores proponen la Inferencia Potenciada por Predicciones Recalibrada (RePPI), un método que unifica la literatura clásica de resultados sustitutos (específicamente el trabajo de Robins et al. [1994] y Chen & Chen [2000]) con la PPI moderna.

2.1 Fundamento Teórico

El parámetro objetivo $\theta^\star$ se define mediante una ecuación de estimación $E[U_{\theta}(X, Y)] = 0$ (o equivalentemente, minimizando una pérdida convexa $E[\ell_\theta(X, Y)]$). Los datos consisten en $n$ muestras etiquetadas $(Y, X, \hat{Y})$ y $N$ muestras no etiquetadas $(X, \hat{Y})$.

Los autores establecen que la pérdida imputada óptima $g_\theta$ que minimiza la varianza asintótica del estimador viene dada por:
$$\nabla g_\theta^\star(X, \hat{Y}) = \frac{1}{1+r} E[\nabla \ell_\theta(X, Y) \mid X, \hat{Y}]$$
donde $r = \lim n/N$. Esta puntuación (score) óptima representa la esperanza condicional del gradiente real dado el sustituto y las covariables.

2.2 El Algoritmo RePPI

Para operacionalizar esta teoría, RePPI emplea dos innovaciones clave:

1. Recalibración Flexible mediante Aprendizaje Automático: En lugar de asumir una forma paramétrica para la esperanza condicional, RePPI utiliza algoritmos de aprendizaje automático flexibles (por ejemplo, bosques aleatorios, redes neuronales) para estimar la función de puntuación óptima $s(X, \hat{Y}) \approx E[\nabla \ell_{\hat{\theta}_0}(X, Y) \mid X, \hat{Y}]$, donde $\hat{\theta}_0$ es un estimador inicial (por ejemplo, basado solo en datos etiquetados).
2. Cross-Fitting (Validación Cruzada): Para prevenir el sesgo de sobreajuste al usar aprendices flexibles, los datos etiquetados se dividen en pliegues (folds). La función de puntuación se entrena en un subconjunto y se evalúa en otro (fuera de la muestra). Esto asegura la independencia requerida para una teoría asintótica válida.
3. Ajuste de Potencia de Matriz (Variables de Control): Para garantizar la eficiencia incluso si la estimación de la puntuación es imperfecta, RePPI aplica una matriz de transformación lineal $\hat{M}$ a la puntuación estimada. Esta matriz se estima como la covarianza empírica entre el gradiente real y la puntuación estimada, normalizada por la varianza de la puntuación. Esto actúa como una variable de control óptima, asegurando que el estimador nunca sea peor que la línea base "solo XY" (que ignora las predicciones).

El estimador final minimiza un riesgo empírico linealizado:
$$\hat{\theta}_{RePPI} = \arg\min_\theta \left( \frac{1}{n}\sum_{i=1}^n \ell_\theta(X_i, Y_i) - \frac{1}{n}\sum_{i=1}^n \hat{g}_\theta(X_i, \hat{Y}_i) + \frac{1}{N}\sum_{i=n+1}^{n+N} \hat{g}_\theta(X_i, \hat{Y}_i) \right)$$
donde $\hat{g}_\theta$ se construye utilizando la puntuación recalibrada.

3. Principales Contribuciones

1. Marco Unificado: El artículo conecta formalmente la literatura de décadas de antigüedad sobre resultados sustitutos con el emergente campo de la PPI, aclarando que las predicciones de modelos pre-entrenados son un tipo específico de sustituto.
2. Inferencia Potenciada por Predicciones Recalibrada (RePPI): Los autores introducen un nuevo estimador que:
   • Logra la eficiencia semiparamétrica (la menor varianza asintótica) si la puntuación óptima se estima de manera consistente.
   • Es siempre más eficiente que el estimador "solo XY", incluso si la estimación de la puntuación es inconsistente (debido al mecanismo de variable de control).
   • Mantiene la convexidad del objetivo de optimización (a diferencia de algunas propuestas previas de PPI) mediante el uso de una pérdida imputada linealizada.
3. Garantías Teóricas: El artículo proporciona pruebas rigurosas de normalidad asintótica y eficiencia bajo cross-fitting, demostando que el método es robusto al uso de aprendices de alta capacidad y flexibles.
4. Análisis de los Beneficios de la Recalibración: Los autores analizan teórica y numéricamente tres escenarios específicos donde la recalibración es crítica:
   • Desajuste de Modalidad: Cuando las predicciones se basan en datos no estructurados (por ejemplo, imágenes) pero la inferencia requiere covariables estructuradas.
   • Cambio de Distribución (Distribution Shift): Cuando el modelo de predicción está entrenado en una población diferente a la población de la inferencia objetivo.
   • Predicciones Discretas: Cuando los modelos producen categorías discretas toscas y no calibradas (por ejemplo, estrellas de 1 a 5) en lugar de valores continuos.

4. Resultados

El artículo valida RePPI a través de modelos teóricos estilizados y aplicaciones del mundo real utilizando modelos de IA de última generación.

4.1 Ganancias de Eficiencia Teórica

En modelos estilizados, RePPI logra consistentemente una varianza asintótica menor que los métodos existentes (solo XY, PPI estándar y PPI++):

• Desajuste de Modalidad: RePPI reduce la varianza al utilizar eficazmente la información de la modalidad no estructurada mientras corrige la falta de covariables estructuradas en la predicción.
• Cambio de Distribución: RePPI corrige el sesgo introducido cuando la distribución de entrenamiento del modelo de predicción difiere de la población de inferencia, mientras que la PPI estándar puede funcionar peor que la línea base de solo XY en estos casos.
• Predicciones Discretas: RePPI aprende un mapeo no lineal de las predicciones discretas a la escala del resultado, superando a PPI++ que depende de correcciones lineales.

4.2 Aplicaciones Empíricas

Tres aplicaciones del mundo real demuestran ganancias significativas en el tamaño de muestra efectivo (reducción de los datos etiquetados requeridos para alcanzar un ancho de intervalo de confianza objetivo):

1. Diagnóstico de Rayos X (NIH ChestX-ray14): Utilizando un modelo DenseNet-121 entrenado en CheXpert para predecir la efusión pleural. RePPI redujo el tamaño de muestra etiquetada requerido en un ~5.7% en comparación con PPI++ para lograr la misma longitud de intervalo.
2. Medición de Toxicidad (CivilComments-WILDS): Utilizando un modelo DistilBERT entrenado en comentarios de Wikipedia para predecir la toxicidad en comentarios de noticias (cambio de distribución). RePPI redujo el tamaño de muestra etiquetada requerido en un ~5.8%.
3. Reseñas de Vinos (WineEnthusiast): Utilizando GPT-5.4 para predecir calificaciones a partir de reseñas de texto (predicciones discretas). RePPI redujo el tamaño de muestra etiquetada requerido en un ~17.6% a 19% en comparación con PPI++, resaltando el beneficio sustancial de la recalibración no lineal para sustitutos discretos.

En todos los casos, RePPI mantuvo una cobertura de intervalo de confianza del 95% válida, mientras que la PPI estándar a menudo produjo intervalos más amplios o coberturas inválidas debido a la mala calibración.

5. Significación y Reivindicaciones

El artículo afirma que RePPI representa un paso significativo adelante en el aprovechamiento de la IA para la inferencia estadística al:

• Unir la Teoría y la Práctica: Proporciona una estrategia computacional práctica (cross-fitting + pérdida linealizada) para alcanzar los límites de eficiencia asintótica establecidos en la estadística semiparamétrica, que anteriormente eran difíciles de alcanzar con modelos de aprendizaje automático flexibles.
• Robustez: A diferencia de otros métodos previos que podrían fallar o ser ineficientes cuando las predicciones están sesgadas, RePPI está diseñado para ser "seguro", garantizando una mejora sobre el hecho de ignorar las predicciones por completo.
• Abordar la Era de la IA: Aborda específicamente los desafíos únicos de usar modelos fundacionales pre-entrenados (alta dimensionalidad, datos no estructurados, cambios de distribución) como sustitutos, yendo más allá de la suposición de que las predicciones son perfectas o simplemente transformaciones lineales de la verdad.

Los autores señalan modestamente las limitaciones, incluyendo la dependencia de la teoría asintótica, la suposición de datos i.i.d. (aunque se discuten extensiones al cambio de distribución) y el enfoque actual en el uso de predicciones como sustitutos en lugar de utilizar directamente salidas de modelos más ricas como los embeddings. No obstante, este trabajo establece una base sólida para la ciencia "potenciada por la predicción" en la era de la IA.