Domain-Shift-Aware Conformal Prediction for Large Language Models

Resumen Técnico: Predicción Conforme Sensible al Desplazamiento de Dominio para Grandes Modelos de Lenguaje

Planteamiento del Problema
Los Grandes Modelos de Lenguaje (LLM) producen frecuentemente salidas excesivamente confiadas pero fácticamente incorrectas (alucinaciones), lo que plantea riesgos significativos en dominios de alto riesgo como la salud y las finanzas. Si bien la Predicción Conforme (CP) ofrece un marco fundamentado para la cuantificación de la incertidumbre (UQ) con garantías de cobertura de muestra finita y sin dependencia de la distribución, la CP estándar se basa en el supuesto de intercambiabilidad. Este supuesto requiere que los datos de calibración y de prueba sean extraídos de la misma distribución. En despliegues del mundo real, el desplazamiento de dominio es omnipresente; los prompts de prueba suelen diferir significativamente de los datos de calibración históricos debido a la evolución del comportamiento del usuario o de las distribuciones de entrada. Bajo tales desplazamientos, la CP estándar sufre frecuentemente de subcobertura, produciendo conjuntos de predicción demasiado estrechos para contener la respuesta verdadera, fallando así en proporcionar garantías de incertidumbre fiables.

Metodología: Marco DS-CP
Los autores proponen la Predicción Conforme Sensible al Desplazamiento de Dominio (DS-CP), un marco diseñado para adaptar la CP a los LLM bajo desplazamiento de dominio sin requerir datos etiquetados del objetivo. El método aborda la inviabilidad de estimar las razones de densidad en espacios de prompts de alta dimensión y no estructurados mediante los siguientes pasos:

1. Incrustación Semántica (Semantic Embedding): En lugar de operar en el espacio de tokens bruto, el marco utiliza un modelo de incrustación preentrenado $h: \mathcal{X} \to \mathcal{Z}$ para proyectar los prompts en un espacio semántico de menor dimensión. Esto captura la similitud entre dominios, permitiendo que el desplazamiento de dominio se caracterice por el desplazamiento en la distribución de las incrustaciones.
2. Estimación de la Razón de Densidad: En el espacio de incrustación, se entrena un clasificador de dominio para distinguir entre los prompts de origen (calibración) y de destino (prueba). Este clasificador estima la razón de densidad $\tilde{r}(z) = \frac{dP'_Z}{dP_Z}(z)$, que sirve como un peso para las muestras de calibración basado en su proximidad al dominio de destino.
3. Ponderación Regularizada: Para evitar que los conjuntos de predicción degeneren en todo el espacio de salida (un riesgo cuando las razones de densidad están altamente desequilibradas debido a grandes desplazamientos o tamaños de muestra pequeños), los autores introducen un paso de regularización. El peso asignado al punto de prueba se reemplaza por un parámetro regularizado $\lambda$ que depende únicamente de los datos de calibración.
   • La distribución de puntuación empírica se construye como:
     $$\hat{\mu}_n = \sum_{i=1}^n \frac{\hat{w}_i}{\sum \hat{w}_j + \lambda} \delta_{S_i} + \frac{\lambda}{\sum \hat{w}_j + \lambda} \delta_{\infty}$$
     donde $\hat{w}_i$ son las razones de densidad estimadas para las muestras de calibración, y $\lambda$ se elige (típicamente como $\max_i \hat{w}_i$) para equilibrar la validez y la adaptatividad.
4. Construcción del Conjunto de Predicción: El conjunto de predicción final para un nuevo prompt se define mediante el cuantil $(1-\alpha)$ de esta distribución empírica ponderada.

Garantías Teóricas
El artículo establece límites de cobertura de muestra finita para DS-CP:

• Límite Inferior: La probabilidad de cobertura está garantizada para ser al menos $1 - \alpha$ menos un término de brecha. Esta brecha depende de los pesos normalizados y la distancia de variación total entre las distribuciones de puntuación de los puntos de calibración y de prueba en el espacio de incrustación.
• Condición de Suavidad: Los autores demuestran que si la puntuación de no conformidad varía suavemente con respecto a la incrustación semántica, la brecha de cobertura permanece pequeña incluso si las distribuciones de los prompts brutos son distintas.
• Conservadurismo: Se proporciona un límite superior, mostrando que el término de regularización $\lambda$ introduce un grado controlado de conservadurismo (sobrecobertura) cuando el tamaño de la muestra efectiva de los datos de calibración relevantes es bajo.
• Recuperación de la CP Estándar: Bajo la condición de intercambiabilidad (sin desplazamiento de dominio), el método se reduce exactamente a la CP estándar, asegurando que no haya pérdida de validez en el escenario ideal.

Resultados Experimentales
El marco fue evaluado en el benchmark MMLU, tratando diferentes categorías de materias como dominios distintos para simular el desplazamiento de dominio. Los experimentos se realizaron con 16 LLM de código abierto de 9 familias de modelos.

• Cobertura: La CP estándar falló frecuentemente en alcanzar la cobertura objetivo del 90%, cayendo a menudo significativamente por debajo de este nivel cuando los dominios de calibración y prueba divergían. DS-CP mejoró la cobertura de manera consistente, manteniéndola más cerca del nivel objetivo en todos los modelos y pares de dominios.
• Tamaño del Conjunto: Aunque DS-CP produjo conjuntos de predicción ligeramente más grandes que la CP estándar para compensar el desplazamiento, el incremento fue modesto. Esto demuestra un intercambio exitoso entre restaurar la validez y mantener la eficiencia.
• Adaptatividad: El análisis mostró que DS-CP corrige selectivamente la subcobertura en casos difíciles (donde la CP estándar falla) mientras realiza ajustes mínimos cuando la CP ya es válida, demostrando que no es meramente un agrandamiento uniforme de los conjuntos.

Significancia y Reivindicaciones
El artículo afirma proporcionar un paso práctico hacia una cuantificación de la incertidumbre confiable para los LLM en despliegues del mundo real. Su principal significancia radica en:

1. Extender la CP más allá de la intercambiabilidad: Ofrece un método sistemático y teóricamente fundamentado para manejar el desplazamiento de dominio en los LLM, un escenario donde la CP estándar falla.
2. Adaptación Semántica: Al aprovechar las incrustaciones semánticas en lugar del texto bruto, hace que la estimación de la razón de densidad sea factible para los prompts de alta dimensión de los LLM.
3. Fiabilidad Equilibrada: Logra un equilibrio entre la validez estadística (preservando las garantías de cobertura) y la adaptatividad (ajustando los conjuntos de predicción al dominio de destino específico), abordando el problema crítico de las predicciones no fiables en aplicaciones de seguridad crítica.

Los autores señalan limitaciones, incluyendo la dependencia de la calidad de los estimadores de incrustación y de la razón de densidad, el requerimiento de prompts de destino no etiquetados y el enfoque actual en tareas de opción múltiple en lugar de generación abierta. Sin embargo, postulan que DS-CP representa una adaptación fundamentada de la predicción conforme diseñada específicamente para la naturaleza de alta dimensión y no estructurada de los prompts de los LLM bajo desplazamiento de distribución.