Adaptive Conformal Prediction for Improving Factuality of Generations by Large Language Models

A continuación presento un resumen técnico detallado del artículo "Adaptive Conformal Prediction for Improving Factuality of Generations by Large Language Models" (Predicción Conformal Adaptativa para Mejorar la Facticidad de las Generaciones de Modelos de Lenguaje Grandes), traducido y adaptado al español.

---

1. El Problema

Los Modelos de Lenguaje Grandes (LLMs) son propensos a generar alucinaciones, produciendo textos fluidos pero factualmente incorrectos. Esto es especialmente crítico en dominios de alto riesgo como la medicina.

Para mitigar esto, se ha aplicado la predicción conformal, un marco teórico que proporciona garantías estadísticas de cobertura (es decir, asegura que la respuesta correcta esté dentro de un conjunto de predicciones con una probabilidad $1-\alpha$). Sin embargo, los métodos conformales existentes para LLMs tienen una limitación fundamental: carecen de adaptabilidad al prompt.

• El problema de la cobertura marginal vs. condicional: Los métodos actuales aplican un umbral de calibración global (un solo cuantil) a todos los prompts, independientemente de su dificultad, ambigüedad o rareza.
• Consecuencia: Esto garantiza una "cobertura marginal" (promedio sobre todo el conjunto de datos), pero falla en la "cobertura condicional". Para prompts difíciles, el método puede ser demasiado conservador (sobrecobertura, filtrando demasiado), mientras que para prompts fáciles puede ser demasiado permisivo (subcobertura, dejando pasar errores).

2. Metodología Propuesta

Los autores proponen un enfoque de Predicción Conformal Adaptativa que extiende los métodos de transformación de puntuaciones de conformidad para LLMs, permitiendo una calibración dependiente del prompt.

A. Fundamentos de la Predicción Conformal para LLMs

El enfoque se aplica a dos escenarios:

1. Generación de Texto Largo (Long-form QA): Las respuestas se descomponen en afirmaciones atómicas verificables. Se define una función de no conformidad $V(x, y)$ basada en el umbral de incertidumbre máximo tal que todas las afirmaciones retenidas sean correctas.
2. Preguntas de Opción Múltiple (MCQA): Se filtra un subconjunto de clases de respuesta candidato.

B. El Núcleo: Transformación de Puntuaciones Adaptativa

Para lograr la adaptabilidad, el método transforma las puntuaciones de no conformidad originales utilizando una normalización dependiente de la entrada:
$$\tilde{V}(x, y) = \frac{V(x, y)}{\hat{\tau}(x)}$$
Donde:

• $V(x, y)$ es la puntuación de no conformidad original.
• $\hat{\tau}(x)$ es un estimador del cuantil condicional $(1-\alpha)$ de la puntuación original, dado el prompt $x$.

Proceso de Entrenamiento y Calibración:

1. Representación de Entrada: Se extraen embeddings de los prompts (usando un modelo multilingüe y reducción de dimensionalidad PCA).
2. Estimación del Cuantil Condicional: Se entrena un regresor de cuantiles condicionales (un MLP de dos capas con ReLU) en un conjunto de calibración $D_{cal1}$. Este modelo aprende a predecir $\hat{\tau}(x)$ basándose en el embedding del prompt.
3. Calibración de Puntuaciones Transformadas: En un segundo conjunto de calibración $D_{cal2}$, se calculan las puntuaciones transformadas $\tilde{V}$ y se determina el umbral conformal global sobre estas nuevas puntuaciones.
4. Predicción: En tiempo de prueba, las puntuaciones de incertidumbre de las afirmaciones candidatas se normalizan por $\hat{\tau}(x)$ y se comparan con el umbral global calibrado.

Este enfoque permite que el umbral de decisión se ajuste dinámicamente según la dificultad percibida del prompt, manteniendo las garantías teóricas de cobertura marginal.

3. Contribuciones Clave

1. Nuevo Enfoque de Predicción Conformal: Propone un método para la detección de alucinaciones en LLMs que aprende una corrección adaptativa al prompt mediante regresión de cuantiles condicionales basada en embeddings.
2. Mejora de la Cobertura Condicional: Demuestran que su método preserva las garantías de cobertura marginal de la predicción conformal dividida (split conformal prediction) mientras mejora significativamente la cobertura condicional en prompts heterogéneos.
3. Validación Empírica Robusta: Evaluación exhaustiva en múltiples modelos (Mistral-7B, Llama-3.1-8B, Gemma-3-12B) y dominios (8 categorías de texto largo y 16 categorías de opción múltiple), superando a los métodos baselines existentes.

4. Resultados Experimentales

Los experimentos se realizaron en tareas de Preguntas de Respuesta Abierta (Long-form QA) y Preguntas de Opción Múltiple (MCQA).

• Comparación de Puntuaciones de Incertidumbre: Se evaluaron varias métricas para puntuar la incertidumbre de las afirmaciones. El método "Claim Conditioned Probability" (CCP) obtuvo el mejor rendimiento (PR-AUC) y se utilizó en los experimentos principales.
• Cobertura Condicional vs. Marginal:
  • En experimentos con dos categorías (ej. "Biografías" vs. "Invenciones"), el método conformal estándar (umbral global) mostró una sobrecobertura en categorías complejas y subcobertura en las fáciles.
  • El método Adaptativo logró una alineación mucho más cercana a la cobertura objetivo en cada categoría individual, manteniendo la garantía marginal global.
• Resultados en Múltiples Categorías:
  • Al calibrar sobre todos los datos (8 categorías de texto largo y 16 de MCQA), el método adaptativo redujo la variabilidad en la cobertura entre categorías.
  • En el perfil de rendimiento de Dolan-Moré, el método adaptativo superó consistentemente al método original, mostrando un error de calibración menor en una mayor fracción de problemas.
• Eficiencia: En muchos casos, el método adaptativo logró una mejor alineación de la cobertura reduciendo la fracción de afirmaciones o respuestas eliminadas (filtradas), lo que implica una mayor utilidad práctica sin sacrificar la fiabilidad.

5. Significado e Impacto

Este trabajo es significativo porque aborda una de las limitaciones prácticas más grandes de la aplicación de la predicción conformal en LLMs: la rigidez de los umbrales globales frente a la naturaleza variable de los prompts.

• Fiabilidad en Dominios Críticos: Al mejorar la cobertura condicional, el método permite filtrar de manera más precisa las afirmaciones poco fiables en tareas complejas, lo cual es vital para aplicaciones en medicina, derecho o educación.
• Soporte para Predicción Selectiva: El enfoque permite a los sistemas de IA "abstenerse" de responder o filtrar partes de una generación cuando la incertidumbre es alta, adaptándose al contexto específico de la consulta.
• Generalización: Al no requerir agrupaciones predefinidas ni ingeniería de características manual (a diferencia de métodos anteriores que usaban boosting), el método es escalable y aplicable a cualquier dominio donde se puedan extraer representaciones de los prompts.

En resumen, los autores presentan un marco teórico y práctico que hace que las garantías de fiabilidad de los LLMs sean más justas, precisas y útiles en escenarios del mundo real donde la dificultad de las consultas varía drásticamente.