Resumen Técnico: Conf-Gen: Cuantificación de Incertidumbre Conformal para Modelos Generativos

Enunciado del Problema

Recientes avances en inteligencia artificial, particularmente en modelos generativos no supervisados como Modelos de Lenguaje Grande (LLMs) y generadores de imágenes, han desplazado el panorama lejos del aprendizaje supervisado tradicional. Sin embargo, la cuantificación de la incertidumbre (UQ) sigue siendo un desafío crítico para estos sistemas generativos, obstaculizando su despliegue en dominios de alto riesgo como la atención médica y el descubrimiento científico.

Aunque la Predicción Conformal (CP) y el Control de Riesgo Conformal (CRC) proporcionan marcos rigurosos y libres de distribución para la UQ en el aprendizaje supervisado, no son directamente compatibles con tareas generativas. Los intentos existentes de aplicar ideas conformes a modelos generativos suelen ser altamente específicos de la tarea, dependen de supuestos restrictivos (como la monotonía estricta de las funciones de utilidad) y se limitan a salidas de tipo conjunto. Además, las implementaciones actuales a menudo requieren etiquetas de verdad fundamental y funciones de utilidad invocables, las cuales no siempre están disponibles en escenarios generativos abiertos.

Metodología: Marco Conf-Gen

Los autores proponen Conf-Gen (Generación Conforme), un marco general que adapta el CRC a tareas generativas mientras relaja sus supuestos teóricos. Conf-Gen unifica intentos previos específicos de la tarea y extiende la metodología conforme a nuevos dominios, incluyendo secuencias y salidas estructuradas más allá de conjuntos simples.

Componentes Principales

El marco opera sobre un conjunto de datos de calibración $G_{:n} = \{(X^{(i)}, Y^{(i)}, Y^{(i)}_{GT})\}_{i=1}^n$, donde $X$ es la entrada, $Y$ es una secuencia de generaciones y $Y_{GT}$ es una verdad fundamental opcional. Consiste en tres componentes principales:

1. Funciones de Selección ($C_\lambda$): Una familia de funciones potencialmente estocásticas $C_\lambda: \mathcal{X} \times \mathcal{Y}^* \to \mathcal{S}$, indexadas por un parámetro $\lambda$. A diferencia de la CP tradicional que produce conjuntos, $\mathcal{S}$ puede ser secuencias ($\mathcal{Y}^*$) u otras salidas estructuradas. Intuitivamente, valores mayores de $\lambda$ producen salidas más conservadoras (por ejemplo, secuencias más cortas o subconjuntos más estrictos) que logran una mayor admisibilidad.
2. Función de Admisibilidad ($A$): Una función $A: \mathcal{X} \times \mathcal{S} \times \mathcal{Y}_{GT} \to [0, \infty)$ que generaliza la función de utilidad en el CRC. Mide la calidad de la salida seleccionada. Crucialmente, $A$ no necesita ser una función invocable; puede definirse mediante evaluación humana o procedimientos donde la verdad fundamental no está definida.
3. Calibración: El método encuentra un umbral $\hat{\lambda}$ tal que la admisibilidad promedio en el conjunto de datos de calibración cumple con un objetivo $\gamma$. Formalmente, $\hat{\lambda} = \inf \{ \lambda \in \Lambda : \bar{A}_n(\lambda) \ge \frac{n+1}{n}\gamma \}$.

Contribuciones Teóricas

Conf-Gen introduce una definición de instancia $\gamma$-sensible que relaja los supuestos del CRC:

• Monotonía Relajada: En lugar de requerir que la función de admisibilidad sea no decreciente casi seguro (un requisito estricto en el CRC), Conf-Gen solo requiere que el mapa $\lambda \mapsto \mathbb{E}[A^{(n+1)}(\lambda) \mid \hat{\lambda}, \lambda^*]$ sea no decreciente en esperanza condicional. Esto permite escenarios donde la relación entre $\lambda$ y la admisibilidad no es estrictamente monótona en cada realización, pero se cumple en esperanza.
• Espacios de Salida Generalizados: El marco admite salidas más allá de conjuntos (por ejemplo, secuencias), habilitando aplicaciones como la selección de una subsecuencia de respuestas o un subconjunto de acciones.
• Sin Requisito de Verdad Fundamental: El marco no requiere estrictamente una verdad fundamental $Y_{GT}$ bien definida para cada instancia, acomodando tareas abiertas donde la admisibilidad se determina por evaluación humana o consistencia semántica.

Eficiencia Computacional

El artículo identifica patrones de diseño para hacer que Conf-Gen sea computacionalmente tratable:

• Selección Basada en Puntuaciones: Al definir $C_\lambda$ basándose en puntuaciones asignadas a elementos individuales (por ejemplo, seleccionando elementos donde $S_\downarrow(x, y_t) \le \lambda$), la imagen de la función de selección se vuelve finita, permitiendo una calibración eficiente incluso con $\Lambda$ infinito.
• Descomposición a Nivel de Instancia: Si la función de admisibilidad puede descomponerse en una agregación de puntuaciones a nivel de instancia (por ejemplo, $A = \text{agg}(A'_1, \dots, A'_T)$), la calibración puede realizarse evaluando $A'$ sobre todos los elementos generados una vez, desacoplando la evaluación de la elección de $\lambda$.
• Generación Parcial: En muchos casos, el sistema puede detener la generación de una secuencia tan pronto como se cumplan los criterios de selección, ahorrando recursos computacionales.

Contribuciones Clave

1. Marco: Propone Conf-Gen, un marco riguroso de UQ para modelos generativos que generaliza el CRC a secuencias y salidas estructuradas.
2. Teoría: Relaja el supuesto de monotonía del CRC de una condición casi segura a una condición de esperanza condicional, ampliando la aplicabilidad a tareas donde la monotonía estricta no se cumple.
3. Software: Proporciona un paquete flexible de Python (conf-gen) que admite calibración e inferencia eficientes en diversas configuraciones.
4. Validación Empírica: Demuestra la versatilidad del marco en tareas novedosas, superando a las líneas base más avanzadas en preguntas y respuestas de LLM y estableciendo las primeras garantías conformes para varios nuevos dominios de aplicación.

Resultados Experimentales

Los autores validan Conf-Gen en diversas tareas, mostrando que cumple con las garantías conformes (admisibilidad empírica $\ge \gamma$) mientras mantiene la utilidad práctica (secuencias más cortas o salidas de mayor calidad en comparación con las líneas base).

• Preguntas y Respuestas de Dominio Abierto: En el conjunto de datos TriviaQA, Conf-Gen produce secuencias de respuestas más cortas que la línea base (Quach et al., 2024) mientras mantiene la misma garantía de cobertura, reduciendo el número de llamadas requeridas al LLM.
• Generación de Imágenes No Memorizadas: Aplicado a Stable Diffusion, Conf-Gen selecciona imágenes que son verificadas por evaluadores humanos como "no memorizadas" (es decir, no copias de datos de entrenamiento) con una probabilidad garantizada $\gamma$. Esto aborda los riesgos de derechos de autor asociados con los modelos generativos.
• IA Conversacional: El marco asegura que un chatbot haga suficientes preguntas de aclaración para resolver la ambigüedad antes de responder. Los resultados muestran una compensación donde un $\gamma$ más alto conduce a más aclaraciones, pero el sistema no predica por defecto preguntar el número máximo posible.
• IA Agente: Para tareas basadas en la web (conjunto de datos WebVoyager), Conf-Gen garantiza que una secuencia seleccionada de trayectorias de agentes contenga al menos una solución exitosa con probabilidad $\gamma$.
• Bosques Aleatorios: El marco se aplica al aprendizaje supervisado seleccionando un subconjunto de árboles de un bosque aleatorio que garantiza un número mínimo de predicciones correctas, demostrando la generalidad del método más allá de los modelos generativos.

Significado y Afirmaciones

El artículo afirma que Conf-Gen representa un paso significativo hacia una mejor cuantificación de la incertidumbre en modelos generativos. Al relajar los supuestos teóricos del CRC, permite la aplicación de garantías conformes a una gama más amplia de tareas generativas, incluidas aquellas sin verdad fundamental o monotonía estricta.

Los autores enfatizan que su trabajo establece una base para aplicaciones conformes novedosas, como asegurar que las imágenes generadas no estén memorizadas y verificar que los agentes de IA hayan hecho suficientes preguntas de aclaración. Plantean que estas mejoras podrían aumentar la fiabilidad de los sistemas de IA, facilitando su despliegue en aplicaciones críticas para la seguridad. El artículo mantiene un tono modesto respecto al impacto social, reconociendo que, aunque la UQ puede mejorar la fiabilidad, también podría potencialmente mejorar aplicaciones maliciosas, aunque se espera que el impacto neto sea positivo.

El trabajo no afirma resolver todos los desafíos de UQ, sino que proporciona un marco flexible y teóricamente fundamentado que unifica enfoques existentes y abre nuevas vías para el control riguroso de la incertidumbre en la era de la IA generativa.