Resumen Técnico: Un Marco Multicapa para la Detección y Mitigación de Alucinaciones en Modelos de Lenguaje de Gran Escala

1. Planteamiento del Problema

Los Modelos de Lenguaje de Gran Escala (LLMs) generan texto fluido y coherente, pero frecuentemente producen "alucinaciones": afirmaciones que son fácticamente incorrectas, carecen de sustento o están incompletas. Este problema es particularmente crítico en dominios de alto riesgo como la atención médica, la educación y la investigación científica, donde imprecisiones menores pueden conducir a malentendidos significativos o decisiones erróneas. Los métodos de detección existentes suelen sufrir de varias limitaciones:

• Granularidad Gruesa: Muchos enfoques evalúan la respuesta completa como una sola unidad, fallando al detectar alucinaciones parciales donde una respuesta es mayormente correcta pero contiene afirmaciones específicas falsas.
• Falta de Fundamentación Externa: Los métodos de autoconsistencia o de análisis de estados internos dependen de los propios resultados o estados ocultos del modelo, lo que puede propagar los mismos errores.
• Costo Computacional: El debate entre múltiples agentes o los métodos de muestreo repetido suelen ser demasiado costosos para el despliegue en tiempo real.
• Brechas de Integración: La Generación Aumentada por Recuperación (RAG), la verificación de hechos y la estimación de la incertidumbre suelen tratarse como procesos separados en lugar de un flujo de trabajo unificado.

El artículo argumenta la necesidad de descomponer las respuestas en afirmaciones atómicas, fundamentarlas en evidencia externa, verificarlas de manera eficiente y refinar los casos inciertos mediante un razonamiento estructurado.

2. Metodología

Los autores proponen un Marco Multicapa que integra la fundamentación por recuperación, la descomposición de afirmaciones atómicas, la verificación mediante Modelos de Lenguaje Pequeños (SLM) y el razonamiento neuro-simbólico. El flujo de trabajo opera a través de las siguientes etapas:

2.1 Generación Inicial y Descomposición Atómica

• Generación: Un LLM genera una respuesta inicial ($A_0$) a una consulta de usuario ($Q$). Esta respuesta se trata como no verificada.
• Descomposición: El marco descompone $A_0$ en un conjunto de afirmaciones fácticas atómicas ($F = \{f_1, f_2, ..., f_n\}$). Cada afirmación es una proposición autónoma y verificable (por ejemplo, separando "Marie Curie nació en Varsovia" y "Marie Curie ganó dos Premios Nobel"). Se excluye el contenido no verificable (opiniones, estilo).

2.2 Capa 1: Fundamentación Semántica (Recuperación)

• Para cada afirmación atómica $f_i$, el sistema recupera evidencia relevante ($E_i$) de un corpus de documentos ($D$) utilizando búsqueda semántica basada en vectores.
• Las afirmaciones y los fragmentos de documentos se codifican en vectores densos, y se utiliza la similitud de coseno para identificar los fragmentos de evidencia más relevantes de los top-$k$.
• Esta capa proporciona el contexto fáctico necesario para la verificación, reduciendo la dependencia del conocimiento interno del LLM.

2.3 Capa 2: Puerta de Incertidumbre y Consistencia (Verificación por SLM)

• Un Modelo de Lenguaje Pequeño (SLM) ligero, específicamente Qwen2.5-1.5B-Instruct, actúa como un verificador probabilístico.
• El SLM recibe la afirmación ($f_i$), la evidencia recuperada ($E_i$) y la consulta original ($Q$).
• Produce probabilidades para tres etiquetas: RESPALDADA (SUPPORTED), CONTRADICCIÓN (CONTRADICTED) e INSUFICIENTE (UNDER-SPECIFIED).
• Calibración: El sistema calcula la incertidumbre (entropía normalizada) y aplica umbrales de decisión ($\tau$). Para minimizar los falsos positivos, se utiliza un umbral conservador ($\tau \approx 0.6$) en el sistema final, aunque un umbral más bajo ($\approx 0.40$) produce un F1 más alto. Las afirmaciones con baja confianza se marcan como inciertas en lugar de forzarlas a una decisión binaria.

2.4 Capa 3: Razonamiento Neuro-Simbólico

• Esta capa refina las decisiones para los casos limítrofes o inciertos.
• Emplea un conjunto predefinido de reglas lógicas (por ejemplo, las afirmaciones numéricas requieren evidencia explícita) y un LLM de razonamiento para reevaluar las afirmaciones donde la confianza del SLM es baja o la evidencia es ambigua.
• El resultado es un veredicto refinado: RESPALDADO (SUPPORTED), CORREGIDO (CORRECTED) (afirmación modificada), RECHAZADO (REJECTED) o INSUFICIENTE (INSUFFICIENT), acompañado de una explicación en lenguaje natural ($w_i$).

2.5 Salida Calibrada por Confianza

• La respuesta final ($A^*$) se reconstruye utilizando únicamente las afirmaciones validadas y corregidas.
• Se calcula un Índice de Confianza Global ($T$) basado en las probabilidades de soporte y la incertidumbre de las afirmaciones incluidas, proporcionando al usuario un indicador de fiabilidad.

3. Contribuciones Clave

1. Descomposición a Nivel de Afirmación: El marco desplaza la detección de alucinaciones de una evaluación a nivel de respuesta a un análisis a nivel de afirmación atómica, permitiendo la identificación de alucinaciones parciales dentro de respuestas que son mayormente correctas.
2. Flujo de Verificación Híbrido: Integra la fundamentación por recuperación, la verificación basada en SLM y el razonamiento neuro-simbólico en una sola arquitectura. Esto combina la eficiencia de los modelos ligeros con la consistencia lógica del razonamiento basado en reglas.
3. Diseño Consciente de la Incertidumbre: Al modelar explícitamente la incertidumbre y utilizar umbrales conservadores, el sistema prioriza evitar etiquetas de "RESPALDADO" falsas sobre la maximización del recall, lo que lo hace apto para aplicaciones de alta confianza.
4. Interpretabilidad: El sistema genera explicaciones de por qué las afirmaciones son aceptadas, rechazadas o corregidas, y proporciona un índice de confianza global, mejorando la transparencia.

4. Resultados Experimentales

El marco fue evaluado en dos conjuntos de datos: SciFact (verificación de afirmaciones científicas) y HotpotQA (respuesta a preguntas de múltiples saltos).

4.1 Métricas de Rendimiento

• SciFact: El marco completo logró una precisión de 0.511 y un macro-F1 de 0.504.
  • Observación: La variante "sin razonador" (no-reasoner) se desempeñó casi idénticamente, lo que sugiere que el verificador SLM mane la mayor parte del trabajo de clasificación estructurada para este conjunto de datos.
• HotpotQA: El flujo completo logró un F1 a nivel de token de 0.146.
  • Estudio de Ablación: Eliminar el componente de recuperación causó una caída drástica en el rendimiento (el F1 cayó a 0.034), resaltando que la fundamentación por recuperación es el componente más crítico para la calidad de la respuesta.
  • Eliminar la capa de razonamiento o el verificador SLM tuvo un impacto mínimo en el F1 a nivel de token, pero afectó el comportamiento de verificación y la interpretabilidad.

4.2 Comportamiento de Verificación y Calibración

• Estrategia Conservadora: El modelo clasifica frecuentemente las afirmaciones como INSUFICIENTES (UNDER-SPECIFIED) (42.7% de las afirmaciones) cuando la evidencia es débil, en lugar de adivinar. Esto reduce los falsos positivos pero disminuye el recall de las afirmaciones respaldadas.
• Calibración de Confianza: El ROC-AUC fue de 0.87, y la curva de calibración mostró que las puntuaciones de confianza más altas generalmente se correlacionaban con una mayor corrección. El sistema distingue eficazmente entre afirmaciones respaldadas, contradictorias e inciertas.
• Sensibilidad del Umbral: Aunque el F1 óptimo ocurrió en un umbral de $\approx 0.40$, el sistema final utiliza un umbral más estricto ($\approx 0.6$) para asegurar una alta precisión y reducir el riesgo de validar afirmaciones no sustentadas.

4.3 Eficiencia

• El flujo completo promedia 20.6 segundos por consulta.
• El paso de verificación del SLM representa la mayor parte de la latencia, mientras que la recuperación añade un overhead mínimo. Esto es significativamente más eficiente que el debate de múltiples agentes o el muestreo repetido de modelos grandes.

5. Significación y Reivindicaciones

El artículo sostiene que este marco ofrece un equilibrio práctico entre precisión, fiabilidad, interpretabilidad y costo computacional. Su importancia radica en:

• Mitigación de Alucinaciones Parciales: Al verificar las afirmaciones individualmente, el sistema puede corregir errores específicos sin descartar la respuesta completa.
• Reducción de la Carga Computacional: El uso de un verificador pequeño y especializado (SLM) en lugar de consultar repetidamente un LLM grande hace que el sistema sea factible para el despliegue en el mundo real.
• Calibración de la Confianza: El sistema no solo emite una respuesta; también proporciona un índice de confianza y una explicación, permitiendo a los usuarios evaluar la fiabilidad de la información.
• Fiabilidad Basada en Evidencia: Los resultados demuestran que sin la fundamentación por recuperación, el rendimiento de la verificación colapsa, probando que la evidencia externa es esencial para la fiabilidad fáctica.

Los autores concluyen que, si bien el sistema sigue siendo conservador (potencialmente omitiendo algunas afirmaciones respaldadas para evitar errores), este compromiso es necesario para aplicaciones de alto riesgo donde una respuesta segura pero incorrecta es más perjudicial que una respuesta incierta. Se sugiere como trabajo futuro mejorar la calidad de la recuperación, expandir las reglas de razonamiento y probar el marco en contextos de dominio abierto más amplios.