A Grounded and Decomposed Framework for Relation-Level Hallucination Evaluation in Abstractive Summarization

Imagina que estás leyendo una historia escrita por un robot muy talentoso, pero ligeramente travieso. Este robot es un experto en "resumen abstractivo", que es solo una forma elegante de decir que lee un artículo largo y escribe una versión corta y contundente con sus propias palabras. Es excelente para sonar natural y fluido; sus frases fluyen como un río. Pero aquí está el truco: a veces, en su afán por sonar genial, el robot inventa cosas. Puede mantener los nombres de las personas correctos, pero intercambiar quién hizo qué a quién. Es como un presentador de noticias diciendo: "El Presidente firmó el tratado", cuando el documento realmente dice: "El tratado fue firmado por el Secretario". Las palabras están ahí, pero la verdad está retorcida. Esto se llama una "alucinación", y en el mundo de la inteligencia artificial, es un gran problema porque necesitamos que nuestros resúmenes no solo sean bonitos, sino verdaderos.

Durante mucho tiempo, los científicos que intentaban atrapar a estos robots mentirosos utilizaron herramientas que eran como revisar una lista de compras. Contaban cuántas palabras utilizaba el robot que también estaban en el artículo original. Si el robot usaba la palabra "manzana" y el original tenía "manzana", eso sumaba un punto a su favor. Pero esto es como juzgar a un chef por cuántos ingredientes utilizó, sin probar el plato. Podrías tener un cuenco lleno de ingredientes crudos y sin cocinar que coincida perfectamente con la lista, pero sigue siendo una comida terrible. Las herramientas antiguas eran buenas para comprobar si el robot recordaba los nombres, pero eran pésimas para comprobar si el robot recordaba las relaciones entre esos nombres. No podían distinguir entre un robot que decía la verdad y uno que contaba una mentira muy convincente.

Aquí es donde entra en escena un equipo de investigadores del IIIT Bhubaneswar y algunos socios de la industria con un nuevo par de gafas más afiladas. Se dieron cuenta de que para atrapar a un mentiroso, no basta con contar palabras; hay que entender la estructura de la historia. Construyeron un nuevo marco para evaluar resúmenes que actúa como un detective buscando "alucinaciones a nivel de relación". En lugar de preguntar simplemente: "¿Usaste las palabras correctas?", preguntan: "¿Conectaste los puntos correctos?".

Los investigadores crearon un nuevo sistema de puntuación llamado Índice de Alucinación de Relación (RHI, por sus siglas en inglés). Piensa en el texto original como una compleja red de hilos que conecta diferentes personajes y eventos. Un buen resumen debería mantener esos hilos intactos. Un resumen alucinante podría cortar un hilo y atarlo a la persona equivocada. Las herramientas antiguas pasarían esto por alto porque los personajes (las palabras) seguían estando allí. El nuevo RHI, sin embargo, está diseñado para rastrear cada uno de los hilos. Utiliza un proceso sofisticado para descomponer el texto en bloques de construcción diminutos llamados "tripletas" —básicamente, un Sujeto (quién), un Verbo (hizo qué) y un Objeto (a quién)—.

Para asegurarse de que estas tripletas fueran precisas, el equipo no utilizó simplemente un escáner básico. Construyeron un motor de extracción "consciente de la dependencia". Imagina este motor como un editor muy cuidadoso que no solo lee las palabras, sino que entiende la gramática en su profundidad. Sabe cómo manejar frases complicadas donde el sujeto está oculto (como en la voz pasiva, "La pelota fue lanzada" se convierte en "Alguien lanzó la pelota"). Sabe cómo ignorar palabras que solo reportan el habla (como "Él dijo que...") y se enfoca en los hechos reales. Incluso limpia las palabras convirtiéndolas a su forma base (cambiando "corriendo" a "correr") para no confundirse con diferentes tiempos verbales. Esto asegura que, cuando comparen el resumen del robot con el original, estén comparando manzanas con manzanas, no manzanas con tartas de manzana.

El equipo probó este nuevo sistema en un enorme patio de recreo de datos. Utilizaron tres tipos diferentes de conjuntos de datos de noticias: XSUM (que tiene resúmenes muy cortos y altamente creativos), XLSUM (que tiene noticias de muchos países e idiomas) y el conjunto de datos CNN/DailyMail (que tiene historias más largas y detalladas). Pidieron a cuatro modelos de IA famosos —BART-large-CNN, PEGASUS, T5-large y GPT-3.5— que escribieran resúmenes de 800 diferentes noticias. También incluyeron un resumen de "referencia humana" para ver qué tan cerca podían llegar los robots a una puntuación humana perfecta.

Los resultados fueron reveladores. Cuando utilizaron las viejas herramientas de conteo de palabras, PEGASUS a menudo parecía el ganador porque utilizaba muchas de las mismas palabras que el original. Pero cuando los investigadores aplicaron su nuevo puntaje RHI, la imagen cambió. BART fue el que obtuvo la puntuación más alta en la preservación de las verdaderas relaciones entre eventos, aunque no siempre utilizara las mismas palabras exactas. GPT-3.5, aunque era bueno en algunas cosas, mostró mucha "variabilidad de inserción de relación", lo que significa que a veces inventaba nuevas conexiones que no estaban allí. El estudio encontró que el nuevo puntaje RHI era mucho mejor para detectar estas mentiras sutiles que los métodos antiguos.

Uno de los hallazgos más interesantes fue que la nueva puntuación está "normalizada". Esto significa que funciona bastante bien tanto si estás mirando un resumen corto y directo como si es uno largo y detallado. Desglosaron los errores en diferentes categorías: cosas que el modelo hizo bien, cosas que inventó, cosas que omitió y cosas que hizo mal. Al observar estas piezas, pudieron ver exactamente cómo estaba fallando un modelo. Por ejemplo, descubrieron que, mientras algunos modelos eran buenos manteniendo los hechos principales, eran terribles manejando declaraciones negativas (como "La empresa no quebró").

Los investigadores realizaron pruebas estadísticas para asegurarse de que sus hallazgos no fueran solo cuestión de suerte. Encontraron que las diferencias en las puntuaciones entre los modelos eran significativas, lo que significa que el nuevo puntaje RHI es una forma fiable de distinguir un resumen bueno y veraz de uno malo y alucinante. También demostraron que su nuevo método es mejor que el antiguo "Índice de Alucinación de Entidades" (que solo comprobaba si los nombres eran correctos) porque comprueba las acciones y las conexiones entre esos nombres.

Al final, este artículo sugiere que, si queremos que la IA sea confiable, debemos dejar de contar palabras y empezar a comprobar la lógica de la historia. El nuevo Índice de Alucinación de Relación ofrece una forma de hacer precisamente eso. No solo nos dice si un resumen suena bien; nos dice si la historia que cuenta es realmente cierta. Los autores esperan que, en el futuro, este tipo de puntuación pueda usarse para entrenar modelos de IA para que sean más honestos, ayudándoles a aprender que ser fluido no es suficiente: hay que ser fiel a los hechos también.