A Grounded and Decomposed Framework for Relation-Level Hallucination Evaluation in Abstractive Summarization

Imaginez que vous lisez une histoire écrite par un robot très talentueux, mais légèrement malicieux. Ce robot est un expert en « résumé abstractif », ce qui est juste une façon sophistiquée de dire qu'il lit un long article et en écrit une version courte et percutante avec ses propres mots. Il est doué pour paraître naturel et fluide ; ses phrases coulent comme un fleuve. Mais voici le piège : parfois, dans sa quête pour paraître cool, le robot invente des choses. Il peut garder les noms des personnes, mais échanger qui a fait quoi à qui. C'est comme un présentateur de journal télévisé qui dirait : « Le Président a signé le traité », alors que le document indique en réalité : « Le traité a été signé par le Secrétaire ». Les mots sont là, mais la vérité est déformée. C'est ce qu'on appelle une « hallucination », et dans le monde de l'intelligence artificielle, c'est un gros problème car nous avons besoin que nos résumés soient non seulement beaux, mais vrais.

Pendant longtemps, les scientifiques essayant de démasquer ces robots menteurs utilisaient des outils qui ressemblaient à la vérification d'une liste de courses. Ils comptaient combien de mots le robot utilisait qui se trouvaient également dans l'article original. Si le robot utilisait le mot « pomme » et que l'original contenait « pomme », cela comptait un point en sa faveur. Mais cela revient à juger un chef sur le nombre d'ingrédients qu'il a utilisés, sans goûter le plat. Vous pourriez avoir un bol rempli d'ingrédients crus et non cuits qui correspond parfaitement à la liste, mais le repas reste tout de même terrible. Les anciens outils étaient bons pour vérifier si le robot se souvenait des noms, mais ils étaient terribles pour vérifier si le robot se souvenait des relations entre ces noms. Ils ne pouvaient pas faire la différence entre un robot qui disait la vérité et un robot qui racontait un mensonge très convaincant.

C'est ici qu'une équipe de chercheurs de l'IIIT Bhubaneswar et de certains partenaires industriels intervient avec une nouvelle paire de lunettes plus aiguisée. Ils ont réalisé que pour attraper un menteur, on ne se contente pas de compter les mots ; il faut comprendre la structure de l'histoire. Ils ont construit un nouveau cadre pour évaluer les résumés qui agit comme un détective à la recherche d'« hallucinations au niveau de la relation ». Au lieu de simplement demander : « As-tu utilisé les bons mots ? », ils demandent : « As-tu relié les bons points ? ».

Les chercheurs ont créé un nouveau système de notation appelé l'Indice d'Hallucination de Relation (RHI). Considérez le texte original comme une toile complexe de fils reliant différents personnages et événements. Un bon résumé doit préserver ces fils intacts. Un résumé hallucinant pourrait couper un fil et le relier à la mauvaise personne. Les anciens outils manqueraient cela car les personnages (les mots) seraient toujours là. Le nouveau RHI, cependant, est conçu pour tracer chaque fil individuellement. Il utilise un processus sophistiqué pour décomposer le texte en de minuscules blocs de construction appelés « triplets » — essentiellement un Sujet (qui), un Verbe (a fait quoi) et un Objet (à qui).

Pour s'assurer que ces triplets sont précis, l'équipe n'a pas utilisé un simple scanner. Ils ont construit un moteur d'extraction « sensible à la dépendance ». Imaginez cet moteur comme un éditeur très méticuleux qui ne se contente pas de lire les mots, mais comprend la grammaire en profondeur. Il sait comment gérer les phrases complexes où le sujet est caché (comme dans la voix passive, « La balle a été lancée » devient « Quelqu'un a lancé la balle »). Il sait comment ignorer les mots qui ne font que rapporter des paroles (comme « Il a dit que... ») et se concentrer sur les faits réels. Il nettoie même les mots en les convertissant à leur forme de base (en changeant « courant » en « courir ») pour ne pas être confus par les différentes conjugaisons. Cela garantit que lorsqu'ils comparent le résumé du robot à l'original, ils comparent des pommes à des pommes, et non des pommes à des tartes aux pommes.

L'équipe a testé ce nouveau système sur un immense terrain de jeu de données. Ils ont utilisé trois types différents de jeux de données d'actualités : XSUM (qui propose des résumés très courts et hautement créatifs), XLSUM (qui contient des informations provenant de nombreux pays et langues) et le jeu de données CNN/DailyMail (qui propose des histoires plus longues et détaillées). Ils ont demandé à quatre modèles d'IA célèbres — BART-large-CNN, PEGASUS, T5-large et GPT-3.5 — de rédiger des résumés de 800 articles de presse différents. Ils ont également inclus un résumé de « référence humaine » pour voir à quel point les robots pouvaient se rapprocher d'un score humain parfait.

Les résultats ont été révélateurs. Lorsqu'ils utilisaient les anciens outils de comptage de mots, PEGASUS semblait souvent être le vainqueur car il utilisait beaucoup des mêmes mots que l'original. Mais quand les chercheurs ont appliqué leur nouveau score RHI, l'image a changé. BART a en fait obtenu le score le plus élevé pour la préservation des véritables relations entre les événements, même s'il n'utilisait pas toujours les mots exacts. GPT-3.5, bien que performant sur certains aspects, a montré une grande « variabilité d'insertion de relations », ce qui signifie qu'il inventait parfois de nouvelles connexions qui n'existaient pas. L'étude a révélé que le nouveau score RHI était bien meilleur pour détecter ces mensonges subtils que les anciennes méthodes.

L'une des choses les plus intéressantes qu'ils ont découvertes est que le nouveau score est « normalisé ». Cela signifie qu'il fonctionne assez bien, que vous examiniez un résumé court et percutant ou un long récit détaillé. Ils ont décomposé les erreurs en différentes catégories : les choses que le modèle a réussies, les choses qu'il a inventées, les choses qu'il a manquées et les choses qu'il a mal faites. En examinant ces éléments, ils ont pu voir exactement comment un modèle échouait. Par exemple, ils ont découvert que si certains modèles étaient bons pour conserver les faits principaux, ils étaient terribles pour gérer les déclarations négatives (comme « L'entreprise n'a pas fait faillite »).

Les chercheurs ont effectué des tests statistiques pour s'assurer que leurs conclusions n'étaient pas dues à la chance. Ils ont constaté que les différences de scores entre les modèles étaient significatives, ce qui signifie que le nouveau score RHI est un moyen fiable de distinguer un bon résumé véridique d'un mauvais résumé hallucinant. Ils ont également démontré que leur nouvelle méthode est meilleure que l'ancien « Indice d'Hallucination d'Entité » (qui ne vérifiait que si les noms étaient corrects) car elle vérifie les actions et les connexions entre ces noms.

En fin de compte, cet article suggère que si nous voulons que l'IA soit digne de confiance, nous devons cesser de simplement compter les mots et commencer à vérifier la logique de l'histoire. Le nouvel Indice d'Hallucination de Relation offre un moyen de faire précisément cela. Il ne nous dit pas seulement si un résumé semble bon ; il nous dit si l'histoire qu'il raconte est réellement vraie. Les auteurs espèrent qu'à l'avenir, ce type de score pourra être utilisé pour entraîner les modèles d'IA à être plus honnêtes, les aidant ainsi à apprendre que la fluidité ne suffit pas — il faut aussi être fidèle aux faits.