💬 NLP

GPTKB 2.0: Direct Construction of Disambiguated Knowledge Bases from Large Language Models

L'article présente GPTKB 2.0, une méthodologie évolutive qui construit une base de connaissances désambiguïsée à l'échelle du million directement à partir de grands modèles de langage en implémentant une canonisation à la volée des entités, des relations et des classes afin de surmonter les limitations de représentation natives.

Auteurs originaux : Yujia Hu, Tuan-Phong Nguyen, Simon Razniewski

Publié 2026-08-05

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Yujia Hu, Tuan-Phong Nguyen, Simon Razniewski

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayiez de construire la bibliothèque ultime de tout ce qui existe dans le monde. Pendant des décennies, des bibliothécaires (des informaticiens) ont tenté de faire cela en lisant des livres et des sites web, en découpant des faits et en les collant sur des fiches bien rangées. Mais il y a un problème délicat : les noms sont désordonnés. Le mot « Munich » pourrait être une ville en Allemagne ou un film d'espionnage. L'expression « Île-de-France » et « région Île-de-France » pourraient sembler différentes mais désignent exactement la même chose. Si votre bibliothèque n'est pas prudente, elle finit par se retrouver avec deux fiches différentes pour la même chose, ou elle colle accidentellement deux choses différentes ensemble parce qu'elles partagent le même nom.

Récemment, un nouveau type de « super-cerveau » appelé Modèle de Langage de Grande Taille (LLM) est apparu. Ces modèles ont lu tellement de choses sur Internet qu'ils semblent connaître les faits sans avoir besoin d'un livre physique. Certains chercheurs se sont dit : « Pourquoi ne pas demander au super-cerveau de construire la bibliothèque pour nous ? » Mais voici le piège : le super-cerveau n'a pas réellement de liste de cartes d'identité uniques pour les choses. Il connaît simplement les mots. Si vous lui demandez de lister des faits, il pourrait accidentellement créer une entrée dupliquée pour « Munich la ville » et « Munich le film » parce qu'il traite ces deux termes comme le même mot, ou il pourrait oublier que « Île-de-France » et « région Île-de-France » sont le même endroit. Ce papier présente une nouvelle méthode ingénieuse pour corriger ce désordre, transformant les réponses verbales du super-cerveau en une bibliothèque propre, organisée et massive où chaque chose possède sa propre carte d'identité unique, même si elle partage le même nom.

Le Papier : GPTKB 2.0

Les chercheurs derrière ce travail, Yujia Hu, Tuan-Phong Nguyen et Simon Razniewski, s'attaquent à un grand défi dans le monde de l'Intelligence Artificielle. Ils voulaient voir s'ils pouvaient construire une base de connaissances géante et organisée directement à partir d'un Modèle de Langage de Grande Taille (LLM) sans dépendre de bases de données existantes comme Wikipédia pour leur dire ce qui est quoi.

Le Problème : Le chaos du « Jeu des Noms »
Considérez un LLM comme un ami très bavard qui connaît un million de faits mais qui a une écriture terrible et aucun système de classement. Si vous demandez à cet ami d'écrire des faits sur « Munich », il pourrait écrire :

« Munich est une ville en Allemagne. »
« Munich est un film d'espionnage. »

Si vous notez simplement ces informations telles qu'elles arrivent, vous vous retrouvez avec deux entrées différentes pour « Munich » qui se ressemblent de manière identique. Ou, si votre ami dit « Île-de-France » et « région Île-de-France », vous pourriez penser qu'il s'agit de deux endroits différents et créer deux cartes distinctes. C'est ce qu'on appelle le problème de l'homonymie (même nom, choses différentes) et de la synonymie (noms différents, même chose). Les tentatives précédentes pour construire ces bibliothèques à partir de LLM utilisaient principalement les mots tels quels, ce qui menait à une base de données désordonnée et remplie de doublons.

La Solution : Le « Détective de Contexte »
L'équipe a créé un nouveau système appelé GPTKB 2.0. Au lieu de simplement demander des faits au LLM, ils ont construit un pipeline intelligent qui agit comme un détective. Voici comment cela fonctionne, étape par étape :

La Graine (The Seed) : Ils commencent avec une seule entité, comme une graine plantée dans le sol (ils ont utilisé « Vannevar Bush » comme point de départ).
La Demande (Élicitation) : Ils demandent au LLM : « Donne-moi des faits sur [Graine]. » Mais ils ne demandent pas seulement le nom ; ils demandent aussi la description. Ainsi, si la graine est « Munich (la ville) », le LLM sait qu'il doit uniquement parler de la ville, et non du film.
Le Travail de Détective (Désambiguïsation) : Lorsqu'un nouveau fait est donné par le LLM, le système vérifie : « Attendez, avons-nous déjà vu ce nom auparavant ? »
- Si le nom est « Munich », le système examine le contexte (la phrase dont il provient). Si la phrase dit « Munich est une capitale », il le fait correspondre à la fiche de la ville. S'il dit « Munich est un film », il crée une toute nouvelle fiche pour le film.
- Si le nom est « région Île-de-France », le système réalise qu'il s'agit simplement d'une façon élaborée de dire « Île-de-France » et les fusionne sur une seule fiche.
Le Parallèle Gardé : Faire cela un par un est lent. Tout faire d'un coup est risqué (vous pourriez créer deux fiches « Munich » avant de réaliser qu'elles sont identiques). L'équipe a inventé une méthode « gardée » pour effectuer de nombreuses vérifications simultanément, en s'assurant de ne pas créer accidentellement de doublons pendant qu'ils tentent encore de comprendre les choses.

Le Grand Résultat
L'équipe a testé ce système à grande échelle. Ils n'ont pas seulement fait une petite liste ; ils ont construit une bibliothèque contenant :

38,4 millions de faits (appelés « triplets »).
1,6 million d'entités uniques et désambiguïsées (des choses comme des personnes, des lieux et des films).
207 633 relations (comment les choses sont connectées) et 66 523 classes (types de choses).

Ce qui rend cela spécial, c'est que 36,8 % de ces entités sont nouvelles. Elles n'existent pas dans la célèbre base de données Wikidata. Cela signifie que le LLM a trouvé des choses que les bibliothèques gérées par des humains avaient manquées, particulièrement dans la « longue traîne » de sujets obscurs ou moins courants.

Est-ce que cela a fonctionné ?
Les chercheurs ont testé leur bibliothèque pour vérifier son exactitude.

Fusion : Lorsqu'ils ont essayé de fusionner des éléments qui devraient être les mêmes (synonymes), ils ont eu raison 91 % du temps.
Séparation : Lorsqu'ils ont essayé de garder des éléments différents séparés (homonymes), ils ont eu raison 100 % du temps dans leurs échantillons de test.
Vérification des faits : Ils ont vérifié des faits aléatoires par rapport au web. Environ 94,5 % des faits ont été confirmés comme vrais, et seulement 2 % étaient faux.

Pourquoi cela importe
Avant cela, la plupart des grandes bases de connaissances dépendaient d'humains ou de bases de données existantes comme Wikipédia pour rester organisées. Ce papier montre que vous pouvez construire une base de connaissances massive et propre directement à partir du « cerveau » d'un modèle d'IA sans avoir besoin d'une carte préexistante. Cela prouve qu'avec les bons outils de « détective », l'IA peut organiser ses propres connaissances, trouver des choses uniques et trier les noms confus, créant ainsi une bibliothèque plus grande et plus détaillée que tout ce que nous avons construit auparavant.

Le système est désormais disponible pour que quiconque puisse l'explorer, montrant que nous pouvons enfin transformer les connaissances chaotiques et verbales de l'IA en une carte structurée et fiable du monde.

Résumé Technique : GPTKB 2.0

Énoncé du Problème

La construction automatisée de bases de connaissances (AKBC - Automated Knowledge Base Construction) reposait traditionnellement sur des ressources organisées comme Wikipédia et Wikidata pour la canonicalisation des entités, ou sur le regroupement de chaînes de caractères de surface pour l'extraction textuelle. Cependant, les approches récentes qui génèrent des bases de connaissances directement à partir de modèles de langage de grande taille (LLM) font face à une limitation structurelle critique : les LLM sont entraînés sur des chaînes de caractères, et non sur des entités. Par conséquent, traiter les chaînes de caractères de surface comme des identifiants uniques conduit à deux modes d'échec complémentaires :

L'homonymie : Des entités distinctes possédant des étiquettes identiques (par exemple, la ville de « Munich » et le film « Munich ») sont incorrectement fusionnées.
La synonymie : Des entités identiques possédant des étiquettes différentes (par exemple, « Île-de-France » et « région Île-de-France ») sont traitées comme des entités distinctes.

Les méthodes de désambiguïsation existantes dépendent souvent d'inventaires externes (par exemple, le lien vers des identifiants Wikidata), ce qui limite la portée de la construction aux ressources préexistantes. D'autres utilisent un regroupement post-hoc, qui traite la synonymie mais échoue à résoudre l'homonymie à grande échelle. Le défi central est de construire une base de connaissances à domaine ouvert et à grande échelle directement à partir des paramètres d'un LLM, tout en maintenant une canonicalisation interne explicite des entités, des relations et des classes sans dépendre d'identifiants externes.

Méthodologie : GPTKB 2.0

Les auteurs proposent GPTKB 2.0, une méthodologie pour construire des bases de connaissances désambiguïsées directement à partir de LLM. Le système traite le LLM comme l'unique source de connaissance, utilisant un pipeline récursif guidé par le contexte qui alterne entre élicitation et consolidation le long de la frontière sujet-objet.

Modèle de Données

La base de connaissances est définie par un quadruplet $(T, E, R, C)$ contenant des triplets, des entités, des relations et des classes.

Identifiants Uniques : Chaque élément se voit attribuer un ID interne unique, découplant l'identité de l'étiquette de surface.
Descriptions : Chaque élément inclut une description textuelle générée pour soutenir la désambiguïsation basée sur le contexte.
Alias : Des étiquettes synonymes sont attachées comme alias à un ID canonique unique.
Gestion de l'Homonymie : Les entités distinctes partageant une même étiquette se voient attribuer des ID différents, distingués par leurs descriptions uniques.

Pipeline de Construction

Le pipeline opère à travers trois phases de base, étendant de manière itérative la base de connaissances à partir d'entités germes :

Élicitation : Le LLM est incité à générer des triplets pour une entité donnée. Crucialement, le prompt inclut la description de l'entité aux côtés de son étiquette. Ce contexte garantit que les faits élicités se rapportent à l'entité spécifique visée (par exemple, distinguer le film « Munich » de la ville) plutôt qu'à une entité homonyme. Le modèle est également instruit de générer des triplets instanceOf pour capturer les types d'entités.
Reconnaissance d'Entités Nommées (NER) : Le LLM classifie les objets élicités comme étant soit des littéraux, soit des Entités Nommées (NE). Cette étape est guidée par le contexte, utilisant le triplet source pour déterminer si un objet (par exemple, un code comme « 01099 ») est un littéral ou une entité.
Désambiguïsation des Entités Nommées (NED) : Il s'agit de la phase de consolidation centrale, divisée en deux tours pour équilibrer précision et scalabilité :
- NED par Contexte de Triplet : Pour les NE, le système récupère les $k$ meilleurs candidats basés sur la similarité d'embedding des étiquettes. Le LLM est sollicité avec l'étiquette cible, le triplet source comme contexte, ainsi que les étiquettes/descriptions des candidats. Le modèle décide de correspondre, de sélectionner « Aucun des précédents » (nouvelle entité), ou « Incertain ».
- Génération de Description : Les entités marquées comme « Aucun des précédents » sont dirigées vers une étape de génération de description. Le LLM génère une brève description basée sur l'étiquette cible et le triplet source. Cette description sert de définition canonique de l'entité.
- NED par Contexte de Description : Pour les homonymes à haute densité (par exemple, « Faculté de Droit » apparaissant des centaines de fois), l'ensemble des candidats est restreint aux entités partageant l'étiquette exacte. Le LLM utilise alors la description générée (plutôt que le triplet source) pour distinguer les candidats sur la base de la similarité sémantique.

Mécanismes de Scalabilité

Pour permettre une construction à l'échelle du million, les auteurs introduisent la Parallélisation Gardée et la Mise en Cache :

Parallélisation Gardée : Pour éviter la création redondante d'entités dupliquées lors du traitement de requêtes concurrentes pour la même étiquette, le système regroupe les requêtes NED en attente par étiquette. Il traite immédiatement seulement la première instance élicitée ; les instances suivantes sont différées jusqu'à ce que la première soit résolue, garantissant que l'entité existe comme candidat pour des correspondances ultérieures.
Mise en Cache : Les décisions de désambiguïsation pour les paires (relation, objet) fréquentes sont mises en cache pour contourner les appels redondants de NER et de NED, réduisant considérablement les coûts d'API.

Contributions Clés

Méthodologie : Un pipeline parallélisé et guidé par le contexte pour la construction de bases de connaissances, utilisant un LLM comme source de connaissance exclusive, traitant à la fois la synonymie et l'homonymie par une désambiguïsation sur le vif sans identifiants externes.
Échelle et Qualité : La construction d'une base de connaissances matérialisée contenant 38,4 millions de triplets et 1,6 million d'entités désambiguïsées. Le système a consolidé 2,3 millions d'étiquettes de surface en 1,6 million d'entités canoniques et a correctement distingué 131 990 entités homonymes partageant 41 275 étiquettes.
Nouveauté : Le premier système à l'échelle du million, natif des LLM, possédant une canonicalisation interne explicite en dehors de la sphère Wikimedia. Environ 36,8 % des entités construites sont inédites dans Wikidata, démontant la capacité à capturer la connaissance de la « longue traîne ».

Résultats et Évaluation

Les auteurs ont évalué la base de connaissances construite via une annotation manuelle et une vérification par agents automatisés :

Précision de la Désambiguïsation :
- Précision de Fusion (Merge) : 98 % pour les homonymes et 91 % pour les synonymes.
- Précision de Séparation (Split) : 100 % pour les homonymes (aucun fauxnes séparation dans l'échantillon) et 95 % pour les synonymes.
- Relations/Classes : A atteint 89–91 % de précision de fusion et 91–94 % de précision de séparation.
Véracité (Factuality) :
- Précision des Triplets : 94,5 % des triplets échantillonnés manuellement ont été vérifiés comme vrais ; 92,8 % lors de l'évaluation automatisée.
- Véracité des Entités : 96 % des entités échantillonnées manuellement étaient vérifiables comme des entités réelles.
Comparaison avec la Référence (Baseline) : Une référence utilisant des chaînes de caractères de surface a produit 2,3 millions d'entités (contre 1,6 M pour GPTKB 2.0) et a échoué à distinguer 131 990 entités homonymes. Dans un test spécifique à un domaine (Babylon antique), la référence a confondu des entités distinctes (par exemple, différents personnages nommés « Paris »), tandis que GPTKB 2.0 a maintenu des identités distinctes.

Signification

L'article affirme que GPTKB 2.0 représente un départ significatif des travaux antérieurs centrés sur Wikimedia. En démontrant qu'un dépôt d'entités à domaine général et désambiguiqué peut être construit directement à partir des paramètres d'un LLM sans ancrage externe, ce travail ouvre la possibilité d'explorer des espaces de connaissance au-delà des ressources curatées. Les auteurs soulignent que les bases de connaissances dérivées des LLM sont particulièrement efficaces pour couvrir la « longue traîne » de la connaissance (entités apparaissant fréquemment), là où les efforts de curation sont rares. La base de connaissances résultante est mise à disposition pour l'analyse statistique agrégée, permettant l'étude des biais, des focus thématiques et de la cohérence logique à une échelle auparavant inatteignable pour les bases de connaissances natives des LLM.