From Symbolic to Natural-Language Relations: Rethinking Knowledge Graph Construction in the Era of Large Language Models

Résumé Technique : Des relations symboliques aux relations en langage naturel dans les graphes de connaissances

Énoncé du problème
Les graphes de connaissances (KG) traditionnels reposent sur des schémas de relations symboliques prédéfinis, où les arêtes entre les entités sont étiquetées avec des types de relations discrets et catégoriels (par exemple, travaille-à, est-ami-de). Bien que ce paradigme ait été opérationnellement efficace pour les tâches en aval pré-LLM — facilitant l'extraction efficace, la génération d'embeddings et le raisonnement structuré — il souffre de limitations intrinsèques. Les relations du monde réel sont souvent contextuelles, nuancées, incertaines et évolutives. Compresser ces interactions complexes en étiquettes symboliques fixes revient à occulter des détails sémantiques critiques, ce qui entraîne un décalage entre la structure rigide des schémas symboliques et la complexité des connaissances relationnelles naturelles. De plus, l'émergence des modèles de langage de grande taille (LLM) a modifié le paysage de la création de connaissances : les LLM excellent dans la synthèse de faits en langage naturel et privilégient les textes riches en contexte et de forme libre pour le raisonnement, plutôt que les représentations quantifiées et discrètes. Les pratiques actuelles de construction de KG se contentent souvent d'utiliser les LLM pour peupler plus efficacement les schémas symboliques conventionnels, échouant ainsi à exploiter pleinement le potentiel des LLM pour repenser la représentation même des relations.

Méthodologie et cadre proposé
Ce papier de position ne propose pas un algorithme spécifique ou un nouveau jeu de données, mais plaide plutôt pour un changement de paradigme fondamental dans la construction des KG : passer des catégories de relations purement symboliques aux descriptions de relations en langage naturel. Les auteurs proposent un ensemble de principes de conception hybrides pour équilibrer le besoin d'utilisabilité structurelle avec l'expressivité du langage naturel :

1. Schémas implicites et axés sur les tâches : Bien que le langage naturel offre de la flexibilité, des relations totalement ouvertes introduisent du bruit et entravent la recherche. Les auteurs plaident pour des schémas « implicites » dérivés de buts et de domaines spécifiques. Ces schémas guident la génération de relations pour garantir un champ sémantique approprié sans imposer d'ontologies rigides et fixes.
2. Prise en charge de l'inférence symbolique secondaire : Les relations en langage naturel ne doivent pas être des artefacts isolés. Elles doivent être conçues pour être mappables ou classables dans des catégories symboliques existantes lorsque les tâches en aval nécessitent des requêtes ou des agrégations structurées. Cela assure la compatibilité avec les opérations de graphes traditionnelles tout en préservant un contenu sémantique fin.
3. Dossier structurel hybride : La proposition centrale est une architecture hybride où un ensemble minimal de relations symboliques génériques et agnostiques au domaine sert de colonne vertébrale structurelle pour l'efficacité du parcours, de l'indexation et de la recherche dans le graphe. Ces ancres symboliques sont accompagnées de descriptions riches en langage naturel qui capturent les aspects nuancés, contextuels et évolutifs de la relation. Cette conception permet au KG d'évoluer (par exemple, en divisant ou en fusionnant des relations sur la base d'insights textuels) sans perturber la structure globale du graphe.

Principales contributions

• Réévaluation du paradigme : Le papier remet en question l'hypothèse prédominante selon laquelle les LLM ne devraient être utilisés que pour peupler les schémas symboliques existants. Au lieu de cela, il soutient que la représentation des relations elles-mêmes doit changer pour s'aligner sur les capacités des LLM.
• Identification des limitations : Il détaille systématiquement les lacunes des KG actuels, notamment la rigidité des schémas prédéfinis, l'absence de canonisation dans les approches d'extraction d'informations ouvertes (OpenIE), l'ambiguïté des étiquettes grossières et l'incapacité des étiquettes symboliques à capturer la dépendance au contexte.
• Principes de conception hybride : Il articule un cadre concret pour construire des KG qui exploitent le langage naturel pour l'expressivité tout en conservant les structures symboliques pour l'évolutivité et l'efficacité de la recherche.
• Feuille de route de la recherche : Le papier trace des directions de recherche futures spécifiques nécessaires pour opérationnaliser ce changement, notamment :
  • Construire des KG à partir de sources hétérogènes tout en préservant les descriptions relationnelles conflictuelles.
  • Utiliser les LLM pour affiner les KG existants en enrichissant les relations symboliques par le langage naturel et en faisant évoluer le schéma lui-même.
  • Développer des méthodes de parcours et de raisonnement basées sur le contexte où les LLM sélectionnent dynamiquement des nœuds/relations en fonction du contenu sémantique.
  • Créer des méthodes d'embedding conjointes structurelles-sémantiques qui capturent à la fois la topologie du graphe et les descriptions textuelles nuancées.
  • Établir de nouveaux protocoles d'évaluation (par exemple, LLM-as-a-judge) qui évaluent la fidélité factuelle et la couverture d'information au-delà de la précision/rappel traditionnelle sur les triplets.

Résultats et affirmations
En tant que papier de position, ce travail ne présente pas de nouvelles expériences à grande échelle ou de résultats empiriques validant les KG hybrides proposés. Ses « résultats » sont plutôt conceptuels et analytiques :

• Il démontre que le paradigme symbolique actuel est de plus en plus désaligné avec les mécanismes d'inférence des LLM modernes, qui préfèrent le raisonnement sur les contextes de langage naturel.
• Il soutient qu'une approche hybride offre un compromis pratique, permettant une représentation de la connaissance plus riche sans sacrifier la régularité structurelle requise pour une recherche et une indexation efficaces.
• Il affirme que ce changement permet aux KG de mieux capturer la complexité des relations réelles, telles que les liens sociaux ou les dépendances spécifiques à un domaine, qui sont souvent perdues dans l'abstraction catégorielle.

Signification
La signification de ce papier réside dans son appel à dépasser l'utilisation des LLM comme de simples « extracteurs efficaces » pour les KG traditionnels. Il postule que le véritable potentiel des LLM dans la représentation des connaissances n'est réalisé que lorsque les structures de données sous-jacentes (spécifiquement les relations) sont repensées pour être natives au langage naturel. En plaidant pour un modèle hybride, les auteurs offrent une voie pour aligner les KG avec l'ère de l'« inférence basée sur le prompting », améliorant potentiellement les performances dans les tâches intensives en connaissances comme la réponse aux questions, le raisonnement et la recommandation, tout en reconnaissant les compromis nécessaires entre expressivité et tractabilité structurelle. Le papier conclut en notant ses propres limites, spécifiquement qu'il se concentre sur l'aspect relationnel des KG (laissant la représentation des entités pour un travail futur), qu'il est principalement centré sur le texte et qu'il offre des orientations conceptuelles plutôt que des protocoles empiriquement validés.