Evo-DKD: Dual-Knowledge Decoding for Autonomous Ontology Evolution in Large Language Models
Evo-DKD est un nouveau cadre qui permet l'évolution autonome des ontologies en exploitant un mécanisme à double décodeur au sein de modèles de langage de grande taille pour générer simultanément des modifications structurées et des justifications en langage naturel, lesquels sont coordonnés via un système de porte dynamique et validés dans une boucle de raisonnement fermée afin de surpasser les modèles de référence à flux unique en termes de précision et de performance sur les tâches en aval.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez l'internet comme une bibliothèque géante et chaotique où des livres sont constamment en train d'être écrits, mais où le système de catalogage est resté bloqué à l'âge de pierre. Dans cette bibliothèque, les « ontologies » sont comme le système de classement principal — un ensemble strict de règles qui nous dit exactement comment les choses sont liées les unes aux autres (par exemple, qu'un « chien » est un type de « mammifère », et que les « mammifères » ont besoin de « nourriture »). Tenir ce catalogue à jour est un cauchemar pour les humains car le monde change trop vite ; de nouveaux faits apparaissent chaque seconde, et mettre à jour manuellement le système de classement est lent et ennuyeux.
Entrez en scène les « Grands Modèles de Langage » (LLM). Voyez-les comme des lecteurs super intelligents et voraces qui ont lu presque tout dans la bibliothèque. Ils peuvent comprendre de nouvelles histoires et de nouveaux faits instantanément. Cependant, il y a un piège : bien qu'ils soient excellents pour discuter et écrire des histoires, ils sont terribles pour suivre des règles de classement strictes. Si vous leur demandez de mettre à jour le catalogue, ils pourraient inventer des faits (un problème appelé « hallucination ») ou écrire l'information sous la forme d'un paragraphe désordonné au lieu d'une entrée nette et structurée. La grande question que les scientifiques se posent est la suivante : pouvons-nous apprendre à ces super-lecteurs non seulement à connaître des choses, mais aussi à les organiser parfaitement sans qu'un humain ne leur tienne la main ?
C'est ici qu'une nouvelle idée appelée Evo-DKD entre en jeu. Les chercheurs derrière ce projet, Vishal Raman, Vijai Aravindh R et Abhijith Ragav, proposent une manière ingénieuse de faire agir ces modèles d'IA comme une équipe de deux experts travaillant ensemble. Au lieu d'un seul cerveau essayant de tout faire, ils simulent un système à « double décodeur ». Imaginez une équipe de construction où un travailleur est un architecte strict qui ne parle qu'en plans et en mesures (le « Décodeur Structuré »), tandis que l'autre est un chef de chantier bavard qui explique pourquoi on construit de cette façon en langage courant (le « Décodeur Non Structuré »).
Dans cette configuration, l'« architecte » suggère un nouveau fait à ajouter au graphe de connaissances (comme « l'Ozempic aide à la perte de poids »), tandis que le « chef de chantier » écrit immédiatement une phrase expliquant le raisonnement (« Les médecins recommandent l'Ozempic parce que... »). Un « mécanisme de porte » spécial — pensez à un feu de signalisation ou à un arbitre — décide quand écouter l'architecte et quand écouter le chef de chantier. Le plus beau dans tout cela est que l'explication du chef de chantier est utilisée pour vérifier le plan de l'architecte. Si l'explication n'a pas de sens, le nouveau fait est rejeté. Cela crée une « boucle fermée » où l'IA vérifie son propre travail, met à jour la base de données, puis utilise cette nouvelle connaissance pour mieux répondre aux questions futures.
Les chercheurs ont testé cette idée en utilisant un modèle d'IA plus petit (TinyLlama-1.1B) car ils n'avaient pas accès à de massifs supercalculateurs. Au lieu de construire deux cerveaux physiques distincts, ils ont utilisé une astuce ingénieuse de prompts pour simuler l'équipe à deux décodeurs sur un flux de texte unique. Ils ont testé cela dans trois mondes différents : la santé (faits médicaux), la recherche sémantique (comprendre ce que les gens veulent dire lorsqu'ils effectuent une recherche) et le patrimoine culturel (histoire et artefacts).
Les résultats sont prometteurs, bien que les auteurs précisent avec prudence qu'il s'agit d'une simulation. Lorsqu'ils ont comparé leur équipe à « double décodeur » contre des modèles qui ne parlaient qu'en plans ou qui ne parlaient qu'en paragraphes, l'équipe a gagné. Dans leurs tests, l'approche à double décodeur a obtenu un score de 0,97 pour la « Précision Relaxée » (signifiant qu'elle a trouvé les faits corrects même si la formulation était légèrement différente) et un score de 0,93 pour la « Précision Exacte ». Elle a également produit de bien meilleures explications, obtenant un score de 0,88 lors d'un test de similitude sémantique (BERTScore) et de 0,76 selon le score d'un juge.
Par exemple, dans un scénario de santé, lorsque l'IA a été informée que « l'Ozempic aide à gérer la perte de poids », le système n'a pas simplement ajouté cette information aveuglément à la base de données. Il a généré le fait structuré (Ozempic, gère, poids) et a simultanément écrit : « Les médecins recommandent l'Ozempic pour aider à gérer la perte de poids dans le cas du diabète. » Lorsqu'ils ont testé un moteur de recherche utilisant cette nouvelle connaissance, le système pouvait enfin répondre à des questions sur les médicaments de perte de poids pour les diabétiques, alors qu'auparavant, il n'en avait aucune idée.
Cependant, l'article est clair sur ses limites. Ce n'est pas encore une baguette magique qui résout tout. Le système repose sur la connaissance interne de l'IA, donc si l'IA ne connaît pas un fait au départ, elle ne peut pas l'inventer correctement. De plus, l'étape de « validation » est effectuée par l'IA elle- même, et non par un humain, ce qui signifie qu'il ne s'agit pas d'une garantie absolue de vérité. Les chercheurs suggèrent qu'à l'avenir, cela pourrait être combiné avec des moteurs de recherche externes ou des réviseurs humains pour rendre le processus plus sûr. Mais pour l'instant, Evo-DKD suggère une voie fascinante : apprendre à l'IA à se parler à elle-même avec deux voix — l'une stricte, l'autre bavarde — pour construire une bibliothèque de la connaissance humaine plus intelligente et capable de s'auto-actualiser.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.