ADVENT: LLM-Driven Automatic Predicate Invention for ILP
Le papier présente ADVENT, un cadre piloté par les LLM qui automatise l'invention de prédicats dans la programmation logique inductive en combinant la génération abductive avec la vérification déductive pour créer des règles interprétables par l'humain et permettre la réutilisation des connaissances entre les tâches, améliorant considérablement les taux de réussite là où les méthodes traditionnelles d'ILP échouent.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous essayez d'apprendre à un robot comment jouer au poker. Vous donnez au robot un jeu de cartes et une liste de règles comme « un cœur est rouge » ou « un 7 est un nombre ». Mais vous ne lui dites pas ce qu'est réellement une « Couleur » (cinq cartes de la même couleur/enseigne) ou une « Suite » (cinq cartes consécutives).
Le robot essaie d'apprendre ces concepts par lui-même, mais il se heurte à un mur. Il ne peut voir que les cartes individuelles, pas les motifs cachés qui les relient. C'est comme essayer de décrire une symphonie en se contentant de lister le nom des instruments, sans jamais entendre la mélodie.
Ce document présente ADVENT, une nouvelle façon d'aider les robots à apprendre ces motifs cachés. Voici comment cela fonctionne, décomposé en étapes simples :
1. Le Problème : Le robot est « aveugle » aux motifs
Dans le monde de la logique de l'IA (appelée Programmation Logique Inductive), les robots sont excellents pour suivre des règles strictes. Mais ils sont très mauvais pour inventer de nouveaux concepts.
- L'ancienne méthode : Si le robot doit savoir ce qu'est une « Suite », un programmeur humain doit généralement écrire manuellement une règle pour cela. Si le programmeur oublie, le robot ne pourra jamais l'apprendre.
- La limitation : Les robots existants ne peuvent pas simplement « regarder » une main de cartes et dire : « Oh, je vois un motif ici où les nombres augmentent de un ». Ils restent bloqués car ils manquent du vocabulaire pour décrire ces nouvelles idées.
2. La Solution : Une équipe de deux (L'Inventeur et Le Juge)
ADVENT résout cela en associant deux outils puissants :
- L'Inventeur (Le LLM) : Il s'agit d'un Grand Modèle de Langage (comme une IA très intelligente et créative). Il observe les données et dit : « Hé, je pense qu'il y a un motif ici ! Inventons un nouveau mot pour cela, comme
a_un_rang_dupliqué». Il crée de nouvelles définitions et leur donne des noms compréhensibles par l'humain. - Le Juge (Prolog) : C'est un programme informatique strict et logique. Il agit comme un arbitre. Lorsque l'Inventeur suggère une nouvelle règle, le Juge la teste immédiatement sur des exemples réels.
- Est-ce que cette règle fonctionne pour une main gagnante ?
- Est-ce qu'elle signale par erreur une main perdante comme étant gagnante ?
3. Le Processus : Une boucle d'essais et d'erreurs
ADVENT ne se contente pas de deviner une seule fois ; il fonctionne par cycles :
- Vérification : D'abord, le système vérifie si le robot en sait déjà assez. Si ce n'est pas le cas, il lance la boucle d'invention.
- Invention : Le LLM examine les cartes et suggère un nouveau concept (ex : « Ces cartes ont la même couleur/enseigne »).
- Test : Le Juge (Prolog) teste le nouveau concept sur les données.
- Si le Juge dit « Faux, cette règle échoue sur ces cartes », le LLM reçoit le feedback, corrige la règle et réessaie.
- Si le Juge dit « Succès », la nouvelle règle est sauvegardée.
- Apprentissage : Une fois que les nouvelles règles sont solides, le robot les utilise pour enfin apprendre les mains de poker complexes (comme un Full ou une Quinte Flush).
4. La « Bibliothèque » de connaissances
L'une des parties les plus fascinantes d'ADVENT est son Pool de Connaissances.
- Imaginez que le robot apprenne à repérer une « Paire » (deux cartes du même rang). Il enregistre cette nouvelle règle dans une bibliothèque.
- Plus tard, lorsqu'il doit apprendre un « Full » (trois cartes d'un rang et deux d'un autre), il n'a pas besoin de repartir de zéro. Il cherche dans la bibliothèque, voit la règle de la « Paire » qu'il a inventée précédemment, et la combine avec une nouvelle règle pour un « Brelan ».
- Cela permet au robot de construire des idées complexes à partir d'idées plus simples qu'il a découvertes par lui-même, tout comme un humain construit une maison brique par brique.
5. Les Résultats : Est-ce que ça marche ?
Les chercheurs ont testé cela sur un ensemble de données de poker (traduit en un puzzle sur des trains pour tromper l'IA et l'empêcher d'utiliser ses connaissances préalables sur le poker).
- Sans ADVENT : Le robot a totalement échoué. Il n'a pu apprendre aucune des mains complexes.
- Avec ADVENT : Le robot a réussi dans 80 % des cas.
- La recette secrète : Le « Juge » (la vérification formelle) était crucial. Lorsque l'IA essayait simplement de deviner sans un juge strict, elle faisait des erreurs. Quand le juge vérifiait chaque étape, le taux de réussite augmentait considérablement.
Résumé
ADVENT est comme donner à un robot un écrivain créatif (pour inventer de nouveaux mots pour les motifs) et un éditeur strict (pour vérifier si ces mots ont du sens). Ensemble, ils permettent au robot de s'enseigner de nouveaux concepts, de construire une bibliothèque de connaissances et de résoudre des puzzles logiques complexes qu'il ne pouvait auparavant pas aborder. Le résultat est une IA qui ne se contente pas de suivre des règles, mais qui comprend et crée réellement les règles dont elle a besoin pour réussir.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.