Imaginez que vous essayez d'enseigner à un robot brillant et ultra-rapide comment résoudre un mystère. Vous avez deux manières principales de le faire. La première façon est de donner au robot une immense et lourde encyclopédie écrite dans son propre cerveau. C'est ainsi que fonctionnaient les premiers « systèmes experts » : ils étaient incroyablement stricts et suivaient les règles parfaitement, mais ils étaient rigides. Si vous les interrogiez sur quelque chose qui ne figurait pas dans leur livre, ils se figeaient. Si vous vouliez mettre à jour les règles, il fallait réécrire tout le livre, ce qui était lent et coûteux.

La seconde façon est celle que nous utilisons aujourd'hui avec l'IA moderne, comme les chatbots avec lesquels vous pourriez discuter. Ces modèles sont comme des super-lecteurs qui ont avalé l'intégralité d'Internet. Ils sont flexibles, drôles et excellents pour la conversation. Mais ils ont un défaut complexe : ils oublient parfois ce qu'ils viennent d'apprendre, ou ils s'embrouillent lorsqu'on leur donne une nouvelle règle et qu'on leur demande de la suivre strictement. Ils risquent de deviner la réponse en se basant sur ce qu'ils pensent être vrai, plutôt que sur ce que la nouvelle règle dit réellement. C'est un problème majeur si vous avez besoin que le robot agisse comme un médecin, un pilote ou un inspecteur de sécurité, où le respect exact de la règle est une question de vie ou de mort.

Cela nous amène à une nouvelle idée appelée « Génération Augmentée par Récupération » (RAG - Retrieval-Augmented Generation). Considérez cela comme le fait de donner une carte de bibliothèque au robot. Lorsqu'on lui pose une question, le robot attrape rapidement la page pertinente de la bibliothèque et la lit avant de répondre. C'est mieux que de deviner, mais le robot doit encore décider comment lire cette page. Parfois, il ignore les petits caractères, parfois il manque une étape, et parfois il essaie d'être trop astucieux et invente une règle qui n'existe pas. La grande question que les scientifiques se posent est la suivante : pouvons-nous apprendre au robot non seulement à lire la bibliothèque, mais à devenir un maître de la logique capable de suivre les règles parfaitement, à chaque fois, sans avoir besoin de réécrire son propre cerveau ?

---

Le Raisonneur à Contrainte de Connaissance : Enseigner à l'IA à Suivre les Règles

Dans cet article, un chercheur nommé Zhiqiang Gan tente de répondre à cette question en construisant ce qu'il appelle un « Raisonneur à Contrainte de Connaissance » (Knowledge-Constrained Reasoner). L'objectif est de transformer un grand modèle de langage (LLM) standard en un détective logique et strict, capable de prendre un nouvel ensemble de règles (comme un nouveau protocole médical ou une directive militaire) et de les suivre à la lettre, sans s'embrouiller ou inventer de faits.

L'article suggère qu'au lieu d'essayer d'injecter de nouveaux faits dans la mémoire de l'IA (ce qui provoque l'oubli des anciens faits), nous devrions enseigner à l'IA un ensemble de « méta-compétences » ou de « super-pouvoirs » lors d'une seule session d'entraînement. C'est comme entraîner un chien. Vous ne lui apprenez pas chaque commande spécifique pour chaque situation possible dans le monde. Au lieu de cela, vous lui apprenez le concept d'écouter, le concept de chercher une friandise et le concept d'attendre un signal. Une fois que le chien connaît ces concepts, vous pouvez lui donner une nouvelle commande, et il comprendra comment la suivre, même s'il ne l'a jamais entendue auparavant.

Les Cinq Super-Pouvoirs

Pour faire de l'IA un bon suiveur de règles, le chercheur l'a entraînée sur quatre mouvements logiques spécifiques (plus un supplémentaire) en utilisant un ensemble de données de 1 000 scénarios fictifs impliquant de faux médecins, des soldats et des ouvriers d'usine. Voici ces mouvements, expliqués simplement :

1. Contextualisation Situationnelle (Le test « Est-ce que cela me concerne ? ») :
   Avant d'agir, l'IA doit vérifier si la règle s'applique réellement à la situation actuelle.

• L'analogie : Imaginez un videur à l'entrée d'un club. Si la règle dit « Pas de chaussures autorisées », et que vous entrez en chaussettes, le videur doit décider : « Est-ce que les chaussettes comptent comme des chaussures ? »
• Ce que l'article a trouvé : L'IA a été entraînée à vérifier si la situation de l'utilisateur correspond exactement aux conditions de la règle. Elle a appris à dire « Non » si la règle concernait des accidents « graves » mais que l'utilisateur en avait un « mineur », évitant ainsi d'appliquer la mauvaise règle. Elle a aussi appris à admettre qu'elle n'avait pas la réponse, plutôt que d'inventer un médicament fictif pour un patient.

2. Déduction Causale Directe (La chaîne « Si ceci, alors cela ») :
   C'est la logique classique : Si A arrive, alors B doit arriver.

• L'analologie : Comme un effet domino. Si vous poussez le premier domino (le patient a de la fièvre), le suivant tombe (donner un médicament).
• Ce que l'article a trouvé : L'IA a appris à observer une situation, trouver la règle correspondante et passer immédiatement à l'action correcte.

3. Traçage Causal Inversé (Le travail de détective « Pourquoi cela est-il arrivé ? ») :
   Parfois, on voit le résultat et on doit trouver la cause.

• L'analogie : Vous entrez dans une pièce et voyez un vase brisé au sol. Vous devez regarder les règles de la maison pour comprendre : « Qui était autorisé à être ici, et que faisait cette personne ? »
• Ce que l'article a trouvé : L'IA a pu observer un résultat (comme « l'alimentation du bras robotique a été coupée ») et remonter jusqu'à la règle qui disait « Si le réacteur devient trop chaud, coupez l'alimentation ». Elle a réussi à déterminer que la cause était la surchauffe.

4. Composition Logique (La liste « Faire tout ») :
   La vie réelle est complexe. Parfois, une seule situation déclenche plusieurs règles à la fois.

• L'analogie : Imaginez un personnage de jeu vidéo qui, lorsqu'il est frappé, doit à la fois perdre des points de vie ET lâcher une pièce. Si le jeu le fait seulement lâcher une pièce, ce serait un bug.
• Ce que l'article a trouvé : L'IA a appris à gérer des règles complexes où une situation nécessite un diagnostic, une étape d'isolement ET un rapport aux autorités. Elle a cessé de sauter des étapes et a commencé à suivre la liste complète.

5. Filtrage (Le filtre « Juste les faits ») :
   Parfois, une règle comporte une longue liste d'étapes, mais vous n'en avez besoin que d'une seule.

• L'analogie : Une recette dit « Préchauffer le four, couper les oignons, faire revenir le lard, puis servir ». Si vous demandez « Que dois-je faire en premier ? », l'IA ne devrait pas vous donner toute la recette. Elle devrait simplement dire « Préchauffer le four ».
• Ce que l'article a trouvé : L'IA a appris à ignorer le bruit superflu et à ne donner que l'étape spécifique demandée par l'utilisateur.

Les Résultats : Cela a-t-il fonctionné ?

Le chercheur a testé ce nouveau « Raisonneur » par rapport à la méthode standard d'utilisation de l'IA (en posant simplement des questions sans entraînement spécial).

• La méthode standard : Lorsqu'on lui demandait de suivre des règles complexes, l'IA classique obtenait environ 75 % de bonnes réponses. Elle se trompait souvent, sautait des étapes ou abandonnait simplement.
• La nouvelle méthode : Après la session d'entraînement unique, le « Raisonneur à Contrainte de Connaissance » a obtenu environ 88 % de bonnes réponses.

L'article suggère que cette amélioration est réelle et significative. L'IA est devenue bien meilleure pour respecter les règles qui lui sont données, même lorsque les règles concernaient des sujets imaginaires comme les « Titans Méchas » ou la « Finance Fictive ».

Ce qu'il n'a pas fait (Et là où il a trébuché)

Il est important de noter ce que cet article n'a pas fait. Il n'a pas prouvé que l'IA est désormais parfaite. L'article souligne explicitement que l'IA fait encore des erreurs dans environ 12 % des cas.

• La Confusion : Parfois, l'IA confondait le résultat d'une règle avec l' action à entreprendre. Par exemple, si une règle disait « Si le hacker s'introduit, le marché va s'effondrer », et que l'utilisateur demandait « Que devons-nous faire ? », l'IA disait parfois simplement « Le marché va s'effondrer » au lieu de dire « Nous devons verrouiller les portes ».
• L'Écart de Précision : L'IA manquait parfois de petits détails, comme confondre un problème « mineur » avec un problème « grave », ce qui entraînait l'utilisation du mauvais plan d'urgence.

L'article soutient que la méthode actuelle consistant simplement à donner quelques exemples à l'IA (appelée « prompting ») ne suffit pas à corriger ces erreurs logiques profondes. L'IA doit être « affinée » (fine-tuned) — en gros, elle doit pratiquer ces mouvements logiques jusqu'à ce qu'ils deviennent une habitude, plutôt que de simplement deviner en se basant sur quelques indices.

La Vue d'Ensemble

Le principal enseignement de cette étude est que nous pourrions construire une IA qui soit à la fois flexible (comme un humain) et fiable (comme un programme informatique) en lui apprenant comment penser avec des règles, plutôt qu'en lui faisant mémoriser les règles elles-mêmes. Le chercheur suggère que si nous pouvons apprendre à une IA à « ancrer » sa logique à des informations externes, elle pourra apprendre de nouvelles choses instantanément sans oublier les anciennes.

Cependant, l'article précise avec prudence qu'il ne s'agit que d'une « tentative initiale » et de « preuves préliminaires ». C'est une étape prometteuse pour combler le fossé entre le monde rigide et sûr des anciens systèmes experts et le monde flexible et créatif de l'IA moderne. Cela montre qu'avec le bon entraînement, l'IA peut devenir un bien meilleur suiveur de règles, mais qu'elle n'est pas encore prête à remplacer les experts humains dans des situations à enjeux élevés. Le voyage vers une IA véritablement fiable et qui n'oublie pas est toujours en cours, mais ce nouveau « Raisonneur » offre une nouvelle carte pour la suite du chemin.