LLMs Know the Constraint But Do Not Use It: Activation Bottlenecks in Pragmatic Constraint Reasoning
Cet article soutient que l'incapacité des LLM à respecter les contraintes de faisabilité implicites ne provient pas d'un manque de connaissances, mais d'un goulot d'étranglement de routage où la contrainte encodée n'est pas activée de manière cohérente lors de la prise de décision, une limitation que les interventions basées sur le prompt ne peuvent surmonter mais que le patch d'activation ciblé peut partiellement réparer.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous essayez d'apprendre à un robot super intelligent comment prendre des décisions. Vous lui donnez une bibliothèque massive de livres pour qu'il connaisse presque tout sur le monde. Mais ensuite, vous lui posez une question délicate : « Je veux laver ma voiture, et le lave-auto est à 50 mètres. Dois-je marcher ou conduire ? » Un humain réaliserait instantanément : « Attends, si je conduis, j'ai besoin que la voiture soit là pour la conduire ! » Mais le robot, malgré la lecture de tous les livres sur les voitures et le lavage, pourrait dire avec assurance : « Conduire ! » parce qu'il voit le mot « voiture » et le mot « conduire » et pense : « Oh, c'est une correspondance ! »
Ce document plonge dans un recoin spécifique de l'intelligence artificielle appelé Modèles de Langage de Grande Taille (LLM). Ce sont ces systèmes d'IA cérébraux qui discutent, écrivent des histoires et résolvent des problèmes. Le grand mystère que les chercheurs tentent de résoudre est la différence entre savoir quelque chose et l'utiliser. Pensez-y comme à un étudiant qui a mémorisé l'intégralité du livre de règles d'un jeu mais qui, en jouant, oublie les règles parce qu'il est distrait par les pièces brillantes sur le plateau. Les scientifiques soupçonnent depuis longtemps que ces IA pourraient « connaître » les règles cachées de la logique, mais échouer à les appliquer lorsque la situation devient complexe. Cela importe car si nous voulons que l'IA soit sûre et fiable dans le monde réel — comme pour aider les médecins ou conduire des voitures — nous devons savoir si elle réfléchit réellement ou si elle se contente de deviner en se basant sur des indices de surface.
Les chercheurs derrière cette étude ont décidé de jouer les détectives avec 14 modèles d'IA différents pour comprendre exactement ce qui se passe dans leurs « cerveaux » lorsqu'ils commettent ces erreurs. Ils ont mis en place une expérience ingénieuse utilisant un « quatuor » de scénarios. Imaginez quatre versions de la même histoire : une où la règle cachée est présente (la voiture est absente), une où la règle est supprimée (la voiture est magiquement présente), une où la règle est criée haut et fort (« Rappelez-vous, la voiture est absente ! »), et une où ils ajoutent simplement une phrase aléatoire de même longueur pour voir si l'IA aime simplement les histoires longues.
Voici le rebondissement qu'ils ont découvert : L'IA n'est pas stupide ; elle est juste distraite. Mais plus important encore, les chercheurs ont découvert que la « distraction » de l'IA se produit de deux manières très différentes.
Lorsque les chercheurs ont regardé à l'intérieur du « cerveau » de l'IA (ses couches cachées de données), ils ont découvert que l'IA connaît la règle. Ils pouvaient construire un simple détecteur qui lisait les pensées internes de l'IA et disait : « Oui, la voiture est absente ! » avec une précision de plus de 88 % à 94 %. La connaissance était bien là, assise au milieu du processus de l'IA, tout comme un fait posé sur un bureau.
Cependant, le problème est que l'IA n'utilise pas cette connaissance au moment de prendre la décision finale. C'est comme avoir un GPS qui sait que la route est fermée, mais le conducteur (la partie décisionnelle de l'IA) ignore le GPS et continue de conduire quand même. Les chercheurs appellent cela un problème de routage. L'information existe, mais le chemin vers la réponse est bloqué ou ignoré.
De manière cruciale, ils ont découvert deux types de robots distincts échouant de manières différentes :
- Les Robots « Sur-actifs » : Certains modèles (comme Llama-4 et Claude Opus) sont si impatients d'être prudents qu'ils appliquent la réponse « riche en contraintes » (ex : « Marcher ») même lorsque la contrainte est en réalité absente. Si vous retirez la voiture de l'histoire, ils disent quand même « Marcher » parce qu'ils sont biaisés vers la réponse « sûre ». Ils connaissent la règle, mais ils ne peuvent pas l'« éteindre » quand ils le devraient, ce qui les fait échouer au test de logique en appliant une règle qui n'existe pas.
- Les Robots « Sous-actifs » : D'autres modèles (comme GPT-OSS) échouent à appliquer la règle même quand elle est présente. Ils voient la voiture absente mais disent quand même « Conduire ». Ils savent que la règle est là, mais leur câblage interne est tellement défectueux que la connaissance n'atteint jamais le bouton de décision.
Ils ont testé cela en faisant ce qu'on appelle du « patch de l'activation ». Imaginez que vous puissiez prendre la « pensée » d'un moment où l'IA se souvenait de la règle (comme quand vous la criiez à voix haute) et la coller directement dans le moment où elle l'avait oubliée. Pour les modèles équilibrés (comme Qwen3-14B), ce collage magique a parfaitement fonctionné ! L'IA a soudainement donné la bonne réponse, prouvant que la connaissance était là et qu'elle avait juste besoin d'un petit coup de pouce pour atteindre la décision. Mais pour les modèles sous-actifs, le collage n'a rien fait. Même s'ils connaissaient la règle, leur câblage interne était tellement brisé que cette connaissance ne pouvait jamais atteindre le bouton de décision. (Note : les chercheurs n'ont pas testé ce patch sur le groupe « sur-actif », nous ne savons donc pas si le collage les aurait réparés).
Le papier a également testé les méthodes les plus populaires par lesquelles les gens essaient de corriger les erreurs de l'IA, comme demander à l'IA de « réfléchir étape par étape » ou de « lister les prérequis ». Les résultats ont été surprenants : aucun de ces tours n'a réellement corrigé le problème. Au lieu de cela, ils ont rendu l'IA encore plus susceptible de deviner la réponse « sûre » (comme « marcher ») même quand elle ne le devrait pas. Il s'avère que lorsque vous dites à une IA de « réfléchir plus intensément », elle se contente d'être plus bruyante en mentionnant la règle, mais elle ne sait toujours pas quand l'appliquer. C'est comme un étudiant qui, lorsqu'on lui dit de « montrer son raisonnement », écrit la règle sur chaque ligne de ses devoirs, même sur celles où la règle n'a aucune importance.
En résumé, le papier suggère que l'échec ne vient pas du manque de connaissances de l'IA. C'est parce que l'IA souffre d'un « goulot d'étranglement de routage ». Elle connaît la vérité, mais elle ne sait pas comment laisser cette vérité guider sa réponse. Les méthodes actuelles consistant à simplement demander à l'IA d'« essayer plus fort » ou de « réfléchir plus » ne réparent pas le câblage défectueux ; elles rendent simplement l'IA plus confiante dans ses mauvaises suppositions. Pour vraiment réparer cela, nous devrons peut-être reconstruire les voies internes qui relient ce que l'IA sait à ce qu'elle décide de dire, et nous avons besoin de correctifs différents pour les robots trop enthousiastes par rapport à ceux qui sont trop passifs.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.