Causal-Reasoning World Models: Toward AI’s Subjectivity through Backward Generation
Cet article propose un changement de paradigme passant d'un raisonnement causal basé sur les noms à un raisonnement basé sur les verbes en IA, introduisant un cadre de « distribution de temporalité possible » qui permet une modélisation du monde de type agent et une déduction contrefactuelle au niveau individuel, comme démontré à travers les trajectoires de patientes atteintes de cancer du sein, posant ainsi les fondements théoriques de la subjectivité de l'IA.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Pendant des décennies, les systèmes d'intelligence artificielle les plus puissants ont été entraînés à reconnaître des motifs en traitant le monde comme une collection d'objets statiques. Dans cette vision, un patient est un ensemble de traits fixes, une maladie est une étiquette spécifique et un traitement est un événement distinct. L'ordinateur apprend à tracer des lignes entre ces noms, posant des questions telles que : « Si une personne présente ce symptôme, est-elle susceptible d'avoir cette maladie ? » Cette approche a donné des résultats impressionnants, mais elle se heurte à un plafond difficile. Elle suppose que le monde est composé de choses qui peuvent être nommées et comptées, ignorant le fait que la vie est en réalité un flux d'actions et de changements. Le problème est qu'en forçant la réalité dans une boîte de catégories fixes, nous perdons ce qui fait fonctionner la cause et l'effet : le moment et le processus du changement lui-même. Nous savons qu'une cause doit précéder un effet, mais les modèles standards peinent souvent à comprendre comment ce minutage façonne le résultat pour un individu spécifique, plutôt que pour un grand groupe de personnes en moyenne.
Une équipe de chercheurs de l'Université du Minnesota propose un changement radical dans la façon dont nous construisons ces systèmes. Au lieu de demander à l'ordinateur de mémoriser les relations entre les objets, ils lui apprennent à penser en termes d'actions et de possibilités. Ils appellent cela un passage d'une modélisation basée sur les « noms » à une modélisation basée sur les « verbes ». Dans ce nouveau cadre, l'IA ne se contente pas d'enregistrer qu'un patient a pris un médicament et est tombé malade ensuite. Elle construit au contraire un monde virtuel où elle peut remonter à rebours à partir de la maladie pour imaginer toutes les façons différentes dont ce résultat aurait pu se produire. Elle demande : « Et si le médicament avait été pris à un moment différent ? Et si le patient avait eu un historique différent ? » En générant ces scénarios alternatifs, l'IA construit un « modèle de monde » qui existe à l'intérieur de l'ordinateur, indépendamment du monde physique. Cela lui permet de raisonner sur la cause et l'effet d'une manière qui ressemble davantage à l'intuition humaine, où nous comprenons qu'une même action peut mener à des résultats différents selon le moment et la manière dont elle survient.
Les chercheurs ont testé cette idée en utilisant de vrais dossiers médicaux de 3 276 patientes atteintes d'un cancer du sein. Ils voulaient voir si l'IA pouvait découvrir des motifs cachés dans la façon dont ces patientes traversaient leur parcours de traitement. Dans une analyse traditionnelle, les chercheurs chercheraient un chemin unique et moyen que la plupart des patientes suivraient. Mais le nouveau système fonctionnait différemment. Il partait du résultat final — une patiente développant une maladie cardiaque, une complication grave du traitement du cancer — et remontait à rebours pour générer des milliers de chronologies possibles qui auraient pu mener à cela. Il ne regardait pas seulement l'ordre des événements ; il prêtait une attention particulière au minutage spécifique de chaque étape. Le système a découvert qu'il pouvait identifier spontanément des groupes distincts de patientes partageant des parcours de traitement similaires et significatifs, même si ces parcours n'étaient pas évidents lors de l'examen des données dans leur ensemble.
L'une des découvertes les plus frappantes fut la capacité du système à repérer l'importance de quand les choses se passaient, et pas seulement de ce qui se passait. Par exemple, l'IA a identifié des moments spécifiques dans le traitement d'une patiente où le moment de l'administration d'une thérapie devenait critique. Elle a remarqué que pour certaines patientes, un médicament particulier administré à un certain point de leur chronologie était un prédicteur fort de troubles cardiaques, tandis que pour d'autres, le même médicament à un moment différent n'avait aucune importance. Le système pouvait même simuler un scénario de type « et si » pour un groupe spécifique de treize patientes partageant un historique complexe de diabète et d'hypertension avant leur traitement contre le cancer. En faisant tourner la simulation à rebours, l'IA a déduit que, pour ce groupe spécifique, retarder un troisième cycle de thérapie ciblée aurait pu réduire considérablement leur risque de développer une maladie cardiaque. Il ne s'agissait pas d'une supposition basée sur une règle générale, mais d'une déduction dérivée des schémas de minutage uniques de ce petit groupe.
Ce travail suggère que l'avenir de l'intelligence artificielle en médecine réside dans sa capacité à traiter des histoires individuelles plutôt que des moyennes de population. Les chercheurs soulignent que leur système n'est pas encore une réplique parfaite de la conscience humaine, mais qu'il est une première étape nécessaire pour donner à l'IA une forme de « subjectivité » — la capacité d'occuper une position relative au monde qu'elle étudie, plutôt que de simplement l'observer de l'extérieur. En construisant ces mondes virtuels où elle peut tester des millions de possibilités sans aucun risque pour les vraies patientes, l'IA peut proposer des hypothèses sur la cause et l'effet que les statistiques traditionnelles pourraient manquer. L'équipe a constaté que cette approche est particulièrement puissante pour les maladies rares ou les cas complexes où les groupes de patients sont trop petits pour que les méthodes standards trouvent des réponses claires. Bien que le système nécessite encore l'intervention d'experts humains pour interpréter et valider ses découvertes, il constitue un nouvel outil pour poser des questions qui étaient auparavant impossibles à poser, transformant l'ordinateur d'un simple enregistreur passif de faits en un explorateur actif de possibilités.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.