Imaginez que vous avez un ami robot super intelligent qui peut lire n'importe quel livre, écrire n'importe quelle histoire et parler comme un humain. Ce robot est un « Grand Modèle de Langage » (LLM). Il est incroyable pour paraître confiant et fluide. Mais voici le hic : si vous demandez à ce robot de faire des mathématiques ou de donner des conseils médicaux spécifiques basés sur vos données personnelles, il pourrait simplement inventer des choses pour avoir l'air bien. C'est comme un acteur talentueux capable d'improviser un discours convaincant sur la météo, mais si vous lui demandez la température exacte, il pourrait deviner « 22 degrés » alors qu'il pleut et qu'il fait un froid glacial. Dans le monde de la santé, c'est dangereux. Si un robot vous dit que votre glycémie est normale alors qu'elle ne l'est pas, ou s'il invente un risque que vous n'avez pas, cela pourrait conduire à de mauvaises décisions. Les scientifiques essaient de comprendre comment empêcher ces robots de « halluciner » (inventer des choses) et les forcer à s'en tenir aux faits réels, surtout lorsqu'il s'agit de nos corps.

Ce document, intitulé « Grounding Health AI », porte sur la construction d'un filet de sécurité pour ces robots de santé. Les chercheurs ont créé un système appelé « Human Phenotype Project Personal Health Agent » (PHA). Voyez cela comme le fait de donner au robot un règlement strict, une équipe de calculateurs experts et une immense bibliothèque de données humaines réelles pour vérifier avant de parler. Ils ont testé ce système en le nourrissant avec les données réelles de deux semaines de personnes portant des moniteurs de glucose (des disposit যা suivent la glycémie) et des journaux alimentaires. Le résultat ? Lorsque le robot utilisait ce nouveau système, il arrêtait d'inventer des chiffres. Au lieu de deviner vos modèles de glycémie, il les calculait en utilisant de vrais outils. Au lieu d'inventer des risques, il admettait qu'il ne disposait pas d'assez d'informations. L'équipe a constaté qu'en combinant ces « outils » avec des « compétences » (des règles sur la façon de parler), ils pouvaient transformer un robot qui n'était précis qu'à environ 37 % dans sa structure et ses faits en un robot précis à 91 %. C'est un grand pas vers la création d'une IA en laquelle les médecins et les patients peuvent réellement avoir confiance.

Le Problème : Le Robot qui Ment pour Paraître Gentil

Imaginez que vous remettiez à un robot futuriste un journal intime de tout ce que vous avez mangé pendant deux semaines et un graphique de vos niveaux de glycémie. Vous demandez : « Comment est mon métabolisme ? » Une IA standard, très intelligente, pourrait rédiger un rapport magnifique et fluide. Elle pourrait dire : « Vous avez eu 172 repas ! » (alors que vous en avez réellement eu 70 !) ou « Vos variations de glycémie étaient légères », alors qu'elles étaient en fait sauvages. Cela semble parfait, mais c'est un mensonge. Le robot est tellement doué pour écrire qu'il comble les vides avec des suppositions qui semblent correctes mais qui sont complètement fausses.

Les chercheurs ont découvert que même les meilleurs modèles d'IA au monde faisaient cela. Ils inventaient une métrique appelée « MAGE » (qui mesure l'amplitude des variations de votre glycémie) et disaient qu'elle était de 41, alors que le calcul réel montrait 84,8. Ils prétendaient avoir analysé 172 repas alors que les données n'en contenaient que 70. Ils prédisaient même des risques de santé futurs sans avoir réellement les outils pour les calculer. C'est comme un chef qui ne sait pas cuisiner mais qui écrit une critique cinq étoiles d'un repas qu'il n'a jamais goûté. Pour une personne ordinaire, c'est déroutant. Pour un médecin, c'est dangereux.

La Solution : La Pile de « Grounding » (Ancrage)

Pour corriger cela, l'équipe a construit un nouveau type d'agent IA appelé PHA. Ils ne se sont pas contentés de dire au robot d'« être prudent ». Au lieu de cela, ils ont construit un système d'ancrage à quatre couches. Imaginez que le robot est un étudiant passant un examen.

1. La Bibliothèque de Référence (Le Human Phenotype Project) : D'abord, ils ont donné au robot une immense bibliothèque de données provenant de plus de 13 000 personnes réelles. Il ne s'agit pas de chiffres aléatoires ; c'est un regard profond sur la façon dont les corps humains réels réagissent à la nourriture et à l'exercice. Si le robot veut dire : « Votre glycémie est élevée », il doit vérifier cette bibliothèque pour voir combien d'autres personnes de votre âge et de votre sexe présentent ce même niveau. C'est comme avoir une classe géante de 13 000 élèves pour comparer votre score de test, plutôt que de deviner si vous avez réussi.
2. Les Outils Experts (Les Calculateurs) : Ensuite, ils ont donné au robot une boîte à outils de 21 calculateurs spécifiques. Le robot n'est pas autorisé à faire le calcul dans sa tête. S'il a besoin de connaître votre moyenne de glycémie, il doit demander à un outil spécifique de faire le calcul. S'il a besoin de connaître votre risque cardiaque, il doit utiliser un calculateur de risque cardiaque spécifique. Le robot n'est que le messager ; les outils font le gros du travail.
3. Les Compétences Comportementales (Le Règlement) : C'est la partie la plus ingénieuse. Le robot possède un ensemble de « compétences » écrites dans des fichiers texte simples (comme un règlement). Ces règles lui indiquent ce qu'il peut et ne peut pas dire. Par exemple, une règle pourrait dire : « Si vous n'avez pas calculé le nombre de repas avec l'outil, vous ne pouvez pas dire combien de repas la personne a consommés. » Une autre règle pourrait dire : « Si vous n'avez pas de données de pression artérielle, vous ne pouvez pas deviner le risque cardiaque. » Ces règles empêchent le robot d'inventer des choses, même s'il en a envie.
4. Le Cycle Piloté par les Tests (Le Correcteur) : Enfin, l'équipe a construit un système qui teste le robot pendant qu'ils le construisent. Chaque fois que le robot commet une erreur (comme inventer un chiffre), l'équipe écrit un test spécifique pour attraper exactement cette erreur la fois suivante. C'est comme un jeu vidéo où, chaque fois que vous tombez dans un trou, le jeu ajoute un nouveau piège pour s'assurer que vous ne retombiez plus jamais là.

Ce Qu'Ils Ont Découvert : Outils contre Règles

Les chercheurs ont mené une expérience majeure. Ils ont pris les données de 14 personnes réelles et ont demandé au robot de rédiger des rapports en utilisant différentes configurations. Ils ont comparé :

• La Ligne de Base : Juste le robot intelligent sans outils ni règles.
• Outils Uniquement : Le robot avec les calculateurs mais sans règlement.
• Système Complet : Le robot avec à la fois les calculateurs et le règlement.

Les résultats ont été clairs et surprenants.

• Le Robot de Base : Il a obtenu un score de 0,37 (sur 1,0) lors d'un test de « fiabilité ». Il était fluide mais rempli de faits inventés.
• Outils Uniquement : Lorsqu'ils ont donné les calculateurs au robot mais sans règlement, le score a légèrement augmenté pour atteindre 0,49. Le robot pouvait faire le calcul maintenant, mais il ne savait pas toujours comment le rapporter correctement. Il oubliait parfois de mentionner le calcul ou disait des choses que les outils ne soutenaient pas.
• Le Système Complet : Lorsqu'ils ont ajouté le règlement (compétences) par-dessus les outils, le score a bondi à 0,91.

La grande leçon ici est que les outils et les règles accomplissent des tâches différentes. Les outils ont rendu les chiffres précis (passant de 14 % de précision à 90 %). Mais les règles ont rendu le rapport complet, honnête et correctement structuré. Sans les règles, le robot avait les réponses mais ne savait pas comment les présenter. Avec les règles, il est devenu un assistant fiable.

Le Superpouvoir du « Refus »

L'une des choses les plus cool que le nouveau système a appris est de savoir dire « Je ne sais pas ». Dans les anciens tests, quand le robot manquait de données (comme des lectures de pression artérielle manquantes), il devinait quand même le risque cardiaque. Il disait : « Votre risque est élevé », même s'il ne pouvait pas le calculer.

Le nouveau système, cependant, a appris à s'arrêter. Lorsque le robot tentait de calculer le risque cardiaque sans la pression artérielle, les règles le forçaient à dire : « Je ne peux pas calculer cela car il me manque les données de pression artérielle. Veuillez obtenir ces données d'abord. » Il refusait de mentir. C'est un changement majeur. Au lieu d'être un robot qui a toujours une réponse (même fausse), il est devenu un robot qui connaît ses limites.

Est-ce que cela fonctionne pour d'autres choses ?

L'équipe a également testé si ce système pouvait gérer différents types de questions de santé. Ils ont posé des questions sur la santé métabolique générale et même sur la santé cardiovasculaire (risque cardiovasculaire). Le système a bien fonctionné pour les deux, passant d'un score bas d'environ 0,37 à un score élevé de 0,70 ou 0,72. Cela suggère que la « recette » qu'ils ont trouvée — combiner des données réelles, des outils spécifiques et des règles strictes — peut être utilisée pour différentes parties de la médecine, pas seulement la glycémie.

L'Essentiel à Retenir

Ce document montre que pour rendre l'IA sûre pour la santé, nous ne pouvons pas simplement compter sur le fait que l'IA soit plus « intelligente ». Nous devons construire un système où l'IA est forcée d'utiliser de vrais calculateurs, de vérifier par rapport à des données humaines réelles et de suivre des règles strictes sur ce qu'elle peut dire. Le résultat est un système qui est beaucoup moins susceptible d'inventer des faits effrayants ou erronés.

Les chercheurs admettent que ce n'est pas encore une solution parfaite. Ils ont testé cela sur un petit groupe de personnes et principalement sur des rapports écrits, pas sur des conversations en direct. Ils notent également que « l'essence » d'un rapport — à quel point il est utile ou bienveillant envers un patient — est difficile à tester avec des ordinateurs et nécessite l'examen de médecins humains. Mais pour la « forme » du rapport — les chiffres, les sources et l'honnêteté — le nouveau système est une amélioration massive. Il transforme un robot qui semble confiant mais qui a tort, en un robot qui semble confiant parce qu'il a raison.