💻 computer science

CardioTrust: Trustworthy Retrieval Augmented Clinical Decision Support for Personalized Cardiovascular Disease Prediction

CardioTrust est un nouveau cadre d'IA fiable qui intègre la stratification des risques par apprentissage automatique, la génération augmentée par récupération hybride guidée par la prédiction et l'explicabilité SHAP pour fournir des prédictions de maladies cardiovasculaires personnalisées, hautement précises, transparentes et cliniquement fondées, surpassant de manière significative les modèles de référence traditionnels.

Auteurs originaux : Veerababu Reddy, Vasavi Durga Potla, Baji Noorbasha, Karthik Reddy Vajrala, Sadwika Bollu

Publié 2026-08-07

📖 9 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Veerababu Reddy, Vasavi Durga Potla, Baji Noorbasha, Karthik Reddy Vajrala, Sadwika Bollu

Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un détective tentant de résoudre un mystère, mais que vous avez deux assistants très différents. L'un est une calculatrice super rapide capable d'analyser des chiffres et de vous dire : « Il y a 95 % de chances que le coupable soit le majordome », mais il refuse d'expliquer pourquoi. Il se contente de vous donner le chiffre. L'autre est un conteur brillant capable d'écrire un récit magnifique et détaillé sur le majordome, la météo et le chandelier, mais dans son enthousiasme, il invente parfois des faits qui ne se sont jamais produits. Dans le monde de la médecine, c'est un problème majeur. Les médecins ont besoin de savoir pourquoi un patient est à risque de problèmes cardiaques, et ils ont besoin que cette information soit 100 % vraie, pas inventée. C'est là qu'intervient le domaine de l'« Intelligence Artificielle de Confiance ». C'est la quête pour construire des systèmes informatiques qui soient non seulement intelligents, mais aussi honnêtes, explicables et assez sûrs pour aider les médecins à sauver des vies.

Ce document présente une nouvelle équipe de détectives appelée CardioTrust. Au lieu de laisser la calculatrice et le conteur travailler séparément, les auteurs ont construit un système où ils travaillent ensemble selon une ligne organisée et stricte. D'abord, une calculatrice puissante (un modèle Random Forest) examine les données d'un patient et prédit son risque de maladie cardiaque. Mais voici le rebondissement : elle n'envoie pas simplement une note de type « risque élevé » ou « risque faible » au conteur. À la place, elle envoie un « briefing de mission » spécifique qui indique au conteur exactement quels facteurs de risque sont les plus importants (comme un taux de cholestérol élevé ou des douleurs thoraciques) et quel est son degré de confiance dans sa réponse. Le conteur (un Large Language Model) utilise ensuite ce briefing pour fouiller dans une immense bibliothèque de règles et d'études médicales réelles afin de trouver la preuve parfaite. Enfin, avant que le récit ne soit présenté à un médecin, un « Inspecteur de Sécurité » strict (le module de Validation de la Confiance) vérifie tout l'ensemble. Il demande : « Avons-nous trouvé la bonne preuve ? L'histoire correspond-elle aux calculs de la calculatrice ? L'histoire est-elle complète ? » Si la réponse à l'une de ces questions est « non », le rapport est renvoyé pour une révision humaine.

L'équipe a constaté que ce travail d'équipe fonctionne incroyablement bien. Lorsqu'ils ont testé CardioTrust sur un ensemble de données de 70 000 dossiers de patients, le système a prédit la maladie cardiaque avec une précision de 95,84 %, ce qui est nettement supérieur aux autres modèles informatiques standards. Mais la véritable magie s'est produite lors de la partie narration. Alors qu'un conteur informatique standard inventait des faits (hallucinations) dans 21,64 % des cas, les contrôles de sécurité stricts de CardioTrust ont réduit ces faits inventés à seulement 2,84 %. Le système a également prouvé que l'histoire qu'il raconte correspond toujours aux mathématiques sous-jacentes, garantissant ainsi au médecin qu'il ne reçoit pas seulement une belle histoire, mais une vérité étayée par de réelles directives médicales. Les auteurs suggèrent que cette approche pourrait changer la donne pour les soins cardiaques personnalisés, à condition qu'elle soit testée sur des données hospitalières réelles encore plus vastes à l'avenir.

Le Problème : La Calculatrice contre le Conteur

Pour comprendre pourquoi CardioTrust est si important, nous devons examiner les deux outils que les médecins utilisent pour prédire les maladies cardiaques, et pourquoi ils présentent tous deux des défauts.

Premièrement, il y a les Modèles d'Apprentissage Automatique (Machine Learning). Considérez-les comme des calculatrices super rapides. Ils analysent l'âge, la pression artérielle, le cholestérol et d'autres chiffres d'un patient, puis recrachent un score de risque. Ils sont excellents pour repérer des schémas que les humains pourraient manquer. Cependant, ils sont souvent des « boîtes noires ». Ils vous donnent un chiffre, mais ne vous disent pas pourquoi. Si un médecin voit un score de risque élevé, il ne peut pas facilement voir si c'est dû à l'âge du patient ou à son habitude de fumer. Sans cette explication, les médecins hésitent à faire confiance à la machine.

Deuxièmement, il y a les Grands Modèles de Langage (LLM). Ce sont les brillants conteurs. Ils peuvent lire des manuels médicaux et rédiger un plan détaillé pour un patient, expliquant en langage clair ce qui pourrait ne pas aller. Le problème ? Ils « hallucinent » parfois. Cela signifie qu'ils pourraient affirmer avec assurance à un médecin qu'un médicament spécifique guérit une condition, même si ce médicament n'existe pas ou n'est pas recommandé. À l'hôpital, un fait inventé peut être dangereux.

Pendant longtemps, les chercheurs ont tenté de résoudre cela en utilisant une méthode appelée RAG (Génération Augmentée par Récupération). C'est comme donner une carte de bibliothèque au conteur. Au lieu d'inventer des choses de mémoire, le conteur est contraint de chercher la réponse dans une bibliothèque de livres médicaux de confiance avant d'écrire l'histoire. Cela aide, mais l'ancienne façon de faire était un peu maladroite. Le conteur demandait simplement à la bibliothèque : « Parle-moi des maladies cardiaques », et recevait en retour une réponse générique qui ne correspondait pas à la situation unique de ce patient spécifique.

La Solution : Une Équipe qui Communique

Les auteurs de ce document ont réalisé que la calculatrice et le conteur avaient besoin de se parler avant que l'histoire ne soit écrite. Ils ont construit CardioTrust, un système où les mathématiques et les mots sont verrouillés ensemble.

Voici comment l'équipe fonctionne, étape par étape :

La Calculatrice (Random Forest) : Le système commence par analyser les données du patient. Il ne dit pas seulement « Risque Élevé ». Il calcule la probabilité exacte (comme 95,84 %) et, surtout, il identifie les « méchants » de l'histoire. Il utilise un outil appelé SHAP pour déterminer exactement quels facteurs entraînent le risque. Est-ce l'âge du patient ? Ses douleurs thoraciques ? Son cholestérol ? La calculatrice crée un « briefing de mission » énumérant ces méchants spécifiques.
La Recherche Intelligente (RAG Hybride) : C'est la première grande innovation. Au lieu de demander à la bibliothèque : « Parle-moi des maladies cardiaques », le système envoie le briefing de mission. Il dit à la bibliothèque : « Nous avons un patient présentant une dépression du segment ST et des douleurs thoraciques ; trouvez-nous les règles spécifiques pour cela ». Cela garantit que les preuves récupérées sont parfaitement adaptées aux mathématiques spécifiques du patient.
Le Conteur (Llama 3.2) : Le conteur prend les preuves récupérées et le briefing de mission, puis rédige une recommandation personnalisée. Comme il dispose des règles spécifiques et des données spécifiques du patient, il n'a pas besoin de deviner.
L'Inspecteur de Sécurité (Validation de la Confiance) : C'est le dernier gardien. Avant que le rapport ne soit transmis au médecin, l'Inspecteur de Sécurité passe une liste de contrôle. Il pose cinq questions :
- La calculatrice est-elle confiante dans ses calculs ?
- Avons-nous trouvé la bonne preuve ?
- La preuve concorde-t-elle avec les autres preuves ?
- L'histoire mentionne-t-elle les mêmes « méchants » (facteurs de risque) que ceux trouvés par la calculatrice ?
- L'histoire est-elle complète (comprend-elle un diagnostic, un plan et des conseils) ?

Si le rapport obtient un score suffisamment élevé (supérieur à 0,75 sur une échelle de 0 à 1), il est envoyé au médecin. Si le score est trop bas, il est signalé pour une révision manuelle par un humain. Cela garantit qu'aucun conseil erroné ou inventé ne parvienne au patient.

Les Résultats : Vérité et Confiance

Les auteurs ont testé ce système contre de nombreuses autres méthodes, y compris des calculateurs standards, des conteurs autonomes et d'anciennes versions du système de recherche en bibliothèque. Les résultats sont impressionnants.

Les Mathématiques : Le calculateur central de CardioTrust a atteint une précision de 95,84 % avec une précision de 0,941 et un rappel de 0,952. Cela signifie qu'il était meilleur pour détecter les maladies cardiaques que presque tous les autres modèles testés, y compris XGBoost et les machines à vecteurs de support (SVM).

L'Histoire : La véritable victoire réside dans la qualité des recommandations.

Un conteur standard (sans la bibliothèque) inventait des faits 21,64 % du temps.
Un système de recherche en bibliothèque standard (sans le briefing de mission intelligent) inventait des faits 15,31 % du temps.
CardioTrust n'a inventé des faits que 2,84 % du temps.

De plus, le système a obtenu un Score de Confiance de 0,96, qui mesure la fiabilité de l'ensemble du processus. Les auteurs ont également vérifié si l'histoire correspondait aux mathématiques. Ils ont constaté que l'« Accord d'Explication » était de 0,95, ce qui signifie que l'histoire reflète presque parfaitement les raisons données par la calculatrice pour le risque.

Le Test du « Et si ? » : Les auteurs ont également testé ce qui se passerait si l'on retirait certaines parties du système (une étude d'ablation).

Sans la recherche intelligente, le système était moins digne de confiance.
Sans l'Inspecteur de Sécurité, le taux d'hallucination est remonté à 8,21 %.
Sans l'Inspecteur de Sécurité et sans la recherche intelligente, le taux d'hallucination était de 24,82 %.

Cela prouve que chaque partie de l'équipe est nécessaire. On ne peut pas simplement avoir une bonne calculatrice ; il faut la recherche intelligente et l'inspecteur de sécurité pour qu'elle soit digne de confiance.

Pourquoi cela importe

Les auteurs précisent avec prudence qu'il s'agit d'une étape prometteuse, et non d'un produit fini. Ils ont testé le système sur des ensembles de données existants (comme le jeu de données de maladies cardiovasculaires de Kaggle avec 70 000 enregistrements et le jeu de données UCI Heart Disease avec 1 025 enregistrements). Bien que les résultats soient solides, le système n'a pas encore été testé dans la réalité complexe d'un véritable hôpital avec de vrais médecins. Les auteurs suggèrent que la prochaine étape consiste à voir comment il se comporte dans la réalité désordonnée et complexe de différents hôpitaux et à faire évaluer les rapports par de vrais médecins.

Cependant, l'idée centrale est claire : en forçant les mathématiques et les mots à s'accorder l'un avec l'autre, et en ajoutant un contrôle de sécurité strict à la fin, nous pouvons construire une IA en laquelle les médecins peuvent réellement avoir confiance. CardioTrust n'est pas seulement une calculatrice ou un conteur ; c'est une équipe qui vérifie ses propres devoirs avant de les rendre.

Résumé Technique : CardioTrust

Problématique

Les maladies cardiovasculaires (MCV) demeurent une cause majeure de mortalité mondiale, nécessitant une stratification des risques rapide et précise. Bien que les modèles d'apprentissage automatique (ML) traditionnels excellent dans la prédiction du risque de MCV, ils fonctionnent souvent comme des « boîtes noires », fournissant des scores numériques sans interprétabilité clinique suffisante, ce qui limite la confiance des cliniciens. À l'inverse, les grands modèles de langage (LLM) offrent un raisonnement clinique narratif mais souffrent d'hallucinations et de recommandations non fondées, ce qui pose des risques importants pour la sécurité. De plus, les systèmes de génération augmentée par récupération (RAG) existants dans le domaine de la santé récupèrent généralement des informations basées sur une similarité sémantique statique, échouant ainsi à intégrer les prédictions de risque spécifiques au patient, ce qui produit des recommandations manquant de personnalisation. Il existe un écart critique entre l'intégration d'une prédiction ML précise, d'une récupération fondée sur des preuves, d'un raisonnement explicable et d'une validation systématique de la confiance au sein d'un cadre unifié de support à la décision clinique.

Méthodologie

Les auteurs proposent CardioTrust, un cadre d'IA de confiance qui unifie cinq modules étroitement couplés en un flux de travail en boucle fermée :

Module de Prédiction des Maladies Cardiovasculaires : Utilise un classificateur d'ensemble de type Forêt Aléatoire (Random Forest) pour prédire la probabilité de maladie $P(y=1|x)$ et estimer l'incertitude épistémique. Le score de confiance ( $P_c$ ) est dérivé de la variance des estimations de probabilité au niveau des arbres au sein de l'ensemble.
Module RAG Hybride Guidé par la Prédiction : Contrairement au RAG conventionnel, ce module injecte dynamiquement la catégorie de risque prédite et les principaux facteurs de risque SHAP dans la requête de récupération. Il récupère des preuves auprès de sources faisant autorité (directives AHA/ESC et PubMed) en utilisant des plongements (embeddings) BAAI BGE Base EN v1.5 indexés dans ChromaDB.
Module d'Explicabilité SHAP : Emploie TreeSHAP pour générer des attributions de caractéristiques locales spécifiques au patient ( $\Phi$ ), classant ainsi les moteurs de risque cliniques. Ces attributions servent à la fois de contexte pour le LLM et de métrique de validation.
Module de Raisonnement Clinique Fondé sur des Preuves : Un modèle Llama 3.2:3B génère des recommandations cliniques personnalisées basées sur un contexte fusionné contenant le profil du patient, la probabilité de risque, la confiance, le vecteur SHAP et les preuves récupérées. Le modèle opère à une température basse ( $T=0.2$ ) pour une inférence déterministe.
Module de Validation de la Confiance et de Calibrage : Avant qu'un rapport ne soit présenté, un audit quantitatif calcule un Score de Confiance ( $T$ ) composite basé sur cinq dimensions :
- Confiance de la Prédiction ( $P_c$ )
- Pertinence de la Récupération ( $R_r$ )
- Cohérence des Preuves ( $E_c$ )
- Accord de l'Explication ( $S_a$ ) : Mesure l'alignement entre l'importance des caractéristiques SHAP et les caractéristiques mentionnées dans la narration générée par le LLM.
- Complétude de la Recommandation ( $C_r$ )
Si $T \geq \tau$ (seuil fixé à 0,75), le rapport est accepté ; sinon, il est dirigé vers une file d'attente d'audit manuel.

Principales Contributions

RAG Hybride Guidé par la Prédiction : Le système conditionne dynamiquement la récupération des preuves sur le profil de risque spécifique prédit et les moteurs SHAP, plutôt que de s'appuyer uniquement sur une similarité sémantique générique.
L'Accord de l'Explication comme Signal de Confiance : Introduit une métrique quantitative ( $S_a$ ) qui vérifie si la narration du LLM reflète les mêmes caractéristiques cliniques sur lesquelles le classificateur sous-jacent s'est appuyé, fermant ainsi la boucle entre l'XAI (IA explicable) et la génération de texte.
Cadre Unifié : Intègre la prédiction par Forêt Aléatoire, le RAG hybride, TreeSHAP et un module de validation de la confiance multidimensionnel dans un pipeline unique de bout en bout avec une porte de décision explicite d'acceptation/audit.
Module de Validation de la Confiance : Une passerelle de sécurité pré-livraison qui évalue la confiance, la pertinence, la cohérence, l'alignement et la complétude, instanciée ici avec une configuration de base à pondération égale.
Évaluation Complète : Comprend une étude d'ablation isolant la contribution de chaque composant et une validation croisée rigoureuse par rapport à plusieurs lignes de base.

Résultats

Le cadre a été évalué par une validation croisée à 5 plis sur le jeu de données de maladies cardiovasculaires de Kaggle (70 000 enregistrements) et un contrôle hors distribution sur le jeu de données de maladies cardiaques de l'UCI (1 025 enregistrements).

Performance Prédictive : Le cœur de la Forêt Aléatoire a atteint une précision de 95,84 % ± 0,45 %, un AUROC de 0,982, une précision de 0,941 et un rappel de 0,952, surpassant nettement les modèles de référence comme la Régression Logistique (84,21 %), SVM (86,50 %) et XGBoost (92,15 %).
Qualité de la Récupération : Le module RAG hybride a obtenu des métriques de récupération supérieures (Précision@5 = 0,946, NDCG = 0,952) par rapport à la recherche lexicale, à la récupération dense standard et à GraphRAG.
Qualité de la Recommandation : CardioTrust a atteint l'alignement sémantique le plus élevé avec les directives (BERTScore = 0,96) par rapport aux LLM autonomes et aux autres variantes de RAG.
Confiance et Réduction des Hallucinations : Le cadre complet a atteint un Score de Confiance composite de 0,96 et a réduit le taux d'hallucination à 2,84 %, une amélioration significative par rapport aux 21,64 % observés lors de la génération LLM en mode zero-shot.
Étude d'Ablation : Les résultats ont confirmé que, bien que la précision prédictive reste constante (régie par la Forêt Aléatoire), l'intégration du RAG hybride, de TreeSHAP et de la Validation de la Confiance réduit progressivement les hallucinations et augmente la fiabilité du système.

Signification et Revendications

L'article affirme que CardioTrust fournit une solution robuste, transparente et alignée sur les cliniciens pour les soins cardiovasculaires personnalisés. En unifiant la modélisation prédictive avec le raisonnement fondé sur des preuves et l'évaluation automatisée de la confiance, le cadre répond à l'obstacle critique consistant à combler l'écart entre une prédiction de haute précision et un raisonnement clinique vérifiable et explicable. Les auteurs soulignent que le système atténue les risques d'hallucinations des LLM et de suggestions thérapeutiques non fondées grâce à sa validation automatisée pré-livraison.

L'article maintient une position modeste concernant sa validation actuelle :

Le Score de Confiance est un proxy automatisé basé sur les plongements et la confiance ; il n'a pas encore été validé par rapport à un Taux d'Acceptation par les Cliniciens issu d'une étude de lecture par des experts, ce qui est identifié comme une étape ultérieure nécessaire.
Les coefficients de pondération dans le module de Validation de la Confiance sont actuellement fixés sur une configuration de base à pondération égale ; le calibrage empirique par rapport à des étiquettes de référence expert est proposé comme travail futur.
Les résultats du jeu de données UCI sont présentés comme un test de transférabilité hors distribution plutôt que comme une preuve définitive de généralisation, notant la nécessité d'une validation prospective multicentrique.

Les auteurs concluent que CardioTrust représente une étape importante vers une IA de confiance en santé, mais présentent explicitement ce travail comme une fondation pour un futur calibrage empirique et des tests de déploiement en conditions réelles.