💻 computer science

ChainTrust-LLM: Secure and Auditable Hallucination Mitigation in Medical LLMs Using Blockchain and Expert Feedback

Cet article présente ChainTrust-LLM, un nouveau cadre qui intègre le feedback d'experts à un registre blockchain basé sur un graphe orienté acyclique (DAG) pour détecter et atténuer les hallucinations dans les modèles de langage médicaux de grande taille, atteignant une réduction de 64,8 % des taux d'erreur tout en garantissant des interactions sécurisées et auditables avec une latence minimale.

Auteurs originaux : Muhammad Ismail Mohamand

Publié 2026-07-29

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Muhammad Ismail Mohamand

Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un monde où vous pouvez discuter avec un robot bibliothécaire super intelligent qui a lu tous les manuels de médecine jamais écrits. Ce robot, connu sous le nom de Modèle de Langage Étendu (LLM), est incroyable pour discuter, répondre à des questions et même aider les médecins à expliquer les choses aux patients. Mais il y a un piège : parfois, ce robot devient un peu trop sûr de lui et invente des choses. Il pourrait vous dire qu'un certain médicament guérit une maladie qu'il ne guérit pas, ou qu'un symptôme signifie quelque chose qu'il ne signifie pas. Dans le monde de la médecine, ces faits inventés sont appelés « hallucinations », et ils sont dangereux car ils peuvent conduire à de mauvaises décisions.

Pour corriger cela, les scientifiques essaient de construire un système qui agit comme un éditeur strict. Ils veulent un moyen de vérifier le travail du robot, de tenir un registre permanent de chaque correction et de s'assurer que le robot apprend de ses erreurs sans les oublier. C'est là que l'idée de « confiance » intervient. Si le robot répond correctement à une question, nous lui faisons davantage confiance ; s'il se trompe, nous lui faisons moins confiance. Mais garder une trace de toute cette confiance et s'assurer que personne ne peut modifier secrètement les registres est un défi énorme. C'est pourquoi les chercheurs étudient la combinaison d'experts humains avec un type spécial de registre numérique appelé « blockchain », qui est comme un carnet public que personne ne peut effacer ou altérer une fois que quelque chose y est écrit.

C'est exactement ce dont traite l'article « ChainTrust-LLM ». Les chercheurs, dirigés par Muhammad Ismail Mohmand et son équipe, voulaient résoudre le problème des hallucinations médicales, spécifiquement pour une condition appelée hypothyroïdie (un problème de la glande thyroïde). Ils ont remarqué que lorsque les robots parlent de symptômes comme la fatigue, la prise de poids ou des troubles du cycle menstruel, ils se trompent souvent sur les détails. Pour corriger cela, ils ont construit un nouveau cadre appelé ChainTrust-LLM. Voyez cela comme un filet de sécurité de haute technologie qui enregistre les erreurs et les corrections du robot de manière sécurisée, créant une piste auditable pour améliorer les performances futures.

Voici comment leur système fonctionne, en utilisant une histoire simple : Imaginez que le robot médical est un étudiant passant un examen. Chaque fois qu'il répond à une question, trois médecins de la vie réelle (des experts) vérifient la réponse. Si l'étudiant a raison, ils donnent un pouce levé ; s'il a tort, ils donnent un pouce vers le bas et écrivent la bonne réponse. Mais au lieu de simplement garder ces notes dans un tas de papiers désordonnés, ChainTrust-LLM écrit chaque note et chaque correction dans un « journal numérique » qui utilise la blockchain. Ce journal est immuable, ce qui signifie qu'une fois qu'une erreur est enregistrée, elle y reste pour toujours comme preuve.

Le système possède également une règle spéciale concernant le temps. Si le robot répond correctement à une question aujourd'hui, son « score de confiance » augmente. Mais s'il n'est pas vérifié pendant longtemps, ce score de confiance diminue lentement, comme une batterie qui se décharge. Cela garantit que le système reste à jour et ne repose pas sur des informations anciennes ou potentiellement obsolètes. Lorsque le robot fait une erreur, le système utilise un « détecteur de risque » pour repérer le mensonge en fonction de la différence entre la réponse et la vérité, puis il enregistre l'événement de manière sécurisée.

L'équipe a testé cette idée sur trois robots médicaux célèbres : GPT-4, MedPaLM et Claude. Ils leur ont posé 300 questions différentes sur les symptômes, les traitements et les tests de laboratoire de l'hypothyroïdie. Avant l'utilisation de ChainTrust-LLM, ces robots faisaient des erreurs assez souvent. Par exemple, GPT-4 hallucinait (inventait des faits) environ 23,1 % du temps. Après l'application du nouveau système, ce chiffre a chuté de manière spectaculaire pour atteindre 8,5 %. Cela représente une réduction d'environ 63 %. Pour les autres robots, les améliorations étaient tout aussi importantes, avec des taux d'erreur chutant jusqu'à 64,8 %.

Non seulement les robots faisaient moins d'erreurs, mais le système devenait aussi bien meilleur pour savoir quand il avait raison ou tort. La « précision de la calibration de la confiance » — qui est essentiellement la mesure de la correspondance entre la confiance du robot et la réalité — a bondi d'environ 75 % à plus de 91 % pour GPT-4. Les experts qui vérifiaient les réponses étaient également beaucoup plus souvent d'accord entre eux, leur score d'accord passant de 0,65 à 0,87. Cela signifie que le système ne faisait pas que corriger les erreurs ; il créait une compréhension partagée et fiable de la vérité.

L'un des aspects les plus impressionnants de cette recherche est sa rapidité. Même avec toute la vérification supplémentaire et l'enregistrement sur la blockchain, le système n'a ajouté qu'un délai infime. En moyenne, il n'a fallu que 211 millisecondes (soit moins d'un quart de seconde) pour enregistrer une transaction. Cela suggère qu'un tel système pourrait réellement être utilisé dans les hôpitaux sans ralentir le travail.

L'article conclut que ChainTrust-LLM est un moyen robuste et sécurisé de rendre l'IA médicale plus sûre. En combinant des experts humains, un système de confiance basé sur le temps et un enregistrement immuable sur blockchain, ils ont créé un cadre qui réduit considérablement les mensonges dangereux dans les conseils médicaux. Bien que l'étude se soit concentrée spécifiquement sur les symptômes de l'hypothyroïdie comme la fatigue et la prise de poids, la méthode suggère une voie à suivre pour rendre l'IA digne de confiance dans d'autres domaines médicaux. Ce n'est pas une baguette magique qui répare tout instantanément, mais c'est une étape très prometteuse vers un avenir où nous pourrons faire confiance à nos assistants médicaux numériques.

Résumé Technique : ChainTrust-LLM

1. Énoncé du Problème

Les modèles de langage de grande taille (LLM) tels que GPT-4, Med-PaLM et Claude ont démontré un potentiel significatif dans la génération de textes cliniques, l'assistance au diagnostic et l'éducation des patients. Cependant, leur intégration dans les contextes médicaux réels est entravée par le phénomène d'hallucination — la génération de sorties factuellement incorrectes, fabriquées ou trompeuses, présentées avec une grande confiance. Dans le domaine médical, ces erreurs posent des risques graves pour la sécurité des patients et la fiabilité clinique.

Les techniques de mitigation existantes, incluant la génération augmentée par récupération (RAG), l'injection de connaissances structurées et l'apprentissage par renforcement à partir de la rétroaction humaine (RLHF), manquent souvent de transparence, de traçabilité et de robustesse spécifique au domaine. De plus, la littérature actuelle traite fréquemment l'hallucination comme un problème universel plutôt que d'aborder ses implications spécifiques pour des maladies particulières. Ce document identifie une lacune critique dans la détection et l'atténuation des hallucinations liées à l'hypothyroïdie, en se concentrant spécifiquement sur des symptômes subtils et facilement confondables tels que la fatigue, la prise de poids et les perturbations de la santé menstruelle. Une désinformation dans ces domaines peut conduire à un mauvais diagnostic ou à une absence de traitement, pourtant peu de systèmes traitent la détection de symptômes spécifiques avec une auditabilité sécurisée.

2. Méthodologie : Le Cadre ChainTrust-LLM

Les auteurs proposent ChainTrust-LLM, un nouveau cadre qui intègre le calibrage de la confiance avec l'intervention humaine et l'auditabilité basée sur la blockchain pour détecter et atténuer les hallucinations. Le système est conçu autour de quatre modules principaux :

2.1 Construction du Jeu de Données

Un jeu de données spécifique à la maladie a été développé, comprenant 300 prompts médicaux curatés divisés en trois catégories : les symptômes (se concentrant sur la fatigue, la prise de poids et la santé menstruelle), les médicaments/traitements, et les tests de laboratoire/diagnostic. Les vérités de terrain ont été établies à partir de sources faisant autorité (NIDDK, CDC, ATA, MedlinePlus, DailyMed) et vérifiées par trois endocrinologues expérimentés. Le jeu de données inclut des étiquettes d'hallucination binaire, des scores de sévérité et des scores de fiabilité.

2.2 Architecture du Système

Le cadre traite les entrées via le pipeline suivant :

Module d'Encodage de Prompt : Utilise un encodeur de langage adapté au domaine (par exemple, BioBERT ou ClinicalBERT) pour transformer les requêtes cliniques en plongements sémantiques structurés. Un classificateur softmax route les prompts dans des domaines spécifiques (symptôme, médicament ou laboratoire) pour ajuster les seuils d'hallucination en conséquence.
Module de Détection d'Hallucination : Implémente un classificateur de risque binaire $R(x)$ qui identifie les réponses hallucinées. Il emploie un score de contradiction sémantique ( $C_i = 1 - \text{Sim}(y_i, y^*_i)$ ) pour mesurer la similitude factuelle entre la réponse du LLM et les réponses de référence vérifiées. Les caractéristiques incluent le chevauchement linguistique, la détection de négation et la correspondance d'entités cliniques (CIM-10, mentions de médicaments).
Modèle de Score de Confiance : Introduit un mécanisme de mise à jour de la confiance pondéré par le temps qui s'adapte au feedback de l'expert. Le score de confiance $T(y, t)$ est mis à jour en fonction du nouveau feedback humain $f_t(y)$ et d'un score de confiance précédent $T_{prev}(y)$ , équilibré par un paramètre de mémoire $\alpha$ . Crucialement, le modèle incorpore une décroissance exponentielle de la confiance ( $e^{-\lambda \Delta t}$ ) pour réduire les scores de confiance au fil du temps en l'absence de feedback récent, garantissant une évaluation de la fiabilité spécifique au domaine.
Couche d'Audit Blockchain : Pour assurer un suivi infalsifiable, tous les couples réponse-feedback sont hachés et stockés sur une blockchain à base de DAG privée et permissionnée (implémentée sur un réseau Ethereum permissionné via geth). Chaque entrée de bloc inclut le score de confiance, l'étiquette de feedback et l'horodatage, liés via des pointeurs de hachage cryptographiques pour garantir l'intégrité et la traçabilité.

2.3 Sécurité et Formalisation

Le document formalise la robustesse de la détection d'hallucination contre les perturbations adverses et définit l'intégrité de la chaîne de confiance via des pointeurs de hachage basés sur le DAG. Le contrôle d'accès est appliqué via des signatures numériques d'utilisateurs experts autorisés, et les attaques par rejeu sont empêchées à l'aide de nonces.

3. Contributions Clés

Le document présente trois contributions principales :

Calibrage de la Confiance avec l'Humain dans la Boucle : Un cadre pour la détection d'hallucinations spécifiquement adapté aux réponses liées à l'hypothyroïdie, utilisant une rétroaction itérative d'experts pour mettre à jour les scores de confiance.
Boucle de Feedback Auditée par Blockchain : Un mécanisme de journalisation sécurisé qui assure la traçabilité et l'immutabilité des corrections d'hallucinations et des évaluations de confiance.
Modèle de Décroissance de la Confiance Pondéré par le Temps : Une approche novatrice pour évaluer la fiabilité des réponses des LLM au fil du temps, tenant compte de la décroissance de la confiance en l'absence de validation continue par des experts.

4. Résultats Expérimentaux

Le cadre a été évalué à l'aide de GPT-4, Med-PaLM et Claude sur le jeu de données de 300 prompts. Les indicateurs de performance clés incluent :

Réduction du Taux d'Hallucination : ChainTrust-LLM a considérablement réduit les taux d'hallucination sur tous les modèles :
- GPT-4 : Diminution de 23,1 % à 8,5 % (réduction de 63,2 %).
- Med-PaLM : Diminution de 28,7 % à 10,1 % (réduction de 64,8 %).
- Claude : Diminution de 31,9 % à 12,4 % (réduction de 61,1 %).
Précision du Calibrage de la Confiance (TCA) : L'alignement entre les prédictions de confiance du modèle et les évaluations des experts s'est considérablement amélioré :
- GPT-4 : 75,4 % $\rightarrow$ 91,2 %
- Med-PaLM : 70,3 % $\rightarrow$ 89,5 %
- Claude : 67,8 % $\rightarrow$ 87,1 %
Accord Inter-Juges : Le Kappa de Fleiss ( $\kappa$ ) est passé d'une moyenne de base de 0,65 à 0,87, indiquant un fort accord entre les experts sur les sorties corrigées.
Détection Spécifique aux Symptômes : La précision de la détection des hallucinations pour des symptômes spécifiques s'est nettement améliorée :
- Fatigue : 68 % $\rightarrow$ 92 %
- Prise de Poids : 64 % $\rightarrow$ 89 %
- Santé Menstruelle : 61 % $\rightarrow$ 87 %
Performance du Classificateur : Le classificateur de risque d'hallucination a atteint une AUC de 0,934, démontrant une haute sensibilité et spécificité.
Surcharge Blockchain : Le système a maintenu une faible latence, avec une latence de transaction moyenne de 211 ms et des coûts de gaz minimaux, supportant des capacités de journalisation en temps réel.

5. Signification et Revendications

Les auteurs affirment que ChainTrust-LLM offre une solution robuste, explicable et sûre pour le déploiement de modèles de support linguistique médical. Contra-irement aux détecteurs post-hoc précédents, ce cadre fonctionne comme une boucle de mitigation en temps réel basée sur le feedback. En combinant la modélisation formelle de la confiance et la transparence de la blockchain, le système répond au besoin critique d'auditabilité dans les applications médicales à enjeux élevés.

L'étude souligne que, bien que la détection générale des hallucinations soit un domaine actif, une attention spécifique aux domaines cliniques sous-explorés comme les symptômes de l'hypothyroïdie est vitale. L'intégration d'un modèle de décroissance de la confiance temporel et de pistes d'audit immuables fournit un mécanisme pour garantir que les LLM restent fiables au fil du temps, même à mesure que les connaissances médicales évoluent ou que les schémas de feedback changent. Les auteurs concluent que le cadre est une étape significative vers une IA de confiance dans la santé, avec des travaux futurs prévus pour étendre l'application à d'autres symptômes et utiliser l'apprentissage fédéré pour une applicabilité plus large.