Ask Twice, Look Twice: Training-Free Consistency Filtering for Reliable Medical VQA

Dans le monde à enjeux élevés de la médecine moderne, les médecins s'appuient de plus en plus sur l'intelligence artificielle pour les aider à interpréter des images médicales complexes, des radiographies aux IRM. Un type spécifique d'IA, connu sous le nom de système de réponse aux questions visuelles (Visual Question Answering), est conçu pour regarder une image et répondre à une question en langage naturel à son sujet, telle que « Quel organe est visible ici ? » ou « Y a-t-il une fracture ? ». Bien que ces systèmes soient extrêmement prometteurs pour soutenir les décisions cliniques, ils sont confrontés à un obstacle critique : la fiabilité. Tout comme un humain pourrait hésiter ou donner une réponse différente si la question est formulée légèrement différemment, ces programmes informatiques peuvent parfois trébucher lorsque la formulation d'une question change, même si le sens reste exactement le même. Si une IA donne une réponse confiante mais erronée parce qu'un médecin a posé la question d'une nouvelle manière, les conséquences dans un milieu hospitalier pourraient être graves. Le défi fondamental n'est donc pas seulement de rendre ces modèles plus intelligents, mais de les rendre cohérents — en veillant à ce qu'ils donnent la même réponse correcte, quelle que soit la façon dont la question est posée ou la manière dont l'image est légèrement altérée.

Une équipe de chercheurs de l'Université de Sydney et de l'Université Macquarie a développé une nouvelle méthode pour résoudre ce problème sans avoir besoin de réentraîner les modèles d'intelligence artificielle à partir de zéro. Ils appellent leur approche « Ask Twice, Look Twice » (Demander deux fois, Regarder deux fois). Au lieu d'essayer de forcer l'IA à apprendre de nouvelles choses, ils ont construit un filtre de sécurité qui vérifie la confiance du modèle avant que celui-ci ne soit autorisé à donner une réponse. Le système fonctionne en prenant une seule image médicale et une question, puis en générant automatiquement plusieurs versions différentes de cette question qui ont exactement la même signification. Par exemple, si la question originale est « Quelle maladie est montrée sur la gauche du poumon ? », le système pourrait créer des variantes telles que « Qu'est-ce qui est observé dans le poumon gauche ? » ou « Quel signe est présent sur le côté gauche ? ». Il pose ensuite toutes ces différentes versions de la question à l'IA. Si l'IA donne la même réponse à chaque variation, le système accepte le résultat comme fiable. Si les réponses de l'IA oscillent ou se contredisent, le système rejette la sortie, la signalant comme incertaine plutôt que de risquer un diagnostic erroné.

Pour tester cette idée, les chercheurs ont d'abord dû créer un moyen de générer ces variations de questions automatiquement. Ils ont utilisé un grand modèle de langage, un type d'IA avancée entraînée sur de vastes quantités de texte, pour réécrire les questions présentes dans les ensembles de données médicales existants. Ils ont établi des règles strictes pour ce processus : les nouvelles questions devaient conserver exactement la même signification que l'originale, et ne pouvaient introduire aucun nouveau fait qui n'était pas déjà présent dans l'image ou la question d'origine. Cela garantissait que l'IA était testée sur sa capacité à comprendre le concept central, et non sur sa capacité à deviner de nouvelles informations. Ils ont également vérifié la qualité de ces questions générées pour s'assurer qu'elles étaient grammaticalement correctes et véritablement équivalentes aux originales. Ce processus leur a permis de construire un terrain de test beaucoup plus riche, où chaque image médicale était associée à des dizaines de façons différentes de poser la question, plutôt qu'à une seule.

Les chercheurs ont ensuite mis cette méthode à l'épreuve en utilisant deux modèles d'IA médicale différents sur un ensemble de données appelé SLAKE, qui contient des milliers d'images et de questions médicales. Ils ont créé quatre versions différentes de cet ensemble de données pour simuler des défis du monde réel. Une version utilisait uniquement les nouvelles questions variées pour tester comment les modèles géraient les changements de langage. Une autre version utilisait des images qui avaient été légèrement altérées par des techniques informatiques standards, comme le changement de luminosité ou l'ajout d'un léger flou, pour tester la robustesse visuelle. Ils ont également combiné ces changements et ont même inclus des images subtilement modifiées pour tromper l'IA, connues sous le nom d'attaques adverses. Lorsqu'ils ont fait fonctionner les modèles sur ces ensembles de données sans leur nouveau filtre de sécurité, les résultats ont été révé quiteurs. Les modèles étaient étonnamment fragiles face aux changements de langage ; même de petits changements dans la façon dont une question était formulée provoquaient une baisse significative de leur précision. En revanche, les modèles étaient quelque peu plus résilients aux changements dans les images, bien qu'ils éprouvent toujours des difficultés lorsque le texte et l'image sont modifiés simultanément.

La véritable puissance de la méthode « Ask Twice, Look Twice » est apparue lorsque les chercheurs ont appliqué leur filtre de cohérence. Ils ont établi une règle selon laquelle l'IA ne serait autorisée à donner une réponse que si elle était d'accord avec elle-même à travers un certain nombre de variations de questions. Par exemple, s'ils exigeaient que le modèle donne la même réponse à au moins onze versions différentes d'une question, le système devenait beaucoup plus digne de confiance. Sur l'ensemble de données avec des variations de langage, la fiabilité de l'un des meilleurs modèles est passée d'environ 77 % à 89 % lorsque cette règle stricte a été appliquée. Sur l'ensemble de données avec des changements visuels, la fiabilité est passée d'environ 80 % à 87 %. Cette amélioration s'est accompagnée d'un compromis : comme le système rejetait désormais les réponses dont il n'était pas sûr, le nombre de questions auxquelles il répondait réellement a chuté. Dans l'ensemble de données avec variation de langage, le taux d'acceptation a chuté d'environ 29 %, ce qui signifie que le système préférait rester silencieux plutôt que de deviner. Cependant, les réponses qu'il fournissait étaient bien plus susceptibles d'être correctes, et l'incertitude de ses prédictions a diminué d'environ un quart.

L'étude a également mis en évidence une différence cruciale dans la manière dont ces modèles d'IA médicale gèrent différents types d'erreurs. Les chercheurs ont constaté que les modèles étaient bien plus sensibles aux changements de langage qu'aux changements d'images. Même lorsque les images étaient légèrement floues ou que leur contraste était ajusté, les modèles performaient relativement bien. Mais lorsque les questions étaient reformulées, les modèles échouaient souvent à reconnaître que la question était la même. Cela suggère que les systèmes d'IA médicale actuels dépendent fortement des mots spécifiques utilisés dans une question plutôt que de comprendre véritablement l'information visuelle de l'image. Les chercheurs ont noté que les changements d'images traditionnels nuisaient plus à la performance que les attaques subtiles générées par ordinateur conçues pour tromper l'IA, une conclusion qui remet en question certaines hypothèses sur la vulnérabilité de ces systèmes.

En utilisant ce filtre de cohérence, les chercheurs ont démontré qu'il est possible d'augmenter considérablement la fiabilité de l'IA médicale sans avoir besoin d'entraîner les modèles sur de nouvelles données ou de modifier leur architecture sous-jacente. La méthode agit comme un garde-fou, garantissant que le système ne s'exprime que lorsqu'il est confiant. Bien que cela signifie que le système choisira parfois de ne pas répondre à une question, les chercheurs soutiennent que, dans un contexte clinique, un système silencieux est bien plus sûr qu'un système qui donne une réponse erronée avec assurance. L'approche fonctionne à travers différents types de modèles et différents types de données, suggérant qu'elle pourrait être un outil pratique pour améliorer la sécurité dans les hôpitaux du monde réel. L'étude conclut que, bien que ces systèmes aient encore besoin de travail pour devenir pleinement robustes, notamment concernant la gestion des différentes manières de poser des questions, cette simple stratégie de « demander deux fois » offre un moyen puissant de filtrer l'incertitude et de garantir que les réponses données aux médecins sont fiables.