Can Scientific Claims Be Removed from Large Language Models? A Systematic Evaluation of Claim-Level Unlearning

Les systèmes d'intelligence artificielle modernes, souvent appelés grands modèles de langage, agissent comme de vastes bibliothèques du savoir humain. Ils sont entraînés en lisant d'énormes collections de textes, y compris des articles scientifiques, pour apprendre à répondre à des questions et à résoudre des problèmes. Cependant, la science n'est pas une archive statique ; c'est un processus vivant et respirant de révision constante. Lorsqu'une nouvelle étude prouve qu'une ancienne idée est fausse, ou lorsqu'un article est rétracté en raison d'une erreur, le registre scientifique se met à jour. Le problème est que ces modèles d'IA ne se mettent pas à jour automatiquement. Une fois qu'ils ont appris un fait, ils ont tendance à s'y accrocher, même après que la communauté scientifique l'a déclaré faux. Cela crée un risque où une IA pourrait répéter avec assurance des informations obsolètes ou réfutées, pouvant ainsi induire les chercheurs en erreur ou même caver de l'ombre dans des domaines comme la médecine.

Pour remédier à cela, des chercheurs ont développé une technique appelée l'oubli machine (machine unlearning). L'objectif est d'apprendre à un modèle à « oublier » des morceaux spécifiques d'informations tout en préservant sa capacité à répondre à d'autres questions. Imaginez un bibliothécaire qui doit retirer un livre spécifique et incorrect des étagères sans perturber le reste de la bibliothèque ou perdre la capacité de trouver d'autres livres. Bien que cette technique ait été testée pour supprimer des données personnelles ou du contenu protégé par le droit d'auteur, les scientifiques n'ont pas encore trouvé comment supprimer efficacement des affirmations scientifiques spécifiques. Ces affirmations sont délicates car elles sont profondément interconnectées ; connaître un fait repose souvent sur la compréhension de nombreux autres. Si vous essayez de supprimer un fait, le modèle peut simplement apprendre à le reformuler légèrement pour maintenir la connaissance vivante, ou il peut accidentellement oublier tout le reste.

Une équipe de chercheurs de TCS Research et de l'Université de Yale s'est donné pour mission de résoudre ce problème spécifique. Ils ont créé un nouvel environnement de test appelé SciUnlearn pour voir si les modèles d'IA actuels pouvaient réellement oublier des affirmations scientifiques. Ils ont construit un ensemble de données à partir de véritables articles scientifiques en informatique et en médecine, incluant un ensemble d'articles qui ont été officiellement rétractés. Pour chaque article, ils ont extrait le cœur des affirmations scientifiques et les ont transformés en divers types de questions, telles que des questions à choix multiples, des questions vrai/faux et des textes à trous. Pour garantir l'équité du test, ils ont divisé les questions en deux groupes : un groupe pour apprendre au modèle à oublier, et un autre groupe de questions reformulées basées sur les mêmes faits sous-jacents pour voir si le modèle avait vraiment oublié le concept ou s'il avait simplement mémorisé les questions spécifiques.

Les chercheurs ont ensuite pris des méthodes d'oubli existantes et les ont appliquées à ces modèles. Ils ont demandé aux modèles d'oublier le premier groupe de questions, puis les ont testés sur le second groupe, ainsi que sur des questions de culture générale pour s'assurer que les modèles n'étaient pas devenus inutiles. Les résultats ont été révélateurs. Les méthodes ont bien fonctionné pour faire échouer les modèles sur les questions spécifiques pour lesquelles ils avaient été entraînés à oublier. Cependant, face aux questions reformulées qui testaient la même affirmation scientifique sous-jacente, les modèles donnaient souvent les bonnes réponses. Cela suggère que les modèles ne supprimaient pas réellement la connaissance, mais qu'ils supprimaient simplement les schémas de mots spécifiques utilisés dans les questions d'entraînement. C'était comme si le modèle avait appris à ignorer une phrase spécifique plutôt qu'à effacer le fait qui se cache derrière elle.

L'étude a également examiné la capacité des modèles à se souvenir d'autres informations non liées. Certaines méthodes qui tentaient d'oublier les affirmations cibles ont accidentellement dégradé la capacité du modèle à répondre à des questions générales, tandis que d'autres ont réussi à maintenir l'intégrité du reste des connaissances. Les chercheurs ont constaté que la difficulté d'oublier une affirmation dépendait de la profondeur avec laquelle elle était ancrée dans la littérature scientifique. Les affirmations issues d'articles fréquemment cités par de nombreuses autres études étaient beaucoup plus difficiles à supprimer. Ces idées hautement citées étaient renforcées par un large réseau de textes connexes, ce qui les rendait résistantes à une suppression par une seule tentative d'oubli. En revanche, les affirmations issues de papiers moins cités étaient plus faciles à perturber, mais même dans ce cas, l'oubli était souvent limité à la forme de surface exacte de la question.

En fin de compte, l'étude conclut que les méthodes actuelles ne sont pas encore capables d'un véritable oubli d'affirmations scientifiques. Elles peuvent masquer des occurrences spécifiques de connaissances, mais elles peinent à supprimer la compréhension conceptuelle sous-jacente. Les chercheurs suggèrent que les travaux futurs doivent se concentrer sur des méthodes capables de cibler ces connexions plus profondes et structurées au sein de la connaissance du modèle, plutôt que de simplement supprimer les schémas de surface. D'ici là, ces modèles d'IA pourraient continuer à porter le poids de la science obsolète, conservant des faits que le reste du monde a déjà dépassés.