A Vision for the Future of an AI-Integrated Research Ecosystem

Imaginez le monde de la science comme une immense bibliothèque animée où les chercheurs sont les auteurs, les éditeurs et les bibliothécaires. Pendant longtemps, cette bibliothèque fonctionnait selon une règle simple : les humains écrivent les livres, les humains vérifient les faits et les humains décident de ce qui est publié. Mais récemment, un nouveau genre d'assistant est arrivé : l'IA générative. Voyez cela comme un assistant robotique super rapide et super intelligent capable de rédiger des brouillons, de trouver des faits et même de résumer des livres entiers en quelques secondes. Bien que cela ressemble à un rêve pour accomplir les tâches plus rapidement, cela a créé un certain mouvement de panique dans la bibliothèque. Tout le monde se demande : « Si un robot a aidé à écrire le livre, qui est le véritable auteur ? L'histoire est-elle vraie ? Et si les robots commencent aussi à vérifier les livres, nous retrouverons-nous avec une bibliothèque remplie de non-sens ? » Ce document plonge dans ce chaos pour poser une question plus vaste : au lieu de simplement essayer d'attraper les gens qui utilisent des robots, comment redessiner toute la bibliothèque pour que la confiance soit intégrée dès le départ ?

Les auteurs, Ryan E. Dougherty et Natalie Kiesler, ne font pas que deviner ; ils observent les fissures du système actuel. Ils soutiennent que l'accent mis actuellement sur la « surveillance » de l'IA — s'assurer que les gens admettent quand ils l'ont utilisée — revient à essayer de réparer un toit qui fuit en plaçant simplement un seau sous l'égouttement. C'est nécessaire, mais cela n'arrête pas la pluie. Ils suggèrent que le véritable problème est que la manière dont nous partageons la science (articles, examens, et récompenses) est déjà en difficulté, et que l'IA ne fait qu'accentuer la pression.

Pour nous aider à comprendre vers quoi nous nous dirigeons, les auteurs nous invitent dans un voyage vers l'année 2036 pour observer deux futurs très différents.

Le Futur Radieux
Imaginez un chercheur en 2036 qui découvre quelque chose d'incroyable sur la façon d'enseigner le codage. Dans ce monde, il ne passe pas une année à lutter contre la paperasse. Au lieu de cela, des outils d'IA agissent comme une équipe d'assistants super organisés. Ils vérifient instantanément les calculs, vérifient les données et connectent la nouvelle découverte à tout ce que nous savons déjà. Un expert humain intervient ensuite pour poser les grandes questions : « Est-ce vraiment important ? Est-ce que cela fait sens ? » Dans ce futur, l'« article » n'est pas seulement un document statique ; c'est un objet vivant et respirant, connecté aux données brutes et au code. La connaissance circule plus vite, elle est plus facile à trouver et plus digne de confiance car l'IA gère le travail ennuyeux et sujet aux erreurs, laissant les humains se concentrer sur la vue d'ensemble.

Le Futur Sombre
Maintenant, imaginez un autre 2036. Ici, la bibliothèque se noie. L'IA produit des millions d'articles de recherche et d'examens chaque jour. Aucun humain ne peut tous les lire, alors ils s'appuient sur d'autres IA pour résumer les résumés. Le volume de la « science » est énorme, mais personne ne sait ce qui est réel et ce qui est faux. La pression pour publier est démentielle, et la confiance dans le système s'est effondrée. Dans ce scénario, le défi n'est pas de faire de nouvelles découvertes, mais de déterminer lesquelles croire. Les humains sont épuisés, essayant d'empêcher le système de s'effondrer, mais le bruit est trop fort pour entendre la vérité.

Les auteurs utilisent ces deux récits pour souligner une tension fondamentale : la même technologie qui pourrait rendre la science transparente pourrait aussi en faire un fouillis de mensonges si nous ne changeons pas notre façon de faire. Ils ne prétendent pas que l'un de ces futurs est garanti ; au contraire, ils utilisent ces histoires pour montrer que nous avons un choix à faire dès maintenant.

Les Quatre Grandes Questions
Pour naviguer dans ce choix, les auteurs suggèrent que nous devons repenser quatre éléments principaux :

1. Les « articles » sont-ils toujours le bon moyen de partager des idées ?
   Actuellement, un article de recherche est comme un instantané compressé d'un projet. Il suppose que le lecteur ne peut pas voir les données brutes ou le code derrière lui. Mais aujourd'hui, nous avons les outils pour tout partager. Les auteurs suggèrent que l'« article » ne devrait plus être l'événement principal. Au lieu de cela, l'objet de recherche réel devrait être les données et le code eux-mêmes, qui devraient être faciles à trouver et à réutiliser (un concept qu'ils appellent « FAIR »). L'article ne serait qu'une façon de raconter l'histoire de ces données. Si nous faisons cela, il devient clair où l'IA a aidé et où les humains ont fait le gros du travail.

2. À quoi devrait ressembler un « examen » ?
   Actuellement, l'examen par les pairs (où des experts vérifient un article avant sa publication) est défaillant. Des études montrent que différents groupes de réviseurs divergent souvent radicalement sur les mêmes articles. Parfois, les examens ne sont que des suppositions aléatoires. De plus, les réviseurs sont souvent anonymes et non rémunérés, ce qui mène à des examens négligents ou même générés par l'IA qui passent inaperçus. Les auteurs soutiennent qu'un examen ne devrait pas être seulement un verdict (réussite ou échec) ; il devrait être une contribution précieuse en soi. Nous devons traiter les examens comme une véritable production intellectuelle : créditer les réviseurs, vérifier leur travail et s'assurer qu'ils aident réellement, plutôt que de simplement cocher des cases.

3. Avons-nous encore besoin de réviseurs humains ?
   Les auteurs suggèrent que l'IA est excellente pour les parties ennuyeuses de l'examen, comme vérifier si une citation est réelle ou si les calculs sont exacts. Mais les humains sont nécessaires pour l'« âme » de l'examen : juger si l'idée est importante, juste et créative. Si l'IA s'occupe de la vérification, peut-être n'avons-nous plus besoin d'autant d'humains effectuant ces mêmes vérifications fastidieuses. Cependant, nous avons absolument besoin d'humains pour détecter les biais et décider de ce qui importe. Le danger est que si nous laissons l'IA tout faire, nous pourrions perdre le jugement humain qui maintient l'intégrité de la science.

4. Quels intérêts servons-nous ?
   Tout le monde dans le système veut des choses différentes : les auteurs veulent publier rapidement, les réviseurs veulent moins de travail, et les éditeurs veulent des articles de haute qualité. L'IA facilite l'automatisation des tâches agaçantes de chacun, mais si nous automatisons simplement notre façon de sortir du travail difficile, l'ensemble du système va accélérer sans rien apprendre. Les auteurs soutiennent que nous devons changer les règles afin que faire de la science bonne et honnête soit ce qui est récompensé, et non pas seulement faire les choses rapidement.

Trois Grands Défis
Les auteurs concluent que nous ne pouvons pas simplement « réparer » cela avec un seul outil. Ils proposent trois grands défis que la communauté doit relever ensemble :

• Confiance Calibrée : Nous avons besoin d'un moyen de mesurer la fiabilité des outils d'IA. Actuellement, dire « l'IA a aidé » n'est qu'une affirmation. Nous avons besoin de tests standardisés pour voir à quelle fréquence une IA invente des faits ou manque des erreurs, afin de savoir quand lui faire confiance.
• Provenance (La piste de papier) : Nous avons besoin de systèmes qui enregistrent automatiquement exactement quels outils ont été utilisés et comment. Imaginez un reçu numérique qui accompagne chaque article, montrant précisément où l'IA a été utilisée et où les humains sont intervenus. Cela doit être intégré dans les logiciels utilisés par les chercheurs.
• Intégrité dans un Monde Synthétique : Lorsque l'IA peut tout écrire, nous ne pouvons pas simplement compter sur la « détection » de l'IA pour empêcher les abus. C'est une bataille perdue d'avance. Au lieu de cela, nous devons construire une culture où la valeur du travail est claire, peu importe qui ou quoi l'a écrit.

Le Chemin à Suivre
Le document n'offre pas de baguette magique. Au lieu de cela, il suggère un changement de mentalité. Nous devons cesser d'essayer de surveiller l'IA et commencer à construire l'infrastructure qui fait de la science digne de confiance la norme par défaut. Cela signifie valoriser les données autant que les articles, traiter les examens comme un véritable travail et créer de nouvelles façons de mesurer la confiance.

Les auteurs terminent par un appel à l'action pour toute la communauté : ayons une grande conversation sur ce que nous valorisons réellement en tant que scientifiques. Voulons-nous de la vitesse, ou voulons-nous la vérité ? Voulons-nous plus d'articles, ou de meilleures idées ? La technologie nous rendra plus rapides dans les deux cas, mais que ce soit pour nous rendre meilleurs dépendra des choix que nous faisons aujourd'hui. Le futur de la science ne dépend pas seulement de ce que les robots peuvent faire ; il dépend de ce que nous, en tant qu'humains, décidons de construire avec eux.