Cooperate And Compete: Archives Can Gain More By Expecting Less From AI Training
Cet article soutient que les organisations archivistiques devraient surmonter leur hésitation à partager des collections pour l'entraînement de l'IA en requalifiant la perte de la provenance au niveau de l'item comme un avantage concurrentiel et en adoptant des politiques stratégiques — telles que des accords sur mesure, la technologie RAG et le plaidoyer pour des contributions d'intérêt public — afin d'atténuer les risques tout en favorisant la collaboration.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par l'auteur. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans les recoins silencieux des bibliothèques et des archives du monde entier, des millions de documents, photographies et enregistrements uniques attendent d'être vus. Il ne s'agit pas seulement de vieux papiers ; ce sont les matières premières de la mémoire humaine, souvent conservées dans des boîtes ou sur des films fragiles, invisibles aux yeux du public. Récemment, les entreprises qui développent l'intelligence artificielle ont commencé à demander l'accès à ces collections cachées. Elles veulent nourrir leurs modèles informatiques avec ces données historiques pour les rendre plus intelligentes et plus instruites. L'objectif est d'enseigner aux machines comment les humains ont pensé, écrit et créé au fil des siècles. Cependant, les gardiens de ces archives hésitent. Ils craignent que, si elles cèdent leurs matériaux, les machines apprennent les faits mais oublient d'où viennent ces faits. Ils craignent de perdre le contrôle de leur propre histoire, incapables d'empêcher les machines d'utiliser l'information de manières qu'ils n'avaient jamais prévues. Cette tension est au cœur d'un nouveau débat : les archives doivent-elles dire non pour protéger leur passé, ou dire oui pour façonner leur avenir ?
Une étude récente de Jinfang Niu, chercheuse à l'Université de Floride du Sud, suggère que les archives pourraient mal interpréter ce problème. L'article soutient que les archives se concentrent trop sur des exigences envers l'intelligence artificielle que la technologie est simplement incapable de satisfaire, comme une liste parfaite de chaque document utilisé pour produire une réponse spécifique. L'auteur suggère qu'en abaissant ces attentes, les archives peuvent en réalité gagner en pouvoir et en protection. Au lieu de forcer les machines à se souvenir de chaque détail de leur entraînement, les archives devraient accepter que les machines ne seront pas capables de retracer leurs réponses jusqu'à des pages spécifiques. En échange de cette acceptation, les archives peuvent négocier de meilleurs accords, conserver leurs outils les plus précieux pour elles-mêmes et s'assurer qu'elles ne sont pas tenues responsables si les machines font un usage détourné de l'information.
Le cœur du problème réside dans la manière dont l'intelligence artificielle apprend. Lorsqu'un humain lit un livre, il se souvient de l'histoire et des idées, mais il ne conserve pas une carte mentale de chaque phrase lue pour former une pensée. De même, lorsqu'un modèle d'IA est entraîné, il absorbe de vastes quantités d'informations dans sa structure interne, appelée « poids ». Ces poids ne sont pas un classeur de documents ; ils sont un réseau complexe de connexions mathématiques. Une fois l'apprentissage terminé, le modèle ne peut pas pointer une page spécifique dans une archive particulière et dire : « J'ai appris ce fait ici ». L'information est mélangée. L'article note qu'attendre d'une IA qu'elle fournisse une citation pour chaque donnée utilisée pour générer une réponse revient à demander à une personne de se rappeler la séquence exacte de ses souvenirs qui l'a amenée à écrire un poème. Ce n'est pas seulement difficile ; pour la technologie actuelle, c'est pratiquement impossible.
En raison de cette réalité technique, l'auteur soutient que les archives devraient cesser d'exiger la « provenance au niveau de l'élément », qui est l'exigence de lier chaque résultat de l'IA à un document spécifique. Au lieu de cela, les archives devraient réaliser que cette incapacité à tracer la source est en fait leur plus grand avantage. Si une IA ne peut pas répliquer ou citer parfaitement un document spécifique, alors l'archive originale reste le seul endroit où ce document peut être trouvé dans sa forme véritable et inaltérée. La machine peut connaître les faits, mais elle ne peut pas remplacer la nécessité pour un humain de voir la preuve originale. Cela signifie que les archives ne perdent pas leur valeur en partageant leurs données ; elles deviennent encore plus essentielles en tant que source de vérité de confiance.
L'article remet également en question la peur que les archives perdent le contrôle de leur savoir une fois celui-ci intégré dans une machine. L'auteur souligne que les archives n'ont jamais vraiment contrôlé ce qui arrive à l'information une fois qu'elle quitte leur bâtiment. Lorsqu'un chercheur lit un document et écrit ensuite un livre ou donne une conférence basé sur ce qu'il a appris, l'archive ne peut pas l'en empêcher. La connaissance est entrée dans l'esprit humain, et l'archive n'a aucun pouvoir pour forcer le chercheur à oublier. L'auteur suggère que les modèles d'IA sont similaires. Une fois l'information absorbée, elle fait partie du système de connaissance. Tenter de forcer une entreprise à supprimer des faits spécifiques d'un modèle entraîné est extrêmement coûteux et techniquement difficile, nécessitant souvent de reconstruire le modèle de zéro. Au lieu de mener une bataille perdue d'avance pour contrôler la mémoire de la machine, les archives devraient se concentrer sur le contrôle des termes de l'accord.
Pour que cela fonctionne, l'article propose un nouvel ensemble de stratégies à suivre par les archives. Premièrement, elles devraient adapter leurs accords en fonction du statut juridique des documents. Par exemple, si l'archive détient les droits d'auteur, elle peut faire payer l'utilisation des données. Si le matériel est dans le domaine public, l'archive peut demander des fonds pour aider à la numérisation de la collection en échange de l'utilisation des données par l'IA. Si le matériel est restreint en raison de la vie privée ou d'accords de donateurs, il doit simplement être exclu des données d'entraînement. Deuxièmement, les archives devraient utiliser une technologie appelée Génération Augmentée par Récupération, ou RAG (Retrieval-Augmented Generation). Il s'agit d'une méthode où l'IA ne repose pas sur sa mémoire interne pour les faits, mais cherche plutôt l'information dans une base de données en temps réel. Cela permet à l'IA de donner une réponse et de montrer immédiatement à l'utilisateur le document spécifique qu'elle a trouvé, résolvant ainsi le problème des citations manquantes sans avoir à modifier la façon dont l'IA apprend.
Enfin, l'auteur suggère que les archives devraient cesser d'essayer de bloquer les entreprises d'IA sur Internet et commencer à négocier avec elles. Les archives peuvent demander de l'argent pour aider à la numérisation, un meilleur accès aux outils d'IA pour leur propre personnel, ou une protection juridique. L'article recommande d'inclure dans leurs accords une clause stipulant que si l'entreprise d'IA ou ses utilisateurs font un usage abusif de l'information, l'archive n'est pas responsable. Cela déplace le risque juridique vers l'entreprise, protégeant l'archive contre d'éventuels procès si l'IA génère un contenu préjudiciable. L'auteur appelle également à des politiques gouvernementales qui encouragent les entreprises d'IA à contribuer au bien public, garantissant que la richesse générée par ces technologies aide à soutenir les institutions culturelles qui fournissent les données en premier lieu.
L'étude conclut que les archives n'ont pas à craindre l'intelligence artificielle. En acceptant que les machines ne puissent pas tracer parfaitement leurs sources, les archives peuvent cesser de gaspiller leur énergie dans des demandes impossibles. Au lieu de cela, elles peuvent se concentrer sur ce qu'elles font de mieux : préserver les documents originaux et fournir le contexte que les machines ne peuvent pas offrir. En négociant des accords intelligents et en utilisant de nouvelles technologies pour relier les réponses aux sources, les archives peuvent transformer une menace potentielle en un partenariat qui sécurise leur avenir tout en aidant le monde à apprendre de son passé. La voie à suivre n'est pas de dire non, mais de dire oui selon des conditions qui protègent l'intégrité de l'archive et la valeur de l'histoire qu'elle détient.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.