Whose story gets told? ChatGPT, collective memory, and ethical narratives in the age of Artificial Intelligence
Cet article soutient que si les outils d'IA comme ChatGPT peuvent démocratiser l'accès aux connaissances historiques, ils risquent de déformer la mémoire collective par des biais algorithmiques et des incohérences factuelles, nécessitant une supervision humaine fondée sur l'éthique pour garantir que les récits historiques demeurent des produits de la réflexion critique plutôt que des représentations automatisées.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
À l'ère numérique, notre compréhension du passé n'est plus stockée uniquement dans des archives poussiéreuses ou dans la mémoire des anciens. Elle vit dans les vastes réseaux interconnectés d'Internet, où les systèmes d'intelligence artificielle agissent comme de nouveaux gardiens. Ces systèmes, connus sous le nom de modèles de langage étendus, sont entraînés sur d'énormes collections d'écrits humains. Ils ne se contentent pas de récupérer des faits ; ils synthétisent l'information pour créer des récits et des réponses. Cela soulève une question profonde pour les historiens et les sociologues : lorsque nous demandons à une machine de nous parler d'une guerre ou d'un conflit, de quelle version de l'histoire bénéficions-nous ? Le concept de « mémoire collective » fait référence à l'histoire partagée qu'un groupe se raconte à lui-même sur son passé, une histoire qui façonne son identité. Si un algorithme décide quels détails inclure, lesquels omettre, ou comment cadrer une tragédie, il remodèle de fait cette mémoire partagée. L'inquiétude ne porte pas seulement sur l'erreur d'une date, mais sur la possibilité que ces outils puissent lisser les aspérités rugueuses et douloureuses de l'histoire, transformant des conflits humains complexes en résumés neutres et aseptisés qui servent les intérêts des créateurs de la technologie plutôt que la vérité.
Une équipe de chercheurs s'est donné pour mission de tester précisément comment ces outils d'intelligence artificielle gèrent la réalité désordonnée de l'histoire. Ils se sont concentrés sur une version particulièrement puissante de cette technologie, appelée ChatGPT, en lui demandant de relater les récits de quatre conflits multinationaux majeurs : les guerres faisant suite à l'éclatement de la Yougoslavie, le conflit de longue date entre Israël et la Palestine, les guerres coloniales menées par le Portugal en Afrique, et la guerre du Vietnam. Pour voir si la machine racontait la même histoire à tout le monde, les chercheurs n'ont pas posé leurs questions uniquement en anglais. Ils ont posé les mêmes questions dans les langues maternelles des populations impliquées dans chaque conflit, telles que le croate, le serbe, l'arabe, l'hébreu, le portugais et le vietnamien. Ils ont traité le chatbot non pas comme un simple moteur de recherche, mais comme un participant actif à une conversation, observant attentivement la manière dont il construisait ses réponses, ce qu'il choisissait de mémoriser et ce qu'il semblait oublier.
Les résultats ont révélé que la machine est loin d'être un observateur neutre. Au lieu de fournir une version unique et cohérente de l'histoire, l'IA a produit des récits différents selon la langue utilisée pour poser la question. Lorsque les chercheurs interrogeaient l'IA sur le même événement dans différentes langues, les réponses se contredisaient souvent de manière significative. Par exemple, lorsqu'on lui demandait d'identifier l'événement final le plus important des guerres de l'ex-Yougoslavie, la version anglaise pointait vers un accord de paix en Macédoine du Nord en 2001. La version croate s'arrêtait à un accord de paix de 1995, tandis que la version serbe prolongeait la chronologie jusqu'au procès d'un chef militaire en 2022. Il ne s'agissait pas de simples variations mineures de formulation ; c'étaient des récits fondamentalement différents sur la fin du conflit et sur ce qui importait le plus. L'étude a révélé que l'IA reflétait souvent les récits nationaux officiels de la langue qu'elle employait, renforçant ainsi les perspectives politiques spécifiques de cette région plutôt que d'offrir une vision mondiale équilibrée.
Au-delà de ces incohérences, les chercheurs ont identifié un schéma d'erreurs et d'omissions qui déformaient le registre historique. L'IA se trompait fréquemment de dates ou de noms, inventant parfois des événements qui n'ont jamais eu lieu ou confondant l'ordre des batailles. Plus troublant encore était ce que la machine omettait. Dans sa volonté d'être utile, elle sautait souvent des détails cruciaux, tels que les victimes spécifiques d'atrocités, le rôle de certaines forces militaires ou les causes complexes d'une guerre. Dans un cas précis, l'IA décrivait les guerres dans les colonies portugaises comme une histoire unique et simple, fusionnant des luttes distinctes dans différents pays en un récit plat et uniforme. Cette « simplification » dépouillait chaque conflit de ses réalités politiques et sociales uniques. L'étude a également noté une tendance à la « neutralisation », où l'IA utilisait un langage vague pour éviter d'assigner des responsabilités. Elle décrivait un génocide comme un « événement tragique » ou un « crime » sans nommer les auteurs, effaçant ainsi la responsabilité spécifique des acteurs impliqués.
Les chercheurs ont conclu que ces modèles de langage étendus ne font pas que refléter le passé ; ils le remodèlent activement. Parce que l'IA apprend à partir des données qui lui sont fournies, elle hérite des biais et des angles morts de ces données. Lorsqu'elle génère un récit sur une guerre, elle ne puise pas dans un registre parfait et objectif. Au lieu de cela, elle prédit les mots suivants les plus probables en se basant sur des modèles présents dans sa base d'entraînement, privilégiant souvent les voix les plus communes ou dominantes de sa base de données. Cela signifie que pour les utilisateurs qui comptent sur ces outils pour acquérir des connaissances historiques, le passé devient un produit de la logique algorithmique plutôt que de la réflexion critique. L'étude suggère que sans supervision humaine et sans un cadre éthique solide, nous risquons de perdre la complexité de notre histoire partagée au profit d'une machine qui préfère les récits fluides, simplifiés et parfois contradictoires. Le pouvoir de décider quelles histoires sont racontées, et comment elles sont racontées, est passé des historiens et des communautés au code et aux données qui pilotent ces systèmes numériques.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.