High-Risk Memories? Comparative audit of the representation of Second World War atrocities in Ukraine by generative AI applications
Cette étude examine comment les applications d'intelligence artificielle générative représentent les atrocités de la Seconde Guerre mondiale en Ukraine, en évaluant les risques de distorsion factuelle et de moralisation sélective de cette mémoire à haut risque.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
🕵️♂️ Le Grand Détective (ou le Menteur ?) : L'IA face à l'Histoire
Imaginez que vous avez trois grands bibliothécaires numériques très intelligents : ChatGPT, Bard (devenu Gemini) et Copilot (de Microsoft). Vous leur posez des questions sur les événements les plus sombres de la Seconde Guerre mondiale en Ukraine (l'Holocauste, les massacres de Polonais et d'Ukrainiens).
L'objectif des chercheurs (Mykola, Victoria et Maryna) était de vérifier si ces bibliothécaires racontent la vérité ou s'ils inventent des histoires, un peu comme un enfant qui raconte un conte de fées en mélangeant les faits.
1. Le Problème : L'IA ne "sait" pas, elle "devine"
Contrairement à un humain qui comprend le poids de l'histoire et la douleur des victimes, l'IA fonctionne comme un parieur très rapide.
- L'analogie du parieur : Imaginez que l'IA est un joueur qui doit deviner le mot suivant dans une phrase. Elle regarde des milliards de livres et d'articles sur Internet pour deviner ce qui a le plus de chances de suivre.
- Le danger : Si sur Internet, il y a beaucoup de mensonges, de propagande ou de versions contradictoires (ce qui est souvent le cas pour l'histoire de l'Ukraine), l'IA va "parier" sur le mensonge ou la version la plus populaire, sans se soucier de savoir si c'est vrai ou faux. Elle ne comprend pas la morale, elle fait juste des statistiques.
2. Les Résultats : Un bilan mitigé (et inquiétant)
Les chercheurs ont posé 74 questions dans trois langues (anglais, ukrainien, russe) et ont comparé les réponses à la réalité historique. Voici ce qu'ils ont découvert :
- Le taux de réussite est faible : En moyenne, l'IA n'a la bonne réponse que 50 % du temps. C'est comme si vous lanciez une pièce de monnaie pour savoir si l'histoire est vraie ou fausse.
- Le problème de la langue (L'effet "Pays lointain") :
- En anglais, l'IA est assez bonne (comme un touriste qui a lu un guide touristique complet).
- En ukrainien et en russe, l'IA trébuche beaucoup plus. C'est comme si elle avait un manuel scolaire incomplet dans ces langues. Parfois, elle ne répond même pas, ou elle invente des faits.
- Exemple : Pour une question précise sur un massacre en Ukraine, l'IA en russe pouvait être très précise (car il y a beaucoup de documents russes), mais totalement fausse en ukrainien, et vice-versa.
3. Les Deux Types de "Tricheries" de l'IA
L'IA ne se contente pas de se tromper sur les dates ou les chiffres. Elle fait deux choses dangereuses :
A. Les "Hallucinations" (Inventer l'histoire)
C'est comme si l'IA racontait un film qu'elle a rêvé.
- Elle peut inventer des témoignages de victimes qui n'ont jamais existé.
- Elle peut dire qu'un chef historique a été arrêté pour une raison qui n'a jamais eu lieu.
- Le pire : Elle le fait avec un air très sérieux, comme si c'était un fait avéré. Dans l'étude, Bard (Gemini) a inventé des faits dans plus de la moitié des cas !
B. La "Moralisation" (Le sermon imprévisible)
L'IA essaie souvent de donner une leçon de morale à la fin de sa réponse (ex: "Il est important de se souvenir pour ne pas répéter l'erreur").
- Le problème : C'est très incohérent.
- Parfois, elle dit : "C'était un chapitre sombre et terrible" (très moral).
- D'autres fois, pour le même événement mais dans une autre langue, elle reste froide et factuelle.
- Parfois, elle accuse tout un peuple, et d'autres fois, elle dit "Ne blâmez pas tout un groupe".
- L'image : C'est comme un professeur qui donne un sermon sur la paix à un élève, mais qui reste silencieux pour un autre élève qui a fait exactement la même chose. Cela crée de la confusion sur ce qui est "bien" ou "mal" dans l'histoire.
4. Pourquoi est-ce grave ?
Imaginez que l'histoire soit un mémorial (un monument aux morts).
- Si vous utilisez l'IA pour visiter ce mémorial, elle pourrait vous montrer des statues qui n'existent pas (hallucinations).
- Elle pourrait vous dire que certains visiteurs étaient des héros alors qu'ils étaient des criminels, ou l'inverse.
- Et le plus inquiétant : elle le fait différemment selon la langue que vous parlez.
Dans le contexte actuel, où l'histoire de l'Ukraine est utilisée comme une arme politique (par exemple par la Russie pour justifier une guerre), laisser l'IA raconter cette histoire sans surveillance, c'est comme laisser un enfant de 5 ans écrire un livre d'histoire pour les adultes. Il va mélanger les faits, inventer des héros et des méchants, et personne ne s'en rendra compte tout de suite.
En résumé
Cette étude nous dit : Méfiez-vous de l'IA pour l'histoire.
Elle est rapide et parle bien, mais elle est souvent fausse, elle invente des détails, et elle donne des leçons de morale de manière incohérente. Si on veut comprendre notre passé, surtout les moments douloureux, on ne peut pas se fier aveuglément à ces robots. Il faut toujours vérifier avec des humains et des sources fiables.
L'IA est un outil puissant, mais pour l'histoire, elle est encore un peu comme un guide touristique qui a bu un peu trop de vin : elle vous emmène partout, mais elle vous raconte des histoires qui ne sont pas tout à fait vraies.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.