Deepfakes: we need to re-think the concept of "real" images
Ce document de position soutient que l'accent actuel mis sur la détection des images « falsifiées » est fondamentalement erroné car il repose sur des définitions et des ensembles de données obsolètes d'images « réelles », et exhorte la communauté de la recherche à réévaluer le concept d'authenticité, étant donné que la photographie moderne par smartphone utilise elle-même des algorithmes basés sur des réseaux de neurones similaires à ceux employés dans les modèles génératifs.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous êtes un détective chargé de démasquer un faussaire. Votre tâche consiste à examiner un tableau et à décider : « S'agit-il d'un véritable chef-d'œuvre ou d'une contrefaçon ? »
Pendant des années, la communauté du machine learning a construit des scanners haute technologie pour résoudre ce problème des « Deepfakes ». Ils ont entraîné leurs détectives IA sur une immense bibliothèque de « vrais » tableaux (photos) pour apprendre à quoi ressemble l'authenticité.
Le Problème : Les auteurs de cet article soutiennent que les détectives utilisent une bibliothèque obsolète. Ils tentent de repérer des contrefaçons modernes en se basant sur une définition du « réel » qui a cessé de fonctionner il y a environ dix ans.
Voici une analyse de leur argumentation, à l'aide d'analogies simples :
1. Le Problème de la « Vieille Bibliothèque »
Les détectives IA sont actuellement entraînés sur des jeux de données (bibliothèques de photos) qui datent pour la plupart de 10 à 15 ans.
- L'Analogie : Imaginez essayer d'enseigner à un étudiant à reconnaître les voitures modernes en lui montrant des photos de Ford Model T. L'étudiant apprend à quoi ressemble une « voiture » en se basant sur des roues en bois et des toits ouverts. Lorsque vous lui montrez une Tesla moderne, il risque d'être confus car elle ne ressemble pas aux « vraies » voitures de son livre.
- La Réalité : L'article montre que presque tous les jeux de données d'images « réelles » actuels sont anciens, de faible résolution et fortement compressés (comme des JPEG). Ils ne représentent pas les photos que nous prenons aujourd'hui.
2. Le Basculement vers la « Caméra Intelligente »
Aujourd'hui, plus de 90 % des photos sont prises avec des smartphones. Mais voici la nuance : les smartphones ne se contentent pas de « prendre » des photos ; ils les « calculent ».
- L'Analogie : Autrefois, un appareil photo était comme une fenêtre. Vous regardiez à travers, et la lumière frappait la pellicule. L'image était un enregistrement direct de la réalité.
- La Nouvelle Réalité : Un smartphone moderne ressemble davantage à un mixeur de cuisine. Vous y mettez des ingrédients bruts (lumière provenant de plusieurs capteurs, plusieurs caméras, plusieurs images prises en une fraction de seconde), et l'ordinateur interne du téléphone (utilisant des réseaux de neurones complexes) les mélange pour créer un smoothie parfait (la photo finale).
- Le Conflit : Les détecteurs IA ont été entraînés pour repérer les images « fausses » créées par des générateurs IA. Mais maintenant, les images « réelles » sortant de nos téléphones sont elles aussi produites par des algorithmes IA (réseaux de neurones) à l'intérieur du téléphone. La frontière entre « réel » et « faux » s'estompe, car les photos « réelles » sont déjà cuites numériquement.
3. L'Échec du Test
Les auteurs ont mené une expérience simple pour prouver leur point.
- Le Test : Ils ont pris leurs meilleurs modèles d'IA de « détection de faux » et leur ont montré deux choses :
- De vieilles photos de faible qualité provenant d'Internet (que l'IA connaissait bien).
- De nouvelles photos brutes prises avec les derniers iPhone dans la vie réelle.
- Le Résultat : L'IA fonctionnait parfaitement sur les vieilles photos. Mais lorsqu'on lui a montré les nouvelles photos d'iPhone, l'IA s'est confuse et a commencé à échouer. Elle ne parvenait pas à distinguer une photo « réelle » d'iPhone d'une image « fausse » générée par IA, car la photo d'iPhone avait été traitée par l'IA du téléphone lui-même.
- La Métaphore : C'est comme un gardien de sécurité formé pour repérer les gens portant des chapeaux rouges. Il arrête tout le monde avec des chapeaux rouges. Mais ensuite, la police commence aussi à porter des chapeaux rouges. Désormais, le gardien ne peut plus distinguer les criminels de la police.
4. Le Piège Philosophique
L'article soutient que nous sommes piégés dans une boucle.
- Si nous définissons le « Réel » comme « non touché par l'IA », alors presque aucune photo n'est réelle, car nos téléphones utilisent l'IA pour corriger l'éclairage, supprimer le bruit et affiner l'image.
- Si nous définissons le « Réel » comme « pris par un humain », alors la définition ne nous aide pas, car c'est l'IA du téléphone qui a fait le gros du travail.
La Conclusion des Auteurs
L'article n'offre pas un nouvel algorithme pour corriger les détecteurs. Il sonne plutôt l'alarme : Nous devons nous arrêter et repenser tout le jeu.
- Nouvelles Données : Nous avons besoin de nouveaux jeux de données incluant des photos modernes calculées par smartphone, et pas seulement d'anciennes photos de faible résolution.
- Nouvelles Définitions : Nous devons nous mettre d'accord sur ce que signifie « Réel ». Une photo est-elle réelle si le téléphone l'a éclaircie ? Est-elle fausse si une IA a supprimé un bouton ? Nous ne pouvons plus simplement chercher des « empreintes digitales numériques » car les photos « réelles » en ont aussi.
- Peut-être que les Détecteurs ne Fonctionneront Pas : Les auteurs suggèrent que tenter de détecter des faux en examinant les pixels de l'image est une impasse. Au lieu de cela, nous devrons peut-être nous fier à d'autres méthodes, comme des filigranes numériques ou des signatures blockchain, pour prouver l'origine d'une image, plutôt que d'essayer de deviner si elle a l'air « réelle ».
En bref : Les outils que nous avons construits pour attraper les menteurs échouent parce que les diseurs de vérité (nos téléphones) ont commencé à utiliser les mêmes astuces que les menteurs. Nous devons réécrire le règlement avant de pouvoir attraper la prochaine génération de faussaires.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.