Deepfake Word Detection by Next-token Prediction using Fine-tuned Whisper

Cet article présente une méthode rentable de détection de mots deepfake qui consiste à affiner le modèle Whisper pour identifier les mots synthétiques lors de la transcription par prédiction de jeton suivant, en utilisant des données partiellement vocodées pour réduire les coûts de collecte, tout en démontrant des performances compétitives sur des données in-domaine et un potentiel de généralisation à améliorer sur des données out-of-domaine.

L'essentiel

🎙️ Le Problème : Les "Faux Voix" dans la vraie vie

Imaginez que quelqu'un enregistre votre voix pour dire quelque chose de vrai, comme "Je vous aime". Ensuite, un pirate informatique utilise une intelligence artificielle pour remplacer le mot "aime" par "hais", en gardant exactement le même ton et la même voix.

C'est ce qu'on appelle un Deepfake. Le résultat final sonne comme vous, mais le message est faux. Le défi pour les experts est de repérer exactement quel mot a été falsifié, sans avoir à réentendre tout le message des milliers de fois.

🕵️‍♂️ La Solution : Le Détective "Whisper"

Les chercheurs de cet article ont une idée brillante : au lieu de construire un nouveau détective spécialisé (ce qui coûte cher et prend du temps), ils ont pris un détective déjà très célèbre et très intelligent, appelé Whisper (développé par OpenAI), qui est habituellement un expert en transcription (il écoute et écrit ce qu'il entend).

Ils ont demandé à Whisper : "Peux-tu non seulement écrire ce que tu entends, mais aussi nous dire, mot par mot, si un mot a été fabriqué par une machine ?"

🛠️ Comment ont-ils fait ? (L'Analogie du "Post-it")

Habituellement, pour apprendre à un détective à repérer les faux, il faut lui montrer des milliers d'exemples de faux et de vrais, et lui apprendre une nouvelle méthode de travail. C'est long et compliqué.

Ici, ils ont utilisé une astuce très simple, comme coller un Post-it sur un mot dans un livre :

1. L'Entraînement : Ils ont pris des enregistrements de voix. Pour certains mots, ils ont simulé une falsification (en utilisant des outils qui imitent la voix).
2. Le Secret : Au lieu de changer le logiciel, ils ont simplement ajouté deux petits mots magiques autour des mots falsifiés dans le texte d'entraînement.
   • Avant : "Bonjour le monde"
   • Après (avec les mots magiques) : "Bonjour le monde" (Ils ont utilisé des symboles comme !!!!!! et ∼∼∼ pour que l'ordinateur ne se trompe pas).
3. L'Apprentissage : Ils ont dit à Whisper : "Quand tu vois ces symboles, sache que le mot entre les deux est un faux."

Whisper a appris cela très vite, sans avoir besoin d'être reprogrammé de zéro. C'est comme si on lui apprenait un nouveau jeu de rôle en ajoutant juste quelques règles à son manuel.

🎭 L'astuce de l'économie : Le "Vocodeur"

Pour entraîner ce détective, il faudrait normalement créer des milliers de faux enregistrements avec des intelligences artificielles très puissantes (ce qui est lent et coûteux).

Les chercheurs ont eu une autre idée géniale : le "Vocodeur".
Imaginez que vous prenez une vraie voix, vous la passez dans un filtre qui la rend un peu "robotique" ou "métallique", mais sans changer le sens. C'est moins parfait qu'un vrai Deepfake, mais ça ressemble assez pour entraîner le détective.
C'est comme entraîner un chien à chasser avec un faucon en plastique avant de lui donner un vrai faucon. Ça coûte beaucoup moins cher et c'est plus rapide, et ça fonctionne étonnamment bien !

📊 Les Résultats : Comment ça marche ?

• Dans la même maison (Domaine connu) : Quand le détective écoute des voix qui ressemblent à celles qu'il a entraînées (par exemple, des livres audio), il est incroyablement bon. Il repère les faux mots presque aussi bien qu'un détective spécialisé, tout en continuant à écrire le texte parfaitement.
• Dans une autre maison (Domaine inconnu) : Si on lui fait écouter des voix venant d'Internet ou de studios très différents de ceux qu'il a connus, il commence à se tromper. Il peut parfois dire qu'un vrai mot est faux, ou l'inverse. C'est comme un détective qui connaît parfaitement les voleurs de Paris mais qui se fait avoir par un voleur de Tokyo parce que leur style est différent.

💡 En résumé

Cette recherche nous dit :

1. On n'a pas besoin de construire un nouveau système complexe pour détecter les mensonges dans la voix.
2. On peut juste "tutorer" un système existant (Whisper) en lui montrant des exemples avec des petits marqueurs.
3. On peut même utiliser des simulations simples (le vocodeur) pour l'entraîner, ce qui économise énormément d'argent et de temps.

C'est une étape importante pour rendre la détection des Deepfakes plus accessible, moins chère et plus rapide à déployer partout.

Résumé technique

1. Problématique

L'article aborde le défi de la détection des deepfakes de parole, et plus spécifiquement la tâche émergente de localiser les mots synthétiques au sein d'une phrase. Contrairement à la détection binaire (déterminer si une phrase entière est fausse ou vraie), le problème consiste à identifier quelles parties d'un énoncé authentique ont été remplacées par des mots générés par des modèles de synthèse vocale (DNN).

Les manipulations avancées, comme le remplacement de mots clés dans une phrase réelle (ex: "governments don't control things" devient "governments don't control money directly"), sont difficiles à détecter car elles préservent l'identité vocale de l'orateur original tout en introduisant des artefacts subtils. Les solutions existantes nécessitent souvent le développement de modèles dédiés, coûteux en termes de données, de calcul et de stockage, ce qui alourdit les systèmes de traitement de la parole.

2. Méthodologie

Les auteurs proposent une approche économe en ressources qui intègre la détection de mots synthétiques directement dans un modèle de reconnaissance automatique de la parole (ASR) pré-entraîné, Whisper, via un mécanisme de prédiction du token suivant.

A. Adaptation du modèle (Fine-tuning)

Au lieu d'ajouter une tête de classification séparée ou de modifier l'architecture du modèle, la méthode consiste à :

1. Enrichir les données d'entraînement : Pour chaque paire (audio, transcription) contenant des mots synthétiques, deux tokens spéciaux, <TOF> (Token Of Fake) et <EOF>, sont insérés autour des mots synthétiques dans la séquence de texte cible.
   • Exemple : My <TOF>textbook<EOF>
2. Réutilisation des tokens : Pour éviter d'ajouter de nouveaux vecteurs d'embedding, les auteurs réutilisent deux tokens existants du vocabulaire de Whisper peu susceptibles d'être utilisés en ASR standard (ici '!!!!!!' et '∼∼∼').
3. Inférence : Lors de l'inférence, tout token situé entre une paire <TOF> et <EOF> est automatiquement flaggé comme synthétique. Aucune modification de l'algorithme d'entraînement n'est nécessaire.

B. Génération de données d'entraînement (Données Vocodées)

Pour réduire le coût de collecte de données (qui nécessiterait normalement de synthétiser des mots avec des modèles TTS complexes), les auteurs utilisent des vocoders pour créer des mots synthétiques "simulés".

• À partir de phrases authentiques, des segments de mots sont extraits, re-synthétisés via un vocoder (ex: HiFi-GAN, WaveGlow, WORLD) et réinsérés dans l'audio original avec un algorithme de recouvrement (overlap-add) pour assurer une transition fluide.
• Cela permet de présumer que les artefacts acoustiques des vocoders sont similaires à ceux des générateurs de parole, tout en préservant l'identité vocale.

3. Contributions Clés

• Intégration ASR-Détection : Première étude à ajouter la fonction de détection de mots synthétiques à Whisper sans changer son architecture, transformant la tâche en une simple prédiction de token.
• Efficacité des données : Démonstration que l'utilisation de données vocodées (simulées) pour le fine-tuning est une alternative viable et moins coûteuse aux données générées par des systèmes TTS complets, bien que des limites existent.
• Approche unifiée : Le modèle effectue simultanément la transcription textuelle et la localisation des deepfakes, évitant le déploiement de modèles séparés.

4. Résultats Expérimentaux

Les expériences ont été menées sur plusieurs ensembles de données (MLS, LlamaPartialSpoof, AV-Deepfake 1M, PartialEdit) avec des comparaisons contre un modèle dédié basé sur ResNet.

A. Données en domaine (In-domain)

Lorsque les données d'entraînement et de test proviennent du même domaine (ex: livres audio) et utilisent des méthodes de synthèse similaires :

• Performance de détection : Le Whisper fine-tuné atteint des taux d'erreur (FAR/FRR) comparables à ceux du modèle ResNet dédié.
  • Exemple (Ft.Voc → E.Voc) : FAR de 7,22% et FRR de 0,52% pour Whisper, contre 7,15% et 3,81% pour ResNet.
• Performance de transcription : La précision de transcription (WER) n'est pas dégradée et reste excellente (0,87% contre 23,89% pour le Whisper pré-entraîné non ajusté).

B. Données hors domaine (Out-of-domain)

La performance se dégrade significativement lorsque les données de test proviennent de domaines différents (ex: YouTube, studio) ou utilisent des générateurs non vus lors de l'entraînement :

• Dégradation de la généralisation : Sur les ensembles de test E.AV1M et E.PE, les taux d'erreur augmentent considérablement. Par exemple, sur E.PE, le FAR peut atteindre 88,75% avec certaines configurations.
• Limites des vocodés : L'utilisation de données vocodées (Ft.Voc) pour entraîner le modèle sur des mots synthétisés par des TTS avancés (E.TTS) entraîne un taux de rejet faux (FRR) très élevé, indiquant que le modèle peine à distinguer les mots réels des mots TTS complexes.
• Comparaison avec ResNet : Sur les données hors domaine, Whisper reste globalement à parité avec ResNet, mais la dégradation globale de performance souligne un manque de robustesse face aux variations de domaine.

5. Signification et Conclusion

Cette étude démontre qu'il est possible d'ajouter une capacité de détection de deepfakes à un modèle ASR existant avec un coût de développement minimal (ajout de tokens uniquement). C'est une solution prometteuse pour intégrer la sécurité dans les pipelines de traitement de la parole sans alourdir l'infrastructure.

Cependant, les résultats soulignent que la généralisation hors domaine reste un défi majeur. La détection des mots synthétiques est actuellement sensible aux différences de domaine (livres audio vs YouTube) et aux types de générateurs (vocoders vs TTS DNN avancés). Les auteurs concluent que pour améliorer la robustesse, il faudra se concentrer sur la compréhension des écarts inter-domaines et l'utilisation de données d'entraînement plus diversifiées, plutôt que sur la complexification de l'architecture du modèle.