Résumé Technique : Désapprentissage Multimodal à travers la Vision, le Langage, la Vidéo et l'Audio

1. Définition du Problème

L'adoption rapide des Modèles de Fondation Multimodaux (MFM) — incluant les modèles Vision-Langage (VLM), les modèles de Diffusion (DM), les Grands Modèles de Langage (LLM) et les Modèles de Fondation Audio (AFM) — a introduit des risques significatifs concernant l'encodage involontaire d'associations sensibles, protégées par le droit d'auteur, biaisées ou dangereuses entre les modalités. Ces modèles, entraînés sur des données à l'échelle du web, mémorisent souvent des instances spécifiques (ex: visages privés, œuvres d'art protégées) ou des concepts indésirables (ex: tropes préjudiciables).

Face à des demandes de suppression (ex: Droit à l'Oubli) ou à des mises à jour de politiques, la solution standard consistant à réentraîner le modèle à partir de zéro est souvent informatiquement impraticable. De plus, le désapprentissage ciblé est techniquement difficile car la connaissance dans les MFM est distribuée à travers des représentations partagées ; supprimer une association dans une modalité (ex: le texte) peut involontairement perturber des comportements non liés dans une autre (ex: la génération d'images) ou échouer à effacer complètement le concept en raison d'une fuite croisée résiduelle. Le problème central est de parvenir à un retrait sélectif de données ou de concepts spécifiques à travers les modalités tout en préservant l'utilité globale et la performance du modèle sur les données restantes.

2. Méthodologie et Taxonomie

Cette étude propose une taxonomie orientée système qui organise les méthodes de désapprentissage multimodal non pas par objectifs d'optimisation, mais par étape d'intervention et voie de contrôle. Ce cadre couvre l'ensemble du pipeline, de la préparation des données à l'inférence.

2.1 Formalisation

L'objectif est défini comme la suppression de l'influence d'un ensemble à oublier $D_f$ tout en préservant l'utilité sur les données conservées $D_r$. La procédure de désapprentissage $U$ appliquée au modèle original $M_o$ et aux données $D$ doit produire un modèle $M_u$ dont la distribution est indiscernable d'un modèle réentraîné sur $D \setminus D_f$. Ceci est formalisé à l'aide d'un critère de désapprentissage $(\epsilon, \delta)$, calqué sur la Confidentialité Différentielle, afin de fournir des garanties théoriques sur l'équivalence entre le désapprentissage et le réentraînement.

2.2 Étapes d'Intervention

L'étude catégorise les méthodes en cinq points d'intervention principaux :

1. Interventions au niveau des Données :

   • Perturbation des Données : Modifie les entrées (images/texte) plutôt que les poids pour réduire l'apprenabilité de clusters ciblés (ex: en utilisant des exemples ou des capes non apprenables) tout en préservant l'utilité sur le reste du corpus.
   • Hygiène des Données et Normalisation des Prompts : Sélectionne les données d'entraînement en diminuant le poids des paires suspectes ou en normalisant les prompts vers des formes canoniques pour atténuer les associations fallacieuses avant le début de l'entraînement.

2. Éditions lors de l'Entraînement :

   • Gradient Direct : Formule le désapprentissage comme une minimisation de risque ciblée, supprimant les réponses sur l'ensemble à oublier tout en maintenant la performance sur l'ensemble conservé. Cela inclut des objectifs pour les VLM et les modèles de diffusion qui décomposent les structures croisées.
   • Mises à Jour Contraintes : Impose des limites durant l'optimisation pour limiter la compétence résiduelle sur l'ensemble à oublier et restreindre la déviation par rapport à un modèle de référence, équilibrant l'efficacité du désapprentissage et l'intégrité du modèle.
   • Désapprentissage Sélectif par Masquage : Restreint les mises à jour à des paramètres, caractéristiques ou régions spatiales localisés via des cartes de saillance ou d'attention, minimisant les dommages collatéraux sur les comportements conservés.
   • Basé sur la Distillation : Transfère le comportement d'un modèle "enseignant" vers un modèle "étudiant" guidé vers des cibles sûres, souvent sans accès direct aux données d'entraînement originales.

3. Désapprentissage sous Contrainte d'Architecture :

   • Édition d'Architecture : Modifie directement la structure du réseau (ex: élagage, gel ou repousse de couches/tenseurs spécifiques) pour bloquer les voies encodant le signal à oublier.
   • Mises à Jour Contraintes par Couche : Identifie les couches spécifiques où un concept se concentre et restreint les éditions à ces couches pour limiter la dérive des paramètres.

4. Désapprentissage Sans Entraînement (Training-Free) :

   • Désapprentissage Linéaire dans l'Espace des Poids (WLU) : Utilise des opérations linéaires à forme fermée (ex: soustraction de vecteur de tâche, négation de poids) sur un point de contrôle de référence pour supprimer les comportements indésirables sans réentraînement.
   • Désapprentissage par Projection de Représentation (RPU) : Projette les activations internes ou les sorties d'attention loin d'un sous-espace appris associé au signal à oublier, filtrant efficacement les concepts cibles sans modifier les poids du modèle.

5. Désapprentissage au Moment du Décodage :

   • Contrôle de la Voie de Guidage : Modifie l'échantillonneur ou la fonction de score lors de la génération (ex: Guidage Négatif Dynamique) pour orienter les sorties loin des concepts dangereux tout en gardant le modèle de base fixe.
   • Contrôle de la Voie de Conditionnement : Transforme le signal de conditionnement (ex: plongements textuels) avant qu'il n'entre dans le modèle, affaiblissant ainsi la condition pour le concept cible sans altérer les paramètres du modèle.

3. Contributions Clés

Le document apporte trois contributions principales au domaine du désapprentissage multimodal :

• Synthèse Fondamentale : Il synthétise l'état de l'art du désapprentissage multimodal à travers les modèles de fondation d'image, de texte, de vidéo et d'audio, fournissant un cadre unifié couvrant les mécanismes, la théorie et l'évaluation.
• Perspective Systémique : Il introduit une taxonomie axée sur le système organisée par étape d'intervention et voie de contrôle. Cela contraste avec les enquêtes précédentes centrées sur les algorithmes, permettant des comparaisons plus claires entre différentes classes de modèles (VLM, DM, AFM) et clarifiant les compromis entre force de suppression, rétention d'utilité, efficacité et réversibilité.
• Frontières Émergentes : Il expose les défis ouverts critiques, notamment le besoin de métriques d'évaluation robustes, la robustesse adversaire contre la réactivation et les contraintes de déploiement pratique.

4. Résultats et Preuves

En tant qu'article de synthèse, les "résultats" principaux sont les comparaisons et analyses systématiques de la littérature existante plutôt que de nouvelles données expérimentales. Le document présente :

• Un Répertoire Curaté : Une collection complète de méthodes, de jeux de données et de benchmarks.
• Analyse des Jeux de Données et des Benchmarks : L'article examine les jeux de données clés utilisés pour le désapprentissage d'identité, d'affect, de vidéo et de copyright (ex: CelebA, VoxCeleb, DreamBooth) et évalue les benchmarks existants (ex: MU-Bench, MLLMU-Bench, PEBench). Il souligne que les benchmarks actuels manquent souvent de standards unifiés, s'appuyant sur des identités synthétiques ou des familles de modèles restreintes.
• Cadre d'Évaluation : Il consolide les métriques pour la qualité du désapprentissage (ex: Précision de l'Oubli, Chute de CLIP-Sim), la sécurité (Taux de Refus), la confidentialité (Attaques d'Inférence d'Appartenance) et l'utilité (Précision Top-k, FID, LPIPS).
• Analyse des Compromis : La synthèse clarifie que les méthodes varient considérablement dans leurs compromis ; par exemple, les méthodes sans entraînement offrent l'efficacité mais peuvent manquer de la force de suppression des approches basées sur le réentraînement, tandis que l'édition d'architecture préserve mieux l'utilité mais nécessite une localisation précise du signal à oublier.

5. Signification et Directions Futures

L'article soutient que le désapprentissage multimodal est un outil central pour la gouvernance des modèles, essentiel pour déployer des MFM responsables dans des contextes réels. Sa signification réside dans :

• L'Enablement du Retrait Sélectif : Fournir des mécanismes pour supprimer des identités, attributs ou concepts spécifiques sans le coût prohibitif d'un réentraînement complet.
• Le Soutien à la Conformité : Répondre aux exigences réglementaires telles que le RGPD (Droit à l'Oubli) et les lois sur le droit d'auteur.
• Le Renforcement de la Sécurité : Atténuer la génération de contenus préjudiciables, biaisés ou dangereux à travers les modalités.

Le document identifie plusieurs défis ouverts et directions futures :

• Modalités Temporelles et Dynamiques : Étendre le désapprentissage à la génération de flux audio, vidéo et de mouvement reste un problème ouvert.
• Modèles à l'Échelle de la Frontière : Le passage des méthodes de désapprentissage à l'échelle des modèles de fondation avec des milliards de paramètres est actuellement limité par des évaluations étroites sur des architectures plus petites.
• Désapprentissage Continuel : Développer des protocoles qui restent efficaces sous des suppressions répétées et des ajustements fins (fine-tuning) en aval, pour éviter la "résurgence" des concepts oubliés.
• Fuite Cross-Modale : Adresser l'échec de l'alignement de la sécurité ou de la confidentialité d'une modalité (ex: texte) à se généraliser aux autres (ex: vision ou audio).
• Benchmarks Unifiés : Le domaine manque de benchmarks standardisés et unifiés couvrant diverses modalités et architectures, ce qui rend difficile la comparaison équitable des méthodes.

En conclusion, cette synthèse fournit une feuille de route structurée pour les chercheurs et praticiens afin de naviguer dans la complexité du désapprentissage multimodal, en mettant l'accent sur la nécessité d'approches robustes, scalables et théoriquement fondées pour assurer le déploiement sûr et conforme des modèles de fondation.