💻 computer science

Not Every Subject Should Stay: Machine Unlearning for Noisy Engagement Recognition

Ce papier propose un cadre d'oubli machine léger au niveau des sujets pour des jeux de données de reconnaissance d'engagement bruités, qui élimine efficacement l'influence des sujets problématiques sans réentraînement complet, récupérant plus de 89 % des gains de performance d'un modèle oracle à environ un quart du coût computationnel.

Auteurs originaux : Alexander Vedernikov

Publié 2026-05-07

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Alexander Vedernikov

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un entraîneur formant une équipe sportive (le modèle d'IA) à reconnaître le niveau d'engagement des élèves dans une vidéo de classe. Vous avez passé des mois à entraîner votre équipe en utilisant des séquences de 100 élèves différents.

Maintenant, imaginez que vous réalisez que trois élèves spécifiques se comportaient de manière très étrange lors de leurs enregistrements. Peut-être que l'éclairage était mauvais, peut-être qu'ils avaient une mauvaise journée, ou peut-être que la personne ayant étiqueté la vidéo s'est trompée sur leur comportement. À cause de cela, votre équipe a appris certaines « mauvaises habitudes » à partir de ces trois élèves.

Habituellement, si vous voulez corriger cela, vous devez licencier toute l'équipe et commencer à entraîner une toute nouvelle équipe à partir de zéro en utilisant uniquement les bons élèves. Cela prend énormément de temps et d'argent.

Cet article pose une question plus simple : Pouvons-nous simplement « désentraîner » ces trois élèves spécifiques sans licencier toute l'équipe ?

Voici comment les auteurs ont tenté de résoudre ce problème, expliqué par des analogies simples :

1. Le Problème : L'Effet « Pomme pourrie »

Dans le monde de l'IA, les données arrivent souvent par groupes (comme des élèves). Si un élève est confus ou bruyant, tout son groupe de vidéos peut perturber le modèle.

L'Ancienne Méthode : Si vous trouvez un mauvais groupe, vous supprimez leurs données et réentraînez le modèle entier à partir de zéro. C'est comme reconstruire une maison parce qu'une brique est fissurée.
La Nouvelle Idée : Pouvons-nous simplement « gronder » doucement le modèle pour qu'il oublie ces mauvaises briques spécifiques, tout en gardant le reste de la maison intact ? Cela s'appelle l'Apprentissage Machine Inversé (Machine Unlearning).

2. La Méthode : La « Correction Légère »

Les auteurs n'ont pas essayé de reconstruire tout le modèle. À la place, ils ont utilisé un astuce intelligente et peu coûteuse :

Étape 1 : Identifier les Coupables. Ils ont examiné le modèle entraîné et demandé : « Quels élèves vous ont posé le plus de problèmes ? » Ils ont classé les élèves selon le degré de confusion du modèle. Les 3 élèves les plus confusants ont été marqués pour suppression.
Étape 2 : La Chirurgie de la « Tête ». Le modèle possède deux parties : un « corps » (qui voit les caractéristiques de la vidéo) et une « tête » (qui prend la décision finale). Les auteurs ont figé le corps (pour qu'il n'oublie pas tout ce qu'il savait déjà) et n'ont accordé qu'un ajustement rapide et ciblé à la tête.
Étape 3 : La « Leçon Inverse ». Ils ont montré au modèle les vidéos des mauvais élèves à nouveau, mais cette fois, ils ont dit au modèle : « Faites le contraire de ce que vous faites habituellement avec ceux-ci. » Cela repousse le modèle loin des mauvaises habitudes sans effacer sa connaissance des bons élèves.

3. Le Test : La Comparaison « Oracle »

Pour voir si cela fonctionnait, ils ont créé un test « Étalon Or ».

L'Oracle : Ils ont pris le modèle original, jeté les données des mauvais élèves et réentraîné un tout nouveau modèle à partir de zéro. C'est le résultat « parfait », mais il est coûteux.
Le Modèle Désentraîné : C'est le modèle qui vient de subir la rapide « chirurgie de la tête ».
Le Résultat : Ils ont comparé les deux. Le modèle « Désentraîné » était 90 % aussi bon que l'« Oracle » (celui réentraîné à partir de zéro), mais il n'a coûté que 25 % du temps et de l'argent pour être corrigé.

4. Le Piège : Il s'agit de Qui Vous Supprimez

L'article a découvert que cette astuce fonctionne mieux lorsque vous supprimez un petit nombre spécifique de mauvais élèves (comme 3 sur 100).

Si vous en supprimez trop peu (juste 1), vous ne corrigez pas assez le problème.
Si vous en supprimez trop (comme 5), vous commencez à jeter de bonnes données avec les mauvaises, et les performances du modèle commencent à baisser.
Le Point Doux : Supprimer un petit groupe ciblé de sujets « bruyants » donne le plus grand boost.

Résumé

Pensez à cela comme à l'édition d'un livre après son impression.

Le Réentraînement consiste à réimprimer tout le livre, mais cette fois en laissant de côté les mauvais chapitres.
L'Apprentissage Machine Inversé (cet article) consiste à prendre un stylo et à barrer soigneusement les mauvaises phrases dans le livre existant, puis à réécrire uniquement la page de résumé pour que l'histoire redevienne cohérente.

La Conclusion :
Vous n'avez pas toujours besoin de jeter tout le modèle et de recommencer. Si vous pouvez identifier les personnes « bruyantes » spécifiques qui causent des problèmes, vous pouvez utiliser une mise à jour peu coûteuse et rapide pour les « désapprendre » et obtenir presque le même résultat qu'une reconstruction complète. Cependant, vous devez faire attention à qui vous choisissez de supprimer ; si vous supprimez les mauvaises personnes, la correction ne fonctionnera pas.

Énoncé du problème

L'article aborde un défi pratique dans la reconnaissance de l'engagement, une tâche consistant à classifier les niveaux d'engagement des utilisateurs à partir de données vidéo. Les jeux de données d'engagement (par exemple, DAiSEE, EngageNet) sont typiquement indexés par sujet et contiennent une supervision bruyante et subjective. Contrairement aux problèmes classiques d'étiquettes bruitées où des clips individuels peuvent être mal étiquetés, l'unité problématique dans ces jeux de données est souvent l'ensemble du sujet. Plusieurs clips provenant du même individu peuvent partager des ambiguïtés d'annotation, des artefacts d'enregistrement ou des schémas comportementaux atypiques qui introduisent une supervision contre-productive.

Une fois un modèle de base entraîné, la solution conceptuellement correcte pour supprimer un sujet problématique consiste à réentraîner le modèle à partir de zéro sur les données restantes. Cependant, ce réentraînement complet est coûteux en calcul, en particulier lorsque plusieurs sous-ensembles candidats de sujets doivent être audités. L'article pose la question suivante : Peut-on éliminer l'influence d'un sujet problématique entier d'un modèle déjà entraîné sans réentraînement complet ?

Méthodologie

Les auteurs proposent un cadre d'apprentissage machine au niveau du sujet (subject-level machine unlearning) comme mécanisme de sanitisation a posteriori. Le protocole se compose de quatre étapes principales :

Entraînement de base : Un modèle de base ( $f_{\theta_0}$ ) est entraîné sur l'ensemble complet des sujets d'entraînement ( $S_{tr}$ ) en utilisant une architecture fixe, TCCT-Net (Tensor-Convolution and Convolution-Transformer Network).
Identification des sujets nuisibles : Au lieu de supposer une corruption des étiquettes de vérité terrain, les auteurs traitent la nocivité comme un problème de classement opérationnel. Ils calculent un score ( $r_s$ ) pour chaque sujet basé sur la moyenne de la perte d'entropie croisée par clip des données de ce sujet sous le modèle de base entraîné. Les sujets classés dans le top- $K$ forment l'ensemble d'oubli ( $F$ ).
Mise à jour approximative d'oubli : Une correction légère est appliquée au modèle de base pour produire un modèle oublié ( $\tilde{f}_{\theta}$ $\tilde{f}_{θ}$ ).
- Restriction architecturale : Pour maintenir l'efficacité de la mise à jour, l'extracteur de caractéristiques de bas niveau de TCCT-Net est figé. Seules les couches finales de fusion et de classification (la « tête ») sont mises à jour.
- Fonction objectif : La mise à jour minimise une perte composite ( $L_{unl}$ $L_{u n l}$ ) :
  - $L_{ret}$ : Entropie croisée sur les données conservées ( $D_R$ ) pour préserver l'utilité de la tâche.
  - $L_{cons}$ : Un terme de cohérence (divergence KL) entre les prédictions du modèle de base et du modèle oublié sur les données conservées pour éviter une dérive inutile.
  - $L_{forg}$ : Un terme d'entropie croisée négatif sur les données oubliées ( $D_F$ ) pour éloigner le modèle de l'ajustement à ces sujets (anti-ajustement).
  - Régularisation : Un terme pénalisant l'écart par rapport aux paramètres originaux de la tête ( $\phi_0$ ).
Évaluation centrée sur l'oracle : Le modèle oublié est comparé à un modèle oracle ( $f^*_{\theta_F}$ ), qui est réentraîné à partir de zéro uniquement sur les sujets conservés ( $D_R$ ). Cet oracle sert de référence propre pour la « solution des données conservées ».

Contributions clés

Formulation du problème : L'article définit la sanitisation a posteriori au niveau du sujet comme un cadre de problème distinct pour la reconnaissance de l'engagement, allant au-delà de la correction d'étiquettes bruitées au niveau de l'échantillon pour aborder la révision de données indexées par sujet.
Protocole d'évaluation : Il introduit une évaluation centrée sur l'oracle qui mesure si une mise à jour d'oubli approxime la solution d'un modèle réentraîné à partir de zéro sur les données conservées, plutôt que de simplement perturber le modèle ou dégrader les performances sur les données oubliées.
Étude empirique : Une étude contrôlée sur DAiSEE et EngageNet démontre quand l'oubli au niveau du sujet est bénéfique, comment cela dépend de la construction de l'ensemble d'oubli, et les compromis utilité-efficacité par rapport au réentraînement complet.

Résultats

L'étude évalue trois états de modèle (Base, Oublié, Oracle) dans des scénarios d'ensembles d'oubli réduits ( $K \in \{1, 3, 5\}$ ).

Récupération des performances :
- Sur EngageNet ( $K=3$ ), le modèle oublié a récupéré 89,3 % du gain de performance réalisé par le modèle oracle (par rapport au modèle de base).
- Sur DAiSEE ( $K=3$ ), le modèle oublié a récupéré 92,5 % du gain oracle.
Efficacité : La mise à jour d'oubli a nécessité environ un quart du coût computationnel du réentraînement oracle complet (coût temporel relatif d'environ 0,22×–0,26× contre ~0,97×–0,98× pour le réentraînement).
Comparaison avec des méthodes naïves : Une approche de « suppression naïve + court affinage » a nettement sous-performé la méthode d'oubli proposée, ne récupérant que 36,7 % (EngageNet) et 23,3 % (DAiSEE) du gain oracle.
Sensibilité à la taille de l'ensemble d'oubli :
- Les performances se sont généralement améliorées de $K=1$ à $K=3$ , suggérant que la nocivité est répartie sur un petit sous-ensemble de sujets plutôt que concentrée dans un seul point aberrant.
- À $K=5$ , les gains ont commencé à saturer ou à diminuer, indiquant que la suppression de trop de sujets (au-delà du « noyau nuisible ») peut éliminer une variabilité d'entraînement utile.
- La Récupération de l'écart Oracle (OGR) était la plus élevée au réglage intermédiaire $K=3$ , suggérant que l'oubli approximatif est plus efficace lorsque le régime de suppression cible un sous-ensemble audité spécifique et restreint.

Importance et affirmations

L'article maintient une portée modeste et pratique. Il ne prétend pas fournir un oubli exact ou certifié, ni ne propose une nouvelle architecture de base pour l'engagement. Au contraire, son importance réside dans la démonstration que :

La correction a posteriori est viable : L'oubli approximatif au niveau du sujet peut servir de mécanisme de correction à faible coût pour les données d'engagement bruitées, récupérant une part substantielle des avantages du réentraînement complet.
La référence oracle est cruciale : Évaluer l'oubli par rapport à un oracle réentraîné sur les données conservées est nécessaire pour distinguer une sanitisation utile d'une simple perturbation du modèle.
Dépendance au régime : L'efficacité de la méthode dépend fortement de la qualité de la sélection des sujets et de la taille de l'ensemble d'oubli. Elle fonctionne mieux comme une correction ciblée pour un petit sous-ensemble identifié de sujets nuisibles plutôt que comme une stratégie d'élagage monotone.

Les auteurs concluent que si la méthode n'est pas une solution universelle pour tous les jeux de données ou architectures, elle fournit un cadre plausible pour réviser les modèles d'engagement entraînés lorsque la supervision est bruitée et organisée par sujets.