📊 statistics

Inference for Clustering: Conformal Sets for Cluster Labels

Cet article propose un cadre d'inférence conforme novateur pour le clustering qui génère des ensembles de confiance pour les étiquettes de clusters en utilisant des étiquettes stochastiques et une calibration des scores, garantissant ainsi une couverture statistique rigoureuse et quantifiant l'incertitude des attributions, comme démontré sur des données de séquençage ARN de cellule unique.

Auteurs originaux : Anirban Nath, YoonHaeng Hur, Genevera Allen

Publié 2026-04-07

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Anirban Nath, YoonHaeng Hur, Genevera Allen

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un chef cuisinier dans une grande cuisine. Vous avez un tas d'ingrédients mélangés (vos données) et votre tâche est de les trier dans différents bols selon leur type (le clustering ou regroupement).

Le problème, c'est que dans la vraie vie, les ingrédients ne sont pas toujours clairement séparés. Parfois, un fruit ressemble un peu à un légume. Les méthodes classiques de tri disent : « C'est un fruit, mets-le dans le bol A ». Mais elles ne vous disent jamais : « Hé, je suis à 90 % sûr que c'est un fruit, mais il y a 10 % de chances que ce soit un légume déguisé ».

C'est là que cette recherche intervient. Les auteurs (Anirban Nath, YoonHaeng Hur et Genevera Allen) ont créé une nouvelle méthode pour dire : « Voici ma meilleure estimation, mais voici aussi la zone d'incertitude où je ne suis pas totalement sûr. »

Voici l'explication simple de leur méthode, avec quelques analogies :

1. Le problème : Le tri trop confiant

Les méthodes de regroupement habituelles sont comme des robots très confiants mais un peu rigides. Ils regardent un point de données et disent : « C'est le groupe 1 ! ».

Le piège : Si vous changez un tout petit peu les ingrédients (les données), le robot peut changer d'avis et dire : « Non, c'est le groupe 2 ! ».
La conséquence : On ne sait jamais si le robot a raison ou s'il a juste eu un caprice. En science (comme pour identifier des types de cellules dans le corps humain), cette incertitude est dangereuse.

2. La solution : Le « Tri à l'aveugle » (Stochastic Clustering)

Pour résoudre ce problème, les auteurs proposent une astuce géniale : rendre le tri un peu « flou » et aléatoire.

Imaginez que vous ne donnez pas un seul bol à chaque ingrédient, mais que vous lancez un dé.

Si un ingrédient ressemble à 80 % à un fruit et 20 % à un légume, au lieu de le mettre définitivement dans le bol Fruit, vous lancez un dé. 8 fois sur 10, il atterrit dans le bol Fruit, 2 fois sur 10 dans le bol Légume.
En répétant ce processus plusieurs fois, vous obtenez une idée de la probabilité que l'ingrédient appartienne à chaque groupe. C'est ce qu'ils appellent des « étiquettes stochastiques » (aléatoires).

3. La méthode de vérification : Le « Test de la vérité » (Conformal Inference)

Maintenant que le tri est un peu flou, comment savoir si on peut faire confiance au résultat ? Ils utilisent une technique appelée Inférence Conformale.

Imaginez que vous avez un grand panier de fruits.

Vous en prenez une partie pour entraîner votre robot de tri.
Vous gardez une autre partie pour tester le robot.
Le robot essaie de deviner le groupe de chaque fruit du panier de test.
Au lieu de juste dire « C'est une pomme », le robot dit : « Je suis sûr à 95 % que c'est une pomme, mais il y a une petite chance que ce soit une poire ».

Le système calcule un seuil de confiance. Si le robot est souvent trop confiant et se trompe, le système élargit sa réponse.

Résultat final : Au lieu de dire « C'est une pomme », le système dit : « C'est soit une pomme, soit une poire ».
Si le cercle de confiance contient une seule étiquette, vous êtes très sûr.
Si le cercle contient plusieurs étiquettes, cela signifie : « Attention, c'est une zone grise, je ne suis pas sûr de la catégorie exacte ».

4. Pourquoi c'est révolutionnaire ?

Dans le monde réel, on veut savoir où on peut faire confiance et où on doit être prudent.

Avant : On avait des cartes de regroupement avec des couleurs nettes. Si vous étiez à la frontière entre deux couleurs, le logiciel vous assignait une couleur au hasard, sans vous avertir du danger.
Avec cette méthode : Les frontières deviennent des zones de couleur mélangée (comme sur la carte de chaleur de l'article).
- Zone bleue pure : « Je suis à 100 % sûr que c'est un groupe bleu. »
- Zone violette (mélange de bleu et rouge) : « Je ne suis pas sûr. Ça pourrait être bleu, ça pourrait être rouge. Ne prenez pas de décision risquée ici sans vérifier. »

5. L'exemple concret : Les cellules du corps humain

Les auteurs ont testé leur méthode sur des données de cellules sanguines (ARN).

Certaines cellules (comme les globules blancs très spécifiques) sont faciles à identifier. Le système dit : « C'est une cellule B, point final ».
D'autres cellules (comme certains types de lymphocytes T) sont très similaires entre elles. Le système dit : « C'est soit un type A, soit un type B ».
L'avantage : Un médecin ou un chercheur voit immédiatement où les données sont claires et où elles sont floues. Cela évite de prendre de mauvaises décisions basées sur des erreurs de tri.

En résumé

Cette recherche propose une nouvelle façon de faire du tri de données : au lieu de forcer une réponse unique, elle donne une réponse honnête qui inclut le doute.

C'est comme passer d'un GPS qui vous dit « Tournez à droite » (même si la route est barrée) à un GPS qui dit « Tournez à droite, mais attention, il y a 30 % de chances que ce soit bloqué, alors gardez un œil sur les panneaux ». C'est plus prudent, plus honnête et beaucoup plus utile pour la science.

1. Problématique et Contexte

Le clustering est une tâche fondamentale d'apprentissage non supervisé utilisée dans de nombreux domaines (biomédecine, réseaux sociaux, marketing). Cependant, une limitation majeure persiste : l'absence de quantification rigoureuse de l'incertitude associée aux attributions de clusters.

Le défi : Les étiquettes de clusters sont inobservées et estimées à partir des données elles-mêmes. Contrairement aux problèmes de régression ou de classification supervisée, les étiquettes sont discrètes, invariantes par permutation et souvent déterministes.
L'échec des approches naïves :
- Utiliser directement les étiquettes déterministes dans des procédures conformes standard viole l'hypothèse d'échangeabilité, conduisant à un sous-étalonnage sévère (la couverture réelle est inférieure au niveau de confiance théorique).
- Les méthodes basées sur des seuils de probabilités « soft » (probabilités d'appartenance) sont souvent mal calibrées, entraînant soit un sous-étalonnage, soit des ensembles de confiance trop larges et non informatifs.
Objectif : Développer un cadre d'inférence distribution-free (sans hypothèse de distribution) et agnostique au modèle pour construire des ensembles de confiance pour les étiquettes de clusters, garantissant une couverture marginale valide même lorsque les étiquettes sont estimées.

2. Méthodologie Proposée

Les auteurs proposent un nouveau cadre basé sur l'inférence conforme (Conformal Inference), spécifiquement adapté au clustering via une approche de clustering conforme divisé avec étiquettes stochastiques.

A. Le Concept Clé : Étiquettes Stochastiques

Pour restaurer l'échangeabilité nécessaire à la validité de l'inférence conforme, l'algorithme ne doit pas attribuer une étiquette fixe à chaque point. Au lieu de cela, il utilise un algorithme de clustering stochastique ( $\gamma$ ) :

L'algorithme produit des vecteurs de probabilités (étiquettes « soft ») pour chaque point.
Les étiquettes finales pour les ensembles d'entraînement et d'étalonnage sont échantillonnées à partir de ces distributions (via une distribution catégorielle).
Cette stochasticité introduite artificiellement permet de modéliser l'incertitude inhérente au processus de clustering.

B. Algorithme 1 : Clustering Conforme Divisé avec Étiquettes Stochastiques

La procédure suit les étapes suivantes :

Division des données : Séparation aléatoire des données en un ensemble d'entraînement ( $I_{tr}$ ) et un ensemble d'étalonnage ( $I_{ca}$ ).
Clustering stochastique : Application de l'algorithme $\gamma$ sur les deux ensembles pour obtenir des étiquettes échantillonnées $\{Y_i\}$ .
Apprentissage d'un classifieur : Entraînement d'un classifieur « soft » ( $\hat{\pi}$ ) sur les données d'entraînement étiquetées pour prédire les probabilités d'appartenance.
Alignement des étiquettes : Puisque les clusters sont permutables, on trouve la permutation optimale $\hat{\sigma}$ qui minimise le désaccord entre les étiquettes prédites et les étiquettes échantillonnées sur l'ensemble d'étalonnage.
Calcul des scores de conformité : Utilisation d'un score (ex: quantile inverse généralisé) pour mesurer la conformité des points d'étalonnage.
Construction de l'ensemble de confiance : Pour un nouveau point $x$ , l'ensemble de confiance $\hat{C}(x)$ contient toutes les étiquettes dont le score de conformité est inférieur au quantile empirique calculé sur l'ensemble d'étalonnage.

3. Contributions Théoriques

Les auteurs établissent des garanties théoriques solides pour leur méthode :

Bornes de couverture à échantillon fini (Théorème 1) :
Ils dérivent une borne inférieure pour la probabilité de couverture $P(\hat{\sigma}^*_o(Y^*_{n+1}) \in \hat{C}(X_{n+1}))$ . Cette borne dépend de deux propriétés de l'algorithme de clustering :
1. Consistance : L'erreur d'estimation des probabilités de réponse des étiquettes doit tendre vers zéro.
2. Stabilité « Replace-One » : Le résultat du clustering ne doit pas changer drastiquement si un seul point de données est remplacé.
  La borne montre que le sous-étalonnage est contrôlé par ces deux termes.
Couverture Asymptotique (Théorèmes 2 et 3) :
Sous des conditions de régularité (convergence des estimateurs et stabilité), la méthode atteint une couverture asymptotique de $1-\alpha$ .
- Ils démontrent que ces conditions sont satisfaites pour les modèles de mélange paramétriques (ex: Mélanges Gaussiens) lorsque les paramètres sont estimés de manière consistante (ex: via l'algorithme EM).
Analyse des approches naïves :
Ils prouvent théoriquement que l'utilisation de clustering déterministe (étiquettes « one-hot ») dans un cadre conforme conduit à une instabilité élevée ( $S_n$ grand) et une grande erreur d'estimation ( $E_n$ ), expliquant pourquoi les méthodes naïves échouent.

4. Résultats Empiriques

Les auteurs valident leur approche par des simulations et une application réelle :

Simulations sur des modèles de mélange (GMM et GaMM) :
- Couverture : La méthode proposée (Split CC Stochastique) atteint la couverture cible (ex: 90 %) même pour des tailles d'échantillon modérées et des variances élevées (clusters peu séparés).
- Comparaison :
  - Le Split CC Naïf (avec clustering dur) souffre d'un sous-étalonnage sévère.
  - La méthode Cutoff (seuillage des probabilités) est trop conservatrice, produisant des ensembles de confiance trop larges.
- Taille des ensembles : Les ensembles de confiance de la méthode proposée sont informatifs (souvent de taille 1 pour les points clairs, et >1 pour les zones frontières), reflétant fidèlement l'incertitude.
Application aux données de séquençage ARN de cellule unique (scRNA-seq) :
- Données : Dataset PBMC-3K (cellules sanguines périphériques).
- Résultat : La méthode identifie avec certitude des types cellulaires distincts (ex: lymphocytes B, cellules NK) avec des ensembles de confiance de taille 1.
- Incertitude : Elle capture correctement l'ambiguïté biologique pour des types cellulaires plus proches (ex: monocytes, cellules T CD4/CD8), attribuant des ensembles de confiance plus larges.
- Visualisation : Les cartes de chaleur montrent que les zones frontières entre les clusters correspondent aux régions d'incertitude, offrant une interprétabilité directe pour les biologistes.

5. Signification et Impact

Ce travail est significatif pour plusieurs raisons :

Pionnier en apprentissage non supervisé : C'est l'une des premières applications rigoureuses de l'inférence conforme à un problème purement non supervisé, comblant un vide théorique majeur.
Interprétabilité et Fiabilité : La méthode transforme le clustering d'une « boîte noire » déterministe en un processus probabiliste avec des garanties de couverture. Cela permet aux praticiens de distinguer les attributions de clusters fiables des zones ambiguës.
Généralité : Bien que les preuves théoriques se concentrent sur les modèles de mélange, le cadre est conçu pour être agnostique au modèle, applicable à divers algorithmes de clustering stochastique (ex: Fuzzy C-Means).
Applications critiques : Dans des domaines comme la découverte de types cellulaires en biologie, où les décisions dépendent de la classification, quantifier l'incertitude est crucial pour éviter des conclusions erronées.

En résumé, les auteurs proposent un cadre méthodologique robuste qui permet de quantifier l'incertitude des étiquettes de clusters de manière distribution-free, en surmontant les défis de l'estimation des étiquettes grâce à l'introduction judicieuse de la stochasticité et à l'inférence conforme.