Imaginez essayer de comprendre une bibliothèque contenant des millions de livres, mais sans catalogue, sans titres et sans aucun moyen de savoir de quoi ils parlent. Vous ne pouvez pas lire chaque page, vous devez donc trouver un moyen de les regrouper par leurs thèmes cachés. C'est le défi fondamental de la modélisation thématique (topic modeling), une méthode utilisée par les chercheurs pour passer au crible de vastes collections de textes — des publications sur les réseaux sociaux aux dossiers médicaux — afin de découvrir les sujets sous-jacents dont les gens discutent. Le processus est intrinsèquement désordonné. Parce qu'il existe d'innombrables façons de regrouper les mots et les idées, l'ordinateur se retrouve souvent coincé dans une boucle, produisant des résultats instables ou remplis d'absurdités. Un modèle peut trouver un thème utile un jour et un amas confus de mots sans rapport le lendemain. Cette incertitude force les scientifiques à répéter la même analyse encore et encore, en ajustant les paramètres dans l'espoir d'un meilleur résultat, un processus lent, laborieux et souvent frustrant.

Dans une étude récente, les chercheurs Alex Gorbulev, Vasiliy Alekseev et Konstantin Vorontsov ont proposé un moyen de rendre cette recherche de sens plus fiable et plus efficace. Au lieu de traiter chaque tentative de recherche de sujets comme un nouveau départ, ils ont développé une méthode où l'ordinateur apprend de ses propres erreurs passées. Ils appellent cela l'Iteratively Updated Additively Regularized Topic Model, ou ITAR. L'idée centrale est simple mais puissante : si l'ordinateur trouve un bon thème, il le verrouille en place. S'il en trouve un mauvais, il le marque comme quelque chose à éviter. Ensuite, il relance l'analyse, en conservant les bonnes découvertes et en s'éloignant activement des mauvaises. En répétant ce cycle, le modèle construit une collection de thèmes qui s'améliore à chaque étape, garantissant que le résultat final contient le meilleur mélange possible de sujets significatifs sans perdre les bonnes trouvailles en cours de route.

Pour comprendre comment cela fonctionne, il faut d'abord saisir ce qu'est un « sujet » pour un ordinateur. Dans ces modèles, un sujet n'est pas une étiquette comme « sport » ou « politique » que l'on écrit manuellement. Il s'agit plutôt d'une liste spécifique de mots qui ont tendance à apparaître ensemble. Si les mots « but », « match », « joueur » et « équipe » apparaissent fréquemment dans les mêmes documents, l'ordinateur les regroupe en un seul sujet. Le problème survient car l'ordinateur ne sait pas quels regroupements font sens pour un humain. Il pourrait accidentellement regrouper « but » avec « taxe » parce que les deux mots apparaissent dans des actualités financières concernant le financement du sport, créant ainsi un thème confus et inutile. Les méthodes traditionnelles tentent de corriger cela en ajoutant des règles, ou « régularisateurs », qui disent à l'ordinateur de garder les sujets distincts ou de se concentrer sur des types de mots spécifiques. Cependant, ces règles sont généralement appliquées une seule fois au début, et si l'ordinateur commet une erreur tôt dans le processus, cette erreur peut persister tout au long du processus.

L'approche des chercheurs change entièrement le flux de travail. Ils traitent la création d'un modèle thématique non pas comme un événement unique, mais comme une série d'étapes connectées. Dans la première étape, l'ordinateur génère un ensemble de sujets. Les chercheurs classent ensuite manuellement ou automatiquement ces sujets en trois catégories : bons, mauvais et sans intérêt. Les bons sujets sont ceux qui sont clairs et significatifs pour un lecteur humain. Les mauvais sujets sont ceux qui sont confus, remplis de mots de liaison (stop words) ou de non-sens. Les sujets sans intérêt sont des doublons ou des groupes neutres qui n'apportent aucune valeur ajoutée. Une fois ce tri effectué, l'ordinateur entame un nouveau cycle d'entraînement. Cette fois, il reçoit une instruction spécifique : il doit conserver les bons sujets exactement tels qu'ils sont, il doit éviter de créer des sujets qui ressemblent aux mauvais, et il doit essayer de trouver de nouveaux sujets différents pour remplacer les sujets sans intérêt.

Ce processus repose sur une technique mathématique appelée régularisation additive, qui agit comme un ensemble de contraintes guidant la recherche de l'ordinateur. Une partie du système agit comme une mémoire, garantissant que les bons sujets trouvés lors du tour précédent sont préservés et ne sont pas perdus. Une autre partie agit comme un filtre, repoussant activement l'ordinateur loin des schémas qui ont créé les mauvais sujets. En combinant ces forces, le modèle est contraint de raffiner sa compréhension. Il ne repart pas de zéro ; il s'appuie sur ce qu'il a déjà appris. Les chercheurs ont testé cette méthode sur plusieurs collections de textes différentes, notamment des articles scientifiques russes, des articles d'actualité anglais et des dossiers médicaux. Ils ont comparé leur nouvelle méthode à plusieurs modèles existants populaires, y compris des modèles probabilistes standards et de nouvelles approches basées sur les réseaux de neurones.

Les résultats montrent un avantage clair pour la méthode itérative. Dans leurs expériences, les chercheurs ont constaté que le nouveau modèle accumulait systématiquement un pourcentage de bons sujets plus élevé que n'importe quelle autre méthode. Par exemple, sur un ensemble de données d'articles scientifiques russes, le modèle itératif a produit un ensemble final de sujets où quatre-vingt-dix pour cent étaient considérés comme bons, alors que les autres modèles n'en géraient généralement que vingt à quarante pour cent. Plus important encore, les sujets trouvés par le modèle étaient diversifiés, ce qui signifie qu'ils couvraient différents sujets plutôt que de répéter les mêmes idées. Bien que le modèle soit légèrement moins efficace pour prédire le mot suivant dans une phrase par rapport aux modèles les plus simples et de base, ce compromis en valait la peine car les sujets qu'il produisait étaient bien plus utiles et interprétables pour les chercheurs humains.

L'étude a également exploré ce qui se passe lorsque l'ordinateur est sollicité pour trouver plus de sujets. Ils ont testé le système avec vingt sujets et avec cinquante sujets. Dans les deux cas, la méthode itérative a continué de surpasser les autres, maintenant une haute qualité de thèmes même lorsque le nombre de groupes augmentait. Les chercheurs ont noté que le processus nécessite plus de temps de calcul car il exécute l'analyse plusieurs fois, mais cet effort supplémentaire est récompensé par l'élimination du besoin de l'éternel tâtonnement qui frappe habituellement le domaine. Ils ont également étudié si la méthode fonctionnait bien avec différentes manières de mesurer la qualité. Ils ont découvert que le modèle performait bien, que l'on juge les sujets par la fréquence d'apparition conjointe des mots ou par la fluidité naturelle des mots dans le texte, suggérant que la méthode est robuste à travers différentes normes d'évaluation.

L'une des découvertes les plus significatives est que la méthode empêche avec succès l'ordinateur d'« oublier » les bonnes découvertes. Dans les approches traditionnelles, si un modèle trouve un excellent sujet lors de la première exécution, mais qu'il est ensuite distrait par du bruit lors de la seconde, ce bon sujet est souvent perdu à jamais. La méthode itérative résout cela en traitant les bons sujets comme des ancres fixes. Les chercheurs ont observé qu'à mesure que le nombre de bons sujets augmentait, le modèle devenait de plus en plus focalisé, finissant par s'arrêter lorsqu'il avait collecté suffisamment de thèmes de haute qualité. Ils ont également constaté que la méthode fonctionne bien même lorsque le modèle initial n'est pas parfait ; elle peut récupérer et améliorer les résultats sur plusieurs cycles.

Les auteurs ont pris soin de souligner les limites de leurs travaux. La méthode repose sur la capacité de classer les sujets en catégories « bons » et « mauvais », ce qui nécessite actuellement un certain jugement humain ou une règle automatisée très spécifique. Si les critères de ce qui constitue un « bon » sujet sont flous, le système pourrait avoir du mal à savoir quoi conserver. De plus, comme la méthode nécessite d'exécuter le modèle plusieurs fois, elle peut être plus lente pour les ensembles de données extrêmement vastes où le temps est un facteur critique. Ils ont également noté que, bien que leur méthode fonctionne bien avec le cadre mathématique spécifique qu'ils ont utilisé, elle n'a pas encore été testée sur d'autres types de modèles de réseaux de neurones, laissant ouverte la question de savoir si cette approche itérative pourrait être adaptée à d'autres systèmes.

En fin de compte, cette recherche offre une solution pratique à un problème de longue date de l'analyse de texte. En transformant le processus d'une série de tentatives isolées en un cycle d'apprentissage continu et cumulatif, les chercheurs ont démontré qu'il est possible de guider un ordinateur vers de meilleurs résultats sans avoir besoin de connaître la réponse à l'avance. Le modèle ne se contente pas de trouver des sujets ; il apprend à mieux les trouver à chaque exécution. Cette approche transforme la recherche de sens dans le texte, passant d'un jeu de hasard à un processus plus déterministe et fiable, permettant aux chercheurs de se concentrer sur les enseignations que les sujets procurent plutôt que sur la lutte pour amener l'ordinateur à les trouver. Ce travail suggère que dans le monde complexe de l'analyse de données, parfois, la meilleure façon d'avancer n'est pas de repartir de zéro, mais de construire soigneusement sur ce qui a déjà été découvert.