Revisiting Predictive Process Monitoring in the Age of Foundation Models: A Comparative Study of Sequence, Tabular, and LLM Approaches
Cet article présente une étude comparative de référence des approches basées sur les séquences, les données tabulaires et les LLM pour la surveillance prédictive de processus, révélant que si les modèles de séquence excellent dans la prédiction de l'activité suivante et que les modèles de fondation tabulaires sont compétitifs pour les tâches temporelles, les LLM sont généralement moins performants malgré leurs coûts computationnels plus élevés.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous observez une cuisine en pleine effervescence. Les commandes arrivent, les chefs coupent, frit et dressent, et parfois un plat reste en attente d'une sauce ou d'un ingrédient manquant. Si vous pouviez jeter un coup d'œil dans le futur et savoir exactement quelle sera l'étape suivante, combien de temps prendra le repas, ou si la commande va arriver en retard, vous pourriez corriger les problèmes avant qu'ils ne surviennent. C'est le cœur de la Surveillance Prédictive des Processus (PPM). C'est une branche de l'informatique qui examine les « reçus » numériques de la manière dont les choses se produisent — comme une usine fabriquant des voitures ou une banque approuvant des prêts — pour deviner ce qui vient ensuite. Pendant des années, la meilleure façon de faire cela consistait à entraîner un cerveau informatique spécialisé à partir de zéro, en lui enseignant les règles spécifiques de cette cuisine particulière. Mais récemment, une nouvelle vague d'ordinateurs super intelligents et polyvalents appelés Grands Modèles de Langage (LLM) est arrivée. Ce sont les modèles capables d'écrire des poèmes, de coder et de discuter avec vous, et les gens se sont demandé : « Pouvons-nous simplement demander à ces génies généralistes de prédire le futur de notre cuisine ? » Parallèlement, une troisième option est apparue : les Modèles de Fondation Tabulaires, qui sont comme des statisticiens experts qui analysent les données dans des lignes et des colonnes bien ordonnées plutôt que dans des récits. La grande question est la suivante : avons-nous encore besoin des experts de cuisine spécialisés, ou les génies généralistes et les statisticiens de lignes et de colonnes ont-ils pris le dessus ?
Ce document est un immense test de dégustation pour voir quel « chef » parmi les trois cuisine le mieux. Les chercheurs ont mis en place une compétition contrôlée utilisant cinq « cuisines » différentes du monde réel (des jeux de données issus de processus métier) et ont demandé aux modèles de prédire trois choses : quelle est l'activité suivante, combien de temps prendra l'étape suivante, et combien de temps il reste avant que la tâche entière ne soit terminée. Ils ont opposé les Modèles de Séquence traditionnels (entraînés de zéro spécifiquement pour cette tâche) aux LLM (adaptés à l'aide d'une technique appelée LoRA pour apprendre le processus) et aux Modèles Tabulaires (qui utilisent l'apprentissage en contexte, ce qui signifie qu'ils apprennent en regardant les exemples directement devant eux sans réentraînement).
Les résultats ont été un peu surprenants et un peu un soulagement pour les traditionalistes. Lorsqu'il s'agissait de deviner l'activité suivante (comme prédire que le chef va couper des oignons ensuite), les Modèles de Séquence spécialisés étaient les grands vainqueurs. Ils ont été systématiquement les plus précis, battant les LLM et les modèles tabulaires. Le document suggère que c'est parce que ces modèles sont excellents pour comprendre l'ordre spécifique et le flux des événements, surtout lorsque le processus devient complexe avec de nombreux chemins possibles (embranchements). Les modèles tabulaires étaient en fait assez bons pour les tâches liées au temps, égalant souvent les spécialistes lorsqu'il s'agissait de prédire la durée des choses. Cependant, les LLM, malgré le fait qu'ils soient les plus célèbres et les plus coûteux à exploiter, étaient généralement à la traîne. Ils mettaient beaucoup plus de temps à calculer (prenant parfois plus de 200 minutes pour un seul jeu de données contre moins d'une minute pour les autres) et ne donna de bonnes réponses que de manière irrégulière. En fait, sur un jeu de données, les LLM ont fréquemment prédit que le processus était terminé alors qu'il ne l'était pas, commettant ainsi beaucoup d'erreurs prématurées.
Ainsi, le document conclut que bien que les LLM polyvalents et tape-à-l'œil soient intéressants, ils n'ont pas encore détrôné les modèles spécialisés pour prédire ce qui se passe ensuite dans un processus. Les modèles spécialisés restent les chefs les plus fiables pour le travail, tandis que les modèles tabulaires constituent une alternative solide et rapide pour les questions de temps. Les auteurs suggèrent que les LLM pourraient avoir besoin d'être encore plus grands ou entraînés différemment pour rattraper leur retard, et que pour l'instant, si vous voulez savoir ce qui arrive ensuite dans un processus complexe, l'approche spécialisée traditionnelle reste le pari le plus précis.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.