🤖 machine learning

LASER: Language Model Regression for Semi-Structured Workflow Resource and Runtime Estimation

LASER est un nouveau cadre qui affine des modèles de langage de grande taille sur des configurations de flux de travail semi-structurées sérialisées pour prédire avec précision la consommation de ressources et le temps d'exécution, surpassant les bases de référence traditionnelles en apprentissage automatique et les experts humains en exploitant l'encodage en notation scientifique, le décodage contraint et les mécanismes d'attention complète.

Auteurs originaux : Yuxuan Yin, Shengke Zhou, Yunjie Zhang, Ajay Mohindra, Boxun Xu, Peng Li

Publié 2026-05-18

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Yuxuan Yin, Shengke Zhou, Yunjie Zhang, Ajay Mohindra, Boxun Xu, Peng Li

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous soyez le gestionnaire d'une immense et animée cuisine (un système d'informatique en nuage). Chaque jour, des centaines de chefs (tâches) soumettent des recettes complexes (configurations de flux de travail) à préparer. Certaines recettes sont simples, comme faire bouillir de l'eau ; d'autres sont élaborées, comme un banquet de dix services nécessitant des fours spécifiques, des quantités exactes d'ingrédients et un timing précis.

Pour faire fonctionner cette cuisine efficacement, vous devez connaître deux choses avant de commencer à cuisiner :

Combien de temps cela prendra-t-il ? (Temps d'exécution)
De quel carburant et de quel espace aura-t-il besoin ? (Ressources telles que le processeur, la mémoire et le disque)

Si vous faites une mauvaise estimation, vous soit gaspillez de l'argent en commandant trop de carburant (sur-provisionnement), soit vous brûlez la cuisine parce que vous n'aviez pas assez de puissance (sous-provisionnement).

L'Ancienne Méthode : Le Problème de la « Liste de Contrôle »

Traditionnellement, les gestionnaires tentaient de prédire cela en transformant chaque recette en une longue et ennuyeuse liste de contrôle de chiffres. Ils devaient manuellement traduire des éléments tels que « utiliser le compilateur aarch64 » ou « définir la version Python à 3.11 » en chiffres spécifiques sur un tableur.

Le problème ? Cette liste de contrôle est fragile.

Si un nouvel outil apparaît dans la cuisine, la liste de contrôle échoue car personne n'a écrit de chiffre pour lui.
Elle perd l'histoire de la recette. Elle voit « Python 3.11 » comme un simple chiffre, manquant le fait qu'il s'agit d'une version spécifique qui se comporte différemment de la 3.9.
C'est comme essayer de prédire la durée d'un film en comptant uniquement le nombre de pages, en ignorant l'intrigue, les acteurs ou les effets spéciaux.

La Nouvelle Méthode : LASER (Le « Second Chef Intelligent »)

L'article présente LASER, un système qui utilise un grand modèle de langage (LLM) — essentiellement une IA super-intelligente ayant lu des millions de recettes, de codes et de manuels — pour agir en tant que « Second Chef ».

Au lieu de forcer les recettes dans une liste de contrôle, LASER lit le texte brut de la configuration de la tâche. Il comprend le langage de la recette naturellement.

Il voit la commande python script.py et comprend le contexte.
Il voit les dépendances et la hiérarchie sans qu'un humain ait besoin de les traduire manuellement en chiffres au préalable.

Comment LASER Résout Trois Problèmes Épineux

1. Le Problème « Trop Grand ou Trop Petit » (Notation Scientifique)
Les ressources varient énormément. Une tâche peut nécessiter 500 mégaoctets de mémoire, tandis qu'une autre en nécessite 50 téraoctets. C'est un écart énorme.

L'Analogie : Imaginez essayer de mesurer à la fois un grain de sable et une montagne avec la même règle. C'est désordonné.
La Solution LASER : LASER utilise la notation scientifique (comme $5,0 \times 10^2$ ). Il apprend à l'IA à parler en « puissances de dix ». Cela permet à l'IA de gérer aussi bien les nombres minuscules que les nombres massifs sans se confondre ni avoir besoin d'ajustements mathématiques complexes.

2. Le Problème de l'« Hallucination » (Décodage Contraint)
Lorsqu'on demande à une IA intelligente de vous donner des chiffres, elle devient parfois créative et invente des choses (hallucine). Elle pourrait inventer un nom de fichier fictif ou écrire un chiffre qui n'a pas de sens.

L'Analogie : Imaginez demander l'addition à un serveur, et qu'il se mette à inventer de nouveaux articles de menu que vous n'avez pas commandés.
La Solution LASER : LASER utilise un décodage contraint. C'est comme donner au serveur un formulaire pré-imprimé avec des cases exactes pour « Temps », « CPU » et « Mémoire ». L'IA n'est autorisée à remplir que les chiffres à l'intérieur de ces cases. Elle ne peut pas inventer de nouvelles cases ni écrire du charabia.
Bonus : Parce que l'IA n'a pas besoin de « réfléchir » à la structure de la phrase (puisque la structure est fixe), elle répond 30 % plus vite.

3. Le Problème de la « Longue Histoire » (Attention Complète)
Certaines recettes sont très longues. Un détail mentionné tout au début de la recette peut être crucial pour une étape tout à la fin.

L'Analogie : Imaginez lire un long roman mais ne se souvenir que des dernières pages. Vous pourriez manquer le retournement de situation qui s'est produit à la page 1.
La Solution LASER : La plupart des modèles d'IA modernes ne regardent qu'une « fenêtre » de texte à la fois (comme lire quelques pages à la fois). LASER force le modèle à utiliser une attention complète, ce qui signifie qu'il peut examiner la toute la recette du début à la fin simultanément. Cela l'aide à faire les liens entre des parties distantes de la configuration de la tâche.

Les Résultats

Les auteurs ont testé LASER sur deux types de « cuisines » :

Conception de puces : Une cuisine industrielle hautement complexe où un minuscule changement dans un script peut faire durer une tâche 10 fois plus longtemps.
GitHub Actions : Un ensemble de données public de plus de 580 000 tâches logicielles provenant de 27 000 dépôts différents.

Le Résultat :

LASER était plus précis que les experts humains.
Il était meilleur que les modèles d'apprentissage automatique traditionnels de type « liste de contrôle » (tabulaires).
Il s'est amélioré encore davantage à mesure qu'il était alimenté par plus de données et utilisait des modèles plus grands (une « loi d'échelle »).
Il pouvait prédire les besoins de tâches qu'il n'avait jamais vues auparavant, montrant qu'il avait appris la logique du travail, et non pas seulement mémorisé les réponses.

En bref, LASER remplace le processus fragile et manuel de traduction des recettes en chiffres par une IA intelligente et maîtrisant le langage, qui lit la recette, comprend le contexte et fournit une estimation précise et fiable du temps et des ressources.

Résumé technique : LASER – Régression par modèle de langage pour l'estimation des ressources et du temps d'exécution des workflows semi-structurés

Énoncé du problème

La prédiction précise du temps d'exécution et de la consommation de ressources (CPU, mémoire, disque) pour les tâches de workflows cloud est essentielle pour une planification efficace, le contrôle des coûts et la planification de l'infrastructure. Les erreurs de prédiction entraînent soit un surdimensionnement (gaspillage de ressources de calcul), soit un sous-dimensionnement (provoquant des échecs de tâches et des réexécutions coûteuses).

Les approches actuelles traitent ce problème comme une régression tabulaire, nécessitant une ingénierie de caractéristiques fragile pour aplatir des configurations de tâches complexes et semi-structurées en vecteurs de taille fixe. Ces configurations incluent des commandes shell, des paramètres spécifiques aux outils, des graphes de dépendances et des métadonnées hiérarchiques. Les méthodes traditionnelles peinent avec :

Perte sémantique : Le codage manuel de caractéristiques échoue souvent à capturer le contexte sémantique critique (par exemple, la différence entre les cibles aarch64 et x86_64).
Fragilité : Les pipelines se brisent silencieusement lorsque de nouveaux outils ou commandes apparaissent, ce qui est courant dans l'évolution des services cloud.
Violations d'hypothèses : De nombreuses méthodes reposent sur des hypothèses linéaires de relation entre la taille de l'entrée et le temps d'exécution qui ne tiennent pas pour des charges de travail hétérogènes comme la conception de puces ou les pipelines CI/CD.
Limites des données : Les jeux de données publics existants manquent souvent de la diversité sémantique nécessaire pour entraîner des modèles sur des workflows réels et hétérogènes.

Méthodologie : Le cadre LASER

LASER (Language model-bAsed regreSsion for sEmi-structured workflow job Resource and runtime estimation) reformule la prédiction des ressources comme une tâche de génération séquence-à-séquence. Au lieu de l'ingénierie de caractéristiques, il affine directement des Modèles de Langage à Grande Échelle (LLM) sur des configurations de tâches brutes sérialisées pour générer des sorties JSON structurées contenant des prédictions de ressources.

Le cadre repose sur trois innovations techniques fondamentales :

1. Encodage de sortie en notation scientifique

Les métriques de ressources (par exemple, la mémoire de Mo à To, le temps d'exécution de secondes à heures) couvrent plusieurs ordres de grandeur, provoquant une instabilité dans les têtes de régression linéaire standard.

Approche : Les cibles sont encodées comme des séquences de longueur fixe de 8 jetons en notation scientifique ( $m \times 10^e$ ), où la mantisse $m \in [1.00, 9.99]$ et l'exposant $e \in \mathbb{Z}$ .
Avantage : Cela élimine le besoin de normalisation par cible et permet au modèle d'apprendre des représentations numériques cohérentes à travers les échelles.
Contrainte du tokeniseur : Les auteurs limitent les expériences aux tokeniseurs (Qwen-3, Gemma-3) qui encodent les chiffres 0–9 comme des jetons uniques, garantissant que l'hypothèse d'encodage de longueur fixe est respectée.

2. Décodage contraint avec remplissage de préfixe déterministe

Le décodage autorégressif standard peut produire du JSON mal formé ou des formats numériques invalides.

Approche : La structure de sortie (clés JSON, délimiteurs et échafaudage de notation scientifique) est constituée de constantes connues. Le système partitionne la sortie en jetons déterministes (remplis directement sans passage avant) et en jetons génératifs (les chiffres numériques générés par le modèle).
Avantage : Cela impose une validité structurelle par construction (empêchant les hallucinations) et réduit la latence d'inférence de plus de 30 % en sautant les passages avant pour les jetons structurels fixes.

3. Affinement par attention complète

Les LLM modernes à contexte long utilisent par défaut une attention par fenêtre glissante pour économiser le calcul.

Approche : LASER emploie des mécanismes d'attention complète lors de l'affinement.
Raison d'être : Les configurations de workflows contiennent souvent des signaux prédictifs à travers des champs distants (par exemple, une cible de compilation spécifiée tôt affectant un outil invoqué plus tard). L'attention complète assure une visibilité du contexte global, que les fenêtres glissantes manquent.

Configuration expérimentale et jeux de données

Le cadre a été validé sur deux jeux de données distincts :

ChipDV (Propriétaire) : Plus de 160 000 tâches cloud issues d'un workflow industriel de vérification de conception de puces. Les configurations sont hautement sensibles ; de minuscules changements de script peuvent entraîner des augmentations de temps d'exécution décuplées.
GHARuntime (Référence publique) : Une nouvelle référence dérivée de GHALogs, contenant 1,3 million d'enregistrements d'exécution de workflows CI/CD à travers plus de 27 000 dépôts GitHub et 20 langages de programmation.

Les lignes de base comprenaient des experts humains, des maximums historiques et des modèles d'apprentissage automatique tabulaires de l'état de l'art (XGBoost, LightGBM, TabPFN).

Résultats clés

Performance en distribution

Précision supérieure : LASER a nettement surpassé les experts humains et les références historiques sur le jeu de données ChipDV. Par exemple, sur l'ensemble "ChipDV-Inédit", le modèle Gemma-3-12B a atteint une erreur absolue moyenne (MAE) de 23,76 minutes pour le temps d'exécution, contre 53,60 minutes pour les experts humains.
Mise à l'échelle du modèle : Les performances se sont améliorées de manière cohérente avec la taille du modèle (de 270 M à 12 milliards de paramètres), les plus grands modèles obtenant les meilleurs résultats sur toutes les cibles (temps d'exécution, CPU, RAM, disque).

Généralisation hors distribution (OOD)

Dérive temporelle : Lorsqu'il a été testé sur des tâches futures (jusqu'à 26 jours à l'avance), LASER a maintenu une précision stable pour les métriques de ressources (CPU, RAM, Disque), démontrant qu'il avait appris des modèles de consommation généralisables plutôt que de surajuster à la période d'entraînement.
Généralisation inter-dépôts : Sur la référence GHARuntime, LASER a montré un fort comportement de mise à l'échelle des données. Alors que les petits modèles sous-performaient par rapport aux références tabulaires avec des données limitées (1k échantillons), LASER a égalé ou dépassé TabPFN-v2.6 avec 10k–100k échantillons d'entraînement, tandis que les méthodes tabulaires plafonnaient tôt.

Efficacité et ablation

Latence : Le décodage contraint a réduit le temps d'inférence de 30 à 36 % à travers différentes tailles de modèles.
Mécanisme d'attention : L'affinement par attention complète a constamment surpassé l'attention par fenêtre glissante, en particulier pour les petits modèles (1 milliard de paramètres), confirmant l'importance du contexte global.
Longueur de séquence : La précision s'est améliorée avec des longueurs de séquence plus longues jusqu'à 2048 jetons, avec des rendements décroissants au-delà de ce point.

Signification et revendications

L'article revendique l'établissement d'un nouveau paradigme pour la régression basée sur les LLM sur des données de workflows semi-structurés. Ses contributions principales sont :

Élimination de l'ingénierie de caractéristiques fragile : En traitant les configurations brutes comme du texte, LASER évite le processus laborieux et fragile d'extraction manuelle de caractéristiques, permettant une généralisation à de nouveaux outils et commandes.
Nouveauté technique en régression : La combinaison de l'encodage en notation scientifique et du décodage contraint résout les défis spécifiques de la régression numérique par génération (gestion de l'échelle et de la validité).
Nouvelle référence : La publication de GHARuntime fournit la première référence publique à grande échelle et sémantiquement riche pour la prédiction du temps d'exécution des workflows, comblant le manque de jeux de données diversifiés dans le domaine.

Les auteurs concluent que LASER démontre que les LLM affinés peuvent servir efficacement de régresseurs pour des charges de travail industrielles complexes et semi-structurées, surpassant à la fois les heuristiques humaines et les approches traditionnelles d'apprentissage automatique tabulaire.