When Do LLM Agents Help? Deadline-Aware Mixed-Criticality Task Scheduling at the Autonomous-Vehicle Edge

Les voitures autonomes ne se contentent pas de conduire ; elles réfléchissent constamment. Pour naviguer dans une rue animée, un véhicule doit traiter un flux massif de données provenant de caméras et de capteurs, identifiant les piétons, les autres voitures et les panneaux de signalisation en une fraction de seconde. Comme l'ordinateur de la voiture elle-même ne peut pas gérer seule cette charge de travail immense, il envoie ces calculs urgents à des serveurs proches, situés à la périphérie du réseau, une configuration appelée informatique de bord mobile (mobile edge computing). Le défi pour les ingénieurs est que toutes les tâches ne sont pas égales. Certains travaux, comme la détection d'un obstacle pouvant provoquer un accident, sont vitaux et doivent être terminés avant une échéance stricte. D'autres tâches, comme la mise à jour d'une carte ou la lecture de musique, sont importantes mais peuvent attendre si le système est occupé. L'objectif est de construire un ordonnanceur, un contrôleur de trafic numérique, qui protège les tâches vitales sans gaspiller la puissance du système, tout en tenant compte du mouvement de la voiture et de l'évolution des conditions de réseau.

Pendant des années, des chercheurs ont tenté d'utiliser l'intelligence artificielle pour résoudre ce casse-tête d'ordonnancement. Récemment, un nouveau type d'IA, appelé modèle de langage étendu (large language model), est apparu comme une solution potentielle. Ces modèles sont célèbres pour leur capacité à raisonner et à expliquer leurs choix en langage courant, ce qui a conduit beaucoup d'entre eux à espérer qu'ils pourraient agir comme des gestionnaires flexibles et intelligents pour des systèmes complexes. Cependant, ces modèles sont également lents et coûteux à exécuter. La question posée à la communauté scientifique était de savoir si l'ajout de cette couche intelligente mais lente à un système rapide et critique apporterait réellement un bénéfice, ou si cela ne ferait que ralentir l'ensemble sans apporter de réelle plus-value. Un chercheur a entrepris de répondre à cela en construisant un test rigoureux pour voir exactement quand, et si, ces gestionnaires d'IA améliorent les performances des réseaux de voitures autonomes.

Le chercheur a construit une simulation détaillée d'un réseau où les voitures autonomes déchargent leurs tâches de réflexion vers des serveurs proches. Il a créé soixante scénarios différents, chacun avec deux cents tâches arrivant à des moments aléatoires. Dans ces scénarios, soixante pour cent des tâches étaient critiques pour la vie, tandis que les autres étaient des tâches standards de priorité inférieure. Le chercheur a d'abord construit un système d'ordonnancement traditionnel très performant. Ce système fonctionnait en regroupant les tâches entrantes en petits lots, puis en les triant de sorte que les tâches les plus urgentes, vitales, soient toujours considérées en premier. Il assignait ensuite chaque tâche au serveur capable de la terminer le plus rapidement. Cette méthode s'est avérée incroyablement efficace, complétant avec succès plus de quatre-vingt-dix pour cent des tâches critiques. Elle a été plus performante que quinze autres méthodes standards et s'est rapprochée à treize pour cent de la performance théorique maximale, un point de référence calculé par un solveur hors ligne puissant qui avait le luxe de voir l'avenir entier avant de prendre toute décision.

Une fois ce niveau de base de haute performance établi, le chercheur a introduit le modèle de langage étendu. Il a conçu un système où l'IA ne prenait pas chaque décision individuellement, ce qui aurait été trop lent. Au lieu de cela, l'IA agissait comme un superviseur qui intervenait seulement occasionnellement pour ajuster les règles du jeu. Dans la première partie de son étude, le flux de trafic était régulier et prévisible. Dans ces conditions calmes, le superviseur d'IA n'apportait aucune valeur ajoutée. L'ordonnanceur traditionnel, basé sur des règles, était déjà si bon que l'IA ne pouvait trouver aucune marge de progression. Le raisonnement de l'IA, le processus d'enchères et la capacité d'adaptation en temps réel étaient tous inutiles lorsque la charge de travail était stable. Les règles simples et rapides suffisaient à gérer le trafic efficacement.

L'histoire a changé lorsque le chercheur a introduit un événement soudain et chaotique. Il a simulé un scénario où un grand groupe de voitures arrivait simultanément à une intersection encombrée, créant une vague soudaine de tâches critiques qui submergeait l'ordonnanceur standard. Dans ce moment de chaos non stationnaire, le système traditionnel a commencé à peiner, manquant des échéances qu'il aurait normalement respectées. C'est ici que la couche de contrôle par modèle de langage étendu a enfin montré sa valeur. En examinant la situation et en ajustant les règles d'ordonnancement à la volée, le système d'IA a réussi à récupérer une partie de la performance perdue, complétant nettement plus de tâches critiques que le système statique ou même qu'un autre type d'algorithme adaptatif. L'IA n'a pas résolu le problème parfaitement, mais elle a trouvé un moyen d'extraire une amélioration statistiquement significative que les règles fixes ne pouvaient atteindre.

L'étude conclut que la valeur de l'utilisation de ces modèles d'IA avancés est entièrement conditionnelle. Ils ne sont pas une mise à niveau magique qui améliore tout en permanence. Au contraire, ils ne rentabilisent leur coût que lorsque l'environnement devient imprévisible et qu'un ensemble de règles fixes ne peut plus suivre le rythme. Dans des conditions stables, les méthodes simples et rapides sont supérieures car elles sont efficaces et fiables. Mais lorsqu'un afflux soudain d'événements critiques survient, la capacité de l'IA à raisonner à travers le chaos et à adapter sa stratégie offre un bénéfice réel et mesurable. Le chercheur a également mesuré le temps nécessaire à l'IA pour prendre ses décisions, constatant qu'il était bien trop long pour être utilisé pour chaque tâche, confirmant qu'elle doit rester un superviseur de haut niveau plutôt qu'un exécutant direct. Le message final pour les ingénieurs est clair : n'adoptez pas ces couches d'IA complexes par défaut. Elles sont un outil spécialisé, utile uniquement lorsque la charge de travail est assez volatile pour créer des opportunités qu'une politique fixe ne peut percevoir.