Résumé Technique : CLOUDADV

Problématique

Les machines virtuelles (VM) dans le cloud sont fréquemment surprovisionnées, ce qui entraîne des coûts opérationnels importants et une inefficacité des ressources. Les pratiques de provisionnement actuelles reposent souvent sur un dimensionnement statique et conservateur basé sur la demande de pointe anticipée, laissant les ressources sous-utilisées pendant de longues périodes. Bien qu'il existe des outils de redimensionnement automatique, ils reposent généralement sur des fenêtres de rétrospection fixes et des heuristiques basées sur des percentiles, manquant de prévisions prospectives ou de mécanismes de retour d'expérience pour l'ingénieur. Le problème central abordé est la manière de parvenir à un dimensionnement d'instance aligné sur la décision — où la prévision soutient une action de provisionnement sûre et rentable — face à la dérive de la charge de travail sans le fardeau de la maintenance de modèles distincts et ré-entraînables pour chaque locataire ou horizon.

Méthodologie

Les auteurs présentent CLOUDADV, un système consultatif interactif destiné aux ingénieurs, conçu pour générer des recommandations de dimensionnement de VM sur des horizons de planification de l'échelle du jour, de la semaine et du mois. Le système fonctionne via un pipeline structuré :

1. Télémétrie et Prétraitement : Le système ingère l'utilisation du CPU à intervalle de 1 minute et les données de mémoire disponible. L'utilisation de la mémoire est dérivée en soustrayant la mémoire disponible de la capacité totale du SKU actuel. Les données sont rééchantillonnées à des granularités spécifiques à l'horizon (30 min, 6 h, 12 h) et imputées pour les valeurs manquantes.
2. Prévision Zero-Shot : Au lieu d'entraîner des modèles par VM, CLOUDADV emploie des modèles de fondation de séries temporelles zero-shot (spécifiquement Chronos-2 et TimesFM 2.5) pour générer des prévisions probabilistes. Ces modèles ne nécessitent aucun entraînement spécifique à la tâche, ce qui leur permet de s'adapter à la dérive de la charge de travail sans déclencheur de ré-entraînement.
3. Construction du Contexte de Décision Borné : Les prévisions ne sont pas directement mappées vers des actions via des règles en forme close. Au lieu de cela, le système construit un contexte de décision structuré ($c_{i,t,H}$) contenant :
   • Les métadonnées et le prix du SKU actuel.
   • Les résumés de l'utilisation historique et prévue (50e, 95e et 95e percentiles effectifs).
   • Une liste filtrée de SKUs candidats restreinte à un voisinage de l'allocation actuelle (dans un facteur de $\delta=2.0$).
   • Des heuristiques de dimensionnement explicites ($\Gamma_H$) imposant des exigences de marge de sécurité conservatrices ($\tau_{cpu}=0.85, \tau_{mem}=0.80$).
4. Génération de Recommandations : Une couche de recommandation par LLM traite le contexte borné pour générer une recommandation structurée (Action : maintenir/rétrograder/surclasser, SKU cible, Justification).
   • Modèle de Référence : Un modèle à plus haute capacité (Claude Opus 4.6) est utilisé hors ligne pour générer des recommandations de référence.
   • Modèle de Production : Un modèle plus petit (Qwen3.5-35B) est évalué en ligne pour tester l'alignement sous des contraintes de latence et de coût.
   • Vérification : Les sorties sont vérifiées par rapport aux preuves sous-jacentes pour s'assurer que les identifiants et les valeurs numériques correspondent au contexte récupéré avant d'être présentés à l'ingénieur.

Contributions Clés

1. Formulation Alignée sur la Décision : L'article reformule le dimensionnement d'instance cloud comme un problème de prévision aligné sur la décision, privilégiant la préservation de la décision de provisionnement en aval plutôt que la simple minimisation de l'erreur de prévision brute.
2. Conception du Système CLOUDADV : Les auteurs conçoivent un système interactif qui intègre la prévision zero-shot, la récupération de preuves structurées et la génération de recommandations par LLM contrainte par des politiques.
3. Pipeline d'Évaluation Sensible au Déploiement : Un nouveau cadre est introduit pour évaluer l'alignement entre un modèle de référence robuste hors ligne et un modèle de production plus petit et déployable en utilisant des prompts bornés identiques.
4. Évaluation Empirique : Le système est évalué sur sept VM de production en utilisant des économies de coûts simulées, des taux de dépassement ex-post et des métriques de précision de prévision à travers plusieurs horizons.

Résultats

• Optimisation des Coûts : Dans une étude de cas sur sept VM de production, les recommandations de référence ont réduit les coûts mensuels simulés d'environ 1 503 $à 708$, soit une économie de 795 $/mois (52,9 %). Six des sept VM ont reçu des recommandations de rétrogradation, tandis qu'une a été maintenue.
• Sécurité et Dépassement : Le système a maintenu un faible taux de dépassement. Le dépassement le plus élevé observé parmi les cas de rétrogradation était de 1,5 % (pour la VM R7). Trois des cinq cas de rétrogradation avec un dépassement non nul présentaient des taux inférieurs à 0,2 %. Cependant, lorsque le dépassement se produisait, il pouvait être sévère (par exemple, un débordement CPU jusqu'à 85,6 points de pourcentage au 95e percentile pour R6).
• Précision de la Prévision : Chronos-2 et TimesFM 2.5 ont obtenu des performances compétitives sur tous les horizons (Jour, Semaine, Mois) par rapport aux bases classiques (ARIMA, Prophet) et supervisées (TSMixer), malgré l'absence d'entraînement par VM.
• Alignement des Modèles : L'accord entre le modèle de référence (Opus 4.6) et le modèle de production (Qwen3.5-35B) était élevé. L'accord exact sur le SKU variait de 78,6 % à 100,0 %, et l'accord sur le niveau d'action variait de 85,7 % à 100,0 %. L'alignement était plus fort aux horizons jour et semaine, avec une légère dégradation à l'horizon mois, particulièrement près des frontières de décision.
• Audit par l'Ingénieur : Un audit stratifié de 17 recommandations (environ 10 % de l'ensemble) a abouti à un taux de réussite de 100 %, avec 15 cas correspondant exactement à une base établie par un ingénieur et 2 cas jugés acceptables malgré de légères variations de SKU.

Signification et Revendications

L'article affirme que les modèles de fondation zero-shot peuvent soutenir efficacement un provisionnement aligné sur la décision dans des environnements cloud non stationnaires. La principale signification réside dans la démonstration que :

• Les modèles zero-shot peuvent induire des schémas de recommandation similaires aux bases supervisées par VM sans le fardeau opérationnel d'un ré-entraînement, d'une revalidation et d'un redéploiement répétés.
• Un modèle de production plus petit et moins coûteux peut s'aligner étroitement sur un modèle de référence plus fort lorsqu'il opère dans un contexte de décision borné et contraint par des preuves.
• CLOUDADV offre une alternative pratique pour les équipes incapables de maintenir des pipelines de prévision supervisés par locataire, fournissant des recommandations prospectives fondées sur les prévisions qui complètent les résumés d'utilisation rétrospectifs.

Les auteurs restent modestes quant à la généralisabilité, notant que l'étude est limitée à sept VM et que le système est destiné à être un mécanisme consultatif nécessitant une revue par un ingénieur, particulièrement pour les charges de travail sensibles à la mémoire ou les systèmes subissant des changements importants. Ils reconnaissent que le système est vulnérable à la non-stationnarité en dehors de la fenêtre de contexte historique (ex: migrations, cycles commerciaux longs).