Resumo Técnico: CLOUDADV

Declaração do Problema

Máquinas virtuais (VMs) na nuvem são frequentemente superprovisionadas, levando a custos operacionais significativos e ineficiência de recursos. As práticas atuais de provisionamento frequentemente dependem de dimensionamento estático e conservador baseado na demanda de pico antecipada, deixando os recursos subutilizados por períodos prolongados. Embora existam ferramentas de ajuste de tamanho (right-sizing) automatizadas, elas tipicamente dependem de janelas de observação (lookback windows) fixas e heurísticas baseadas em percentis, carecendo de previsões prospectivas ou mecanismos de feedback de engenheiros. Além disso, modelos tradicionais de previsão supervisionada exigem ciclos de retreinamento, revalidação e redesploiamento por VM quando o comportamento da carga de trabalho sofre deriva (drift), criando sobrecarga operacional e latência. O desafio central abordado é como alcançar um dimensionamento de instância alinhado à decisão — onde a previsão suporta uma ação de provisionamento segura e econômica — sob deriva de carga de trabalho sem o fardo de manter modelos separados e retreináveis para cada locatário ou horizonte.

Metodologia

Os autores apresentam o CLOUDADV, um sistema consultivo interativo voltado ao engenheiro, projetado para gerar recomendações de dimensionamento de VM através de horizontes de planejamento de escala diária, semanal e mensal. O sistema opera através de um pipeline estruturado:

1. Telemetria e Pré-processamento: O sistema ingere dados de utilização de CPU e disponibilidade de memória em intervalos de 1 minuto. O uso de memória é derivado subtraindo a memória disponível da capacidade total do SKU atual. Os dados são reamostrados para granularidades específicas do horizonte (30 min, 6 h, 12 h) e imputados para valores ausentes.
2. Previsão Zero-Shot: Em vez de treinar modelos por VM, o CLOUDADV emprega modelos de fundação de séries temporais zero-shot (especificamente Chronos-2 e TimesFM 2.5) para gerar previsões probabilísticas. Esses modelos não requerem treinamento específico para a tarefa, permitindo que se adaptem à deriva de carga de trabalho sem gatilhos de retreinamento.
3. Construção de Contexto de Decisão Delimitado: As previsões não são mapeadas diretamente para ações via regras de forma fechada. Em vez disso, o sistema constró constrói um contexto de decisão estruturado ($c_{i,t,H}$) contendo:
   • Metadados e preço do SKU atual.
   • Resumos de utilização histórica e prevista (percentis 50º, 95º e 95º efetivo).
   • Uma lista filtrada de SKUs candidatos restrita a uma vizinhança da alocação atual (dentro de um fator de $\delta=2.0$).
   • Heurísticas de dimensionamento explícitas ($\Gamma_H$) impondo requisitos de folga (headroom) conservadores ($\tau_{cpu}=0.85, \tau_{mem}=0.80$).
4. Geração de Recomendação: Uma camada de recomendação baseada em LLM processa o contexto delimitado para gerar uma recomendação estruturada (Ação: manter/reduzir/aumentar, SKU Alvo, Justificativa).
   • Modelo de Referência: Um modelo de maior capacidade (Claude Opus 4.6) é usado offline para gerar recomendações de referência.
   • Modelo de Produção: Um modelo menor (Qwen3.5-35B) é avaliado online para verificar o alinhamento sob restrições de latência e custo.
   • Verificação: As saídas são verificadas contra as evidências subjacentes para garantir que identificadores e valores numéricos correspondam ao contexto recuperado antes de serem apresentados ao engenheiro.

Principais Contribuições

1. Formulação Alinhada à Decisão: O artigo reformula o dimensionamento de instâncias na nuvem como um problema de previsão alinhado à decisão, priorizando a preservação da decisão de provisionamento a jusante sobre a minimização do erro bruto de previsão.
2. Design do Sistema CLOUDADV: Os autores projetam um sistema interativo que integra previsão zero-shot, recuperação de evidências estruturadas e geração de recomendação por LLM com política restrita.
3. Pipeline de Avaliação Consciente de Implantação: Um framework inovador é introduzido para avaliar o alinhamento entre um modelo de referência offline forte e um modelo de produção menor e implantável usando prompts delimitados idênticos.
4. Avaliação Empírica: O sistema é avaliado em sete VMs de produção usando economia de custos simulada, taxas de excesso (exceedance rates) ex-post e métricas de precisão de previsão em múltiplos horizontes.

Resultados

• Otimização de Custos: Em um estudo de caso de sete VMs de produção, as recomendações de referência reduziram os custos mensais simulados de aproximadamente $1.503 para $708, gerando uma economia de $795/mês (52,9%). Seis das sete VMs receberam recomendações de redução (downgrade), enquanto uma foi mantida.
• Segurança e Excesso: O sistema manteve uma baixa taxa de excesso. O maior excesso observado entre os casos de redução foi de 1,5% (para a VM R7). Três dos cinco casos de redução com excesso não nulo apresentaram taxas abaixo de 0,2%. No entanto, quando o excesso ocorreu, ele pôde ser severo (ex: estouro de CPU de até 85,6 pontos percentuais no percentil 95 para a R6).
• Precisão de Previsão: O Chronos-2 e o TimesFM 2.5 alcançaram desempenho competitivo em todos os horizontes (Dia, Semana, Mês) em comparação com baselines clássicas (ARIMA, Prophet) e supervisionadas (TSMixer), apesar de não possuírem treinamento por VM.
• Alinhamento de Modelo: O acordo entre o modelo de referência (Opus 4.6) e o modelo de produção (Qwen3.5-35B) foi alto. O acordo exato de SKU variou de 78,6% a 100,0%, e o acordo de nível de ação variou de 85,7% a 100,0%. O alinhamento foi mais forte nos horizontes de dia e semana, com leve degradação no horizonte de mês, particularmente próximo às fronteiras de decisão.
• Auditoria de Engenharia: Uma auditoria estratificada de 17 recomendações (aprox. 10% do conjunto) resultou em uma taxa de aprovação de 100%, com 15 casos correspondendo exatamente a uma linha de base derivada por engenheiros e 2 casos considerados aceitáveis apesar de pequenas variações de SKU.

Significância e Alegações

O artigo afirma que modelos de fundação zero-shot podem apoiar efetivamente o provisionamento alinhado à decisão em ambientes de nuvem não estacionários. A principal significância reside em demonstrar que:

• Modelos zero-shot podem induzir padrões de recomendação semelhantes aos baselines supervisionados por VM sem o ônus operacional de retreinamento, revalidação e redesploiamento repetidos.
• Um modelo de produção menor e de menor custo pode se alinhar de perto com um modelo de referência mais forte ao operar dentro de um contexto de decisão delimitado e baseado em evidências.
• O CLOUDADV oferece uma alternativa prática para equipes incapazes de manter pipelines de previsão supervisionada por locatário, fornecendo recomendações prospectivas fundamentadas em previsões que complementam resumos de utilização retrospectivos.

Os autores mantêm modéstia quanto à generalização, observando que o estudo é limitado a sete VMs e que o sistema é destinado a ser um mecanismo consultivo que requer revisão de engenharia, particularmente para cargas de trabalho sensíveis à memória ou sistemas passando por mudanças significativas. Eles reconhecem que o sistema é vulnerável à não estacionaridade fora da janela de contexto histórico (ex: migrações, longos ciclos de negócios).