O software moderno muitas vezes não roda como um único programa massivo, mas como uma coleção de partes pequenas e independentes chamadas microsserviços. Essas partes conversam entre si constantemente, como uma equipe de especialistas passando notas para resolver um problema complexo. Para manter essa equipe funcionando perfeitamente, os computadores que as hospedam devem ajustar sua potência automaticamente. Se muitas pessoas visitarem um site ao mesmo tempo, o sistema precisa adicionar mais trabalhadores instantaneamente. Se o tráfego diminuir, ele deve dispensar os trabalhadores para economizar dinheiro. Esse ajuste automático é chamado de autoescalonamento (autoscaling). Atualmente, a maioria dos sistemas espera até ver um problema — como tempos de resposta lentos — antes de reagir. Essa reação leva vários minutos, um atraso que parece uma eternidade no mundo digital, causando lag ou erros aos usuários. Além disso, as pessoas que gerenciam esses sistemas muitas vezes carecem de uma visão clara e imediata de quanto custa cada ajuste específico, tornando difícil equilibrar desempenho com orçamento.

Uma equipe de pesquisadores da Universidade Multimedia, na Malásia, desenvolveu um novo sistema projetado para resolver ambos os problemas de uma só vez. Eles chamam seu framework de ST-KEDA. Em vez de esperar que o tráfego aumente e então reagir, este sistema tenta prever o aumento antes que ele aconteça. Ele também mantém uma contagem contínua do custo de cada ação que toma, permitindo que tome decisões que economizem dinheiro sem sacrificar a velocidade. Os pesquisadores testaram este sistema em dois exemplos do mundo real de software complexo: uma loja de compras online com onze serviços diferentes e um sistema de reserva de passagens de trem com quarenta e um serviços. Seus achados mostram que, ao olhar para o futuro e compreender o impacto financeiro de cada movimento, o sistema pode reduzir os custos de infraestrutura em mais de um terço, enquanto reduz drasticamente o número de vezes que adiciona e remove trabalhadores freneticamente.

O cerne do problema reside em como os sistemas atuais monitoram problemas. Ferramentas padrão monitoram a carga de trabalho atual do computador, como o quão ocupados estão os processadores. Quando a carga de trabalho cruza uma certa linha, o sistema ordena mais potência de computação. No entanto, o tempo necessário para notar o pico, calcular a necessidade, encontrar um novo computador, baixar o software necessário e iniciar o novo trabalhador é significativo. Nos testes dos pesquisadores, todo esse processo levou, em média, quase cinco minutos. Durante essa janela, o sistema fica sobrecarregado e os usuários sofrem. A nova abordagem, ST-KEDA, muda a estratégia de reagir para antecipar. Ela observa o histórico de padrões de tráfego para adivinhar o que acontecerá nos próximos minutos.

Para tornar essas previsões precisas, o sistema primeiro decompõe o histórico complexo de tráfego em partes mais simples e compreensíveis. Imagine uma gravação ruidosa de uma rua movimentada; ela contém o zumbido constante do tráfego, o padrão rítmico da hora do rush e sons súbitos e agudos, como a buzina de um carro. Os pesquisadores usaram uma técnica matemática para separar esses diferentes ritmos do ruído. Eles descobriram que, ao estudar esses padrões separados — as tendências constantes, os ciclos diários e os picos repentinos — o computador poderia entender o tráfego muito melhor do que apenas olhando para os dados brutos e desordenados. Essa separação permitiu que o mecanismo de previsão visse a estrutura subjacente da demanda, em vez de apenas o caos.

O sistema então utiliza um modelo de aprendizado sofisticado que entende como as diferentes partes do software dependem umas das outras. Em uma arquitetura de microsserviços, uma parte frequentemente aciona outra. Por exemplo, um usuário clicando em "comprar" pode acionar uma verificação de estoque, que então aciona um processo de pagamento. Se o sistema prevê um surto de cliques em "comprar", ele sabe que os serviços de estoque e de pagamento também precisarão de mais potência, mesmo antes que esses serviços mostrem sinais de estarem ocupados. Ao mapear essas conexões, o sistema pode preparar toda a cadeia de serviços simultaneamente. Isso evita o lag que ocorre quando uma parte está pronta, mas a próxima ainda está "acordando".

Crucialmente, este sistema não se preocupa apenas com a velocidade; ele se preocupa com a etiqueta de preço. Serviços de computação em nuvem cobram por minuto por cada unidade de processador e memória utilizada. Os pesquisadores construíram uma camada em seu sistema que calcula o custo de cada decisão de escalonamento em tempo quase real. Enquanto as faturas tradicionais podem levar dias para chegar, este sistema estima o custo dentro de segundos após realizar uma mudança. Ele sabe exatamente quanto uma nova instância de computador custará na próxima hora. Isso permite que o sistema faça uma troca: ele pode decidir economizar dinheiro mantendo o número de trabalhadores ligeiramente menor, aceitando uma chance muito pequena de lentidão, ou pode gastar mais para garantir velocidade perfeita. Os pesquisadores testaram uma configuração onde o sistema priorizava a economia de dinheiro e, com sucesso, reduziu o custo total de operação da loja online em 34,7 por cento.

Os resultados dos testes foram impressionantes. Comparado ao sistema reativo padrão, a nova abordagem reduziu o tempo para se ajustar ao novo tráfego de quase cinco minutos para apenas oito segundos. Essa velocidade significou que o sistema raramente ficava para trás. Os pesquisadores também mediram algo chamado "flapping" (oscilação), que acontece quando um sistema reage excessivamente, adicionando muitos trabalhadores, depois removendo-os imediatamente, e adicionando-os novamente. Essa alternância constante é dispendiosa e instável. O novo sistema reduziu esse comportamento caótico em 96,6%, criando uma operação muito mais suave. Quando o sistema foi permitido ignorar preocupações de custo e focar apenas no desempenho, o número de respostas lentas caiu para apenas 2%, uma melhoria significativa em relação aos 8% do sistema padrão.

O estudo também revelou que os componentes específicos de seu design eram todos necessários. Quando removeram a capacidade de decompor os padrões de tráfego, as previsões tornaram-se menos precisas. Quando removeram o entendimento de como os serviços se conectavam, o sistema falhou em preparar as partes subsequentes da cadeia a tempo. E quando removeram o rastreamento de custos, o sistema não pôde mais fazer as trocas inteligentes que levaram a economias tão significativas. Os pesquisadores descobriram que o melhor equilíbrio foi alcançado quando o sistema foi ajustado para se importar tanto com o custo quanto com a velocidade, aceitando um aumento ínfimo nas respostas lentas para alcançar economias financeiras massivas.

Este trabalho demonstra que gerenciar sistemas de software complexos não precisa ser um jogo de "tentar alcançar o atraso". Ao combinar uma compreensão profunda de como os padrões de tráfego evoluem, como as diferentes partes do software dependem umas das outras e exatamente quanto custa cada decisão, é possível executar esses sistemas de forma mais eficiente e barata. Os pesquisadores testaram suas ideias em dois tipos distintos de aplicações, sugerindo que a abordagem é robusta o suficiente para lidar com diferentes tipos de cargas de trabalho. Embora o sistema tenha sido testado em um ambiente de nuvem específico, os princípios de prever a demanda e integrar o custo no ciclo de tomada de decisão oferecem um caminho claro para qualquer pessoa que gerencie serviços digitais de grande escala. O futuro da computação em nuvem pode não ser apenas sobre ter mais potência, mas sobre saber exatamente quando e como usá-la.