💻 computer science

LLM-Powered Predictive Decision-Making for Sustainable Data Center Operations

Este artigo apresenta um sistema de agendamento preditivo baseado em LLM que prevê o tempo de execução e o consumo de energia a partir do código-fonte para otimizar a alocação de recursos de GPU, alcançando uma redução de 32% no uso de energia e uma diminuição de 30% no tempo de espera para operações sustentáveis de data centers.

Autores originais: Hanzhao Wang, Jingxuan Wu, Yumeng Li, Yu Pan, Guanting Chen

Publicado 2026-08-20

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Hanzhao Wang, Jingxuan Wu, Yumeng Li, Yu Pan, Guanting Chen

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

O mundo moderno funciona com base em um motor silencioso e invisível: o centro de dados. Esses vastos armazéns de servidores de computador alimentam tudo, desde a reprodução de filmes até as ferramentas de inteligência artificial que estão remodelando a forma como trabalhamos e pensamos. No entanto, essa conveniência digital vem com um pesado custo físico. Treinar os modelos de inteligência artificial mais avançados exige quantidades imensas de poder computacional, o que, por sua vez, demanda quantidades estonteantes de eletricidade e água para resfriamento. À medida que a demanda por esses sistemas inteligentes cresce, aumenta também a pressão sobre nossas redes de energia e o meio ambiente. O desafio para os engenheiros não é mais apenas tornar esses sistemas mais rápidos; é torná-los sustentáveis, garantindo que o futuro digital não consuma os recursos físicos necessários para sustentá-lo.

Para enfrentar essa crescente tensão, uma equipe de pesquisadores desenvolveu uma nova maneira de gerenciar o fluxo de trabalho dentro desses centros de dados. Em vez de adivinhar quanto tempo uma tarefa de computador levará ou quanta energia consumirá, eles criaram um sistema que utiliza um modelo de linguagem sofisticado para ler o próprio código de computador e prever o resultado antes mesmo de o trabalho começar. Essa abordagem trata o código-fonte — as instruções escritas por programadores humanos — como uma história que o computador pode entender. Ao analisar a estrutura e a lógica do código, o sistema pode estimar o tempo necessário para concluir um trabalho e a energia que ele consumirá, tudo sem a necessidade de executar a tarefa primeiro. Essa capacidade preditiva permite que o centro de dados faça escolhas mais inteligentes sobre quais chips de computador potentes atribuir a quais tarefas, equilibrando a carga para economizar energia e reduzir o tempo de espera.

Os pesquisadores construíram um sistema protótipo que opera em duas etapas distintas. Primeiro, um modelo de inteligência artificial pré-treinado, projetado para entender linguagem humana e código, lê as instruções enviadas por um usuário. Ele traduz o código complexo em uma representação matemática que captura a essência da tarefa. Este modelo não depende de regras rígidas e escritas à mão ou de características específicas que os engenheiros tenham que definir manualmente para cada novo tipo de programa. Em vez disso, utiliza seu treinamento amplo para reconhecer padrões e entender o contexto do código, de forma muito semelhante a como um leitor habilidoso pode compreender o enredo de uma história sem precisar de um resumo. Uma vez que o sistema compreende a tarefa, ele prevê dois números críticos: quanto tempo o trabalho levará para ser concluído e quanta eletricidade utilizará. Essas previsões são feitas em menos de um segundo, rápido o suficiente para serem usadas na tomada de decisões em tempo real.

Com essas previsões em mãos, a segunda etapa do sistema assume o controle: um algoritmo de escalonamento que decide como distribuir os recursos de computação disponíveis. Em um centro de dados típico, as tarefas chegam em um fluxo contínuo, e o gerente deve decidir qual chip de computador atribuir a cada uma delas. Se o gerente atribuir uma tarefa a um chip que é potente demais, a energia é desperdiçada. Se o atribuir a um chip que é fraco demais ou se esperar muito tempo para atribuí-lo, a tarefa fica em uma fila, atrasando os resultados. O novo sistema utiliza as previsões da primeira etapa para calcular a melhor atribuição para cada tarefa recebida. Ele considera a disponibilidade atual de diferentes tipos de chips de computador, o custo de energia estimado e o tempo que a tarefa levará. O objetivo é minimizar a energia total utilizada enquanto mantém o tempo de espera para todas as tarefas o mais curto possível.

Para testar se essa ideia funciona no mundo real, os pesquisadores colaboraram com um centro de dados para realizar uma simulação usando dois meses de dados operacionais reais. Eles compararam seu novo sistema preditivo contra o método padrão usado pela instalação, que se baseia em decisões mais simples e baseadas em regras. Os resultados foram significativos. O novo sistema reduziu o consumo total de energia do centro de dados em 32 por cento. Ao mesmo tempo, reduziu o tempo que as tarefas passaram esperando na fila em 30 por cento. Essas melhorias foram alcançadas não alterando o hardware ou a infraestrutura física, mas mudando a forma como o centro de dados pensa sobre o trabalho que está realizando. O sistema provou que, ao compreender o código antes da execução, a instalação poderia operar com muito mais eficiência.

Um dos aspectos mais impressionantes deste trabalho é a sua flexibilidade. Os métodos tradicionais para prever o uso de energia geralmente exigem um modelo separado e construído sob medida para cada tipo diferente de programa de computador. Se um novo tipo de tarefa aparecesse, o sistema antigo teria dificuldades para prever suas necessidades. A nova abordagem, no entanto, utiliza um modelo único e unificado que pode lidar com uma ampla variedade de tarefas, desde o treinamento de sistemas complexos de reconhecimento de imagem até a execução de modelos de linguagem. Isso ocorre porque o modelo de inteligção artificial subjacente aprendeu a entender a estrutura fundamental do código, em vez de apenas memorizar exemplos específicos. Os pesquisadores descobriram que, mesmo quando o código era escrito em um estilo ligeiramente diferente ou por uma pessoa diferente, o sistema ainda conseguia fazer previsões precisas. Para melhorar ainda mais isso, eles adicionaram uma etapa secundária onde o sistema pode reescrever o código desconhecido em um estilo que corresponda aos seus dados de treinamento, garantindo que as previsões permaneçam precisas mesmo para tarefas que o sistema nunca viu antes.

O estudo também destaca uma mudança na forma como podemos pensar sobre a gestão de recursos na era digital. Durante anos, os centros de dados operaram com base em estimativas fornecidas pelos usuários ou em médias históricas que frequentemente falham. Este novo método substitui o palpite por uma previsão informada. Sugere que a chave para um futuro digital mais sustentável reside em ferramentas de tomada de decisão melhores que possam se adaptar à complexidade da computação moderna. Embora o sistema atual se concentre em tempo e energia, os pesquisadores observam que o mesmo framework poderia ser estendido para prever outros impactos ambientais, como o uso de água para resfriamento ou emissões de carbono, desde que o centro de dados rastreie essas métricas.

O sucesso deste protótipo demonstra que a inteligência artificial pode ser usada não apenas para criar novas tecnologias, mas para otimizar a infraestrutura que as suporta. Ao ler o código e prever o custo do trabalho, o sistema transforma o centro de dados em um organismo mais responsivo e eficiente. A redução de 32 por cento na energia e de 30 por cento no tempo de espera não são apenas números; elas representam um passo tangível para reduzir a pegada ambiental da revolução da IA. À medida que a demanda pela inteligência artificial continua a aumentar, métodos como este oferecem um caminho prático, provando que podemos construir um mundo digital mais inteligente e sustentável sem sacrificar o desempenho. O trabalho mostra que, com as ferramentas certas, o motor invisível da internet pode funcionar de forma mais limpa e eficiente do que nunca.

Resumo Técnico: Tomada de Decisão Preditiva Baseada em LLM para Operações Sustentáveis de Data Centers

1. Formulação do Problema

A rápida expansão das cargas de trabalho impulsionadas por IA, particularmente os Grandes Modelos de Linguagem (LLMs), intensificou o consumo de energia e recursos dos data centers. Os pipelines operacionais atuais em data centers frequentemente dependem de algoritmos heurísticos que alocam recursos (por exemplo, GPUs) com base em estimativas fornecidas pelo usuário sobre a duração da tarefa e as necessidades de recursos. No entanto, prever com precisão o tempo de execução e o consumo de energia é inerentemente difícil devido à complexidade dos sistemas de computação modernos (incluindo largura de banda, memória, pilhas de software e variações de hardware). Consequentemente, nem os usuários nem os data centers possuem conhecimento preciso dos requisitos ideais de recursos, levando a ineficiências, desperdício de recursos e aumento da pegada ambiental.

Os autores formulam um problema de duas partes:

Predição: Dado um código-fonte submetido pelo usuário $x$ e uma potencial configuração de GPU $z$ , prever o tempo de execução $t$ e o consumo de energia $e$ . Estes são modelados como funções desconhecidas $t = f(x, z)$ e $e = g(x, z)$ que são específicas da infraestrutura do data center.
Tomada de Decisão: Desenvolver uma política $\pi$ para alocar sequencialmente recursos de GPU para tarefas que chegam para minimizar uma soma ponderada de tempo de execução, tempo de espera e custo de energia, sujeito a restrições de inventário de GPU limitadas. Este problema é complicado pela presença de uma fila de espera e pela necessidade de equilibrar múltiplos objetivos (otimização multiuso), para os quais não existe uma solução analítica.

2. Metodologia

A. Modelo Preditivo Baseado em LLM

O núcleo do sistema proposto é um modelo preditivo unificado e de ponta a ponta que utiliza um Grande Modelo de Linguagem (LLM) pré-treinado para processar o código-fonte.

Arquitetura: O modelo consiste em dois estágios:
1. Extração de Representação: Um LLM pré-treinado (denotado como $l_{\theta_1}$ ) recebe o código-fonte $x$ como entrada e gera uma representação vetorial de $d$ dimensões. Os parâmetros do LLM $\theta_1$ são mantidos fixos.
2. Sondagem (Probing): Um modelo supervisionado leve (um "probe", denotado como $h_{\theta_2}$ ou $q_{\theta_2}$ ) recebe a representação extraída e a configuração da GPU $z$ como entrada para prever a métrica alvo (tempo ou energia).
Treinamento: O sistema é treinado em um conjunto de dados de código-fonte pareado com resultados de execução reais (tempo e energia) através de várias configurações de GPU. Notavelmente, o modelo requer apenas um pequeno conjunto de dados (aproximadamente 500 exemplos de código-fonte) porque o LLM pré-treinado já possui uma extensa compreensão contextual de código.
Vantagens sobre Métodos Tradicionais:
- Generalização: Ao contrário de métodos anteriores que dependem de características manuais (ex: profundidade de camada, número de passagens) específicas para certos tipos de modelos (ex: apenas CNN), a abordagem de LLM generaliza para diversos tipos de tarefas e tarefas compostas (ex: CNN seguida de LSTM).
- Eficiência de Dados: O LLM pré-treinado atua como um poderoso extrator de características, reduzindo a necessidade de conjuntos de dados de treinamento massivos.
- Flexibilidade: A mesma representação pode ser usada para diferentes alvos de predição (tempo, energia e potencialmente métricas de água/carbono) simplesmente treinando diferentes sondas (probes).

B. Algoritmos de Tomada de Decisão Sequencial

Para otimizar a alocação de recursos, os autores propõem dois algoritmos baseados em dados que utilizam as predições do modelo LLM:

Algoritmo Ganancioso (Greedy): Atribui tarefas com base em uma regra de primeiro a chegar, primeiro a ser servido, selecionando o tipo de GPU que minimiza o valor objetivo estimado ( $\alpha \hat{t} + \beta w + \gamma \hat{e}$ ) para a tarefa atual.
Algoritmo Baseado em Valor: Inspirado no problema da mochila múltipla, este algoritmo considera toda a fila de espera. Ele atribui tarefas com base no seu "valor" na redução do tempo de espera total e dos custos de energia, em vez de seguir estritamente a ordem de chegada.

C. Lidar com Tarefas Fora da Distribuição (OOD)

Os autores identificam uma inconsistência potencial onde códigos funcionalmente equivalentes, escritos por diferentes engenheiros, podem gerar representações de LLM distintas, levando a erros de predição. Para mitigar isso, eles propõem um pipeline estendido:

Align-LLM: Se a representação de uma nova tarefa desviar significamente dos clusters de treinamento, um "Align-LLM" auxiliar reescreve o código-fonte para corresponder ao estilo de tarefas similares no codebase local. Isso alinha a representação de entrada com a distribuição de treinamento, melhorando a precisão da predição sem alterar a funcionalidade do código.

3. Principais Contribuições

Contribuições Metodológicas

Modelo Preditivo Versátil Baseado em LLM: A primeira solução abrangente de ponta a ponta que recebe o código-fonte bruto como entrada para estimar o tempo de execução e o consumo de energia. Elimina a necessidade de características manuais específicas para cada tarefa.
Sistema de Escalonamento Preditivo Totalmente Automatizado: Um framework unificado capaz de lidar com qualquer tipo de tarefa submetida pelo usuário e fornecer estimativas imediatas, superando as limitações dos modelos de predição tradicionais e rígidos.
Tomada de Decisão Sequencial: Um algoritmo baseado em dados que aborda o complexo problema de alocação de recursos multi-objetivo com filas de espera, um cenário onde soluções analíticas padrão falham.

Contribuições de Nível de Aplicação

Implantação Prática: O pipeline executa em um segundo, permitindo o escalonamento em tempo real e de baixo custo. É eficaz mesmo com dados de treinamento limitados.
Sustentabilidade Multiproposito: O framework foi projetado para ser extensível, capaz de prever várias métricas de sustentabilidade (ex: emissões de carbono, uso de água) se os dados necessários estiverem disponíveis.

4. Resultados Experimentais

Os autores validaram sua abordagem através de uma colaboração com um data center, utilizando dois meses de dados operacionais (1 de julho de 2024 – 3 de setembro de 2024).

Métricas de Desempenho: Comparado ao "Simple Rule" (primeiro a chegar, primeiro a ser servido com preferência pela GPU mais poderosa) do data center, o algoritmo baseado em valor proposto alcançou:
- 32% de redução no consumo total de energia (TEC).
- 30% de redução no tempo total de espera (TWT).
- 24% de redução no número de tarefas atrasadas.
Comparação: O algoritmo baseado em valor superou significativamente o algoritmo Greedy ao considerar o estado global da fila de espera em vez de apenas a tarefa imediata.
Robustez: O pipeline estendido com o Align-LLM mitigou com sucesso os erros de predição causados por variações de estilo de codificação, aproximando tarefas fora da distribuição da distribuição de treinamento e melhorando a precisão da predição.

5. Significância e Alegações

O artigo afirma que este trabalho oferece uma solução prática e escalável para modernizar as operações de data centers para atingir metas de sustentabilidade. Ao aproveitar a compreensão contextual e as capacidades de generalização dos LLMs, o sistema proposto supera a rigidez dos métodos tradicionais de predição baseados em heurística e física.

Os autores enfatizam que sua abordagem:

Avança a Infraestrutura: Oferece um caminho para uma infraestrutura de IA mais eficiente e ecologicamente correta.
Une Teoria e Prática: Demonstra que os LLMs podem ser integrados efetivamente em loops de tomada de decisão operacional em tempo real com requisitos mínimos de dados.
Escalabilidade: A natureza unificada do modelo permite que ele se adapie a diversos tipos de tarefas e futuras métricas de sustentabilidade sem exigir um redesenho completo da arquitetura de predição.

O trabalho conclui que a integração da modelagem preditiva baseada em LLM com a tomada de decisão sequencial é uma estratégia viável para reduzir significativamente o impacto ambiental das cargas de trabalho impulsionadas por IA, ao mesmo tempo em que melhora a eficiência operacional.