💻 computer science

LLM-Powered Predictive Decision-Making for Sustainable Data Center Operations

Este artículo presenta un sistema de programación predictiva impulsado por LLM que pronostica el tiempo de ejecución y el consumo de energía a partir del código fuente para optimizar la asignación de recursos de GPU, logrando una reducción del 32% en el uso de energía y una disminución del 30% en el tiempo de espera para operaciones de centros de datos sostenibles.

Autores originales: Hanzhao Wang, Jingxuan Wu, Yumeng Li, Yu Pan, Guanting Chen

Publicado 2026-08-20

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Hanzhao Wang, Jingxuan Wu, Yumeng Li, Yu Pan, Guanting Chen

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

El mundo moderno funciona con un motor silencioso e invisible: el centro de datos. Estos vastos almacenes de servidores informáticos impulsan todo, desde la transmisión de películas hasta las herramientas de inteligencia artificial que están transformando la forma en que trabajamos y pensamos. Sin embargo, esta conveniencia digital conlleva un pesado costo físico. Entrenar los modelos de inteligencia artificial más avanzados requiere cantidades inmensas de potencia de cálculo, lo que a su vez demanda cantidades asombrosas de electricidad y agua para la refrigeración. A medida que crece la demanda de estos sistemas inteligentes, también aumenta la presión sobre nuestras redes energéticas y el medio ambiente. El desafío para los ingenieros ya no es solo hacer que estos sistemas sean más rápidos; es hacerlos sostenibles, asegurando que el futuro digital no consuma los recursos físicos necesarios para sustentarlo.

Para abordar esta creciente tensión, un equipo de investigadores ha desarrollado una nueva forma de gestionar el flujo de trabajo dentro de estos centros de datos. En lugar de adivinar cuánto tiempo tardará una tarea informática o cuánta energía consumirá, crearon un sistema que utiliza un sofisticado modelo de lenguaje para leer el propio código informático y predecir el resultado antes de que el trabajo comience. Este enfoque trata el código fuente —las instrucciones escritas por programadores humanos— como una historia que la computadora puede entender. Al analizar la estructura y la lógica del código, el sistema puede estimar el tiempo requerido para terminar un trabajo y la energía que consumirá, todo sin necesidad de ejecutar la tarea primero. Esta capacidad predictiva permite al centro de datos tomar decisiones más inteligentes sobre qué chips informáticos potentes asignar a qué trabajos, equilibrando la carga para ahorrar energía y reducir los tiempos de espera.

Los investigadores construyeron un sistema prototipo que opera en dos etapas distintas. Primero, un modelo de inteligencia artificial preentrenado, diseñado para entender el lenguaje humano y el código, lee las instrucciones enviadas por un usuario. Traduce el complejo código en una representación matemática que captura la esencia de la tarea. Este modelo no depende de reglas rígidas escritamente a mano o características específicas que los ingenieros tengan que definir manualmente para cada nuevo tipo de programa. En su lugar, utiliza su amplio entrenamiento para reconocer patrones y comprender el contexto del código, de forma muy similar a como un lector hábil puede captar la trama de una historia sin necesidad de un resumen. Una vez que el sistema comprende la tarea, predice dos números críticos: cuánto tiempo tardará el trabajo en completarse y cuánta electricidad utilizará. Estas predicciones se realizan en menos de un segundo, lo suficientemente rápido como para ser utilizadas en la toma de decisiones en tiempo real.

Con estas predicciones en mano, la segunda etapa del sistema toma el control: un algoritmo de planificación que decide cómo distribuir los recursos informáticos disponibles. En un centro de datos típico, las tareas llegan en un flujo continuo y el gestor debe decidir a qué chip informático asignar cada una. Si el gestor asigna una tarea a un chip que es demasiado potente, se desperdicia energía. Si la asigna a un chip que es demasiado débil o si espera demasiado tiempo para asignarla, la tarea permanece en una cola, retrasando los resultados. El nuevo sistema utiliza las predicciones de la primera etapa para calcular la mejor asignación posible para cada tarea entrante. Considera la disponibilidad actual de diferentes tipos de chips informáticos, el costo energético estimado y el tiempo que la tarea tomará. El objetivo es minimizar la energía total utilizada mientras se mantiene el tiempo de espera para todas las tareas lo más corto posible.

Para probar si esta idea funciona en el mundo real, los investigadores colaboraron con un centro de datos para ejecutar una simulación utilizando dos meses de datos operativos reales. Compararon su nuevo sistema predictivo contra el método estándar utilizado por la instalación, el cual se basa en decisiones más simples basadas en reglas. Los resultados fueron significados. El nuevo sistema redujo el consumo total de energía del centro de datos en un 32 por ciento. Al mismo tiempo, redujo el tiempo que las tareas pasaban esperando en fila en un 30 por ciento. Estas mejoras se lograron no cambiando el hardware o la infraestructura física, sino cambiando la forma en que el centro de datos piensa sobre el trabajo que está realizando. El sistema demostró que, al comprender el código antes de la ejecución, la instalación podía operar con una eficiencia mucho mayor.

Uno de los aspectos más llamativos de este trabajo es su flexibilidad. Los métodos tradicionales para predecir el uso de energía a menudo requieren un modelo personalizado y separado para cada tipo diferente de programa informático. Si aparecía un nuevo tipo de tarea, el sistema antiguo tendría dificultades para predecir sus necesidades. El nuevo enfoque, sin embargo, utiliza un modelo único y unificado que puede manejar una amplia variedad de tareas, desde el entrenamiento de complejos sistemas de reconocimiento de imágenes hasta la ejecución de modelos de lenguaje. Esto se debe a que el modelo de inteligencia artificial subyacente ha aprendido a entender la estructura fundamental del código, en lugar de solo memorizar ejemplos específicos. Los investigadores encontraron que incluso cuando el código era escrito en un estilo ligeramente diferente o por una persona distinta, el sistema aún podía realizar predicciones precisas. Para mejorar esto aún más, añadieron un paso secundario donde el sistema puede reescribir el código desconocido en un estilo que coincida con sus datos de entrenamiento, asegurando que las predicciones sigan siendo precisas incluso para tareas que el sistema nunca ha visto antes.

El estudio también destaca un cambio en cómo podríamos pensar en la gestión de recursos en la era digital. Durante años, los centros de datos han operado basándose en estimaciones proporcionadas por los usuarios o en promedios históricos que a menudo no dan en el clavo. Este nuevo método reemplaza la conjetura con la predicción informada. Sugiere que la clave para un futuro digital más sostenible reside en mejores herramientas de toma de decisiones que puedan adaptarse a la complejidad de la computación moderna. Si bien el sistema actual se centra en el tiempo y la energía, los investigadores señalan que el mismo marco podría extenderse para predecir otros impactos ambientales, como el uso de agua para la refrigeración o las emisiones de carbono, siempre que el centro de datos realice el seguimiento de esas métricas.

El éxito de este prototipo demuestra que la inteligencia artificial puede utilizarse no solo para crear nuevas tecnologías, sino para optimizar la infraestructura que las soporta. Al leer el código y predecir el costo del trabajo, el sistema convierte al centro de datos en un organismo más receptivo y eficiente. La reducción del 32 por ciento en la energía y la reducción del 30 por ciento en el tiempo de espera no son solo números; representan un paso tangible hacia la reducción de la huella ambiental de la revolución de la IA. A medida que la demanda de inteligencia artificial continúa aumentando, métodos como este ofrecen un camino práctico a seguir, demostrando que podemos construir un mundo digital más inteligente y sostenible sin sacrificar el rendimiento. El trabajo muestra que, con las herramientas adecuadas, el motor invisible de internet puede funcionar de manera más limpia y eficiente que nunca.

Resumen Técnico: Toma de Decisiones Predictiva Impulsada por LLM para Operaciones de Centros de Datos Sostenibles

1. Formulación del Problema

La rápida expansión de las cargas de trabajo impulsadas por la IA, particularmente los Modelos de Lenguaje de Gran Escala (LLM), ha intensificado el consumo de energía y recursos de los centros de datos. Los flujos de trabajo operativos actuales en los centros de datos a menudo dependen de algoritmos heurísticos que asignan recursos (por ejemplo, GPUs) basándose en estimaciones proporcionadas por el usuario sobre la duración de la tarea y las necesidades de recursos. Sin embargo, predecir con precisión el tiempo de ejecución y el consumo de energía es inherentemente difícil debido a la complejidad de los sistemas informáticos modernos (incluyendo el ancho de banda, la memoria, los stacks de software y las variaciones de hardware). En consecuencia, ni los usuarios ni los centros de datos poseen un conocimiento preciso de los requisitos óptimos de recursos, lo que conduce a ineficiencias, desperdicio de recursos y mayores huellas ambientales.

Los autores formulan un problema de dos partes:

Predicción: Dado un código fuente $x$ enviado por el usuario y una configuración de GPU potencial $z$ , predecir el tiempo de ejecución $t$ y el consumo de energía $e$ . Estos se modelan como funciones desconocidas $t = f(x, z)$ y $e = g(x, z)$ que son específicas de la infraestructura del centro de datos.
Toma de Decisiones: Desarrollar una política $\pi$ para asignar secuencialmente recursos de GPU a las tareas entrantes para minimizar una suma ponderada de tiempo de ejecución, tiempo de espera y costo de energía, sujeto a restricciones de inventario de GPU limitadas. Este problema se complica por la presencia de una cola de espera y la necesidad de equilibrar múltiples objetivos (optimización multipropósito), para los cuales no existe una solución analítica.

2. Metodología

A. Modelo Predictivo Basado en LLM

El núcleo del sistema propuesto es un modelo predictivo unificado de extremo a extremo que utiliza un Modelo de Lenguaje de Gran Escala (LLM) preentrenado para procesar el código fuente.

Arquitectura: El modelo consta de dos etapas:
1. Extracción de Representación: Un LLM preentrenado (denotado como $l_{\theta_1}$ ) toma el código fuente $x$ como entrada y genera una representación vectorial de $d$ dimensiones. Los parámetros del LLM $\theta_1$ se mantienen fijos.
2. Sondeo (Probing): Un modelo supervisado ligero (un "probe", denotado como $h_{\theta_2}$ o $q_{\theta_2}$ ) toma la representación extraída y la configuración de la GPU $z$ como entrada para predecir la métrica objetivo (tiempo o energía).
Entrenamiento: El sistema se entrena en un conjunto de datos de código fuente emparejado con resultados de ejecución reales (tiempo y energía) a través de diversas configuraciones de GPU. Notablemente, el modelo requiere solo un conjunto de datos pequeño (aproximadamente 500 ejemplos de código fuente) porque el LLM preentrenado ya posee una extensa comprensión contextual del código.
Ventajas sobre Métodos Tradicionales:
- Generalización: A diferencia de los métodos anteriores que dependen de características diseñadas manualmente (por ejemplo, profundidad de capa, número de pasadas) específicas para ciertos tipos de modelos (por ejemplo, solo CNN), el enfoque de LLM se generaliza a través de diversos tipos de tareas y tareas compuestas (por ejemplo, CNN seguida de LSTM).
- Eficiencia de Datos: El LLM preentrenado actúa como un poderoso extractor de características, reduciendo la necesidad de conjuntos de datos de entrenamiento masivos.
- Flexibilidad: La misma representación puede usarse para diferentes objetivos de predicción (tiempo, energía y, potencialmente, métricas de agua/carbono) simplemente entrenando diferentes sondas (probes).

B. Algoritmos de Toma de Decisiones Secuenciales

Para optimizar la asignación de recursos, los autores proponen dos algoritmos basados en datos que utilizan las predicciones del modelo LLM:

Algoritmo Greedy (Codicioso): Asigna tareas basándose en una regla de primero en llegar, primero en ser servido, seleccionando el tipo de GPU que minimiza el valor objetivo estimado ( $\alpha \hat{t} + \beta w + \gamma \hat{e}$ ) para la tarea actual.
Algoritmo Basado en Valor: Inspirado en el problema de la mochila múltiple, este algoritmo considera la cola de espera completa. Asigna tareas basándose en su "valor" para reducir el tiempo de espera general y los costos de energía, en lugar de seguir estrictamente el orden de llegada.

C. Manejo de Tareas Fuera de Distribución (OOD)

Los autores identifican una inconsistencia potencial donde el código funcionalmente equivalente escrito por diferentes ingenieros podría generar representaciones de LLM distintas, lo que conduce a errores de predicción. Para mitigar esto, proponen un pipeline extendido:

Align-LLM: Si la representación de una nueva tarea se desvía significativamente de los clusters de entrenamiento, un "Align-LLM" auxiliar reescribe el código fuente para que coincida con el estilo de tareas similares en el codebase local. Esto alinea la representación de entrada con la distribución de entrenamiento, mejorando la precisión de la predicción sin alterar la funcionalidad del código.

3. Contribuciones Clave

Contribuciones Metodológicas

Modelo Predictivo Versátil Basado en LLM: La primera solución integral de extremo a extremo que toma código fuente bruto como entrada para estimar el tiempo de ejecución y el consumo de energía. Elimina la necesidad de características diseñadas manualmente para tareas específicas.
Sistema de Programación Predictiva Totalmente Automatizado: Un marco unificado capaz de manejar cualquier tipo de tarea enviada por el usuario y proporcionar estimaciones inmediatas, superando las limitaciones de los modelos de predicción tradicionales y rígidos.
Toma de Decisiones Secuencial: Un algoritmo basado en datos que aborda el complejo problema de asignación de recursos multiobjetivo con colas de espera, un escenario donde las soluciones analíticas estándar fallan.

Contribuciones a Nivel de Aplicación

Despliegue Práctico: El pipeline se ejecuta en menos de un segundo, lo que permite una programación en tiempo real y rentable. Es efectivo incluso con datos de entrenamiento limitados.
Sostenibilidad Multipropósito: El marco está diseñado para ser extensible, capaz de predecir diversas métricas de sostenibilidad (por ejemplo, emisiones de carbono, uso de agua) si se dispone de los datos necesarios.

4. Resultados Experimentales

Los autores validaron su enfoque mediante una colaboración con un centro de datos, utilizando dos meses de datos operativos (1 de julio de 2024 – 1 de septiembre de 2024).

Métricas de Desempeño: Comparado con la línea base de "Regla Simple" del centro de datos (primero en llegar, primero en ser servido con preferencia por la GPU más potente), el algoritmo Basado en Valor propuesto logró:
- Reducción del 32% en el consumo total de energía (TEC).
- Reducción del 30% en el tiempo total de espera (TWT).
- Reducción del 24% en el número de tareas retrasadas.
Comparación: El algoritmo Basado en Valor superó significativamente al algoritmo Greedy al considerar el estado global de la cola de espera en lugar de solo la tarea inmediata.
Robustez: El pipeline extendido con Align-LLM mitigó con éxito los errores de predicción causados por las variaciones en el estilo de codificación, acercando las tareas fuera de la distribución a la distribución de entrenamiento y mejorando la precisión de la predicción.

5. Significado y Reivindicaciones

El artículo afirma que este trabajo ofrece una solución práctica y escalable para modernizar las operaciones de los centros de datos para cumplir con los objetivos de sostenibilidad. Al aprovechar la comprensión contextual y las capacidades de generalización de los LLM, el sistema propuesto supera la rigidez de los métodos de predicción tradicionales basados en heurísticas y física.

Los autores enfatizan que su enfoque:

Avanza la Infraestructura: Proporciona un camino hacia una infraestructura de IA más eficiente y respetuosa con el medio ambiente.
Une la Teoría y la Práctica: Demuestra que los LLM pueden integrarse eficazmente en los bucles de toma de decisiones operativas en tiempo real con requisitos mínimos de datos.
Escalabilidad: La naturaleza unificada del modelo le permite adaptarse a diversos tipos de tareas y futuras métricas de sostenibilidad sin requerir un rediseño completo de la arquitectura de predicción.

El trabajo concluye que la integración de la modelación predictiva basada en LLM con la toma de decisiones secuencial es una estrategia viable para reducir significativamente el impacto ambiental de las cargas de trabajo impulsadas por la IA, mejorando al mismo tiempo la eficiencia operativa.