Resumen Técnico: CLOUDADV

Declaración del Problema

Las máquinas virtuales (VM) en la nube suelen estar sobredimensionadas, lo que genera costos operativos significativos e ineficiencia de recursos. Las prácticas actuales de aprovisionamiento suelen depender de un dimensionamiento estático y conservador basado en la demanda máxima anticipada, lo que deja los recursos subutilizados durante periodos prolongados. Aunque existen herramientas de redimensionamiento automático, estas suelen depender de ventanas de observación fijas y heurísticas basadas en percentiles, careciendo de pronósticos con visión de futuro o mecanismos de retroalimentación para el ingeniero. Además, los modelos de pronóstico supervisados tradicionales requieren ciclos de reentrenamiento, revalidación y despliegue por cada VM cuando el comportamiento de la carga de trabajo deriva, lo que genera una sobrecarga operativa y latencia. El desafío central abordado es cómo lograr un dimensionamiento de instancias alineado con la decisión —donde el pronóstico respalde una acción de aprovisionamiento segura y rentable— bajo la deriva de la carga de trabajo y sin la carga de mantener modelos separados y reentrenables para cada inquilino o horizonte.

Metodología

Los autores presentan CLOUDADV, un sistema de asesoría interactivo orientado al ingeniero, diseñado para generar recomendaciones de dimensionamiento de VM a través de horizontes de planificación de escala diaria, semanal y mensual. El sistema opera mediante un flujo estructurado:

1. Telemetría y Preprocesamiento: El sistema ingiere datos de utilización de CPU e intervalos de 1 minuto de memoria disponible. El uso de memoria se deriva restando la memoria disponible de la capacidad total del SKU actual. Los datos se remuestrean a granularidades específicas del horizonte (30 min, 6 h, 12 h) y se imputan los valores faltantes.
2. Pronóstico Zero-Shot: En lugar de entrenar modelos por cada VM, CLOUDADV emplea modelos fundacionales de series temporales zero-shot (específicamente Chronos-2 y TimesFM 2.5) para generar pronósticos probabilísticos. Estos modelos no requieren entrenamiento específico para la tarea, lo que les permite adaptarse a la deriva de la carga de trabajo sin disparadores de reentrenamiento.
3. Construcción de Contexto de Decisión Acotado: Los pronósticos no se mapean directamente a acciones mediante reglas de forma cerrada. En su lugar, el sistema construye un contexto de decisión estructurado ($c_{i,t,H}$) que contiene:
   • Metadatos y precios del SKU actual.
   • Resúmenes de utilización histórica y pronosticada (percentiles 50, 95 y 95 efectivo).
   • Una lista filtrada de SKUs candidatos restringida a un vecindario de la asignación actual (dentro de un factor de $\delta=2.0$).
   • Heurísticas de dimensionamiento explícitas ($\Gamma_H$) que imponen requisitos de margen de seguridad conservadores ($\tau_{cpu}=0.85, \tau_{mem}=0.80$).
4. Generación de Recomendaciones: Una capa de recomendación basada en un Modelo de Lenguaje de Gran Escala (LLM) procesa el contexto acotado para generar una recomendación estructurada (Acción: mantener/reducir/aumentar, SKU objetivo, Justificación).
   • Modelo de Referencia: Se utiliza un modelo de mayor capacidad (Claude Opus 4.6) de forma offline para generar recomendaciones de referencia.
   • Modelo de Producción: Un modelo más pequeño (Qwen3.5-35B) se evalúa online para valorar la alineación bajo restricciones de latencia y costo.
   • Verificación: Las salidas se verifican contra la evidencia subyacente para asegurar que los identificadores y los valores numéricos coincidan con el contexto recuperado antes de ser presentados al ingeniero.

Contribuciones Clave

1. Formulación Alineada con la Decisión: El artículo replantea el dimensionamiento de instancias en la nube como un problema de pronóstico alineado con la decisión, priorizando la preservación de la decisión de aprovisionamiento posterior sobre la minimización del error de pronóstico bruto.
2. Diseño del Sistema CLOUDADV: Los autores diseñan un sistema interactivo que integra pronóstico zero-shot, recuperación de evidencia estructurada y generación de recomendaciones por LLM con políticas de restricción.
3. Pipeline de Evaluación Consciente del Despliegue: Se introduce un marco novedoso para evaluar la alineación entre un modelo de referencia offline fuerte y un modelo de producción más pequeño y desplegable utilizando prompts acotados idénticos.
4. Evaluación Empírica: El sistema se evalúa en siete VMs de producción utilizando ahorros de costos simulados, tasas de excedencia ex-post y métricas de precisión de pronóstico a través de múltiples horizontes.

Resultados

• Optimización de Costos: En un caso de estudio de siete VMs de producción, las recomendaciones de referencia redujeron los costos mensuales simulados de aproximadamente $1,503 a$708, generando un ahorro de $795/mes (52.9%). Seis de las siete VMs recibieron recomendaciones de reducción (downgrade), mientras que una fue mantenida.
• Seguridad y Excedencia: El sistema mantuvo una baja tasa de excedencia. La mayor excedencia observada entre los casos de reducción fue del 1.5% (para la VM R7). Tres de los cinco casos de reducción con excedencia no nula tuvieron tasas inferiores al 0.2%. Sin embargo, cuando ocurrió la excedencia, pudo ser severa (por ejemplo, desbordamiento de CPU de hasta 85.6 puntos porcentuales en el percentil 95 para R6).
• Precisión del Pronóstico: Chronos-2 y TimesFM 2.5 lograron un rendimiento competitivo en todos los horizontes (Día, Semana, Mes) en comparación con los baselines clásicos (ARIMA, Prophet) y supervisados (TSMixer), a pesar de no tener entrenamiento por cada VM.
• Alineación de Modelos: La concordancia entre el modelo de referencia (Opus 4.6) y el modelo de producción (Qwen3.5-35B) fue alta. El acuerdo exacto de SKU osciló entre el 78.6% y el 100.0%, y el acuerdo a nivel de acción osciló entre el 85.7% y el 100.0%. La alineación fue más fuerte en los horizontes de día y semana, con una ligera degradación en el horizonte de mes, particularmente cerca de los límites de decisión.
• Auditoría de Ingenieros: Una auditoría estratificada de 17 recomendaciones (aproximadamente el 10% del conjunto) resultó en una tasa de aprobación del 100%, con 15 casos que coincidían exactamente con un baseline derivado por un ingeniero y 2 casos considerados aceptables a pesar de variaciones menores de SKU.

Significancia y Reivindicaciones

El artículo sostiene que los modelos fundacionales zero-shot pueden apoyar eficazmente el aprovisionamiento alineado con la decisión en entornos de nube no estacionarios. La principal significancia radica en demostrar que:

• Los modelos zero-shot pueden inducir patrones de recomendación similares a los baselines supervisados por VM sin la carga operativa de repetidos ciclos de reentrenamiento, revalidación y despliegue.
• Un modelo de producción más pequeño y de menor costo puede alinearse estrechamente con un modelo de referencia más fuerte cuando opera dentro de un contexto de decisión acotado y basado en evidencia.
• CLOUDADV ofrece una alternativa práctica para equipos que no pueden mantener pipelines de pronóstico supervisados por cada inquiente, proporcionando recomendaciones con visión de futuro y fundamentadas en pronósticos que complementan los resúmenes de utilización retrospectivos.

Los autores mantienen la modestia respecto a la generalizabilidad, señalando que el estudio se limita a siete VMs y que el sistema está destinado a ser un mecanismo de asesoría que requiere la revisión de un ingeniero, particularmente para cargas de trabajo sensibles a la memoria o sistemas que experimentan cambios significativos. Reconocen que el sistema es vulnerable a la no estacionariedad fuera de la ventana de contexto histórico (por ejemplo, migraciones, ciclos de negocio largos).