Service-preserving carbon- and water-aware resource allocation for geo-distributed AI inference

Resumo Técnico: Alocação de Recursos Consciente de Carbono e Água com Preservação de Serviço para Inferência de IA Geo-distribuída

Declaração do Problema
A inferência de IA geo-distribuída apresenta um desafio complexo de alocação de recursos, onde o posicionamento da carga de trabalho deve equilibrar capacidade heterogênea, latência e restrições de migração contra objetivos ambientais. As abordagens existentes frequentemente dependem de pontuações ponderadas que obscurecem as unidades físicas e as prioridades de serviço, carbono e água, ou falham em garantir que as otimizações ambientais não ocorram à custa de um serviço fisicamente viável não atendido. Além disso, as restrições de água são distintas das restrições de carbono; elas não necessariamente co-variam e exigem contexto regional específico (ex: estresse hídrico) para serem significativas. O problema central é determinar a penalidade de carbono associada à limitação progressiva do uso direto físico de água em regiões de alto estresse, enquanto se preserva estritamente o nível máximo viável de serviço de inferência de IA.

Metodologia
Os autores propõem um framework de otimização lexicográfica de dois estágios, orientado por traços (trace-driven), que converte o problema de sistemas em uma fronteira de carbono-água inspecionável.

1. Modelo de Sistema e Contabilidade:

   • Proxy de Serviço: O modelo utiliza um proxy de serviço de "equivalente a um único acelerador" derivado do tempo de execução ($D_t = \sum \tau_j / 3600$) a partir do Alibaba GenAI Serving Top-Down Dataset 2026 (GenTD26).
   • Contabilidade Física: O carbono é calculado via Energia de TI $\times$ PUE $\times$ fatores de carbono regionais. A água direta é calculada como Energia de TI $\times$ Eficácia do Uso de Água (WUE). Crucialmente, o PUE afeta a eletricidade e o carbono da instalação, mas não a água direta.
   • Triagem (Screening): Uma triagem binária de localização baseada no baseline de estresse hídrico do Aqueduct identifica regiões como "Alta" ou "Extremamente alta". A água direta nessas regiões está sujeita a um limite (cap), enquanto a água em outras regiões não está.

2. Otimização Lexicográfica de Dois Estágios:

   • Estágio 1 (Maximização de Serviço): Minimiza o serviço não atendido ($u_t$) sujeito a capacidade, limites de migração e limiares de latência. Isso estabelece o nível de serviço máximo viável ($S_{max}$).
   • Estágio 2 (Otimização Ambiental): Fixa o serviço não atendido ao ótimo do Estágio 1 (dentro de tolerância numérica) e minimiza o carbono total modelado. Este estágio opera sob uma $\epsilon$-restrição opcional: $\sum W_{tr}^H \leq \epsilon$, onde $W_{tr}^H$ representa a água direta triada.
   • Abordagem: Esta estrutura garante que as comparações ambientais sejam feitas apenas entre alocações que entregam níveis de serviço idênticos. A $\epsilon$-restrição mantém o carbono e a água em unidades físicas (kgCO2e e Litros), em vez de colapsá-los em uma pontuação ponderada.

3. Design Experimental:

   • Fronteira de Referência: Uma fronteira de 21 pontos é gerada variando o limite de água de 0% a 100% da exposição de água direta triada da alocação de carbono prioritária sem restrições.
   • Envelope de Cenários: Um design fatorial completo (243 células) cruza três mapeamentos de carbono, três cenários de PUE, três cenários de capacidade, três limites de migração e três limiares de latência.
   • Análise de Sensibilidade: Inclui 81 perfis espaciais de WUE, verificações de escala de energia e 4.000 reamostragens de blocos circulares de 24 horas pareadas para isolar a sensibilidade da composição temporal.

Resultos Principais

• Fronteira de Referência: No cenário de referência, evitar 2,4250 L de água direta triada (ao definir o limite em 0%) acarreta um custo de carbono adicional de 0,0582 kgCO2e em relação à alocação de carbono prioritária sem restrições. No entanto, isso permanece 13,083% menor em carbono do que uma linha de base de "sem migração".
• Custos Marginais: O custo marginal de carbono por litro de água direta triada evitada aumenta conforme o limite se torna mais restritivo, subindo de 0,0016 kgCO2e/L em segmentos menos restritivos para 0,0707 kgCO2e/L no segmento final ao aproximar-se de um limite zero.
• Mudanças de Alocação: À medida que o limite de água se torna mais rigoroso, o modelo desloca a alocação de regiões triadas (Norte e Noroeste) para regiões não triadas (Sudoeste), enquanto a região de origem (Leste) permanece inalterada.
• Robustez de Cenários: Em 1.215 soluções ótimas na grade de 243 células, a mudança de carbono em relação à linha de base de sem migração varia de -48,151% a zero numérico. A direção da redução de carbono é estável, embora as magnitudes variem significamente com base nas suposições de federação.
• Sensibilidade de WUE: Variações espaciais de WUE afetam as penalidades de limite intermediário, mas não alteram os pontos finais de limite zero ou de 100% na configuração de referência.
• Estabilidade Temporal: A reamostragem pareada confirma que a direção da redução de carbono persiste através de diferentes composições temporais do segmento de traço, embora o volume de água evitada varie.

Principuições e Contribuições

1. Conjunto Viável de Equivalência de Serviço: Introduz um framework onde as comparações ambientais são estritamente limitadas a alocações que entregam o serviço máximo viável, evitando soluções "verdes" que simplesmente reduzem a demanda.
2. Integração de Unidades Físicas: Integra a contabilidade de água direta física com uma triagem de estresse regional como uma restrição explícita, preservando unidades interpretáveis (Litros e kgCO2e) em vez de usar pontuações ponderadas opacas.
3. Fronteira Inspecionável: Expõe uma fronteira de 21 pontos e custos de carbono de limite adjacente, permitindo que gestores de recursos visualizem os trade-offs entre restrições de água e penalidades de carbono.
4. Teste de Estresse Abrangente: Distingue propriedades estruturais do modelo de magnitudes dependentes de cenários através de uma grade de federação de 243 células completa, 1.215 resoluções com restrição de limite e extensa reamostragem, fornecendo uma cadeia de evidências auditável.

Significância e Alegações
O artigo alega fornecer um benchmark de planejamento reprodutível e uma interface de gestão de recursos para avaliar restrições ambientais de preservação de serviço. Sua principal significância reside no desacoplamento da viabilidade de serviço da otimização ambiental, permitindo que sistemas de orquestração de nível superior:

• Declare uma permissão de água triada e receba o carbono modelado mínimo alcançável dentro das restrições de federação.
• Especifique uma penalidade de carbono aceitável e identifique os correspondentes limites de água e alocações regionais viáveis.

Os autores enfatizam que o framework é uma camada de tempo de design destinada a expor alocações viáveis de equivalência de serviço. Não é um sistema de tempo de execução (runtime); ele não lida com enfileiramento, falhas ou telemetria em tempo real. O estudo limita explicitamente seu escopo à água operacional direta (Energia de TI $\times$ WUE) e não afirma representar a pegada hídrica total do ciclo de vida, observando que avaliações mais amplas exigiriam evidências regionais e temporais adicionais não presentes no modelo atual. O trabalho serve como um componente modular para futura integração em stacks de orquestração de produção.