Running orbital AI data centers hot: chip leakage matters as much as temperature tolerance

Resumo Técnico: Operando Centros de Dados de IA Orbitais em Altas Temperaturas

Definição do Problema
Propostas para centros de dados de IA orbitais (2024–2026) sugerem posicionar radiadores em altas temperaturas (350–385 K) para explorar a lei da quarta potência de Stefan–Boltzmann, minimizando assim a massa do radiador. No entanto, a literatura existente frequentemente trata a temperatura do radiador como uma entrada independente, negligenciando o acoplamento entre a temperatura do chip e o consumo de energia. Em centros de dados terrestres, temperaturas mais altas aumentam a corrente de fuga, elevando o consumo de energia e a energia de resfriamento. Em órbita, onde a massa é a principal restrição e o radiador é o único dissipador de calor, esse acoplamento cria um compromisso crítico: elevar a temperatura do radiador exige um fluido refrigerante mais quente, o que força os chips e a Memória de Alta Largura de Banda (HBM) a operar em temperaturas de junção mais elevadas. Esse aumento de temperatura impulsiona o aumento da potência de fuga, necessitando de matrizes solares e radiadores maiores para rejeitar o calor adicional. A questão central abordada é se a economia de massa de um radiador menor é anulada pelas penalidades de massa do aumento da potência de fuga, e se os níveis atuais de fuga impedem a realização de designs de alta temperatura.

Metodologia
O estudo desenvolve um modelo de massa em circuito fechado para um satélite de computação resfriado a líquido em órbita. O modelo integra:

• Acoplamento Térmico-Elétrico: Uma equação de ponto fixo resolvendo a temperatura de junção ($T_j$) com base na temperatura do refrigerante ($T_c$) e na potência normalizada do chip ($\Psi$), onde $\Psi$ aumenta com $T_j$ devido à fuga.
• Modelagem de Fuga: A potência do chip é dividida em componentes dinâmicos e de fuga. A fuga é modelada usando uma função do tipo Arrhenius ($T^2 e^{-E_a/kT}$), restringida por ferramentas de estimativa de potência de fornecedores (TSMC, AMD) e medições de transistores. A fração de fuga ($P_L$) e a temperatura de ativação ($E_a$) são derivadas de telemetria de GPUs de centros de dados (H100, V100) e ajustadas a três "formas" (plana, mediana, íngreme).
• Componentes de Massa do Sistema: A massa total por kW de computação de referência ($kW_{ref}$) inclui hardware de computação, massa fixa, massa do radiador (dependente de área e temperatura), matriz solar, armazenamento de energia e massa da bomba de calor (se aplicável).
• Variáveis de Design: O estudo trata os limites de temperatura do chip e da HBM como variáveis de design (escaneados de 85/95 °C para 150 °C) e analisa o impacto do "stack de temperatura" (a diferença entre a temperatura de junção/HBM e a do refrigerante).
• Verificação: O modelo é validado contra estimativas publicadas de Turyshev e o white paper da Starcloud, bem como âncoras de hardware como o radiador fotovoltaico da ISS e testes do NASA Glenn Research Center.

Principais Contribuições e Resultados

1. Requisitos de Chip para Temperaturas da Literatura:
   Para alcançar as temperaturas de radiação efetiva sugeridas pela literatura de 350–385 K, o estudo descobre que os limites de temperatura do chip e da HBM devem ser elevados para aproximadamente 117–174 °C. No entanto, nessas temperaturas, os níveis atuais de fuga desestabilizam o loop térmico. Para um radiador nominal, um design visando 350 K só é estável se a temperatura de ativação da fuga for inferior a ~2750 K (forma plana); as formas mediana e íngreme (representando o comportamento atual das GPUs) resultam em nenhum ponto de operação estável nas velocidades de clock nominais, implicando que tais designs exigiriam o estrangulamento (throttling) permanente do clock.

2. A Fuga Cancela a Economia de Massa:
   Elevar os limites de chip e HBM de 85/95 °C para 150 °C economizaria teoricamente 23,5% da massa em órbita para um chip com zero de fuga. No entanto, com os níveis atuais de fuga ($P_L \approx 0,15$), essa economia é reduzida para apenas 2,6% para um radiador nominal. A fuga cancela aproximadamente 90% da potencial redução de massa. O mecanismo é que a potência extra de fuga exige uma matriz solar e um radiador maiores, o que compensa a redução de área ganha com as temperaturas mais altas.

3. Limiares de Break-Even de Fuga:
   O estudo quantifica o "crescimento de potência impulsionado pela fuga" ($\delta$, % K⁻¹) necessário para que classificações mais altas sejam benéficas. O valor de equilíbrio ($\delta_0$) escala linearmente com a participação da massa dependente da potência do radiador ($\hat{U}_{eff}$). Para um radiador nominal, $\delta_0 \approx 0,80\% \text{ K}^{-1}$. As GPUs atuais exibem $\delta \approx 0,42–0,51\% \text{ K}^{-1}$, o que está abaixo do ponto de equilíbrio (permitindo algumas economias), mas bem acima do limiar necessário para uma economia de 5% ($\delta_5 \approx 0,33\% \text{ K}^{-1}$).

4. Contornando a Fuga via Redução do Stack de Temperatura:
   A estratégia mais eficaz identificada não é elevar os limites de temperatura, mas reduzir o stack de temperatura (a diferença entre o chip/HBM e o refrigerante). Reduzir tanto as diferenças chip-refrigerante quanto HBM-refrigerante de 40 K para 25 K permite que o refrigerante opere 15 K mais quente sem aumentar as temperaturas do chip. Isso contorna a penalidade de fuga inteiramente.

• Resultado: Esta abordagem economiza 8,0% da massa em órbvia com um radiador nominal, sendo quase independente dos níveis de fuga.
• Comparação: Esta economia (8,0%) excede significativamente a economia de elevar os limites de temperatura sob as condições atuais de fuga (2,6%).

5. Abordagens Alternativas:

• Escalonamento de Clock: Reduzir o clock diminui a potência e a fuga, economizando ~25% de massa, mas requer ~39% mais chips, tornando-se proibitivo em termos de custo, a menos que o preço dos chips seja extremamente baixo em relação aos custos de lançamento.
• Bombas de Calor: Usar uma bomba de calor para elevar a temperatura do radiador sem aquecer os chips adiciona massa de compressor e potência. Para radiadores nominais, isso aumenta a massa total em 4,7–35,7%; só gera economia com radiadores muito pesados.

Significância e Alegações
O artigo afirma que, para centros de dados de IA orbitais, baixa fuga é uma especificação tão crítica quanto a alta tolerância à temperatura. O estudo conclui que simplesmente qualificar chips para temperaturas mais altas (ex: 150 °C) não produzirá economias de massa significativas, a menos que a fuga seja simultaneamente reduzida.

A principal alavanca de design para otimização de massa não é o limite absoluto de temperatura, mas o stack de temperatura. Reduzir a resistência térmica entre o chip/HBM e o refrigerante oferece um caminho mais confiável para a redução de massa do que aumentar as classificações de temperatura, pois evita a penalidade composta da potência de fuga. O autor afirma que as futuras especificações de chips para o espaço devem priorizar o crescimento de potência impulsionado pela fuga ($\delta$) juntamente com as classificações de temperatura de junção, e que as temperaturas do radiador devem ser determinadas por essas especificações de chip e pela participação de massa do radiador do sistema, em vez de serem definidas a priori baseadas apenas na lei da quarta potência.