LLMSpace: Carbon Footprint Modeling for Large Language Model Inference on LEO Satellites

인터넷을 전기로 생각하며 먹어치우는 거대하고 배고픈 짐승이라고 상상해 보세요. 챗봇에 질문을 할 때마다 에너지가 소모되어 자동차를 운전하는 것과 유사한 '탄소 발자국'이 발생합니다. 이를 해결하기 위해 일부 기업은 지구상의 데이터 센터에서 thinking machines(생각하는 기계) 를 우주로 옮기는 야심 찬 아이디어를 제안하고 있습니다. 그곳에서는 무료이면서도 끝없는 태양광으로 작동할 수 있기 때문입니다.

하지만 궤도에 슈퍼컴퓨터를 발사하기 전에 알아야 할 점이 있습니다: 실제로 더 친환경적인 것일까, 아니면 한 가지 문제를 다른 문제로 바꾸는 것일까?

이 논문은 저궤도 (LEO) 위성에서 AI 를 실행할 때의 진정한 환경 비용을 계산하도록 설계된 새로운 계산기 (또는 '모델') 인 LLMSpace를 소개합니다.

다음은 LLMSpace 가 작동하는 방식을 간단한 비유로 설명한 것입니다:

1. 두 가지 유형의 '탄소 부채'

위성의 탄소 발자국을 두 가지 유형의 부채가 있는 은행 계좌라고 생각하세요:

• 운영 부채 (일일 지출): 위성이 작동하는 동안 사용되는 전기입니다. 지구에서는 전력망 (더러운 석탄이나 깨끗한 풍력일 수 있음) 에서 나옵니다. 우주에서는 위성이 태양광 패널로 작동하므로 '일일 지출'은 사실상 제로입니다.
• 구현 부채 (선제 비용): 위성이 켜지기 전에 발생하는 오염입니다. 여기에는 다음에서 나오는 탄소가 포함됩니다:
  • 위성을 그곳으로 보내기 위한 로켓 건설.
  • 위성 자체의 제조.
  • 우주 생존에 필요한 특별 부품 제작.

큰 질문: 우주의 무료 태양 에너지가 우주 컴퓨터를 발사하고 건설하는 막대한 '선제 비용'을 상쇄할 만큼 '일일 지출'을 충분히 절약해 줄까요?

2. 우주 컴퓨터가 다른 이유 ('방호' 장비)

일반적인 노트북이나 표준 게이밍 GPU(당신의 PC 에 있는 것과 같은 것) 를 그냥 우주로 던져 넣을 수는 없습니다. 우주는 보이지 않는 방사선으로 가득 찬 적대적인 환경이며, 이 방사선은 작은 총알처럼 작용하여 일반적인 전자 장치를 태워버립니다.

• 'COTS' 문제: 표준 칩 (COTS 라고 함) 은 우박 폭풍에서 티셔츠만 입고 있는 것과 같습니다. 몇 년은 작동할지 모르지만, 결국 고장 납니다.
• '방사선 강화 (Rad-Hard)' 솔루션: 생존하기 위해 위성은 '방사선 강화' 칩이 필요합니다. 이것들을 방탄 갑옷이라고 생각하세요.
  • 단점: 이 갑옷을 만드는 것은 비싸고 에너지 집약적입니다. 구식이고 느린 제조 공정과 추가 보호 층 (예: 모든 계산을 삼중으로 확인) 이 필요합니다.
  • LLMSpace 의 통찰: 이 논문은 이 '갑옷'이 무게와 제조 오염을 크게 증가시킨다고 계산합니다. 칩이 더 무겁고 효율이 낮기 때문에 위성은 이를 작동시키기 위해 더 큰 태양광 패널과 더 큰 배터리가 필요합니다. 이는 연쇄 반응을 일으킵니다: 무거운 갑옷 → 더 큰 배터리 → 더 큰 발사 로켓 → 더 많은 탄소 부채.

3. 'LLM' 요인 (프리필 vs 디코드 춤)

대규모 언어 모델 (LLM) 은 단순히 직선으로 작동하지 않습니다. 두 가지 뚜렷한 모드가 있으며, LLMSpace 는 각각의 탄소 비용을 추적합니다:

• '프리필 (Prefill)' (준비): 셰프가 긴 레시피 (당신의 프롬프트) 를 한 번에 모두 읽어서 준비하는 것을 상상해 보세요. 이는 빠르지만 많은 컴퓨팅 전력을 사용합니다.
• '디코드 (Decode)' (요리): 이제 셰프가 한 단어씩 요리를 작성합니다. 이는 더 느리며, 셰프가 방금 쓴 내용을 계속 기억해야 합니다 (메모리 액세스).
• 논문의 발견: 에너지의 대부분은 '디코드' 단계에서 사용됩니다. LLMSpace 는 설계자들이 이해하도록 돕습니다. 만약 소설 쓰기처럼 많은 텍스트를 생성하는 작업이라면, 짧은 '예/아니오' 질문을 답하는 경우와 달리 위성을 다르게 설계해야 한다는 것입니다.

4. LLMSpace 가 발견한 것 (절충점)

저자들은 다양한 시나리오에서 모델을 실행하여 우주 위성과 지구 데이터 센터를 비교했습니다. 주요 결론은 다음과 같습니다:

• '대포' vs '포켓 로켓':

  • 대형 시스템 (NVIDIA DGX H100 등): 이들은 중량급 선수들입니다. 이를 우주에 두는 것은 '더러운' 지구 전력망 (석탄 기반) 에서 실행하는 것보다 친환경적일 수 있지만, 오직 위성이 궤도에 오랜 시간 (10 년 이상) 머무를 경우에만 해당됩니다. 우주 정거장을 건설하는 높은 선제 비용은 수년간의 무료 태양 에너지로 결국 상쇄됩니다.
  • 소형 시스템 (Jetson Nano 등): 이들은 작고 이동 가능한 칩입니다. 논문은 이를 우주에 두는 것이 낭비라고 발견했습니다. 이들의 탄소 비용은 대부분 제조와 발사에 있습니다. 어차피 전력을 거의 사용하지 않기 때문에, 이를 우주로 발사하는 것은 불필요한 오염을 추가할 뿐입니다. 지구에 두는 것이 더 좋습니다.

• '갑옷' 페널티:
  우주에 필요한 '방탄' 칩은 너무 무겁고 전력을 많이 소비하여 위성이 거대한 태양광 패널과 냉각 시스템을 탑재하도록 강요합니다. 논문은 칩의 전력 요구 사항을 줄이는 것이 단순히 더 나은 배터리를 선택하는 것보다 전체 탄소 발자국을 낮추는 가장 중요한 방법이라고 제안합니다.

• 속도 vs 친환경:
  아주 빠른 칩을 약간 느리지만 더 효율적인 칩으로 교체하면 많은 탄소를 절약할 수 있습니다 (더 작은 태양광 패널이 필요하기 때문). 하지만 AI 가 답변하는 속도는 느려집니다. 이는 절충입니다: 더 빠른 답변을 원하시나요, 아니면 더 친환경적인 지구를 원하시나요?

요약

LLMSpace는 우주 AI 의 진정한 가격표를 알려주는 최초의 도구입니다. 이는 우주가 무료 에너지를 제공하지만, '우주 견딤' 컴퓨터를 건설하고 발사하는 비용은 막대하다는 것을 드러냅니다.

• 적합한 경우: 대형 위성에서 수년에 걸쳐 실행되는 대규모 AI 작업.
• 부적합한 경우: 작은 단기 작업이나 작은 칩. 이러한 경우 지구에 남아 있는 것이 실제로 더 친환경적입니다.

이 논문은 기후 변화를 해결하기 위해 단순히 'AI 를 우주로 옮기는' 것만으로는 안 된다고 결론 내립니다. 우리는 위성을 신중하게 설계하여 갑옷의 무게, 태양광 패널의 크기, AI 가 수행하는 작업 유형을 균형 있게 맞춰야 합니다. 그래야만 지구의 탄소 문제를 하늘에서 더 큰 문제로 바꾸는 것이 아니라는 것을 보장할 수 있습니다.