기술 요약: SOFA – 지리적으로 분산된 FaaS 데이터 센터에서의 지속 가능한 컨테이너 오케스트레이션

1. 문제 정의

본 논문은 지리적으로 분산된 데이터 센터(GDDC)에서 Function-as-a-Service (FaaS) 워크로드를 스케줄링하는 과제를 다룹니다. GDDC는 재생 에너지 가용성, 전기 가격 및 탄소 집약도의 차이를 활용함으로써 비용과 환경 발자국을 줄일 수 있는 기회를 제공하지만, 동시에 상당한 복잡성을 초입합니다.

핵심 문제는 엄격한 제약 조건 하에서의 FaaS 스케줄링을 위한 **다중 목적 최적화(multi-objective optimization)**입니다. 기존 방식은 종종 단일 목적(예: 에너지 소비 최소화)에 집중하거나 모든 환경적 요인을 총체적으로 고려하지 못합니다. 구체적으로, 본 논문은 현재 연구의 격차를 다음과 같이 식별합니다:

• SLA 이질성: FaaS 워크로드는 특히 지연 시간(latency)과 관련하여 다양하고 엄격한 서비스 수준 계약(SLA)을 가집니다. 지리적 거리에 따른 워크로드 이동은 엔드 투 엔드(end-to-end) 지연 시간을 증가시켜 SLA 위반을 초래할 수 있습니다.
• 불완전한 지속 가능성 지표: 이전 연구들은 종종 물 사용량을 간과하거나 에너지 소비와 탄소 배출을 구분하지 못합니다(저탄소 에너지원이 여전히 비싸거나 물 집약적일 수 있기 때문입니다).
• 트레이드오프 유연성 부족: 기존의 많은 스케줄러는 다양한 파레토 최적(Pareto-optimal) 해집합을 생성하기보다는 단일 솔루션을 생성하며, 이는 유틸리티, 비용, 탄소, 물 사이의 트레이드오프를 선택하려는 클라우드 제공업체의 능력을 제한합니다.

목표는 다음 네 가지 상충하는 목적을 동시에 공동 최적화하는 것입니다:

1. SLA 위반 (유틸리티 손실): 지연 시간 데드라인을 놓침으로써 발생하는 유틸리티 손실 최소화.
2. 에너지 비용: 시간대별 요금제(TOU)에 기반한 운영 비용 최소화.
3. 운영 탄소 배출: 전기 생성 및 물 사용 모두에서 발생하는 탄소 배출 최소화.
4. 물 사용량: 냉각 및 전기 생성에 소비되는 물 사용량 최소화.

2. 방법론: SOFA 프레임워크

저자들은 SOFA(Sustainable Container Orchestration in Geo-Distributed FaaS Datacenters)를 제안합니다. 이는 새로운 리소스 오케스트레이션 프레임워크입니다. SOFA는 메타휴리스틱 접근 방식과 머신러닝을 통합하여 다양한 파레토 프런트(Pareto front) 솔루션을 생성합니다.

2.1 시스템 모델링

이 프레임워크는 GDDC 환경에 대한 포괄적인 모델에 의존합니다:

• 워크로드 모델: 계산 집약적 및 I/O 집약적 FaaS 요청을 나타내는 하이브리드 트레이스(Huawei 및 Azure)를 사용하여 빠르게 변화하는 도착 패턴을 모델링합니다. 콜드 스타트(cold-start) 지연, 큐잉(queuing) 지연 및 데이터 센터 간 네트워크 지연을 모델링합니다.
• 유틸리티 모델: 요청별 지연 데드라인을 기준으로 유틸리티를 정의합니다. 위반 시간이 임계값을 초과하면 유틸리티는 선형적으로 감소합니다.
• 전력 및 냉각 모델: CPU 활용도에 기반한 다항식 모델을 사용하여 IT 장비, 기계적 냉각(CRAC, 칠러), 내부 전력 조정을 포함한 전력 소비를 추정합니다. 프리 에어(free-air) 냉각과 기계적 냉각을 구분합니다.
• 환경 모델:
  • 에너지 비용: 실시간 TOU 가격 책정과 온사이트 태양광 발전을 포함합니다.
  • 탄소 모델: 전기 생성 및 물 관련 탄소(물 처리 및 생산에서 발생하는 탄소)로부터 발생하는 탄소를 고려합니다.
  • 물 모델: 현장 증발수, 폐수 처리를 위한 블로우다운(blowdown) 수, 전기 생성에 사용되는 오프사이트 물을 계산합니다.

2.2 알고리즘 구성 요소

SOFA는 네 개의 통합된 모듈(논문의 그림 4)로 구성됩니다:

1. 도착 예측기 (Arrival Predictor): 향후 에포크(epoch) 동안의 요청 도착률과 함수 유형을 예측하기 위해 스태킹 학습 아키텍처(결정 트리, 로지스틱 회귀, 신경망 결합)를 사용합니다. 이를 통해 콜드 스타트 지연을 줄이기 위한 선제적인 컨테이너 프리워밍(pre-warming)이 가능합니다.
2. 머신 러닝 가이드 로컬 서치 (Machine Learning-Guided Local Search, MLS):
   • 그레이디언트 부스팅(Gradient Boosting)을 사용하여 로컬 서치 방향의 개선 잠재력을 예측합니다.
   • 매 단계마다 높은 계산 비용이 드는 파레토 하이퍼볼륨(PHV)을 계산하는 대신, 로컬 서치 단계의 잠재적 이득을 추정하기 위해 누적 벡터 개선(cumulative vector improvement) 지표를 사용합니다.
   • K-평균 클러스터링(K-means clustering)을 사용하여 로컬 서치 노력이 설계 공간 전체에 고르게 분산되도록 하여, 알고리즘이 지역 최적점(local optima)에 갇히거나 파레토 프런트의 특정 영역에만 집중되는 것을 방지합니다.
   • 지배된 솔루션을 제거하면서 솔루션 다양성을 유지하기 위해 엣지 인지 PHV 프루닝(edge-aware PHV pruning)을 구현합니다.
3. 분해 기반 진화 알고리즘 (Decomposition-based Evolutionary Algorithm, DEA):
   • 지역 최적점에서 벗어나기 위해 MLS와 협력합니다.
   • 솔리션 세트를 "탐색된(searched)" 부분 집합과 "탐색되지 않은(unsearched)" 부분 집합으로 분해합니다.
   • 현재 이웃 외부에서 새로운 솔루션을 생성하기 위해 이 부분 집합들 사이에서 교차(crossover)와 변이(mutation)를 수행하여 전역 탐색을 촉진합니다.
4. 오토스케일러 (Autoscaler):
   • 각 에포크의 시작 시점에 예측된 요청 도착량과 실제 도착량의 차이에 따라 컨테이너 크기를 조정(수직 확장)합니다.
   • 노드 용량 제약에 맞게 컨테이너를 분할하여 컨테이너 오버사이징 문제를 처리함으로써 리소스 효율성을 보장하고 큐 대기 시간을 최소화합니다.

3. 주요 기여

본 논문은 다음과 같은 구체적인 기여를 주장합니다:

• 문제 정식화: GDDC 환경에서 유틸리티 손실(SLA 위반), 에너지 비용, 운영 탄소 배출 및 물 소비를 동시에 최소화하는 4-목적 FaaS 스케줄링 문제 정식화.
• SOFA 프레임워크: 스태킹 학습 기반 워크로드 예측, 분해 기반 진화 알고리즘(DEA), 머신 러닝 가이드 로컬 서치(MLS), 컨테이너 오토스케일링을 결리한 새로운 프레임워크.
• 포괄적 모델링: FaaS 워크로드, 컴퓨팅 메커니즘, 데이터 센터 간 지연 시간, 에너지 소비, 유틸리티, 전기 가격, 탄소 발자국(물 관련 탄소 포함) 및 물 발자국에 대한 상세한 모델.
• 다양한 솔루션 생성: 진정한 파레토 프런트를 생성하는 능력. 이를 통해 클라우드 제공업체가 고정된 단일 솔루션이 아닌, 다양한 제약 조건에 따라 서로 다른 트레이드오프를 나타내는 고품질의 다양한 솔루션을 선택할 수 있도록 함.

4. 실험 결과

저자들은 SOFA를 NSGA-III, SWFAGA, CASA, Greencourier (Greenc), Kimchi 등 5가지 최신 프레임워크와 비교 평가했습니다. 실험은 실제 데이터 센터 하드웨어 파라미터와 하이브리드 FaaS 트레이스를 사용하는 시뮬레이터를 사용하여 수행되었습니다.

주요 결과:

• 전반적인 성능: 최신 프레임워크와 비교했을 때, SOFA는 다음과 같은 성과를 달了:
  • 에너지 비용 32% 감소.
  • 운영 탄소 배출 28% 감소.
  • 물 사용량 32% 감소.
  • SLA 성능 3% 향상 (유틸리티 손실 감소).
• 솔루션 다양성: SOFA는 경쟁 모델보다 일관되게 더 다양한 파레토 프런트를 생성했습니다. NSGA-III나 SWFAGA와 같은 다른 프레임워크가 유틸리티 제약이 변함에 따라 뚜렷한 솔루션을 제공하는 데 어려움을 겪은 반과 달리, SOFA는 광범위한 제약 조건(유틸리티 손실 2% ~ 10%)에 걸쳐 고유한 솔루션을 유지했습니다.
• 단일 목적 최적화: 특정 목적을 위한 최적의 솔루션을 선택할 때, SOFA는 다른 모든 모델을 능가했습니다:
  • 가장 낮은 유틸리티 손실 (두 번째로 우수한 모델보다 40% 낮음).
  • 가장 낮은 에너지 비용 (두 번째로 우수한 프레임워크보다 16% 낮음).
  • 가장 낮은 탄소 배출 (1% 낮음).
  • 가장 낮은 물 사용량 (두 번째로 우수한 프레임워크보다 82% 낮음).
• 민감도 분석:
  • 네트워크 지연 시간: SOFA는 데이터 센터 간 지연 시간이 증가하더라도 가장 낮은 유틸리티 손실을 유지했으며, 높은 지연 페널티를 피하기 위해 필요한 경우 로컬 실행을 효과적으로 우선시했습니다.
  • 요청 강도: SOFA는 다양한 데이터 센터 활용률(20% ~ 60%)에 대해 우수한 솔루션을 제공했으나, 리소스 오버서브스크립션(oversubscription)으로 인해 활용률이 80%에 도달하면 성능이 저하되었으며, 이는 다른 프레임워크들도 공유하는 한계였습니다.
  • 개인정보 보호 제약: 엄격한 개인정보 보호 제약(예: 80%의 요청이 로컬에 머물러야 함) 하에서도 SOFA는 여전히 가장 낮은 에너지 비용을 달성했으나, 제약이 강화됨에 따라 비용은 크게 증가했습니다.

5. 의의 및 주장

본 논문은 SOFA를 지리적 규모에서 SLA 인지적이고 환경적으로 지속 가능한 FaaS 오케스트레이션을 향한 중요한 진전으로 자리매김합니다.

• 총체적 지속 가능성: 저자들은 물 사용량와 물 관련 탄소 배출을 최적화에 통합함으로써, SOFA가 기존의 에너지 중심 접근 방식보다 더 정확하고 총체적인 환경 발자국 뷰를 제공한다고 강조합니다.
• 트레이드오프 관리: 다양한 파레토 프런트를 생성하는 능력은 클라우드 서비스 제공업체가 (예: 비용 vs 탄소 중 하나를 우선시하는 등) 특정 운영 우선순위에 따라 정보에 입각한 결정을 내릴 수 있게 한다는 점에서 매우 중요합니다.
• 확장성: 메타휴리스틱과 머신 러닝 가이드를 사용하는 것은 SOFA가 브루트 포스(brute-force)나 표준 유전 알고리즘 방식보다 GDDC에서의 다중 목적 최적화 복잡성을 더 효율적으로 처리할 수 있게 합니다.

저자들은 SOFA가 광범위한 지리적 분산 클라우드 데이터 센터 운영 시나리오 전반에서 유틸리티 손실, 에너지 비용, 탄소 배출 및 물 사용량의 강력한 감소를 달성하기 위한 유망한 알고리즘 프레임워크라고 결론짓습니다.