기술 요약: 동적 클라우드 워크플로를 위한 DEFT 스케줄링

문제 정의

본 논문은 클라우드 컴퓨팅 환경에서의 비용 인식형 동적 워크플로 스케줄링(Cost-Aware Dynamic Workflow Scheduling, CADWS) 문제를 다룹니다. 이 환경에서 워크플로는 동적으로 도착하며, 노드는 계산 태스크를, 엣지는 선행 제약 조건을 나타내는 유향 비순환 그래프(DAG)로 모델링됩니다. 각 워크플로는 서비스 수준 협약(SLA) 마감 시간과 연관됩니다.

핵심 과제는 다음과 같은 동적인 환경에 있습니다:

1. 동적 도착: 워크플로는 다양한 구조와 크기를 가진 채 예측 불가능하게 도착합니다.
2. 다양한 마감 시간: 마감 시간은 관대한 수준부터 극도로 긴박한 수준까지 넓은 스펙트럼을 보입니다.
3. 자원 변동성: 가상 머신(VM)의 가용성과 비용이 시간에 따라 변화합니다.

목표는 다음의 복합적인 총 실행 비용을 최소화하는 것입니다:

• VM 대여료: 종량제(pay-as-you-go) 방식으로 VM을 임대함으로써 발생하는 비용.
• SLA 패널티: 워크플로가 마감 시간을 지키지 못했을 때 발생하는 금전적 패널티.

CADWS를 위한 기존의 심층 강화 학습(DRL) 접근 방식은 일반적으로 단일 정책 네트워크(단일 피드포워드 경로)를 채택합니다. 저자들은 이러한 경직된 아키텍처가 다양한 마감 시간 엄격함이 초래하는 다양한 스케줄링 시나리오에 적응하기 어렵다고 주장합니다. 즉, 단일한 결정 규칙 세트로는 완화된 마감 시간과 긴박한 마감 시간을 동시에 최적으로 처리할 수 없다는 것입니다.

방법론: DEFT

저자들은 경직된 추론 경로의 한계를 극복하기 위해 설계된 새로운 DRL 정책 아키텍처인 DEFT(Deadline-pErceptive Mixture-oF-Texperts)를 제안합니다.

1. 전문가 혼합(Mixture-of-Experts, MoE) 아키텍처

DEFT는 단일 정책 네트워크 대신 전문화된 하위 네트워크(전문가) 풀을 활용합니다.

• 전문화: 각 전문가는 마감 시간 완화 계수 $\gamma$에 의해 제어되는 특정 마감 시간 엄격도 수준을 처리하도록 훈련됩니다. 예를 들어, 어떤 전문가는 긴박한 마감 시간을 위해 공격적이고 비용에 덜 민감한 스케줄링을 전문으로 할 수 있고, 다른 전문가는 완화된 마감 시간을 위해 비용 효율적이고 지연 허용적인 전략에 집중할 수 있습니다.
• 2단계 훈련:
  • 1단계 (전문가 사전 훈련): 전문가들이 고정된 특정 $\gamma$ 값을 가진 워크플로 상에서 독립적으로 사전 훈련되어 뚜렷한 스케줄링 동작을 학습하도록 합니다.
  • 2단계 (결합 미세 조정): 모든 전문가를 전체 아키텍처에 로드하고 게이팅 네트워크 및 상태 임베딩 모듈(SEM)과 함께 공동으로 미세 조정합니다. 이 단계는 시스템이 혼합된 마감 시간 분포에 적응할 수 있도록 합니다.

2. 그래프 적응형 게이팅 네트워크

DEFT의 핵심 혁신은 각 타임스텝마다 가장 적절한 전문가에게 결정을 동적으로 라우팅하는 그래프 적응형 게이팅 네트워크입니다.

• 입력 컨텍스트: 게이팅 네트워크는 네 가지 핵심 구성 요소를 통합합니다:
  1. 글로벌 워크플로 임베딩 (DAG 구조).
  2. 현재 준비된 태스크 및 그 위상적 컨텍스트의 특징.
  3. 시스템 레벨 특징 (VM 가용성 및 상태).
  4. 정규화된 마감 시간 엄격도 점수.
• 교차 주의 메커니즘(Cross-Attention Mechanism): 단순 선형 레이어를 사용하는 전통적인 MoE 게이팅과 달리, DEFT는 교차 주의 메커니즘을 채택합니다. 워크플로 DAG 임베딩과 태스크 상태가 **쿼리(Query, Q)**를 형성하고, 전문가 표현이 키(Key, K) 및 값(Value, V) 역할을 합니다. 이를 통해 게이트는 워크플로의 복잡한 구조적 의존성에 기반하여 정밀하고 마감 시간에 민감한 전문가 선택을 수행할 수 있습니다.
• 라우팅 전략: 시스템은 Top-1 라우팅을 사용하여 각 결정 단계에서 가장 적합한 단일 전문가를 선택합니다. 논문의 절제 연구(Ablation studies)에 따르면, Top-1 라우팅은 이산적 행동 공간에서 최적의 VM 선택을 방해할 수 있는 상충되는 전문가의 권장 사항을 "혼합"하는 것을 피함으로써 Top-k 라우팅보다 우수한 성능을 보였습니다.

3. 최적화

정책은 동적인 환경에서의 견고함과 병렬 구현 적합성을 위해 선택된 인구 기반 최적화 기법인 **OpenAI 진화 전략(Evolution Strategies, ES)**을 사용하여 최적화됩니다.

주요 기여

본 논문은 세 가지 주요 기여를 주장합니다:

1. 동적 워크플로 스케줄링에 대한 최초의 MoE 적용: DEFT는 동적 클라우드 워크플로 스케줄링을 위해 전문가 혼합 아키텍처를 도입한 첫 번째 접근 방식으로 제시되었으며, 마감 시간 인식형 정책 설계에 새로운 수준의 적응성을 도입했습니다.
2. 향상된 정책 다양성 및 일반화: 전문화된 사전 훈련 후 결합 미세 조정을 수행하는 2단계 훈련 전략을 통해, DEFT는 단일(monolithic) DRL 베이스라인에 비해 다양한 마감 시간 체계와 워크플로 규모(Small, Medium, Large)에 대해 우수한 일반화 성능을 달성했습니다.
3. 그래프 적응형 게이팅: 저자들은 그래프 신경망(GNN) 표현과 MoE 라우팅을 결합한 새로운 게이팅 메커니즘을 도입했습니다. 이는 구조화된 워크플로 DAG를 MoE 라우팅과 통합하여 정밀한 마감 시간 기반 전문가 활성화를 가능하게 한 첫 번째 설계입니다.

실험 결과

저자들은 DEFT를 두 가지 휴리스틱 방법(ProLis, GRP-HEFT)과 세 가지 최첨단 DRL 방법(ES-RL, SPN-CWS, GATES)을 포함한 총 5개의 베이스라인과 비교 평가했습니다.

• 총 비용 절감: DEFT는 모든 워크플로 규모(S, M, L)에서 일관되게 가장 낮은 총 비용을 달기했습니다.
  • 대규모 워크플로에서 DEFT는 가장 우수한 DRL 베이스라인인 GATES 대비 비용을 29.6% 절감했습니다.
  • 휴리스틱 방법은 DRL 접근 방식보다 비용이 3배에서 10배 더 높게 나타나 현저히 낮은 성능을 보였습니다.
• 확장성: ES-RL과 같은 다른 DRL 방법들이 워크플로 크기가 커짐에 따라 성능이 급격히 저하된 반면, DEFT는 강력한 확장성을 보여주었습니다. 마감 시간이 엄격해지고 워크플로가 커짐에 따라 비용 증가 폭이 훨씬 완만했습니다.
• 비용의 균형: DEFT는 VM 대여료와 SLA 패널티 사이의 트레이드오프를 효과적으로 조절했습니다. 마감 시간이 촉박한 시나리오에서는 패널티 회피를 우선시했고, 완화된 시나리오에서는 VM 비용을 최소화하며 동적으로 전략을 조정했습니다.
• 절제 연구(Ablation Studies):
  • 게이팅 메커니즘: 그래프 적응형 게이팅은 선형 및 표준 MLP 게이팅 메커니즘보다 크게 우수했습니다.
  • MoE vs. 용량: 고정된 PMM을 MoE로 교체하는 것이 베이스라인의 MLP를 단순히 깊게 만드는 것보다 더 나은 결과를 냈으며, 이는 이 이득이 단순히 모델 용량 증가가 아니라 전문화된 정책 선택에서 온다는 것을 확인시켜 줍니다.
  • 라우팅: 이 특정 문제에서는 상충되는 전문가 결정의 평균화를 방지하기 위해 Top-1 라우팅이 Top-k 라우팅보다 우수하다는 것이 밝혀졌습니다.

의의 및 주장

본 논문은 DEFT를 클라우드 워크플로 스케줄링 분야의 중요한 진전으로 자리매김합니다. 저자들은 다음과 같이 주장합니다:

• 경직된 아키텍처는 불충분하다: 단일 경로 DRL 정책은 실제 클라우드 환경에서 발견되는 광범한 마감 시간 엄격도를 효과적으로 처리할 수 없습니다.
• 적응성이 핵심이다: 실시간 워크플로 구조와 마감 시간 긴급도에 따라 전문화된 전문가를 동적으로 선택함으로써, DEFT는 정적인 정책이 도달할 수 없는 유연성과 정밀함을 달성합니다.
• 실질적 영향: 이 방법은 복잡하고 동적인 클라우드 환경에 적합하며, 실행 비용과 마감 시간 위반을 크게 줄이는 구조적이고 마감 시간 중심적인 스케줄링에 대한 원칙적인 접근 방식을 제공합니다.

저자들은 결론적으로 DEFT가 정적인 '일률적(one-size-fits-all)' 스케줄링 정책에서 벗어나, 다양하고 진화하는 제약 조건에 대해 추론할 수 있는 적응형 컨텍스트 인식 시스템으로의 전환을 의미한다고 설명합니다. 향후 연구로는 멀티 테넌트 환경으로의 확장 및 전문가 라우팅에 대한 설명 가능성 탐색이 제안되었습니다.