A monitoring system for collecting and aggregating metrics from distributed clouds

이 논문은 분산 클라우드 환경에서 노드, 컨테이너, 애플리케이션 수준의 메트릭을 수집하고 제어 평면으로 전송하여 다양한 클라이언트가 접근할 수 있도록 하며, 각 분산 클라우드 단위로 메트릭을 집계하여 시스템 상태를 종합적으로 파악할 수 있는 모니터링 시스템의 설계와 구현을 제시합니다.

핵심

1. 배경: 왜 새로운 감시 시스템이 필요할까요?

과거에는 모든 데이터가 먼 곳에 있는 거대한 중앙 데이터센터 (마치 수도권의 거대한 교통 통제센터) 로 모였습니다. 하지만 요즘은 자율주행차, 공장, 스마트 도시처럼 **데이터가 생성되는 바로 그 자리 (지방 도시나 마을)**에서 즉시 처리해야 하는 경우가 많아졌습니다.

이렇게 여러 곳에 흩어져 있는 작은 클라우드들 (분산 클라우드) 을 묶어 관리하는 것이 **'분산 클라우드'**입니다. 문제는 이 시스템이 너무 복잡하고 자주 변한다는 점입니다. 마을마다 새로운 도로가 생기기도 하고, 갑자기 도로가 끊기기도 하죠.

기존의 감시 시스템은 이처럼 유동적이고 자원 (전력, 공간) 이 부족한 작은 마을들을 감시하기엔 무겁고 비효율적입니다. 그래서 연구팀은 **"가볍고 유연하게, 모든 마을의 상태를 실시간으로 파악할 수 있는 감시 시스템"**을 만들었습니다.

2. 시스템의 핵심 역할: "현장의 감시관"과 "중앙 통제실"

이 시스템은 크게 두 가지 역할로 나뉩니다.

A. 현장의 감시관 (노드 에이전트)

각 마을 (컴퓨터 노드) 에는 **'현장 감시관 (Agent)'**이 배치됩니다.

• 무엇을 하나요? 마을의 전기 사용량 (기계 수준), 건물 내의 방 상태 (컨테이너 수준), 그리고 마을 주민들이 직접 만든 특수 신호 (애플리케이션 수준) 를 모두 챙깁니다.
• 특징: 이 감시관은 무거운 장비를 끌고 다니지 않습니다. 필요한 정보만 가볍게 챙겨서 중앙으로 보냅니다.

B. 중앙 통제실 (컨트롤 플레인)

모든 감시관들이 보낸 정보는 중앙 통제실로 모입니다.

• 건강 진단 (Health Check): 통제실은 "여기 살아있니?"라고 신호를 보냅니다. 마을에서 답이 오면, 그 답에 함께 **현재의 상태 보고서 (메트릭)**를 붙여보냅니다. (이렇게 하면 통신 횟수를 줄여 에너지를 아낄 수 있습니다.)
• 데이터 저장 및 분석: 받은 정보는 저장소에 쌓고, 필요하면 전체 도시의 평균 상태를 계산해 줍니다. (예: "전체 마을의 전력 사용량은 얼마일까?")
• 정보 제공: 이 정보는 API 를 통해 다양한 고객에게 제공됩니다.
  • 실시간 대시보드: 현재 상황을 눈으로 보는 사람.
  • 자동 조절기 (오토스케일러): 교통이 막히면 자동으로 신호를 바꾸는 시스템.
  • AI 학습용: 과거 데이터를 모아 미래를 예측하는 인공지능.

3. 이 시스템의 특별한 점 (창의적인 비유)

• 우편 배달 방식의 변화:
  보통은 감시관이 정보를 모아서 우체국 (중앙) 으로 보내면, 우체국은 "받았습니다"라고 답장을 보냅니다. 하지만 이 시스템은 "건강 진단을 할 때만 정보를 싣고 보내는" 방식을 썼습니다. 우편물을 따로 부치지 않고, 우편 배달부 (Ping) 가 돌아올 때만 편지를 함께 실어 보내는 식이죠. 이렇게 하면 통신 비용과 에너지를 크게 아낄 수 있습니다.

• 유연한 주소록:
  마을에 새로운 가게 (애플리케이션) 가 생기면, 감시관은 자동으로 그 가게 주소를 기억해서 감시 목록에 추가합니다. 가게가 문을 닫으면 목록에서 바로 지웁니다. 사용자가 원하는 대로 자유롭게 정보를 수집할 수 있습니다.

• 데이터 압축 (손실 vs 무손실):
  마을에서 나오는 정보가 너무 많으면 교통 체증이 생깁니다. 그래서 연구팀은 "중요하지 않은 정보는 과감히 버리거나 (손실), 압축해서 보내는" 전략을 제안했습니다. 예를 들어, 1 시간 동안 온도가 25 도에서 25.1 도 사이로 거의 변하지 않았다면, 그 1 시간 동안의 모든 데이터를 보내지 않고 "25 도 유지"라고만 보내는 식입니다.

4. 결론: 왜 이것이 중요한가요?

이 논문은 **"분산 클라우드"**라는 복잡한 시스템을 관리하기 위해, 가볍고 빠르며 유연한 감시 시스템을 실제로 만들어 보았다는 것을 보여줍니다.

• 기존 방식: 무거운 트럭으로 모든 데이터를 실어 나르다가 도로가 막힘.
• 이 논문 방식: 오토바이 (가벼운 에이전트) 가 필요한 정보만 빠르게 전달하고, 중앙에서 이를 지능적으로 분석함.

이 시스템을 통해 기업이나 개발자는 자신의 분산 클라우드가 어떻게 돌아가는지 정확하게 눈으로 볼 수 있게 되었고, 시스템이 스스로 문제를 해결하거나 성능을 최적화하는 데 필요한 정확한 데이터를 제공할 수 있게 되었습니다.

한 줄 요약:

"수천 개의 작은 마을 (분산 클라우드) 이 흩어져 있어도, 가벼운 감시관들이 필요한 정보만 빠르게 중앙으로 보내면, 우리는 마치 한 도시를 관리하듯 전체 시스템을 실시간으로 감시하고 최적화할 수 있습니다."

기술 요약

1. 문제 정의 (Problem)

• 배경: 현대 애플리케이션은 대량의 데이터를 실시간으로 처리해야 하며, 이는 기존 중앙 집중형 클라우드 데이터센터만으로는 비효율적이거나 불가능한 경우가 많습니다. 이에 따라 엣지 컴퓨팅, 퍼지 컴퓨팅과 같은 새로운 모델이 등장했으며, 그 중 분산 클라우드 (Distributed Cloud, DC) 모델이 주목받고 있습니다.
• DC 의 특성: DC 는 사용자가 필요에 따라 전략적으로 위치를 선정하여 임시로 생성하고 폐기하는 어드혹 (ad-hoc) 클라우드의 집합체입니다. 노드가 동적으로 추가되거나 제거되며, 하드웨어 자원이 제한적일 수 있습니다.
• 핵심 문제: DC 모델이 실용화되기 위해서는 높은 수준의 **가시성 (Observability)**이 필수적입니다. 그러나 기존 모니터링 솔루션 (Prometheus 등) 은 DC 의 동적이고 분산된 특성 (노드의 빈번한 진입/퇴출, 리소스 제약, 실시간 데이터 흐름) 을 고려하여 설계되지 않았습니다. 따라서 DC 에 특화된 경량화되고 유연한 모니터링 시스템이 필요합니다.

2. 방법론 (Methodology)

저자들은 DC 의 상태 (Machine, Container, Application 레벨) 를 종합적으로 파악할 수 있는 모니터링 시스템의 설계와 구현을 제안합니다. 시스템은 **노드 (Node)**와 **제어 평면 (Control Plane)**으로 구성됩니다.

A. 아키텍처 및 구성 요소

1. 노드 레벨 (Node Side):
   • 수집기 (Collectors): 머신 레벨 (하드웨어/OS), 컨테이너 레벨 (cAdvisor 등), 애플리케이션 레벨의 메트릭을 수집합니다.
   • 메트릭 에이전트 (Metrics Agent): 노드 내 모든 레벨의 메트릭을 수집하여 임시 파일 시스템에 저장합니다.
   • 동작 방식: 에이전트는 주기적으로 수집기를 폴링하고, 결과를 임시 저장합니다.
2. 제어 평면 (Control Plane):
   • 프로세서 (Processor): 노드의 건강 상태 (Health-check) 를 확인하는 프로토콜을 수행합니다. 이때 **메트릭 데이터를 핑 (Ping) 응답에 실어 보내는 방식 (Piggybacking)**을 사용하여 노드와 제어 평면 간의 요청 횟수를 줄입니다.
   • 메트릭 스토어 (Metrics Storage): 수집된 메트릭을 영구 저장합니다 (Prometheus 기반).
   • 리더 (Reader): 클라이언트가 저장된 메트릭을 조회할 수 있는 API 를 제공합니다.

B. 핵심 설계 결정 사항

• 표준 준수: OpenMetrics 표준을 준수하여 기존 클라우드 네이티브 도구와의 호환성을 확보했습니다.
• 데이터 전송 최적화: 노드가 리소스가 제한적이므로, 메트릭을 제어 평면으로 전송한 후 노드 내 임시 저장소를 즉시 비우는 방식을 채택했습니다 (데이터 손실 가능성은 감수하되 리소스 절감 우선).
• 집계 (Aggregation): 개별 노드 메트릭뿐만 아니라, DC 전체의 상태 (예: 총 CPU/메모리 사용량) 를 파악하기 위해 제어 평면에서 노드 단위 메트릭을 집계 (합계 또는 평균) 하여 DC 레벨 메트릭을 생성합니다.
• API 지원: REST API 를 통한 정적 데이터 조회와 스트리밍 API를 통한 실시간 메트릭 구독 (Topic 기반, 와일드카드 지원) 을 제공합니다.

3. 주요 기여 (Key Contributions)

1. DC 전용 모니터링 시스템 설계 및 구현: 동적이고 리소스 제약이 있는 분산 클라우드 환경에 최적화된 메트릭 수집, 집계, 제공 시스템을 최초로 제안했습니다.
2. 다중 레벨 메트릭 통합: 머신, 컨테이너, 그리고 사용자 정의 애플리케이션 메트릭을 하나의 통합된 파이프라인에서 처리할 수 있는 아키텍처를 제시했습니다.
3. 효율적인 통신 프로토콜: 헬스체크 프로토콜에 메트릭 데이터를 실어 보내는 'Piggybacking' 방식을 도입하여 네트워크 오버헤드를 최소화했습니다.
4. 실제 구현 및 오픈소스화: 제안된 시스템을 constellations (c12s)라는 오픈소스 DC 플랫폼에 통합하여 구현했습니다. 주요 구성 요소는 Go 언어로 작성되었으며, NATS 를 메시 브로커로, Prometheus 를 스토리지로 활용했습니다.

4. 결과 및 평가 (Results)

• 실험 환경: 가상 머신 (VM) 내에서 시뮬레이션된 노드를 사용하여 실험실 환경에서 구현의 정확성을 검증했습니다.
• 기능적 검증:
  • 노드, DC, 컨테이너, 애플리케이션 단위의 메트릭이 정상적으로 수집되고 제어 평면으로 전송됨을 확인했습니다.
  • REST API 와 스트리밍 API 를 통해 다양한 클라이언트 (대시보드, 스케줄러, 오토스케일러 등) 가 메트릭을 성공적으로 조회 및 구독할 수 있음을 입증했습니다.
  • DC 레벨의 집계 메트릭이 개별 노드 데이터로부터 올바르게 생성됨을 확인했습니다.
• 한계점: 현재는 중앙 집중식 아키텍처로, 노드가 수천 개에 달하는 대규모 DC 환경에서는 제어 평면이 과부하될 수 있습니다. 또한, 전송 중 데이터 손실 가능성에 대한 논의가 이루어졌습니다.

5. 의의 및 향후 방향 (Significance & Future Work)

• 실용성: DC 모델의 실용화를 위한 핵심 인프라인 '가시성' 문제를 해결하여, DC 기반의 실시간 애플리케이션 배포와 운영을 가능하게 합니다.
• 확장성: 수집된 메트릭은 워크로드 스케줄러, 오토스케일러, 그리고 머신러닝 모델 학습을 위한 데이터셋으로 활용될 수 있습니다.
• 향후 작업:
  • 분산화: 대규모 DC 를 위한 P2P 기반의 분산 집계 아키텍처 도입 (Gossip 프로토콜 등).
  • 데이터 최적화: 손실 없는 압축 및 손실 있는 샘플링 (Dynamic Sampling) 전략을 도입하여 전송 및 저장 부하를 줄이는 연구.
  • 신뢰성 강화: 데이터 손실을 방지하기 위한 ACK 기반의 전송 확인 메커니즘 도입.
  • 경고 시스템: 모니터링 시스템의 필수 요소인 경보 (Alerting) 메커니즘 개발.

이 논문은 분산 클라우드 환경의 복잡성을 관리하기 위한 필수적인 모니터링 도구를 제시함으로써, 차세대 클라우드 아키텍처의 발전에 기여하고 있습니다.