Provuse: Platform-Side Function Fusion for Performance and Efficiency in FaaS Environments

이 논문은 사용자가 코드 수정 없이도 FaaS 환경에서 함수 간 호출로 인한 중복 인스턴스를 제거하여 지연 시간과 메모리 사용량을 획기적으로 줄이는 플랫폼 측의 투명 함수 융합 기술인 'Provuse'를 제안하고 그 유효성을 입증합니다.

핵심

1. 문제: "이중 과금"과 "지루한 이동"의 함정

**서버리스 (FaaS)**란 무엇일까요?
마치 택시 서비스를 이용하는 것과 비슷합니다.

• 개발자는 코드를 작성해서 플랫폼에 올립니다.
• 손님이 (사용자가) 요청을 보내면, 플랫폼은 즉시 택시 (함수) 를 불러서 일을 시킵니다.
• 일이 끝나면 택시는 사라집니다.
• 장점: 일할 때만 돈을 내고, 일하지 않을 때는 돈을 안 내니 매우 경제적입니다.

하지만 문제가 생깁니다.
복잡한 일을 할 때는 여러 개의 택시가 연쇄적으로 움직여야 합니다.

• A 택시가 손님을 태우고 목적지 B 에 도착합니다.
• 그런데 B 에서는 B 택시가 필요해서, A 택시는 B 택시를 부릅니다.
• B 택시가 일을 하고 C 택시를 부릅니다.

여기서 두 가지 낭비가 발생합니다:

1. 이동 시간 (지연): A 택시가 B 택시를 부르기 위해 정차하고, B 택시가 출발하는 데 시간이 걸립니다. (클라우드에서는 '호출 지연'이라고 합니다.)
2. 이중 과금 (Double Billing): A 택시가 B 택시를 부르는 동안, A 택시도 '기다리는 시간'에 대한 요금을 내야 합니다. B 택시도 일을 시작하기 전까지 '대기' 요금을 냅니다. 하나의 일을 하는데 두 번 돈을 내는 셈이 됩니다.

---

2. 해결책: '프로브루스 (Provuse)'의 마법

이 논문에서 제안하는 **프로브루스 (Provuse)**는 바로 이 낭비를 없애는 플랫폼 측의 자동화 기술입니다.

비유: "택시 회사 사장의 지능적인 통합"

기존 방식은 개발자가 "A 택시, B 택시를 따로 불러줘"라고 지시하면 플랫폼이 그대로 따르는 방식이었습니다. 하지만 프로브루스는 **플랫폼 (택시 회사 사장)**이 스스로 상황을 파악합니다.

• 상황 파악: "어? A 택시가 B 택시를 부르는 걸 보니, 이 두 차는 거의 동시에 움직이는 군요."
• 자동 통합 (퓨전): "그럼 이 두 택시를 하나의 대형 밴으로 합쳐버리자!"
• 결과:
  • A 가 B 를 부르는 이동 시간이 사라집니다. (바로 옆에서 일을 하니까요.)
  • 두 대의 택시 요금을 내지 않고, 하나의 밴 요금만 냅니다. (이중 과금 해결!)
  • 개발자는 아무것도 바꿀 필요가 없습니다. "택시 불러줘"라고만 하면, 플랫폼이 알아서 최적의 대형 밴을 만들어줍니다.

---

3. 어떻게 작동할까요? (기술적 원리)

이 기술은 개발자의 코드 하나도 건드리지 않고, 플랫폼 내부에서 작동합니다.

1. 관찰자 (Function Handler): 플랫폼은 각 함수 (택시) 가 서로 통신할 때, "아, 이 친구가 다른 친구를 기다리면서 (동기식) 부르고 있구나!"라고 감지합니다.
2. 합체사 (Merger): 감지된 두 함수를 하나로 합칩니다. 마치 두 개의 작은 방을 벽을 허물어 하나의 넓은 방으로 만드는 것처럼, 두 함수의 코드를 하나의 컨테이너 (실행 환경) 안에 넣습니다.
3. 재배치: 새로운 합체된 함수가 준비되면, 기존에 따로 있던 두 함수는 사라지고 새로운 하나가 일을 대신합니다.

---

4. 실제 효과: 얼마나 좋아졌나요?

연구진은 이 기술을 실제 클라우드 환경 (작은 실험실 버전과 거대한 Kubernetes 버전) 에서 테스트했습니다. 결과는 놀라웠습니다.

• 속도 향상 (지연 시간 감소): 평균 26% 빨라졌습니다.
  • 비유: 택시를 기다리던 10 분이 7 분으로 줄어든 셈입니다.
• 비용 절감 (메모리 사용량 감소): 평균 53% 줄었습니다.
  • 비유: 두 대의 택시를 유지하던 비용을, 하나의 밴으로 유지하니까 절반 이상 아낀 것입니다.

---

5. 요약: 왜 이것이 중요한가요?

이 논문은 **"개발자는 코딩에만 집중하고, 인프라의 효율성은 플랫폼이 알아서 해결하자"**는 철학을 보여줍니다.

• 기존: 개발자가 "내 코드를 최적화해라"라고 노력해야 함.
• 프로브루스: 개발자는 평소처럼 코드를 짜면, 플랫폼이 알아서 "아, 이 두 함수는 합치는 게 좋겠네?"라고 판단하여 자동으로 최적화함.

결론적으로:
이 기술은 클라우드 서비스의 속도를 높이고 비용을 줄이는 획기적인 방법입니다. 마치 택시 회사가 승객의 동선을 분석해서 가장 효율적인 차량 배치를 자동으로 해주는 것처럼, 서버리스 기술의 다음 단계를 제시합니다.

한 줄 요약: "서버리스에서 여러 함수가 서로 호출할 때 생기는 시간 낭비와 돈 낭비를, 플랫폼이 알아서 '함수 합체' 기술로 해결해 드립니다!"

기술 요약

논문 요약: Provuse - FaaS 환경의 성능 및 효율성을 위한 플랫폼 측 함수 융합

1. 문제 정의 (Problem)

Function-as-a-Service (FaaS) 는 확장성과 비용 효율성을 제공하지만, 여러 함수로 구성된 복잡한 애플리케이션에서는 다음과 같은 심각한 과제를 안고 있습니다.

• 이중 과금 (Double Billing): 한 함수가 다른 함수를 동기적으로 호출할 때, 각 함수 호출마다 별도의 실행 시간과 리소스 사용량이 과금됩니다. 이는 오케스트레이션 오버헤드와 대기 시간으로 인해 불필요한 비용이 발생합니다.
• 지연 시간 (Latency) 및 오버헤드: 함수 간 원격 호출 (Remote Invocation) 은 네트워크 지연, 컨테이너 시작/초기화, 그리고 스케줄링 오버헤드를 유발하여 실시간 애플리케이션에 치명적입니다.
• 개발자 부담: 기존 성능 최적화 기법들은 대부분 개발자가 코드를 수정하거나 배포 설정을 변경해야 하므로, FaaS 의 핵심 가치인 '서버리스의 투명성'을 해칩니다.

2. 방법론 (Methodology)

이 논문은 Provuse라는 새로운 아키텍처를 제안합니다. 이는 개발자의 코드 변경 없이 **플랫폼 측 (Platform-side)**에서 자동으로 함수를 융합 (Fusion) 하는 투명 최적화 기술입니다.

• 핵심 개념: 플랫폼이 함수 호출 패턴을 분석하여, 서로 동기적으로 호출되는 함수들을 런타임 시점에 단일 실행 단위 (Single Execution Unit) 로 병합합니다.
• 주요 구성 요소:
  1. Function Handler: 함수 인스턴스와 함께 배포되며, 들어오는 요청을 처리하고 나가는 요청 (Outbound requests) 을 모니터링합니다. 동기적 (Blocking) 호출 패턴을 감지하면 'Merger'에 융합 요청을 보냅니다.
  2. Merger: 컨테이너 런타임과 상호작용하여 두 개의 독립된 함수 인스턴스의 파일 시스템을 추출하고, 이를 하나의 통합된 파일 시스템으로 병합합니다. 그 후 새로운 컨테이너 이미지를 빌드하고 배포하여 기존 함수들을 대체합니다.
• 작동 원리:
  • 함수가 동기적으로 다른 함수를 호출할 때, 네트워크 호출 대신 인라인 (Inlined) 호출이 수행되도록 합니다.
  • 병합이 완료되면 트래픽이 새 인스턴스로 전환되고, 기존 인스턴스는 종료되어 리소스가 해제됩니다.
  • tinyFaaS(경량 에지 플랫폼) 와 Kubernetes(클라우드 오케스트레이션) 두 가지 환경에서 구현 및 검증되었습니다.

3. 주요 기여 (Key Contributions)

• 투명한 플랫폼 측 최적화: 개발자가 코드를 수정하거나 배포 전략을 변경할 필요 없이, 인프라 레벨에서 자동으로 성능을 개선합니다.
• 이중 과금 해결: 함수 간 호출을 인라인화하여 불필요한 실행 경계 (Execution Boundaries) 를 제거함으로써 과금 비용을 절감합니다.
• 범용성 입증: 경량 에지 환경 (tinyFaaS) 과 대규모 클라우드 환경 (Kubernetes) 모두에서 작동함을 증명하여, 다양한 FaaS 플랫폼 아키텍처에 적용 가능함을 보여줍니다.
• 언어 중립적 설계: 현재 프로토타입은 Python 을 지원하지만, 메커니즘 자체는 언어에 구애받지 않도록 설계되어 확장성이 높습니다.

4. 평가 결과 (Results)

두 가지 애플리케이션 (IoT 센서 분석용 'IOT', 트리 구조 호출용 'TREE') 을 tinyFaaS 와 Kubernetes 환경에서 테스트한 결과는 다음과 같습니다.

• 지연 시간 (Latency) 감소:
  • 전체 벤치마크에서 평균 26.33% 의 엔드 - 투 - 엔드 (End-to-End) 지연 시간 감소를 달성했습니다.
  • 구체적으로, tinyFaaS 의 IOT 애플리케이션은 807ms 에서 574ms 로 (28.9% 감소), Kubernetes 환경에서는 815ms 에서 551ms 로 (32.4% 감소) 개선되었습니다.
• 리소스 효율성 (RAM Usage) 향상:
  • 동시 실행되는 함수 인스턴스 수가 줄어들어 평균 53.57% 의 RAM 사용량 감소를 기록했습니다.
  • IOT 애플리케이션은 약 57%, TREE 애플리케이션은 약 50% 의 메모리 절감 효과를 보였습니다.
• 안정성: 융합이 완료된 후 일관된 성능 향상이 관찰되었으며, 초기 병합 과정 이후에는 지연 시간이 안정적으로 낮아졌습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 비용 및 성능의 동시 달성: 서버리스 컴퓨팅의 주요 약점인 '이중 과금'과 '높은 지연 시간'을 인프라 레벨에서 해결함으로써, 비용 효율성과 성능을 동시에 개선할 수 있음을 입증했습니다.
• 개발자 경험 (DX) 보호: 최적화가 플랫폼에 의해 투명하게 수행되므로, 개발자는 복잡한 오케스트레이션 로직이나 코드 최적화에 신경 쓸 필요가 없습니다.
• 미래 전망: 본 연구는 서버리스 시스템에서 투명 인프라 최적화의 잠재력을 보여주며, 향후 'Bring-your-own-container' 모델과의 하이브리드 최적화나 다른 최적화 기법 (예: 인스턴스 프리 - 워밍) 과의 통합 가능성을 제시합니다.

결론적으로, Provuse 는 FaaS 환경에서 함수 호출 패턴을 기반으로 한 자동 융합을 통해 지연 시간과 리소스 소비를 획기적으로 줄일 수 있는 실현 가능하고 효과적인 플랫폼 측 전략임을 입증했습니다.