SafarDB: FPGA-Accelerated Distributed Transactions via Replicated Data Types

본 논문은 FPGA 가속기와 네트워크 인터페이스를 공동 설계하여 SafarDB 를 제안함으로써, 기존 RDMA 기반 구현 대비 CRDT 및 WRDT 의 지연 시간과 처리량을 획기적으로 개선하고 고장 복원력을 강화한 분산 트랜잭션 시스템을 소개합니다.

핵심

SafarDB: 데이터 센터의 '초고속 교통 시스템'을 FPGA 로 만든 이야기

이 논문은 SafarDB라는 새로운 기술을 소개합니다. 쉽게 말해, 전 세계의 데이터 센터에서 정보를 주고받을 때 발생하는 '지연 시간'과 '혼잡'을 해결하기 위해, FPGA(프로그래머블 칩)라는 특수한 장치를 네트워크 바로 옆에 붙여 만든 초고속 데이터 처리 시스템입니다.

이 복잡한 기술 이야기를 일상적인 비유로 풀어보겠습니다.

---

1. 문제 상황: "왜 은행 계좌 잔고가 늦게 업데이트될까?"

현대 데이터 센터는 수많은 서버 (복제본) 가 같은 데이터를 가지고 있습니다. 예를 들어, 서울의 은행 서버와 뉴욕의 서버가 같은 계좌 정보를 공유한다고 가정해 봅시다.

• **기존 방식 **(RDMA) 기존 기술은 CPU(두뇌) 가 메모리(책상) 에서 데이터를 가져와서 네트워크 카드 (우편함) 를 통해 상대방에게 보냅니다. 이때 PCIe(고속도로)를 지나고, CPU 가 중간에 개입해야 하므로 시간이 걸립니다. 마치 우편물을 보내려면 집 (CPU) 에서 우체국 (NIC) 까지 차를 타고 가야 하는 것과 같습니다.
• 문제점: 이 과정에서 '마이크로초' 단위의 지연이 발생합니다. 데이터가 많거나 충돌이 생기면 (예: 두 사람이 동시에 돈을 인출하려 할 때) 시스템이 멈추거나 느려집니다.

2. SafarDB 의 해결책: "우편함 바로 옆에 우체국을 짓다"

SafarDB 는 이 문제를 FPGA(프로그래머블 칩)를 이용해 해결합니다.

• 비유: 기존 방식은 "집 (CPU) → 차 (PCIe) → 우체국 (NIC) → 우편물"이라면, SafarDB 는 **우체국 **(NIC)입니다.
• 핵심 아이디어:
  1. FPGA 에 네트워크와 데이터 처리를 모두 넣음: 네트워크 카드 (NIC) 와 데이터 처리 프로그램 (애플리케이션) 을 같은 칩 (FPGA) 안에 넣었습니다.
  2. 직접 연결: 데이터가 CPU 책상 (메모리) 을 거치지 않고, 칩 내부의 고속 도로 (AXI) 를 타고 바로 상대방에게 전달됩니다.
  3. 결과: 우편물을 보내는 시간이 100 배 이상 빨라집니다. (논문 결과에 따르면 기존 기술보다 7~12 배 빠릅니다.)

3. 데이터의 종류에 따른 처리 방식 (CRDT 와 WRDT)

데이터는 성격이 다릅니다. SafarDB 는 이 두 가지 유형을 다르게 처리합니다.

A. 충돌 없는 데이터 (CRDT) - "모두가 자유롭게 쓰는 공유 메모장"

• 상황: 친구들이 한 번에 메모장에 글을 씁니다. "나 오늘 밥 먹었어", "나도 먹었어". 누가 먼저 쓰든 상관없이 내용이 합쳐지기만 하면 됩니다.
• SafarDB 의 역할:
  • **버퍼링 **(Buffering) 메모리에 데이터를 쌓아두었다가 한 번에 보내는 방식 (기존 RDMA) 보다 더 빠르게 칩 내부에서 바로 처리합니다.
  • **RPC **(원격 호출) 상대방에게 "이 내용 추가해!"라고 직접 말 (명령) 을 보냅니다. 상대방은 메모리를 뒤적일 필요 없이 바로 내용을 업데이트합니다.
  • 효과: 아주 빠른 속도로 데이터를 동기화합니다.

B. 충돌이 있는 데이터 (WRDT) - "은행 계좌나 티켓 예매"

• 상황: 두 사람이 동시에 같은 좌석을 예매하려 하거나, 잔고가 0 인데 돈을 인출하려 할 때. 이때는 순서가 중요합니다. 누가 먼저인지 결정해야 합니다.
• 기존 방식의 비효율: 리더 (결정권자) 가 "누가 먼저야?"라고 물어보고, 답을 기다리고, 다시 명령을 내리는 과정에서 시간이 많이 걸립니다.
• SafarDB 의 역할:
  • 리더 선출 가속화: 리더가 죽거나 바뀌어야 할 때, 기존 방식은 수백 마이크로초가 걸리지만 SafarDB 는 나노초 단위로 처리합니다. (마치 우체국장이 갑자기 바뀌어도 즉시 새 우체국장이 업무를 시작하는 것과 같습니다.)
  • **합의 **(Consensus) 데이터가 충돌할 때만 강력한 규칙을 적용하고, 그 외에는 자유롭게 처리하는 '하이브리드' 방식을 FPGA 칩 안에서 최적화했습니다.

4. 왜 이렇게 중요한가요? (성능과 효율)

논문에서 실험한 결과는 놀랍습니다.

• 속도: 기존 최고 성능 기술 (RDMA 기반) 보다 7 배에서 12 배까지 빠릅니다.
• 전력: CPU 가 일을 많이 하지 않아도 되므로, 전력 소모는 4.5 배나 줄었습니다. (마치 대형 트럭 대신 전기 스쿠터를 타고 물건을 나르는 것과 같습니다.)
• 장애 복구: 서버 하나가 고장 나더라도, SafarDB 는 다른 서버가 즉시 그 역할을 대신할 수 있어 시스템이 멈추지 않습니다.

5. 요약: SafarDB 가 가져온 변화

SafarDB 는 **"데이터 센터의 교통 체증을 해결한 스마트한 우체국"**입니다.

1. 위치: 우편함 (네트워크) 바로 옆에 우체국 (처리 장치) 을 지었습니다.
2. 방법: 중간에 차 (CPU) 를 타지 않고, 바로 걸어서 (칩 내부 연결) 업무를 처리합니다.
3. 결과:
   • 더 빠름: 데이터가 순식간에 이동합니다.
   • 더 저렴함: 전기를 덜 씁니다.
   • 더 튼튼함: 한 곳이 고장 나도 전체 시스템이 멈추지 않습니다.

이 기술은 앞으로 클라우드 서비스, 실시간 금융 거래, 대규모 게임 서버 등 속도가 생명인 모든 분야에서 혁신을 일으킬 것으로 기대됩니다.

기술 요약

1. 문제 정의 (Problem)

데이터 센터 설계에서 데이터 복제 (Replication) 는 가용성, 확장성, 내결함성을 보장하는 핵심 요소입니다. 그러나 트랜잭션 워크로드 하에서 복제본 간의 일관성 유지와 데이터 무결성 보장을 위해 복제본들을 조율 (Coordination) 해야 합니다.

• 기존 접근법의 한계:
  • RDMA 기반 시스템: 최신 상태의 분산 데이터베이스는 RDMA(Remote Direct Memory Access) 네트워크를 활용하여 마이크로초 단위의 원격 메모리 접근을 구현합니다. 하지만 RDMA 성능은 여전히 PCIe 지연, 호스트 메모리 중개, CPU-NIC 간 통신 오버헤드 등 여러 병목 현상에 제한받습니다.
  • 하드웨어 가속의 부재: 기존 RDMA 기반 RDT(Replicated Data Types) 시스템은 대부분 CPU 에서 실행되는 것을 전제로 하며, 네트워크에 직접 연결된 FPGA 를 활용한 실행이나, FPGA 메모리와 호스트 메모리를 통합한 하이브리드 실행 모델을 제공하지 못합니다.
  • 비효율적인 장애 처리: 리더 선출 (Leader Election) 및 권한 변경과 같은 합의 (Consensus) 과정에서의 장애 복구 지연이 시스템 전체의 성능을 저하시킵니다.

2. 방법론 (Methodology)

저자들은 SafarDB를 제안하며, 이는 네트워크에 직접 연결된 FPGA(Network-Attached FPGA) 에서 실행되는 복제 데이터 타입 (RDT) 을 가속화하는 아키텍처입니다.

• 핵심 설계 철학:

  • FPGA 내 통합 (Co-location): 애플리케이션 로직, 복제 프로토콜, RDMA 네트워킹 스택을 단일 FPGA 칩 내에 통합하여 PCIe 통신 오버헤드를 제거하고 '네트워크 근접 처리 (Near-network processing)'를 가능하게 합니다.
  • 커스텀 RDMA 명령어 (Custom RDMA Verbs): 기존 RDMA Read/Write 를 확장하여 FPGA 내장 메모리 (HBM, BRAM) 에 직접 접근하거나, 원격 가속기를 직접 호출하는 RPC(Remote Procedure Call) 기능을 수행하는 새로운 명령어를 설계했습니다.
  • 하이브리드 실행 모델:
    • FPGA-only 모드: 모든 상태가 FPGA 내장 메모리에 상주하여 초저지연 처리를 제공합니다.
    • 하이브리드 모드: 데이터가 FPGA 메모리를 초과할 경우 호스트 CPU 메모리를 확장 용도로 사용하되, 단일 복제/일관성 인터페이스를 유지합니다.

• 트랜잭션 가속 전략:
  SafarDB 는 RDT 를 세 가지 범주로 나누어 최적화합니다:

  1. 축소 가능 (Reducible) 트랜잭션: 로컬에서 요약된 후 원격으로 전송됩니다. RDMA RPC 를 사용하여 메모리 접근을 제거하고 FPGA 내 BRAM 을 직접 업데이트합니다.
  2. 비축소 가능 충돌 없는 (Irreducible Conflict-free) 트랜잭션: RDMA RPC 를 통해 원격 노드의 상태에 직접 접근하여 메모리 폴링 (Polling) 오버헤드를 제거합니다.
  3. 충돌 발생 (Conflicting) 트랜잭션: 강한 일관성이 필요한 경우, FPGA 가속기에서 Mu라는 RDMA 기반 상태 머신 복제 (SMR) 프로토콜을 실행합니다. 리더 선출 및 권한 변경 (Permission Switch) 시 FPGA 내부 레지스터에 직접 접근하여 나노초 단위로 처리합니다.

3. 주요 기여 (Key Contributions)

1. 네트워크 연결형 FPGA 를 위한 새로운 RDMA 설계: FPGA 내장 스토리지 자원에 직접 접근하는 일측면 (One-sided) RDMA 명령어를 도입하고, 이를 효율적인 RPC 구현에 재사용했습니다.
2. 마이크로아키텍처 상태 직접 접근: SafarDB 는 FPGA 내 NIC 의 내부 상태 (예: Queue Pair 상태) 에 직접 접근하여 리더 선출 및 합의 프로세스의 지연을 극적으로 줄였습니다.
3. 하이브리드 복제 인터페이스: FPGA 메모리 한계를 호스트 메모리로 확장하면서도 단일 복제 인터페이스를 유지하는 모델을 제시했습니다.
4. 성능 및 내결함성 개선: 기존 RDMA 기반 시스템 대비 CRDT 및 WRDT 의 지연 시간과 처리량을 획기적으로 개선했으며, 리더 장애 시 복구 속도를 크게 향상시켰습니다.

4. 실험 결과 (Results)

SafarDB 는 AMD Xilinx Alveo U280 FPGA 와 100GbE 네트워크를 사용하여 기존 RDMA 기반 시스템 (Hamband) 및 FPGA 기반 SmartNIC 시스템 (Waverunner) 과 비교 평가되었습니다.

• 성능 향상:
  • CRDT (완화 일관성): 지연 시간 7.0 배, 처리량 5.3 배 향상.
  • WRDT (하이브리드 일관성): 지연 시간 12 배, 처리량 6.8 배 향상.
  • YCSB + SmallBank 벤치마크: 지연 시간 8 배, 처리량 5.2 배 향상.
  • Waverunner 대비: YCSB 워크로드에서 지연 시간 25.5 배, 처리량 31.3 배 향상 (애플리케이션이 FPGA 내부에 있어 데이터 근접 처리 효과).
• 내결함성 (Fault Tolerance):
  • 권한 변경 (Permission Switch): 기존 RDMA 네트워크의 수백 마이크로초 지연에서 나노초 (17~24ns) 수준으로 단축되었습니다. 이는 리더 장애 시 복구 시간을 획기적으로 줄여줍니다.
  • 장애 발생 시 성능: 노드 장애 발생 시에도 기존 시스템보다 성능 저하가 적고, 복구 속도가 빠릅니다.
• 전력 효율성:
  • SafarDB 는 약 35W를 소비하는 반면, 기존 CPU 기반 시스템 (Hamband) 은 약 160W를 소비하여 약 4.5 배의 전력 효율성을 보였습니다.

5. 의의 및 결론 (Significance)

• 하드웨어 - 소프트웨어 공동 설계의 새로운 패러다임: SafarDB 는 애플리케이션, 운영체제, 마이크로아키텍처의 경계를 허물고, 네트워크 인터페이스 (NIC) 와 일관성 원시 (Consistency Primitives) 를 프로그램 가능한 네트워크 연결 하드웨어에 통합함으로써 저지연, 고처리량 분산 트랜잭션 시스템 구축의 가능성을 입증했습니다.
• 실용적 확장성: 마이크로 벤치마크를 넘어 YCSB, SmallBank 와 같은 실제 데이터베이스 워크로드에서도 우수한 확장성과 성능을 보여주어, 대규모 데이터 센터 환경에서의 적용 가능성을 시사합니다.
• 미래 방향: 이 연구는 네트워크 연결형 FPGA 를 활용한 분산 시스템 배포, 특히 복제 트랜잭션 시스템 및 데이터베이스 복제에 대한 추가적인 연구를 촉진할 것으로 기대됩니다.

요약하자면, SafarDB 는 RDMA 의 한계를 극복하기 위해 FPGA 를 네트워크에 직접 연결하고 애플리케이션 로직과 네트워킹 스택을 통합함으로써, 기존 CPU 기반 시스템 대비 압도적인 성능과 에너지 효율성을 달성한 획기적인 분산 트랜잭션 엔진입니다.