🤖 AI

OpenURMA: A Clean-Room Open Implementation of the Unified Bus Protocol

본 논문은 화웨이 유니파이드 버스 프로토콜의 첫 번째 클린룸 오픈소스 구현체인 OpenURMA를 소개하며, RTL, SystemC 및 gem5 시뮬레이션을 통해 애플리케이션별 상태를 전송 상태와 분리함으로써 기존 RoCEv2 기준 대비 64바이트 원격 가져오기 지연 시간을 4.37배 줄이고 처리량을 2.80배 증가시킨다는 것을 입증합니다.

원저자: Bojie Li

게시일 2026-05-28

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Bojie Li

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

다음은 "OpenURMA: 통합 버스 프로토콜의 클린룸 오픈 구현"이라는 논문에 대한 설명을 쉬운 언어와 일상적인 비유로 풀어낸 것입니다.

큰 문제: "주변장치" 병목 현상

현대 데이터센터를 수천 명의 직원 (애플리케이션) 이 서로 즉시 대화해야 하는 거대한 사무실 건물로 상상해 보세요.

현재 그들이 대화하는 표준 방식은 다음과 같습니다:

주변장치 문제: 네트워크 카드 (NIC) 는 컴퓨터에 연결된 프린터나 마우스와 같은 주변장치로 취급됩니다. 이는 메인 두뇌 (CPU) 의 "바깥"에 위치해 있습니다.
대기열 시스템: 메시지를 보내려면 직원은 메모 (작업 요청, "Work Request") 를 작성하여 네트워크 카드의 우편함 ("도어벨") 으로 가져가야 하고 기다려야 합니다. 그런 다음 네트워크 카드가 이를 받아 처리하고 "완료" 메모를 우편함으로 다시 작성합니다.
교통 체증: 네트워크 카드가 "바깥"에 있기 때문에, 각 메모가 전송되고 확인되기 위해만 PCIe 버스라는 붐비는 고속도로를 네 번이나 건너야 합니다.
메모리 위기: 네트워크 카드는 서로 대화하는 각 직원 쌍마다 개인 파일 폴더를 보관해야 합니다. 1,000 명의 직원이 1,000 명과 대화한다면 카드는 100 만 개의 폴더가 필요합니다. 책상 공간 (온칩 메모리) 이 부족해져서 파일을 꺼내오기 위해 지하의 파일 캐비닛 (호스트 RAM) 으로 뛰어가야 합니다. 이로 인해 모든 것이 매우 느려집니다.

결과: 인터넷 케이블 ("선") 이 엄청나게 빠르더라도, 네트워크 카드가 어떻게 연결되고 조직화되었는지에 따라 전체 시스템이 교통 체증에 갇히게 됩니다.

해결책: 화웨이의 통합 버스 (UB)

화웨이는 이를 해결하기 위해 아센드 950 칩에서 **통합 버스 (Unified Bus, UB)**라는 새로운 설계를 제안했습니다. 그들은 기존 시스템을 단순히 수정한 것이 아니라, 도로의 규칙 자체를 변경했습니다.

1. 사무실 내부로 이동
네트워크 카드를 건물 밖의 주변장치로 두는 대신, UB 는 네트워크 컨트롤러를 메인 복도인 온칩 버스에 건물 내부에 배치합니다.

비유: 로비로 나가 편지를 우편함에 넣는 대신, 이제 책상 바로 옆에 서 있는 동료에게 직접 건네면 됩니다. 고속도로를 네 번 건너지 않고 한 걸음만 내딛으면 됩니다.

2. 파일 시스템 분할
기존 시스템은 대화하는 모든 쌍을 위해 하나의 거대한 폴더를 보관했습니다. UB 는 이를 분할합니다:

제티 (Jetty): 대화의 당신 쪽을 위한 작은 카드.
TP 채널: 상대방 쪽을 위한 공유 카드.
비유: 모든 쌍을 위한 고유한 폴더가 필요했던 것 (크기가 폭발적으로 증가) 대신, 자신용 카드와 대화하는 상대방용 공유 카드만 있으면 됩니다. 폴더의 총 개수가 폭발적으로 증가 (승법적) 하는 대신 천천히 증가 (가법적) 합니다. 이로 인해 네트워크 카드의 책상 공간이 넘치지 않습니다.

3. "로드/스토어" 단축키
컨트롤러가 이제 건물 내부에 있기 때문에, CPU 는 프로그램에서 변수를 읽는 것처럼 표준 명령어 (예: LOAD 또는 STORE) 를 사용하여 직접 컨트롤러와 대화할 수 있습니다.

비유: 양식을 작성하고 우편함으로 가서 영수증을 기다릴 필요가 없습니다. 필요한 데이터를 즉시 가져오면 됩니다.

4. 선택적 규칙 (옵트인 순서)
기존 시스템은 엄격한 규칙을 강요했습니다: "어떤 경우에도 메시지는 전송된 순서대로 정확히 받아야 합니다." 이는 느리고 많은 작업에 불필요합니다.

비유: UB 는 "우리는 가능한 한 빠르게 메시지를 전달할 수 있습니다. 만약 정말로 순서가 필요하다면 손을 들어주세요. 그러면 정렬하기 위해 속도를 늦출 것입니다. 만약 상관없다면 도착하는 대로 인박스 (받은 편지함) 에 그냥 넣어드리겠습니다."라고 말합니다. 이는 엄격한 순서가 필요하지 않은 모든 사람에게 시간을 절약해 줍니다.

OpenURMA 가 한 일

화웨이의 칩은 존재하지만, 그것은 "블랙박스"입니다. 아무도 내부 작동 방식을 보거나 측정하거나 이를 기반으로 구축할 수 없습니다.

OpenURMA는 이 새로운 시스템의 첫 번째 오픈소스 클린룸 구현입니다.

**"클린룸"**이란 화웨이의 비밀 코드를 보지 않고 공개된 규칙서 (명세서) 만을 사용하여 처음부터 새로 구축했음을 의미합니다.
그들은 이를 테스트하기 위해 세 가지 버전을 구축했습니다:
1. RTL: 실제 하드웨어 칩을 위한 설계도 (FPGA 보드에서 테스트됨).
2. SystemC: 네트워크의 초정밀 컴퓨터 시뮬레이션.
3. gem5: 실제 운영체제를 실행하는 전체 컴퓨터 시뮬레이션.

그들은 공정한 비교를 위해 동일한 도구를 사용하여 새로운 시스템 (OpenURMA) 을 기존 표준 (RoCEv2) 과 비교했습니다.

결과: 얼마나 더 빠른가?

이 논문은 특히 작고 빠른 작업 (작은 데이터 조각 가져오기 등) 에서 막대한 개선을 주장합니다:

속도: 표준 데이터 가져오기의 경우 새로운 시스템은 기존 시스템 (약 2,186 나노초) 보다 4.37 배 빠릅니다 (약 500 나노초).
처리량: 초당 처리할 수 있는 데이터 양이 2.8 배 더 많습니다.
효율성: 칩에서 매우 적은 공간을 사용합니다 (테스트 보드의 사용 가능한 공간의 약 14% 만 사용).
확장성: 사용자가 늘어날수록 (1 명에서 1,024 명까지), 기존 시스템은 책상 공간이 부족해져서 속도가 극적으로 느려집니다. 반면 새로운 시스템은 효율적인 파일 시스템 덕분에 빠르고 안정적으로 유지됩니다.

왜 이것이 중요한가 (논문에 따르면)

이 논문은 데이터센터에서 컴퓨터를 연결하는 현재 방식 (네트워크 카드를 주변장치로 취급하는 방식) 이 현대 AI 및 빅데이터 워크로드에 근본적으로 결함이 있다고 주장합니다.

"일관성 있는" 대안: 메모리를 "공유"되고 "일관성 있는" 것처럼 보이게 하려는 다른 기술들 (CXL 또는 NVLink 등) 이 있습니다. 그러나 논문은 이러한 기술들이 대규모 클러스터 (많은 랙의 서버) 로 확장하려고 할 때 실패한다고 주장합니다. 너무 많은 상태 추적이 필요하고 네트워크 오류를 잘 처리하지 못하기 때문입니다.
UB 의 장점: UB 는 네트워크가 완벽하지 않음을 인정하고 건물 전체에 "완벽한 일관성"을 강제하려 하지 않습니다. 대신, 애플리케이션에 필요한 경우에만 순서를 관리할 수 있는 도구를 제공하여 다른 시스템에서 볼 수 있는 성능 붕괴 없이 수천 개의 서버로 확장할 수 있게 합니다.

요약

기존 시스템은 모든 편지에 대해 카운터로 가서 양식을 작성하고, 줄을 서서 기다리고, 영수증을 받아야 하는 우체국이라고 생각하세요.
새로운 OpenURMA 시스템은 당신 바로 옆에 앉아 있고, 누구와 대화하는지 정확히 알며, 특별히 영수증을 요청하지 않는 한 서류 작업 없이 편지를 손에 즉시 전달할 수 있는 개인 메신저라고 생각하세요.

이 논문은 네트워크를 조직하는 이 새로운 방식이 단순한 이론이 아니라, 오늘날 우리가 사용하는 것보다 훨씬 빠르고 확장 가능한 작동하는 오픈 설계임을 증명합니다.

기술 요약: OpenURMA

문제 제기
현대 데이터센터의 RDMA(Remote Direct Memory Access) 는 InfiniBand 와 RoCE 로부터 계승된 '주변 NIC' 추상화에 의해 구조적으로 병목 현상을 겪고 있습니다. 이 모델에서 네트워크 인터페이스 카드(NIC) 는 PCIe 버스 뒤에 위치하며, 통신은 큐 페어(QP) 프로그래밍 모델을 따릅니다. 이 설계는 대규모 팬아웃(수천 개의 GPU)과 작은 메시지 크기(64 바이트 그라디언트) 로 특징지어지는 AI 학습 워크로드에 있어 더 이상 감당하기 어려운 두 가지 치명적인 비용을 부과합니다:

상태 폭발 (State Explosion): QP 는 애플리케이션 식별자와 전송 신뢰성을 결합하여, 모든 (로컬 애플리케이션, 원격 엔드포인트) 쌍마다 연결별 상태가 필요합니다. 1024x1024 규모에서는 약 537 MB 의 상태가 필요하여 칩 내 SRAM 을 초과하게 되고, 이로 인해 컨텍스트를 다시 가져오기 위해 PCIe 왕복 이동이 필수적으로 발생합니다.
PCIe 횡단 지연 (PCIe Traversal Latency): NIC 가 주변 장치이므로, 모든 작업은 PCIe 경계를 네 번 횡단합니다 (도어벨 MMIO, WQE DMA 가져오기, CQE DMA 쓰기, CPU 폴링 미스). 64 바이트 작업의 경우, 이러한 횡단은 약 2 µs 의 왕복 시간 중 약 1.5 µs 를 소모하여 지연 시간을 와이어 속도에 비해 한 자릿수 이상 증가시킵니다.

이전 연구 (FaSST 와 같은 소프트웨어 패치, SRNIC 과 같은 하드웨어 최적화, 또는 프로그래밍 가능한 서브스트레이트) 는 증상을 완화했으나 근본적인 추상화는 그대로 두었습니다.

방법론
본 논문은 주변 NIC 추상화를 대체하는 화웨이 유니파이드 버스 (UB) 사양 (2025) 의 첫 번째 클린룸 오픈 구현체인 OpenURMA를 제시합니다. UB 는 애플리케이션별 엔드포인트 상태를 호스트별 전송 상태로부터 분리하고, 컨트롤러를 칩 내 버스로 이동시키며, 순서 보장을 옵트인 (opt-in) 기능으로 노출시킵니다.

구현은 OpenClickNP 툴체인을 사용하여 단일 소스 설명을 세 가지 모델링 계층으로 낮추어, 매칭된 OpenRoCE(RoCEv2 RC) 베이스라인과 엄격한 사과 대 사과 (apples-to-apples) 비교를 가능하게 합니다:

합성 가능한 RTL: Alveo U50 FPGA 에 구현되어 322 MHz 에서 클로징되었습니다.
사이클 레벨 시뮬레이션: 양쪽 엔드포인트, 와이어, 메모리 계층을 모두 모델링하는 2 노드 SystemC 시뮬레이터.
풀 시스템 스캐폴드: SystemC NIC 에 대해 실제 ARM 바이너리와 Linux 드라이버를 실행하는 gem5 환경.

평가 방법론은 기존 문헌에서 흔히 볼 수 있는 '제출만' 지연 시간 측정을 피하고, 타사 NIC-DRAM 전송 및 PCIe 횡단을 포함한 양방향 비용을 명시적으로 고려합니다.

주요 아키텍처적 조치
OpenURMA 는 UB 사양에서 정의된 네 가지 아키텍처적 조치를 구현합니다:

레이어 분할 (Bounded State): 트랜잭션 레이어(애플리케이션별 Jetty) 를 전송 레이어(호스트별 TP 채널) 로 분리합니다. 상태는 $O(N \cdot M)$ 의 곱셈적 규모가 아닌 $O(N+M)$ 의 덧셈적 규모로 확장됩니다.
온칩 컨트롤러: 상태가 약 110 KB 로 제한되어(칩 내 SRAM 에 적합) 컨트롤러가 CPU 의 온칩 버스에 위치하며, PCIe 경계를 제거합니다.
로드/스토어 경로: CPU 는 워크 큐, 도어벨, DMA 를 우회하여 컨트롤러에 직접 네이티브 ld/st 명령어로 원격 메모리에 접근할 수 있습니다.
옵트인 순서 보장: 순서 보장은 서비스 모드, 실행 순서, 펜스, 완료 순서라는 네 가지 직교 축으로 노출되어 애플리케이션이 옵트인합니다. 게이팅 로직은 기존 카운터를 재사용하여 순서 없는 작업에 대해 제로 파이프라인 사이클을 추가합니다.

주요 결과
64 바이트 원격 페치 (UB 의 LOAD 대 RoCEv2 의 READ) 의 표준 사례에서:

지연 시간: UB 의 로드/스토어 경로는 약 500 ns의 엔드투엔드 지연 시간을 달성하여, 매칭된 RoCE DMA 베이스라인 (2186 ns) 대비 4.37 배 감소했습니다. 워크 큐 경로를 필요로 하는 버브 (verbs) 의 경우에도 PCIe 횡단 제거로 인해 UB 가 약 2.2 배 더 빠릅니다.
처리량: UB 는 OpenRoCE 보다 2.80 배 높은 작업 요청 처리량을 유지합니다.
상태 확장: 1024x1024 엔드포인트에서 OpenURMA 는 110.6 KB의 상태를 사용하는 반면 RoCE 는 536.9 MB를 사용하여 4,855 배 감소했습니다. 이는 연결 수가 약 23(SRAM 오버플로우 지점) 을 초과하면 RoCE 성능이 급격히 저하되는 '지연 시간 절벽'을 방지합니다.
순서 보장 비용: 옵트인 순서 보장은 '거의 무료'입니다; 게이팅을 우회하는 작업은 제로 파이프라인 사이클을 소모합니다.
신뢰성 및 혼잡 제어: OpenURMA 는 선택적 확인 (SACK) 과 C-AQM 혼잡 컨트롤러를 구현하여, Go-Back-N 및 DCQCN 대비 손실 하에서 우수한 Goodput 및 꼬리 지연 시간을 보여줍니다.
확장성 대 일관성 패브릭: 논문은 일관성 패브릭 (CXL, NVLink) 이 디렉토리 상태 증가 ( $O(N)$ ) 와 무효화 브로드캐스트 비용으로 인해 랙 레벨까지 확장할 수 없다고 주장합니다. UB 의 비일관성, 옵트인 접근 방식은 이러한 절벽을 피하여 클러스터 크기가 증가함에 따라 평탄한 지연 시간을 유지합니다.

의의 및 주장
본 논문은 폐쇄형 실리콘에 의존하지 않고 유니파이드 버스 프로토콜의 아키텍처적 약속에 대한 최초의 경험적 검증을 OpenURMA 가 제공한다고 주장합니다. 그 의의는 세 가지 아키텍처적 약속—제한된 상태, 온버스 컨트롤러, 옵트인 순서 보장—이 **상호 부하를 지탱함 (mutually load-bearing)**을 입증하는 데 있습니다:

컨트롤러를 온칩에 유지하려면 제한된 상태가 필요합니다.
로드/스토어 경로를 가능하게 하려면 온칩 컨트롤러가 필요합니다.
옵트인 순서 보장을 비용 없이 만들려면 레이어 분할이 필요합니다.

저자들은 OpenURMA 가 현재 PCIe/QP 패러다임 하에서 구조적으로 불가능한 서브마이크로초 원격 메모리 접근을 제공하는 AI 학습 워크로드에 확장 가능한 피어 투 피어 모델로 주변 NIC 추상화를 대체한다고 결론지었습니다. 해당 구현은 추가 연구 및 프로토타이핑을 가능하게 하기 위해 오픈소스 RTL 및 시뮬레이션 하네스로 공개되었습니다.