The Semantic Arrow of Time, Part III: RDMA and the Completion Fallacy

이 논문은 RDMA 기술이 데이터 배치만 보장하고 애플리케이션의 의미적 통합을 보장하지 않는 '완료 오류'를 범하고 있음을 지적하며, 배달과 약속 사이의 간극을 해소하기 위해 필수적인 반사 단계를 갖춘 프로토콜 아키텍처가 필요함을 주장합니다.

핵심

📦 핵심 비유: "우편배달"과 "레스토랑 주문"

이 논문에서 말하는 RDMA(원격 직접 메모리 접근) 기술은 현대 데이터센터의 핵심입니다. 데이터를 한 컴퓨터에서 다른 컴퓨터로 아주 빠르게 옮기는 기술이죠.

하지만 이 논문은 RDMA 가 가진 치명적인 착각을 지적합니다.

1. RDMA 의 착각: "배달 완료" = "수령 완료"

RDMA 는 데이터를 보낼 때 다음과 같이 말합니다.

"저기요, 편지 (데이터) 를 우체통에 넣었어요. 우체국 (네트워크) 에서 상대방 집 앞까지 배달했으니, **'배달 완료'**라고 표시해 드릴게요!"

하지만 여기서 문제가 생깁니다.

• RDMA 가 보장하는 것: 편지가 상대방의 우편함에 들어갔다는 것 (물리적 도달).
• RDMA 가 보장하지 않는 것: 상대방이 편지를 읽고, 내용을 이해하고, 행동에 옮긴다는 것 (의미 전달).

이 논문의 저자는 이 차이를 **"완료의 오류 (Completion Fallacy)"**라고 부릅니다. 우편함에 편지가 들어갔다고 해서, 상대방이 그 내용을 이해했다고 생각하면 안 된다는 것입니다.

2. 7 단계의 시간적 간극: 편지가 도착하기까지

논문에 따르면, 편지가 보내지는 과정은 7 단계로 나뉩니다. RDMA 는 4 단계에서 "완료"라고 소리칩니다. 하지만 진짜 중요한 일은 6 단계에서 일어납니다.

1. 보내기: 편지를 우체통에 넣음.
2. 우체국 이동: 편지가 트럭에 실려 이동함.
3. 상대방 우편함 도착: 편지가 상대방 집 우편함에 들어감. (여기서 RDMA 가 "완료!"라고 외침)
4. 상대방이 우편함 열기: 상대방이 우편함에서 편지를 꺼냄.
5. 편지 읽기: 상대방이 편지 내용을 읽음.
6. 이해 및 행동: 상대방이 편지 내용을 이해하고, "아, 내일 회의가 있구나"라고 생각하고 행동함. (진짜 의미 전달)
7. 답장: 상대방이 답장을 보냄.

문제점: RDMA 는 3 단계 (우편함 도착) 에서 "완료"라고 알려줍니다. 하지만 6 단계 (이해 및 행동) 는 아직 안 일어났을 수 있습니다. 그 사이 (4~5 단계) 에 상대방이 편지를 읽지 않았거나, 내용을 오해하거나, 편지가 우편함 안에서 찢어졌을 수도 있습니다. 하지만 RDMA 는 "완료"라고만 알려주므로, 보낸 사람은 "아, 다 잘 됐구나"라고 착각하게 됩니다.

---

🌪️ 실제 사례: 거대한 데이터센터의 혼란

이 이론이 왜 중요한지, 실제 거대 기업들에서 어떤 일이 벌어졌는지 보겠습니다.

1. 메타 (Meta) 의 AI 학습: "모두 멈춤"

메타는 24,000 개의 GPU(초고성능 컴퓨터) 를 연결해 AI 를 학습시킵니다.

• 상황: 한 GPU 가 데이터를 보내고 "완료" 신호를 받으면, 다른 GPU 들도 그 데이터를 믿고 다음 작업을 시작합니다.
• 문제: 하지만 "완료" 신호는 데이터가 도착하기만 했을 뿐, 다른 GPU 가 그 데이터를 제대로 이해했는지 확인하지 못합니다.
• 결과: 데이터가 도착했지만 내용이 잘못되었거나, 다른 GPU 가 그 데이터를 읽지 못한 상태에서 모든 컴퓨터가 다음 단계를 시작합니다. 마치 레스토랑에서 요리사가 "요리 끝!"이라고 소리쳤는데, 손님이 아직 메뉴판을 보지 않은 상태에서 모든 테이블이 음식을 먹으려다 넘어지는 것과 같습니다. AI 학습이 엉망이 되거나, 엉뚱한 결과가 나옵니다.

2. 구글 (Google) 의 재설계: "혼란스러운 우체국"

구글은 RDMA 가 너무 많은 문제를 일으킨다고 판단해 시스템을 다시 설계했습니다. 하지만 여전히 "우편함 도착 = 완료"라는 착각은 해결하지 못했습니다.

3. 마이크로소프트 (Microsoft) 의 충돌: "서로 다른 언어"

서로 다른 세대 (구형과 신형) 의 장비가 섞여 있을 때, "완료" 신호를 보내는 방식이 달라서 혼란이 생깁니다.

• 상황: 신형 장비는 "빨리 보내라"고 신호를 보내는데, 구형 장비는 "천천히 하라"고 신호를 보냅니다.
• 결과: 데이터는 잘 도착했다고 신호가 오지만, 실제 처리 속도는 10 배나 느려집니다. 우편배달은 잘 되었지만, 우체국 내부가 마비되어 편지가 제때 처리되지 않는 상황입니다.

---

🛠️ 왜 다른 기술들도 해결 못 할까?

논문의 마지막 부분에서는 CXL, NVLink, UALink 같은 최신 기술들도 이 문제를 완전히 해결하지 못한다고 말합니다.

• CXL: 편지를 우편함에 넣을 때, "이 편지는 찢어지지 않았는지 확인해라"는 기능은 있지만, "상대방이 내용을 이해했는지"는 확인하지 못합니다.
• NVLink: "편지가 도착했다"는 신호는 아주 정확하지만, 그 편지가 "의미 있는 내용"인지, "오류가 없는 내용"인지는 확인하지 못합니다.
• UALink: 더 빠르고 깔끔하지만, 여전히 "보내면 끝"이라는 철학을 가지고 있습니다.

결론: 현재 모든 기술은 **"보내는 것 (Forward)"**에만 집중하고, **"받는 사람이 이해했는지 확인하는 것 (Reflecting)"**을 소홀히 하고 있습니다.

---

💡 이 논문이 전하는 메시지

이 논문은 기술적인 오류를 지적하는 것을 넘어, 우리가 세상을 바라보는 방식의 오류를 지적합니다.

"우리는 데이터가 전달되는 것만 믿고, 그 데이터가 실제로 의미를 갖는지 확인하지 않습니다.
마치 편지를 보냈을 때, 상대방이 읽었는지, 이해했는지, 그리고 행동했는지는 신경 쓰지 않는 것과 같습니다.
하지만 AI 나 중요한 시스템에서는 이 '이해'와 '확인' 과정이 없으면, 모든 것이 엉망이 됩니다."

해결책은 무엇일까요?
저자는 "반사 (Reflecting)" 단계가 필요하다고 말합니다.
상대방이 편지를 읽고, 내용을 이해하고, "네, 제가 이해했습니다. 그리고 이대로 행동하겠습니다"라고 확인 신호를 보내는 과정이 반드시 필요하다는 것입니다.

📝 한 줄 요약

"RDMA 는 편지가 우편함에 도착했다고 '완료'라고 알려주지만, 진짜 중요한 건 상대방이 그 편지를 읽고 이해했는지 확인하는 것입니다. 이 확인 과정이 없으면, 데이터는 잘 전달되어도 의미는 사라지고 시스템은 망가집니다."

기술 요약

논문 요약: 의미적 시간 화살 (The Semantic Arrow of Time), 제 3 부 - RDMA 와 완료의 오류 (Completion Fallacy)

저자: Paul Borrill
출처: DÆDÆLUS, 2026 년 2 월 27 일
주제: RDMA(Remote Direct Memory Access) 의 완료 시그널이 의미적 합의 (Semantic Agreement) 를 보장하지 못하여 발생하는 체계적 데이터 손상 문제와 그 해결 방안.

---

1. 문제 정의 (Problem)

이 논문은 현대 데이터센터, 특히 대규모 AI 학습 클러스터 (Meta 의 24,000 개 GPU 등) 에서 핵심 데이터 전송 기술로 사용되는 RDMA의 근본적인 설계 결함을 지적합니다.

• 핵심 문제: RDMA 는 데이터가 원격 메모리에 '배치 (Placement)'되었음을 확인하는 완료 (Completion) 시그널을 보낼 때, 수신 애플리케이션이 해당 데이터를 의미적으로 통합하고 일관성을 검증한 의미적 합의 (Semantic Agreement) 가 이루어졌다고 오인하게 만듭니다.
• 완료의 오류 (The Completion Fallacy): 전송 계층의 ACK(수신 확인) 를 애플리케이션 계층의 성공으로 착각하는 범주적 오류 (Category Mistake) 입니다. 데이터가 NIC 버퍼에 쓰이는 것 (T4 단계) 과 애플리케이션이 그 데이터를 올바르게 해석하고 상태에 반영하는 것 (T6 단계) 사이의 간격이 무한히 벌어질 수 있음에도 불구하고, RDMA 는 이를 동일시합니다.
• 결과: 데이터는 문법적으로 (Syntactically) 올바르지만, 상태 불일치로 인해 의미적으로 (Semantically) 손상된 상태가 됩니다. 이는 단순한 데이터 손실이 아닌, 침묵하는 데이터 손상 (Silent Data Corruption, SDC) 으로 이어져 AI 모델 학습의 정확도를 떨어뜨리거나 시스템의 논리적 무결성을 해칩니다.

2. 방법론 (Methodology)

저자는 RDMA 의 동작을 시간적 단계로 세분화하여 분석하고, 이를 기존 논문 (Part II) 에서 제안한 oae(Open Arrow of Event) 링크 상태 머신 모델과 비교합니다.

• 7 단계 시간적 분해 (Seven Temporal Stages): RDMA Write 연산을 T0(제출) 에서 T6(의미적 합의) 까지 7 단계로 나누어 분석했습니다.
  • T4 (완료): 전송 계층 ACK 수신 및 CQE(Completion Queue Entry) 생성. RDMA 는 여기서 "성공"을 보고합니다.
  • T5 (가시성): 원격 CPU 가 캐시 일관성 메커니즘을 통해 데이터를 볼 수 있게 됨.
  • T6 (의미적 합의): 수신 애플리케이션이 데이터의 불변성 (Invariants) 을 검증하고 상태에 통합함.
  • 결론: RDMA 는 T4 에서 "완료"를 선언하지만, oae 모델에 따르면 T6 에 도달하기 전까지는 여전히 '잠정적 (Tentative)' 상태입니다. RDMA 에는 수신자가 의미적 처리를 확인하는 반사 (Reflecting) 단계가 부재합니다.
• 원자성 격차 분석: RDMA 의 원자적 연산이 8 바이트로 제한되어 있어, 더 큰 데이터 구조 (예: 해시 테이블 엔트리) 를 업데이트할 때 필드 간 불일치가 발생할 수 있음을 수학적으로 증명했습니다.
• 산업 규모 사례 연구: Meta, Google, Microsoft, ETH Zurich 의 실제 대규모 배포 사례를 분석하여 이론적 문제가 실제 운영 환경에서 어떻게 발현되는지 입증했습니다.

3. 주요 기여 (Key Contributions)

1. 완료의 오류 (Completion Fallacy) 개념 정립: 데이터 전송의 물리적 완료와 의미적 통합 사이의 간극을 명확히 정의하고, 이것이 하드웨어 수준에서 발생하는 범주적 오류임을 규명했습니다.
2. 7 단계 시간 모델 제시: RDMA 연산의 생명주기를 T0~T6 로 세분화하여, "완료" 시그널이 의미적 합의보다 훨씬 앞서 발생함을 시각화했습니다.
3. 실제 사례를 통한 입증:
   • Meta (Llama 3): PFC(우선순위 흐름 제어) 로 인한 정체가 완료 시그널의 지연을 유발하고, ECMP 로드 밸런싱의 한계가 AI 트래픽의 의미적 구조와 충돌함을 보임.
   • Google (1RMA): 연결 지향적 모델의 한계를 극복하기 위해 재설계했으나, 여전히 T4~T6 간격 (완료의 오류) 은 해결되지 않음을 지적.
   • Microsoft (DCQCN): NIC 세대 간 상호 운용성 문제로 인해 완료 시그널은 성공했으나 실제 처리량은 급감하는 모순 발생.
   • SDR-rdma: 단일 패킷 손실이 전체 1GB 전송을 실패로 간주하게 만드는 RDMA 의 이분법적 (성공/실패) 완료 모델의 한계를 지적.
4. 기술 비교 분석: CXL 3.0, NVLink, UALink 등 최신 인터커넥트 기술이 캐시 일관성이나 신호 기반 정렬을 개선했음에도 불구하고, 반사 (Reflecting) 단계의 부재로 인해 의미적 합의 (T6) 를 보장하지 못함을 비교 표를 통해 증명했습니다.

4. 결과 (Results)

• 체계적 의미 손상: RDMA 를 사용하는 대규모 시스템에서 데이터는 전송 성공을 보고하지만, 애플리케이션 상태는 일관성이 깨진 상태로 유지됩니다. 이는 AI 학습에서 그라디언트 텐서의 손상이 모델 평가 시점 (수주 후) 에야 발견되도록 만듭니다.
• 기존 기술의 한계:
  • CXL 3.0: 캐시 일관성 (T4→T5) 은 해결했으나, 다중 캐시라인 업데이트의 원자성과 의미적 검증 (T5→T6) 은 애플리케이션 책임으로 남깁니다.
  • NVLink: 신호 기반 정렬로 가시성을 보장하지만, 데이터의 의미적 정확성 (버전 불일치 등) 을 검증하지는 못합니다.
  • UALink: 메모리 시맨틱스를 도입했으나 여전히 반사 메커니즘이 없어 의미적 합의가 보장되지 않습니다.
• oae 모델의 필요성: T5(가시성) 와 T6(의미적 합의) 사이의 간격을 닫기 위해서는 수신자가 수신 상태를 구조화된 형태로 송신자에게 되돌려주는 필수적인 반사 (Reflecting) 단계가 프로토콜 아키텍처에 포함되어야 함을 결론지었습니다.

5. 의의 (Significance)

• 하드웨어 설계의 패러다임 전환: 단순히 "빠른 데이터 전송 (Throughput/Latency)"을 목표로 하는 기존 설계 철학이, "의미 있는 데이터 전달 (Meaningful Delivery)"을 보장하지 못함을 지적합니다.
• AI 및 대규모 시스템의 신뢰성: AI 학습, 금융 거래, 분산 데이터베이스 등 데이터 일관성이 생명인 시스템에서 RDMA 의 현재 방식이 잠재적인 치명적 결함 (Silent Data Corruption) 을 내포하고 있음을 경고합니다.
• 미래 프로토콜 방향 제시: 차세대 인터커넥트 기술 (Part IV 로 이어짐) 은 단순한 전송 속도가 아닌, 의미적 시간 화살 (Semantic Arrow of Time) 을 따라 데이터가 송신부터 수신자의 의미적 상태 통합까지 완전히 도달할 수 있는 프로토콜 (반사 단계 포함) 로 진화해야 함을 시사합니다.

이 논문은 데이터 전송 기술이 물리적 성공을 넘어 의미적 무결성을 보장해야 함을 강조하며, 현재의 산업 표준이 가진 근본적인 한계를 날카롭게 비판하고 있습니다.