기술 요약: GPUBreach

문제 정의

CPU DRAM(DDR) 에 대한 Rowhammer 공격은 광범위하게 연구되어 권한 상승 (예: sudo 또는 페이지 테이블 손상 및 커널 액세스 획득) 을 가능하게 하는 것으로 입증되었으나, GPU 에 대한 Rowhammer 악용은 역사적으로 제한적이었습니다. GPUHammer 와 같은 이전 연구는 NVIDIA GPU 의 GDDR6 메모리가 비트 플립에 취약함을 입증했으나, 이러한 공격은 주로 머신러닝 모델 가중치에 표적되지 않은 오류를 주입하여 정확도를 저하시키는 데 사용되었습니다.

본 논문이 다루는 핵심 문제는 NVIDIA GPU 에 대한 Rowhammer 공격이 단순한 데이터 손상을 넘어 권한 상승으로 이어질 수 있는지 여부입니다. 구체적으로, 저자들은 비권한 사용자 수준 CUDA 커널이 GPU 페이지 테이블을 조작하여 GPU 메모리에 대한 임의의 읽기/쓰기 액세스 권한을 획득할 수 있는지 (장치 측 권한 상승), 그리고 IOMMU 와 같은 보호 장치가 존재함에도 불구하고 이를 통해 호스트 CPU 커널을 침해할 수 있는지 (시스템 전체 권한 상승) 를 조사합니다.

방법론

저자들은 Rowhammer 비트 플립과 GPU 페이지 테이블을 취약한 위치로 "마사지"하는 새로운 기법을 결합한 GPUBreach라는 프레임워크를 개발했습니다. 이 공격은 세 가지 주요 과제를 해결하는 데 의존합니다.

1. 페이지 테이블 할당 파악 (과제 C1)

NVIDIA GPU 는 페이지 테이블을 완전히 장치 메모리에 저장하지만, 그 할당 전략은 문서화되어 있지 않습니다.

• 기법: 저자들은 오픈 소스 NVIDIA GPU 드라이버를 패치하여 메모리 위치를 덤프하고 할당 전략을 분석했습니다. 그 결과, 페이지 테이블이 연속된 2MB 영역 (PT 영역) 에 할당된다는 것을 발견했습니다. 초기에는 이러한 영역이 사용자 데이터와 멀리 배치되지만, 초기 영역이 채워지면 후속 영역은 사용자 페이지와 동일한 물리적 풀에서 할당되어 Rowhammer 공격에 필요한 교차 할당이 가능해집니다.

2. 효율적인 페이지 테이블 채우기 (과제 C2)

표준 2MB 데이터 페이지를 사용하여 2MB PT 영역을 페이지 테이블 항목 (PTE) 으로 채우려면 약 256GB 의 메모리가 필요하여 GPU 용량을 초과합니다.

• 기법: 저자들은 **통합 가상 메모리 (UVM)**를 활용한 새로운 할당 원시 기능을 개발했습니다. 특정 할당 크기 (예: 2MB + 4KB) 에 대한 드라이버의 동작을 악용하여 드라이버가 더 작은 4KB 및 64KB 페이지 프레임을 할당하도록 유도했습니다. 이를 통해 PT 영역을 채우는 데 필요한 메모리를 256GB 에서 희소 채우기의 경우 1GB, 밀집 채우기의 경우 16GB 로 줄여 소비자용 GPU 에서 공격을 실현 가능하게 만들었습니다.

3. 할당 감지 및 유도 (과제 C3)

공격자는 새로운 PT 영역이 취약한 메모리 위치 (비트 플립에 취약한 행) 에 배치되도록 정확한 시기를 알아야 합니다.

• 기법: 저자들은 UVM 할당에서 타이밍 사이드 채널을 식별했습니다. GPU 메모리가 용량에 가까워지면 새로운 할당이 CPU 메모리로의 페이지 추방을 유발하여 접근 지연 시간의 측정 가능한 급증을 초래합니다. 이러한 지연 시간 급증을 모니터링함으로써 공격자는 새로운 PT 영역의 생성을 감지할 수 있습니다. 메모리를 신중하게 관리 (특정 페이지 추방 및 대상 슬롯 해제) 함으로써 공격자는 할당기를 "마사지"하여 새로운 PT 영역을 알려진 취약한 물리 주소에 정밀하게 배치할 수 있습니다.

공격 워크플로우

1. 프로파일링: 비트 플립에 취약한 취약한 DRAM 행을 식별합니다.
2. 마사지: GPU 메모리를 채우고 타이밍 사이드 채널을 사용하여 PT 영역 할당을 감지합니다. 특정 페이지를 추방하여 다음 PT 영역이 취약한 행에 할당되도록 강제합니다.
3. 조작: 취약한 영역 내의 PTE 의 페이지 프레임 번호 (PFN) 필드에서 Rowhammer 를 사용하여 비트를 플립합니다.
4. 권한 상승:
   • 단계 1: 비트를 플립하여 손상된 PFN 이 공격자가 제어하는 페이지를 가리키도록 합니다.
   • 단계 2: 해당 공격자 제어 페이지를 해제하고 두 번째 PT 영역을 해당 위치에 마사지합니다.
   • 결과: 공격자는 이제 두 번째 PT 영역의 PTE 를 제어하게 되어 전체 GPU 물리 메모리에 대한 임의의 읽기/쓰기 액세스 권한을 획득합니다.

주요 기여

1. Rowhammer 를 통한 최초의 GPU 권한 상승: 본 논문은 페이지 테이블을 손상시킴으로써 GPU 메모리에 대한 임의의 읽기/쓰기 액세스를 부여하는 NVIDIA GPU 에서 Rowhammer 기반 권한 상승을 최초로 입증했습니다.
2. 새로운 GPU 페이지 테이블 메커니즘: 저자들은 이전에 알려지지 않은 GPU 페이지 테이블 할당 동작을 규명하고 UVM 원시 기능을 사용하여 페이지 테이블을 효율적으로 채우고 배치하는 기법을 개발했습니다.
3. 시스템 전체 권한 상승: 본 논문은 GPU 를 침해하면 CPU 측 권한 상승으로 이어질 수 있음을 입증했습니다. 권한이 있는 GPU 드라이버 (특히 GSP 메시지 큐) 의 신뢰할 수 있는 GPU-쓰기 가능 데이터 구조를 손상시킴으로써 공격자는 Linux 커널에서 경계 초과 (OOB) 쓰기를 유발하여 IOMMU 보호를 우회하고 루트 쉘을 획득할 수 있습니다.
4. 실용적 악용: 저자들은 세 가지 실제 시나리오로 공격을 검증했습니다.
   • 데이터 유출: cuPQC 라이브러리 (양자 내성 암호화) 및 LLM 가중치에서 암호화 키를 탈취.
   • 은밀한 코드 조작: cuBLAS 어셈블리 코드의 단일 분기를 수정하여 모델이 충돌하거나 지연 시간에 큰 영향을 주지 않으면서 ML 모델 정확도를 (~80% 에서 0.1% 로) 보편적으로 저하시켜 가중치 조작보다 탐지가 어렵게 만듦.
   • 루트 액세스: 호스트 시스템에서 루트 권한으로 상승.

결과

저자들은 48GB GDDR6 메모리 (ECC 비활성화) 를 갖춘 NVIDIA RTX A6000에서 GPUBreach 를 평가했습니다.

• 비트 플립 성공: 6 개 뱅크 프로파일링 캠페인에서 총 34 개의 플립 중 PTE 손상에 적합한 9 개의 비트 플립을 식별했습니다.
• 공격 속도: 유효한 PFN 손상을 찾는 시간을 포함하여 엔드투엔드 권한 상승 (단계 1~4) 은 평균 약 17 초가 소요됩니다.
• 데이터 유출: cuPQC 실험에서 공격자는 키 교환 실행의 4.4% (1000 회 중 44 회) 에서 개인 키를 성공적으로 복구하여 단기 비밀의 신뢰할 수 있는 유출을 입증했습니다.
• ML 저하: cuBLAS 의 단일 분기를 조작하여 여러 모델 (AlexNet, ResNet50 등) 의 정확도를 **0.1%**로 낮추면서도 추론 지연 시간을 원래 값의 ±10% 이내로 유지했습니다.
• CPU 권한 상승: NVIDIA 커널 드라이버의 검증되지 않은 데이터 구조를 악용하여 IOMMU 보호를 우회하고 시스템 전체 루트 액세스를 달성했습니다.

중요성 및 주장

본 논문은 GPUBreach 가 GPU 보안의 위협 모델을 근본적으로 변화시킨다고 주장합니다. 이전의 GPU Rowhammer 공격이 모델 정확도 저하로 제한되었던 것과 달리, 이 연구는 Rowhammer 기반 권한 상승에 있어 GPU 가 CPU 만큼이나 강력함을 증명합니다.

저자들은 다음과 같은 점을 강조합니다.

• 신뢰 경계 붕괴: 침해된 GPU 가 자신의 메모리에만 영향을 미친다는 가정은 거짓이며, 이는 호스트 OS 커널을 침해할 수 있습니다.
• IOMMU 의 불충분함: IOMMU 와 같은 표준 방어 기법은 GPU 가 작성한 데이터 구조 (공격자가 Rowhammer 를 통해 제어) 를 드라이버가 정제하지 못한다는 취약점이 있기 때문에 이 공격을 방지하지 못합니다.
• 광범위한 적용 가능성: A6000 에서 입증되었지만, 페이지 테이블 마사지 및 드라이버 취약점과 같은 악용 기법은 GPU 가 Rowhammer 에 취약하고 ECC 가 비활성화되어 있는 한 다른 NVIDIA GPU 세대 (Ampere, Ada, Hopper, Blackwell) 및 드라이버 버전에도 적용 가능합니다.

저자들은 발견 사항을 NVIDIA, Google, AWS, Microsoft 에게 책임 있게 공개했습니다. NVIDIA 는 Rowhammer 보안 공지를 업데이트할 수 있다고 밝혔으며, Google 은 버그 바운티를 수여했습니다. 저자들은 GPU 를 위한 효과적인 Rowhammer 완화 조치와 GPU-쓰기 가능 드라이버 데이터에 대한 신뢰 재평가가 시급하다고 결론지었습니다.