기술 요약: Arm Permission Overlay Extension 2를 위한 범용 격리 및 프로그래밍 모델

문제 정의

Arm Permission Overlay Extension (POE) 및 Intel Memory Protection Keys (MPK)는 가상 메모리를 재구성 가능한 접근 권한을 가진 영역으로 분할함으로써, 커널 매개 컨텍스트 스위칭의 성능 오버헤드를 피하면서 프로세스 내 격리를 제공한다. 그러나 이러한 메커니즘(특히 POE1)은 컴파트먼트(compartment) 내에서의 권한 분리 기능이 부족하다(예: wrpkru 또는 POR_ELx를 통해 다른 도메인의 접근 권한을 수정할 수 있음). 이로 인해 이들은 보안 격사보다는 소프트웨어 결함 격리(software fault isolation)에 적합한 수준에 머문다.

Arm의 새로운 POE2 확장은 공간 인덱스(protection keys/POIndex)와 시간 인덱스(thread state/TIndex)를 포함하는 다차원 권한 모델을 도입하여 이를 해결하고, 이를 통해 권한 분리를 구현한다. POE2는 더 강력한 보안 보장을 제공하지만, 상당한 아키텍처 복잡성을 야기한다. 유효한 권한은 여러 하드웨어 구성 요소(Instruction Region Table, Data Permission Overlay Table, TIndex Transition Table 등)의 상호작용에 의해 결정되므로, 직접 프로그래밍하는 것은 오류가 발생하기 쉽고 까다롭다. 또한, POE2는 명시적인 프로그래밍 모델이 부족하여 개발자가 복잡한 상태 전이와 테이블 구성을 수동으로 관리해야 하는 문제를 안고 있다.

방법론

본 논문은 Complet(compartmentalised applet, 컴파트먼트화된 애플릿)이라는 새로운 추상화와 특권 계층인 Monitor(모니터) 컴포넌트를 중심으로 하는 범용 프로그래밍 모델을 제안한다.

1. 추상화 (Complets): Complet는 서로 신뢰할 수 없는 격리된 바이너리로, 다른 Complet의 메모리에 직접 접근할 수 없다. 이는 고유한 POIndex와 TIndex의 조합에 매핑된다.
2. 오케스트레이션 (Monitor): 프로세스 내의 신뢰할 수 있는 특권 컴포넌트로, Complet의 라이프사이클을 담당한다. Monitor는 다음을 수행한다:
   • 바이너리를 배포하고 서로 다른 메모리 영역에 링크한다.
   • 권한을 정의하기 위해 POE2 테이블(IRT, DPOT, TTT)을 구성한다.
   • **신뢰할 수 있는 트램폴린(Trusted Trampolines)**을 통해 통신을 중재한다.
3. 보안 전이 (Secure Transitions): 허용된 영역 내에서 임의의 주소로 분기하는 것을 방방지하기 위해(POE2의 핵심 위험 요소), 모델은 상태가 없는(stateless) 최소한의 신뢰할 수 있는 트램폴린을 통한 전이를 강제한다.
   • Complet는 트램폴린(특정 POIndex)으로 분기한다.
   • 트램폴린은 TIndex를 전환하기 위해 TCHANGE 명령어를 실행한다.
   • 그 후 트램폴린은 대상 Monitor 함수나 다른 Complet로 분기한다.
   • 이 2단계 과정(Branch -> TCHANGE -> Branch)은 제어 흐름이 단일 단계 내에서 의도하지 않은 주소로 탈취되는 것을 보장한다.
4. 보안 가정: 모델은 Complet 코드가 적대적이며 ROP 가젯을 포함할 수 있다고 가정한다. Monitor와 그 트램폴린은 신뢰할 수 있고 버그가 없다고 가정한다. 커널은 신뢰된다.

주요 기여

본 논문은 세 가지 주요 기여를 한다:

1. POE2 개요: 새로운 명령어, 레지스터(TINDEX), 메모리 테이블(IRT, DPOT, TTT)을 포함한 EL0(Exception Level 0)를 위한 POE2에 대한 상세 분석.
2. 보안 분석: POE2의 전이 위험, 특히 중간의 신뢰할 수 있는 상태 없이 상호 신뢰할 수 없는 당사자 간의 제어 흐름을 호출자가 완전히 제어할 수 없는 문제를 식별한다. 이는 보안 전이가 의도된 진입점에 착륙하도록 강제하기 위해 신뢰할 수 있는 요소(트램폴린)가 필요함을 입증한다.
3. 범용 프로그래밍 모델: 공간 및 시간 인덱스(POIndex/TIndex)의 복잡성을 추상화하는 Complet 추상화와 Monitor 아키텍처를 도입한다. 이 모델은 세 가지 주요 프로세스 내 격리 패턴을 지원한다:
   • 대칭 격리 (Symmetric Isolation): 공유 메모리를 통해 데이터를 교환하는 상호 신뢰할 수 없는 당사자들 (예: Hodor, IskiOS).
   • 비대칭 격리 (Asymmetric Isolation, JIT): 신뢰할 수 없는 생성 코드와 신뢰할 수 있는 런타임 코드를 분리 (예: ERIM, Shreds).
   • 엔클레이브 스타일 역샌드박스 (Enclave-style Reversed-Sandbox): 호스트에 대한 전체 접근 권한을 가진 격리된 컴포넌트와, 반대로 엔클레이브에 대해 제한된 접근 권한을 가진 호스트 (예: Intel SGX).

결과 및 구현

저자들은 기능 모델(Arm의 FVP) 상에서 이 격리 시스템의 프로토타입을 구현하였으며, POE2 테이블 관리를 위한 새로운 시스템 콜(약 300줄의 코드)을 리눅스 커널에 확장하였다.

• 전이 오버헤드 (Transition Overhead): Complet와 Monitor 사이의 안전한 단방향 전이는 컨텍스트 저장, 로딩 및 도메인 전환을 위해 약 75개의 명령어를 필요로 한다.
• 트램폴린 설계: 신뢰할 수 있는 트램폴린은 최소한의(100개 미만의 어셈블리 명령어) 상태가 없는 구조로 설계되어 공격 표면을 줄였다.
• 패턴 검증: 프로토타입은 제안된 API를 사용하여 대칭, 비대칭 및 엔클레이브 스타일의 디자인 패턴을 성공적으로 구현함을 입증했다.

의의 및 주장

본 논문은 하드웨어의 복잡한 능력과 실제 소프트웨어 구현 사이의 간극을 메우는, POE2에 대한 최초의 상세 분석 및 범용 프로그래밍 모델을 제공한다고 주장한다.

• 보안: 모델은 격리된 코드를 적대적인 것으로 취급하고, 제어 흐름 탈취(raw POE2 사용 시 발생하는 취약점)를 방지하기 위해 신뢰할 수 있는 트램폴린을 활용함으로써 강력한 보안 보장을 강제한다.
• 사용성: 다차원 인덱스 공간(POIndex/TIndex)을 Complet 인터페이스로 추상화함으로써, 개발자가 저수준의 하드웨어 테이블을 직접 관리하지 않고도 표준적인 프로세스 내 격리 패턴을 사용하여 분할된 소프트웨어를 구축할 수 있게 한다.
• 유연성: 이 아키텍처는 엄격한 보안 모델(완전한 격리 포함)과 더 약한 모델(Monitor가 버그가 없다고 가정하는 직접 전이)을 모두 지원하여 보안과 성능 간의 절충안을 제공한다.

저자들은 본 라이브러리가 개념 증명(proof of concept) 역할을 하지만, 실제 성능 특성은 새로운 테이블 및 레지스터의 캐싱을 포함한 향후 마이크로아키텍처 구현에 크게 의존할 것이며, 실제 성능 평가는 향후 과제로 남겨둔다고 언급하였다.