기술 요약: WATSON - 임베디드 시스템의 섀도 스택 보호를 위한 데이터 워치포인트 활용

문제 제기

C 와 같은 메모리 안전하지 않은 언어로 종종 프로그래밍되는 임베디드 및 사물인터넷 (IoT) 장치는 제어 흐름 하이재킹 공격, 특히 리턴 오리엔티드 프로그래밍 (ROP) 에 매우 취약합니다. 이러한 공격은 스택 기반 버퍼 오버플로우를 악용하여 리턴 주소를 덮어쓰고 실행을 악성 코드 시퀀스로 리디렉션합니다. 섀도 스택은 리턴 주소를 별도의 보호된 메모리 영역에 저장하는 검증된 방어 메커니즘이지만, 임베디드 시스템을 위한 기존 솔루션들은 다음과 같은 중대한 한계에 직면해 있습니다:

1. 불완전한 커버리지: 많은 솔루션이 시스템 전체의 백워드 엣지 제어 흐름을 보호하지 못하며, 특히 인터럽트 및 예외 처리기를 보호하지 않은 채 방치합니다.
2. 높은 성능 오버헤드: TrustZone 과 같은 보안 확장 기능에 의존하는 솔루션 (예: CaRE, TzmCFI) 은 보안 상태와 비보안 상태 간의 빈번한 컨텍스트 스위치로 인해 막대한 런타임 오버헤드 (최대 513%) 를 초래합니다.
3. 하드웨어 의존성: 많은 접근 방식은 임베디드 장치에서 보편적으로 사용 가능한 것이 아닌 하드웨어 기능, 예를 들어 신뢰 실행 환경 (TEE) 이나 특정 메모리 보호 단위 (MPU) 에 의존합니다.
4. 호환성 문제: 섀도 스택에 대한 접근을 제한하기 위해 MPU 에 의존하는 솔루션들은 제한된 구성 가능 메모리 영역을 소모하여 compartmentalization 과 같은 다른 보안 메커니즘과 충돌할 가능성이 있습니다.

방법론: WATSON

저자들은 TEE 나 복잡한 메모리 관리 하드웨어에 의존하지 않고 임베디드 시스템을 위한 보호된 섀도 스택을 제공하는 컴파일러 기반 솔루션인 WATSON을 제안합니다. 핵심 혁신은 ARM Cortex-M 에 있는 **데이터 워치포인트 (DWT)**와 RISC-V 의 디버그 트리거와 같이 널리 사용되지만 보안 목적으로는 미활용된 표준 하드웨어 디버그 유닛을 재사용하는 데 있습니다.

주요 아키텍처 구성 요소

1. 컴팩트 섀도 스택 변환:

   • 전체 메인 스택을 복제하는 (병렬 섀도 스택) 대신, WATSON 은 리턴 주소만 저장하는 컴팩트 섀도 스택을 구현합니다.
   • 컴파일러는 함수 프로롤로그를 인스트루먼트하여 리턴 주소를 섀도 스택에 저장하고, 에필로그를 통해 이를 검색합니다.
   • 희소한 범용 레지스터 (GPR) 를 할당하지 않기 위해, WATSON 은 섀도 스택 포인터 (SSP) 를 메모리 매핑 레지스터(구체적으로 재사용된 DWT 비교기 레지스터) 에 저장합니다. 이는 리소스가 제한된 마이크로컨트롤러에서의 레지스터 압력을 방지합니다.

2. 데이터 워치포인트를 통한 쓰기 보호:

   • WATSON 은 DWT 비교기를 구성하여 섀도 스택 메모리 영역을 모니터링합니다.
   • 기본 상태: 섀도 스택은 읽기 전용으로 구성됩니다. 무단 쓰기 시도가 발생하면 DebugMon 예외가 발생하여 시스템 리셋 또는 보안 보고로 이어집니다.
   • 런타임 강제: 합법적인 함수 프로롤로그 동안 컴파일러는 쓰기 보호를 일시적으로 비활성화한 후 섀도 스택과 SSP 를 업데이트하고, 함수 본문이 실행되기 전에 보호를 다시 활성화합니다. 이를 통해 오직 승인된 코드 경로만이 섀도 스택을 수정할 수 있음을 보장합니다.

3. 예외 및 인터럽트 처리:

   • WATSON 은 예외 처리기 보호의 공백을 해결합니다. 예외 진입 시, 예외 스택 프레임 (ESF) 의 부분 복사본을 캡처하여 섀도 스택에 저장합니다.
   • 복귀 시, ESF 를 복원하고 섀도 스택의 리턴 주소와 대조하여 검증합니다.
   • 이 설계는 악성 예외 처리기가 제어 흐름을 침해하거나 권한을 상승시키지 못하도록 보장합니다.

4. 포워드 엣지 CFI 통합:

   • 공격자가 DWT 구성을 수정하는 코드 등으로 점프하여 쓰기 보호를 비활성화하는 포워드 엣지 공격을 방지하기 위해, WATSON 은 LLVM 의 -fsanitize=cfi-icall 옵션과 통합하여 포워드 엣지 제어 흐름 무결성을 강제합니다.

주요 기여

1. 하드웨어 중립적 보호: WATSON 은 TEE 나 특정 MPU 구성 없이 섀도 스택 보호를 위해 표준 디버그 유닛 (데이터 워치포인트) 을 활용하는 최초의 솔루션입니다. 이는 권한 분리 및 compartmentalization 과 같은 기존 보안 메커니즘과의 호환성을 보장합니다.
2. 시스템 전체 무결성: 이전 작업과 달리 WATSON 은 일반 함수 호출뿐만 아니라 예외/인터럽트 처리기에 대한 포괄적인 보호를 제공하여, 손상된 처리기를 통한 권한 상승을 방지합니다.
3. 효율적인 구현: 메모리 매핑 레지스터를 SSP 에 사용하고 컴팩트 섀도 스택을 활용함으로써 WATSON 은 레지스터 압력과 메모리 풋프린트를 최소화하여 베어메탈 임베디드 시스템에 적합합니다.
4. 프로토타입 및 평가: 저자들은 LLVM 을 사용하여 ARM Cortex-M4 아키텍처에서 프로토타입을 구현하고 표준 벤치마크 및 실제 응용 프로그램에 대해 평가했습니다.

결과

평가 작업은 BEEBS 및 CoreMark-Pro 벤치마크 스위트와 두 가지 실제 응용 프로그램 (Pinlock 및 FatFS RAM) 을 사용하여 ARM Cortex-M 아키텍처에서 수행되었습니다.

• 성능 오버헤드:
  • BEEBS: 평균 런타임 오버헤드 7.33% (기하평균 0.90%).
  • CoreMark-Pro: 평균 런타임 오버헤드 1.81% (기하평균 0.59%).
  • 예외 처리: 사용 오류 (Usage Fault) 예외 처리에 대한 무시할 만한 런타임 오버헤드 (약 9e-06%).
  • 실제 응용 프로그램: Pinlock 의 경우 오버헤드가 0.2% 이었고 FatFS RAM 의 경우 무시할 만한 수준이었습니다.
• 코드 크기 오버헤드:
  • BEEBS: 평균 증가분 8.58% (기하평균 7.36%).
  • CoreMark-Pro: 평균 증가분 2.54% 에서 3.53%.
  • 실제 응용 프로그램: Pinlock 의 경우 0.88%, FatFS RAM 의 경우 2.11% 였습니다.
• 보안 효과성:
  • WATSON 은 메인 스택의 리턴 주소를 덮어쓰려고 시도한 공격을 성공적으로 방지했습니다.
  • 공격자가 보호된 메모리 영역을 조작하려고 시도할 때 예외를 발생시켜 섀도 스택에 대한 무단 직접 수정을 효과적으로 차단했습니다.

중요성 및 주장

이 논문은 WATSON 이 임베디드 시스템을 위한 기존 섀도 스택 솔루션에 대한 실용적이고 효율적인 대안을 제공한다고 주장합니다. 그 주요 중요성은 다음과 같습니다:

• 호환성: 제한된 MPU 영역을 소모하거나 TEE 와 같은 희귀 하드웨어 확장을 필요로 하지 않기 때문에 compartmentalization 과 같은 다른 보안 메커니즘과 원활하게 작동합니다.
• 접근성: 대부분의 현대 마이크로컨트롤러 (ARM Cortex-M, RISC-V) 에서 제공되는 표준 디버그 유닛을 사용함으로써 광범위한 임베디드 장치에 강력한 제어 흐름 무결성을 배포하는 장벽을 낮춥니다.
• 완전성: 종종 간과되는 예외 처리기의 취약점을 해결하여 진정한 시스템 전체의 백워드 엣지 보호를 제공합니다.

저자들은 사전 컴파일된 서드파티 라이브러리를 인스트루먼트하는 어려움과 단일 비교기를 사용하는 ARMv7-M 에서의 32KB 섀도 스택 메모리 제한과 같은 한계를 인정합니다. 그러나 그들은 이러한 제약 조건이 일반적인 임베디드 워크로드에서는 관리 가능하며, 리소스가 제한된 환경에서는 메모리 풋프린트와 성능 간의 트레이드오프가 유리하다고 주장합니다.