ANTMAN: An Efficient and Interpretable RTL-Level Run-Time Detection Framework for Stealthy Branch Predictor Attacks on BOOM

당신의 컴퓨터 프로세서를 바쁜 주방 속의 매우 빠르고 초정밀하게 조직된 셰프로 상상해 보세요. 시간을 아끼기 위해 이 셰프는 모든 주문이 완전히 확인될 때까지 기다리지 않습니다. 대신 고객이 다음에 무엇을 원할지 추측하여 그 추측에 따라 채소를 썰거나 팬을 달구는 등의 준비를 시작합니다. 이것을 "투기적 실행(speculative execution)"이라고 하며, 이는 컴퓨터를 믿을 수 없을 정도로 빠르게 만듭니다. 하지만 요리사가 실수로 조리대에 잘린 양파 흔적을 남겨두는 것처럼, 이러한 추측은 기계의 메모리에 아주 작고 보이지 않는 발자국을 남깁니다.

해커들은 이 발자국을 읽는 법을 배웠습니다. 셰프가 자신의 추측이 틀렸음을 깨닫고 다시 시작하는 데 시간이 얼마나 걸리는지를 관찰함으로써, 그들은 재료를 직접 보지도 않고 비밀 레시피(비밀번호나 암호화 키 같은 것들)를 알아낼 수 있습니다. 이것을 "사이드 채널 공격(side-channel attack)"이라고 합니다. 오랫동안 보안 전문가들은 셰프가 몇 번이나 칼을 집어 들었는지 또는 서랍을 열었는지(하드웨어 카운터 사용)를 세어서 이 해커들을 잡으려 노력했습니다. 하지만 해커들은 너무나 교묘해졌습니다. 그들은 카운터가 자신들을 볼 수 없도록 자신의 발자국을 매우 잘 숨기는 법을 배웠으며, 특히 휴대폰부터 인공위성에 이르기까지 모든 곳에서 인기를 얻고 있는 새로운 오픈 소스 RISC-V 프로세서에서 그러했습니다.

여기에, 보이지 않는 침입자를 잡기 위해 연구자들이 설계한 새로운 보안 프레임워크인 ANTMAN이 등장합니다. ANTMAN을 단순한 카운터가 아니라, 단순히 동작을 세는 것이 아니라 무슨 일이 일어나고 있는지에 대한 '이야기'를 이해하는 매우 관찰력 있는 주방 검사관이라고 생각해보세요. 개별적인 사건을 보는 대신, ANTMAN은 해커가 비밀을 훔치려 할 때만 발생하는 특정한 혼란스러운 춤을 주방 전체에서 지켜봅니다.

연구진은 RISC-V 칩의 테스트 주방 역할을 하는 유명한 오픈 소스 설계인 BOOM 프로세서 위에 이 시스템을 구축했습니다. 그들은 먼저 컴퓨터가 수천 개의 정상적인 요리 작업(선량한 워크로드)을 수행하도록 한 다음, 해커가 두 가지 다른 기술(하나의 단순한 방식과 하나의 복잡한 방식)을 사용하여 비밀을 훔치도록 했습니다. 프로세서의 뇌 내부에서 발생하는 모든 신호를 기록함으로써, 그들은 "연관 규칙 마이닝(association rule mining)"이라는 데이터 마이닝 기법을 사용했습니다. 이것은 마치 컴퓨터에게 "셰프가 숟가락을 떨어뜨릴 때마다 오븐이 울리고 조명이 깜빡거리면, 그것은 사고가 아니라 주방에 도둑이 있다는 신호다"라는 것을 인식하도록 가르치는 것과 같습니다.

논문은 이러한 "비밀스러운 춤"이 믿을 수 없을 정도로 일관적이라는 점을 밝혀냈습니다. 해커가 프로세서의 추측 메커니즘을 악용하려고 시도하면, 특정 연쇄 반응이 유발됩니다: 프로세서는 자신이 잘못 추측했다는 것을 깨닫고, 경로를 수정하려고 시도하며, 다시 시작하기 위해 자신의 정신적 상태를 완전히 비워내야 합니다. 이 과정은 프로세서의 여러 다양한 부분에서 동시에 발생합니다. 연구진은 이 혼란스러운 패턴을 설명하는 16가지의 구체적인 규칙을 발견했습니다. 예를 들어, 메인 유닛의 "분기 예측 오류(branch misprediction)" 신호가 메모리 유닛의 "플러시(flush)" 신호 및 페치 유닛의 "리다이렉트(redirect)" 신호와 동시에 일치한다면, 그것은 거의 확실히 공격입니다.

그들이 이 16가지 규칙을 감시하기 위해 프로세서 설계 안에 작고 비침습적인 모니터를 구축했을 때, 결과는 놀라웠습니다. 시뮬레이션 결과, ANTMAN은 해커를 100% 잡아냈습니다. 해커가 단순한 기술을 사용하든 복잡한 기술을 사용하든 상관없이, 시스템은 단순한 버전의 경우 공격이 25% 진행되었을 때 이미 공격을 포착했으며, 복잡하고 보이지 않는 변형조차 비밀이 완전히 도난당하기 전에 잡아냈습니다. 결정적으로, 정상적인 요리 작업 중에는 결코 허위 경보를 울리지 않았으며, 제로(0)의 오경보율을 달 기록했습니다.

연구진은 이 실험이 실제 장치의 물리적 칩이 아닌 시뮬레이션 환경(프로세서의 완벽한 디지털 모델)에서 테스트되었다는 점을 주의 깊게 명시하고 있습니다. 그러나 시뮬레이션은 보안을 나중에 패치하려고 노력하는 대신, 프로세서의 설계 단계(RTL 레벨)에서 직접 설계함으로써 이러한 은밀한 공격을 훨씬 더 빠르게 차단할 수 있음을 보여줍니다. 그들은 기존의 하드웨어 카운터에 의존하는 방식이 문이 몇 번 삐걱거리는지를 세어 유령을 잡으려는 것과 같다면, ANTMAN은 유령의 특정한 그림자 패턴을 인식하는 것과 같다고 주장합니다. 이 접근 방식은 차세대 오픈 소스 컴퓨터를 보이지 않는 위협으로부터 보호하기 위한 "설계에 의한 보안(secure-by-design)"의 유망한 길을 제시합니다.