Comparative Timing Characterization of Early-Exit and Fixed-Work Secret Comparisons on ESP32 and ESP8266

컴퓨터 보안의 숨겨진 세계에는 부서진 자물쇠나 도난당한 열쇠와는 상관없는 조용한 위험이 존재합니다. 그것은 바로 시간에 관한 것입니다. 컴퓨터가 비밀 코드가 비밀번호와 일치하는지 확인할 때, 대개 두 문자열을 하나씩 비교하며 확인합니다. 만약 첫 번째 글자가 틀리면, 표준 프로그램은 즉시 멈추고 "아니오"라고 답합니다. 만약 처음 열 글자가 맞고 열한 번째 글자가 틀리다면, 프로그램은 그 실수를 찾아낼 때까지 계속 작동합니다. 이 과정에서 컴퓨터가 생각하는 데 걸리는 시간의 차이는 정보 유출이 될 수 있습니다. 숙련된 관찰자는 응답이 걸리는 시간을 관찰함으로써, 실수가 발생하기 전까지 몇 개의 글자가 맞았는지 이론적으로 계산해 낼 수 있습니다. 이것은 '타이밍 사이드 채널(timing side channel)'로 알려져 있으며, 코드를 깨뜨리는 것이 아니라 시계 소리에 귀를 기울여 정보를 훔치는 방법입니다. 수십 년 동안 보안 전문가들은 소프트웨어가 오류가 발생하는 위치와 상관없이 정확히 동일한 시간을 소요하도록 작성되어야 한다고 경고해 왔으며, 이를 '상수 시간 프로그래밍(constant-time programming)'이라 부릅니다. 하지만 스마트 홈 기기부터 단순한 센서에 이르기까지 모든 것에 동력을 공급하는 작고 저렴한 칩들 위에서는, 이러한 규칙들이 실제 환경에서도 유효한지, 혹은 하드웨어 자체가 새로운 변수를 만들어내지는 않는지 명확하지 않을 때가 있습니다.

최근 한 연구는 세계에서 가장 흔히 쓰이는 두 가지 마이크로칩인 ESP32와 ESP8266을 대상으로 이 현실을 테스트했습니다. 이 칩들은 수많은 저렴한 인터넷 연결 기기들의 두뇌 역할을 합니다. 연구자는 혼자서 이 칩들이 16바이트의 비밀 코드를 비교할 수 있는 두 가지 서로 다른 방법을 구축했습니다. 첫 번째 방법은 표준적이고 취약한 접근 방식인 '조기 종료' 방식으로, 불일치를 발견하는 즉시 멈춥니다. 두 번째 방법은 보안을 위해 설계된 '고정 작업(fixed-work)' 방식으로, 오류가 얼마나 일찍 나타나든 상관없이 칩이 입력된 모든 바이트를 확인하도록 강제하여 전체 시간이 일정하게 유지되도록 합니다. 이 방법들의 동작을 확인하기 위해, 연구자는 칩들에 수천 개의 테스트 코드를 보냈습니다. 각 테스트 코드는 비밀번호의 시작 부분에서 특정 개수의 글자가 일치하도록 정교하게 제작되었습니다. 즉, 어떤 코드는 처음부터 맞고, 어떤 코드는 16글자 모두가 맞을 때까지 일치하다가 그 이후에 어긋나도록 설계되었습니다. 칩들은 내부 클록 사이클을 측정하여 각 비교 작업이 정확히 얼마나 걸렸는지 기록했으며, 가능한 모든 시작 길이에 대해 이 과정을 수백 번 반복했습니다.

결과는 표준 방식의 취약성을 명확하게 보여주었습니다. 더 빠른 ESP32 칩의 경우, 테스트 코드가 비밀 코드와 한 글자 더 일치할 때마다 칩이 작업을 마치는 데 정확히 40 클로크 사이클이 더 소요되었습니다. 더 느린 ESP8266에서는 추가되는 일치 글자당 25 사이클의 지연이 발생했습니다. 이는 완벽하고 예측 가능한 계단 형태의 시간 차이를 만들어냈습니다. 코드가 일치하는 글자가 0개라면 칩은 빠르게 끝났고, 15개라면 훨씬 더 오래 걸렸습니다. 실제로 타이밍이 매우 일관적이어서, 많은 테스트 그룹에서 300번의 시도 중 모든 결과가 정확히 동일한 클록 수를 기록했습니다. ESP32의 경우, 단 한 번의 시간 측정만으로도 해당 세션에서 비밀 코드와 몇 글자가 일치했는지 정확히 알 수 있었습니다. 이는 표준적인 '조기 종료' 방식이 실행되는 시간 자체를 통해 정보를 직접 유출한다는 사실을 확인시켜 주었습니다.

반면, 고정 작업 방식은 보안 전문가들이 기대하는 대로 작동했습니다. 연구자가 모든 16바이트를 확인하도록 강제하는 버전을 사용했을 때, 걸린 시간은 일치하는 글자의 수에 따라 변하지 않았습니다. 테스트 코드가 첫 번째 글자에서 틀리든 마지막 글자에서 틀리든, 칩은 데이터를 처리하는 데 동일한 시간을 소비했습니다. 중앙값 시간은 모든 시나리오에서 평탄하게 유지되었습니다. 그러나 연구는 또한 이 안전함에는 대가가 따른다는 점을 밝혀냈습니다. 고정 작업 방식은 항상 취약한 방식보다 더 많은 시간이 걸렸으며, 특히 테스트 코드가 즉시 실패했을 때 그 차이가 두드러졌습니다. ESP32에서 보안 방식은 첫 글자가 틀렸을 때조차 거의 800 사이클이 걸린 반면, 취약한 방식은 70 사이클 미만으로 끝났습니다. 보안 방식은 총 지속 시간을 일정하게 유지하기 위해 나머지 글자들을 확인하는 데 시간을 낭비한 셈입니다. 이러한 속도와 보안 사이의 절충은 배터리를 소모하거나 기기의 속도를 늦추는 임베디드 시스템의 근본적인 현실입니다.

연구는 또한 이러한 칩들이 압박 상황에서 어떻게 행동하는지에 대한 예상치 못한 특이점들도 발견했습니다. 평균 시간은 안정적이었지만, 일부 개별 측정값은 예상보다 훨씬 높게 튀어 올라 두 배 또는 세 배에 달하기도 했습니다. 이러한 스파이크 현상은 칩이 조용한 상태에 있을 때가 아니라, 일반적인 백그라운드 간섭을 처리하고 있을 때 주로 발생했습니다. 이는 보안 코드의 핵심 로직은 작동하더라도, 칩을 둘러싼 환경이 때때로 예측 불가능한 지연을 일으킬 수 있음을 시사합니다. 연구자는 이 측정값이 네트워크를 통한 것이 아니라 칩 내부의 메모리에서 직접 이루어졌음을 언급했습니다. 즉, 타이밍 누출이 장치상에서 실제로 측정 가능하긴 하지만, 이것이 해커가 인터넷 너머에서 비밀번호를 훔칠 수 있다는 것을 자동으로 증명하는 것은 아니라는 뜻입니다. 실제 연결 환경의 노이즈는 이러한 미세한 차이를 가려버릴 가능성이 높습니다.

궁극적으로, 이 연구는 특정 하드웨어에서 타이밍 누출이 어떻게 나타나는지에 대한 구체적인 지도를 제공합니다. 이는 비교를 조기에 중단하는 단순한 행위가 비밀을 드러내는 정밀하고 측정 가능한 신호를 생성한다는 것을 보여줍니다. 또한, 결과와 상관없이 컴퓨터가 작업을 끝마치도록 강제하는 간단한 코드 변경만으로도 그 신호를 제거할 수 있지만, 성능 저하라는 비용이 따른다는 점을 입증합니다. 이 연구 결과는 임베디드 보안의 세계에서 프로그램이 어떻게 작성되느냐가 사용하는 수학만큼이나 중요하다는 사실을 상기시켜 줍니다. 칩들은 명령받은 대로 정확히 수행했으며, 그 과정에서 세심한 설계 없이는 가장 기본적인 연산조차 시계 소리에 귀를 기울이는 이들에게 비밀을 속삭일 수 있다는 것을 드러냈습니다.