기술 요약: TinyML에서의 전압 및 전자기 결함 주입

1. 문제 정의

TinyML은 자원이 제한된 임베디드 장치(예: IoT 노드, 마이크로컨트롤러)에 추론 모델을 배포할 수 있게 해줍니다. 이러한 장치들은 지연 시간과 개인정보 보호 측면에서 이점을 제공하지만, 물리적 접근성이 용이하여 결함 주입 공격(fault injection attacks)에 취약합니다. 암호화 구현과 달리, TinyML 워크로드가 물리적 섭동(perturbations)에 얼마나 취약한지에 대한 연구는 아직 미비한 상태입니다.

본 연구는 TinyML 모델이 전압 글리칭(voltage glitching) 및 전자기(EM) 결함 주 injection에 대해 가지는 취약성을 조사합니다. 주요 우려는 공격자가 일시적인 하드웨어 오류를 유도하여 계산을 왜곡함으로써 다음과 같은 결과를 초래할 수 있다는 점입니다:

1. 정확도 저하: 무작위 오분류 발생.
2. 예측 가능한 오작동: 모델을 무작위 오류가 아닌, 공격자가 선택한 고정된 레이블로 유도.
3. 시스템 불안정성: 장치 리셋 또는 행(hang) 현상 유발.

본 연구는 시스템 리셋을 트리거하지 않으면서도 장치의 신뢰성을 훼손하고 탐지를 피할 수 있는 "스텔스(stealthy)" 공격 구성을 식별하는 데 중점을 둡니다.

2. 방법론

2.1 실험 설정

저자들은 네 가지 대표적인 TinyML 모델을 두 가지 하드웨어 플랫폼에서 평가했습니다:

• 대상 모델:
  • FastGRNN: 시퀀스 처리를 위한 순환 모델 (16 타임 스텝, 16 특징).
  • TinyCNN: MNIST 숫자 분류를 위한 소형 합성곱 신경망 (int8로 양자화됨).
  • 로지스틱 회귀(Logistic Regression): 정형 데이터를 위한 이진 분류기.
  • 웨이크 워드 감지(Wake Word Detection): MFCC 특징을 사용하는 키워드 스포팅 모델.
• 하드웨어 플랫폼:
  • Riscure Pinata Board: STM32F417IG (ARM Cortex-M4F)를 탑재. 전압 글리칭과 EM 결함 주입 모두에 사용.
  • ChipWhisperer-Husky: SAM4S (ATSAM4S2A, Cortex-M4)를 탑재. 플랫폼 간 비교를 위해 전압 글리칭용으로 사용.

2.2 공격 벡터

• 전압 글리칭(Voltage Glitching): Spider VCC 글리처(Pinata) 또는 ChipWhisperer-Husky를 사용하여 공급 전압($V_{DD}$)을 제어된 방식으로 섭동시킴. 파라미터 탐색 범위에는 대상 전압, 글리치 지속 시간, 관심 영역(ROI) 대비 주입 타이밍이 포함됨.
• 전자기(EM) 결함 주입: MCU 다이(die) 상단에 위치한 EM 프로브를 사용하여 국부적인 일시적 전류를 유도. 파라미터 탐색 범위에는 펄스 진폭, 주입 시간, 프로브 위치(STM32 다이의 6개 지점 테스트)가 포함됨.

2.3 평가 지표

시행(trials)은 정상(Correct), 오분류(Misprediction), 또는 **리셋/행(Reset/Hang)**으로 분류되었습니다. 본 연구는 다음을 분석했습니다:

• 유효한(리셋되지 않은) 반환값에 대한 엔드 투 엔드(end-to-end) 정확도.
• 리셋 발생률.
• 중간값 부패 (레이어 출력의 비트 플립).
• 결함 전파 패턴 (일시적 vs 지속적).

2.4 대응책 제안

이러한 공격을 완화하기 위해 저자들은 무작위 자기 감소(Randomized Self-Reduction, RSR) 방식을 제propose합니다. 이 방식은 다음과 같습니다:

1. 함수 입력을 무작위화함.
2. 동등한 여러 함수 인스턴스를 평가함.
3. 다수결 투표(중앙값 기반 필터링)를 통해 결과를 재결합함.
   이는 로지스틱 회귀, 행렬-벡터 곱셈, 합성곱(convolution)과 같은 핵심 TinyML 프리미티브에 적용됩니다.

3. 주요 기여

본 논문은 이전 컨퍼런스 연구 [14]를 확장하여 다음과 같은 구체적인 기여를 합니다:

• 확장된 EM 결함 주입 연구: STM32F417IG 다이의 6개 프로브 위치를 평가하여, EM 유도 결함의 분류 체계(일시적, 지속적 제로 상태, 지속적 광범위 메모리, 지속적 추론 국소화)를 도입함.
• 지속적 부패(Persistent Corruption) 특성화: EM 결함이 어떻게 지속적인 상태 부패(예: 중간값이 0 또는 NaN으로 붕괴되어 리셋 전까지 지속되는 현상)를 일으키는지에 대한 상세한 분석을 수행함.
• 정교화된 공격 파라미터화: 효과적인 비리셋(non-reset) 결함 파라미터를 식별하기 위한 상세한 절차, 여기에는 타이밍 분석을 위한 동작 지점 선택이 포함됨.
• 강화된 RSR 공식화: 패치 수준의 자기 교정 합성곱 보호를 위한 더 상세한 수학적 공식화 및 구현.

4. 주요 결과

4.1 전압 글리칭에 대한 취약성

• 정확도 저하: 네 가지 모델 모두 전압 글리칭 하에서 상당한 정확도 저하를 보였습니다. 예를 들어, 특정 타이밍 조건에서 TinyCNN의 정확도는 베이스라인 99%에서 68.75%(Pinata)로 떨어졌습니다. ChipWhisperer-Husky 플랫폼에서는 매우 이른 타이밍 주입($t_i = 0.004t_s$) 시 63.45%의 리셋 발생률과 함께 37.06%의 정확도를 기록했는데, 이는 낮은 정확도가 유효한 오분류가 아닌 높은 빈도의 장치 리셋에 의한 것임을 나타냅니다.
• 예측 가능한 실패 모드: 공격은 모델이 고정된 레이블을 출력하도록 강제할 수 있습니다. 예를 들어, 초기 주입 타이밍($t \approx 0$)은 종종 입력과 관계없이 TinyCNN이 "0" 또는 "7"을 예측하게 만듭니다. 마찬가지로 FastGRNN의 경우, $t_i = 0$에서 주입 시 15.38%의 정확도로 고정된 레이블을 오분류했습니다. 그러나 "가장 효과적인" 비리셋 결함 타이밍($t_i = 0.6t_s$)에서는 정확도가 93.33%로 떨어졌습니다.
• 교차 플랫폼 일관성: 특정 파라미터는 달랐지만, 두 플랫폼 모두 정밀하게 조정된 글리치가 구조적이고 공격자가 제어 가능한 오분류를 유도할 수 있음을 입증했습니다.

4.2 EM 결함 주입에 대한 취약성

• 프로브 위치 민감도: EM 공격의 성공 여부는 프로브 배치에 크게 의존했습니다. 위치 1, 2, 4는 의미 있는 결함을 생성했으나 다른 위치는 그렇지 않았습니다.
• 결함 분류 체계:
  • 일시적 결함(Transient Faults): 스스로 복구되는 단일 오분류 (예: 프로브 위치 1에서의 TinyCNN).
  • Type A (Zero State): 중간값이 0으로 붕러져, 리셋 전까지 지속적으로 클래스 "0"을 예측함 (프로브 위치 2에서 관찰).
  • Type B (Broad Memory): 중간값이 무작위적이거나 극단적인 값(오버플로우/언더플로우)이 되며, 세니티 바이트(sanity bytes)가 손상됨 (프로브 위치 2에서의 FastGRNN에서 관찰).
  • Type C (Inference-Localized): 세니티 바이트는 온전하지만 추론 파이프라인 내에서 지속적인 편향 또는 NaN이 생성됨 (프로브 위치 2의 FastGRNN 및 위치 4의 TinyCNN에서 관찰).
• 스텔스성 vs 영향력: EM 주입은 높은 리셋 발생률로 인해 전압 글리칭보다 스텔스성이 낮은 것으로 나타났으나, 전압 글리칭이 일관되게 달성하기 어려운 지속적인 상태 부패를 유도할 수 있다는 독특한 능력을 보여주었습니다.

4.3 RSR 대응책의 효과

• 정확도 보존: RSR 스킴을 적용했을 때 베이스라인 모델 대비 최소한의 정확도 저하(<1%)를 보였습니다. 예를 들어, 보호된 TinyCNN은 98.80%의 정확도를 유지했습니다 (베이스라인 99.07%).
• 회복력: 제안된 스킴은 중앙값 투표를 통해 이상치를 필터링함으로써 일시적 결함을 효과적으로 완화했습니다.
• 오버헤드: 보호 기능은 1.6배(TinyCNN)에서 34배(FastGRNN) 사이의 계산 오버헤드를 발생시켰습니다. 저자들은 이 비용이 상당하지만, 보안이 중요한 임베디드 배포 환경의 예산 범위 내에 있다고 언급했습니다.

5. 의의 및 주장

본 논문은 TinyML 모델이 물리적 결함 주입에 매우 취약하며, 공격자가 성능을 저하시킬 뿐만 아니라 특정 예측 가능한 악의적 출력을 강제할 수 있다고 주장합니다. 이는 동작 감지나 웨이크 워드 스포팅과 같이 안전이 중요하거나 항상 켜져 있는(always-on) 애플리케이션에서 예측 가능한 오분류가 심각한 결과를 초래할 수 있기 때문에 특히 중요합니다.

저자들은 다음을 강조합니다:

1. 결함은 무작위가 아니다: 공격자는 특정 실패 모드(예: 고정 레이블 출력)를 유도하기 위해 파라미터를 조정할 수 있습니다.
2. 지속성은 주요 위험 요소이다: EM 주입은 시스템 리셋을 통해서만 제거할 수 있는 상태 부패를 일으킬 수 있습니다.
3. RSR은 실행 가능한 방어책이다: Randomized Self-Reduction은 하드웨어 수정 없이도 일시적 결함으로부터 보호할 수 있는 가벼운 알고리즘적 대응책을 제공하지만, 계산 비용이 따릅니다.

본 연구는 결론적으로, 적대적인 물리적 환경에서 신뢰성을 보장하기 위해 TinyML 구현에 강력한 결함 허용(fault-tolerance) 메커니즘이 시급히 필요함을 역설합니다.