기술 요약: ProWAFT

1. 문제 정의

SRAM 기반 FPGA는 네트워크 엣지에서의 에너지 및 지연 시간 제약이 있는 합성곱 신경망(CNN) 추론을 위한 매력적인 플랫폼을 제공합니다. 그러나 이들은 구성 비트(configuration bits)를 손상시키거나 온칩 연산을 방해하여 CNN 추론에서 무음 오류(silent errors)를 유발할 수 있는 과도 현상 결함(예: 단일 이벤트 업셋, SEU)에 취약합니다.

기존의 완화 전략은 근본적인 트레이드오프에 직면해 있습니다:

• 정적 중복성 (예: 전체 TMR): 정확성을 개선하지만 상당한 성능 및 에너지 오버헤드를 초래하며, 이는 엣지 장치에 있어 매우 부담스러울 수 있습니다.
• 반응형 복구 (Reactive Recovery): 결함이 감지된 후에만 재구성을 트리거합니다. 이는 정상 상태의 오버헤드는 줄여주지만, 결함 발생 시 크리티컬 패스(critical path)에 수용 불가능한 지연 시간 스파이크를 도입합니다.
• 핵심 과제: 결함의 영향은 매우 비균일합니다. 결함 위험(시간 및 운영 조건에 따라 변함)과 워크로드 민감도(레이어 유형, 정밀도, 오류 전파 동작에 따라 변함) 모두 동적으로 변화합니다. 정적 보호 수준은 정적인 환경과 균질한 워크로드를 가정하지만, 실제로는 그렇지 않습니다.

론 2. 방법론: ProWAFT

ProWAFT(Proactive Workload-Aware Fault Tolerance)는 FPGA 기반 CNN 가속기를 위해 설계된 런타임 프레임워크입니다. 이 프레임워크는 **부분 재구성(Partial Reconfiguration, PR)**을 활용하여 실시간 조건에 따라 재구성 가능한 파티션에 삼중 모듈 중복성(TMR)을 선택적으로 적용합니다.

이 프레임워크는 네 가지 순차적 단계로 작동합니다:

2.1 시스템 모델

가속기는 $K$개의 재구성 가능한 파티션($P$) 세트로 모델링됩니다. 각 파티션은 베이스라인 및 보호된(TMR) 변형을 포함하는 하드웨어 기능 라이브러리($F$)로부터 하드웨어 기능을 구성할 수 있습니다. 시스템은 특징 벡터(연산자 유형, 입력 형태, 정밀도 등)로 설명되는 CNN 레이어에 해당하는 워크로드 스트림($W$)을 처리합니다.

2.2 워크로드 중요도 점수 (WCS)

ProWAFT는 **워크로드 중요도 점수(Workload Criticality Score, WCS)**를 사용하여 특정 워크로드가 하드웨어 결함에 얼마나 민감한지를 정량화합니다:
$$WCS(W_i) = \alpha \cdot S_{data}(W_i) + \beta \cdot S_{control}(W_i) + \gamma \cdot P_{error}(W_i)$$

• $S_{data}$: 출력 활성화 분포의 엔트로피로부터 도출됩니다.
• $S_{control}$: 조건부 경로 상의 워크로드에 플래그를 지정합니다 (0 또는 1).
• $P_{error}$: 경량 사전 특성화(예: 단일 비트 결함 주입)를 통해 추정된 오류 전파 가능성입니다.

2.3 결함 인지 성능 및 리스크 모델링

후보 구성에 대해, ProWAFT는 성능과 신뢰성을 예측합니다:

1. 베이스라인 메트릭: 연산, 클록 주파수 및 전력 프로파일을 기반으로 결함이 없는 지연 시간($T_{base}$)과 에너지($E_{base}$)를 계산합니다.
2. 리스크 모델링: 파티션 수준의 결함 확률($p_{fault}$)과 **결함 전파 계수(Fault Propagation Factor, FPF)**를 결합하여 **신뢰성 리스크 점수(Reliability Risk Score, RRS)**를 계산합니다. FPF는 워크로드 중요도, 파티션 활용도 및 출력을 소비하는 다운스트림 파티션의 수를 고려합니다.
3. 결함 인지 예측: RRS를 사용하여 베이스라인 메트릭을 조정함으로써 예상 지연 시간과 에너지를 추정합니다.
4. PR 오버헤드: 구성을 전환하는 데 드는 시간과 에너지 비용($\Delta_{PR}$)을 명시적으로 모델링합니다.

2.4 정책 및 온라인 결정 규칙

ProWAFT는 구성 선택을 순차적 결정 문제로 공식화합니다. 각 입력 워크로드에 대해, 프레임워크는 종합 비용($C_{total}$)을 최소화하기 위해 일련의 실행 가능한 구성을 평가합니다:
$$C_{total} = \eta_T \cdot \tilde{T} + \eta_E \cdot \tilde{E} + \eta_R \cdot RRS + \Delta_{PR}$$
여기서 $\eta$는 지연 시간, 에너지 및 신뢰성에 대한 애플리케이션별 가중치를 나타냅니다. 컨트롤러는 재구성 예산 내에서 즉각적인 목적 함수와 재구성 오버헤드를 최소화하는 액션을 선택하기 위해 저오버헤드 회귀 지평(receding-horizon) 접근 방식을 사용합니다.

3. 주요 기여

1. 런타임 구성 공식화: 본 논문은 선제적이고 워크로드 인지적인 결함 허용 방식을 런타임 구성 문제로 공식화하여, 명시적인 트레이드오프를 위해 부분 재구성을 통한 선택적 TMR을 가능하게 합니다.
2. 경량 모델링 스택: WCS와 결함 전파 기반 리스크 공식(FPF/RRS)을 포함하는 의사 결정 스택을 도입하고, 이를 종합 비용 함수에 통합했습니다.
3. 구현 및 평가: 6개의 재구성 영역을 가진 Xilinx Zynq UltraScale+ ZCU104 플랫폼에 ProWAFT를 구현했습니다. 다양한 500개 태스크 CNN 워크로드 트레이스(ResNet-18, MobileNetV2, EfficientNet-Lite)를 사용하여 시변 SEU 주입 모델 하에서 시스템을 평가했습니다.

4. 실험 결과

평가는 ProWAFT를 세 가지 베이스라인인 Static-Base(중복성 없음), Static-TMR(항상 중복), Reactive-Reconfig(결함 감지 후 재구성)와 비교합니다.

• 전반적인 효과: ProWAFT는 최적의 트레이드오프를 달 achieves 합니다. Static-TMR과 비교하여 높은 성공률(98.8%)을 유지하면서 정규화된 처리량을 45.9%(0.61에서 0.89로) 개선하고 에너지를 30.3%(302.5 J에서 210.7 J로) 절감했습니다. Reactive-Reconfig과 비교하여 종합 비용을 30.8%(0.78에서 0.54로) 감소시켰습니다.
• 적응성: 시스템은 실시간 결함 위험과 워크로드 중요도에 따라 TMR 사용량을 12.3%(저위험)에서 95.2%(임계 워크로드)까지 동적으로 조정합니다.
• 오버헤드:
  • 의사 결정 오버헤드: 온라인 의사 결정 프로세스는 0.50 ms(0.13 mJ)가 소요됩니다.
  • 선제적 vs 반응적: 단일 파티션 업데이트에 대한 총 선제적 오버헤드(의사 결정 + PR)는 4.70 ms로, 이는 반응형 복구 오버헤드(15.30 ms)보다 3.3배 낮습니다.
• 구성 요소 기여도: 절제 연구(Ablation study)를 통해 WCS, 전파 모델 또는 정책 로직을 제거할 경우 종합 비용이 13~22% 증가함을 확인하여, 각 구성 요소의 필요성을 검증했습니다.

5. 의의 및 주장

본 논문은 ProWAFT가 정적 보호 전략과 엣지 추론 워크로드 및 결함 환경의 동적 특성 사이의 불일치를 해결한다고 주장합니다. 신뢰성을 일회성 설계 선택이 아닌 런타임 결정 사항으로 다룸으로써, ProWAFT는 성능, 에너지, 신뢰성 리스크를 아우르는 종합적인 목적 함수를 최소화합니다.

저자들은 ProWAFT가 낮은 온라인 의사 결정 오버헤드와 정량화된 재구성 비용을 갖추면서도 정적 및 반응형 베이스라인에 비해 우수한 성능-에너지-신뢰성 트레이드오프를 달성한다고 주장합니다. 또한 현재 구현은 통제된 평가를 위해 소프트웨어 기반 결함 주입을 사용하지만, 향후 물리적 결함 캠페인(예: 방사선 및 열 스트레스) 하에서 접근 방식을 검증하고 더 큰 가속기 라이브러리로 확장하는 것을 목표로 한다고 밝히고 있습니다.