AI-Assisted Hardware Security Verification: A Survey and AI Accelerator Case Study

논문 요약: AI 기반 하드웨어 보안 검증 및 AI 가속기 사례 연구

1. 연구 배경 및 문제 정의 (Problem)

• 복잡성 증가와 검증의 한계: 현대 하드웨어 시스템, 특히 AI 가속기의 복잡성이 급격히 증가함에 따라, 파브리케이션 (Fabrication) 전 (Pre-silicon) 단계에서 발생할 수 있는 취약점 (하드웨어 트로이, 사이드 채널 공격, 권한 상승 등) 을 발견하는 것이 매우 중요해졌습니다.
• 기존 방법의 비효율성: 기존의 보안 검증은 수동적인 시뮬레이션, 어서션 기반 검증 (Assertion-based verification), 모델 체킹 등에 의존하고 있어, 인력 집약적이고 확장성이 부족합니다.
• AI/LLM 의 도입 필요성: 최근 대규모 언어 모델 (LLM) 과 AI 기술이 RTL 생성, 테스트벤치 자동화 등 설계 분야에서 성과를 보이며, 이를 보안 검증 워크플로우 (자산 식별, 위협 모델링, 테스트 계획 수립 등) 에 적용할 필요성이 대두되었습니다. 하지만 LLM 의 '할루시네이션 (Hallucination)'과 신뢰성 문제는 여전히 해결해야 할 과제로 남아있습니다.

2. 연구 방법론 (Methodology)
이 논문은 두 가지 주요 접근 방식을 통해 연구가 수행되었습니다.

• A. 포괄적인 문헌 조사 (Survey):

  • 하드웨어 보안 검증의 주요 단계 (자산 식별, 위협 모델링, 보안 테스트 계획 생성, 시뮬레이션/형식 검증, 대응책 도출) 를 중심으로 AI/LLM 기반 기술들의 최신 동향을 분석했습니다.
  • 각 단계에서 LLM 이 어떻게 자산 추출, CWE(Common Weakness Enumeration) 매핑, 테스트 스팀루리 생성, 어서션 합성, 취약점 수정 제안 등을 자동화하는지 검토했습니다.

• B. 사례 연구 (Case Study - NVDLA):

  • 대상: 오픈 소스 NVIDIA 심층 학습 가속기 (NVDLA) 의 CSB Master 모듈. 이 모듈은 외부 요청을 수신하고 디코딩하여 하위 모듈로 전달하는 핵심 인터페이스입니다.
  • 워크플로우: 자동화된 에이전트 (Agentic) 워크플로우를 구축하여 다음 단계를 수행했습니다.
    1. 자산 식별 (Asset Identification): LLM 을 사용하여 CSB 핸드셰이크, 요청 페이로드, 주소 디코딩 로직 등 보안 관련 자산을 자동 추출하고 CWE 와 매핑했습니다.
    2. 위협 모델링 (Threat Modeling): 권한 확인 (Privilege Check) 부재로 인한 접근 제어 미흡 (CWE-1220) 을 주요 위협으로 식별하고, STRIDE 모델을 적용하여 공격 시나리오를 정의했습니다.
    3. 테스트 계획 생성 (Test Plan Generation): 식별된 위협을 기반으로 SystemVerilog 테스트벤치 태스크를 자동 생성했습니다. (예: 권한이 없는 요청자로부터의 쓰기/읽기 요청 시뮬레이션)
    4. 시뮬레이션 및 검증 (Simulation-Driven Verification): 생성된 테스트를 실행하여 실제 동작을 확인했습니다.
    5. 대응책 제안 (Countermeasures): 발견된 취약점에 대한 RTL 수준의 수정 제안 (권한 체크 로직 추가 등) 을 도출했습니다.

3. 주요 기여 (Key Contributions)

• AI 기반 보안 검증 워크플로우의 체계적 정립: 하드웨어 보안 검증의 전 과정을 아우르는 AI/LLM 활용 프레임워크를 제시하고, 각 단계별 기술적 성숙도와 한계를 분석했습니다.
• 실제 하드웨어에 적용된 사례 연구: NVDLA 의 CSB Master 모듈을 대상으로 LLM 이 생성한 자산, 위협 모델, 테스트 코드, 그리고 시뮬레이션 결과를 통해 AI 도구의 실용성을 입증했습니다.
• 신뢰성 있는 검증 프레임워크 제안: AI 의 출력이 단순히 텍스트가 아닌, 시뮬레이션 증거 (Simulation Evidence), 형식적 추론 (Formal Reasoning), 벤치마크 기반 평가와 결합되어야만 신뢰할 수 있는 보안 보장이 가능함을 강조했습니다.

4. 연구 결과 (Results)

• 위험 발견: NVDLA CSB Master 모듈의 시뮬레이션 결과, 권한 확인 로직이 부재하여 (core_req_prdy 가 항상 활성화됨), 권한이 없는 요청자도 하위 모듈 (MCIF, DMA 등) 로의 데이터 전송을 성공적으로 수행할 수 있음을 확인했습니다.
  • 총 31 건의 테스트 트랜잭션 중 30 건이 보안 위반 (29 건 쓰기, 1 건 읽기) 으로 판명되었습니다.
  • 이는 모듈 수준에서 로컬 권한 강화가 없으면 시스템 전체의 보안이 위협받을 수 있음을 시사합니다.
• 자동화된 대응책 도출: LLM 은 발견된 취약점의 근본 원인 (권한 체크 부재) 을 정확히 식별하고, 인터커넥트 레벨의 접근 제어 강화나 권한 메타데이터 추가 등의 구체적인 RTL 수정 방안을 제시했습니다.
• 효율성: AI 에이전트 워크플로우를 통해 자산 식별부터 테스트 생성, 결과 분석까지의 과정을 자동화하여 검증 시간을 단축하고 체계적인 분석을 가능하게 했습니다.

5. 의의 및 중요성 (Significance)

• AI 가속기 보안의 선구적 접근: AI 가속기라는 복잡하고 민감한 하드웨어 플랫폼에 특화된 보안 검증 방법론을 제시하여, AI 칩의 보안 위협 (모델 파라미터 유출, 신경 트로이 등) 에 대응할 수 있는 토대를 마련했습니다.
• 신뢰할 수 있는 AI 활용의 가이드라인: LLM 이 하드웨어 설계와 검증에 활용될 때, 인간의 감독과 엄격한 검증 도구 (시뮬레이션, 형식 검증) 를 통한 'Grounding(현실 기반화)'이 필수적임을 강조했습니다. 이는 AI 가 생성한 코드가 실제 하드웨어에서 안전하도록 보장하는 핵심 원칙입니다.
• 향후 연구 방향 제시: 연구 질문 (RQ) 을 통해 AI 기반 보안 검증을 대량으로 적용하기 위해 필요한 벤치마크, 평가 기준, 가속기 특화 추상화 방법론의 필요성을 제기하며, 커뮤니티의 추가 연구를 독려합니다.

결론적으로, 본 논문은 AI/LLM 기술이 하드웨어 보안 검증의 생산성을 획기적으로 높일 수 있음을 보여주되, 그 출력물은 엄격한 검증 과정을 거쳐야만 신뢰할 수 있는 보안 보장을 제공할 수 있음을 NVDLA 사례를 통해 실증적으로 증명했습니다.