Adversarial Robustness Analysis of Cloud-Assisted Autonomous Driving Systems

논문 요약: 클라우드 지원 자율주행 시스템의 적대적 견고성 분석

1. 문제 정의 (Problem)

자율주행차 (AV) 는 increasingly 딥러닝 기반의 지각 (perception) 과 제어에 의존하고 있으며, 이를 해결하기 위해 계산 부하를 원격 서버로 오프로드하는 클라우드 지원 아키텍처가 등장했습니다. 그러나 이러한 패러다임은 새로운 취약점을 야기합니다.

• 크로스 레이어 (Cross-layer) 취약점: 지각 모델에 대한 적대적 공격 (Adversarial Attacks) 과 차량 - 클라우드 간 네트워크 연결의 열화 (지연, 패킷 손실) 가 결합될 때, 안전에 치명적인 자율주행 시스템이 무너질 수 있습니다.
• 기존 연구의 한계: 기존 연구는 시뮬레이션 (CARLA 등) 에 의존하거나, 지각과 통신의 견고성을 개별적으로만 평가했습니다. 실제 세계의 IoT 환경에서 이 두 가지 위협이 동시에 작용할 때 시스템이 어떻게 반응하는지를 실험적으로 정량화한 연구는 부족했습니다.

2. 방법론 (Methodology)

저자들은 하드웨어 - 인 - 더 - 루프 (Hardware-in-the-Loop, HIL) IoV 테스트베드를 구축하여 클라우드 지원 자율주행 시스템의 견고성을 평가했습니다.

• 시스템 아키텍처:

  • 차량 모듈 (Edge): 로봇 운영 체제 (ROS) 기반의 Duckiebot(실제 차량) 으로, 센서 데이터 수집 및 액추에이터 제어 담당.
  • 클라우드 모듈: 중앙 집중식 지각 및 제어 파이프라인. YOLOv8(객체 감지), U-Net(차선 분할), PID 제어기를 실행.
  • 적대자 모듈 (Adversary Module):
    1. 적대적 AI (White-box): YOLOv8 모델의 파라미터와 그래디언트에 완전한 접근 권한을 가진 공격자.
    2. 네트워크 적대자: MITRE ATT&CK 프레임워크를 기반으로 차량 - 클라우드 통신 채널에 지연 (Latency) 과 패킷 손실 (Packet Loss) 을 주입.

• 공격 시나리오:

  • 지각 공격: YOLOv8 기반 객체 탐지기에 FGSM (Fast Gradient Sign Method) 및 PGD (Projected Gradient Descent) 알고리즘을 적용하여 입력 이미지에 인간이 인지하지 못하는 적대적 노이즈를 추가.
  • 통신 공격: tc netem 도구를 사용하여 100ms250ms 의 지연과 0.5%5% 의 패킷 손실을 시뮬레이션.

• 실험 설정:

  • 모델: YOLOv8n (2,414 개의 Duckiebot 프레임으로 학습).
  • 공격 파라미터: 교란 예산 ($\epsilon$) 을 0.01, 0.02, 0.04 로 설정. PGD 는 10 회 반복, 스텝 크기 0.01 적용.

3. 주요 기여 (Key Contributions)

1. 통합 테스트베드 개발: 지각, 제어, 통신 레이어를 통합한 클라우드 지원 IoV 테스트베드를 구축하여 적대적 견고성을 평가할 수 있는 재현 가능한 환경을 제공.
2. 백박스 공격 구현: YOLOv8 객체 탐지에 FGSM 및 PGD 백박스 공격을 적용하여 적대적 교란 하에서의 견고성을 정량화.
3. 네트워크 위협 모델링: MITRE ATT&CK 프레임워크를 활용하여 네트워크 계층의 지연 및 패킷 손실이 폐루프 (closed-loop) 제어 안정성에 미치는 영향을 모델링.
4. 크로스 레이어 영향 분석: 적대적 AI 와 네트워크 공격이 결합되었을 때 지각 정확도와 의사결정 신뢰도에 미치는 복합적인 영향을 실험적으로 규명.

4. 실험 결과 (Results)

• 지각 성능 저하 (Adversarial Perturbations):

  • FGSM: $\epsilon=0.04$에서 정밀도 (Precision) 가 0.73 에서 0.38 로, 재현율 (Recall) 이 0.68 에서 0.46 으로 감소.
  • PGD (더 강력한 공격): $\epsilon=0.04$에서 정밀도가 0.22로, 재현율이 0.15로 급격히 하락 (기저선 대비 약 70~78% 감소).
  • 관찰: PGD 공격은 반복적 교란을 통해 객체 (차량, 신호등) 를 완전히 숨기거나 (missed detection), 배경을 객체로 오인식 (false positive) 시키는 파괴적인 실패 모드를 유발.

• 제어 안정성 저하 (Network Impairments):

  • 지연 (150~250 ms): 약 3~4 프레임의 손실에 해당하며, 제어 명령의 지연으로 인해 차량이 코너에서 진동하거나 차선을 이탈함.
  • 패킷 손실 (0.5~5%): 2% 이상의 손실 시 교차로에서 정지 신호 준수 실패 발생.
  • 정지 신호 준수 (Table I): 정상 조건에서는 모든 정지 신호를 준수했으나, 150ms 지연 또는 2% 패킷 손실 시 하류 교차로에서 정지 규칙 위반이 발생. 250ms 지연 또는 5% 손실 시에는 여러 교차로에서 정지 실패.

• 복합 영향:

  • 지각 오류와 네트워크 지연이 결합되면 폐루프 제어의 불안정성이 증폭되어, 지연된 액추에이션, 궤적 이탈, 교통 규칙 위반 등 심각한 안전 사고로 이어짐.

5. 의의 및 결론 (Significance & Conclusion)

이 연구는 클라우드 지원 자율주행 시스템이 단일 레이어의 보안이 아닌 크로스 레이어 (Cross-layer) 복원력이 필수적임을 강조합니다.

• 시각적으로 인지할 수 없는 작은 교란과 소규모 네트워크 지연만으로도 자율주행 시스템의 안전성이 크게 훼손될 수 있음을 실험적으로 증명했습니다.
• 향후 안전한 클라우드 지원 자율주행을 위해서는 적대적 견고성이 있는 지각 모델, 지연 인지형 제어 전략, 그리고 임시 네트워크 장애를 견딜 수 있는 적응형 통신 메커니즘이 통합적으로 개발되어야 함을 시사합니다.

이 논문은 실제 하드웨어 기반 테스트베드를 통해 이론적 취약점을 실증적으로 규명했다는 점에서 자율주행 보안 및 신뢰성 연구에 중요한 기여를 했습니다.