An explainable hybrid deep learning-enabled intelligent fault detection and diagnosis approach for automotive software systems validation

이 논문은 자동차 소프트웨어 시스템의 검증 및 검증 과정에서 블랙박스 모델의 해석 불가능성 문제를 해결하기 위해 1D-CNN 과 GRU 를 결합한 하이브리드 딥러닝 모델과 다양한 설명 가능한 AI 기법을 활용하여 고장 탐지, 식별, 국소화 및 근본 원인 분석을 수행하는 새로운 접근법을 제안합니다.

핵심

이 논문은 자동차 소프트웨어가 고장 나기 전에, 그리고 고장 난 후에도 '왜' 그런 일이 일어났는지 정확히 알려주는 똑똑한 진단 시스템을 개발한 연구입니다.

기존의 인공지능 (AI) 은 마치 "정답은 A 입니다"라고만 말해주는 비밀스러운 마법사 같았습니다. "왜 A 인가요?"라고 물으면 "그냥 그렇습니다"라고만 답했죠. 하지만 자동차처럼 안전이 생명이 되는 분야에서는 '왜'가 중요합니다. 이 연구는 그 마법사의 머릿속을 들여다볼 수 있게 해주는 투명한 유리창을 만들었습니다.

이 연구를 쉽게 이해할 수 있도록 세 가지 핵심 비유로 설명해 드릴게요.

---

1. 문제: "왜 고장 났지?"라는 질문에 답하지 못하는 블랙박스

자동차를 운전하다 엔진이 이상한 소리를 내면, 기존 기술로는 "엔진이 고장 났다"는 사실만 알 수 있었습니다. 하지만 어떤 부품이, 왜, 어떻게 고장 났는지는 알 수 없었습니다. 마치 검은 상자 (블랙박스) 안에 무엇이 들어있는지 모른 채, 상자만 흔들어서 소리를 듣는 것과 비슷합니다.

• 문제점: 고장의 원인을 모르면 수리도 어렵고, 새로운 고장을 예방하기도 힘듭니다.
• 연구의 목표: 이 검은 상자를 투명한 유리 상자로 바꾸어, 내부에서 무슨 일이 일어나는지 모두 볼 수 있게 만드는 것입니다.

2. 해결책: 두 명의 전문가가 팀을 이루다 (하이브리드 모델)

이 연구는 두 가지 다른 능력을 가진 인공지능을 합쳐서 더 강력한 진단사를 만들었습니다.

• 1D-CNN (현미경 같은 전문가): 이 친구는 데이터의 국소적인 패턴을 잘 봅니다. 마치 자동차 엔진 소리를 들을 때, "아, 이 부분에서 '끼익' 하는 날카로운 소리가 들리네?"라고 세부적인 특징을 잡아냅니다.
• GRU (시간의 기록자): 이 친구는 시간의 흐름을 기억합니다. "어제엔 괜찮았는데, 오늘 아침부터 소리가 점점 커졌네?"라고 변화의 흐름을 파악합니다.

이 두 친구가 손잡고 일하면 (하이브리드 모델), 단순히 소리를 듣는 것을 넘어 **"어떤 부품이 시간이 지남에 따라 어떻게 변해서 고장 났는지"**까지 정확히 찾아낼 수 있습니다. 게다가 **한 번에 여러 고장이 동시에 일어날 때 (동시 고장)**도 구별해냅니다.

3. 혁신: "설명 가능한 AI (XAI)"로 이유를 밝히다

이 연구의 가장 큰 특징은 왜 그렇게 판단했는지 이유를 설명해 주는 기능을 추가했다는 점입니다. 이를 위해 네 가지 다른 '해석 도구'를 사용했습니다.

• 비유: 자동차가 고장 났을 때, 이 시스템은 단순히 "엔진 고장"이라고만 말하지 않습니다.
  • "연료 분사량이 너무 많아서 (Feature 1), 터보 압력이 떨어졌고 (Feature 2), 그래서 엔진이 멈춘 겁니다."라고 구체적인 이유를 알려줍니다.
  • 마치 **수리공이 고장 난 부품을 가리키며 "여기서부터 문제가 시작됐어요"**라고 설명해주는 것과 같습니다.

이 설명 기능 덕분에:

1. 불필요한 데이터 제거: 중요한 데이터만 골라내어 계산 속도를 4 배 이상 빠르게 만들었습니다. (24 가지 데이터 중 10 가지만 쓰면 충분하다는 것을 발견했기 때문입니다.)
2. 신뢰도 상승: 엔지니어들이 AI 의 판단을 믿고 따라갈 수 있게 되었습니다.
3. 실시간 대응: 복잡한 계산을 줄여서 실제 자동차가 달리는 동안에도 즉시 고장을 진단할 수 있게 되었습니다.

---

🚗 실제 실험: 가상 운전으로 검증하다

이 시스템은 실제 차를 부수지 않고, 컴퓨터 시뮬레이션 (HIL) 위에서 검증되었습니다.

• 가상의 운전자가 고속도로, 시내, 차선 변경 등 다양한 상황에서 차를 몰았습니다.
• 연구진은 의도적으로 센서에 '노이즈', '오차', '단락' 같은 고장을 주입했습니다.
• 결과: 이 시스템은 기존 기술들보다 훨씬 정확하게 (97% 이상) 고장의 종류와 위치를 찾아냈으며, 동시에 여러 고장이 발생해도 혼동하지 않았습니다.

🌟 요약: 이 연구가 가져온 변화

이 논문은 "정답만 알려주는 AI"에서 "이유까지 설명해주는 AI"로 자동차 소프트웨어 진단을 바꿨습니다.

• 전에는: "고장 났어요." (그치만 왜? 모릅니다.)
• 이제부터는: "고장 났어요. 이유는 연료 펌프가 과부하 상태였기 때문입니다. 중요한 데이터는 이 10 가지입니다."

이처럼 투명하고, 빠르며, 정확한 진단 시스템은 자동차가 더 안전해지고, 개발 비용은 줄어들며, 우리는 더 안심하고 운전할 수 있게 해주는 중요한 기술입니다. 마치 자동차의 건강 상태를 매일 체크해주는 똑똑한 비서가 생긴 것과 같습니다.

기술 요약

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 자동차 소프트웨어 시스템 (ASS) 의 개발 및 검증 과정 (V-모델) 에서 하드웨어 인 더 루프 (HIL) 시뮬레이션을 통한 실시간 검증이 필수적입니다. 그러나 방대한 양의 테스트 기록 데이터와 복잡한 시스템 동작으로 인해 기존의 지식 기반 분석 방법이나 전통적인 모델 기반 방법은 한계가 있습니다.
• 문제점:
  • 블랙박스 (Black-box) 의 한계: 기존 데이터 기반의 딥러닝 (DL) 고장 탐지 및 진단 (FDD) 모델은 높은 정확도를 보이지만, 예측의 근거를 설명할 수 없어 엔지니어가 고장의 원인을 이해하거나 모델을 최적화하는 데 어려움을 겪습니다.
  • 동시 고장 (Concurrent Faults) 처리의 부재: 단일 고장은 물론, 여러 고장이 동시에 발생하는 복잡한 시나리오를 처리하고 그 원인을 분석하는 데 설명 가능성 (Interpretability) 이 부족합니다.
  • 계산 비용: 복잡한 FDD 모델 개발에 필요한 높은 계산 비용과 실시간 안전-중요 (Safety-critical) 응용 분야에 대한 신뢰성 부족.

2. 제안된 방법론 (Methodology)

이 논문은 설명 가능한 인공지능 (XAI) 기술을 통합한 하이브리드 딥러닝 모델을 제안합니다. 전체 프로세스는 크게 세 단계로 구성됩니다.

2.1. 데이터 수집 및 전처리

• 데이터 소스: dSPACE 의 고충실도 자동차 시뮬레이션 모델 (ASM) 과 HIL 시뮬레이터 (SCALEXIO) 를 사용하여 실시간으로 생성된 데이터.
• 시나리오: 수동 및 자동 주행 모드, 고속도로, 차선 변경, 도시 주행 등 다양한 조건.
• 고장 주입 (Fault Injection): 센서 및 액추에이터 관련 고장 (노이즈, 게인, 오프셋 등) 을 단일 및 동시 (Concurrent) 상태로 주입하여 생성.
• 전처리:
  • 노이즈 제거, 이상치 제거, 정규화 (Scaling).
  • 불균형 데이터 해결: 과소표집 (Random Under Sampling), 클래스 가중치 (Class Weights), SMOTE(합성 데이터 생성) 기법 적용.
  • 시계열 데이터의 시간적 패턴 학습을 위한 윈도우 (Windowing) 기법 적용.

2.2. 하이브리드 딥러닝 모델 개발 (1dCNN-GRU)

• 아키텍처: 1 차원 합성곱 신경망 (1dCNN) 과 게이트 순환 단위 (GRU) 를 결합한 하이브리드 모델.
  • 1dCNN: 입력 데이터의 국소적인 패턴 (trend, irregularity) 을 효율적으로 추출하는 특징 추출기 역할.
  • GRU: CNN 을 통해 추출된 특징의 시간적 의존성 (Temporal Dependencies) 을 포착. LSTM 에 비해 계산 비용이 적고 장기 의존성 학습에 효과적.
  • Fully Connected (FC) Layer: 학습된 특징을 통합하여 고장 유형 (Fault Type) 또는 고장 위치 (Fault Localization) 를 분류.
• 모델 구성:
  • FTCM (Fault Type Classification Model): 고장 유형 분류용.
  • FLM (Fault Localization Model): 고장 위치 분류용.
• 하이퍼파라미터 최적화: 그리드 서치, 랜덤 서치, 베이지안 최적화를 통해 학습률, 레이어 수, 드롭아웃 비율 등을 자동 튜닝.

2.3. 설명 가능한 AI (XAI) 통합

• 목적: 모델의 '블랙박스' 성격을 해소하고 예측의 근거를 제공하여 루트 원인 분석 (RCA) 을 지원.
• 사용된 4 가지 XAI 기법 비교 분석:
  1. Integrated Gradients (IGs): 입력을 기준점 (Baseline) 에서 실제 값까지 점진적으로 변화시키며 기울기를 적분.
  2. DeepLIFT: 기준점 대비 활성화 값의 차이를 계층별로 분해하여 기여도 계산.
  3. Gradient SHAP: 그래디언트를 사용하여 SHAP 값 (Shapley values) 을 근사화.
  4. DeepLIFT SHAP: DeepLIFT 와 SHAP 의 장점을 결합하여 비선형 상호작용과 다양한 기준점을 고려.
• 분석 지표:
  • GFI (Global Feature Importance): 전체 데이터셋에 영향을 미치는 주요 특징 식별.
  • PCFI (Per-Class Feature Importance): 각 고장 클래스별 특징 중요도 분석.
  • FIs (Feature Interactions): 특징 간의 상호작용 (비선형 의존성) 분석.

3. 주요 기여 (Key Contributions)

1. 설명 가능한 하이브리드 FDD 접근법 제안: 자동차 소프트웨어 검증 프로세스에 설명 가능한 딥러닝을 적용하여 예측 논리를 명확히 함.
2. 하이브리드 1dCNN-GRU 아키텍처 개발: 불균형 데이터와 단일/동시 고장을 모두 처리할 수 있는 고성능 모델 구조 제시.
3. 화이트박스 (White-box) 모델 구현: XAI 를 통해 중요한 변수를 식별하여 모델의 복잡성을 줄이고 효율성을 높임.
4. 다양한 XAI 기법의 비교 연구: IG, DeepLIFT, Gradient SHAP, DeepLIFT SHAP 의 계산 비용과 성능을 종합적으로 분석.
5. 산업 현장 적용 검증: HIL 실시간 시뮬레이션 데이터 (사용자 행동 및 고충실도 모델 포함) 를 활용하여 실제 산업 적용 가능성을 입증.

4. 실험 결과 (Results)

• 성능 평가 (FLM - 고장 위치):
  • 제안된 모델 (FLM) 의 정확도: 97.40% (Precision, Recall, F1-score 모두 동일).
  • 기존 모델 대비 성능: RNN (43.07%), LSTM (57.73%), GRU (74.45%) 보다 월등히 우수함.
  • ROC 곡선 (AUC): 모든 클래스에서 1.00 을 기록하여 완벽한 분류 능력을 보임.
• 성능 평가 (FTCM - 고장 유형):
  • 제안된 모델 (FTCM) 의 정확도: 97.19%.
  • 기존 모델 대비 성능: RNN (69.25%), LSTM (67.99%), GRU (85.66%) 보다 우수함.
• XAI 기반 모델 최적화 효과:
  • XAI 분석을 통해 24 개 특징 중 10 개 주요 특징만 선별하여 모델을 재학습 (Retraining).
  • 성능: 정확도는 약 2% 감소 (97.40% → 95.62%) 했으나 여전히 매우 높은 수준 유지.
  • 계산 효율성: 학습 시간이 22,999 초에서 5,413 초로 약 76% 단축됨.
• XAI 기법 비교:
  • DeepLIFT와 Gradient SHAP가 계산 비용이 낮고 효율적임.
  • DeepLIFT SHAP는 가장 높은 계산 비용을 요구하지만, 가장 균형 잡히고 일관된 설명을 제공함.

5. 의의 및 결론 (Significance & Conclusion)

• 안전 엔지니어링 지원: 블랙박스 모델의 한계를 극복하여 고장의 근본 원인을 설명 가능하게 함으로써, 안전 엔지니어의 신뢰를 높이고 진단 프로세스를 가속화합니다.
• 실시간 검증 최적화: XAI 를 통해 불필요한 특징을 제거함으로써 모델의 복잡성을 줄이고, 실시간 애플리케이션에 적합한 낮은 계산 비용과 높은 효율성을 달성했습니다.
• 산업적 적용 가능성: HIL 기반의 고충실도 데이터를 통해 제안된 접근법이 실제 자동차 소프트웨어 개발 및 검증 프로세스에 효과적으로 적용될 수 있음을 입증했습니다.
• 향후 연구: 본 연구의 결과를 바탕으로 자동화된 동시 고장 루트 원인 분석 (RCA), 인간-AI 협업, 모델 편향 식별 등으로 연구 범위를 확장할 수 있습니다.

이 논문은 자동차 소프트웨어 검증 분야에서 고성능 딥러닝과 **설명 가능성 (Explainability)**을 성공적으로 융합하여, 안전-중요 시스템의 신뢰성을 높이고 개발 비용을 절감하는 새로운 패러다임을 제시했다는 점에서 의의가 큽니다.