💻 computer science

Mitigating Feature Entanglement and Imbalance in Driving Style Classification via Physically Isolated Hierarchical Transformers

본 논문은 물리적으로 격리된 어텐션 메커니즘을 강제하고 지도 대조 학습 손실(Supervised Contrastive Loss)을 통합함으로써 특징 얽힘과 클래스 불균형 문제를 완화하고, 이를 통해 실제 CAN-bus 데이터에서 최첨단 성능을 달성하는 새로운 아키텍처인 고립 계층 트랜스포머(Isolated Hierarchical Transformer, IHT)를 제안한다.

원저자: Bingheng Wu, Bin Cai, Ruyi Tang, Dafei Huang

게시일 2026-10-08

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Bingheng Wu, Bin Cai, Ruyi Tang, Dafei Huang

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

자동차가 움직일 때마다, 차량 내부의 컴퓨터 시스템은 차량이 어떻게 움직이고 있는지에 대한 상세한 정보를 담은 일정한 데이터 스트림을 생성합니다. 속도, 가속도, 그리고 운전자가 페달을 얼마나 세게 밟는지 등을 추적하는 센서로부터 흘러나오는 이 정보는 운전자의 상세한 프로필을 형성합니다. 더 스마트한 교통 시스템을 구축하는 엔지니어들에게 이러한 프로필을 이해하는 것은 매우 중요합니다. 이를 통해 특정 운전 습관에 반응하는 안전 기능을 설계하고, 실제 위험도를 반영한 보험 정책을 만들며, 운전자를 더 안전하게 교육할 수 있습니다. 하지만 이 가공되지 않은 숫자 스트림을 운전 스타일의 명확한 이해로 전환하는 것은 놀라울 정도로 어렵습니다. 데이터는 무질서하며, 패턴은 종종 숨겨져 있습니다. 더 중요한 것은, 데이터가 크게 왜곡되어 있다는 점입니다. 대부분의 운전자는 표준적이고 예측 가능한 방식으로 행동하는 반면, 극도로 신중하거나 위험할 정도로 공격적인 운전자는 드뭅니다. 이러한 희소성 때문에 컴퓨터 프로그램이 이러한 희귀한 스타일이 실제로 어떤 모습인지 학습하는 것을 어렵게 만들며, 종-종 프로그램이 가장 인식해야 할 바로 그 운전자들을 무시하게 만듭니다.

충칭 대학교와 SERES Automobile Co., Ltd.의 연구진은 이러한 문제들을 해결하여 복잡한 분류 과제를 더 신뢰할 수 있는 시스템으로 바꾸는 새로운 방법을 개발했습니다. 그들은 9명의 숙련된 전문가가 데이터를 직접 보고 해당 운전자가 일반적인지, 공격적인지, 혹은 보수적인지를 결정하여 라벨을 붙인 4,200개 이상의 실제 주행 세그먼트 데이터셋에서 시작했습니다. 전문가들은 '보수적인' 그룹이 전체의 아주 작은 부분만을 차지할 정도로 매우 적다는 것을 발견했으며, 이는 상당한 불균형을 초ました. 이를 이해하기 위해 연구진은 '고립 계층 트랜스포머(Isolated Hierarchical Transformer)'라고 불리는 특화된 컴퓨터 모델을 구축했습니다. 이 모델은 모든 데이터를 단일한 평면적 숫자 목록으로 취급하는 대신, 정보의 물리적 특성을 존중합니다. 이 모델은 관련 데이터를 함께 그룹화하여, 속도 통계와 페달 움직임, 가속도 세부 사항을 분리함으로써 컴퓨터가 전체적인 그림을 형성하기 전에 각 유형의 움직임을 지배하는 별도의 물리적 규칙을 이해할 수 있도록 합니다.

연구진은 또한 희귀한 운전 스타일의 불균형을 해결하려 할 때 저지르는 흔한 실수를 다루었습니다. 흔히 엔지니어들은 희귀한 스타일의 예시를 인위적으로 더 많이 만들어내고, 컴퓨터에게 어려운 예시에 더 주의를 기울이라고 지시함으로써 컴퓨터의 학습을 도우려 합니다. 연구진은 이 두 가지를 동시에 수행하는 것이 실제로 시스템을 혼란스럽게 만들어, 컴퓨터가 서로 다른 운전 스타일 사이의 올바른 경계를 찾는 데 어려움을 겪게 하는 혼란스러운 학습 환경을 조성한다는 것을 발견했습니다. 그들은 인위적인 예시를 과도하게 처벌하지 않으면서도 합성된 예시를 신중하게 추가하는 더 균형 잡힌 접근 방식이 훨씬 더 효과적이라는 것을 발견했습니다. 학습 과정을 더욱 안정시키기 위해, 그들은 동일한 운전 스타일의 예시들이 컴퓨터 메모리 내에서 조밀하게 군집을 이루도록 유지하는 기하학적 제약을 추가하여, 인위적인 예시들이 혼란스럽고 불가능한 조합으로 표류하는 것을 방지했습니다.

새로운 시스템을 기존 방식들과 비교 테스트했을 때, 결과는 명확했습니다. 이 새로운 접근 방식은 높은 정확도로 운전 스타일을 식정하였으며, 이 유형의 데이터를 사용하는 기존의 최상위 모델들을 크게 능가했습니다. 무엇보다도, 이 시스템은 희귀한 보수적 운전자를 포착하는 데 훨씬 더 뛰어났으며, 기존 방식과 비교했을 때 이 그룹의 탐지율을 거의 40% 향보였습니다. 시스템은 각 주행 세그먼트를 단 4.61밀리초 만에 처리하여 실시간 애플리케이션에 사용될 수 있을 만큼 빠른 속도를 달야냈습니다. 주행 데이터의 물리적 구조를 존est하고 희귀한 사건에 대한 과도한 교정의 함정을 피함으로써, 연구진은 도로 위의 인간 행동을 이해하는 더 강력한 도구를 만들어냈으며, 더 안전하고 반응성이 뛰어난 지능형 교통 시스템을 향한 길을 제시했습니다.

기술 요약: 물리적으로 격리된 계층적 트랜스포머를 통한 운전 스타일 분류의 특징 얽힘 및 불균형 완화

문제 정의

차량 내 CAN-bus 데이터로부터의 운전 스타일 분류(DSC)는 지능형 교통 시스템(ITS), 즉 첨단 운전자 보조 시스템(ADAS) 및 사용량 기반 보험을 포함한 분야에서 매우 중요합니다. 그러나 이 분야는 특히 제한된 전문가 주석 데이터와 심각한 클래스 불균형 제약 하에서 견고한 일반화를 저해하는 두 가지 근본적인 병목 현상에 직면해 있습니다:

물리 법칙을 무시한 토큰화(Physics-Agnostic Tokenization): 지배적인 정형 데이터 딥러닝 모델(예: FT-Transformer, TabNet)은 운동학적 특징들을 평면적 토큰화를 통해 독립적인 스칼라 값으로 취급합니다. 이러한 접근 방식은 물리적 양의 경계(예: 속도 역학성과 페달 조작의 구분)를 무시하며, 이로 인해 네트워크가 운동학적 관계를 암묵적으로 재학습하도록 강제합니다. 샘플 크기가 제한적인 경우( $N < 5000$ ), 이러한 제약 없는 전역적 어텐션은 진정한 물리적 의존성보다는 가짜 교차 모달 통계적 상관관계를 인코딩할 위험이 있습니다.
"과잉 교정(Over-Correction)" 현상: 경계 중심의 데이터 수준 오버샘플링(예: ADASYN)과 알고리즘 수준의 경계 패널티 손실(예: Focal Loss)을 결합하는 표준 관행은 서로 충돌하는 그래디언트 신호를 생성한다고 저자들은 지적합니다. ADASYN은 경계가 중첩되는 영역에 합성 샘플을 집중시키는 반면, Focal Loss는 동일한 노이즈 샘 샘플로부터 그래디언트 가중치를 높입니다. 이러한 중복성은 의사 결정 경계를 강화하기보다 파편화시키며, 이를 "과잉 교정"이라는 실패 모드로 명명했습니다.

방법론

본 논문은 위 두 가지 병목 현상을 해결하기 위해 특정 불균형 처리 전략과 통합된 단일 프레임워크인 **격리된 계층적 트랜스포머(Isolated Hierarchical Transformer, IHT)**를 제안합니다.

1. 아키텍처: 격리된 계층적 트랜스포머 (IHT)

IHT는 물리적 의미를 보존하기 위해 물리 법칙에 기반한 2단계 어텐션 메커니즘을 강제합니다:

모달리티 인식 토큰화(Modality-Aware Tokenization): 평면적 토큰화와 달리, IHT는 각 특징에 독립적인 학습 가능한 매핑 연산자를 할당하여 이질적인 스칼라들을 차원적으로 정렬되고 분리된 토큰으로 투영합니다.
모달리티 내 자기 어텐션(Intra-Modality Self-Attention): 동일한 물리적 도메인(예: 속도, 가속도, 페달 조작)에 속하는 특징들은 서로에게만 어텐션을 수행합니다. 이 단계는 국소적 의미론적 일관성을 정화하고 서로 다른 물리적 개념의 조기 얽힘을 방지합니다.
모달리티 간 교차 어텐션(Inter-Modality Cross-Attention): 독립적인 인코딩을 거친 후에야 모델은 모달리티 간의 복잡한 상호작용(예: 페달 입력과 가속도 사이의 미분 관계)을 포착하기 위해 전역 교차 어텐션을 사용합니다.
설계 철학: 이 계층적 구조는 구조화된 정보 병목 역할을 하여, 모델이 운동학적 사전 지식을 준수하면서도 전역 자기 어텐션의 표현력을 유지할 수 있도록 보장합니다.

2. 불균형 처리 전략

운전 스타일의 롱테일 분포(예: "보수적" 및 "공격적" 클래스가 "보통" 클래스에 비해 희소함)를 해결하기 위해, 저자들은 중복된 전략 대신 상호 보완적인 전략을 제안합니다:

샘플링: 원시 특징 공간에서의 밀도 복원을 위해 SMOTE(Synthetic Minority Over-sampling Technique)를 사용합니다.
손실 함수: "과잉 교정" 충돌을 피하기 위해 Focal Loss 대신 **클래스 가중치 교차 엔트로피(Class-Weighted Cross-Entropy, CW-CCE)**를 SMOTE와 결합합니다.
기하학적 정규화: 잠재 공간에서의 지도 학습형 대조 손실(Supervised Contrastive Loss, SCL) 통합입니다. SCL은 잠재 공간의 기하학적 정규화 도구로서 작용하여, 클래스 내 응집도와 클래스 간 분리도를 강화합니다. 이는 원시 특징 공간에서의 선형 보간으로 인해 발생하는 노이즈로부터 소수 클래스의 매니폴드를 고정시켜, 합성 샘플이 의사 결정 경계를 파편화하는 것을 효과적으로 방지합니다.

3. 데이터셋 및 특징 공학

본 연구는 10Hz CAN-bus 신호에서 유도된 전문가 주석 데이터셋( $N=4202$ )을 활용합니다.

주석: 9명의 운전 전문가가 40초 길이의 신호 클립에 대해 블라인드 평가를 수행하였으며, 상당한 평가자 간 신뢰도(Fleiss' $\kappa = 0.82$ )를 달성했습니다.
특징 공학: 다중 스케일 파이프라인을 통해 32개의 특징을 추출합니다:
- 매크로 스트림: 선형 다중공선성을 방지하기 위해 PCA를 통해 4개의 성분으로 축소된 13개의 전역 통계량.
- 마이크로 스트림: 순간적인 기동을 포착하기 위해 슬라이딩 윈도우에서 유도된 28개의 국소 통계량(범위, 왜도, 첨도).
물리적 그룹화: 특징들은 네 가지 물리적 모달리티(매크로 PCA, 속도, 가속도, 페달 조작)로 논리적으로 분할됩니다.

주요 결과

실험은 48개의 모델-전략 조합에 대해 5회 반복 10-폴드 층화 교차 검증을 사용하여 수행되었습니다.

성능: 전체 프레임워크(IHT + SMOTE + CW-CCE + SCL)는 Macro F1-score 0.8415 ( $\pm 0.0452$ )를 달성했습니다.
비교 우위:
- FT-Transformer(정형 데이터 SOTA)보다 1.60% 우수 ( $p=0.0415$ ).
- TabNet보다 2.65% 우수 ( $p=0.0185$ ).
- 최적의 베이스라인 1D-CNN보다 약 2.0% 우수.
소수 클래스 성능: 소수 클래스인 보수적(Conservative) 클래스의 F1-score는 0.7129에 도달하여, 최적화되지 않은 베이스라인(0.6729) 대비 38%의 상대적 개선을 보였습니다.
절제 연구(Ablation) 결과:
- 아키텍처: 계층적 격리를 제거했을 때(평면적 Transformer 사용) 성능이 0.8295로 떨어져, 물리적 의미론적 격리의 필요성을 확인했습니다.
- 전략: ADASYN + Focal Loss의 "중복" 조합은 SMOTE + Focal Loss 또는 SMOTE + CW-CCE 조합보다 낮은 성능과 높은 그래디언트 분산을 초래했습니다.
- 특징 디스엔탱글먼트(Disentanglement): IHT는 순수 베이스라인 대비 특징 상호 정보 중복을 52.75% 감소시켰으며, 베이스라인(~2.8)보다 현저히 높은 클래스 간/내 유클리드 거리 비율인 5.658을 달성했습니다.
효율성: 모델은 약 4.61 ms/sample의 추론 지연 시간을 유지하여 실시간 애플리케이션 적용 가능성을 입증했습니다.

의의 및 주장

본 논문은 주요 기여가 일반적인 물리 불가지론적 아키텍처에서 구조화된 특징 디스엔탱글먼트로 ITS를 위한 정형 데이터 딥러닝의 패러다임을 전환하는 데 있다고 주장합니다.

물리 인지적 귀납 편향(Physics-Aware Inductive Bias): 저자들은 IHT 아키텍처가 물리적 모달리티 경계를 명시적으로 모델링함으로써 우수한 귀납적 편향을 제공한다고 주장합니다. 이는 소규모 데이터셋에서 흔히 발생하는 오류인, 네트워크가 가짜 통계적 상관관계에 과적합되는 현상을 방지합니다.
"과잉 교정"의 정량화: 본 연구는 차량 환경에서 "과잉 교정" 현상을 최초로 경험적으로 규명하고 정량화했습니다. 중첩된 메커니즘(경계 합성 + 경계 패널티)을 가진 여러 하드 예제 마이닝(HEM) 전략을 쌓는 것은 해롭지만, 상호 보완적인 전략(밀도 복원 + 기하학적 정규화)은 시너지 효과를 낸다는 것을 입증했습니다.
기하학적 정규화: 지도 학습형 대조 손실(SCL)의 통합은 복잡한 생성 모델에 대한 계산적으로 가벼운 대안으로 제시됩니다. 이는 합성 노이즈를 처리하는 데 성공하여 잠재 매니폴드를 안정화하고, 모델이 물리적으로 불가능한 합성 샘플의 노이즈에 굴복하지 않으면서 오버샘플링의 이점을 활용할 수 있게 합니다.

저자들은 IHT 아키텍처가 전역적인 베이스라인 성능을 확보하는 한편, 시너지 효과를 내는 불균형 전략이 안전 중심의 소수 이벤트(minority events)를 최적화하는 "라스트 마일(last mile)"에 필수적이며, 이를 통해 다수 클래스의 정밀도와 소수 클래스의 재현율 사이의 견고한 균형을 달성한다고 결론짓습니다.