LLT: An R package for Linear Law-based Feature Space Transformation

기술 요약: 선형 법칙 기반 특징 공간 변환을 위한 LLT R 패키지

문제 정의
시계열 분류(TSC)는 센서로부터 수집되는 대규모 데이터 크기, 고차원성, 그리고 시계열 데이터의 연속성으로 인해 머신러닝 및 데이터 마이닝 분야에서 여전히 도전적인 과제로 남아 있다. 기존의 접근 방식은 일반적으로 특징 기반 방법(예: 이산 웨이브렛 변환, 이산 푸리에 변환)과 거리 기반 방법(예: 1-최근접 이웃을 사용한 동적 시간 워핑)으로 분류되지만, 단변량 및 다변량 시계열의 분류를 용이하게 하기 위해 특징 공간을 효과적으로 변환할 수 있는 알고리즘에 대한 필요성이 존재한다.

방법론
본 논문은 선형 법칙 기반 특징 공간 변환(Linear Law-based Feature Space Transformation, LLT) 알고리즘과 그 구현체인 R 패키지를 소개한다. 핵심 방법론은 시계열 내의 지배적인 패턴을 규명하는 '선형 법칙(linear laws)'을 시차 임베딩(time-delay embedding)과 스펙트럼 분해(spectral decomposition)를 통해 식별하는 것에 기초한다.

1. 선형 법칙 정의: 시계열 $z_t$에 대하여, $l$-차 시차 임베딩은 행렬 $A$를 생성한다. 이후 대칭 행렬 $S = A^\top A$가 생성된다. '선형 법칙'은 $Sv \approx 0$을 만족하는, $S$의 최소 고유값에 대응하는 고유벡터 $v$로 정의된다. 분산을 최대화하는 주성분 분석(PCA)과 달리, 이 접근 방식은 투영된 데이터의 분산을 최소화하는 성분을 찾는다.
2. 변환 과정:
   • 훈련(Training): 데이터셋을 훈련 세트와 테스트 세트로 분할한다. 훈련 세트의 각 입력 시계열(초기 특징)에 대해, 알고리즘은 클래스별로 그룹화된 선형 법칙(고유벡터)을 계산한다.
   • 테스트(Testing): 테스트 인스턴스의 경우, 알고리즘은 입력 시계열로부터 $S$ 행렬을 구성한다. 이 행렬들은 동일한 초기 특징에 대해 훈련 과정에서 도출된 법칙 행렬($V^j$)에 의해 좌측 곱해진다.
   • 특징 선택(Feature Selection): 결과 행렬($S^{te,j}V^j$)을 분석한다. 열(column)의 분산이 작거나 절대 평균이 작은 경우, 해당 테스트 데이터가 해당 법칙을 도출하는 데 사용된 훈련 데이터와 동일한 클래스에 속함을 나타낸다. 각 클래스와 입력 시계열에 대해 분산 및/또는 절대 평균이 가장 작은 열 벡터를 선택함으로써 차원을 축소한다.

주요 기여
본 연구의 주요 기여는 LLT 알고리즘의 첫 번째 소프트웨어 구현체인 LLT R 패키지이다. 패키지의 주요 특징은 다음과 같다:

• 모듈형 구조: 알고리즘은 세 가지 주요 함수(trainTest, trainLaw, testTrans)와 두 개의 보조 함수(embed, linlaw)로 분해되어 있다. 이러한 모듈성은 추가적인 알고리즘 개발을 용이하게 한다.
• 효율성: 낮은 계산 요구량을 보장하기 위해, 본 패키지는 외부 커뮤니티 라이브러리를 사용하지 않고 오직 R의 내장 함수만을 사용한다.
• 유연성 및 사용성: 패키지는 경로(path), 테스트 비율, 차원(dimension), 지연(lag), 선택 기준 등 필수적인 파라미터만을 요구하도록 설계되었으며, 단변량 및 다변량 데이터를 모두 지원하여 사용자 친화적이다.
• 공개 가용성: 패키지(v0.1.0)와 요구되는 디렉토리 구조를 갖춘 샘플 데이터셋은 GitHub에 GNU General Public License v3.0 하에 공개되어 있다.

결과
본 논문은 PowerCons 데이터셋(EDF의 가정용 전력 소비 데이터)을 사용하여 패키지를 검증하였다. 이 데이터셋은 "Warm"과 "Cold" 계절 클래스로 분류된다.

• 실험 설정: 저자들은 테스트 비율 0.1과 차원($dim$) 5를 사용하여 300회의 변환을 수행하였다.
• 성능: 단순한 분류 규칙(변환된 특징의 절대 평균이 더 작은 클래스를 선택)을 사용했을 때, 이 방법은 평균 정확도 87.204%(표준 편차 5.536%)를 달s성하였다.
• 비교 맥락: 저자들은 LLT를 k-최근접 이웃(KNN) 알고리즘과 결로 결합하는 것이 다른 연구들(Kurbucz et al., 2022a)에서 낮은 계산량으로 정확한 결과를 냈음을 언급하였다. 또한, 다중 센서 데이터 퓨전 기반 활동 인식 시스템(AReM) 데이터셋에 대한 이전 연구는 LLT가 특징 공간 변환 후 전통적인 분류기들의 정확도를 유의미하게 향상시켜 최첨단 방법론들을 능가했음을 입증하였다.

의의 및 주장
본 논문은 LLT 패키지를 시계열 데이터를 분류하기 쉽게 특징 집합의 구조를 변환하는 실용적인 도구로 포지셔닝한다. 저자들은 이 알고리즘이 기존 방법들에 비해 낮은 계산 복잡도를 제공한다는 점을 강조한다. 본 연구의 의의는 계산 단계를 분리함으로써 연구자들이 선형 법칙에 기반한 학습 알고리즘을 더욱 발전시킬 수 있도록 하는 유연하고, 사용자 친화적이며, 효율적인 구현을 제공하는 데 있다. 저자들은 이 패키지를 모든 TSC 문제에 대한 보편적인 해결책이라고 주장하기보다는, LLT 알고리즘의 적용을 촉진하는 기초적인 구현체로서 제시하며 겸허한 어조를 유지하고 있다.