Functional Autoencoder for Smoothing and Representation Learning

당신이 어떤 노래를 이해하려고 노력하고 있지만, 당신에게 주어진 것이라고는 무작위의 순간에 연주된 음표들, 어떤 것은 크고, 어떤 것은 작으며, 어떤 것은 아예 빠져 있는 음표들의 목록뿐이라고 상상해 보십시오. 데이터 과학의 세계에서 이것이 바로 "함수형 데이터(functional data)"가 보이는 모습입니다. 심장 박동, 주식 시장의 추세, 혹은 해수 온도처럼 시간이나 공간에 따라 변하는 정보 말입니다. 보통 과학자들은 이 지저치고 복잡한 데이터를 이해하기 위해 두 가지 별도의 작업을 수행해야 합니다. 먼저, 그들은 들쭉날쑥하고 노이즈가 섞인 음표들을 매끄럽고 연속적인 멜로디로 "매끄럽게 다듬어야(smoothing)" 합니다. 그다음, 그 길고 복잡한 노래를 컴퓨터가 이해할 수 있도록 짧은 숫자 리스트(요약본 같은 것)로 압축해야 합니다. 오랫동안 이 작업을 위한 최고의 도구들은 마치 구식의 경직된 번역기 같았습니다. 그것들은 오직 직선과 단순한 패턴만을 이해할 수 있었습니다. 만약 데이터에 뒤틀림이나 곡선, 혹은 예상치 못한 변화가 있다면, 이 도구들은 혼란에 빠지거나 핵심을 놓치곤 했습니다.

여기서 한 새로운 연구팀이 영리한 아이디어와 함께 등장합니다. 그들은 "함수형 오토인코더(Functional Autoencoder, FAE)"라는 디지털 기계를 만들었는데, 이는 초지능적이고 유연한 번역기 역할을 합니다. 이 기계는 지저치 않은 데이터를 직선으로 강제하는 대신, 곡선과 뒤틀림을 자연스럽게 보는 법을 배웁니다. 이 기계는 단순히 데이터를 요약하는 데 그치지 않습니다. 노이즈가 섞이고 흩어진 음표들에 귀를 기울여 즉각적으로 매끄럽고 완벽한 멜로디를 다시 불러내며, 동시에 그 노래 뒤에 숨겨진 비밀 코드를 파악해 냅니다. 연구진은 이 새로운 기계를 기존의 표준 도구들과 비교 테스트하였으며, 특히 음악이 복잡하거나 음표가 누락되었을 때, 이 기계가 다음 곡이 어떻게 들릴지 예측하고 서로 다른 노래들을 올바른 카테 categories로 분류하는 데 훨씬 더 뛰어나다는 것을 발견했습니다.

문제점: 지저분한 음표와 경직된 번역기

함수형 데이터 분석(FDA)의 세계에서 데이터는 단 하나의 숫자가 아니라 하나의 전체 곡선입니다. 달리기 선수의 레이스 중 속도 변화 비디오를 생각해보십시오. 당신은 단 하나의 속도만을 갖는 것이 아니라, 매 찰나의 순간마다의 속도를 갖게 됩니다. 하지만 현실 세계에서 우리는 완벽한 비디오를 얻는 경우가 드뭅니다. 우리는 대개 몇 개의 스냅샷만을 얻습니다. 1초 때의 속도, 5초 때의 속도, 아마도 10초 때의 속도, 그리고 때로는 카메라 오류로 인해 몇 초간의 데이터가 통째로 빠지기도 합니다.

이러한 스냅샷들을 이해하기 위해 과학자들은 전통적으로 두 가지 주요 단계를 사용합니다. 첫째, 그들은 점들을 연결하여 그 사이에서 일어난 일을 추측함으로써 데이터를 "매끄럽게 다듬습니다(smoothing)". 둘째, 그들은 함수형 주성분 분석(FPCA)이라는 기술을 사용하여 그 긴 곡선을 몇 개의 핵심 숫자로 압축합니다. FPCA를 하나의 경직된 틀이라고 생각해보십시오. 그것은 곡선이 단순한 직선의 조합으로 이루어져 있다고 가정합니다. 데이터가 단순하다면 잘 작동하겠지만, 만약 데이터가 복잡하고, 꿈틀거리거나, "비선형적인" 패턴을 가지고 있다면 이 경직된 틀은 깨져버립니다. 그것은 마치 구불구불한 뱀을 정사각형 상자에 넣으려는 것과 같습니다. 뱀은 찌그러지게 되고, 원래의 형태를 잃게 됩니다.

다른 연구자들은 이를 해결하기 위해 표준 신경망(이미지 인식에 쓰이는 AI 종류)을 사용하려고 시도했습니다. 하지만 이러한 네트워크들은 대개 데이터를 서로 관련 없는 숫자의 목록처럼 취급합니다. 그들은 1초 때의 속도가 2초 때의 속도와 연결되어 있다는 사실을 이해하지 못합니다. 또한 데이터가 누락되거나 불규규칙할 때 어려움을 겪으며, 타임라인에 공백이 생기면 종종 혼란에 빠집니다.

해결책: 곡선을 "듣는" 기계

이 논문의 저자인 시디 우(Sidi Wu), 세드릭 보락(Cédric Beaulac), 지구 카오(Jiguo Cao)는 함수형 오토인코더(FAE)라고 불리는 새로운 종류의 신경망을 제안했습니다. 이 기계를 인코더(Encoder, 듣는 이)와 디코더(Decoder, 노래하는 이)라는 두 부분으로 구성된 로봇이라고 상상해 보십시오.

인코더 (듣는 이):
가공되지 않은 지저분한 숫자들을 단순히 바라보는 대신, 인코더는 특별한 "특징 레이어(feature layer)"를 가지고 있습니다. 이 레이어는 흩어진 음표들을 가져와 미리 정해진 일련의 매끄러운 형태(기저 함수라고 불림) 위에 투영합니다. 이는 마치 일련의 음악적 템플릿을 가진 것과 같습니다. 기계는 다음과 같이 묻습니다. "이 데이터에 이 '사인파' 모양이 얼마나 들어있는가? 이 '언덕' 모양은 얼마나 들어있는가?" 기계는 가중 합을 계산하여, 지저분하고 불규칙한 스냅샷들을 깨끗하고 매끄러운 특징들로 바꿉니다. 이 단계는 매우 중요한데, 왜냐하면 기계가 불규칙하게 간격이 떨어진 데이터(누락된 음표)를 혼란 없이 처리할 수 있게 해주기 때문입니다. 이는 AI가 학습을 시작하기도 전에 수학적으로 "빈칸을 채우는" 역할을 합니다.

디코더 (노래하는 이):
인코더가 비밀 코드(압축된 숫자들)를 파악하고 나면, 이제 디코더가 바통을 이어받습니다. 디코더는 지휘자 역할을 하는 "계수 레이어(coefficient layer)"를 가지고 있습니다. 이 레이어는 그 숫자들을 가져와서 일련의 매끄러운 음악적 템플릿들을 혼합하여 원래의 노래를 재현합니다. 매끄러운 템플릿들을 혼합하기 때문에, 입력값이 들쭉날쭉하고 구멍이 뚫려 있었더라도 결과물은 자동으로 매끄럽고 연속적인 곡선이 됩니다.

이 설계의 마법은 이 두 가지 일을 동시에 수행한다는 점에 있습니다. 즉, 데이터를 매끄럽게 다듬는 동시에 표현(representation)을 학습합니다. 데이터를 먼저 매끄럽게 다듬으라고 명령할 필요가 없습니다. 매끄럽게 만드는 과정은 학습 과정의 일부로서 자연스럽게 일어납니다.

무엇을 발견했는가: 더 매끄러운 곡선, 더 높은 점수

연구진은 두 가지 방식으로 이 새로운 FAE 기계를 테스트했습니다. 첫째는 컴퓨터로 생성된 시뮬레이션을 통해서였고, 둘째는 실제 데이터를 통해서였습니다.

시뮬레이션:
그들은 다양한 복잡성을 가진 수천 개의 가짜 곡선들을 만들었습니다.

• 데이터가 단순할 때 (선형): 새로운 FAE는 기존의 표준 방식(FPCA)만큼이나 잘 작동했습니다. 이는 FAE가 단순한 데이터에서도 성능이 떨어지지 않음을 증명했습니다.
• 데이터가 복잡할 때 (비선형): 여기서 FAE가 빛을 발했습니다. 경직된 FPCA 방식은 뒤틀림과 회전을 포착하는 데 어려움을 겪어 오차가 높게 나타났습니다. 반면, 유연한 신경망을 가진 FAE는 복잡한 패턴을 훨씬 더 잘 포착했습니다. 곡선의 "클래스(종류)"를 맞추려는 테스트에서 FAE는 더 정확한 결과를 보여주었습니다.
• "누락된 음표" 테스트: 그들은 무작위로 25%의 시점 데이터가 제거된 상황을 시뮬레이션했습니다. 표준 신경망(AE)은 빈 공간을 채우려 할 때 지저분해지고 격렬하게 요동쳤습니다. 그러나 FAE는 곡선을 매끄럽고 정확하게 유지하며, 불규칙하고 지저분한 데이터를 처리하는 데 훨씬 더 뛰어나다는 것을 보여주었습니다.

실제 테스트: 엘니뇨(El Niño)
이것이 실제 세계에서 어떻게 작동하는지 확인하기 위해, 연구진은 해수면 온도를 추적하는 "엘니뇨" 데이터셋에 FAE를 적용했습니다. 그들은 매년의 온도 곡선을 하나의 노래로 취급했습니다.

• 예측: 온도 곡선을 예측할 때, FAE는 기존의 FPCA 방식과 표준 신경망보다 더 적은 실수를 범했습니다.
• 분류: 연도를 서로 다른 그룹으로 분류할 때, FFA가 가장 정확했습니다.
• 매끄럽게 만들기(Smoothing): 시각적 결과는 놀라웠습니다. FAE에 의해 재구성된 곡선들은 일 년 내내 매끄럽고 연속적이었습니다. 반면, 표준 신경망은 데이터가 기록된 특정 지점에서만 존재하는, 끊어진 계단처럼 들쭉날쭉하고 단절된 선들을 만들어냈습니다.

이것이 왜 중요한가

저자들은 이 새로운 접근 방식이 시간 기반 데이터를 분석하는 데 있어 강력한 업그레이드를 제공한다고 제안합니다. 전통적인 통계학의 매끄럽게 다듬는 능력과 현대 딥러닝의 유연성을 결요함으로써, 함수형 오토인코더는 많은 사전 정제 작업 없이도 지저분한 실제 데이터를 학습할 수 있습니다. 이 방식은 특히 단순한 직선이 아닌 숨겨진 패턴을 찾는 데 탁-월합니다.

하지만 연구진은 이 방법이 모든 것을 즉각적으로 해결하는 마법 지팡이는 아니라는 점을 주의 깊게 언급합니다. 완벽하게 작동하기 위해서는 여러 개의 "조절 나사(하이퍼파라미터)"를 튜닝해야 하며, 여기에는 시간과 컴퓨팅 자원이 소요될 수 있습니다. 또한, 현재 형태로는 한 번에 한 가지 유형의 데이터(예: 온도)만 다룰 수 있으며, 여러 유형의 데이터(예: 온도와 풍속)가 동시에 발생하는 경우를 어떻게 처리할지는 아직 밝혀내지 못했습니다. 그럼에도 불구하고, 이 모델은 컴퓨터가 우리 주변 세계의 아름답고 복잡한 곡선들을 이해하도록 돕는 유망한 새로운 도구로서 큰 가능성을 보여주고 있습니다.