📊 statistics

Matrix Decomposition Latent Growth Model Tree

이 논문은 종단 데이터를 분석할 때 기존의 SEM Tree 방식에 비해 부적절한 해(improper solutions)와 계산 비용을 크게 줄이기 위해 행렬 분해 요인 분석을 활용하는 새로운 방법인 행렬 분해 잠재 성장 모델 트리(MDLGM Tree)를 소개한다.

원저자: Naoya Todo (Tokyo Metropolitan University), Naoto Yamashita (Kansai University), Satoshi Usami (The University of Tokyo)

게시일 2026-08-05

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Naoya Todo (Tokyo Metropolitan University), Naoto Yamashita (Kansai University), Satoshi Usami (The University of Tokyo)

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 시간이 흐름에 따라 사람들이 어떻게 변하는지에 대한 미스터리를 풀려는 탐정이라고 상상해 보십시오. 심리학과 행동 과학의 세계에서 연구자들은 종-단적 데이터(longitudinal data)를 관찰하곤 하는데, 이는 단순히 동일한 집단을 반복해서 추적한다는 뜻입니다. 마치 식물이 어떻게 자라는지 보기 위해 매주 식물의 사진을 찍는 것과 같습니다. 이러한 변화하는 패턴을 이해하기 위해 과학자들은 잠재 성장 모델(Latent Growth Model, LGM)이라는 도구를 사용합니다. LGM을 복잡하게 흩어진 점들의 구름 사이로 매끄러운 선을 그려 평균적인 성장 경로를 보여주는 유연한 자라고 생각하십시오. 동시에 각 개인의 경로가 평균으로부터 얼마나 꿈틀거리며 벗어나는지도 측정합니다.

하지만 반전이 있습니다. 모든 사람이 똑같이 성장하는 것은 아닙니다. 어떤 아이들은 처음에 수학을 빠르게 배우다가 나중에 속도가 느려질 수도 있고, 다른 아이들은 처음에 느리다가 나중에 급격히 앞서나갈 수도 있습니다. 만약 모든 사람을 하나의 단일한 '평균' 이야기로 강제로 끼워 맞추려 한다면, 실제적인 차이점들을 놓치게 됩니다. 이를 해결하기 위해 연구자들은 구조 방정식 모델 트리(Structural Equation Model Tree, SEM Tree)를 사용합니다. 이것을 거대한 디지털 결정 트리(decision tree)라고 상상해 보십시오. 이 트리는 "가족 소득이 높은가?" 또는 "남자인가 여자인가?"와 같은 질문을 던지고, 답변에 따라 사람들을 더 작은 가지들로 나눕니다. 각 가지는 자신만의 고유한 성장 이야기를 갖게 됩니다. 이는 숨겨진 하위 집단을 찾는 데 매우 유용하지만, 함정이 하나 있습니다. 현재 버전의 이 디지털 트리는 매우 무겁고 서투릅니다. 이를 구축하는 데 엄청난 양의 컴퓨터 연산 능력이 필요하며, 종종 자신의 발에 걸려 넘어지듯 '부적절한 해(improper solutions)'를 만들어냅니다. 즉, 음수의 성장량이나 망가진 지도와 같이 컴퓨터가 불가능한 것을 계산해 내는 수학적 오류를 발생시키는 것입니다.

여기서 나오야 토도(Naoya Todo)와 그의 팀이 수행한 새로운 연구가 등장합니다. 그들은 기존의 무거운 전통적 방식 대신, 더 가볍고 빠르며 신뢰할 수 있는 버전의 디지털 트리인 행렬 분해 잠재 성장 모델 트리(Matrix Decomposition Latent Growth Model Tree, MDLGM Tree)를 발명했습니다. 기존의 무거운 수학이 컴퓨터를 비틀거리게 만드는 대신, 그들은 행렬 분해 요인 분석(Matrix Decomposition Factor Analysis, MDFA)이라는 영리한 기술을 사용합니다. MDFA를 퍼즐을 푸는 다른 방법이라고 생각할 수 있습니다. 기존 방식이 그림이 완벽해 보일 때까지 추측하고 확인하며 조각들을 맞추려 노력한다면(이는 종종 오류로 이어집니다), 새로운 방식은 그림을 기본적인 구성 요소(색상과 모양을 분리하는 것과 같은)로 분해한 다음, 조각들이 부서지지 않고 맞물리도록 수학적으로 보장하는 단계별 과정을 통해 재구성합니다.

일련의 컴퓨터 시뮬레이션에서 저자들은 이 새로운 트리를 기존의 트리와 비교 테스트했습니다. 그 결과, MDLGM 트리가 속도 면에서 게임 체인저라는 것을 발견했습니다. 특히 많은 시점(예: 10번의 측정)을 추적할 때, 기존 방식보다 10배 이상 빠른 경우도 있었습니다. 더 중요한 것은, 이 새로운 트리가 수학적 체계가 무너지는 그 좌절스러운 '부적절한 해'를 거의 완전히 제거했다는 점입니다. 기존의 트리는 어려운 사례의 경우 종종 **50%**가 넘는 빈도로 오류를 발생시켰지만, 새로운 트리는 안정성을 유지했습니다. 연구는 또한 새로운 트리가 해답을 찾아냈을 때 그 결과가 기존 방식과 거의 동일하다는 것을 보여주었으며, 이는 속도를 위해 정확성을 희생하지 않았음을 의미합니다. 저자들은 이 새로운 도구가 연구자들이 훨씬 더 쉽게 복잡한 성장 데이터를 분석하는 데 도움을 줄 수 있을 것이라고 제안하면서도, 소프트웨어를 모두가 사용할 수 있도록 만들고 훨씬 더 복잡한 유형의 성장 이야기에도 테스트하기 위해서는 더 많은 작업이 필요하다고 언급했습니다.

기술 요약: 행렬 분해 잠재 성장 모델 트리 (Matrix Decomposition Latent Growth Model Tree)

문제 제기
잠재 성장 모델(Latent Growth Models, LGMs)은 종단적 데이터에서 개인의 변화 궤적과 집단 간 차이를 분석하는 표준적인 도구이다. 모집단이 이질적일 때, 구조 방정식 모델 트리(Structural Equation Model Trees, SEM Trees)는 외부 공변량을 기준으로 표본을 재귀적으로 분할하여 서로 다른 성장 파라미터를 가진 하위 집단을 식별하는 해결책을 제공한다. 그러나 현재의 SEM Tree 구현 방식은 두 가지 중요한 실질적 장애물에 직면해 있다:

계산 비용: 모든 후보 분할 지점에서 템플릿 모델(LGM)을 최대 우도법(Maximum Likelihood, ML)으로 추정하는 것은, 특히 데이터셋이 크거나 시점(time points)이 많을 경우 계산량이 매우 많이 소요된다.
부적절한 해(Improper Solutions): 모델이 오설정(misspecified)되었거나 노드 내 표본 크기가 제한적인 경우, ML 추정은 빈번하게 부적절한 해(예: 음수 잔차 분산, 비양의 정치적 공분산 행렬)를 산출한다. 기존 소프트웨어 패키지(예: semtree, MplusTrees)는 이러한 부적절한 해의 발생만을 근거로 노드를 자동으로 제외하는 견고하고 내장된 메커니즘이 부족하며, 이는 잠재적으로 불안정한 트리 구조나 편향된 파라미터 추정치를 초래할 수 있다.

방법론
저자들은 표준 ML 기반의 LGM 추정을 행렬 분해 요인 분석(Matrix Decomposition Factor Analysis, MDFA) 방식으로 대체하는 새로운 재귀적 분할 방법인 **행렬 분해 잠재 성장 모델 트리(MDLGM Tree)**를 제안한다.

MDDLGM 공식화: 이 방법은 MDFA를 LGM의 맥락으로 확장하여 평균 구조와 요인 공분산을 수용한다. 데이터 공간에서 공분산 공간의 로그 우도 기반 손실 함수를 최소화하는 일반적인 SEM과 달리, MDLGM은 요인 점수(factor scores)와 고유 분산(unique variances)을 고정된 파라미터로 취급하고 프로베니우스 노름(Frobenius norm) 기반의 최소 제곱 기준을 최소화한다.
- 선형 및 이차 LGM은 요인 적재량(factor loadings)이 고정된(예: 선형의 경우 $1, t-1$ ; 이차의 경우 $1, t-1, (t-1)^2$ ) 확인적 요인 분석 모델로 재구성된다.
- 추정 과정은 반복적인 고윳값 분해 알고리즘을 포함한다. 결정적으로, 고유 분산 추정치는 고유벡터를 포함하는 행렬 곱의 대각선으로부터 유도되며, 이는 이론적으로 반복적인 업데이트 과정 중에 음수 분산 추정치가 발생하는 것을 방지한다.
- 국소 최적해(local optima) 문제를 처리하기 위해, 알고리즘은 여러 번의 무작와 시작(random starts)을 사용하며, 최소 손실 함수를 가진 해를 선택한다.
트리 구축 알고리즘:
- 분할 기준: 분포 가정이 필요한 로그 우도나 편차(deviance) 변화 대신, MDLGM Tree는 관측 데이터와 모델이 함의하는 값 사이의 **제곱 마할라노비스 거리(squared Mahalanobis distance)**를 분할 기준으로 사용한다.
- 절차: 부모 노드에 대해 MDLGM을 통해 템플릿 모델을 적합시킨다. 그 후 데이터를 공변량의 잠재적 절단 지점에서 분할한다. 결과로 나타나는 자식 노드들의 마할라노비스 거리 합을 계산한다. 복잡도 파라미터($cp$)를 고려하여 거리의 감소를 최대화하는 분할을 선택한다.
- 부적절한 해 처리: MDFA 기반 추정은 본질적으로 음수 분산 추정치를 피하므로, 알고리즘은 ML 기반 트리 구축을 중단시키거나 불안정하게 만드는 부적절한 해의 발생을 자연스럽게 완화한다.

주요 기여

알고리즘 혁신: MDFA를 적응시켜 평균과 공분산을 포함한 LGM 파라미터를 추정함으로써, 표준 요인 분석을 넘어 MDFA의 범위를 확장하는 MDLGM을 개발하였다.
의사결정 나무와의 통합: 이 추정 방법을 재귀적 분할과 통합하여, SEM Tree에 대한 계산 효율적인 대안을 제공하는 MDLGM Tree를 구축하였다.
견고성: 별도의 임의 제약이나 복잡한 베이지안 사전 분포 없이도 부적절한 해(음수 분산, 특이 행렬)의 위험을 실질적으로 줄이는 메커즘을 제공한다.

결과
일련의 시뮬레이션 연구를 통해 다양한 조건(선형 vs 이차 모델, 정적 vs 오설정 모델, 표본 크기 $N=500, 2000$ , 시점 $T=5, 10$ , 분리 정도)에서 MDLGM Tree(두 가지 변형: 마할라노비스 거리 및 편차 기반 분할)를 네 가지 SEM Tree 변형(ML, 제약 ML, 베이지안, 경고 기반 제외 ML)과 비교하였다.

계산 효율성: MDLGM Tree는 모든 ML 기반 및 베이지안 SEM Tree 방법보다 현저히 빨랐다. 시점이 많은 조건( $T=10$ )에서 MDLGM Tree는 평균적으로 10배 이상 빨랐다. MDLGM Tree의 계산 시간은 SEM Tree 방법들과 달리 표본 크기나 시점의 증가에 거의 영향을 받지 않았다.
부적절한 해: MDLGM Tree는 부적절한 해를 거의 생성하지 않았다. 반면, ML 기반 SEM Tree는 (특히 이차 모델 조건에서 50%를 초과하여) 부적별한 해에 자주 직면했으며, 제약 ML이나 경고 기반 제외 전략조차 이를 완전히 제거하는 데 실패했다. 베이지안 SEM Tree는 부적절한 해가 나타나지 않았으나 다른 문제들을 보였다(아래 참조).
노드 추정 정확도: MDLGM Tree(특히 마할라노비스 거리 변형)는 모든 조건에서 실제 종단 노드의 수를 일관되고 정확하게 추정하였다.
- 베이지안 SEM Tree(SEM Tree3)는 대부분의 조건에서 노드 수를 추정하는 데 있어 낮은 성능을 보였으며, 이는 사전 분포 설정에 대한 높은 민감도를 시사한다.
- ML 기반 방법은 $T$ 가 증가함에 따라 노드 구별 능력이 저하되는 경향을 보였는데, 이는 모델 오설정이나 특정 파라미터 구성이 차이를 모호하게 만들기 때문으로 보인다.
파라미터 추정: 노드가 올바르게 식별되었을 때, MDLGM Tree의 파라미터 추정치(평균, 분산, 공분산)는 ML 기반 방법과 높은 상관관계(상관계수 1.0에 근접)를 보였다. 이는 MDLGM Tree가 ML과 유사한 솔루션을 제공하면서도 계산적, 안정성 측면의 결함을 피한다는 것을 의미한다.
분류 정확도: 노드가 올바르게 식별되었을 때, 분류 정확도는 모든 방법에서 일반적으로 높았다. 그러나 경고를 기반으로 분할을 제외하는 SEM Tree4는 일부 조건에서 낮은 분류 정확도를 보였는데, 이는 부적절한 해가 발생한 부모 노드 때문에 관련 공변량에 대한 분할을 피했기 때문으로 보인다.

의의 및 주장
본 논문은 MDLGM Tree가 종단적 데이터 분석을 위한 유용한 모델 기반 재귀적 분할 방법이라고 주장한다. 주요 의의는 다음과 같다:

현재의 SEM Tree 구현 방식이 겪는 부적절한 해 문제를 피함으로써 잠재 궤적의 집단 간 차이를 더 신뢰성 있게 탐지할 수 있다.
훨씬 낮은 계산 비용으로 이러한 차이를 설명하는 외부 공변량을 식별할 수 있어, 더 큰 데이터셋이나 더 많은 시점을 가진 모델에 적용하는 것이 가능하다.
각 노드의 기저에 있는 성장 모델을 적절히 추정함으로써 개인을 더 정확하게 분류할 수 있다.

저자들은 MDLGM Tree를 단순한 독립 도구가 아니라 SEM Tree와 병행할 수 있는 민감도 분석 도구로 위치시킨다. 또한 한계점으로 현재 구현이 단순 선형 및 이차 LGM에 집중되어 있음을 언급하며, 향-후 더 복잡한 LGM 사양(예: 자유 요인 적재량)으로 알고리즘을 확장하고, 이론적 성질(일관성, 효율성)을 조사하며, 범용 소프트웨어 패키지를 개발하는 후속 연구가 필요함을 밝히고 있다. 결론적으로, MDLGM Tree는 SEM Tree의 계산적, 안정성 장벽을 해결함으로써 심리학 및 행동 과학 분야에서 종단적 SEM 접근법의 폭넓은 실무적 활용을 촉진할 잠재력이 있다.

유사한 논문