📊 statistics

Orthogonality and Dimensionality in Airline Cluster Analysis using PCA and Kernel PCA

본 논문은 기존의 6개 클러스터 분류 체계가 선형 및 비선형 PCA 공간 전반에서 기하학적으로 견고함을 입증하는 동시에, 원본 데이터셋은 실제로는 3개의 클러스터만을 구조적으로 지지하고 있다는 점을 보여줌으로써 미국 항공사 수익 주기에 관한 연구를 재현 및 확장하며, 이러한 결과는 원본 7차원 공간 내의 공선성으로 인해 기존 분석에서 가려져 있었음을 밝힌다.

원저자: Andreas Schlapbach

게시일 2026-06-09

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Andreas Schlapbach

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 26명의 사람(1995년부터 2020년까지 26년의 항공 역사)을 수익 규모에 따라 서로 다른 그룹으로 분류하려고 한다고 상상해 보십시오. 이전의 한 연구는 일곱 가지 측정치(연료 가격, 임금, 티켓 판매량 등)를 사용하여 이 작업을 시도했고, 결과적으로 여섯 개의 뚜렷한 그룹을 만들어냈습니다.

이 논문은 "현실 점검(reality check)"입니다. 저자인 안드레아스 슐라프바흐(Andreas Schlapbach)는 동일한 데이터를 가지고 세 가지 간단한 질문을 던졌습니다.

그 일곱 가지 측정치가 실제로 여섯 개의 서로 다른 이야기를 들려주고 있는가, 아니면 그저 똑같은 이야기를 반복하고 있는가?
여섯 개가 적절한 그룹의 수인가, 아니면 더 단순한 답이 있는가?
이 그룹들을 찾아내는 데 사용된 수학적 방식이 데이터의 구조 때문에 속임을 당한 것인가?

이 논문이 발견한 내용을 알기 쉽게 설명하면 다음과 같습니다.

1. "에코 체임버(메아리 방)" 효과 (공선성)

저자는 원래 연구에서 사용된 일곱 가지 측정치가 마치 한 방에 모인 일곱 명의 사람들이 각기 조금씩 다른 볼륨으로 똑같은 말을 외치고 있는 것과 같다는 사실을 발견했습니다. 기술적인 용어로, 이들은 **높은 공선성(highly collinear)**을 가집니다.

비유: 자라나는 나무의 크기를 측정하려고 한다고 가정해 봅시다. 당신은 나무의 높이, 가지의 길이, 줄기의 너비, 그리고 잎의 개수를 측정합니다. 이 모든 것들은 함께 성장합니다. 만약 이 모든 것을 사용하여 나무를 "작음", "중간", "큼"으로 분류한다면, 당신은 여섯 가지의 서로 다른 정보를 얻는 것이 아니라, 단지 나무의 성장을 여섯 가지 방식으로 측정하고 있는 것뿐입니다.
결과: 저자는 데이터가 실제로는 약 2.5개의 독립적인 차원의 정보만을 가지고 있으며, 일곱 개가 아니라는 것을 발견했습니다. 원래의 연구는 본질적으로 동일한 "성장 추세"를 반복해서 측정하고 있었던 것입니다.

2. "신축성 있는 고무줄" (왜 그룹이 그대로 유지되었는가)

데이터에 이러한 반복적인 측정치로 인한 "노이즈"가 있었음에도 불구하고, 저자가 더 깨끗하고 단순한 버전의 데이터를 사용하여 수학적 계산을 다시 수행했을 때도 원래의 여섯 그룹은 정확히 그대로 유지되었습니다.

비유: 항공 역사의 연도들을 긴 신축성 있는 고무줄 위의 구슬이라고 상상해 보십시오. 원래의 연구는 반복되는 측정치 때문에 매우 불균일하게 늘어난 고무줄을 사용했습니다. 저자는 그 고고줄을 훨씬 더 균일하게 폈습니다.
놀라운 점: 고무줄의 모양이 변했음에도 불구하고, 구슬들의 순서는 바뀌지 않았습니다. "저수익 연도"를 나타내는 구슬들은 여전히 한쪽 끝에 있었고, "고수익 연서"는 다른 쪽 끝에 있었습니다. 그룹들이 시간 순서(연대순)에 따라 직선으로 배열되어 있었기 때문에, 선을 늘린다고 해서 순서가 뒤섞이지 않았습니다. 즉, "여섯 그룹"은 그 동일한 '시간 소시지'의 여섯 조각이었던 것입니다.

3. "3개냐 6개냐"의 논쟁 (실제 그룹의 수)

가장 중요한 발견은 실제로 몇 개의 그룹이 존재하는가에 관한 것입니다. 원래의 연구는 여섯 개의 뚜렷한 시대가 있다고 주장했습니다. 그러나 저자가 실루엣 기준(Silhouette criterion)이라는 "품질 검사" 도구를 사용하여 그룹이 얼마나 잘 결합되는지 확인했을 때, 데이터는 실제로 세 개의 자연스러운 그룹만이 존재한다고 외쳤습니다.

세 가지 실제 그룹:
1. 고난의 시대 (1995–2005): 낮은 수익, 위기, 그리고 낮은 티켓 가격.
2. 회복의 시대 (2006–2014): 재건기, 높은 연료비, 그러나 회복되는 수익.
3. 황금기 (2015–2019): 기록적인 수익.
이상치(Outlier): 2020년(코로나19)은 너무 특이해서 어떤 그룹에도 속하지 못했습니다. 이는 "특이점(singularity)" 또는 매트릭스의 오류와 같았습니다.

저자는 원래 연구의 "여섯 그룹"이 마치 덩어리가 세 개뿐인 빵 덩어리를 여섯 조각으로 자른 것과 같다고 주장합니다. 여섯 조각 모두 여전히 빵이지만, 데이터는 세 개의 덩어리를 더 선호합니다. 반복되는 측정치에서 오는 "노이즈(공선성)"가 세 개가 더 나은 답이라는 사실을 가리고 있었습니다.

4. "곡률 체크" (데이터가 휘어져 있는가?)

저자는 데이터가 단순한 수학으로는 볼 수 없는 방식으로 비밀스럽게 휘어져 있거나 뒤틀려 있는지 확인하고 싶었습니다. 저자는 여섯 가지 수학적 "렌즈"를 사용하여 (숨겨진 곡선을 찾는) **커널 PCA(Kernel PCA)**라는 정교한 기법을 사용했습니다.

결과: 여섯 가지 렌즈가 모두 동일한 결론을 내렸습니다: 데이터는 평평합니다. 숨겨진 곡선이나 비밀스러운 형태는 없습니다. 항공 수익 사이클은 직선적이고 예측 가능한 선을 따라 움직입니다. 이는 원래 연구에서 사용된 단순한 수학적 방식이 실제로 괜찮았음을 확인시켜 줍니다. 다만, 적절한 그룹의 수를 적용하여 해석할 필요가 있었을 뿐입니다.

핵심 요약

이 논문은 원래 연구의 핵심 아이디어—즉, 항공 수익은 다양한 사이클을 거치며 위기 이후에 정상으로 돌아온다는 것—가 정확하고 견고하다고 결론짓습니다. 수학적 방식이 깨진 것도 아니고, 그룹이 사라진 것도 아닙니다.

하지만 연구는 다음과 같은 수정을 제안합니다:

일곱 가지 측정치를 모두 사용하지 마십시오 (그것들은 중복됩니다).
여섯 개의 그룹을 강요하지 마십시오 (데이터는 자연스럽게 세 개를 원합니다).
2020년이 독특한 이상치였음을 인식하십시오 (그것은 패턴을 깨뜨렸습니다).

요약하자면, 항공 수익의 이야기는 여섯 개의 숨겨진 방이 있는 복잡한 미로가 아니라, 세 개의 주요 장과 하나의 특이한 각주가 있는 직선입니다.

기술 요약: PCA 및 Kernel PCA를 이용한 항공사 클러스터 분석에서의 직교성 및 차원성

문제 제기

본 연구는 Renold 등[6]이 제시한 1995년부터 2020년까지의 미국 항공사 이익 주기를 특징짓는 클러스터링 방법론을 재현하고 비판적으로 평가한다. 원 논문은 7개의 고도로 공선성(collinear)이 높은 변수를 활용하여 k-평균(k-means) 클러스터링을 수행하였으며, 이를 주성분 분석(PCA) 및 시스템 다이내믹 모델링과 결합하여 6개의 클러스터 분류 체계를 도출하였다. 본 재현 연구는 원 논문의 두 가지 구체적인 방법론적 공백을 지적한다:

공선성 왜곡(Collinearity Distortion): 7개의 입력 변수는 구조적 성장 추세에 의해 구동되므로 매우 높은 다중공선성을 띤다. 이 공선성이 원시 7차원 공간에서 기하학적으로 더 깨끗한 주성분(PC) 점수 공간으로 이동할 때 클러스터 할당을 왜곡하는지 여부는 검증되지 않았다.
클러스터 정당성(Cluster Justification): $k=6$ 클러스터 선택에 대한 정량적 근거가 부족하다. 본 연구는 데이터가 6개의 클러스터를 구조적으로 지원하는지, 아니면 다른 숫자가 더 적절한지를 의문을 제기한다.

본 분석은 다음 세 가지 핵심 질문에 답하는 것을 목표로 한다:

공선성이 원시 공간과 PC 공간 사이의 클러스터 할당을 실질적으로 왜곡하는가?
데이터가 구조적으로 지원하는 클러스터의 개수는 얼마인가?
네 번째 주성분(COVID-19 수익 충격을 포착하는 성분)을 포함하는 것이 클러스터 품질을 개선하는가?

방법론

본 분석은 영업 이익, 연료 가격, 평균 임금, RPM, 탑승률, 승객당 수익(yield per passenger), 기타 비용 비율을 포함하는 Renold 등[6]의 26개 연간 관측치(1995~2020)를 활용한다. 데이터는 분석 전 표준화(평균 0, 단위 분산) 과정을 거쳤다.

실험 설정:

클러스터링: 수렴을 보장하기 위해 100회의 무작위 초기화와 최대 1000회의 반복 계산을 수행하여 k-평균 클러스터링을 실시하였다.
분석된 공간:
1. 7D-raw: 원래의 7차원 변수 공간.
2. 3D-pc: 처음 세 개의 주성분 공간(전체 분산의 87.8% 포착).
3. 4D-pc: 처음 네 개의 주성분 공간(전체 분산의 95.5% 포착).
지표:
- 클러스터 일치도: 조정 랜드 지수(Adjusted Rand Index, ARI)를 통해 측정.
- 클러스터 품질: 실루엣 계수(Silhouette coefficient, 높을수록 좋음)와 데이비스-볼딘 지수(Davies–Bouldin index, 낮을수록 좋음)를 사용하여 평가.
- 차원성: 고유값 스펙트럼에서 유도된 참여율(Participation Ratio, PR)을 사용하여 유효 차원을 정량화함.
비선형성 검사: 숨겨진 매니폴드 곡률을 테스트하기 위해 6가지 커널(Linear, RBF, Polynomial degree 2 & 3, Fisher–Mahalanobis, Graph Diffusion) 하에서 커널 PCA(kPCA)를 적용하였다.

주요 결과

1. 공선성에 대한 클러스터 할당의 견고성

본 연구는 6개 클러스터 분류 체계가 기하학적으로 견고함을 발견하였다.

할당의 동일성: 3D-pc 공간에서의 k-평균 클러스터링은 7D-raw 공간과 비트 단위로 동일한 클러스터 할당 결과를 생성하였다 (ARI = 1.000).
메커니즘: 이러한 왜곡의 부재는 클러스터의 시간적 정렬에 기인한다. 지배적인 공선 방향(PC1)은 미국의 항공 산업의 구조적 성장을 나타낸다. 6개의 클러스터는 연속적인 시간대(contiguous time bands)이므로, 공선성의 효과인 시간 축의 신축(stretching)이 발생하더라도 경계선을 넘어 점들을 재배열하지 않고 밴드 구조를 보존한다.
4D-pc의 미묘한 차이: 4D-pc 공간은 승객당 수익 성분(PC4)에 기반하여, 9/11 클러스터로부터 2000년(연료 가격 급등기)을 분리하여 재할당한다.

2. 세 개의 클러스터에 대한 구조적 지지

원래의 6개 클러스터 프레임워크와 달리, 데이터는 구조적으로 3개의 클러스터를 지원한다.

실루엣 분석: 기하학적으로 깨끗한 3D-pc 공간에서 실루엣 점수는 $k=3$ 에서 결정적으로 정점(0.523)을 찍었으며, $k=6$ 일 때는 0.448로 14% 낮게 나타났다.
공선성 억제: 7D-raw 공간에서는 실루엣 곡선이 $k=6$ 과 $k=7$ 사이에서 평탄하게 나타나, $k=3$ 을 자연스러운 선택지로 식별하는 데 실패했다. 과장된 성장 축이 최적의 분할을 드러내는 데 필요한 클러스터 간 대비를 억제하기 때문이다.
유효 차원: 참여율(PR)은 약 2.47로 계산되었으며, 이는 7개의 입력 변수가 심각한 공선성으로 인해 실질적으로 약 2.5개의 독립적인 측정치를 나타내고 있음을 의미한다.
해석: 세 가지 자연적 레짐(regime)은 다음과 같이 식별된다:
1. 저이익 시대 (1995–2005)
2. 회복 시대 (2006–2014)
3. 최고이익 시대 (2015–2019)
  (2020년은 구조적 특이점으로 간주됨). 6개 클러스터 솔루션은 데이터가 권장하는 구조라기보다 데이터에 부여된 기술적(descriptive)인 세분화로 묘사된다.

3. 4D-pc 공간의 우수성

4D-pc 공간이 정량적으로 가장 우수한 클러스터링 공간으로 식별되었다.

이 공간은 $k=6$ 에서 가장 좋은 데이비스-볼딘 지수(0.557 vs 7D-raw의 0.647)를 달려 13.9%의 개선을 보였다.
PC4(승객당 수익)를 포함함으로써 COVID-19 해의 독특한 변동 구조를 포착하며, 이는 4개의 성분이 데이터를 완전히 모델링하는 데 필요하다는 관찰과 내부적 일관성을 유지한다.

4. 매니폴드의 선형성

커널 PCA 분석은 데이터의 기저 매니폴드가 숨겨진 곡률이 없는 본질적으로 선형임을 확인한다.

커널 간 일치성: 6가지 커널(거리 기반, 정보 기하학 및 그래프 기반 패밀리 포함) 모두 2D 투영에서 6개 클러스터 할당을 보존하였다 (선형 및 비선형 투영 간 ARI = 1.000).
1D 진단: 첫 번째 커널 성분을 사용한 1D 진단은 특정 동작을 보여준다: 선형 커널은 COVID 해(C3)를 최고이익 클러스터(C0)와 혼동시킨다. 그러나 5가지 비-베이스라인 커널은 C3를 금융 위기 이후 클러스터(C5)와 겹치도록 이동시킨다.
결론: 근본적으로 다른 커널 패밀리 간의 일치성은 숨겨진 비선형 구조가 없다는 결론을 뒷받침한다.

의의 및 주장

본 논문은 Renold 등의 항공 수익 클러스터링의 기하학적 견고성을 검증하는 동시에, 방법론적 정당성의 결정적 결함을 식별한다고 주장한다.

안정성 검증: 원시 7D 공간에서 3D-PC 공간으로 이동할 때 6개 클러스터 구조가 유지된다는 핵심 결과가 확인되었다. 본 연구는 공선성 방향(구조적 성장)이 분할 기준(시간적 레짐)과 직교하기 때문에 공선성이 클러스터 할당을 왜곡하지 않는다고 결론짓는다.
방법론적 교정: 본 연구는 6개 클러스터 솔루션이 미세한 시간적 해상도를 요구하는 정책 분석에는 유용할 수 있으나, 통계적으로는 과소 지정(under-specified)되어 있다고 주장한다. 데이터는 구조적으로 3개의 클러스터를 지원하며, 이는 원시 공간에서의 공선성에 의해 가려져 있다.
선형성 확인: 크로스 커널 검증은 항공 수익 매니폴드가 본질적으로 선형임을 입증하여, 숨겨진 곡률에 대한 견고성 비판을 종결시킨다.
권고 사항: 공선성으로 인한 신호 억제를 피하고 COVID-19 기간의 독특한 변동성을 더 잘 포착하기 위해, 원시 변수보다는 PCA 점수 벡터(특히 4D-pc 공간)에 대해 k-평균을 수행할 것을 권장한다.

본 연구는 6개 클러스터 분류 체계가 기술적 목적을 위해 여전히 유용하다는 점을 인정하면서도, 1995~2020년 관측 범위 내에서 팬데믹 이후의 패턴 회귀에 대한 기존의 주장이 견고하다는 점을 인정하며 절제된 어조를 유지한다.