Claim-Specific Admissibility of PCA Biplot Interpretations: Target Alignment, Spectral Identifiability, and Projection Adequacy

당신이 지도를 사용하여 미스터리를 풀려는 탐정이라고 상상해 보십시오. 데이터 과학의 세계에는 **주성분 분석(PCA)**이라는 유명한 도구가 있으며, 이는 마법 같은 지도 제작자 역할을 합니다. 이 도구의 임무는 식물, 사람 또는 행성에 대한 수천 가지의 측정값과 같은 거대하고 무질서한 정보 더미를 가져와서 단순한 2차원 그림으로 압축하는 것입니다. **바이플롯(biplot)**이라 불리는 이 그림은 당신이 한눈에 패턴, 그룹, 관계를 볼 수 있게 해줍니다. 이는 마치 3D 조각상을 벽에 비친 평면 그림자로 바꾸어 그 형태를 빠르게 이해하는 것과 같습니다.

하지만 여기 함정이 있습니다. 지도 제작자가 지도를 그리기 전에, 당신은 대상을 어떻게 측정할지 결정해야 합니다. 대상을 원래의 자연 단위(센티미미터, 달러, 킬로그램 등)로 측정할 것입니까? 아니면 모든 대상이 정확히 동일한 "크기"나 분산을 갖도록 먼저 줄이거나 늘릴 것입니까? 이 두 번째 단계는 **표준화(standardization)**라고 불립니다. 이것은 거대한 코끼리와 작은 생쥐를 가져와서, 코끼리의 크기가 전체적인 관점을 지배하지 않도록 둘 다 똑같은 높이로 크기를 조정하는 것과 같습니다. 문제는 이 크기 조정이 지도의 기하학적 구조를 변화시킨다는 점입니다. 원래의 세계에서의 직선이 재조정된 세계에서는 곡선이 될 수 있고, 90도 각도가 뒤틀려 다른 모양이 될 수도 있습니다. 과학자들은 표준화가 수학을 변화시킨다는 것을 오래전부터 알고 있었지만, 결과물인 지도가 여전히 원래의 (재조정되지 않은) 세계에 대해 진실을 말해준다고 흔히 가정하곤 합니다.

이 논문은 비판적인 질문을 던집니다: 우리가 재조정된 지도를 사용하여 원래의, 재조정되지 않은 세계에 대한 이야기를 할 때 어떤 일이 벌어지는가? 저자인 루이스 로베르토 마르틴스 핀토(Luiz Roberto Martins Pinto)와 카를로스 타데우 도스 산토스 디아스(Carlos Tadeu dos Santos Dias)는 컴퓨터가 지도를 완벽하게 계산했다고 해서 당신이 그 지도로 들려주는 이야기가 반드시 진실인 것은 아니라고 주장합니다. 그들은 과학적 주장이 "허용 가능한(admissible)" 것인지, 즉 당신이 보고 있는 그림을 바탕으로 실제로 그런 주장을 하는 것이 허용되는지를 확인하기 위한 새로운 규칙 세트를 제안합니다.

지도의 세 가지 규칙

저자들은 당신이 PCA 바이플롯을 바탕으로 과학적인 이야기를 쓰기 전에, 세 가지 엄격한 테스트를 통과해야 한다고 제국합니다. 만약 단 하나라도 통과하지 못한다면, 당신의 이야기는 "부적절한(ill-posed)" 상태, 즉 수학적으로는 올바르게 수행되었을지라도 기반이 흔들리는 상태가 됩니다.

1. 대상 정렬 테스트 (올바른 지도를 보고 있는가?)
당신이 자동차의 속도를 연구하려고 한다고 상상해 보십시오. 만약 당신이 자전거와 페라리가 동일한 "속도 분산"을 갖도록 데이터를 재조정한다면, 당신의 지도는 그들이 실제로 얼마나 빠른지가 아니라, 그들이 서로 어떻게 비교되는지를 보여줄 것입니다. 논문은 당신의 과학적 질문이 원래의 가공되지 않은 속도(공분산)에 관한 것인데 만약 재조정된 지도(상관관계)를 사용했다면, 당신은 잘못된 대상을 보고 있는 것이라고 주장합니다. 지도는 재조정된 데이터에 대해서는 수학적으로 완벽할지 모르지만, 원래의 자동차들에 대해서는 거짓말을 하고 있는 것입니다. 저자들은 표준화가 "공분산 기하학"(실제 세계의 거리)을 "상관관계 기하학"(상대적 형태)으로 대체한다고 보여줍니다. 만약 당신의 질문은 실제 세계에 관한 것인데 당신의 지도가 재조정된 세계에 관한 것이라면, 그 이야기는 맞지 않습니다.

2. 스펙트럼 식별 가능성 테스트 (지도가 실제 장소를 가리키고 있는가?)
때때로 데이터가 너무 완벽하게 균형을 이루고 있어서 지도 제작자가 혼란에 빠질 때가 있습니다. 완벽하게 대칭인 팽이를 상상해 보십시오. 만약 당신이 그 팽이의 "앞", "뒤", "왼쪽", "오른쪽"을 가리키려 한다면, 당신은 할 수 없습니다. 왜냐하면 어느 방향에서 보든 똑같아 보이기 때문입니다. 수학의 세계에서도 두 개 이상의 "고윳값(eigenvalues)"(정보가 담긴 방향의 양을 측정하는 값)이 정확히 같을 때 이런 일이 발생합니다. 이때 지도의 특정 선(축)은 임의적인 것이 됩니다. 지도는 45도 회전할 수 있고, 그렇게 해도 수학적으로는 여전히 옳겠지만, 그 선에 붙인 특정 라벨은 무의의한 것이 됩니다. 논문은 만약 수학적으로 그 선이 단지 무작위적인 선택일 뿐인데 당신이 특정 선(예: "PC2는 북쪽을 가리킨다")에 대해 이야기를 하려 한다면, 당신의 이야기는 유효하지 않다고 경고합니다. 당신은 특정 선이 아니라 그룹의 방향(부분 공간)에 대해서만 이야기할 수 있습니다.

3. 투영 적절성 테스트 (그림자가 진실을 숨기고 있는가?)
마지막으로, 바이플롯은 3D 물체의 평면 그림자라는 점을 기억하십시오. 만약 당신이 정육면체의 그림자를 본다면, 당신은 정사각형을 볼 수 있습니다. 하지만 만약 그 정육면면이 내부에 구멍이 있는 복잡한 형태라면, 그림자는 그것을 보여주지 못할 것입니다. 논문은 데이터를 2차원으로 압축할 때 얼마나 많은 "진실"이 손실되는지 측정하는 방법을 소개합니다. 저자들은 "잔차-그람 경계(residual-Gram bound)"라는 수학적 도구를 사용하여, 2D 지도에서 보이는 각도와 거리가 실제 3D 관계와 충분히 가까운지 확인합니다. 만약 지도는 두 변수가 완벽하게 정렬되어 있다고(0도 차이) 보여주는데, 실제 데이터는 두 변수가 60도 차이가 난다고 한다면, 그 지도는 오도하는 것입니다. 저자들은 "좋은" 지도(대부분의 데이터 에너지를 유지하는 지도)라 할지라도 특정 관계를 완전히 왜곡할 수 있음을 보여줍니다.

증거: 6가지 통제된 시나리오

자신의 주장을 입증하기 위해, 저자들은 시작하기도 전에 정확한 진실을 알고 있는 6가지 특정한 통제된 "세계"(시나리오)를 구축했습니다.

• "연결 없음"의 세계: 그들은 네 개의 변수가 서로 아무런 연결이 없는 세계를 만들었습니다. 가공되지 않은 데이터에서 이들은 서로 구별되는 별개의 선으로 나타납니다. 하지만 표준화를 적용하자, 지도는 무작위성의 완벽한 원이 되었습니다. 이 원 위에 그려진 어떤 특정 각도도 컴퓨터의 계산에 의한 우연일 뿐, 실제 패턴이 아니었습니다.
• "숨겨진 각도"의 세계: 그들은 실제 세계에서 60도의 관계를 가진 두 변수가 존재하는 세계를 만들었습니다. 표준 지도를 만들었을 때, 두 변수는 정확히 같은 방향(0도)을 가리키는 것처럼 보였습니다. 지도가 진실을 붕괴시킨 것입니다. 60도의 관계는 표준 분석이 무시한 지도의 다른 부분을 보았을 때만 드러날 수 있었습니다.
• "대칭"의 세계: 그들은 데이터가 완벽하게 대칭인 세계를 구축했습니다. 여기서 지도는 어떤 특정 방향도 특별하지 않음을 보여주었습니다. "선 A가 가장 중요하다"라고 주장하는 어떤 이야기도 거짓임이 증명되었습니다. 왜냐하면 수학적으로 그 그룹 안의 어떤 선이든 똑같이 유효했기 때문입니다.

결론

논문은 컴퓨터의 계산적 정확성만으로는 충분하지 않다고 결론짓습니다. 컴퓨터가 완벽한 숫자를 가진 예쁜 그림을 내놓는다고 해서, 당신이 그 그림을 통해 들려주는 이야기가 과학적으로 유효하다는 뜻은 아닙니다.

저자들은 과학자들을 위한 공식적인 체크리스트를 제공합니다:

1. 대상을 명시하라: 당신은 가공되지 않은 세계에 대해 묻고 있는가, 아니면 재조정된 세계에 대해 묻고 있는가?
2. 지도를 확인하라: 지도가 실제로 그 대상을 나타내고 있는가?
3. 선을 확인하라: 당신이 말하고 있는 특정 선이 실제인가, 아니면 수학적 계산에 의한 무작위적인 선택인가?
4. 그림자를 확인하라: 2D 그림이 당신의 이야기에 필요한 특정 각도와 거리를 보존하고 있는가?

만약 이 모든 질문에 "예"라고 답할 수 없다면, 논문은 당신이 이야기를 바꾸거나, 지도를 바꾸거나, 혹은 그 그림이 당신의 결론을 뒷받침할 수 없음을 인정해야 한다고 주장합니다. 이는 과학자들에게 이 화려한 차트들을 마법 같은 진실 전달자로 취급하는 것을 멈추고, 신중하고 구체적인 교정이 필요한 도구로 취급하라는 촉구입니다. 목표는 PCA 사용을 멈추는 것이 아니라, 맹목적으로 사용하는 것을 멈추는 것입니다.