🤖 machine learning

ScaleMAP: Preserving Local Density and Neighborhood Structure in Low-Dimensional Embeddings

ScaleMAP은 국소 반경을 통해 쌍별 변위를 정규화함으로써 UMAP이나 DensMAP과 같은 기존 기법에서 흔히 소실되거나 왜곡되는 희소한 구조와 넓은 밀도 변화를 효과적으로 복원하고, 저차원 임베딩에서 국소 밀도와 이웃 구조를 모두 보존하는 새로운 차원 축소 방법이다.

원저자: Rajas Poorna (Georgia Institute of Technology), Marcus T. Cicerone (Georgia Institute of Technology)

게시일 2026-06-01

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Rajas Poorna (Georgia Institute of Technology), Marcus T. Cicerone (Georgia Institute of Technology)

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

거대하고 어지러운 방 안에 수천 개의 서로 다른 물체들이 가득 차 있다고 상상해 보세요. 어떤 것은 거대한 바위이고, 어떤 것은 아주 작은 조약돌이며, 어떤 것은 두 모래 더미를 연결하는 섬세한 실입니다. 당신의 목표는 이 방을 찍은 사진을 작은 종이(2D 지도)에 담아, 모든 사물이 서로 어떻게 연관되어 있는지 볼 수 있게 만드는 것입니다.

문제는 우리가 보통 이 사진을 찍기 위해 사용하는 도구들(UMAP과 t-SNE)이 모든 물체를 마치 같은 크기인 것처럼 취급하는 이상한 습관이 있다는 점입니다. 그들은 바위를 찌그러뜨리고 조약돌을 늘려서 모든 것이 대략 비슷한 크기로 보이게 만듭니다. 이는 물체들이 서로 가까이 있는지 확인하는 데는 좋지만, 각 구역이 얼마나 밀집되어 있는지 혹은 희소한지에 대한 정보는 파괴해 버립니다. 마치 밀집된 숲과 외로운 나무 한 그루가 모두 똑같은 면적을 차지하는 것처럼 보이게 찍힌 사진과 같습니다.

이 논문은 이 문제를 해결하는 새로운 도구인 ScaleMAP을 소개합니다. 이해를 돕기 위해 간단한 비유를 들어 설명하겠습니다.

문제점: "이퀄라이저" 효과

기존의 도구들(UMAP 등)은 모든 소리를 동일한 볼륨으로 강제하는 엄격한 오디오 이퀄라이저처럼 작동합니다.

문제: 만약 당신에게 인파가 북적이는 군중(클러스터)과 다리 위를 건너가는 드문드문한 사람들(희소한 그룹)이 있다면, 기존 도구들은 군중을 찌그러뜨리고 다리를 늘려서 둘 다 똑같은 크기로 보이게 만듭니다.
결과: 당신은 "다리"를 잃게 됩니다. 실제 데이터에서 이 다리는 중요한 전이(예: 세포가 한 유형에서 다른 유형으로 변하는 과정)를 나타냅니다. 만약 도구가 이 다리를 찌그러뜨리면, 그 전이는 사라지고 데이터는 끊어진 것처럼 보이게 됩니다.

이전의 해결책: "패널티" 추가

DensMAP이라는 이전의 도구는 수학적으로 "패널티"를 추가하여 이 문제를 해결하려 했습니다. 컴퓨터에게 이렇게 말하는 식이죠. "이봐, 만약 군중이 너무 작아 보이면, 그들을 서로 밀어내!"

결함: 이 패널티는 이웃들을 함께 묶어두려는 본래의 목표와 충돌합니다. 이는 누군가가 당신을 계속 반대 방향으로 잡아당기는 와중에 친구와 손을 잡으려고 애쓰는 것과 같습니다. 그 결과, 군중은 흩어지게 되고 사람들은 실제 이웃으로부터 멀어져서 지도가 지저�히고 읽기 어렵게 됩니다.

새로운 솔루션: ScaleMAP (가변 줌 카메라)

ScaleMAP은 다른 접근 방식을 취합니다. 시스템과 싸우는 패널티를 추가하는 대신, 카메라의 렌즈를 바꿉니다.

당신이 도시를 걷고 있다고 상상해 보세요:

붐비는 시장에서는: 사람이 너무 많기 때문에 작은 보폭으로 걷습니다.
한적한 공원에서는: 공간이 충분하기 때문에 큰 걸음으로 성큼성큼 걷습니다.

ScaleMAP은 수학적으로 이 작업을 수행합니다. 원래 데이터가 얼마나 붐비는지 살펴보고 지도에 다음과 같이 지시합니다. "만약 이 구역이 붐볐다면, 지점 간의 거리를 '작게' 취급해라. 만약 이 구역이 비어 있었다면, 거리를 '크게' 취급해라."

본질적으로 ScaleMAP은 이렇게 말합니다: "게임의 규칙을 바꾸지 말고, 단지 군중의 규모에 따라 경기장의 크기를 바꿔라."

이것이 달성하는 것

이 "가변 줌" 접근 방식을 통해 ScaleMAP은 다른 도구들이 할 수 없었던 두 가지 일을 동시에 해냅니다:

이웃을 함께 유지하기: UMAP처럼 친구들을 친구 곁에 머물게 합니다.
군중의 크기 보존하기: DensMAP처럼 밀집된 군중은 밀집되게, 희소한 구역은 희소하게 유지합니다.

논문에 등장하는 실제 사례들

저자들은 세 가지 유형의 "방"(데이터셋)에서 테스트를 진행했습니다:

"세포 도시" (전사체학): 면역 세포에 관한 데이터에는 서로 다른 세포 유형을 연결하는 "다리"(예: 아기 세포에서 성인 세포로 가는 경로)가 있습니다. UMAP은 이 경로를 너무 얇게 찌그러뜨려 사라지게 만듭니다. ScaleMAP은 이 경로를 넓고 잘 보이게 유지하여, 세포의 전체 여정을 보여줍니다.
"분광 이미지" (초분광 이미징): 벌레의 사진을 찍었는데 대부분은 한 가지 색이지만, 아주 작고 날카로운 다른 색의 스파이크가 있는 경우를 상상해 보세요. UMAP은 이 스파이크를 배경 속으로 뭉개버립니다. ScaleMAP은 이 스파이크를 건초더미 속의 바늘처럼 날카롭고 뚜렷하게 유지합니다.
"유세포 분석" (세포 계수): 이 데이터는 밀도의 범위가 매우 넓습니다. 어떤 구역에는 수백만 개의 세포가 있지만, 어떤 곳에는 거의 없습니다. UMAP과 DensMAP은 이 엄청난 차이 때문에 혼란을 겪습니다. ScaleMAP은 이를 완벽하게 처리하며, 17 자릿수(모래알의 크기와 산의 크기를 하나의 지도에 비교하는 것과 같습니다)에 달하는 구조를 보여줍니다.

핵심 요약

ScaleMAP은 3D(또는 100D) 데이터를 2D 그림으로 펼치는 더 똑똑한 방법입니다. 데이터가 균일해 보이도록 강요하지 않습니다. 대신, 데이터의 자연스러운 "크기"를 존중하여 밀집된 군중은 밀집되게, 희소한 다리는 잘 보이게 유지하며, 아무도 군중 속에서 길을 잃지 않도록 합니다. 이는 이전 도구들의 지저분한 부작용 없이 그 장점들만을 결합한 것입니다.

기술 요약: ScaleMAP

문제 정의
비선형 차원 축소(DR) 방법, 특히 UMAP, PaCMAP, t-SNE는 고차원 데이터의 탐색적 분석을 위한 표준 도구이다. 이러한 방법들은 근사 $k$ -최근접 이웃(kNN) 그래프를 구축하고, 다양한 국소 밀도를 처리하기 위해 적응형 대역폭(adaptive bandwidths)을 사용하여 국소 거리를 정규화한다. 이러한 정규화는 밀도 변화에 대한 강건성을 보장하지만, 의도치 않게 이웃의 절대적인 척도(scale)를 지워버린다. 결과적으로, 이 방법들은 클러스터의 상대적 크기를 보존하지 못하며, 전이되는 세포 유형 사이의 브릿지(bridge), 초분광 이미지의 좁은 스펙트럼 스파이크, 또는 여러 차수의 크기 차이를 보이는 밀도 변화(예: 유세포 분석 데이터)와 같은 희소한 구조를 억제한다.

이를 교정하려는 기존의 시도인 DensMAP은 원래 공간과 임베딩 공간의 국소 밀도 간의 상관관계를 최대화하기 위해 손실 함수에 페널티 항을 도입한다. 그러나 본 논문은 이러한 접근 방식이 경쟁적인 목적 함수를 생성한다고 주장한다. 즉, 밀도 페널티가 UMAP 고유의 인력-척력(attraction–repulsion) 힘과 충돌한다는 것이다. 이러한 충돌은 점들을 실제 이웃으로부터 흩뜨려 놓아, "연결되지 않은 점(disconnected points)"의 비율을 높이고 희소한 영역을 해석하기 어렵게 만든다.

방법론
ScaleMAP은 다른 접근 방식을 제안한다. 추가적인 손실 항을 더하는 대신, 기존 UMAP 목적 함수 내의 거리 메트릭에 적용되는 **변수 변환(change of variables)**을 통해 척도 정보를 재도입한다.

국소 반경 정의: ScaleMAP은 원래 공간에서 한 점으로부터 이웃까지의 가중 제곱평균제곱근 거리를 나타내는 "국소 반경"( $r_i$ )을 척도의 척도로 활용한다.
재스케일링된 거리: 손실 함수에서 유클리드 제곱 거리 $d_{ij}^2 = \|y_i - y_j\|^2$ 를 사용하는 대신, ScaleMAP은 다음과 같이 재스케일링된 제곱 거리를 정의한다:
$\tilde{d}_{ij}^2 = \frac{d_{ij}^2}{r_i r_j}$
여기서 $r_i$ 와 $r_j$ 는 두 끝점의 국소 반경이다.
힘의 수정: 이 치환은 교차 엔트로피 손실의 그래디언트를 수정한다. 인력(이웃) 및 척력(비이웃) 힘에 대한 업데이트 규칙은 $1/(r_i r_j)$ $1/ (r_{i} r_{j})$ 인자로 스케일링된다.
- 대칭성: 결정적으로, 이 재스케일링은 인력과 척력 모두에 대칭적으로 적용된다. 이는 UMAP의 이웃 보존 특성을 제공하는 국소 평형을 유지한다.
- 효과: 희소한 영역의 점들(큰 $r_i, r_j$ )은 단위 유클리드 변위당 더 약한 힘을 경험하여 임베딩이 넓게 퍼지게 된다. 밀도가 높은 영역의 점들은 여전히 조밀하게 모여 있다.
정규화: 원래 데이터와 임베딩 간의 독립적인 거리 척도를 처리하기 위해, 치환 전 반경 분포의 95 백분위수( $P_{95}$ )를 사용하여 국소 반경을 정규화한다.
PaCMAP으로의 확장: 동일한 원리가 PaCMAP의 per-point 거리 스케일( $\sigma_i \sigma_j$ )의 기하 평균을 대체함으로써 적용된다(Scale-PaCMAP이라 명명됨).

주요 기여

새로운 정식화: 추가적인 손실 항이 아닌, 변수 변환을 통해 국소 척도 정보를 주입하는 UMAP의 수정 방식인 ScaleMAP을 도입하였다.
성능 균형: ScaleMAP이 UMAP 수준의 이웃 보존 성능을 달면서도, 흩어진(연결되지 않은) 점을 훨씬 적게 생성하면서 DensMAP과 대등하거나 이를 능가하는 밀도 보존 성능을 달성함을 입증하였다.
구조 복구: UMAP이 붕괴시키는 희소한 구조(예: 전사체 브릿지)를 성공적으로 복구하고, 다중 스케일 밀도 구조(예: 유세포 분석 데이터)를 보존한다.
일반화 가능성: 변수 변환 원리가 PaCMAP과 같은 다른 방법론에도 일반화될 수 있음을 보여주었다.

결과
저자들은 표준 벤치마크(MNIST, Fashion-MNIST, COIL-20, Mammoth)와 세 가지 과학적 데이터셋(Tabula Sapiens 전사체, BCARS 초분광 이미지, 인간 골수 유세포 분석 데이터)을 통해 ScaleMAP을 평가하였다.

정량적 지표:
- 밀도 보존: ScaleMAP은 대부분의 데이터셋에서 DensMAP과 대등한 밀도 보 preservation( $R^2$ of log-log fit)을 달성하였다(예: Fashion-MNIST에서 $R^2 \approx 0.51$ vs. DensMAP의 $0.58$). 극단적인 동적 범위를 가진 데이터셋에서는 ScaleMAP이 DensMAP을 능가한다(예: 유세포 분석에서 $R^2 = 0.80$ vs. $0.68 $; 초분광 이미지에서$ R^2 = 0.81$ vs. $0.59$).
- 이웃 보존: ScaleMAP은 UMAP과 대등한 kNN recall을 유지하며(예: Fashion-MNIST에서 14.3% vs. UMAP의 13.3%), DensMAP(7.1%)보다 유의미하게 높은 성능을 보인다.
- 연결되지 않은 점: ScaleMAP은 연결되지 않은 점의 비율을 UMAP과 유사하게 낮게 유지하는 반면(예: 0.19% vs. UMAP의 0.11%), DensMAP은 10배 더 많은 연결되지 않은 점을 나타낸다(3.48%).
- 클래스 혼합: ScaleMAP은 두 베이스라인 모델에 비해 클래스 혼합을 줄인다.
정성적 관찰:
- 전사체(Transcriptomics): ScaleMAP은 UMAP에서 붕괴되거나 보이지 않는 세포 집단 사이의 희소한 브릿지(예: 단핵구-중성구, B-T 세포)를 복구한다.
- 초분광 이미지: UMAP이 압축하거나 배경으로 흡수해버리는 희소한 스펙트럼 스파이크와 작은 클러스터를 드러낸다.
- 유세포 분석: 17개 차수의 크기 범위에 걸친 다중 스케일 구조를 충실히 표현하며, UMAP/DensMAP이 결여된 다중 스케일 충실도를 바탕으로 마커 음성 세포의 조밀한 "벌브(bulb)" 형태를 보존한다.
- 합성 진단 데이터: "XOI" 및 "Bridge" 데이터셋에서 ScaleMAP은 상대적 크기와 희소한 연결을 정확하게 보존하는 반면, DensMAP은 형태를 왜곡하고 점들을 흩뜨린다.

의의 및 주장
본 논문은 ScaleMAP이 이웃 보존 임베딩이 척도를 다루는 방식에 있어 근본적인 개선을 나타낸다고 주장한다. 재스케일링을 경쟁적인 목적 함수가 아닌 변수 변환으로 취급함으로써, ScaleMAP은 DensMAP이 겪는 밀도 충실도와 이웃 무결성 사이의 트레이드오프를 피한다.

저자들은 ScaleMAP이 한 축의 품질을 위해 다른 축을 희생하지 않는 유일하게 테스트된 방법이라고 단언한다. 즉, UMAP의 이웃 보존 능력을 유지하면서, DensMAP의 밀도 충실도에 필적하고, 넓은 동적 범위를 가진 데이터셋에서는 PaCMAP을 능가하는 전역 거리 순서 보존 능력을 갖추고 있다. 결론적으로, 국소 척도를 복원하는 것이 이웃 보존 임베딩에서 누락된 일반적인 요소임을 밝히며, 척도를 충실히 표현하는 것이 중요한 시각화 작업에 ScaleMAP을 기본 방법으로 사용할 것을 제안한다. 이 방식은 반경 계산을 위한 $O(n)$ 의 오버헤드만 추가되어 계산 효율적이며, 총 실행 시간은 UMAP의 약 두 배 수준이다.