Striping artifact removal in VisiumHD data through nuclear counts modeling

본 논문은 10x Genomics VisiumHD 데이터에 대한 통계적 줄무늬 제거 방법을 제시하며, 이는 핵 분할과 정규화된 일반화 선형 모델을 사용하여 빈 카운트를 모델링함으로써 대규모 생물학적 신호를 보존하면서 곱셈적 줄무늬 아티팩트를 효과적으로 제거하여 기존 정규화 접근법보다 우수한 성능을 보입니다.

핵심

밤에 붐비는 도시의 각 동네에 있는 사람 수를 세기 위해 고해상도 사진을 찍으려 한다고 상상해 보세요. 여러분에게는 미세한 세부 사항까지 볼 수 있는 초고성능 카메라 (VisiumHD 기술) 가 있지만, 이 카메라 렌즈에는 이상한 결함이 있습니다. 마치 카메라가 고르지 않은 유리 조각들로 만들어졌다는 듯이요. 이로 인해 사진 속의 일부 수직 및 수평 선들이 실제로 그 위치에 더 많거나 적은 사람이 있어서가 아니라, 그 선들 위의 "유리"가 두껍거나 얇기 때문에 인위적으로 더 밝거나 어둡게 보입니다. 과학적 용어로 이러한 현상을 **스트라이핑 아티팩트 (striping artifacts)**라고 합니다.

이 결함이 있는 사진을 바탕으로 사람 수를 세려고 한다면, 어두운 줄무늬가 지나갔다는 이유만으로 한 동네 전체가 비어 있다고 생각하거나, 밝은 줄무늬가 비쳤다는 이유만으로 공원이 붐빈다고 오해할 수 있습니다. 이는 도시를 이해하는 방식을 혼란스럽게 만듭니다.

구식 방법: "맹목적인 지우개"

과거 과학자들은 bin2cell이라는 방법을 사용하여 이를 수정하려 했습니다. 이는 마치 추측만 하는 맹목적인 지우개를 사용하는 것과 같습니다. 이 방법은 행 (row) 의 픽셀들을 살펴보고 평균 밝기를 파악한 후 이를 부드럽게 만듭니다. 그런 다음 열 (column) 에 대해서도 같은 작업을 반복합니다.

• 문제점: 이 접근법은 "비대칭적"입니다. 즉, 행과 열을 다르게 처리합니다. 마치 사진이 비뚤어졌을 때 위쪽 가장자리와 왼쪽 가장자리만 당겨서 고치려 하는 것과 같습니다. 이는 종종 새로운 더 큰 왜곡 ("매크로 스트라이프") 을 만들거나, 도시의 실제 모양을 잃을 정도로 이미지를 너무 많이 흐리게 만듭니다.

새로운 방법: "스마트 탐정"

이 논문의 저자들은 더 지능적이고 통계적인 접근법을 제안합니다. 추측 대신 탐정의 지도 (표준 조직 사진인 H&E 이미지) 를 사용하여 도시의 실제 "집들"을 찾습니다. 여기서 집들은 핵 (nuclei), 즉 세포의 통제 센터를 의미합니다.

간단한 비유를 들어 그들의 새로운 방법이 어떻게 작동하는지 살펴보겠습니다:

1. 지도: 그들은 사진을 살펴 각 집 (핵) 하나하나를 식별합니다.
2. 가정: 그들은 각 집 내부에서 사람 (전사체/mRNA) 의 수가 대략 일정하다고 가정합니다.
3. 수학: 그들은 다음과 같은 수학적 모델을 구축합니다: "그리드 사각형에서 우리가 보는 사람의 총수는 두 가지 요소의 혼합입니다: 그 사각형 안에 있는 집들에 실제로 사는 사람의 수, 그리고 불규칙한 카메라 유리 (스트라이프) 가 시야를 얼마나 왜곡시키는가."
4. 수정: 정교한 계산기 (일반화 선형 모델) 를 사용하여 "실제" 인구와 "카메라 왜곡"을 동시에 해결합니다. 그들은 **교차 검증 (cross-validation)**이라는 기법을 사용하여 과도하게 보정하거나 새로운 문제를 만들어내지 않도록 합니다.

결과: 더 선명한 그림

이 새로운 "스마트 탐정" 방법을 테스트했을 때:

• 가짜 데이터에서: 그들은 알려진 기준 진실 (ground truth) 을 가진 가짜 도시를 만들었습니다. 그들의 방법은 구식 "맹목적인 지우개"에 비해 실제 "카메라 왜곡"을 찾아내고 계수를 수정하는 데 훨씬 더 뛰어났습니다.
• 실제 데이터에서: 그들은 네 개의 실제 조직 슬라이드를 테스트했습니다. 새로운 방법은 이미지를 흐리게 하거나 새로운 기이한 왜곡을 만들지 않고 성가신 줄무늬를 성공적으로 제거했습니다. 이는 도시의 크고 중요한 패턴들을 그대로 유지하면서 노이즈를 정제했습니다.

추가 업그레이드

저자들은 또한 상당한 속도 향상을 언급합니다. 그들의 도구의 원래 버전은 달팽이처럼 느렸습니다. 그들은 10 배 더 빠른 새로운 최적화 알고리즘을 개발하여 과학자들이 정확성을 잃지 않으면서 데이터를 훨씬 더 빠르게 처리할 수 있도록 했습니다.

요약하자면: 이 논문은 조직의 "줄무늬가 있는" 현미경 이미지를 정제하는 새로운, 더 지능적인 방법을 제시합니다. 이미지를 맹목적으로 부드럽게 만드는 대신, 세포의 지도를 사용하여 실제 생물학적 신호를 카메라의 광학적 결함으로부터 수학적으로 분리함으로써 훨씬 더 선명하고 정확한 그림을 만들어냅니다.

기술 요약

기술 요약: 핵 수 모델링을 통한 VisiumHD 데이터의 줄무늬 아티팩트 제거

문제 제기
10x Genomics VisiumHD 플랫폼은 2 µm × 2 µm 해상도로 고해상도 공간 전사체학을 가능하게 합니다. 그러나 이 기술은 채널 폭의 변동성으로 인해 슬라이드별, 비주기적인 줄무늬 아티팩트의 영향을 받습니다. 이러한 아티팩트는 행 및 열 방향의 곱셈적 효과로 나타나 바인 (bin) 총 계수를 왜곡시켜 하류 분석에 편향을 초래할 수 있습니다. 현재 최첨단 솔루션인 bin2cell 전처리 파이프라인에 구현된 방법은 순차적 고분위수 정규화 접근법 (행 방향 정규화 후 열 방향 정규화 적용) 을 사용합니다. 저자들은 이 방법의 중요한 한계를 지적합니다: 비대칭적이며, 가장자리 효과와 거대 줄무늬를 유발하기 쉽고, 총 계수의 대규모 구조를 왜곡한다는 점입니다.

방법론
제안된 접근법은 공동 등록된 H&E 이미지에서 유도된 핵 분할을 통합하는 통계적 줄무늬 제거 프레임워크를 도입합니다. 핵심 가정은 각 핵 내에서 전사체 풍부도가 일정하다는 것입니다. 이 가정 하에서 저자들은 관찰된 바인 계수를 Negative Binomial 분포를 사용하여 모델링합니다. 이 분포의 평균은 세 가지 구성 요소의 곱으로 표현됩니다:

1. 핵별 농도 매개변수.
2. 행별 줄무늬 인자.
3. 열별 줄무늬 인자.

이러한 줄무늬 인자는 아티팩트를 유발하는 물리적 채널 폭 변동을 반영하도록 설계되었습니다. 모델은 일반화 선형 모델링 (GLM) 프레임워크 내에서 적합됩니다. 구현의 주요 기술적 특징은 다음과 같습니다:

• 정규화: 과적합을 방지하기 위해 줄무늬 인자에 대해 교차 검증 정규화가 적용됩니다.
• 분산 추정: Negative Binomial 분포의 분산 매개변수를 추정하기 위해 반복 절차가 사용됩니다.
• 최적화: 논문은 ISMB 2026 에 제출된 버전보다 약 10 배의 속도 향상을 제공하는 새로운 최적화 알고리즘을 강조합니다.
• 보정: 매개변수가 적합되면, 모델은 관찰된 계수를 보정하여 줄무늬가 제거된 이미지를 생성하는 데 사용됩니다.

주요 결과
저자들은 두 가지 유형의 데이터를 사용하여 제안된 방법을 bin2cell 및 기타 bin2cell 기반 베이스라인과 평가했습니다:

1. 합성 데이터: 알려진 정답이 있는 데이터셋에서 제안된 방법은 기존 베이스라인에 비해 줄무늬 인자 추정 정확도가 향상되었고, 보정된 계수에서의 오차가 감소함을 보여주었습니다.
2. 실제 데이터: 이 방법은 네 개의 공개 VisiumHD 슬라이드에서 테스트되었습니다. 결과는 이 접근법이 일관되게 줄무늬 강도를 낮췄음을 나타냈습니다. 중요하게도, 순차적 정규화 방법과 달리 제안된 GLM 접근법은 대규모 전역 계수 구조에 내재된 생물학적 신호를 현저히 더 잘 보존하고 새로운 아티팩트 (예: 거대 줄무늬 또는 가장자리 왜곡) 의 도입을 방지했습니다.

의의 및 주장
이 논문은 이 통계적 접근법이 VisiumHD 데이터에 대한 휴리스틱 정규화에 대한 견고한 대안을 제공한다고 주장합니다. 핵 분할과 원칙적인 통계 모델을 활용함으로써, 이 방법은 생물학적 신호와 전역 계수 구조의 무결성을 유지하면서 곱셈적 줄무늬 아티팩트를 효과적으로 제거합니다. 저자들은 이 연구를 현재 전처리 표준에 대한 필수적인 개선으로 위치시키며, 이러한 표준이 하류 분석을 훼손할 수 있는 왜곡을 도입한다고 주장합니다. 재현성과 추가 채택을 촉진하기 위해 소스 코드와 데이터의 가용성이 제공됩니다.