DINE: Distance Is Not Enough -- Learning Global Deformation Priors for Robust Soft-Tissue Point Cloud Registration

두 개의 퍼즐 조각을 맞추려고 한다고 상상해 보세요. 하지만 퍼즐 조각은 종이 판이 아니라, 3D 공간에 떠다니는 보이지 않는 점들의 구름입니다. 이것이 바로 과학자들이 실제 사물의 디지털 형상을 정렬하는 데 사용하는 기술인 **포인트 클라우드 레지스트레이션(point cloud registration)**의 세계입니다. 이는 수술 계획과 같이 의사가 환자의 현재 해부학적 구조를 수술 전 지도와 일치시켜야 하는 상황에서 매우 중요합니다. 하지만 여기에는 문제가 있습니다. 피부나 장기 같은 연조직은 바위처럼 딱딱하지 않습니다. 그것들은 찌그러지고, 늘어나고, 뒤틀립니다. 따라서 '전' 사진과 '후' 사진을 정렬하려고 할 때, 점들은 단순히 직선으로 움직이는 것이 아니라 물처럼 흐릅니다.

컴퓨터가 이 문제를 해결하려 할 때 겪는 가장 큰 골칫거리는 종종 너무 세부적인 것에만 집착한다는 점입니다. 컴퓨터가 모든 점이 서로 가까운지만 확인하며 두 점 구름을 맞추려고 한다고 가정해 봅시다. 그러면 코의 왼쪽 부분에 있는 점을 오른쪽 뺨에 있는 점과 연결할 수도 있습니다. 단지 두 점이 공간상에서 우연히 가까웠다는 이유만으로 말이죠. 이는 해부학적으로 전혀 말이 되지 않는 일입니다. 이는 마치 퍼즐의 가장자리 조각 색깔만 보고 가운데 그림은 무시한 채 퍼즐을 맞추려는 것과 같습니다. 컴퓨터는 국소적인 거리는 맞췄을지 모르지만, 전체적인 형태는 뭉개진 덩어리처럼 변해버릴 것입니다. 연구자들이 던지는 질문은 이것입니다. 어떻게 하면 컴퓨터에게 점들이 움직일 수는 있지만, 혼란스러운 난장판이 아니라 실제의 말랑말랑한 신체처럼 보이도록 움직여야 한다는 것을 가르칠 수 있을까?

이 문제를 해결하기 위해 사라 몬지-아자드(Sara Monji-Azad)와 그녀의 팀이 개발한 새로운 방법인 DINE(Distance Is Not Enough)이 등장했습니다. 이 방법은 컴퓨터에게 현실적인 변형이 무엇인지 '느끼도록' 가르침으로써 이 문제를 해결하고자 합니다.

문제점: 거리만으로는 충분하지 않다

이러한 3D 형상을 정렬하는 대부분의 기존 AI 방식은 **샴 거리(Chamfer distance)**라고 불리는 지표에 의존합니다. 이것을 '가까움 점수'라고 생각하면 됩니다. 컴퓨터는 소스 형상이 타겟 형상에 최대한 가까워질 때까지 소스 형상을 이동시킵니다. 이는 마치 손가락이 피부에 닿을 때까지 손가락을 짓눌러서 장갑을 손에 끼우려는 것과 같습니다. 만약 손가락이 닿는 것에만 신경 쓴다면, 실수로 엄지손가락을 손목 쪽으로 비틀어버릴 수도 있습니다. 컴퓨터는 거리가 작아졌기 때문에 작업이 끝났다고 생각하겠지만, 결과물은 뒤틀리고 불가능한 모양이 될 것입니다.

논문은 이러한 "거리 중심" 접근 방식이 **전역적 타당성(global plausibility)**을 무시하기 때문에 결함이 있다고 주장합니다. 이 방식은 움직임이 전체 객체에 대해 타당한지 신경 쓰지 않습니다. 현실 세계에서 부드러운 조직의 한 부분을 누르면 주변 조직도 부드럽고 조화롭게 함께 움직입니다. 국소적인 거리만 보는 컴퓨터는 조직의 한 부분을 급격하게 움직이게 만들거나 나머지 부분은 가만히 둔 채 특정 부분만 튀게 만들어, 실제 생물학적 구조와는 전혀 다른 '유령'이나 글리치(glitch)를 만들어낼 수 있습니다.

해결책: 컴퓨터에게 "직관적인 검토"를 가르치기

저자들은 이를 해결하기 위해 DINE이라 불리는 2단계 전략을 제안합니다. 그들은 단순히 점들을 가깝게 만드는 법을 알려주는 것이 아니라, 컴퓨터에게 "연조직의 법칙"을 존중하도록 가르칩니다.

1단계: 초안 작성
먼저, 기존의 거리 방식을 사용하여 표준 AI 모델(백본)을 훈련시킵니다. 이 모델은 점들을 정렬하는 데 꽤 능숙해지지만, 때때로 이상하고 비현실적인 뒤틀림을 만듭니다. 연구자들은 이 훈련 과정에서 얻은 모든 "변형 벡터 필드(deformation vector fields)"(모든 점이 어떻게 움직였는지를 보여주는 지도)를 수집합니다. 이것은 학생이 퍼즐을 풀려고 시도한 수천 가지의 사례를 수집하는 것과 같습니다. 비록 그 솔루션 중 일부가 다소 엉망이었을지라도 말입니다.

2단계: 직관적 검토(Gut-Check)
다음으로, 그들은 수집된 사례들을 분석하여 **통계적 사전 확률(statistical prior)**을 학습합니다. 이것이 핵심 비법입니다. 이는 컴퓨터가 "정상적인" 움직임에 대한 정신적 라이브러리를 구축하는 것과 같습니다. 컴퓨터는 99%의 경우, 코의 점이 위로 움직이면 주변의 점들도 함께 위로 움직이지 아래로 움직이지 않는다는 것을 배웁니다. 그들은 "만약 움직임이 우리가 본 이상하고 혼란스러운 것들처럼 보인다면, 그렇게 하지 마라"라고 말하는 수학적 규칙(사전 확률)을 만듭니다.

그들은 두 가지 유형의 규칙을 테스트합니다:

1. PCA 사전 확률 (전체적인 관점): 이는 전체 형상을 한꺼번에 봅니다. 코, 뺨, 턱이 서로 연결되어 있음을 이해합니다. 코가 움직이면 뺨도 아마 함께 움직여야 한다는 것을 압니다. 이는 "전역적" 상관관계를 포착합니다.
2. 플로우 사전 확률 (국소적인 관점): 이는 각 점을 개별적으로 봅니다. 한 점이 특정 거리만큼 움직일 수 있다는 것은 알지만, 그 옆의 점이 완전히 다른 방향으로 움직이는지는 신경 쓰지 않습니다. 이는 마치 전체 그림을 보지 않고 단 하나의 퍼즐 조각이 맞는지 확인하는 것과 같습니다.

결과: 더 매끄럽고 안전한 정렬

연구진이 실제 연조직 데이터(실험실의 돼지 머리 데이터)와 합성 데이터를 사용하여 DINE을 테스트했을 때, 결과는 인상적이었습니다.

가열 및 절단이 포함된 실제 수술 환경을 시뮬레이션한 DeformedTissue 데이터셋에서, 표준 모델은 변형이 심해질수록 어려움을 겪었습니다. 그러나 특히 "전체적인 관점(PCA)" 사전 확률을 사용한 DINE은 오차율을 크게 낮췄습니다.

• 최고 수준의 변형에서 표준 모델의 오차 점수(Chamfer distance)는 39.49였으나, DINE은 이를 13.03으로 낮췄습니다. 이는 약 **67%**의 오차를 줄인 엄청난 개선입니다.
• 심지어 컴퓨터를 혼란스럽게 하기 위해 무작위 노이즈와 가짜 점들을 섞은 **45%의 아웃라이어(outliers)**를 추가했을 때도, DINE은 잘 버텨냈습니다. 표준 모델의 오차는 29.0으로 치솟았지만, DINE은 이를 10.0으로 유지했습니다.
• 일반적인 정적 간섭 유형인 **가우시안 노이즈(Gaussian noise)**의 경우, 표준 모델의 오차는 33.0에 달했지만, DINE은 이를 6.0으로 떨어뜨렸습니다.

컴퓨터로 생성된 통제된 테스트인 SynBench 데이터셋에서는 중간 및 심한 변형에 대해 개선 효과가 더욱 극적이었으며, 오차 감소 폭은 **59%에서 79%**에 달했습니다.

저자들은 "전체적인 관점(PCA)" 방식이 확실한 승자임을 발견했습니다. 이 방식은 일관되게 더 매끄럽고 현실적인 정렬을 만들어냈습니다. "국소적인 관점(Flow)" 방식은 때때로 도움이 되었지만 종종 일관성이 없었는데, 이는 연조직의 경우 개별 점이 어떻게 꿈틀거리는지가 아니라 전체 형상이 어떻게 함께 움직이는지를 이해하는 것이 정말 필요하다는 것을 증명했습니다.

이것이 중요한 이유

이 논문은 수술 계획을 세우거나 환자의 "디지털 트윈"을 만드는 것과 같은 의료 응용 분야에서, 단순히 점들을 가깝게 만드는 것에만 의존해서는 안 된다고 제안합니다. 우리는 AI에게 조직의 물리 법칙과 생물학적 특성을 존중하도록 가르쳐야 합니다. 이 "통계적 직관 검토"를 추가함으로써, 컴퓨터는 불가능하고 뒤틀린 모양을 만드는 것을 멈추고 실제 인간의 해부학적 구조처럼 보이는 정렬을 만들어내기 시작합니다.

저자들은 이 방법이 모든 것을 영원히 해결하는 마법의 탄환은 아니라는 점을 분명히 하고 있습니다. 이 방법은 첫 번째 단계의 훈련이 좋은 사례를 제공하는 것에 의존하며, "전체적인 관점"의 규칙은 변형이 어느 정도 예측 가능한 패턴을 따른다는 것을 가정합니다. 그러나 결과는 국소적 거리 체크와 형상의 변형 방식에 대한 전역적 이해를 결합하는 것이 연조직 정렬을 신뢰할 수 있게 만드는 핵심이라는 점을 강력하게 시사합니다. 의료 AI의 세계에서, 형상을 정확하게 맞추는 것은 단순히 수학의 문제가 아닙니다. 그것은 컴퓨터가 조직이 들려주는 이야기를 이해하도록 만드는 일입니다.