Mathematical Morphology in Machine Learning

기술 요약: 머신러닝에서의 수학적 형태학 (Mathematical Morphology)

문제 정의
수학적 형태학(Mathematical Morphology, MM)은 형상, 크기, 볼록성을 기준으로 그래픽 객체를 분석하는 시각 컴퓨팅의 확립된 이론이지만, 머신러닝에서의 활용도는 여전히 낮습니다. 기존의 머신러닝 기법들은 형상과 밀도 정보를 충분히 활용하지 못하는 경우가 많습니다. 또한, 현재의 클러스터링 및 분류 방법들은 MM 원칙을 완전히 준수하지 않는 휴리스틱에 의존하거나, 프랙탈 정보, 형상, 밀도를 동시에 모델링하는 능력이 부족합니다. 아울러, 이산 환경(예: GPU 기반 처리)에서 표준 거리 측정 방식은 트레이드오프를 가집니다. 유클리드 거리는 계산 비용이 많이 들고 양자화가 필요하며, 체비쇼프(Chebyshev) 및 맨해튼(Manhattan) 거리는 빠르지만 "정사각형" 형태를 띠어, 유클리드 거리의 원형 반복을 효과적으로 근사하지 못합니다.

방법론
본 논문은 세 가지 주요 구성 요소를 통해 수학적 형태학을 머신러닝에 통합하는 프레임워크를 제안합니다:

1. k-형태학적 집합(k-Morphological Sets, k-MS) 클러스터링 알고리즘:

   • 이 알고리즘은 이전의 이진 형태학 클러스터링 알고리즘(Binary Morphology Clustering Algorithms)과 달리 이진 연산 대신 형태학적 재구성(morphological reconstruction)을 사용합니다.
   • 데이터 인스턴스가 매핑된 그리드 상에서 작동합니다. 구조 요소 $B$(초기값 0 포함)와 마스크 $M$을 사용하여 재구성을 수행합니다.
   • 알고리즘은 구조 요소의 크기를 제어하기 위해 내부 변수 $\delta$를 사용합니다. $\delta$를 반복적으로 증가시켜 항등 상태(idempotent state)에 도달하거나 사전에 정의된 최대 클러스터 수($k$)에 도달할 때까지 클러스터를 확장합니다.
   • 고유한 클러스터 인덱스의 수가 $k$를 초과하면 $\delta$를 증가시키고, 재구성이 비항등(non-idempotent) 상태가 되어 클러스터가 병합되면 $\delta$를 1로 재설정하고 과정을 반복합니다.
   • 이 방법은 추가적인 처리 비용 없이 노이즈를 작은 독립적 클러스터로 본질적으로 분리합니다.

2. 새로운 거리 측정 방식 (Novel Distance Metric):

   • 이산 공간(특히 GPU 구현을 위한)에서의 이웃 반복을 최적화하기 위해 새로운 거리 측정 방식을 제안합니다.
   • 이 방식은 체비쇼프 거리와 민코프스키(Minkowski) 거리의 가중 결합입니다 (식 1: $d_{R^p}(x,y) = w_1 \sum |x_i - y_i|^p + w_2 \max |x_i - y_i|$).
   • 가중치 $w_1, w_2$와 파라미터 $p$를 조정함으로써, 이 측정 방식은 체비쇼프 또는 민코프스키 동작으로 수렴할 수 있습니다.
   • 2차원($R^2$)에서 이 거리는 팔각형 형태를 생성하며, 이는 맨해튼이나 체비쇼프 거리가 만드는 정사각형 형태보다 유클리드 원형 거리에 기하학적으로 더 가깝습니다.

3. 형태학적 분류기 (Morphological Classifiers):

   • 저자들은 팽창(dilation)을 통해 학습 인스턴스를 성장시켜 라벨이 없는 공간을 덮는 분류기를 제안합니다.
   • 이 분류기들은 그리드 셀이 동시에 성장하는 병렬 처리를 활용하기 위해 그래픽 처리 장치(GPU) 상에서 구현됩니다.
   • 성장 과정에서 교차(intersection)가 발생하면 투표 체계를 통해 라벨을 결정합니다.

주요 기여

• k-MS 알고리즘: 형상과 밀도를 보존하며, 생성 가능한 최대 클러스터 수에 대한 본질적인 감각(k와 무관하게)을 제공하고, 추가적인 계산 오버헤드 없이 노이즈를 제거하는 클러스터링 기법입니다.
• 하이브리드 거리 측정 방식: 체비쇼프와 민코프스키 거리를 결합하여 "정사각형" 거리의 계산 효율성과 유클리드 거리의 기하학적 정확성 사이의 균형을 제공하는 새로운 측정 방식입니다.
• GPU 최적화 구현: 느린 커널 액세스와 무한한 커널 크기를 피하면서, 저수준 GPU 환경에 특화된 형태학적 분류기 및 거리 계산법을 개발했습니다.
• 포괄적 평가: 33개의 UCI 데이터셋을 사용하여 k-최근접 이웃(k-NN) 분류기를 통해 제안된 거리 측정 방식의 성능을 광범로 테스트했습니다.

결과

• 클러스터링 효율성: k-MS 알고리즘은 형태 보존 및 노이즈 제거와 같은 고유한 기능을 제공하면서 최신 밀도 기반 클러스터링 기법보다 빠른 것으로 나타났습니다. 병렬 k-Means(CPU)와의 시간 분석 비교에서, k-MS는 조기 종료 최적화 덕분에 특히 클러스터 수가 증가함에 따라 경쟁력 있거나 우수한 성능을 입증했습니다.
• 거리 측정 방식 성능:
  • 속도: $Z^2$에서의 이산 이웃 반복 작업에서, 제안된 거리는 맨해튼 거리보다 약 1.3배 빠르고 유클리드 거리보다 329.5배 빨랐습니다.
  • 정확도: 33개의 UCI 데이터셋에 대해 k-NN으로 평가했을 때, 제안된 거리는 33개 중 26개 케이스에서 14개의 다른 거리들의 평균보다 높은 정확도를 달 기록했습니다. 또한 33개 중 9개 케이스에서 단일 최고 정확도를 달성했습니다.
• 시각적 클러스터링: 노이즈가 있는 데이터셋에서 k-MS는 실제 클러스터와 이상치를 성공적으로 분리한 반면, Chameleon과 같은 다른 알고리즘은 이상치를 실제 클러스터와 묶는 경우가 있었고, Mitosis와 같은 다른 알고리즘은 노이즈 분리에 실패했습니다.

의의 및 주장
저자들은 본 연구가 단순한 휴리스틱적 연결을 넘어, 전적으로 수학적 형태학 기술에 기반한 분류 및 클러스터링 기법을 제안한 첫 사례라고 주장합니다. 논문은 현재 문헌의 어떤 분류기도 형상, 밀도, 프랙탈 정보를 동시에 적절히 모델링할 수 없다고 단언합니다.

본 연구의 의의는 시각 컴퓨팅 이론과 머신러닝 사이의 간극을 메우는 데 있으며, 형상과 밀도 측면에서 이론적으로 견고할 뿐만 아니라 현대적 하드웨어(GPU)에 계산적으로 효율적인 도구를 제공합니다. 제안된 거리 측정 방식은 유클리드 거리는 너무 느리고 맨해튼/체비쇼프 거리는 기하학적 충실도가 부족한 고성능 컴퓨팅 환경을 위한 실질적인 해결책으로 강조됩니다. 저자들은 이러한 기여가 이미 Pattern Recognition 및 Pattern Recognition Letters와 같은 저명한 학술지에 다수의 논문 게재로 이어졌음을 언급했습니다.