Above-ground Biomass Estimation with Geospatial Foundation Models

기술 요약: 지형 공간 파운데이션 모델을 이용한 지상부 생체량 추정

문제 정의
위성 영상을 통한 정확한 지상부 생체량(Above-Ground Biomass, AGB) 추정은 전 지구적 탄소 축적 모니터링 및 기후 정책 수립에 매우 중요하다. 그러나 고해 resolution의 전 지구적 AGB 지도를 정기적으로 업데이트하는 것은 여전히 어려운 회귀(regression) 작업이다. 현재의 접근 방식들은 세 가지 주요 한계에 직면해 있다: (1) 위성 신호가 밀집된 캐노피(canopy)에서 포화되어 높은 생체량을 과소평가하는 지속적인 편향 발생, (2) 참조 레이블(예: GEDI footprint)이 북위 약 51.6° 미만으로 국한되어 있어 보레알 숲(boreal forests)을 제외하는 불균형한 분포, (3) 10m 해상도의 페타바이트급 지구 관측(EO) 데이터를 처리하는 데 드는 막대한 계산 비용. 지형 공간 파운데이션 모델(Geospatial Foundation Models, GFMs)이 라벨이 없는 EO 데이터로부터 범용 표현을 학습하는 패러다임으로 부상했음에도 불구하고, 대부분의 기존 벤치마크가 분류 및 세그멘테이션에 집중되어 있어 AGB 추정과 같은 정량적 회귀 작업에서의 활용성은 아직 충분히 탐구되지 않았다.

방법론
저자들은 다양한 생물군계(biomes)를 아우르는 약 1,600만 개의 샘플(GEDI L4A 생체량 값과 Sentinel-2, ALOS-2 PALSAR-2 및 부가 기능 등 다중 소스 위성 데이터 쌍)로 구성된 머신러닝 준비 완료 벤치마크인 AGBD 데이터셋을 사용하여, 전 지구적 규모의 AGB 추정을 위한 GFM의 종합적인 벤치마크를 제시한다.

본 연구는 두 가지 뚜렷한 GFM 배포 모드를 구분하고 이를 완전 지도 학습 기반의 최첨단(SOTA) 베이스라인과 비교 평가한다:

1. 동결된 인코더 (가중치 배포형, Weight-Distributed): PANGAEA 프레임워크 내에서 가중치 형태로 배포된 11개의 GFM(예: CROMA, Prithvi, SSL4EO-MoCo)을 평가하였다. 이 모델들은 동결된 인코더로서 실행되었으며, 그 위에 태스크 특화 디코더(UPerNet)만을 학습시켜 사용되었다. 결정적으로, 이 모델들은 입력 피처가 제한되어(주로 Sentinel-2 광학 밴드) 전체 AGBD 데이터셋에서 사용 가능한 L-밴드 SAR 및 부가 변수들에 접근할 수 없었다.
2. 사전 계산된 임베딩 (사용 준비 완료형, Ready-to-Use): 다중 모달, 다중 시계열 EO 데이터로부터 도출된 픽셀당 사전 계산된 표현인 **AlphaEarth Foundations (AEF)**와 TESSERA 두 가지 임베딩 제품을 평가하였다. 저자들은 선형 프로브(Linear Probes, LP), 다층 퍼셉트론(MLP), 그리고 최첨단 완전 합성곱 신경망(fcn_film)을 사용하여 이 임베딩들을 테스트하였다.

평가는 다음을 포함한다:

• 표준 벤치마킹: AGBD 데이터셋에 대한 RMSE 비교.
• 일반화 테스트: 제로샷 교차 지역(특정 지역을 제외하고 나머지 지역에서 학습) 및 교차 연도(2019년 데이터로 학습, 2020년 데이터로 테스트) 시나리오에서의 성능 평가.
• 운영 검증: 독립적인 AGBref 데이터셋 및 운영 중인 ESA CCI Biomass 제품과의 비교.

주요 기여

1. 종합적 벤치마크: 저자들은 가장 크고 지리적으로 다양한 ML-ready 생체량 데이터셋인 AGBD에서 11개의 가중치 배포형 GFM과 두 가지 임베딩 제품을 벤치마킹하였다.
2. 비교 분석: 동결된 GFM 인코더, 사전 계산된 임베딩, 그리고 원시 AGBD 피처로 학습된 완전 지도 학습 SOTA 모델 간의 직접적인 비교를 확립하였다.
3. 일반화 실험: 지리적(대륙 간) 및 시간적(연도 간) 일반화 능력을 테스트하기 위한 특정 실험을 설계하고 분석하였다.
4. 운영 검증: 독립적인 참조 데이터셋인 AGBref로 결과를 검증하고, 널리 사용되는 ESA CCI 생체량 맵과 비교하였다.

결과

• 동결된 인코더의 성능 저하: 동결된 인코더로 실행되었을 때, 11개의 가중치 배포형 GFM은 원시 AGBD 피처로 학습된 완전 지도 학습 SOTA 모델보다 현저히 낮은 성능을 보였다. 최상의 GFM인 SSL4EO-MoCo는 60.56 Mg/ha의 RMSE를 기록하여, 지도 학습 베이스라인의 53.73 Mg/ha에 미치지 못했다. 이러한 격차는 모델들이 L-밴드 SAR 및 부가 데이터를 수용하지 못하는 구조적 한계와 단일 날짜 또는 특정 밴드 입력에 국한된 점에 기인한다.
• 사전 계산된 임베딩의 우수성: 반면, 사전 계산된 임베딩 제품은 매우 효과적임이 입증되었다. AEF 임베딩만을 사용하여 학습된 MLP(52.22 Mg/ha)는 원시 AGBD 피처로 학습된 지도 학습 베이스라인보다 우수한 성능을 보였다. 최상의 결과는 선택된 원시 피처(토지 피복, 경사도, 향, 좌표)가 추가된 AEF 임베딩을 학습한 fcn_film 모델에서 얻어졌으며, RMSE 50.79 Mg/ha를 달자했다.
• 일반화: AEF 기반 모델은 우수한 지리적 및 시간적 일반화 능력을 보여주었다. 제로샷 교차 지역 전이(예: 아프리카 및 남미로의 전이)에서 AEF+는 원시 피처 대비 RMSE를 17~25% 감소시켰다. 그러나 남아시아의 경우, 제로샷 설정에서 AEF 단독으로는 성능 저하가 나타났으나, 이는 AEF+ 구성(원시 피처 유지)을 통해 완화되었다. 시간적으로 AEF 임베딩은 원시 분광 피처가 크게 저하되는 연도 간 격차 상황에서도 안정성을 유지했다.
• 운영 수준의 일치성: 독립적인 AGBref 데이터셋에 대해 평가했을 때, (단 11개 지역에서만 학습된) AEF 임베딩 기반 모델은 전 지구적으로 분포된 참조 데이터를 사용하는 ESA CCI 제품과 R² 및 RMSE 측면에서 거의 대등한 성능을 달eric했다.

의의 및 주장
본 논문은 환경 모니터링을 위한 파운데이션 모델의 가능성이, 모델이 풍부한 다중 모달 및 다중 시계열 데이터를 담은 접근 가능한 사전 계산된 임베딩 레이어 형태로 배포될 때 가장 잘 실현된다고 주장한다.

저자들의 논거는 다음과 같다:

• 입력의 풍부함이 핵심이다: AEF와 TESSERA의 우수한 성능은 단순히 사전 학습의 규모 때문이 아니라, 임베딩 속에 응축된 풍부한 입력 컨텍스트(다중 모달, 다중 시계열)에서 비롯된다. 가중치 배포형 GFM은 정확한 생체량 추정에 필요한 특정 센서(예: L-밴드 SAR)를 수용할 수 있는 아키텍처적 유연성이 부족한 경우가 많다.
• 효율성 및 접근성: 사전 계산된 임베딩은 GPU 집약적인 피처 추출 과정을 제거하여, 단순한 MLP와 같은 경량 모델이 원시 데이터로 학습된 복잡한 완전 합성곱 네트워크보다 더 나은 성능을 낼 수 있게 한다.
• 강건성: 임베딩은 공간 및 시간적으로 더 잘 일반화되는 전이 가능한 생태적 표현을 제공하지만, 생태적으로 판이한 지역에서의 Out-of-distribution 실패에 대비하기 위해서는 원시 피처를 유지하는 것(AEF+)이 안전장치가 된다.

본 연구는 동결된 GFM 피처가 유익한 정보를 제공할 수는 있지만, 입력 제한과 엔지니어링 측면의 마찰로 인해 그 효용성이 현재로서는 제한적이라고 결론짓는다. 향-후 가장 효과적인 경로는 가중치 배포형 모델이 다양한 입력과 해상도를 수용할 수 있도록 유연성을 높이거나, 표현(representation)을 사전 계산된 분석 준비 완료형 임베딩 레이어로 계속 제공하는 것이다.