CarbonNet: How Computer Vision Plays a Role in Climate Change? Application: Learning Geomechanics from Subsurface Geometry of CCS to Mitigate Global Warming

기술 요약: CarbonNet – 지질역학을 위한 컴퓨터 비전 기술 (CCS 분야)

문제 정의
탄소 포집 및 저장(CCS)은 전 지구적 온난화를 완화하기 위한 핵심 기술로, 초임계 이산화탄소를 심부 염수층이나 폐쇄된 유정 저류층에 주입하는 과정을 포함한다. 이 과정과 관련된 주요 위험 요소는 과도한 유체 압력으로 인한 지표면 융기(지표 변위)이며, 이는 인프라를 손상시키고 인명 안전에 영향을 미칠 수 있다. 이러한 지표 변형의 공간적 분포와 시간적 진화를 예측하는 것은 위험 회피를 위해 필수적이다. 그러나 기존의 수치 시뮬레이션(예: 유한요소법, FEM)은 CCS 프로젝트의 거대한 공간적, 시간적 규모로 인해 계산 비용이 매우 높다. 또한, 기존의 딥러닝 접근 방식은 재료의 불균질성, 유체 흐름과 역학 간의 결합 문제에 취약하거나 특정 지질 설정에 국한되는 경러가 있다. 본 프로젝트는 컴퓨터 비전 기술을 활용하여 다양한 지하 구조 하에서의 지표면 변위를 효율적으로 예측하는 문제를 해결한다.

방법론
저자들은 이 문제를 정적 역학(static mechanics)을 위한 이미지 대 이미지(image-to-image) 예측 작업과 과도 역학(transient mechanics)을 위한 비디오 예측 작업으로 정식화하였다. 입력값은 지하 구조(두 개의 투수층 사이에 삽입된 경사각이 변하는 셰일층)를 나타내는 2D 이미지이며, 출력값은 그에 상응하는 지표 변위장이다.

1. 데이터셋 생성:

   • 정적 모델: FEniCS(FEM 기반 시뮬레이션)를 사용하여 10,000개의 샘플을 생성하였다. 입력은 경사각이 0°에서 45° 사이인 기하학적 구조 이미지이며, 레이블은 50×25 그리드 상의 1,250개 지점에서의 수직 변위($u_y$) 값이다.
   • 과도 모델: 결합된 수리-역학(hydro-mechanical) 시뮬레이션을 사용하여 3,000개의 샘플을 생성하였다. 입력은 기하학적 구조 이미지이며, 레이블은 지표면 40개 지점의 1,000개 타임스텝에 대한 수직 변위 시계열 데이터이다. 데이터 시퀀스는 슬라이딩 윈도우(다음 단계를 예측하기 위해 5단계 사용)를 사용하여 생성되었으며, min-max 스케일링을 통해 정규화되었다.

2. 정적 역학 모델 (이미지 예측):

   • 베이스라인: 표준 CNN 및 ResNet(ResNet18) 아키텍처를 테스트하였다. 이 모델들은 특징 추출을 위해 이미지를 다운샘플링하지만, 이 과정에서 중요한 공간 정보를 손실하여 불균질한 영역에서 부정확성을 초래하는 것으로 나타났다.
   • 제안된 모델 (ResNetUNet): ResNet과 UNet을 결합한 커스텀 아키텍처이다. 인코더는 복잡한 물리 법칙과 불균질한 재료 분포를 포착하기 위해 ResNet 블록을 활용하며, 디코더는 공간적 세부 사항을 복구하고 정보 손실을 방지하기 위해 UNet 스타일의 업샘플링과 스킵 연결(skip connections)을 채택하였다.

3. 과도 역학 모델 (비디오/시계열 예측):

   • 특징 추출: 두 모델 모두 사전 학습된 ResNetUNet을 사용하여 입력 기하 구조 이미지로부터 특징을 추출한다.
   • LSTM: 4개의 LSTM 셀로 구성된 스택형 LSTM 네트워크가 변위 값의 시퀀스(크기 40)를 처리하여 다음 타임스텝을 예측한다.
   • Transformer: 트랜스포머 인코더-디코더 아키텍처가 시퀀스를 처리한다. 이는 셀프 어텐션(self-attention) 메커니즘을 사용하여 장기 의존성을 포착하며, 이론적으로 LSTM이 가진 순차적 정보 손실 문제를 극복한다. 인코더와 디코더는 각각 4개의 레이어, 모델 차원 16, 8개의 어텐션 헤드로 구성된다.

주요 결과

• 정적 역학: ResNetUNet 모델은 CNN 및 ResNet 베이스라인보다 성능이 월등히 뛰어났다. 시각적 비교 결과, ResNetUNet의 예측은 물리 기반의 실제 값(ground truth)과 거의 동일했으나, CNN과 ResNet은 특히 불균질한 영역에서 정보 손실과 낮은 정확도를 보였다. 정량적으로 ResNetUNet은 검증 MSE $7.33 \times 10^{-8}$, MAE $2.00 \times 10^{-4}$를 달성하여 베이스라인보다 수십 배 낮은 오차를 기록했다.
• 과도 역학: LSTM과 Transformer 모델 모두 지표 변위의 시간적 진화를 성공적으로 예측하였다. Transformer 모델은 검증 MSE ($3.86 \times 10^{-9}$)와 MAE ($1.50 \times 10^{-6}$) 측면에서 LSTM보다 우수한 성능을 보이며 더 뛰어난 성과를 입증하였다. LSTM도 유망한 잠재력을 보여주었으나, Transformer의 셀프 어텐션 메커니즘은 고차원 시퀀스 데이터(40개 지점)를 더 잘 처리하여 실제 값을 거의 완벽하게 일치시켰다.
• 학습 역학: 모든 모델은 합성 데이터가 풍부하여 교차 검증 없이 학습되었다. 손실 이력(loss histories)은 과적합(overfitting)이나 과소적합(underfitting)의 징후를 보이지 않았다.

의의 및 주장
본 논문은 복잡한 결합 지질역학 및 유체 흐름 문제를 해결하기 위해 컴퓨터 비전 지능을 활용하는 최첨단 접근 방식을 제시한다고 주장한다. 주요 의의는 특정 지질 형상에 제한되지 않고 임의의 입력 기하 구조 이미지에 솔루션을 일반화할 수 있다는 점에 있다.

• 효율성: 이 접근 방식은 전통적인 수치 시뮬레이션에 대한 계산 효율적인 대안을 제공하여, CCS 프로젝트 계획을 위한 빠른 의사결정을 가능하게 한다.
• 아키텍처 효용성: 본 연구는 스킵 연결을 통해 공간 정보를 보존함으로써 ResNetUNet 아키텍처가 불균질한 정적 역학 문제에 특히 효과적임을 입증한다.
• 시간적 모델링: 본 연구는 지질 역학 시계열 예측에서 Transformer 모델의 적용 가능성을 검증하였으며, 물리 시스템의 장기 의존성을 포착하는 데 있어 기존의 순환 신경망(LSTM)보다 뛰어날 수 있음을 보여주었다.
• 미래 영향: 저자들은 이 모델들이 기후 변화 완화를 위한 탄소 저장 감시에 의사결정 정보를 제공할 수 있다고 상정한다. 향후 과제로는 더 복잡한 기하 구조를 위한 생성적 적대 신경망(GAN)을 통한 강건성 테스트와 대중적 접근을 위한 웹 애플리케이션 알파 버전 배포가 포함된다.