AI models of unstable flow exhibit hallucination

이 논문은 점성 지문 (viscous fingering) 과 같은 불안정한 유동 모델링에서 AI 가 물리 법칙을 위반하는 환각 현상을 보임을 처음 체계적으로 증명하고, 이를 해결하기 위해 스펙트럼 편향을 보정하여 물리적으로 타당한 유동 패턴을 예측하는 새로운 프레임워크 'DeepFingers'를 제안합니다.

핵심

이 논문은 인공지능 (AI) 이 물리 법칙을 무시하고 엉뚱한 결과를 만들어내는 '환각 (Hallucination)' 현상을 유체 역학 분야에서 처음 발견하고, 이를 해결한 새로운 방법을 소개합니다.

쉽게 비유해서 설명해 드릴게요.

1. 문제 상황: "눈에는 보이지만, 물리적으로는 불가능한 그림"

상상해 보세요. 두 가지 액체가 섞이는 모습을 AI 가 그리는 상황입니다. 하나는 끈적한 액체 (꿀), 다른 하나는 묽은 액체 (물) 인데, 묽은 액체가 끈적한 액체를 밀어내며 섞일 때 '손가락 모양'의 무늬가 생기는데, 이를 **점성 손가락 (Viscous Fingering)**이라고 합니다.

기존의 AI 모델들은 이 손가락 모양을 그릴 때, 눈에는 아주 그럴듯해 보이지만 실제로는 물리 법칙을 위반하는 엉뚱한 그림을 그렸습니다.

• 예시: 끈적한 액체 (검은색) 영역 속에 갑자기 묽은 액체 (노란색) 가 뚝뚝 떨어지거나, 반대로 묽은 액체 영역 속에 끈적한 액체 섬이 갑자기 나타나는 식입니다.
• 비유: 마치 사람이 "나는 사과를 먹었다"라고 말하면서, 입안에서 사과가 아니라 돌멩이를 씹는 장면을 그린 것과 같습니다. AI 는 "아, 이 모양이 그럴듯하구나"라고 생각해서 그렸지만, 실제 물리 법칙 (액체가 섞이는 원리) 에는 전혀 맞지 않는 **환각 (Hallucination)**을 보인 것입니다.

2. 왜 이런 일이 일어났을까요? (스펙트럼 편향)

연구자들은 이 현상의 원인을 **'스펙트럼 편향'**이라고 불리는 AI 의 버그로 찾았습니다.

• 비유: AI 가 그림을 그릴 때, 큰 산 (큰 흐름) 만 그리거나, 작은 돌멩이 (작은 요동) 만 그리는 편향이 있다는 뜻입니다.
• AI 는 보통 큰 흐름을 잘 그리거나, 작은 디테일을 잘 그리거나 둘 중 하나에 치우치는 경향이 있습니다. 하지만 점성 손가락 현상은 큰 흐름과 아주 작은 손가락 끝의 움직임이 동시에 복잡하게 얽혀 있어야 정확한데, 기존 AI 는 이 균형을 잃어버려서 엉뚱한 섬이나 구멍 같은 '환각'을 만들어낸 것입니다.

3. 해결책: 'DeepFingers'라는 새로운 AI

저자들은 이 문제를 해결하기 위해 DeepFingers라는 새로운 AI 모델을 개발했습니다.

• 비유: 기존 AI 가 "큰 산만 그리는 화가"나 "작은 돌만 그리는 화가"였다면, DeepFingers 는 **"큰 산과 작은 돌을 동시에 완벽하게 조화시키는 마스터 화가"**입니다.
• 어떻게 했나요? 두 가지 강력한 기술 (DeepONet 과 FNO) 을 섞어서, AI 가 액체의 큰 흐름과 작은 손가락 끝의 미세한 움직임까지 균형 있게 학습하도록 만들었습니다.
• 결과: 이제 AI 가 그리는 그림은 눈으로 봐도 그럴듯할 뿐만 아니라, 물리 법칙도 완벽하게 지키게 되었습니다. 액체가 섞이는 속도, 모양, 섞임의 정도를 정확하게 예측할 수 있게 된 것입니다.

4. 왜 이게 중요한가요?

이 연구는 AI 가 과학 분야에서 쓰일 때 단순히 "그림이 예쁘면 된다"가 아니라, 물리 법칙을 얼마나 잘 지키는지를 확인해야 함을 경고합니다.

• 실제 적용: 이 기술은 석유를 더 많이 뽑아내는 기술, 이산화탄소를 땅속에 안전하게 저장하는 기술, 지하수를 정화하는 기술 등에 쓰일 수 있습니다. 만약 AI 가 엉뚱한 '환각'을 보이면, 석유를 뽑아내려다 실패하거나 환경 오염을 악화시킬 수 있기 때문입니다.
• 불확실성 관리: DeepFingers 는 "이런 조건에서는 결과가 이렇게 변할 수도 있어"라는 불확실성까지도 정확히 예측해 줍니다. 마치 날씨 예보가 "비가 올 확률 30%"라고 알려주는 것처럼, AI 도 "이런 흐름이 일어날 확률이 높다"고 정확히 알려주는 것입니다.

요약

이 논문은 **"AI 가 과학을 공부할 때, 눈속임 (환각) 을 하지 않도록 새로운 방법을 만들었다"**는 내용입니다. 마치 AI 에게 "그림만 잘 그리는 게 아니라, 물리 법칙이라는 규칙을 꼭 지키면서 그릴 것"이라고 가르친 결과, 이제 AI 는 복잡한 액체의 흐름을 정확하게 예측할 수 있게 되었습니다.

기술 요약

논문 요약: 불안정 유동 AI 모델의 환각 현상 및 해결 방안 (DeepFingers)

1. 연구 배경 및 문제 제기 (Problem)

• 배경: 점성 손가락 현상 (Viscous Fingering, VF) 은 점성이 낮은 유체가 점성이 높은 유체를 대체할 때 발생하는 수력학적 불안정성으로, 석유 회수, 이산화탄소 저장, 지하수 정화 등 다양한 공학 및 자연 시스템에서 중요합니다.
• 도전 과제: VF 는 비선형성, 다중 스케일 (다양한 크기의 손가락 패턴), 그리고 초기 조건과 매질 특성에 대한 민감도로 인해 수치 시뮬레이션 (DNS) 이 계산 비용이 많이 들거나 불안정할 수 있습니다. 최근 딥러닝 (Deep Learning) 이 이를 해결할 대안으로 주목받고 있습니다.
• 핵심 문제 (Hallucination): 본 연구는 AI 모델이 물리 법칙을 위반하는 "환각 (Hallucination)" 현상을 유체 역학 모델에서 처음 체계적으로 보고합니다.
  • 기존 모델 (ViT, DAE-LSTM 등) 은 시각적으로는 그럴듯해 보이지만, 물리적으로 불가능한 패턴 (예: 점성 유체 영역 내에 비점성 유체 섬이 생성되거나, 확산이 비현실적으로 일어나는 것) 을 생성합니다.
  • 이는 대규모 언어 모델 (LLM) 의 환각과 유사한 현상으로, 물리 법칙 (질량 보존 등) 을 위반하거나 비현실적인 유동 구조를 만들어냅니다.
  • 이러한 오류의 근본 원인은 AI 모델의 **스펙트럼 편향 (Spectral Bias)**으로, 특정 길이 스케일 (주로 저주파 또는 고주파) 을 과도하게 학습하거나 무시하여 발생합니다.

2. 방법론 (Methodology)

• 제안 모델: DeepFingers
  • 아키텍처: Deep Operator Network (DeepONet) 과 Fourier Neural Operator (FNO) 를 결합한 하이브리드 프레임워크입니다.
  • 구조:
    • Branch Network: 입력 함수 (농도장, $c_t$) 를 처리하기 위해 FNO 레이어를 사용합니다. 이는 비국소적 (non-local) 의존성과 전역적 상호작용을 효율적으로 포착합니다.
    • Trunk Network: 입력 파라미터 (점성도 비율 $M$, 시간 $t+1$) 를 처리하기 위해 완전 연결 (Fully Connected) 레이어를 사용합니다.
    • U-FNO Layers: Branch 와 Trunk 의 출력을 결합한 후, U-FNO (U-Net 구조가 통합된 FNO) 레이어 2 개를 거칩니다. 이는 고주파 성분 (손가락의 날카로운 경계, 미세한 구조) 을 보존하고 다중 스케일 특징을 추출하는 데 필수적입니다.
  • 학습 목표: 시간 $t$의 농도장과 파라미터 ($M, t+1$) 를 입력받아 다음 시간 $t+1$의 농도장 ($c_{t+1}$) 을 예측하는 연산자 $G$를 학습합니다.
• 비교 대상:
  • ViT (Vision Transformer): 이미지 처리에 특화된 아키텍처.
  • DAE-LSTM: 인코더 - 디코더 구조와 LSTM 을 결합한 기존 모델.
  • DNS (Direct Numerical Simulation): 물리 법칙 기반의 정답 데이터 (Ground Truth).
• 평가 지표: 픽셀 단위 오차뿐만 아니라, 물리 기반 지표 (평균 농도, 돌파 농도, 혼합도, 에너지 소산율) 와 스펙트럼 분석 (Wavelet 기반) 을 통해 모델의 물리적 일관성을 평가했습니다.

3. 주요 결과 (Results)

• 환각 현상 관측:
  • ViT: 후기 시간 단계에서 물리적으로 불가능한 "검은 섬 (점성 유체)"이 노란색 영역 (비점성 유체) 내에 생성되는 환각을 보였습니다. 또한, 저점성도 비율 ($M=13$) 에서 돌파 시간이 비현실적으로 빨라지는 오류를 범했습니다.
  • DAE-LSTM: 초기 단계에서 비점성 유체의 인위적인 패치가 생성되거나, 손가락 끝이 과도하게 확산되어 분열이 부족했습니다. 점성도 비율 ($M$) 에 따라 오차 패턴이 일관되지 않았습니다.
• DeepFingers 의 성능:
  • 물리적 일관성: DeepFingers 는 손가락의 분열 (tip splitting), 병합 (merging), 채널 형성 (channeling) 등 복잡한 동역학을 정확하게 재현했습니다.
  • 스펙트럼 균형: DNS 와 비교했을 때, 모든 스펙트럼 모드 (대규모 구조부터 미세한 손가락까지) 에서 에너지 분포가 균형을 이루며, ViT 나 DAE-LSTM 에서 관찰된 편향 (Bias) 이 없었습니다.
  • 정량적 평가: 평균 농도 ($\bar{c}$), 돌파 농도 ($\bar{c}_{out}$), 혼합도 ($\sigma^2_c$) 등 모든 글로벌 혼합 지표에서 DNS 대비 가장 낮은 RMSE 를 기록했습니다.
• 불확실성 정량화: DeepFingers 는 초기 조건의 불확실성에 따른 유동 변화의 확률 밀도 함수 (PDF) 를 DNS 와 유사하게 잘 전달 (propagate) 하여, 지하수 및 석유 공학에서의 의사결정 지원에 유효함을 입증했습니다.

4. 주요 기여 (Key Contributions)

1. 과학적 AI 의 환각 현상 발견: 물리 기반 AI 모델에서도 LLM 과 유사한 '환각'이 발생할 수 있음을 최초로 체계적으로 증명했습니다. 이는 시각적으로 그럴듯하지만 물리 법칙을 위반하는 예측이 발생할 수 있음을 경고합니다.
2. 스펙트럼 편향의 원인 규명: 불안정 유동 모델링 실패의 근본 원인이 학습 아키텍처의 스펙트럼 편향 (특정 스케일 학습 편중) 에 있음을 규명했습니다.
3. 새로운 아키텍처 (DeepFingers) 제안: FNO 와 DeepONet, U-Net 구조를 융합하여 전 스펙트럼에 걸친 균일한 학습을 강제하는 새로운 프레임워크를 개발했습니다. 이는 다중 스케일 불안정 유동을 정확하게 모델링할 수 있음을 입증했습니다.
4. 물리적 일관성 강조: 과학적 AI 모델 개발 시 단순한 시각적 정확도뿐만 아니라 물리 법칙 (보존 법칙 등) 의 준수와 불확실성 정량화가 필수적임을 강조했습니다.

5. 의의 및 시사점 (Significance)

• 연구 방향의 전환: 기존의 데이터 기반 과학 모델링이 단순히 "데이터를 맞추는" 것을 넘어, **물리적 일관성 (Physical Consistency)**을 검증해야 할 필요성을 제기합니다.
• 실용적 적용: DeepFingers 는 고점성도 비율이나 큰 펙렛 수 (Pe) 를 가진 실제 지하 유동 시스템 (예: CO2 저장, 석유 회수) 에서 DNS 를 대체할 수 있는 신뢰할 수 있는 대리 모델 (Surrogate Model) 로서의 가능성을 보여줍니다.
• AI 안전성: 과학적 AI 모델이 잘못된 결론 (환각) 을 내릴 경우 실제 공학 시스템에 치명적인 오류를 초래할 수 있음을 경고하며, 향후 AI 모델 검증 프로토콜에 물리 기반 진단 도구의 도입을 요구합니다.

이 논문은 AI 와 물리학의 융합 분야에서 발생할 수 있는 근본적인 한계를 지적하고, 이를 극복하기 위한 새로운 아키텍처 설계를 제시함으로써 불안정 유동 모델링의 새로운 지평을 열었습니다.