🤖 machine learning

Single vs. Multiple Branches in DeepONet and S-DeepONet: Network Architecture Follows Coupling in Multiphysics Systems

이 논문은 DeepONet 및 S-DeepONet 구조의 경우, 단일 분기 설계가 공유된 잠재 표현을 촉진함으로써 밀접하게 결합된 다중 물리 시스템에서 다중 분기 변형보다 우수한 성능을 보이는 반면, 다중 분기 접근 방식은 디커플링된 작업에서 여전히 우월함을 입증하며, 결과적으로 전통적인 솔버보다 최대 $1.8 \times 10^4$ 배 빠른 전장 예측을 가능하게 한다.

원저자: Jaewan Park, Kazuma Kobayashi, Qibang Liu, Seid Koric, Diab Abueidda, Syed Bahauddin Alam

게시일 2026-06-12

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Jaewan Park, Kazuma Kobayashi, Qibang Liu, Seid Koric, Diab Abueidda, Syed Bahauddin Alam

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 컴퓨터에게 복잡한 물리 시스템이 어떻게 작동하는지 예측하도록 가르치려 한다고 상상해 보십시오. 예를 들어, 금속 블록을 통해 열이 퍼져나가는 동시에 전기가 흐르는 방식이나, 강철이 굳으면서 냉각되고 모양이 변하는 방식 같은 것들 말입니다. 이것들은 단순한 문제가 아닙니다. 열, 전기, 응력(stress)과 같은 서로 다른 힘들이 서로 밀접하게 얽혀 끊임없이 영향을 주고받는 "멀티피직스(multiphysics)" 퍼즐입니다.

오랫동안 과학자들은 이러한 퍼즐을 풀기 위해 강력한 컴퓨터 시뮬레이션(유한 요소 해석과 같은)을 사용해 왔습니다. 하지만 이러한 시뮬레이션은 모든 움직임을 하나하나 확인하며 루빅스 큐브를 푸는 것처럼 매우 느립니다. 이를 가속화하기 위해 연구자들은 과거의 시뮬레이션으로부터 학습하여 미래를 즉각적으로 예측하는 AI 지름길인 "대리 모델(surrogate models)"을 사용합니다.

이 논문은 매우 실질적인 질문을 던집니다. 이러한 AI 지름길을 구축할 때, 서로 다른 물리적 힘들을 병렬로 작동하는 별개의 팀으로 설계해야 할까요, 아니면 함께 협력하는 하나의 거대하고 통합된 팀으로 설계해야 할까요?

연구진은 DeepONet이라는 유형의 AI를 사용하여 두 가지 주요 아키텍처 스타일을 테스트했습니다.

"단일 분기" 팀 (통합 부대): 전체 그림을 함께 바라보는 단일 작업 그룹을 상상해 보십시오. 이들은 모든 것을 기록할 공통의 노트(공유된 "잠재 공간")를 공유합니다. 이들은 열, 전기, 응력을 동시에 논의하며, 하나가 다른 것에 어떻게 영향을 미치는지 즉각적으로 이해합니다.
"다중 분기" 팀 (특화된 부서): 두 개의 별도 팀이 있다고 상상해 보십시오. 한 팀은 오직 열만 보고, 다른 한 팀은 오직 전기만 봅니다. 이들은 고립되어 작업하며 각자의 보고서를 작성한 다음, 맨 마지막 단계에서야 그 보고서들을 합쳐 최종 결과를 확인합니다.

실험: 세 가지 퍼즐

연구진은 어떤 "팀 구조"가 가장 효과적인지 알아보기 위해 세 가지 시나리오에서 이 두 가지 접근 방식을 테스트했습니다.

1. 단순한 퍼즐 (반응-확산)

시나리오: 두 가지 서로 다른 입력값(소스와 반응 속도)을 가진 단일 물리 과정(물속에서 화학 물질이 퍼지는 것과 같은).
결과: 다중 분기 팀이 승리했습니다. 입력값들이 독립적이었기 때문에(한 쪽이 다른 쪽에 영향을 주지 않음), 각자의 영역에 집중하는 특화된 전문가를 두는 것이 조금 더 정밀한 결과를 냈습니다. 이는 자동차를 만들 때 엔진 전문가와 타이어 전문가를 두는 것과 같습니다. 그들은 일을 잘 해내기 위해 서로 많이 대화할 필요가 없습니다.

2. 얽힌 퍼즐 (전기-열)

시나리오: 전선에 흐르는 전기가 열을 발생시키고, 이 열이 전기의 흐름을 변화시킵니다. 이들은 서로 분리할 수 없는 춤을 추듯 묶여 있습니다.
결과: 단일 분기 팀이 압승했습니다. 다중 분기 팀은 어려움을 겪었는데, 별도의 보고서를 합치려고 했을 때는 이미 열과 전기가 실시간으로 서로에게 미치는 미묘한 영향력을 놓친 상태였기 때문입니다. 열과 전기가 서로 어떻게 영향을 주고받는지 실시간으로 포착하지 못한 것입니다. 다중 분기 팀의 오차는 어떤 경우 15%가 넘었지만, 단일 분기 팀은 1% 미만의 거의 완벽한 결과를 보여주었습니다.

3. 무거운 짐 퍼즐 (강철 응고)

시나리오: 녹아 있는 강철이 냉각되는 과정입니다. 냉각됨에 따라 강철은 수축하고 응력을 생성합니다. 온도가 응력을 결정하고, 응력이 온도를 변화시킵니다. 이는 매우 복잡하고 "경로 의존적인(path-dependent)" 시스템입니다(냉각되는 과정의 이력이 중요함).
결과: 역시 단일 분기 팀이 명백한 승자였습니다. 강철의 거동은 매우 긴밀하게 결합되어 있어, "온도 팀"과 "응력 팀"을 분리하는 것은 상당한 오류를 초래했습니다. 열과 응력 사이의 관계를 동시에 학습한 통합 부대가 응력 수준을 훨씬 더 정확하게 예측했습니다.

핵심 결론

이 논문의 주요 발견은 이러한 AI 모델을 설계하기 위한 간단한 경험칙입니다. AI의 구조를 물리 법칙에 맞추십시오.

물리 현상이 "디커플링(decoupled, 독립적)"되어 있다면: 다중 분기 네트워크를 사용하십시오. 전문가들이 각자의 일을 하게 두십시오.
물리 현상이 "커플링(coupled, 밀접하게 결합)"되어 있다면: 단일 분기 네트워크를 사용하십시오. 전통적인 공학의 모놀리식(all-in-one) 솔버처럼, AI가 처음부터 힘들 사이의 연결 고리를 학습하도록 강제하십시오.

속도 보너스

정확도 외에도, 이 논문은 엄청난 속도 이점을 강조합니다. 이러한 AI 모델이 훈련되면, 복잡한 시스템의 거동을 전통적인 고성능 시뮬레이션보다 18,000배 빠르게 예측할 수 있습니다.

전통적인 솔버: 한 가지 시나리오를 해결하는 데 약 5.5분 소요.
AI 대리 모델: 약 0.02초 소요.

이는 몇 시간 또는 며칠이 걸리던 작업들을 이제 밀리초 단위로 수행할 수 있음을 의미하며, 제조 및 에너지 시스템과 같은 분야에서 실시간 모니터링과 제어의 길을 열어줍니다.

요약 비유

복잡한 스튜를 요리하는 상황을 생각해 보십시오.

토마토가 양상추에 영향을 주지 않는 샐러드를 만든다면, 한 사람은 토마토를 썰고 다른 사람은 양상추를 썰게 한 뒤 마지막에 섞으면 됩니다 (다중 분기).
하지만 고기가 육수의 맛을 바꾸고, 육수가 고기가 익는 방식에 영향을 주는 스튜를 만든다면, 맛을 보고 조절하며 끊임없이 모든 것을 함께 저어주는 한 명의 셰프가 필요합니다 (단일 분기). 만약 고기와 육수를 따로 요리한 뒤 마지막에 섞으려 한다면, 스튜의 맛은 잘못될 것입니다.

이 논문은 "스튜"(밀접하게 결합된 물리 현상)의 경우, 단일 셰프 방식이 단순히 더 나은 것을 넘어, 올바른 결과를 얻기 위해 반드시 필요하다는 것을 증명합니다.

기술 요약: DeepONet 및 S-DeepONet에서의 단일 브랜치 대 다중 브랜치 비교

문제 정의

복잡한 물리 시스템의 실시간 예측을 위해서는 데이터로부터 학습하면서도 강력한 다중물리 결합(multiphysics coupling)을 정확하게 표현할 수 있는 대리 모델(surrogate model)이 필요하다. Deep Operator Networks(DeepONet)는 단일 물리 문제에서 성공적인 성과를 보여왔으나, 긴밀하게 결합된 시스템(예: 열-기계적 또는 전기-열적 결합)의 비선형 상호작용을 포착하는 데 있어 그 효과성은 아직 충분히 탐구되지 않았다. 신경 연산자 아키텍처가 모델링하고자 하는 시스템의 물리적 결합 강도를 반영해야 하는지에 대한 중요한 격차가 존재한다. 구체적으로, 단일 브랜치 네트워크(잠재 표현을 공유함)와 다중 브랜치 네트워크(입력을 독립적으로 인코딩한 후 나중에 융합함) 중 어느 것이 다양한 결합 체계(coupling regimes)에서 더 우수한지는 불분명하다.

방법론

저자들은 두 가지 연산자 패밀리인 고전적인 피드포워드(feedforward) DeepONet과 순차적 S-DeepONet(경로 의존적 입력을 처리하기 위해 GRU를 활용함) 내에서 단일 브랜치와 다중 브랜치(MIONet 스타일) 설계를 비교하는 체계적인 토폴로지 절제 연구(topological ablation study)를 수행한다.

본 연구는 물리적 복잡성이 증가하는 세 가지 대표 벤치마크 문제를 통해 이러한 아키텍처를 평가한다:

단일 물리 반응-확산(Reaction-Diffusion): 이질적인 소스 및 반응 계수를 가진 수송 지배 프로세스이다. 입력은 공간 함수( $u_0(x), k(x)$ )이다.
결합된 전기-열 확산(Electro-Thermal Diffusion): 전기 전도와 열 확산을 포함하며, 전도율이 온도에 의존하고 줄 가열(Joule heating)이 발생하는 시스템이다. 입력은 시간 의존적 시퀀스( $Q_{ext}(t), \rho_e(t)$ )이다. 결합된(상호 의존적인 장) 경우와 비결합된(독립적인 장) 시나리오가 모두 테스트된다.
점소성 열-기계적 강철 응고(Viscoplastic Thermo-Mechanical Steel Solidification): 잠열을 동반한 열 전달, 상 변태(오스테나이트/델타 페라이트), 점소성 변형을 포함하는 복잡한 연속 주조 모델이다. 입력은 시간 의존적 열 유속 및 변위 이력이다. 결합된 경우와 비결합된(고정된 온도장) 시나리오가 모두 분석된다.

아키텍처 변형:

단일 브랜치(Single-Branch): 모든 입력 함수가 결합되어 공유 잠재 공간으로 공동 인코딩된다(공간 입력에는 FNN를, 순차적 입력에는 GRU를 사용).
다중 브랜치(Multi-Branch, MIONet 스타일): 각 입력 함수가 자체 브랜치 네트워크에 의해 독립적으로 인코딩된다. 브랜치 출력은 트렁크(trunk) 네트워크와 상호작용하기 전에 요소별(Hadamard) 곱을 통해 병합된다.

성능은 단일 물리 및 결합된 전기-열 사례의 경우 상대적 $L_2$ 오차를 사용하여, 열-기계적 사례의 경우 제로-응력 영역 근처의 불안정성을 피하기 위한 평균 절대 오차(MAE)를 사용하여 정량화한다. 또한 가우시안 노이즈 주입을 통해 강건성(robustness)을 테스트한다.

주요 결과

연구 결과, 뚜렷한 체계 의존적 성능 경향이 발견되었다:

강하게 결합된 시스템: 강력하게 결합된 다중물리 문제(전기-열 및 열-기계)에서 단일 브랜치 네트워크가 다중 브랜치 변형보다 일관되게 우수한 성능을 보였다.
- 전기-열: 단일 브랜치 S-DeepONet은 결합된 체계에서 다중 브랜치 대비 현저히 낮은 오차를 달로했다(예: 전기 전위의 경우 약 0.76% vs 약 4.23%). 다중 브랜치 모델은 특히 전기 전위에서 롱테일(long-tailed) 오차 분포를 보였다.
- 열-기계: 단일 브랜치 모델은 두 개의 브랜치를 가진 모델의 0.219 MPa에 비해 0.12 MPa의 응력 MAE를 기록했다. 또한 파손 예측에 중요한 피크 인장 값과 응력 역전을 더 잘 보존했다.
- 이유: 단일 브랜치 아키텍처는 공유된 잠재 표현을 장려하여, 고전적 수치 해석의 모놀리식 솔버(monolithic solver)와 유사하게 인코딩 과정 초기 단계에서 교차 항(cross-terms)과 비선형 장 간 의존성을 학습할 수 있게 한다.
비결합 또는 단일 물리 시스템: 단일 물리 또는 비결합된 다중물리 시나리오에서는 다중 브랜치 설계가 더 우수하거나 대등한 성능을 보인다.
- 반응-확산 벤치마크(단일 물리)에서 다중 브랜치 MIONet 변형은 단일 브랜치(3.40%)보다 낮은 오차(2.55%)를 달성했다.
- 비결합된 전기-열 및 열-기계 테스트에서 다중 브랜치 모델은 독립적인 입력을 위한 양식별(modality-specific) 인코더의 이점을 얻어 약간의 정확도 우위 또는 동등한 성능을 보였다.
계산 효율성:
- 학습: 단일 브랜치 모델은 일반적으로 더 적은 학습 파라미터와 짧은 학습 시간을 요구했다(예: 열-기계 모델의 경우 1.4시간 vs 2.8시간).
- 추론: 학습 후 모든 모델은 밀리초 단위로 전역 필드 예측을 제공했다. 학습된 S-DeepONet 모델은 HPC 시스템에서 실행되는 고충실도 유한요소해석(FEA) 솔버와 비교하여 약 $1.8 \times 10^4$ 배의 속도 향상을 달성했다.
강건성: 노이즈가 있는 입력 조건(3~15% 가우시안 노이즈 주입)에서도 이러한 경향은 지속되었다: 단일 브랜치 모델은 결합된 물리에 대해 더 강건한 모습을 보였고, 다중 브랜치 모델은 비결합된 경우에 더 나은 성능을 보였다.

의의 및 주장

본 논문은 신경 연산자 아키텍처의 선택이 대상 시스템의 물리적 결합 강도에 의해 유도되어야 한다고 주장한다:

강하게 결합된 시스템의 경우: 단일 브랜치 설계가 선호되는 아키텍처이다. 이는 공유된 글로벌 시스템을 통해 다중물리 상호작용을 전파함으로써, 요인화된(factorized) 접근 방식보다 고유한 교차 결합 항을 더 효과적으로 포착하는 모놀리식 솔버의 동작을 모사한다.
비결합된 시스템의 경우: 다중 브랜치 설계는 불필요한 파라미터 공유 없이 양식별 사전 지식(modality-specific priors)을 인코딩할 수 있는 모듈성 덕분에 유리하다.

저자들은 이러한 결과가 DeepONet 및 S-DeepONet 토폴로지에 특화된 경험적 관찰임을 강조한다. 이들은 푸리에 신경 연산자(Fourier Neural Operators)나 어텐션 기반 아키텍처와 같은 다른 연산자 패밀리에 대한 보편적 적용성을 주장하지 않으며, 패밀리 간의 교차 평가가 여전히 미해결 과제로 남아 있음을 명시한다.

궁극적으로, 본 연구는 신경 연산자 아키텍처를 기저 물리 법칙과 일치시키는 것이 복잡한 다중물리 시스템을 위한 확장 가능한 실시간 대리 모델을 구축하는 데 도움을 주며, 이를 통해 전통적인 고충실도 솔버의 계산적 병목 현상을 극복할 수 있음을 입증한다.