1. 문제 정의 (Problem)

편미분 방정식 (PDE) 은 물리 시스템을 모델링하는 데 필수적이지만, 이를 해결하는 것은 여전히 복잡한 과제입니다.

• 전통적 수치 해법: 전문가의 깊은 도메인 지식과 정교한 튜닝이 필요하며, 구현이 어렵고 계산 비용이 높습니다.
• 신경망 기반 솔버 (Neural PDE Solvers): PINN, FNO 등 데이터 기반 접근법은 학습에 대량의 데이터가 필요하며, 해석 가능성 (Interpretability) 이 부족하고 특정 문제에 종속되는 경향이 있습니다.
• LLM 의 한계: 대규모 언어 모델 (LLM) 이 과학적 문제 해결에 적용되고 있지만, PDE 솔버 생성과 같은 복잡한 작업에 대해 단순한 프롬프트만으로는 효과적이지 않으며, 추론 (Reasoning), 디버깅, 자기 정제 (Self-refinement) 등의 능력을 충분히 활용하지 못하고 있습니다.

핵심 질문: LLM 이 고수준의 자연어 설명으로부터 PDE 를 효과적이고 효율적으로 해결하는 실행 가능한 솔버 코드를 생성할 수 있는가?

2. 방법론: CodePDE 프레임워크 (Methodology)

저자들은 PDE 해결을 코드 생성 작업으로 재정의하고, 이를 위한 추론 프레임워크인 CodePDE를 제안했습니다. 이 프레임워크는 5 단계 프로세스로 구성되며, LLM 의 능력을 극대화하기 위해 추론 시간 (Inference-time) 알고리즘과 확장 전략을 통합합니다.

1. 작업 명세 (Task Specification): PDE 문제 ( governing equation, 경계 조건, 초기 조건 등) 를 LLM 이 처리할 수 있는 자연어 형식으로 변환합니다.
2. 코드 생성 (Code Generation): LLM 에게 체인 오브 씽킹 (Chain-of-Thought) 프롬프트를 사용하여 유한 차분법, 스펙트럴 방법, Runge-Kutta 적분 등 다양한 수치 기법을 조합한 솔버 코드를 생성하도록 지시합니다.
3. 디버깅 (Debugging): 생성된 코드를 실행하여 오류가 발생하면, 에러 로그와 원본 명세를 LLM 에게 피드백하여 오류 원인을 진단하고 수정하도록 합니다. 이 과정은 최대 4 회까지 반복됩니다.
4. 평가 (Evaluation): 실행 가능한 솔버에 대해 다음 세 가지 지표를 측정합니다.
   • 정확도: Ground truth 와의 정규화 RMS 오차 (nRMSE).
   • 수렴성 (Convergence): 격자 해상도가 세밀해질 때 오차가 감소하는지 확인 (수치적 안정성 검증).
   • 효율성: 코드 실행 시간.
5. 솔버 정제 (Solver Refinement): 평가 결과 (nRMSE 등) 를 피드백으로 제공하여 LLM 이 코드를 개선하도록 유도합니다. 이는 성능 최적화와 수치적 불안정성 해결을 목표로 합니다.

특징:

• Best-of-N 샘플링: 테스트 시간 확장 (Test-time scaling) 을 위해 여러 후보를 생성하고 가장 성능이 좋은 것을 선택합니다.
• 모듈러 설계: 로컬 배포 및 API 기반 인터페이스를 모두 지원하며, 다양한 에이전트 워크플로우와 호환됩니다.

3. 주요 기여 (Key Contributions)

1. CodePDE 프레임워크 개발: PDE 도메인 지식과 LLM 의 자기 개선 (Self-improvement) 및 테스트 시간 확장 능력을 결합한 최초의 추론 프레임워크를 제시했습니다.
2. LLM 기반 솔버 생성 능력 입증: 디버깅, 정제, 스케일링 기법을 결합했을 때 LLM 이 기존 수치 솔버 및 전문 PDE 소프트웨어와 경쟁력 있거나 더 나은 성능을 낼 수 있음을 보였습니다.
3. 포괄적 연구 및 통찰: 생성된 솔버의 정확도, 효율성, 수치 기법의 다양성 및 실패 모드를 분석하여 과학적 컴퓨팅에서 LLM 의 잠재력과 한계에 대한 새로운 통찰을 제공했습니다.

4. 실험 결과 및 분석 (Results & Analysis)

16 개의 다양한 LLM(Proprietary 및 Open-weight 모델 포함) 을 5 가지 대표적인 PDE(Advection, Burgers, Reaction-Diffusion, CNS, Darcy Flow) 에 대해 평가했습니다.

• 성능 비교:

  • **CodePDE(디버깅 + 정제 포함)**는 5 개 작업 중 4 개에서 수동으로 제작된 기준 솔버 (Reference Solvers) 보다 높은 정확도 (낮은 nRMSE) 를 달성했습니다.
  • 예: Burgers 방정식에서 Gemini 2.0 Flash 는 정제 후 nRMSE 를 $1.06 \times 10^{-4}$로 낮추어 기준 솔버 ($3.55 \times 10^{-4}$) 대비 70% 정확도 개선을 보였습니다.
  • 신경망 기반 솔버 (FNO, PINN 등) 보다 일반적으로 우수한 성능을 보였습니다.

• 핵심 역량 평가:

  • 디버깅: 단일 시도 (Single-shot) 에서 솔버의 실행 성공률은 평균 41% 였으나, 자동 디버깅을 적용하면 **84%**까지 상승했습니다. Frontier 모델들은 90% 이상의 무결점 생성률을 보였습니다.
  • 자기 정제 (Refinement): 성능 피드백을 통한 정제는 모든 PDE 에서 솔루션 품질을 일관되게 향상시켰습니다.
  • 테스트 시간 확장 (Test-Time Scaling): 샘플 수 (Best-of-N) 를 늘릴수록 정확도가 향상되었으며, 특히 $N=4$에서 $N=16$ 구간에서 가장 큰 개선을 보였습니다.

• 새로운 통찰 (Insights):

  • 신뢰성 vs. 정교함의 트레이드오프: 일부 모델은 복잡한 방법을 시도하다가 실패하는 대신 단순하고 안정적인 1 차 방법을 선택하여 높은 '실패 없는 비율'을 보였습니다. 반면, o3 나 DeepSeek-R1 같은 모델은 더 다양한 고차 방법을 생성하면서도 합리적인 신뢰도를 유지했습니다.
  • 생성 vs. 정제 능력의 분리: 코드를 처음부터 잘 생성하는 모델 (예: o3, DeepSeek-R1) 이 반드시 기존 코드를 정제하는 데 가장 뛰어난 것은 아니라는 점을 발견했습니다.
  • 실패 모드: Reaction-Diffusion 방정식과 같이 반응 항에 해석적 해가 존재하는 경우, LLM 은 이를 활용하지 않고 이산화 (Discretization) 를 적용하여 성능이 저하되는 경향이 있었습니다. 이는 인간 전문가의 힌트 (Human-in-the-loop) 를 통해 해결 가능함을 보였습니다.

5. 의의 및 결론 (Significance)

• 과학적 컴퓨팅의 민주화: PDE 솔버 구현에 필요한 높은 수준의 전문 지식을 LLM 이 대체하여, 도메인 과학자들이 자연어로 문제를 정의하고 고품질 솔버를 얻을 수 있게 합니다.
• 해석 가능성 (Interpretability): 신경망 솔버와 달리 LLM 은 가독성 있는 코드를 생성하므로, 오류 원인을 진단하고 수정할 수 있어 신뢰성을 확보할 수 있습니다.
• 에이전트 설계 가이드: 단순한 프롬프팅보다는 자동 디버깅, 자기 정제, 테스트 시간 확장이 결합된 구조화된 추론 프레임워크가 과학적 태스크 수행에 필수적임을 입증했습니다.
• 미래 전망: CodePDE 는 LLM 기반 과학적 엔진 개발의 기초를 제공하며, 인간과 AI 의 협업을 통한 과학적 발견의 새로운 패러다임을 제시합니다.

이 논문은 LLM 이 단순히 코드를 작성하는 것을 넘어, 복잡한 수학적 문제를 해결하는 지능형 과학 에이전트로 진화할 수 있음을 보여주는 중요한 이정표입니다.