Large Language Model Based Agent for Automated Discovery in Computational Physics

이 논문은 대규모 언어 모델과 도메인 특화 도구를 활용하여 계산 물리학 분야의 과학적 솔루션을 체계적으로 탐색하고 최적화하는 자율 에이전트인 PhyNex를 소개하며, 이 모델은 유전 스펙트럼 예측, Max-Cut 휴리스틱, 양자 배터리 최적화와 같은 다양한 과제에서 인간이 설계한 최첨단 방법론과 대등하거나 이를 능가하는 성과를 성공적으로 달성했습니다.

핵심

당신이 새로운 레시피를 발명하려는 마스터 셰프라고 상상해 보십시오. 당신은 요리가 어떤 맛이 나야 하는지(목표) 정확히 알고 있으며, 허용된 식재료와 주방의 규칙(물리적 제약 조건)도 알고 있습니다. 하지만 향신료의 정확한 양이나 정밀한 조리 시간은 모릅니다. 전통적인 방식이라면, 완벽한 레시피를 만들기 위해 맛을 보고, 조정하고, 실패하고, 다시 수정하는 과정을 수개월 또는 수년 동안 반복해야 했을 것입니다.

이 논문은 바로 이 작업을 당신을 대신해 수행할, 즉 맛을 보고 수정해 줄 새로운 종류의 "로봇 수셰프"인 PhyNex를 소개합니다. 특히 계산 물리학 분야의 문제들을 해결하기 위해 설계되었습니다.

PhyNex가 어떻게 작동하는지 쉬운 비유를 통해 설명하겠습니다.

1. 로봇 셰프의 전략

PhyNex는 무턱대고 짐작하는 대신, 매우 조직적이고 끈기 있는 탐구자처럼 행동합니다.

• "한 번에 한 단계씩" 규칙: 복잡한 기계를 가지고 있다고 상상해 보십시오. 기계 전체를 처음부터 다시 만드는 대신, PhyNex는 단 하나의 작은 부품만 바꿉니다(예를 들어, 기어를 교체하거나 나사를 조이는 것처럼 말이죠). 그런 다음 그 기계를 테스트합니다.
• 점수판: 변화를 만들 때마다 점수를 얻습니다. 점수가 올라가면 그 변화를 유지하고, 점수가 내려가면 다른 것을 시도합니다.
• "학습 노트": 이것이 로봇의 초능력입니다. 만약 어떤 변화가 기계를 고장 낸다면("버그"), PhyNex는 단순히 포기하는 것이 아니라 왜 고장이 났는지, 그리고 어떻게 고쳐야 하는지를 공유된 "학습 노트"에 기록합니다. 만약 다른 로봇 분과(branch)가 나중에 똑같은 실수를 하려고 하면, 이 노트를 확인하여 오류를 피합니다. 즉, 더 많이 시도할수록 더 똑똑해집니다.

2. 세 가지 도전 과제 (레시피들)

저자들은 PhyNex가 인간 전문가보다 뛰어난 성과를 낼 수 있는지 확인하기 위해 세 가지 매우 다른 과학적 "레시피"에 대해 테스트했습니다.

• 도전 A: 빛의 예측 (수정 프리즘)

  • 과제: 과학자들은 결정(crystal)을 가지고 있으며, 이 결정이 빛과 어떻게 상호작용할지(마치 프리즘이 빛을 무지개색으로 나누는 것처럼) 정확히 알고 싶어 합니다. 보통 이를 위해서는 비용이 많이 들고 느린 컴퓨터 시뮬레이션이 필요합니다.
  • 결과: PhyNex는 결정의 형태로부터 직접 이러한 빛의 패턴을 예측하는 방법을 찾아냈습니다. 또한 특정 규칙을 발견했습니다: "빛의 흡수는 항상 양수여야 한다"(빛이 음수가 될 수는 없습니다). 이 간단한 규칙을 추가함으로써, PhyNex는 인간이 설계한 모델보다 더 정확해졌습니다.

• 도전 B: 그래프 자르기 (파티 나누기)

  • 과제: 사람들이 우정(그래프)으로 연결된 파티를 상상해 보십시오. 당신은 손님들을 두 그룹으로 나누되, 최대한 많은 우정(연결)이 "잘리도록"(사람들이 서로 다른 그룹에 속하도록) 하고 싶습니다. 이는 고전적인 수학 퍼즐입니다.
  • 결과: PhyNex는 모든 사람과 친한 "인기 있는" 사람들(허브)을 다루는 새로운 전략을 발명했습니다. 인기가 많은 사람들에 대해 먼저 결정을 내리기로 한 것입니다. 이 접근 방식은 인간이 이전에 설계했던 방법들보다 그룹을 나누는 데 훨씬 더 효과적이었습니다.

• 도전 C: 양자 배터리 충전 (에너지 스프린트)

  • 과제: 양자 배터리는 아주 작고 미래적인 배터리로, 엄청나게 빠르게 충전될 수 있지만 매우 혼란스럽고 제어하기 어렵습니다. 과학자들은 배터리가 폭발하거나 에너지를 잃지 않으면서도 가장 많은 에너지를 얻을 수 있는 완벽한 "충전 일정"을 찾아야 합니다.
  • 결과: PhyNex는 두 가지 서로 다른 충전 방식을 찾아냈습니다. 하나는 부드럽고 일정한 리듬(차분한 심장 박동처럼)을 따르는 방식이고, 다른 하나는 최악의 시나리오에 대비하는 신중한 전략입니다. 두 방법 모두 충전 초기 단계에서 인간이 설계한 방식보다 더 많은 에너지를 추출했습니다.

3. 이것이 중요한 이유

이 논문은 PhyNex가 인간 연구자가 시행착오를 거쳐 몇 달이 걸릴 수도 있는 문제를 약 12시간 만에 해결할 수 있다고 주장합니다.

• 투명성: 내부를 알 수 없는 "블랙박스" AI와 달리, PhyNex는 빵부스러기 같은 흔적을 남깁니다. 당신은 "학습 노트"를 살펴보고 어떤 작은 변화가 가장 큰 개선을 가져왔는지 정확히 확인할 수 있습니다.
• 업무 분담: 이 논문은 과학이 작동하는 새로운 방식을 제안합니다.
  • 인간은 규칙, 목표, 그리고 물리 법칙(즉, "무엇"과 "왜")을 정의합니다.
  • PhyNex는 최선의 솔루션을 찾기 위해 수천 가지 조합을 시도하는 지루하고 반복적인 작업(즉, "어떻게")을 처리합니다.

요약하자면, PhyNex는 과학적 솔루션이라는 광활한 풍경을 항해하는 자동화된 탐험가입니다. 스스로의 실수로부터 배우고, 인간이 혼자서 찾을 수 있는 것보다 더 나은 길을 찾아내며, 그 과정에 도달한 경로를 명확하게 기록합니다.

기술 요약

기술 요약: PhyNex – 계산 물리학의 자동 발견을 위한 LLM 기반 에이전트

문제 정의

계산 물리학에서의 과학적 발견은 종종 물리적 제약 조건이 있는 정량적으로 평가 가능한 목적 함수를 최적화하는 과정을 포함한다. 연구자들은 이러한 문제를 공식화하는 데는 탁월하지만, 방법론을 반복적으로 개선하고, 구현을 디버깅하며, 솔루션 전략을 미세 조정하는 과정은 노동 집약적이며 종종 수개월 또는 수년이 소요된다. 기존의 자동화된 접근 방식은 상당한 한계에 직면해 있다: 모듈형 신경-기호(neural-symbolic) 아키텍처는 일반화 능력이 부족한 경우가 많으며, 진화적 프로그램 탐색 방법은 유연하긴 하지만 특정 코드 수정과 성능 향상 사이의 인과 관계를 불분명하게 만든다. 또한, 많은 자율 연구 에이전트들은 특정 작업 클래스에 맞춰져 있어 새로운 도메인으로 적응하는 데 많은 비용이 든다.

따라서 다음과 같은 능력을 갖춘 시스템이 필요하다:

1. 다양한 계산 물리학 문제에 걸쳐 일반화할 수 있는 능력.
2. 특정 알고리즘 구성 요소에 대한 성능 향상의 해석 가능한 귀속(attribution) 제공.
3. (코드에서 점수로의 매핑이 미분 불가능하므로) 경사 기반 최적화에 의존하지 않고 실행 가능한 프로그램의 탐색 공간을 탐색하는 능력.

방법론: PhyNex 프레임워크

저자들은 scorable(점수화 가능한) 과학적 과제의 솔루션 공간을 체계적으로 탐색하도록 설계된 자율 에이전트인 PhyNex를 소개한다. PhyNex는 LLM 가이드 탐색과 물리적 일관성을 강제하는 도메인 특화 계산 도구를 결합한다.

핵심 아키텍처

이 프레임워크는 다음 구성 요소로 정의되는 폐쇄 루프(closed-loop) 에이전트(그림 1)로 작동한다:

• 문제 공식화: 과제 $T$는 입력 공간 $X$, 출력 공간 $Y$, 그리고 과학자가 제공하는 도메인 특화 도구 $U$(시뮬레이터, 데이터 로더, 평가기)로 구성된 $(X, Y, U)$로 정의된다. 목표는 스코어링 함수 $M(\omega)$를 최대화하는 실행 가능한 프로그램 $\omega$를 찾는 것이다.
• 점진적 국소 탐색(Progressive Local Search): PhyNex는 전역적인 구조 재편을 수행하지 않는다. 대신, 국소적이고 단일 구성 요소 중심의 수정을 통해 솔루션을 정교화한다. 각 단계에서 LLM은 부모 프로그램에 대해 표적화된 변화 $\Delta\omega$를 제안한다. 이는 점수의 변화가 특정 알고리즘 선택에 직접적으로 귀속될 수 있도록 보장한다.
• 지식 축적: 시스템은 성공 및 실패 사례로부터 도출된 "교훈(lessons)"을 담은 글로벌 지식 베이스($K_{global}$)를 유지한다.
  • 교정(Rectification): 후보 프로그램이 실패(런타임 에러)할 경우, 에러와 진단 출력이 LLM에 피드백되어 수정을 위한 정보를 제공한다.
  • 실패 교훈(Failure Lessons): 성공적인 복구 과정에서 생성된 교훈은 실패 모드와 해결책을 설명한다. 이는 이후의 다른 브랜치에서 중복된 실패를 방지하기 위해 $K_{global}$에 추가된다.
• 깊이 가이드 병렬 탐색(Depth-Guided Parallel Exploration): PhyNex는 서로 다른 초기 솔루션에서 시작하는 $K$개의 독립적인 탐색 트리를 병렬로 실행한다.
  • 트리 로직: 수정 사항이 점수를 개선하는 경우에만 브랜치가 계속 진행되며, 그렇지 않으면 종료된다.
  • 결합(Coupling): 모든 트리는 공유된 $K_{global}$ 지식 베이스를 사용하여, 한 궤적(trajectory)에서 발생한 실패를 다른 궤적에서도 피할 수 있도록 한다.
  • 궤적 로깅: 모든 수정 사항은 점수 변화와 함께 기록되어, 해석 가능한 명시적 탐색 궤적을 생성한다.

주요 기여

1. 자율적 알고리즘 발견: PhyNex는 광범위한 프롬프트 엔서니어링 없이도 세 가지 뚜렷한 도메인에서 인간이 설계한 최첨단(SOTA) 베이스라인과 일치하거나 이를 능가하는 솔루션을 자율적으로 식별한다.
2. 해석 가능성 및 귀속: 수정을 단일 구성 요소로 제한하고 결과적인 점수 변화를 기록함으로써, PhyNex는 성능을 주도하는 어떤 설계 선택이 중요한지를 밝혀내는 탐색 궤적을 생성한다. 이를 통해 연구자들은 개선의 인과 메커니즘(예: 특정 활성화 함수이나 스케줄링 전략이 성공의 주요 동인이었음을 식별하는 것)을 이해할 수 있다.
3. 도구링을 통한 물리적 일관성: 이 프레임워크는 LLM의 내부 지식에만 의존하는 것이 아니라 도구 세트 $U$(예: 시뮬레이터, 평가기)를 통해 물리적 제약을 강제하여, 모든 후보 솔루션이 유효한 물리적 영역 내에서 작동하도록 보장한다.

실험 결과

PhyNex는 세 가지 대표적인 문제에 대해 검증되었으며, 12시간의 계산 내에 인간 베이스라인을 상회하는 탐색 평균 개선치를 달랬다.

과제 1: 반도체의 스펙트럼 예측

• 목표: 결정 구조로부터 주파수 의존적 유전 스펙트럼을 예측함.
• 베이스라인: Ref. [22]의 인간 설계 그래프 신경망(GNN).
• PhyNex 성능: 베이스라인을 초과하는 탐색 평균 유사도 계수(SC)를 달성함.
  • $\text{Im}(\bar{\epsilon}_{100})$: $0.810 \pm 0.011$ (vs. $0.78$ 베이스라인).
  • $\text{Re}(\bar{n}_{300})$: $0.951 \pm 0.003$ (vs. $0.94$ 베이스라인).
• 핵심 통찰: PhyNex는 비음수 광학 흡수(non-negative optical absorption)를 강제하기 위한 Softplus 활성화 함수와 굴절률의 베이스라인 오프셋과 같은 물리적으로 동기화된 제약 조건을 자율적으로 도입했으며, 이것이 개선의 주요 동인임을 식별했다.

과제 2: 확률적 회로 Max-Cut 최적화

• 목표: 정규 그래프 및 Barabási–Albert (BA) 척도 없는 네트워크(scale-free graphs)에 대한 변분 알고리즘 설계.
• 베이스라인: R-PAOA [23].
• PhyNex 성능:
  • 정규 그래프: 단 4개의 파라미터만을 사용하여 정규화된 평균 컷(normalized mean cut)을 $0.649 \to 0.743$ (2-regular) 및 $0.567 \to 0.652$ (3-regular)로 개선함 (R-PAOA의 수백 개 파라미터 대비).
  • BA 그래프: 정규화된 평균 컷을 $0.561$에서$0.603$으로 개선함.
• 핵심 통찰: 에이전트는 차수 인식 게이트 스케줄링(허브 노드 우선순위 지정)과 게이트 간의 시간적 상관관계를 발견하여, 척도 없는 네트워크의 이질적 구조를 효과적으로 활용했다.

과제 3: Dicke 양자 배터리의 충전 프로토콜 최적화

• 목표: 카오틱 결합(chaotic coupling) 영역에서 에르고트로피(ergotropy)를 최대화하기 위한 시간 의존적 제어 프로토콜 최적화.
• 베이스라인: 인간이 설계한 Soft Actor-Critic (SAC) 접근법.
• PhyNex 성능:
  • 가이드 탐색 (SAC 사전 정보 포함): 80k 훈련 체크포인트에서 $7.78\%$ 개선 달성.
  • 개방형 탐색 (사전 정보 없음): 80k 체크포인트에서 탐색 평균 $5.90\%$ 개선을 달성했으며, 480k 스텝에서는 베이스라인을 약간 상회함.
• 핵심 통찰: 에이전트는 우선순위 경험 재생(prioritized experience replay)을 균등 샘플링(uniform sampling)으로 교체하고, 액터 손실(actor loss)에 **매끄러움 페널티(smoothness penalty)**를 추가하는 것이 양자 노이즈에 대한 과적합을 줄이고 불안정한 제어 변동을 방지하여 성능을 향상시킨다는 것을 발견했다.

의의 및 주장

본 논문은 PhyNex가 과학 연구에서 실질적인 분업을 보여준다고 주장한다:

• 과학자는 목표, 제약 조건 및 평가 지표(도구 세트 $U$를 통해)를 정의한다.
• 자동화된 시스템은 구현 및 하이퍼파라미터 튜닝의 시행착오 루프를 처리하며 방법론적 탐색 공간을 항해한다.

저자들은 PhyNex가 물리적 통찰력을 대체하는 것이 아니라, 문제 명세로부터 효과적인 구현에 이르는 경로를 가속화한다는 점을 강조한다. PhyNex가 생성하는 해석 가능한 탐색 궤적은 연구자가 미래의 알고리즘 설계를 뒷받침할 수 있는 메커리즘적 통찰(인과 관계 패턴)을 추출할 수 있게 해주는 핵심 기능으로 강조된다. 이 연구는 스코어링 가능한 목적 함수와 적절한 평가 비용이 따르는 문제에 대해, LLM에 의해 구동되는 체계적인 탐색이 과학적 발견을 실질적으로 가속화할 수 있음을 시사한다.

저자가 언급한 한계점:

• 본 프레임워크는 스코어링 가능한 목적 함수와 중간 정도의 평가 비용이 드는 과제에 국한된다 (대규모 DFT와 같이 매우 비용이 많이 드는 시뮬레이션은 제외).
• 탐색은 국소적(local)이므로, 비국소적 도약(non-local jumps)이 필요한 질적으로 다른 솔루션 군을 놓칠 수 있다.
• 과제 3의 탐색 목적은 특정 체크포인트(80k)에서 정의되었으며, 결과는 해당 시점에서 가장 두드러진다.