Executable Chain-of-Thought Symbolic Regression with Large Language Models for Automated Physical Discovery
본 논문은 사고의 사슬(chain-of-thought) 추론을 타입이 지정된 기호 유도 그래프(Symbolic Derivation Graph)로 실행함으로써, 대규모 언어 모델 기반의 기호 회귀를 실행 가능한 유도 흔적을 가진 컴팩트하고 기계 검증 가능한 물리 법칙을 생성하도록 하드 제약 조건과 소프트 검증 신호를 강제하는 검증 수행 프레임워크인 \ours를 소개한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
과학은 종종 압축의 과정처럼 느껴진다. 과학자는 하늘을 가로지르는 행성, 플라스크 안에서 반응하는 화학 물질, 혹은 파이프를 통해 흐르는 물과 같은 방대한 사건의 집합을 관찰하고, 그 혼돈을 하나의 응축된 수학적 법칙으로 추출하고자 한다. 이 법칙은 단순히 다음 데이터 포인트를 예측하기 위한 도구가 아니다. 그것은 세상이 어떻게 작동하는지에 대한 진술이며, 검토되고 이해될 수 있고, 새로운 상황으로 확장될 수 있는 것이다. 수 세기 동안 이러한 법칙을 찾는 데는 인간의 직관이 필요했지만, 현대 데이터의 엄청난 양은 그 탐색 과정을 점점 더 어렵게 만들었다. 가능한 방정식의 공간은 너무나 광대하여 강력한 컴퓨터조차 잘못된 가능성의 바다에서 길을 잃지 않고 올바른 것을 찾아내는 데 어려움을 겪는다. 과제는 단순히 우리가 가진 데이터에 들어맞는 공식을 찾는 것이 아니라, 조건이 변하거나, 데이터에 노이즈가 섞이거나, 혹은 우리가 한 번도 보지 못한 시스템의 일부를 바라볼 때도 여전히 유효한 특정 공식을 찾는 것이다.
최 최근 몇 년 동안, 연구자들은 방대한 양의 텍스트와 코드로 학습된 시스템인 대규모 언어 모델을 사용하여 이 탐색을 돕고자 했다. 이 모델들은 익숙한 패턴을 회상하고 방정식의 그럴듯한 구조를 제안하는 데 탁월하다. 그러나 이러한 모델들이 제안할 수 있는 것과 그들이 증명할 수 있는 것 사이에는 상당한 간극이 존재해 왔다. 모델은 표면적으로는 올바르게 보이는 공식을 제안할 수 있지만, 그곳에 도달하기 위해 거친 단계들은 논리적으로 결함이 있거나, 물리적으로 불가능하거나, 혹은 수학적으로 불안정할 수 있다. 이는 마치 시험에서 정답은 적었지만 풀이 과정을 보여줄 수 없거나, 더 나아가 문제가 약간만 바뀌어도 드러나는 숨겨진 오류가 포함된 풀이 과정을 보여주는 학생과 같다. 기존의 방법들은 추론 과정을 자유로운 형식의 대화로 취급하여 최종 방정식만을 중요하게 여겼으며, 이로 인해 그 방정식에 이르는 경로는 검증되지 않았고 잠재적으로 신뢰할 수 없는 상태로 남겨졌다.
이를 해결하기 위해, 본 연구의 저자들은 CoT-SR이라는 새로운 프레임워크를 개발했다. 이 시스템은 과학적 법칙을 찾는 방식을, 단순한 추측과 확인 게임이 아니라 엄격하고 단계적인 구축 과정으로 다룸으로써 컴퓨터가 과학적 법칙을 탐색하는 방식을 변화시킨다. 언어 모델이 방정식을 정당화하기 위해 텍ual 문단을 작성하도록 내버려 두는 대신, 이 시스템은 모델이 단순한 시작 식을 더 복잡한 식으로 변환하는 구체적이고 실행 가능한 동작을 제안하도록 강제한다. 각 단계는 새로운 항을 추가하거나, 변수를 변경하거나, 알려진 물리 법칙을 적용하는 것과 같은 타입이 지정된 동작(typed action)이다. 결정적으로, 모든 단계는 별도의 독립적인 시스템에 의해 즉시 검사되어 타당성을 확인받는다. 시스템은 수학적 구문이 올 และ 물리적 단위가 타당한지(예를 들어, 미터를 초에 더하는 것과 같은 오류를 방지함), 그리고 방정식이 극한 조건에서도 합리적으로 작동하는지를 검증한다.
이 연구의 핵심 혁신은 '기호 유도 그래프(symbolic derivation graph)'의 생성이다. 모든 경로가 방정식을 만드는 서로 다른 방법을 나타내는 지도를 상상해 보라. 이전의 방법들에서 컴퓨터는 막연한 짐작에 따라 한 아이디어에서 다른 아이디어로 건너뛰었을 수 있다. 이 새로운 접근 방식에서 컴퓨터는 다음 단계가 엄격한 규칙 세트를 통과할 때만 경로를 따라 이동할 수 있다. 만약 제안된 단계가 물리 법칙이나 대수 법칙을 위반하면, 그 경로는 즉시 폐쇄되며 시스템은 그 막다른 골목을 탐색하는 데 시간을 낭비하지 않는다. 이 과정은 법칙을 찾는 과정을 유효한 가능성의 풍경 속을 여행하는 것으로 바꾸며, 여기서 모든 움직임은 기록되고 검증된다. 시스템은 모든 성공적인 단계와 실패한 시도를 기록하여, 최종 방정식이 어떻게 유도되었는지, 그리고 왜 대안적인 경로들이 거부되었는지를 설명하는 완전하고 감사 가능한 흔적을 만든다로.
연구진은 고전적인 천체 운동 및 열역학 문제를 포함한 다양한 도전 과제부터 인공지능을 속이도록 설계된 복잡한 합성 데이터셋에 이르기까지 이 시스템을 테스트했다. 그들은 CoT-SR이 이전 방법들보다 올바른 방정식을 찾는 데 훨씬 더 뛰어나다는 것을 발견했다. 알려진 물리 법칙을 정확히 복구하는 것이 목표인 테스트에서, 이 새로운 시스템은 벤치마크 결과에 상세히 기술된 바와 같이 비교된 방법들 중 가장 높은 정확한 복구율을 달면서 차순위의 접근 방식을 앞질렀다. 더 중요한 것은, 이 시스템이 노이즈가 섞인 데이터에 직면하거나 원래 측정 범위를 벗어난 행동을 예측하도록 요청받았을 때 훨씬 더 견고하다는 점을 입증했다는 것이다. 다른 방법들은 데이터가 약간 왜곡되거나 입력 변수가 새로운 극단으로 확장될 때 자주 실패했지만, CoT-SR은 그 정확도를 유지했다. 이는 시스템이 단순히 현재의 숫자에 완벽하게 들어맞는 것이 아니라, 구조적으로 건전하고 물리적으로 일관된 방정식을 우선시하기 때문이다.
이 새로운 프레임워크의 주요 특징은 자신의 가설을 능동적으로 테스트하는 능력이다. 시스템이 두 개의 경쟁하는 방정식 사이에서 확신이 없을 때, 단순히 종이 위에서 더 좋아 보이는 것을 선택하지 않는다. 대신, 두 방정식이 가장 크게 의견 차이를 보일 지점을 계산하고, 그 특정 지점에서 새로운 측정을 요구한다. 이는 과학자가 두 이론을 구별하기 위해 결정적인 실험을 설계하는 것과 유사하다. 제한된 자원을 가장 정보가 많은 데이터 포인트에 집중함으로써, 시스템은 잘못된 가능성을 빠르게 배제하고 진정한 법칙을 찾아낼 수 있다. 시뮬레이션에서 이러한 능동적인 접근 방식은 무작위로 데이터를 수집했을 때보다 훨씬 더 빠르게 오답을 제거할 수 있게 해주었다. 그 결과는 단순히 최종 방정식만이 아니라, 방정식과 단계별 유도 과정, 그리고 이를 뒷받침하는 증거의 기록이 포함된 완전한 패키지이다.
이 연구는 또한 언어 모델의 기억력에만 의존하는 것의 한계를 강조한다. 많은 이전 시스템들은 방정식이 약간 변형되거나 위장되어 제시될 때 어려움을 겪었는데, 이는 그들이 진정으로 기저의 논리를 이해하기보다는 훈련 데이터로부터 패턴을 단순히 회상했기 때문이다. 반면, CoT-SR은 유도 단계의 타당성에 의존한다. 설령 모델이 이전에 본 적 없는 특정 방정식을 접하더라도, 논리적 단계가 건전하다면 이를 올바르게 구축할 수 있다. 이는 과학적 발견을 위해서라면 답변을 회상하는 능력보다 과정을 검증하는 능력이 더 중요하다는 것을 시사한다. 연구진은 엄격한 검증 단계를 제거했을 때 시스템의 성능이 크게 떨어진다는 것을 발견했으며, 이는 모든 단계의 철저한 검사가 이 접근 방식을 효과적으로 만드는 핵심임을 확인시켜 준다.
궁극적으로, 이 작업은 인공지능이 과학적 발견을 도울 수 있는 방식의 변화를 나타낸다. 이는 예측을 출력하는 블랙박스라는 개념에서 벗어나, 모든 주장이 증거에 의해 뒷받침되는 지식을 단계별로 구축하는 투명한 시스템으로 나아가는 것이다. 최종 출력물은 단순한 공식이 아니라, 그 공식이 어떻게 발견되었는지에 대한 검증된 이야기이다. 이 차이는 '무엇'만큼이나 '왜'를 이해하는 것이 중요한 과학에서 매우 중요하다. 모든 중간 단계가 실행 가능하고 검사 가능하도록 보장함으로써, 연구진은 과학자들이 새로운 법칙을 찾는 복잡한 탐색을 항해할 수 있도록 돕는 도구를 만들어냈으며, 이전에는 도달할 수 없었던 수준의 신뢰성과 명확성을 제공한다. 이 시스템은 결코 무결하다고 주장하지 않으며 여전히 인간의 감독을 필요로 하지만, 패턴 인식의 강점과 물리 과학의 엄격한 요구 사항을 결합하는 강력하고 새로운 방법을 제공한다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.