Machine Collective Intelligence for Explainable Scientific Discovery

본 논문은 수동적으로 구축된 도메인 지식에 의존하지 않고 경험적 데이터로부터 정확하고 해석 가능하며 고도로 외삽 가능한 지배 방정식을 자율적으로 발견하여 과학적 발견 분야에서 딥 신경망보다 월등히 우수한 성능을 보이는 심볼리즘과 메타휴리스틱을 통합한 통합 패러다임인'기계 집단 지성'을 소개한다.

핵심

맛있는 수프의 비밀 레시피를 알아내려 노력하고 있지만, 셰프가 요리를 하는 모습은 본 적이 없다고 상상해 보십시오. 여러분에게는 완성된 수프 한 그릇과 그 안에 들어 있을 것이라고 생각 되는 재료 목록만 있습니다.

오랫동안 과학자들은 인공지능 (AI) 을 사용하여 데이터로부터 이러한 "레시피"(과학적 방정식) 를 역으로 추론해 내려고 노력해 왔습니다. 그러나 대부분의 현대 AI 는 블랙박스 셰프처럼 행동합니다. 수프를 맛보고 맛을 완벽하게 추측할 수는 있지만, 그렇게 하는 방식은 수백만 개의 작고 보이지 않는 향신료를 섞는 것입니다. 여러분은 레시피를 읽을 수 없고, 왜 맛이 좋은지 설명할 수 없으며, 만약 약간 다른 재료 (새로운 상황) 로 수프를 요리해 보려고 하면 AI 는 종종 처참하게 실패합니다. 왜냐하면 요리 논리를 이해한 것이 아니라 원래 그릇을 단순히 암기했을 뿐이기 때문입니다.

이 논문은 **기계 집단 지성 (MCI)**이라는 새로운 접근법을 소개합니다. 이를 단일 천재 셰프가 아니라 미스터리를 해결하기 위해 함께 일하는 수사관 팀으로 생각하십시오.

구식 방식의 문제점

전통적인 AI(딥 신경망 등) 는 교과서의 모든 수학 문제를 암기하는 학생과 같습니다. 책에서 나온 문제를 주면 A 를 받지만, 조금 다른 모양의 문제를 주면 당황합니다. 왜냐하면 논리를 이해하지 못하고 정답만 기억하기 때문입니다.

오래된 "상징적 AI"는 실제 수학 공식을 작성하려고 시도했지만, 거대한 도서관을 혼자서 수색하는 단일 수사관과 같았습니다. 그들은 종종 막히거나, 올바른 책을 찾지 못하거나, 탐색 공간이 너무 커서 포기하곤 했습니다.

새로운 해결책: 수사관 팀

저자들은 여러 AI "에이전트"(그들을 주니어 수사관으로 생각하십시오) 가 진정한 과학적 방정식을 찾기 위해 협력하는 시스템을 만들었습니다. 그들의 "팀 회의"가 어떻게 작동하는지 살펴보겠습니다.

1. 브레인스토밍 세션: 팀은 빈 상태에서 시작합니다. 각 수사관은 방정식에 대한 자신의 추측 (가설) 을 적어냅니다.
2. 비평 서클: 단순히 가장 좋아 보이는 하나를 선택하는 대신, 팀은 모든 사람의 추측을 평가합니다. 그들은 두 가지 사항을 살펴봅니다.
   • 정확도: 추측이 데이터와 일치합니까?
   • 단순성: 방정식이 너무 복잡합니까? (그들은 지저분한 것보다 단순하고 우아한 공식을 선호합니다).
3. "아하!" 순간 (지식 공유): 이것이 비밀 소스입니다. 팀은 지금까지의 최고 추측을 선택합니다. 그런 다음 특정 분야 (화학이나 물리학 등) 에 훈련된 특별한 "전문가" 에이전트가 그 최고의 추측을 읽고 평범한 영어로 그것이 무엇을 의미하는지 설명합니다.
   • 예시: "이 방정식 부분은 마찰이 물체를 늦추는 것을 나타냅니다."
4. 진화: 팀은 이 새로운 설명을 받아 자신의 추측을 업데이트합니다. 그들은 단순히 정답을 복사하는 것이 아니라, 통찰력을 사용하여 사고를 진화시킵니다. 그들은 이 사이클을 반복하여 매 라운드마다 더 똑똑해집니다.

이것이 큰 이슈인 이유

이 논문은 이 방법이 다음 세 가지 주요 이유로 게임 체인저라고 주장합니다.

• 실제 "레시피"를 찾습니다: 데이터를 모방하는 블랙박스 AI 와 달리, MCI 는 뉴턴의 운동 법칙이나 화학 반응 속도율과 같은 근본적인 수학 법칙을 실제로 발견합니다. 그것은 패턴이 아닌 논리를 찾습니다.
• 미래를 예측할 수 있습니다 (외삽): AI 가 방정식의 논리를 이해하기 때문에, 이전에 본 적이 없는 상황에서 어떤 일이 일어나는지 예측할 수 있습니다.
  • 유사성: AI 가 "더 많은 열을 가하면 물이 끓는다"는 것을 학습하면, 100°C 의 물만 보았더라도 200°C 에서 어떤 일이 일어나는지 예측할 수 있습니다. 구식 AI 는 단순히 무작위로 추측할 뿐입니다.
  • 논문은 이러한 새로운, 보지 못한 시나리오를 예측할 때 MCI 가 딥 신경망보다 오차가 백만 배까지 작았음을 보여줍니다.
• 간단하고 인간이 읽을 수 있습니다: 최종 결과는 백만 줄의 코드가 아닙니다. 인간 과학자가 실제로 읽고, 이해하고, 사용할 수 있는 몇 개의 숫자 (파라미터) 만 포함된 짧고 깔끔한 방정식입니다. 이는 100 만 개의 파라미터를 가진 모델을 5 개 또는 40 개로 축소합니다.

결과

연구자들은 물리학, 화학, 생물학의 문제들에 대해 이 "수사관 팀"을 테스트했습니다.

• 경쟁: 그들은 MCI 를 기존 최우수 AI 방법과 비교했습니다.
• 결과: MCI 는 다른 방법들이 실패한 곳에서 일관되게 올바른 방정식을 찾았습니다. 어떤 경우에는 다른 AI 들이 문제를 해결조차 하지 못했지만, MCI 는 정확한 수학 공식을 찾았습니다.
• "미지" 테스트: 그들은 심지어 AI 의 훈련 데이터에 완전히 알려지지 않은 복잡한 실제 물리학을 가진 화학 반응기에서도 이를 테스트했습니다. MCI 는 여전히 매우 정확한 방정식을 찾아냈으며, 이는 단순히 배운 것을 반복하는 것이 아니라 새로운 지식을 발견할 수 있음을 증명했습니다.

요약

이 논문은 AI 가 과학을 수행하는 새로운 방식을 제시합니다. 데이터를 암기하는 초고속 계산기처럼 행동하는 대신, 협력 연구 팀처럼 행동하여 아이디어를 논의하고, 비판하고, 정제하여 단순하고 우아한 자연의 법칙을 발견할 때까지 이 과정을 거칩니다. 이는 AI 를 "블랙박스"에서 추론을 설명하고 미지를 예측할 수 있는 투명한 파트너로 변화시킵니다.

기술 요약

"Machine Collective Intelligence for Explainable Scientific Discovery" 논문에 대한 상세한 기술 요약입니다.

1. 문제 제기

이 논문은 AI 기반 과학적 발견의 근본적인 병목 현상, 즉 현대 AI(특히 심층 신경망 또는 DNN) 가 경험적 데이터로부터 설명 가능하고 외삽 가능한 지배 방정식을 유도하지 못하는 문제를 다룹니다.

• 연결주의의 한계: DNN 은 함수 근사와 고차원 잠재 관계 포착에 뛰어나지만, 수백만 개의 매개변수를 가진 "블랙박스"로 작동합니다. 이들은 해석 가능성이 결여된 비기호적 보간 함수를 생성하며, 훈련 데이터 분포를 넘어 일반화 (외삽) 하지 못합니다.
• 상징주의의 한계: 전통적인 심볼릭 회귀 방법 (예: 유전 프로그래밍) 은 인간이 읽을 수 있는 방정식을 찾으려 하지만, 실제 과학 시스템에서 발견되는 매우 비선형적이고 복잡한 입력 - 출력 관계에 종종 어려움을 겪습니다. 또한 최근의 대규모 언어 모델 (LLM) 기반 심볼릭 회귀 방법은 백본 LLM 의 사전 훈련된 지식에 크게 의존하여, 해당 사전 지식을 벗어난 새로운 물리 법칙을 발견하는 능력이 제한됩니다.
• 격차: 수작업으로 설계된 도메인 지식 없이도 컴팩트하고 해석 가능하며 견고한 과학 법칙을 자율적으로 발견하기 위해, 상징주의의 논리적 추론과 메타휴리스틱의 탐색 능력을 결합한 패러다임이 필요합니다.

2. 방법론: 기계 집단 지성 (MCI)

저자들은 지배 방정식의 자율적, 진화적 발견을 가능하게 하기 위해 상징주의와 메타휴리스틱을 통합한 통합 패러다임인 **기계 집단 지성 (MCI)**을 제안합니다.

핵심 구성 요소

1. 추상 구문 트리 (AST) 표현:

   • 지식을 선형 코드 시퀀스로 취급하는 표준 LLM 기반 방법과 달리, MCI 는 과학적 지식을 AST로 형식화합니다.
   • 장점: AST 는 실행과 무관한 세부 사항 (변수 이름, 주석) 을 추상화하여 필수 논리적 흐름을 드러냅니다. 이를 통해 MCI 는 설명 가능성을 트리 깊이 (논리적 복잡도) 에 반비례하여 정량화하고, 컴팩트한 방정식을 우선시합니다.

2. 다중 에이전트 추론 프레임워크:

   • MCI 는 $K$개의 LLM 기반 추론 에이전트 ($A_1, ..., A_K$) 그룹을 조정합니다.
   • 초기화: 에이전트들은 문제 명세 ($P$) 와 초기 가설 ($H$) 을 받아 초기 Python 코드를 생성하며, 이는 AST 로 파싱됩니다.
   • 반복 과정 (세 단계):
     • 단계 1: 복잡도 인식 평가: 에이전트들은 발견 점수 ($s$) 를 기반으로 생성된 AST 를 평가합니다. 이 점수는 예측 오차 (제곱합 오차) 와 복잡도 패널티 (트리 깊이 $d_k$ 및 자유 매개변수 수 $M_k$) 를 균형 있게 고려하여 최소 설명 길이 (MDL) 원칙을 준수합니다.
     • 단계 2: 지식 축적: 도메인 특화 에이전트가 현재 최선의 방정식 ($f_{best}$) 을 분석하여 자연어 설명 ($R$) 을 추출합니다. 이 튜플 $(R, f_{best})$은 집단 지식을 형성하며, 공유 메모리에 저장됩니다.
     • 단계 3: AST 생성: 에이전트들은 로컬 컨텍스트와 글로벌 집단 지식을 기반으로 새로운 코드를 생성하여 로컬 가설을 업데이트합니다. 이는 협력적 추론을 촉진하여 에이전트들이 개별 능력을 넘어 가설을 정제할 수 있게 합니다.

3. 구현:

   • 시스템은 재현성을 보장하고 폐쇄형 소스 모델에 대한 의존성을 피하기 위해 Mixtral:8x7b(오픈 아키텍처 LLM) 를 사용합니다.
   • 이 과정은 반복적으로 수행되어 지배 방정식을 수렴하거나 최대 반복 횟수에 도달할 때까지 정제합니다.

3. 주요 기여

• 통합 패러다임: MCI 는 LLM 추론과 개체 기반 메타휴리스틱을 통합함으로써 연결주의 AI(DNN/LLM) 와 상징주의 AI 간의 격차를 해소합니다.
• AST 기반 설명 가능성: AST 깊이를 통해 설명 가능성을 정량화하고 최적화하는 새로운 방법을 도입하여, 결과 방정식이 정확할 뿐만 아니라 구조적으로 단순하고 해석 가능하도록 보장합니다.
• 집단 지성 메커니즘: 공유된 "집단 지식"(최적 현재 솔루션의 분석) 을 가진 다중 에이전트 시스템이 단일 에이전트 접근법보다 훨씬 우수하며, 개별 LLM 의 추론 경계를 넘어선 발견을 가능하게 함을 입증합니다.
• 자율적 발견: 시스템은 수작업으로 설계된 도메인 지식 없이 작동하며, 결정론적, 확률적, 그리고 이전에는 특징화되지 않은 시스템에 대한 지배 방정식을 자율적으로 복원합니다.

4. 실험 결과

저자들은 물리학, 화학, 생물학의 10 개 벤치마크 문제 (예: 카이제곱 분포, 비선형 감쇠 진동자, 고분자 혼합, 박테리아 성장) 에서 MCI 를 평가했습니다.

• 정확도 (분포 내):

  • MCI 는 모든 벤치마크에서 가중 평균 절대 백분율 오차 (WMAPE) < 0.1을 달성했습니다.
  • GPlearn, PySR, LLM-SR과 같은 최신 방법을 크게 능가했습니다.
  • 가장 강력한 경쟁자 (LLM-SR) 와 비교하여 MCI 는 일반화 오차를 **29.92% 에서 99.99%**까지 감소시켰습니다.
  • 특정 사례 (예: FHST, HHM) 에서 MCI 는 $10^{-7}$에서 $10^{-8}$ 수준의 오차를 달성하여 실제 방정식을 효과적으로 재구성했습니다.

• 외삽 (분포 외 - OOD):

  • DNN은 외삽에 실패하여 여러 OOD 작업에서 WMAPE 가 1.0 을 초과했습니다.
  • LLM-SR도 구조적 이해 대신 조합적 열거에 의존하여 OOD 일반화에 어려움을 겪었습니다.
  • MCI는 모든 OOD 테스트에서 WMAPE < 0.1을 유지했습니다. 심층 신경망에 비해 외삽 오차를 최대 6 개 차수까지 감소시켰습니다.
  • 절대 연구: 집단 지성 측면을 제거 (기계 단일 지성, MSI) 한 결과 오차가 크게 증가하고 불안정해졌으며, 이는 다중 에이전트 지식 전파의 유효성을 입증했습니다.

• 모델 압축:

  • MCI 는 DNN 의 전형적인 0.51 백만 개 매개변수를 **540 개의 해석 가능한 매개변수**로 압축했습니다.

5. 의의

• AI 패러다임의 전환: 이 연구는 AI 를 "블랙박스 근사기"에서 원칙적이고 인간이 읽을 수 있는 법칙을 유도할 수 있는 자율 과학 발견자로의 전환을 의미합니다.
• 견고성: 국소 함수 적합보다 근본적인 물리적 구조를 우선시함으로써 MCI 는 OOD 일반화의 중요한 문제를 해결하여, AI 기반 모델을 실제 과학적 예측에 신뢰할 수 있게 만듭니다.
• 해석 가능성: 결과 방정식은 컴팩트하고 설명 가능하여, 과학자들이 예측 뒤에 있는 "이유"를 이해할 수 있게 하며, 이는 재료 과학, 약리학, 공학 분야에서 중요합니다.
• 확장성: 이 프레임워크는 도메인에 구애받지 않으며 특정 과학 코퍼스 에 대한 사전 훈련이 필요하지 않아, 사전 지식이 부족한 새로운, 특징화되지 않은 시스템에도 적용 가능합니다.

결론적으로, 기계 집단 지성은 LLM 의 추론 능력과 메타휴리스틱의 진화적 탐색을 성공적으로 결합하여 복잡한 시스템을 지배하는 근본 법칙을 자율적으로 발견하는 과학적 AI 의 획기적인 발전을 나타냅니다.