기술 요약: FALSIFYBENCH

문제 정의

대규모 언어 모델(LLM)이 과학적 과업을 수행하는 자율 에이전트로 점점 더 많이 배치되고 있지만, 과학적 발견에 필요한 특정 형태의 귀납적 추론을 수행할 수 있는지는 여전히 미해결 과제로 남아 있다. 과학적 추론의 핵심 요소는 가설 기반 추론(hypothesis-driven reasoning), 즉 새로운 증거에 비추어 가설을 생성, 평가 및 수정하는 능력이며, 여기에는 **반증 가능성(falsification)**을 위한 능력도 포함된다.

기존의 벤치마크들은 시퀀스 투 시퀀스(sequence-to-sequence) 작업(예: ARC)이나 논리 퍼즐을 통해 귀납적 추론을 테스트하지만, 에이전트가 자신의 현재 신념을 부정하기 위해 적극적으로 증거를 찾아야 하는 역동적이고 반복적인 가설 검증 과정을 포착하는 데는 자주 실패한다. 또한, 인간 연구(예: Wason, 1960)는 인간이 가설을 입증하는 증거를 찾으려 하고 이를 반증할 수 있는 증거를 찾는 데는 소홀한 **확증 편향(confirmation bias)**을 겪는다는 점을 오랫동안 입증해 왔다. LLM이 이와 유사한 편향을 보이는지, 그리고 "추론" 모델(확장된 사고 능력을 갖춘 모델)이 표준 지시 튜닝(instruction-tuned) 모델과 비교하여 이러한 편향을 극복하고 숨겨진 규칙을 발견하는 능력에서 차이를 보이는지는 불분명하다.

방법론: FALSIFYBENCH

저자들은 고전적인 Wason 2-4-6 과업을 의미론적으로 일반화하여 설계된 벤치마크인 FALSIFYBENCH를 소개한다.

게임 구조

FALSIFYBENCH에서 LLM은 의미 범주(예: "동물")로 정의된 숨겨진 타겟 규칙($R$)을 발견하려고 시도하는 "플레이어" 역할을 한다.

1. 초기화: 플레이어에게 특정 하위 범주($S$)에서 추출된 세 개의 초기 아이템 트리플(예: "pocketed bat", "skimmer", "tarsius glis")이 주어진다 (여기서 $S$는 타겟 규칙 $R$의 엄격한 하위 개념이다. 예: $S$ = "척추동물", $R$ = "동물").
2. 상호작용: 플레이어는 아이템의 새로운 트리플과 함께 현재의 가설($H$) 및 근거를 반복적으로 제안한다.
3. 오라클 피드백: 오라클(또 다른 LLM 인스턴스)은 제안된 아이템이 숨겨진 규칙 $R$을 만족하는지에 따라 "Conform(부합)" 또는 "Do not conform(부합하지 않음)"으로 응답한다.
4. 종료: 플레이어가 최종적인 $R$에 대한 추측(정답/오답)을 제출하거나 최대 턴 제한(20턴)에 도달하면 게임이 종료된다.

실험 설계

• 의미론적 도메인: 수치 중심의 Wason 과업과 달리, FALSIFYBENCH는 WordNet에서 유도된 의미론적 분류 체계를 사용한다. 이를 통해 초기 예시가 플레이어로 하여득 지나치게 구체적인 가설($H \subset R$)을 형성하도록 강제하는 게임을 구성할 수 있으며, 이러한 구성에서는 부정 테스트(negative testing)(가설 $H$ 외부의 아이템을 제안하는 것)만이 가설을 결정적으로 반증할 수 있는 유일한 전략이 된다.
• 평가 대상 모델: Llama-4-Maverick, Mistral-Small과 같은 지시 튜닝 변형 모델과 GPT-5.2-Chat, GPT-OSS-120B, DeepSeek-V3.1과 같은 추론 변형 모델을 포함하여 다양한 계열과 규모의 12개 LLM을 평가하였다.
• 이중 역할: 각 모델은 추론 능력과 인간 주석에 대한 의미론적 판단의 일관성을 모두 평가하기 위해 플레이어(추론 에이전트)와 오라클(판단 에이전트) 역할을 모두 수행했다.
• 지표:
  • 성공률(Success Rate): 타겟 규칙이 올바르게 식별된 게임의 백분율.
  • 확증 편향(Confirmation Bias): "긍정 테스트"(가설 $H$에 부합할 것으로 예상되는 아이템을 테스트)와 "부정 테스트"(가설 $H$를 반증할 것으로 예상되는 아이템을 테스트)의 비율.
  • 오라클 정확도(Oracle Accuracy): 아이템이 규칙에 부합하는지에 대한 인간 주석과의 일치도.
  • 턴 단위 분석(Turn-Level Analysis): 현재 가설 $H$와 타겟 $R$ 사이의 관계(예: $H \subset R$, $H \supset R$, 부분적 중첩)를 파악하여 사용된 테스트 전략의 최적성을 결정하는 미세 분석.

주요 기여

1. FALSIFYBENCH 벤치마크: 가설을 능동적으로 생성하고 잠재적으로 반증하는 능력을 실행 가능한 형태로 구현하여, 과학사에서 흔히 볼 수 있는 $H \subset R$ 구성(예: 상대성 이론의 하위 집합으로서의 뉴턴 역학)을 모사하는 의미론적 분류 체계에 기반한 새로운 평가 프레임워크를 제공한다.
2. 비교 평가: 12개 LLM에 대한 체계적인 평가를 통해, 추론 모델이 일반적으로 지시 튜닝 모델보다 과학적 추론 작업에서 우수한 성능을 보인다는 것을 입증하였으나, 어떤 모델도 최적의 성능에는 도달하지 못했다.
3. 메커니즘적 통찰: 모델이 가설 공간을 탐색하는 방식에서의 식별 가능한 패턴(특히 확증 편향에 대한 의존성과 표면적인 언어적 가설 생성)과 관련된 미세한 턴 단위 분석을 통해 실패의 원인을 밝혀냈다.

결과

성능 및 전략

• 추론 모델 vs 지시 튜닝 모델: 추론 모델은 지시 튜닝 모델(예: DeepSeek-V3.1은 41%, 기타 모델은 33~35% 사이에 밀집)에 비해 현저히 높은 성공률(예: GPT-5.2-Chat 75%, GPT-OSS-120B 68%)을 기록했다. 그러나 가장 뛰어난 모델조차 최적의 성능에는 미치지 못했다.
• 부정 테스트의 역할: 확증 편향과 성공 사이에는 강한 음의 상관관계($\rho = -0.779$)가 존재했다. 가설을 반증하기 위해 적극적으로 노력한(부정 테스트) 모델들이 주로 확인을 추구한 모델들보다 일관되게 높은 성과를 보였다.
• 오라클 품질: 오라클의 정확도는 일반적으로 높았으나(85~95%), 오라클의 품질과 플레이어의 성공 사이에는 유의미한 상관관계가 없었다. 베이지안 혼합 효과 로지스틱 회귀 분석 결과, 확증 편향은 성공의 강력한 음의 예측 변수인 반면, 오라클 오류율은 미미한 영향을 미치는 것으로 확인되었다.

실패 양상

• 가설 공간 탐색: 실패한 게임에서 모델들은 일관된 상향 수정 경로($H \subset R$)를 따르기보다는, 타겟 규칙과 부분적으로 중첩되거나 서로 떨어진(disjoint) 가설을 빈번하게 형성했다.
• 표면적 특징: 실패한 게임들은 의미론적 속성보다는 표면적인 언어적 특징(예: "모든 아이템이 'a'로 시작함" 또는 "음절 수")에 초점을 맞춘 가설을 포함할 가능성이 훨씬 높았다. 고성능 모델의 경우에도, 실패한 거의 모든 게임에서 이러한 언어적 가설이 나타났다.
• 턴 효율성: 성공한 게임은 $H \subset R$ 턴의 집중과 효율적인 수정을 특징으로 했다. 반면 실패한 게임은 "부분적 중첩" 턴의 비율이 더 높았으며, 이는 모델들이 근접하지만 틀린 가설에 정체되었음을 나타낸다.

의의 및 주장

본 논문은 FALSIFYBENCH가 정적인 지식 검색을 넘어 역동적인 가설 검증을 수행함으로써 LLM의 "과학적 추론" 능력을 엄격하게 테스트한다고 주장한다. 주요 발견은 부정 테스트(negative testing) 능력이 귀납적 추론 작업의 성공을 이끄는 핵심 동력이라는 점이다.

저자들은 추론 모델이 지시 튜닝 모델에 비해 가설을 반증하는 우수한 능력을 보여줌에도 불구하고, 현재의 LLM은 여전히 완전한 과학적 과정을 수행하는 데 어려움을 겪고 있다고 강조한다. 확증 편향에 의존하고 표면적인 언어적 패턴으로 흐르는 경향은, 고급 모델이라 할지라도 과학적 발견의 규범적 전략을 완전히 내재화하지 못했음을 시사한다. 이 연구는 단순히 "사고(reasoning)"하는 것만으로는 부족하며, 반증 증거를 적극적으로 찾기 위한 전략적 규율이 필요함을 보여준다.

저자들은 본 연구가 과학적 추론의 특정 측면(하위 집합 구성에서의 가설 수정)에 집중하고 있으며, 의미론적 지식의 대리물로서 WordNet을 사용한 것에 한계가 있음을 인정하며 연구의 범위를 겸허하게 설정하였다. 그들은 LLM이 자율적인 과학적 발견을 할 준비가 되었다고 주장하는 것이 아니라, FALSIFAYBENCH가 이 특정 영역에서 진전을 측정하기 위한 필수적인 진단 도구를 제공한다는 점을 명시하고 있다.