기술적 요약: 어린이와 언어 모델의 가설 생성 및 귀납적 추론

문제 제기

실제 세계의 의사결정은 증거, 근본적인 인과 규칙, 그리고 세계의 상태 자체에 대한 불확실성 하에서 정신 모델을 구축하는 것을 요구합니다. 인지과학과 로봇공학의 핵심 과제는 이러한 조건 하에서 에이전트가 일관된 이론을 발견할 수 있게 하는 계산 원리를 규명하는 것입니다. 구체적으로, 추론 메커니즘을 비교하기 위해 인간과 인공 시스템 간에 불확실성의 상호작용 원천을 체계적으로 변화시키는 실험적 프레임워크는 부족합니다.

본 논문은 **박스 과제 (Box Task)**에서 귀납적 추론을 모델링함으로써 이 문제를 해결합니다. 이 과제는 물리적 퍼즐 해결 영역으로, 원래 7~10 세 어린이들이 불확실성 하에서 오해의 소지가 있는 지시에 어떻게 반응하는지 연구하기 위해 고안되었습니다. 이 과제는 시간 제한 내에 13 개의 열쇠를 사용하여 5 개의 잠긴 상자를 여는 것을 포함합니다. 참된 규칙 (상자에 있는 도형의 수를 열쇠의 숫자와 일치시키는 것) 은 잠재적이며, 어린이들은 색상 일치 규칙을 암시하는 교사의 비디오에 의해 오도됩니다. 환경은 **부분적으로 관찰 가능 (partially observable)**합니다 (상자를 들어 올릴 때까지 도형 개수는 숨겨짐) 그리고 **신뢰할 수 없는 증거 (unreliable evidence)**를 특징으로 합니다 (기계적 고장으로 올바른 열쇠 - 상자 조합이 열리지 않을 수 있음).

방법론

저자들은 에이전트가 확률적 상태 전이와 불완전한 관찰로부터 잠재적 규칙 $h$를 발견해야 하는 **부분 관찰 마르코프 결정 과정 (POMDP)**으로 박스 과제를 형식화했습니다. 그들은 온라인 베이지안 업데이트를 위해 **순차 몬테 카를로 샘플러 (SMC-S)**를 사용하여 솔루션을 근사화하기 위해 두 가지 보완적 프레임워크를 구현했습니다:

1. 제약 집합 (Sets of Constraints, SoC) – 인지 모델링

이 구현은 가설을 증거에서 유도된 제약의 구조화된 집합으로 취급합니다. 이는 인간 어린이의 행동 ($N=100$) 에 적합된 인지 모델로 작용합니다.

• 가설 표현: 가설은 상자를 열쇠에 매핑하는 것입니다.
• 제안 분포 (Proposal Distribution): 다음 요소들의 혼합:
  • 사전 지정된 규칙: 할당된 사전 확률을 가진 눈에 띄는 후보 규칙 (색상, 도형, 순서).
  • 온라인 생성기: 축적된 증거에 기반하여 새로운 제약을 제안하는 메커니즘으로, 일관된 할당에는 가중치를 높이고 반증된 할당에는 가중치를 낮춥니다.
• 주관적 신뢰도: 증거의 신뢰도에 대한 에이전트의 주관적 추정을 나타내는 매개변수 $\rho \in (0, 1]$를 도입합니다. 이를 통해 모델은 실패를 가설을 즉시 반증하는 대신 외부 원인 (예: 뻣뻣한 잠금 장치) 으로 귀인할 수 있습니다.
• 변형: 저자는 생성기나 주관적 신뢰도를 제거한 병변 모델 (lesioned models) 과 전체 모델 (SoC-Full) 을 포함한 네 가지 변형을 테스트했습니다.

2. LLM 기반 프로그램 합성 (LLM-PS) – 모델 생물체

이 구현은 대규모 언어 모델 (LLM) 을 환경 조건의 체계적 변화 하에서 행동이 어떻게 변하는지 탐구하기 위한 제어 가능한 "모델 생물체"로 취급합니다.

• 가설 표현: 가설은 LLM 에 의해 생성되고 수정된 실행 가능한 Python 함수 (predict(key, box) -> bool) 입니다.
• 추론 엔진: 시스템은 가설 입자 (particles) 의 집단을 유지합니다. 입자가 "회복 (rejuvenation)"을 위해 선택될 때, LLM 은 행동과 결과의 역사와 일관된 수정된 프로그램을 합성하도록 프롬프트됩니다.
• 행동 선택: 에이전트는 입자 분포에 대한 기대 정보 획득 (EIG) 을 최대화하는 행동을 선택합니다.
• 변형: 저자는 인간 과제를 일치시키는 조건을 구현했습니다:
  • LLM-PS-S: 완전 관찰 가능, 신뢰할 수 없는 열쇠.
  • LLM-PS-P: 부분 관찰 가능 (도형 개수를 드러내기 위해 OBSERVE 행동 필요), 신뢰할 수 없는 열쇠.
  • ReAct 기준: 명시적 가설 표현을 유지하지 않고 직접 행동을 생성하는 표준 ReAct 에이전트.

주요 기여

1. 귀납적 추론의 형식화: 본 논문은 **샘플링 가설 (Sampling Hypothesis)**을 신뢰할 수 없는 증거와 무제한 가설 공간이 있는 설정으로 확장하여, 제약 기반 (SoC) 과 프로그램 합성 (LLM-PS) 의 두 가지 보완적 구현을 제공합니다.
2. 어린이에 대한 계산적 분석: 이 연구는 어린이의 행동이 주관적 증거 신뢰도 (기계적 오류로 실패를 할인) 와 온라인 가설 생성 (근사 솔루션 생성) 의 공동 작용으로 가장 잘 설명된다는 것을 보여줍니다. 이는 과제 완료와 참된 규칙 일반화 사이의 불일치를 설명합니다.
3. 통제된 비교: LLM 을 모델 생물체로 취급함으로써 저자는 증거 신뢰도와 관찰 가능성을 체계적으로 변화시켰습니다. 그들은 LLM 기반 에이전트가 불확실한 조건에서 어린이의 수행 패턴을 재현 (예: 신뢰할 수 없는 증거 할인, 부분 정보 해결 시도) 하지만, 어린이와 비교하여 과도한 관찰과 지시 엄수를 경향으로 하는 뚜렷한 귀납적 편향을 보인다고 밝혔습니다.

결과

SoC 결과

• 모델 적합도: SoC-Full 모델 (주관적 신뢰도와 온라인 생성기 모두 포함) 은 어떤 병변 변형보다 어린이의 궤적과 일반화율에 대해 유의미하게 더 나은 적합도를 보였습니다 ($p < .001$).
• 일반화: 어린이의 66% 가 모든 상자를 열었지만, 22% 만 참된 규칙을 일반화했습니다. SoC-Full 모델은 이를 재현하여 시뮬레이션의 약 20% 에서 올바른 규칙에 수렴했습니다.
• 메커니즘: 결과는 주관적 신뢰도나 온라인 생성 중 어느 하나만으로는 충분하지 않으며, 시도 분포와 낮은 올바른 일반화율을 재현하려면 두 가지의 결합이 필요함을 시사합니다.

LLM-PS 결과

• 패턴 재현: LLM 기반 에이전트는 증거 신뢰도와 관찰 가능성의 변화에 대한 어린이의 반응을 재현했습니다. 그들은 성공적으로 신뢰할 수 없는 증거를 할인하고 부분 정보를 해결하려 했습니다.
• 과제 완료 대 일반화: 어린이와 마찬가지로 LLM 에이전트는 종종 참된 규칙을 발견하지 못한 채 과제를 완료했습니다. 이러한 경우, 그들은 통합된 규칙 대신 서로 다른 원인을 결합한 "근사" 가설 (예: 일부 상자에 색상을 사용하고 다른 상자에 숫자를 사용하는 것) 에 의존했습니다.
• 행동의 차이:
  • 지시 준수: LLM 은 첫 시도에 오해의 소지가 있는 색상 일치 지시를 엄격히 준수한 반면, 어린이의 21% 는 즉시 색상 불일치 조합을 테스트했습니다.
  • 관찰 비용: LLM-PS-P 에이전트는 시도 재개 전에 모든 상자를 체계적으로 관찰한 반면, 어린이는 관찰 빈도에 있어 크게 변이가 있었으며 많은 어린이가 거의 또는 전혀 관찰하지 않았습니다. 이는 어린이가 LLM 설정에 없는 인지적 또는 사회적 비용과 정보 가치 사이의 암묵적 트레이드오프를 수행함을 시사합니다.
• 백엔드 능력: 참된 규칙으로의 일반화는 충분한 백엔드 능력을 필요로 했습니다 (예: GPT-5.2 는 단일 입자로 성공한 반면, DEEPSEEK V3.2 와 같은 약한 모델은 완전 관찰 하에서도 참된 규칙을 발견하지 못했습니다).

의의 및 주장

본 논문은 인간 및 인공 에이전트 간 불확실성 하의 귀납적 추론을 평가하기 위한 통제된 프레임워크를 제공한다고 주장합니다. 그 주요 의의는 다음과 같습니다:

1. 인지과학과 AI 의 연결: LLM 이 인간 피험자로 달성하기 어려운 환경 변수의 체계적 조작을 가능하게 하는 인지과학을 위한 유효한 "모델 생물체"로 기능할 수 있음을 보여줍니다.
2. 근사 추론의 이해: 이 연구는 성공적인 과제 완료가 반드시 참된 근본 규칙의 발견을 의미하지는 않음을 강조합니다. 어린이와 LLM 모두 즉각적인 문제를 해결하기 위해 서로 다른 원인을 통합하는 "근사" 가설을 활용할 수 있으며, 이는 이후의 통합을 위한 발판이 될 수 있습니다.
3. 귀납적 편향: 결과는 어린이와 LLM 이 환경 구조에 유사하게 적응하지만, 정보 추구 행동이 서로 다른 근본 비용과 사전 확률에 의해 형성됨을 시사합니다. 어린이는 더 넓은 사전 확률과 관찰에 대한 암묵적 비용으로 작동하는 반면, LLM 은 구조화되고 작은 가설 공간과 엄격한 지시 준수를 경향으로 하는 편향을 보입니다.

저자는 LLM 행동에 대한 해석이 간접적임을 겸손하게 지적합니다. 즉, LLM 이 명시적 가설 표현을 유지하거나 검색 대 likelihood 기반 업데이트를 수행하는지 definitively 증명하지는 못했습니다. 그들은 향후 연구가 기계적 해석 가능성 (mechanistic interpretability) 을 사용하여 이러한 가능성을 구별하고 LLM 의 "주관적 신뢰도"와 규칙 사전 확률을 더 깊이 조사할 것을 제안합니다.