기술 요약: 세상은 하나의 가설이다

문제 정의

실행 가능한 세계 모델(executable world-model) 에이전트는 상호작용 이력을 시뮬레이션 및 탐색 가능한 실행 프로그램으로 변환한다. 그러나 모델과 관찰된 프레임 사이의 예측 일치도가 인과적 정확성, 계획의 적절성, 또는 적시의 수정(revision)을 보장하지는 않는다. 에이전트는 기록된 전이를 완벽하게 재현하는 모델을 보유하고 있음에도 불구하고 잘못된 인과 기제를 인코딩하거나, 불완전한 이론 하에서 도달 가능한 모든 상태를 소진한 뒤 해결책이 존재하지 않는다고 잘못 결론 내리는 탐색 절차를 가질 수 있다.

ARC-AGI-3의 맥락에서 에이전트는 자연어 지시 없이 제한된 행동 예산 내에서 객체의 의미를 발견하고, 목표를 추론하며, 계획을 세워야 한다. 이 벤치마크의 상대적 인간 행동 효율(RHAE) 지표는 불완전한 커버리지와 비효율적인 탐색 모두에 페널티를 부여한다. 핵심 과제는 **선택적 수정(selective revision)**이다. 즉, 에이전트가 현재의 운영 경로를 포기하고 이론을 수정해야 할 때와, 우연한 대리 지표(coincidental proxies)를 사실로 굳히거나 과도한 숙고로 인해 유용한 인과적 맥락을 파괴하는 것을 피하기 위해 지속해야 할 때를 결정하는 것이다.

방법론: THEA

본 논문은 실행 가능한 세계 모델을 확정된 표현이 아닌 **반증 가능한 과업 이론(falsifiable task theory)**으로 취급하는 제어 방법론인 **THEA (Typed Hypothesis-driven Epistemic Agents)**를 소개한다. 이 시스템은 프롬프트로 정의된 수정 정책에 의해 보강된 "패스트 패스(fast path)"를 기반으로 구축되었다.

핵심 아키텍처

1. 패스트 패스 (부모 에이전트):

   • 단일 부모 에이전트가 전체 인과적 맥락을 유지하며 환경 행동에 대한 독점적 권한을 갖는다.
   • 이는 관찰(확정된 프레임) $\rightarrow$ 재구성(내부 상태) $\rightarrow$ 수정(역학/목표 업데이트) $\rightarrow$ 검증(이력 재생) $\rightarrow$ 계획 $\rightarrow$ 행동의 루프로 작동한다.
   • 검증은 엄격하다: 실행 가능한 이론은 특정 "증거 기반(evidence-gated)" 예외 사항이 적용되지 않는 한, 제어되는 객체 외부의 영역을 포함하여 전체 확정된 프레임을 재현해야 한다.

2. 인식적 에스컬레이션 (전문가 에이전트):

   • 수정은 연속적으로 이루어지는 것이 아니라, 관찰 가능한 실패 모드나 선언된 체크포인트에 의해 트리거된다.
   • 경계형 전문가(Bounded Specialists) (하위 에이전트)가 활성화되어 특정 인식적 과업을 수행한다. 이들은 환경에 직접 행동하지 않으며, 증거, 경쟁 가설, 프로브(probe), 또는 판결만을 반환한다.
   • 전문가 역할:
     • 프레이밍 큐레이터(Framing Curator): 탐색적 행동 이후의 잘못된 지표나 모순을 점검한다.
     • 일반화 비판가(Generalization Critic): 복잡성이 증가할 때 오버피팅이나 특수 사례를 식별한다.
     • 정책 조사관(Policy Investigator): 계획이 반복적으로 실패할 때 원시 프레임/애니메이션을 재검토한다.
     • 인식적 도전자(Epistemic Challenger): 단일 축(예: 행위자, 제어 효과)에 대해 서로 다른 경쟁 가설을 수립하고, 판별 프로브를 선언한다.
     • 재유도자(Reinductor): 누적된 예외 사항들을 더 단순하고 일반적인 법칙으로 압축하려고 시도한다.
     • 전이 관찰자(Transition Observer): 모호한 시각적 이벤트 순서에 대해 독립적인 판독을 제공한다.

3. 타입화된 산출물 및 계약:

   • 결정적인 분기점들은 타입화된 산출물(예: challenge.toml)로 외부에 명시된다.
   • 이러한 산출물은 경쟁하는 가설, 두 가설을 판별하기 위해 필요한 관찰, 그리고 판결을 명시적으로 기술한다.
   • 시스템은 세계 모델 충실도(모델이 이력을 재현하는가?), 플래너 적절성(플래너가 경로를 찾는가?), 목표 확인(실제 환경이 예측대로 종료되는가?)을 구분한다.

4. 증거 기반 선택적 충실도:

   • 시스템은 불규칙한 디스플레이 영역(예: HUD)이 비종단적(non-terminal)이라는 긍정적 증거가 입증된 후에만 해당 영역을 "마스킹"할 수 있도록 허용한다. 이는 에이전트가 화장용 픽셀을 모델링하는 데 행동을 낭비하는 것을 방지하는 동시에, 인과적 영역에 대해서는 엄격한 검증을 보장한다.

주요 기여

1. 프롬프트 정의 수정 정책: 타입화된 산출물과 경계형 전문가를 사용하여 실행 가능한 과업 이론의 수정을 불투명한 대화 기록에 의존하는 대신, 명시적이고 반증 가능하며 감사 가능한 방식으로 만드는 방법론을 제시한다.
2. 실패 분류 체계(Empirical Taxonomy of Failures): 모델링, 목표 추론, 관찰, 계획, 구현, 타이밍에 걸친 실패 지점들을 기록된 예측-관찰-수정 체인을 통해 분류한다.
3. 조직화된 시스템을 위한 제어 레이어: 부모 에이전트가 인과적 맥락과 행동 권한을 유지하면서 특정 인식적 과업을 전문가에게 위임함으로써, 동적인 인식 제어 그래프을 생성하는 방법을 보여준다.

결과

저자들은 과거의 최종 개발 라인 궤적들을 사용하여 25개의 공개 ARC-AGI-3 게임에 대해 THEA를 평가하였다.

• 성능: THEA는 25개 게임 중 22개를 완전히 해결하였으며, 평균 92.63 RHAE를 기록했다.
• 비용 효율성: 총 API 상당 비용은 $5,007.85로, 가장 강력한 기존 에이전트(25개 중 20개를 해결한, 82.01 RHAE 및 $6,222.18 비용의 Executable World Models v1.5)와 비교했을 때 19.52% 감소한 수치이다.
• 비용 절감 분포: 비용 절감은 v1.5 에이전트가 미완성으로 남겨둔 5개의 게임에 집중되었다. 반대로, 일부 다룰 수 있는 게임에서는 추가적인 숙고가 반드시 유익하지 않음을 보여주며 더 높은 비용이 발생하기도 했다.
• 사례 연구: 특정 궤적 분석을 통해 다음을 밝혀냈다:
  • g50t: 프레임의 정확한 재생만으로는 잘못된 인과적 대리 지표를 감지하지 못했으며, 원시 프레임 검사가 필요했다.
  • s5i5: 불완전한 전이 시스템 하에서 전수 탐색이 종료되었으며, 로드 베어링(load-bearing) 예측 테스트를 통해 누락된 전이가 식별되었다.
  • bp35: 검증된 세계 모델이 검색 상태 키 누락으로 인해 유효하지 않은 플래너에 입력되었다.
  • ls20: 환경적 모순은 에이전트 자신의 코드 내 구현 오류(변수 재사용)에서 기인한 것으로 밝혀졌다.
  • lf52: 올바른 이론은 되돌릴 수 없는 자원 손실 후에야 도출되었으며, 이는 타이밍이 수정의 가치에 대한 제약 조건임을 입증한다.

의의 및 한계

의의:
본 논문은 실행 가능한 세계 모델 에이전트에게 "세상은 하나의 가설"이라고 주장한다. 본 연구의 주요 기여는 가설 수정을 검사 가능하게 만드는 제어 레이어이다. 빠른 운영 경로와 전문화된 증거 기반 수정을 분리함으로써, THEA는 수정이 어디서 성공하고 실패하며 비용을 발생시키는지 드러낸다. 이는 인과적 정확성이 예측적 일치와 구별됨을 입증하며, 명시적인 타입화된 수정 메커니즘이 복잡한 상호작용 환경에서 커버리지와 효율성을 모두 개선할 수 있음을 보여준다.

한계:

• 일반화: 결과는 공개 벤치마크(ARC-AGI-3)를 기반으로 하며, 비공개 또는 미지의 과업에 대한 일반화를 주장하지 않는다.
• 확률성: 연구는 최종 포트폴리오를 위해 게임당 단일 궤적을 사용하였으므로, 분산이나 실패 재발 확률을 추정하는 데 한계가 있다.
• 도메인 특수성: 이 방법은 ARC 인터페이스의 이산적이고 재생 가능한 특성에 의존한다. 연속 제어, 노이즈가 있는 센싱, 또는 비결정론적 역학으로의 전이에는 새로운 프로토콜이 필요하다.
• 비용 이질성: 총합 비용은 낮았으나, 전체 인식 스택이 때때로 다룰 수 있는 게임에서 과도한 비용을 지불하는 경우가 있었으며, 이는 현재의 에스컬레이션 정책이 모든 시나리오에 최적은 아님을 나타낸다.

저자들은 THEA가 감사 가능한 수정을 위한 견고한 프레임워크를 제공하지만, 감사 기록을 잃거나 불필요한 비용을 발생시키지 않으면서 언제 특정 주장에 대해 추가적인 인식적 작업을 수행할 것인가를 정교하게 조정하는 것이 여전한 과제라고 결론지었다.