기술적 요약: 인간 추상화 학습에서의 전망적 압축

문제 제기

본 논문은 프로그램 합성과 인지 모델링의 핵심 과제인 온라인 라이브러리 학습을 다룬다. 이는 미래 작업 요구에 대한 불확실성 하에서 재사용 가능한 추상화(도움말)를 점진적으로 획득하는 과정이다. DreamCoder와 Stitch와 같은 기존 계산적 접근법은 라이브러리 학습을 후향적 압축으로 간주한다. 이러한 알고리즘들은 과거 작업의 정적 코퍼스를 최대한 압축하는 서브프로그램 라이브러리를 반복적으로 발견한다.

그러나 저자들은 실제 학습 영역은 종종 비정상적이며, 작업이 시간에 따라 진화하는 생성 과정에서 발생한다고 주장한다. 이러한 환경에서 학습자는 전체 작업 분포에 대한 지식 없이 지금까지 본 작업만을 기반으로 어떤 추상화를 형성할지 결정해야 한다. 핵심 질문은 인간 라이브러리 학습이 과거 데이터를 압축하는 것(후향적)에 의해 주도되는지, 아니면 미래 작업을 예측하고 압축하는 것(전망적)에 의해 주도되는지 여부이다.

방법론

패턴 빌더 작업 (PBT)

이를 조사하기 위해 저자들은 패턴 빌더 작업이라는 시각적 프로그램 합성 패러다임을 활용한다.

• 도메인: 참가자들은 $10 \times 10$ 이진 기하학적 패턴을 재구성한다.
• 메커니즘: 해법은 6 개의 기하학적 원시 연산자와 7 개의 변환 연산자 (3 개의 이항, 4 개의 단항) 를 포함하는 고정된 도메인 특화 언어 (DSL) 로 구성된 프로그램으로 표현된다.
• 라이브러리 학습: 참가자는 중간 구성을 "도움말"로 저장할 수 있다. 이러한 도움말은 시도를 넘어 지속되어 새로운 원시 연산자로 기능하며, 재사용 가능한 라이브러리의 점진적 구축을 가능하게 한다.

실험 설계

저자들은 후향적 및 전망적 압축 전략을 분리하기 위해 상호 보완적인 잠재적 커리큘럼을 가진 두 가지 실험을 설계했다.

1. 실험 1 (순차 커리큘럼): 작업은 자기회귀적 구조를 따르며, 각 목표는 이전 해법의 변환이다. 이 구조는 과거 해법이 미래 해법을 직접적으로 알려주므로 후향적 압축을 통해 해결 가능하다.
2. 실험 2 (연산자 그룹 커리큘럼): 작업은 네 개씩 그룹으로 구성된다. 그룹 내에서는 모든 목표가 고정된 네 가지 서로 다른 연산자와 결합된 공통 잠재 서브프로그램 (도움말) 을 공유한다. 중요한 점은 그룹 내 연속된 시도는 표면적 유사성이 낮아, 직전 작업들만으로 공유 구조를 추론하기 어렵다는 것이다. 이 설계는 전체 그룹에 대한 공유된 도움말을 예측하기 위해 잠재 생성 과정을 추론하는 전망적 압축을 요구한다.

계산 모델

저자들은 인간 행동을 다음과 같은 계산 모델 군과 비교 평가했다.

1. 베이스라인 (라이브러리 없음): 추상화 없이 무작위 하향식 탐색을 수행.
2. 후향적 압축 모델:
   • RC (후향적 압축): 과거 작업 코퍼스에 대한 압축 효율성을 극대화하도록 도움말을 탐욕적으로 선택 (DreamCoder와 유사).
   • GL (탐욕적 라이브러리 학습): 현재 시도의 최종 프로그램만 선택.
   • PL (확률적 라이브러리 학습): 유도 추적에서 서브프로그램을 확률적으로 선택.
3. 유도 편향 모델 (LLM 기반):
   • LLM-PS: 현재 작업과 원시 연산자를 기반으로 대형 언어 모델 (GPT-5.2) 을 사용하여 합성 수행 (역사 없이 구조적 사전 지식 포착).
   • LLM-PS-H: 프롬프트에 과거 작업과 해법의 전체 역사를 포함.
4. 전망적 압축 (규범적): 관찰된 작업 분포에 조건부로 과거 및 미래 전체 해법 코퍼스에 대한 기대 압축 효율성을 극대화하도록 도움말을 선택하는 이론적 모델.

측정 지표

성능은 다음을 사용하여 측정되었다.

• 단계 수: 해법 구축의 효율성.
• 라이브러리 크기: 생성된 도움말의 수.
• 코퍼스 압축 효율성: 주요 지표로, 선택된 $k$개의 도움말이 미래 작업을 포함한 전체 (홀드아웃) 프로그램 코퍼스를 얼마나 잘 압축하는지 평가.

주요 결과

1. 인간 효율성 및 라이브러리 사용: 참가자들은 작업을 성공적으로 완료했으며 일관되게 도움말 라이브러리를 생성했다. 도움말 사용은 원시 연산자 해법에 비해 필요한 단계 수를 크게 줄였으며, 원시 프로그램 길이가 증가함에 따라 해법 깊이를 유계로 유지했다.
2. 실험 1 의 후향적 모델: 순차 커리큘럼에서 인간 행동은 후향적 압축 (RC) 모델로 잘 근사되었다. 인간과 RC 모두 관찰된 과거 작업을 효과적으로 압축하는 도움말을 선택했다.
3. 실험 2 의 전망적 행동: 연산자 그룹 커리큘럼에서 후향적 모델 (RC, GL, PL) 과 유도 편향 모델 (LLM-PS, LLM-PS-H) 은 최적의 공유 도움말을 선택하지 못했다.
   • RC는 과거 작업을 압축하는 도움말을 선택했으나 그룹 전체에 공유된 잠재 구조를 놓쳤다.
   • LLM 모델은 유도 편향에 기반하여 기하학적으로 그럴듯한 도움말을 선택했으나 그룹에 필요한 특정 공유 서브프로그램을 포착하지 못했다.
   • 인간 성능: 인간이 선택한 도움말은 실험 2 에서 모든 계산 모델보다 더 높은 코퍼스 압축 효율성을 일관되게 달성했다. 인간 행동은 사후에 알려진 최적의 도움말 집합인 "오라클"을 밀접하게 추적했으며, 이는 인간이 잠재 생성 구조를 성공적으로 추론하고 미래 작업에 유용할 추상화를 선택했음을 시사한다.
4. 기존 설명의 부적절성: 결과는 인간 추상화 선택이 단순히 후향적 압축이나 현재 LLM 기반 합성으로 모델링된 유도 편향만으로 설명될 수 없음을 보여준다.

주요 기여

1. 실험 패러다임: 전망적 및 후향적 압축 전략을 분리하도록 특별히 설계된 잠재적 커리큘럼을 갖춘 통제된 패러다임 (PBT) 의 도입.
2. 계산적 평가: 비정상적 환경에서 인간 행동에 대한 모델 군 (후향적 압축, 유도 편향, 확률적 전략) 의 체계적 평가.
3. 전망적 압축에 대한 경험적 증거: 인간 온라인 추상화 학습이 작업 생성 과정의 전망적 압축에 의해 주도된다는 최초의 증명. 인간은 미래 작업으로 이전될 추상화를 선택하기 위해 잠재 구조를 추론하며, 이는 기존 후향적 알고리즘이나 현재 LLM 기반 프로그램 합성으로 포착되지 않는 능력이다.

의의 및 주장

본 논문은 인간 추상화 학습이 단순한 후향적 압축이나 정적 유도 편향이 아닌 전망적 압축으로 더 잘 특징지어진다고 주장한다.

• 프로그램 합성을 위해: 저자들은 라이브러리 학습 알고리즘이 과거 데이터 압축 최적화를 넘어설 필요가 있다고 주장한다. 비정상적 도메인을 처리하기 위해 알고리즘은 명시적으로 비정상적 작업 분포를 모델링하고 미래 의존성을 예측해야 한다.
• 인지 과학을 위해: 이 발견은 추상화 학습이 예측적 구조 모델링과 긴밀하게 결합되어 있음을 지지한다. 학습자는 단순히 경험을 압축하는 것이 아니라, 계층적 예측과 시퀀스 학습을 촉진하기 위해 작업 구조가 시간에 따라 어떻게 진화하는지 추론한다.
• 벤치마킹: 패턴 빌더 작업은 개별 작업을 해결하는 알고리즘과 시간적으로 진화하는 작업 분포 전반에 걸쳐 구조를 추론하고 재사용할 수 있는 알고리즘을 구분하는 전망적 추상화 평가 후보 벤치마크로 제안된다.

저자들은 연구 범위에 대해 겸손하게 언급하며, 연구가 제한된 시각 도메인으로 국한되어 있으며, 향후 작업은 미래 작업의 확률 분포를 공식적으로 모델링하고 라이브러리와 잠재 작업 생성 과정 모두에 대한 공동 추론을 수행해야 한다고 지적한다.