On the use of foundation models in cognitive science

기술 요약: 인지 과학에서 파운데이션 모델의 사용에 관하여

문제 제기
최근 연구들은 대규모 언어 모델, 멀티모달 모델, 그리고 BabyLM과 같은 제약된 변형 모델을 포함한 파운데이션 모델(Foundation Models, FMs)이 수학적 추론, 언어 이해, 유추 추론과 같은 영역에서 인간 인지의 행동적 특징(behavioral signatures)을 재현할 수 있음을 보여주었다. 그러나 저자들은 FMs를 설명적 인지 모델로 사용하는 데 있어 중대한 방법론적 및 개념적 과제가 존재한다고 주장한다. 핵심 문제는 행동적 정렬(behavioral alignment, 모델의 출력과 인간 데이터 사이의 통계적 대응)이 해당 행동을 생성하는 메커니즘을 본질적으로 식별하지는 않는다는 점이다. 구조화된 추론 프레임워크가 없다면, 관찰된 유사성은 우연한 결과일 위험이 있으며, 엄격한 제약 없이 FMs를 인지 모델로 취급하는 것은 '행동적 대리물(behavioral proxies)'을 만드는 것에 그칠 수 있다. 본 논문은 다음과 같은 질문을 던진다: 어떠한 조건 하에서 행동적 정렬이 FMs를 인지의 설명적 모델로 취급하는 것을 정당화하는가?

방법론: 4단계 추론 프레임워크
본 논문은 FMs를 인지 및 발달 모델로 평가하기 위한 구조화된 4단계 프레임별 프레임워크를 제안한다. 이 프레임워크는 작업 적응, 연결 가설, 행동 평가, 그리고 대조적 모델 비교를 분리하여 정렬의 해석을 제한한다.

1. 실험 자극 및 과업의 적응: 인간의 실험 자료는 FMs와 호환 가능한 입력-출력 양식으로 번역되어야 한다. 이는 모델과 인간 피험자가 기능적으로 동등한 과업을 수행하도록 보장하기 위함이다. 예를 들어, 시각적 Raven의 점진적 행렬(Raven's Progressive Matrices)은 FMs의 텍스트 양식을 수용하면서도 관계적 구조를 보존하기 위해 기호적 "숫자 행렬(digit matrices)"로 변환된다.
2. 연결 가설의 명시: 연구자는 모델의 출력이 인간의 행동 중 측정 가능한 측면과 어떻게 매핑되는지를 명시적으로 정의해야 한다. 이 단계는 무엇을 정렬의 증거로 간ло 볼 것인지를 결정하므로 매우 중요하다. 논문은 네 가지 일반적인 연결 가설을 분석한다:
   • 유사성(Similarity): 모델의 표현 공간(예: 임베딩 거리)의 기하학적 구조를 전형성이나 반응 시간에 대한 인간의 판단과 매핑한다.
   • 서프라이절(Surprisal): 토큰의 음의 로그 확률을 사용하여 인간의 반응 시간이나 처리 난이도를 예측한다.
   • 프롬프팅(Prompting): 모델에게 인간 피험자와 동일한 프로토콜을 따르도록 지시하여 생성 분포나 선택 확률을 직접 비교한다.
   • 프로세스 트레이스 연결(Process-Trace Linking): 중간 생성 궤적의 속성(예: 추론 토큰 수, 단계 길이)을 인간의 처리 역학이나 인지적 노력에 매핑한다.
3. 대응성 평가: 모델의 성능은 통계적 적합도 척도를 사용하여 인간 데이터와 비교된다. 결정적으로, 정렬은 단순히 총체적으로 평가되는 것이 아니라, 이론적으로 진단적인 변이(예: 조건, 개인 또는 자극에 따른 변이)에 걸쳐 평가되어야 하며, 이를 통해 모델이 일반적인 경향이 아닌 특정 인지 메커니즘을 포착하는지 확인해야 한다.
4. 교차 모델 비교: 단일 모델에서 정렬을 입증하는 것은 "가능성의 증명"에 불과하다. 설명적 가치는 대조적 평가로부터 도출된다. 즉, 서로 다른 아키텍처, 훈련 방식, 규모 또는 절제된(ablated) 변형들을 비교하여 어떤 계산적 구성 요소가 특정 행동적 특징을 재현하는 데 필요한지를 식별하는 것이다.

주요 기여
본 논문은 인지 과학 분야에 세 가지 주요 기여를 한다:

• 구조적 구획화: 논문은 내부 정렬 루프(1~3단계: 적응, 연결, 평가)와 외부 대조 루프(4단계: 비교)를 구분하는 4단계 프레임워크(그림 1)를 제시한다. 이 구조는 각 단계가 정렬의 해석을 어떻게 제한하는지 명확히 한다.
• 연결 가설의 이론적 역할: 논문은 연결 가설의 해석적 역할을 명시하며, 이것이 중립적인 매핑이 아니라 모델 행동이 어떻게 해석되는지를 정의하는 이론적 약속임을 강조한다. 논문은 특정 연결 가설(예: 프롬프팅) 하에서의 강한 적합성이 다른 가설(예: 표현 유사성) 하에서는 약화되거나 사라질 수 있음을 보여주며, 이는 정렬이 모델 자체의 속성이 아니라 특정 가정 하에 평가된 모델의 속성임을 시사한다.
• 설명적 평가를 위한 가이드라인: 논문은 기술적 유사성보다 설명적 가치를 우선시하는 평가를 설계하기 위한 운영 원칙을 추출한다. 이 가이드라인은 진단적 측정 대비, 과업 구조의 보존, 연결 가정에 대한 삼각 측량, 그리고 베이스라인 및 조작된 변형에 대한 비교 평가를 강조한다.

결과 및 과제 분석
본 논문은 새로운 경험적 결과를 제시하는 대신, 기존 문헌을 종합하여 FMs를 인지 모델로 사용할 때 발생하는 네 가지 핵심 추론 과제를 식별한다:

1. 이론적 미결정성(Theoretical Underdetermination): 높은 총체적 적합도는 결정적인 진단적 대비에서의 실패를 은폐할 수 있다. 정렬 주장은 모델이 고립된 경험적 규칙성이 아니라, 이론적으로 관련된 광범위한 현상과 진단적 대비를 설명할 때만 강화된다.
2. 메커니즘적 불투명성(Mechanistic Opacity): FMs는 계산적 수준에서는 과업을 해결할 수 있지만, 알고리즘 수준에서는 (서로 다른 표현이나 탐색 전략에 의존하며) 괴리가 생길 수 있다. 논문은 모델의 내부 구성 요소(레이어, 어텐션 헤드)가 인지적 구성 개념(예: 작업 기억)과 깔끔하게 매핑되지 않아 교차 수준의 추론이 어렵다고 지적한다. 메커니즘적 해석 가능성과 인과적 개입(4단계)이 모델이 특정 인지적 구성을 구현하는지 검증하기 위한 필수적인 경로로 제안된다.
3. 훈련 및 발달의 불일치: FM의 훈련(정적인 코퍼스에 대한 다음 토큰 예측)과 인간의 학습(상호작용적, 비계 설정적, 생물학적 학습) 사이의 차이는 발달적 정렬 주장을 복잡하게 만든다. 중간 훈련 체크포인트는 발달 궤적을 추적할 기회를 제공하지만, 이러한 대응 관계는 훈련 방식이나 데이터 순서에 대한 인과적 조작이 테스트되지 않는 한 상관관계에 머물게 된다.
4. 변이성 및 인구 집단 수준의 정렬: FMs는 일반적으로 집계된 데이터로 훈련되며, 종종 개인차를 무시한다. 논문은 개인, 집단 또는 맥락에 따른 구조적 변이를 무시할 경우 정렬 주장이 일반성을 과장할 위험이 있다고 주장한다. 변이성은 노이즈가 아니라 설명의 대상으로서 다루어져야 한다.

의의 및 주장
본 논문은 행동적 적합성만으로는 FMs를 인지의 설명적 모델로 확립하기에 불충분하다고 주장한다. 정렬은 다음과 같은 요소 내에 배치될 때만 과학적으로 의미를 갖는다:

• 명시적인 이론적 약속.
• 이론적 진단 과업.
• 후보 모델 간의 체계적인 대조 평가.

저자들은 FMs를 인지 모델로 무비판적으로 채택할 것을 권고하는 것이 아니다. 대신, 그들의 과학적 가치는 어떤 계산적 원리가 인간 인지의 특징적인 패턴을 재현하는 데 충분하고(그리고 아마도 필수적인)지를 밝혀내는 잠재력에 있다고 주장한다. 제안된 프레임워크는 고정된 처방이라기보다, 정렬에 대한 주장이 적절한 이론적 및 경험적 안전장치와 함께 개발되도록 보장하여, 궁극적으로 인간 사고의 구조, 한계, 발달에 대한 이해를 날카롭게 하기 위한 필수적인 구조로서 제공된다.