Do Language Models Align with Brains? Prediction Scores Are Not Enough

기술적 요약: "언어 모델은 뇌와 정렬되는가? 예측 점수만으로는 부족하다"

문제 제기
이 논문은 뉴로AI(NeuroAI) 의 중요한 모호성, 즉 예측 유용성과 구조적 또는 기계론적 정렬의 혼동을 다룹니다. 대규모 언어 모델 (LLM) 이 자연어 자극에 대한 신경 반응을 예측하는 데 routinely 사용되지만, 높은 예측 점수가 반드시 모델의 내부 표현이 뇌 관련 계산을 포착함을 의미하는 것은 아닙니다. 모델 특징이 단순히 자극과 저수준 통계적 속성 (예: 시간적 자기상관, 어휘 빈도, 자극 타이밍) 을 공유하기 때문에 신경 데이터를 예측할 수 있을 뿐, 뇌의 조직 구조를 반영하는 것은 아닐 수 있습니다. 저자들은 현재의 평가 관행이 이러한 비특이적 설명을 배제할 충분한 통제 없이 양의 인코딩 점수를 생물학적 정렬의 증거로 과해석하는 경우가 많다고 주장합니다.

방법론: L-PACT 프레임워크
이 모호성을 해결하기 위해 저자들은 L-PACT(Language Predictive, Alignment-pattern, Causal, and Turing-bounded Test) 를 소개합니다. L-PACT 는 단일 벤치마크 점수가 아니라, 약한 예측 증거와 강한 정렬 주장을 분리하도록 설계된 4 단계 게이트 구조 계층입니다. 이 프레임워크는 주요 데이터셋 (Brain Treebank, Podcast ECoG, MEG-MASC) 에서 파생된 신경 및 모델 아티팩트의 고정된 집합을 기반으로 작동하며, 결합적 결정 규칙을 적용합니다: 모델 행이 정렬 후보로 간주되려면 4 단계 모두를 동시에 통과해야 합니다.

네 가지 증거 수준은 다음과 같습니다:

1. 예측 적절성 (1 단계): 실제 모델 특징이 방해 요인 베이스라인과 엄격한 통제 (severe controls) 모두에 비해 홀드아웃 신경 예측을 개선하는지 판단합니다. 엄격한 통제에는 무작위 매칭 차원 특징, 자기상관 매칭 무작위 특징, 원형 시프트, 문장 재설정 특징, 역전된 문맥 특징, 레이블 순열, 토큰 순서 셔플 등이 포함됩니다.
2. 관계적 적절성 (2 단계): 모델 - 뇌 정렬 프로파일이 뇌 - 뇌 정렬 패턴을 재현하는지 테스트합니다. 단일 목표에 단순히 일치하는 대신, 모델은 엄격한 통제 프로파일보다 신경 단위 간의 관계적 조직 (예: 단위 A 가 단위 B 와 어떻게 관련되는지) 을 더 잘 재현해야 합니다.
3. 반事实적 메커니즘 박리 적절성 (3 단계): 모델 표현에서 후보 메커니즘 (예: 놀라움, 의미 전이, 구문 경계) 을 제거하는 것이 신경 목표 매칭에 대해 선택적 결핍을 유발하는지 평가합니다. 이는 예측기 내 메커니즘 특정 필요성을 테스트하여 특정 저하를 일반적인 특징 품질 손실과 구분합니다.
4. 신뢰도 경계 적절성 (4 단계): 모델 증거를 뇌 - 뇌 상한선(예: 반분, 런 간, 또는 피험자 간 신뢰도) 에 대해 정규화합니다. 모델 점수는 뇌 측정 자체에서 관찰된 변동성에 근접해야 신뢰할 수 있는 것으로 간주됩니다.

주요 기여

• L-PACT 프레임워크: 예측 점수를 관계적, 메커니즘 특정적, 신뢰도 경계 주장과 분리하는 엄격하고 출처 감사된 평가 아키텍처입니다. 이는 '정렬'을 통제 강건성, 관계적 조직, 메커니즘 특정성을 요구하는 게이트 자격 주장으로 명시적으로 정의하며, 단순한 '상응'과 구별합니다.
• 출처 감사된 데이터셋 자격: 이 연구는 뇌 시계열, 단어 이벤트, 모델 특징, 엄격한 통제, 신뢰도 추정의 가용성에 따라 아티팩트 체인을 엄격하게 감사하여 데이터셋을 1 차, 2 차, 진단, 또는 검증 전용으로 분류합니다. 특히 인기 있는 NaturalStories 데이터셋은 불완전한 아티팩트 체인으로 인해 1 차 추론에서 제외됩니다.
• 측정 민감도 통제: 음의 결과가 측정 실패로 인한 것이 아님을 보장하기 위해, 저자들은 실제 모델 결정을 변경하지 않는 양성 대조를 구현했습니다. 여기에는 다음이 포함됩니다:
  • 뇌 - 뇌 신뢰도 통제: 반분 또는 런 간 뇌 데이터에서 안정적인 구조를 검증합니다.
  • 뇌 - 모델 통제: 한 런/피험자의 뇌 프로파일이 다른 것을 예측할 수 있는지, 관계적 게이트를 통과하는지 테스트합니다.
  • 저수준 신경 및 음향 봉투 게이트: 단어 시작, 단어 속도, 음향 봉투 신호의 감지를 검증합니다.
  • 결정론적 삽입 신호 시뮬레이션: 알려진 신호를 주입하는 합성 통제로서, 구조가 존재할 때 L-PACT 게이트가 통과할 수 있음을 보여줍니다.

결과
분석은 414 개의 예측 - 통제, 2,304 개의 관계적, 4,320 개의 메커니즘 박리, 420 개의 뇌 - 뇌 상한선 행에서 파생된 146 개의 통합 결정 행의 고정된 집합을 다뤘습니다.

• 통합 통과 없음: 실제 모델 행은 통합 L-PACT 결정 규칙을 통과한 경우가 0 건이었습니다. 146 개의 통합 행 모두 통제 설명 가능으로 분류되었습니다.
• 겉보기 양성의 강등: 덜 엄격한 단일 기준 규칙 하에서는 많은 겉보기 양성이 나타났습니다 (예: 양의 원시 피어슨 점수를 가진 35 행, 양의 원시 프로파일 유사성을 가진 1,224 행). 그러나 L-PACT 는 이러한 것들이 엄격한 통제를 견디지 못하거나, 관계적 구조를 재현하지 못하거나, 메커니즘 특정 필요성을 보이지 않거나, 뇌 - 뇌 신뢰도 상한선에 근접하지 못했기 때문에 이를 강등했습니다.
• 측정 민감도 확인: 양성 대조가 성공했습니다. 뇌 - 뇌 신뢰도 통제는 안정적인 구조를 보였으며, 뇌 - 모델 통제는 Brain Treebank 에 대해 관계적 게이트를 통과했습니다 (864 행 중 744 행); 저수준 신경 및 음향 게이트는 예상된 신호를 감지했으며, 합성 삽입 신호 시뮬레이션은 네 가지 게이트를 모두 통과했습니다. 이는 구조가 존재할 때 측정이 이를 감지할 수 있음을 확인하여 실제 언어 모델에 대한 음의 결과를 검증합니다.
• 특정 실패:
  • 예측: 실제 모델 점수는 종종 엄격한 통제 (예: 원형 시프트 또는 자기상관 매칭 무작위 특징) 에 의해 일치되거나 초과되었습니다.
  • 관계적: 모델 - 뇌 프로파일은 셔플되거나 통제된 프로파일보다 뇌 - 뇌 정렬 패턴을 더 잘 재현하지 못했습니다.
  • 메커니즘 박리: 메커니즘을 박리하는 것이 선택적 결핍을 낳지 않았습니다; 관찰된 하락은 비특이적이거나 상류 게이트에 의해 지지되지 않았습니다.
  • 신뢰도: 모델 증거는 뇌 - 뇌 신뢰도 상한선에 근접하지 못했습니다.

의의 및 주장
이 논문의 핵심 주장은 예측 점수만으로는 언어 모델과 뇌 사이의 구조적 또는 메커니즘 특정적 정렬에 대한 불충분한 증거라는 것입니다. 저자들은 이것이 증거의 강도에 대한 제약이지, 모델이 결코 뇌와 정렬될 수 없다는 보편적 판결이 아님을 강조합니다.

• 주장의 구분: 이 연구는 상응(예측에 유용한 재현 가능한 통계적 연관) 과 정렬(통제 강건성, 관계적 조직, 메커니즘 특정성을 요구하는 더 강한 주장) 을 구분합니다.
• 실행 가능한 음의 결과: 겉보기 양성을 "감시 가능한 통제 설명 가능 분류 체계"로 변환함으로써 L-PACT 는 향후 작업을 위한 명확한 기준을 제공합니다. 향후 양의 주장은 집계 점수에서 주장되는 것이 아니라, 새로 충족하는 특정 게이트에 국한되어야 합니다.
• 보수적 입장: 저자들은 명시적으로 모든 가능한 모델 - 뇌 비교가 음이라고 주장하지 않으며, 현재 모델이 결코 정렬되지 않을 것이라고 주장하지도 않습니다. 결론은 분석된 파생 아티팩트 집합, 테스트된 특정 모델 (DistilGPT-2, GPT-2, Pythia, Qwen 변종 포함), 그리고 구성된 통제로 한정됩니다. 이 프레임워크는 강한 주장을 심판하도록 설계되었으며, 예측 유용성의 과해석을 방지하기 위해 해석 가능성을 위해 민감도를 교환합니다.

요약하자면, 이 논문은 엄격한 통제, 관계적 프로파일 테스트, 메커니즘 박리, 신뢰도 경계가 없으면 양의 신경 예측 점수가 계산 모델이 증거가 지지하는 것보다 생물학적으로 더 유익한 것처럼 보이게 할 위험이 있다고 주장합니다. L-PACT 는 이러한 주장을 분리하는 방법론적 인프라를 제공합니다.