Language Models Can Resolve Reference Compositionally, But It's Not Their Native Strength: The Case of the Personal Relation Task

기술 요약: 언어 모델은 참조를 구성적으로 해결할 수 있으나, 이는 그들의 본질적인 강점은 아니다

문제 정의
본 논문은 대규모 언어 모델(LLM)의 평가에 관한 중요한 질문을 다룬다. 즉, 이 모델들이 자연어를 해석하기 위한 구성적 능력을 진정으로 습득한 것인가, 아니면 그 출력물이 주로 정교한 패턴 매칭의 결과인가 하는 점이다. 기존의 벤치마크들은 흔ert히 자연어를 형식적 표현으로 변환하는 작업(내포적 과업, Intensional tasks)이나, 묘사를 구체적인 지시 대상에 매핑하는 작업(외연적 과업, Extensional tasks) 중 하나에만 집중해 왔으며, 이 두 가지 의미의 측면을 하나의 통합된 프레임워크 내에서 명시적으로 대조하는 연구는 드물었다. 저자들은 LLM 학습에서 참조적 접지(referential grounding)의 결여가 인간과 유사한 언어 이해를 모방하는 데 있어 결정적인 누락 요소일 수 있다고 주장하며, 모델이 '의미(sense)'(구조적 공식)를 계산하는 능력과 '참조(reference)'(특정 개체)를 해결하는 능력을 구분할 수 있는 방법론이 필요하다고 강조한다.

방법론
저자들은 LLM과 인간 참가자를 모두 평가하기 위해 개인 관계 과업(Personal Relation Task, PRT) (Paperno, 2022)을 변형하여 사용하였다. 이 과업은 네 가지 유형의 관계(친구, 적, 부모, 자녀)로 연결된 여섯 명의 사람들로 구성된 통제된 "세계(universe)"를 포함한다. 참가자들은 복합 명사구(예: "Amber의 부모의 친구")를 제시받고 다음 두 가지 과업 중 하나를 수행한다:

1. 외연적 과업(Extensional Task): 제공된 세계 내에서 해당 구절이 가리키는 특정 인물(지시 대상)을 식별한다.
2. 내포적 과업(Intensional Task): 구절의 의미를 나타내는 중첩된 함수 공식(예: friend(parent(amber)))을 생성한다.

실험 설계에서는 네 가지 핵심 변수를 조작하였다:

• 접근 방식: 외연적(Extensional) vs 내포적(Intensional).
• 표현 방식: 영어(표준 이름/관계 사용) vs 추상적(이름과 관계를 임의의 변수로 매핑, 예: Amber $\to$ h, friend $\to$ x). 추상적 조건은 사전 학습 데이터 오염을 방지하기 위한 대조군 역할을 하며, 표면적인 문자열 조작을 방지함으로써 내포적 과업의 난이도를 높인다.
• 분기 구조(Branching): 좌측 분기(소유격 's, 예: "Amber's parent's friend") vs 우측 분기(전치사구, 예: "the friend of the parent of Amber").
• 복잡도: 관계의 개수 + 1 (LLM의 경우 3, 4, 5, 6 단계로 테스트; 인간의 경우 예산 제약으로 인해 3단계로 제한).

연구는 작업 지시문 구조(도입, 데이터셋, 예시, 테스트 질문)를 사용하는 표준화된 4부 구조를 통해 다섯 가지 LLM(표준 지시 미세 조정 모델 및 대규모 추론 모델(LRM) 포함)을 평가하였다. 인간 데이터는 Prolific을 통해 32명의 참가자로부터 수집되었다. 성능 분석에는 참가자 그룹, 과업 접근 방식, 표현 방식, 복잡도의 효과를 평가하기 위해 일반화 선형 혼합 모델(GLMM)이 사용되었다.

주요 기여

• 방법론적 프레임워크: 내포적 해석과 외연적 해석을 직접 비교할 수 있도록 내포적 대 외연적 구성적 해석을 평가하는 통합 방법론을 제시한다.
• 비교 데이터: LLM에 대해 명시적인 인간 기준선 없이 구성적 능력이 평가되는 격차를 메우기 위해, 동일한 조건 하에서의 인간 수행 데이터를 제공한다.
• 경험적 평가: 여러 LLM에 대한 통계적 평가를 제공하며, 모델 간의 상이한 강점을 강조하고, 특히 추론 강화 아키텍처의 영향을 조사한다.

결과
연구 결과, 인간과 LLM 사이의 근본적인 성능 프로필 차이가 드러났다:

• 상반된 강점: 인간은 내포적 과업(71.1%)보다 외연적 과업(82.8%)에서 유의미하게 높은 성적을 보였다. 반대로, LLM은 외연적 과업(79.8%)보다 내포적 과업(95.0%)에서 더 높은 성적을 보였다.
• 표현 방식의 효과: 두 집단 모두 영어 표현을 추상적 표현보다 더 쉽게 느꼈다. 그러나 그 난이도 격차는 LLM의 경우 추상적 외연적 조건(66.1% 정확도)에서 가장 두드러졌는데, 이는 세계를 탐색하고 임의의 기호를 매핑해야 하기 때문이다. 반면, 영어 내포적 과업(95% 정확도)은 LLM에게 가장 쉬웠으며, 이는 번역이나 구문 재배열 작업과 유사했다.
• 복잡도와 추론: LLM의 성능은 복잡도가 증가함에 따라 저하되었다. 그러나 추론 강화 모델(LRM)은 표준 모델에 비해 복잡도 수준 전반에 걸쳐 외연적 과업과 내포적 과업 사이의 성능 격차를 더 안정적으로 유지하였으며, 이는 추론 능력이 참조 해결의 약점을 완화할 수는 있지만 완전히 제거하지는 못함을 시사한다.
• 분기 구조: 초기 순환 신경망 연구와 달리, 현대의 트랜스포머 기반 LLM은 좌측 분기와 우측 분기 구조 사이에서 유의미한 체계적 편향을 보이지 않았다.

의의 및 주장
저자들은 실험 결과가 LLM 학습에서 참조적 접지의 결여가 인간과 같은 언어 이해를 달성하는 데 있어 결정적인 결함이라는 주장을 뒷받ष्टि 한다고 주장한다. 연구 결과는 LLM이 자연어를 형식적 구조로 "번역"하는 데 탁월한데, 이는 그들의 학습 목표가 표면 형태 예측과 구문 패턴에 집중되어 있기 때문임을 시사한다. 반면, 실제 세계와의 상호작용에 기반하여 언어를 사용하는 인간은 구체적인 지시 대상을 식별하는 데는 뛰어나지만, 기저의 구조적 공식을 명시적으로 기술하는 데는 어려움을 겪는다.

본 논문은 LLM이 구성적 과업에서 높은 정확도를 달 수 있지만, 인간과는 다른 근저의 프로세스를 통해 이를 수행한다고 가정한다. 즉, 진정한 참조적 접지보다는 번역 능력을 활용한다는 것이다. 저자들은 임의의 참조가 최첨단 모델들에게도 여전히 눈에 띄는 도전 과제로 남아 있음을 지적하며, 이는 AI 시스템에 통합되어야 할 중요한 누락 요소로서 참조적 접지가 중요하다는 논거를 강화한다고 결론짓는다. 연구의 주장은 겸손하며, 실험 설정이 다소 인위적이고 추론 강화 모델과 기본 지시 미세 조정 모델을 더 폭넓게 비교하기 위한 향후 연구가 필요함을 명시하고 있다.