기술 요약: 그라운딩 간극

문제 제기

본 논문은 대규모 언어 모델 (LLM) 이 추상적 개념 (예: 정의, 이론, 가용성) 을 인간과 유사한 방식으로 그라운딩하는지 여부를 조사한다. 인간 인지는 추상적 개념이 감각운동 경험, 감정, 사회적 맥락의 그물망에서 의미를 도출한다고 가정하는 그라운디드 인지 (grounded cognition) 를 기반으로 하지만, LLM 은 오직 텍스트만으로 훈련된다. 핵심 질문은 LLM 이 단순히 통계적 단어 연관성에 의존하는지, 아니면 인간 이해를 구조화하는 동일한 경험적 차원 (감각운동, 내부 상태, 사회적) 을 통해 추상적 개념을 내부적으로 표현하는지이다.

방법론

저자들은 행동적 재현, 평가 실험, 기계적 해석 가능성을 결합한 다면적 접근법을 활용한다:

1. 속성 생성 재현 (행동적):

   • 저자들은 21 개의 최첨단 및 오픈 가중치 LLM 에서 두 가지 확립된 인지과학 실험 (Harpaintner et al., 2018; Kelly et al., 2024) 을 재현하였다.
   • 작업: 모델들에게 추상 명사들에 대한 속성, 상황, 또는 연상을 자유롭게 생성하도록 프롬프트를 제공하였다.
   • 분석: 생성된 출력물을 그라운딩 범주 (예: 감각운동, 내부 상태, 사회적, 언어적 연관) 로 코딩하고, 피어슨 상관계수 ($r$) 를 사용하여 인간 기준선과 비교하였다.
   • 규모: 실험은 293 개의 추상 명사 (실험 1) 와 감정/비감정 하위 집합을 포함한 236 개의 추상 명사 (실험 2) 를 다루었다.

2. 평가 실험 (명시적 질의):

   • 그라운딩 차원에 대한 지식의 부재와 이를 동원하는 실패를 구분하기 위해, 저자들은 평가 연구 (Troche et al., 2017) 를 재현하였다.
   • 작업: 모델들이 14 가지 그라운딩 차원 (예: 색상, 감정, 사회적, 시간) 에 대해 리커트 척도를 사용하여 단어를 명시적으로 평가하도록 하였다.
   • 목표: 자발적 속성 생성 작업과 대조적으로, 명시적으로 질의했을 때 모델들이 이러한 차원을 인식할 수 있는지 확인한다.

3. 기계적 해석 가능성 (희소 오토인코더):

   • 저자들은 Gemma 3 모델 (4B 및 12B 파라미터) 에서 희소 오토인코더 (SAE) 를 활용하여 내부 특징을 검사하였다.
   • 방법: 명사 생성 동안 그라운딩 차원 (감각운동, 내부 상태, 사회적) 과 상관관계가 있는 잠재 특징을 식별하였다.
   • 검증: 이러한 특징의 활성화 값을 인위적으로 증폭시켜 해당 범주의 속성 생성이 증가하는지 관찰하기 위해 "특징 조종 (feature steering)" (활성화 값 고정) 을 수행하였다.

주요 결과

1. 속성 생성에서의 그라운딩 간극

• 낮은 정렬: 21 개 모델 전반에 걸쳐 인간과 모델 간 그라운딩 사이에 일관되고 큰 간극이 존재한다. 어떤 모델도 인간 응답과의 피어슨 상관계수 ($r$) 가 0.37을 초과하지 못했으며, 반면 인간 대 인간 상한선은 0.9를 초과한다.
• 체계적 편향: 모델들은 인간에 비해 언어적 연관을 지속적으로 과다 생성하고 내부 상태 및 감정 속성을 과소 생성한다.
• 모델 동질성: 모델들은 인간보다 서로 간에 더 강하게 상관관계를 보이며, 이는 다양한 아키텍처와 제공자를 막론하고 지속되는 비인간적 추상 개념 표현의 공유된 방식을 시사한다.
• 스케일링 한계: 모델 파라미터 수 증가 (4B 에서 120B 로) 는 이 간극을 유의미하게 좁히지 못한다; 불일치는 스케일링만으로 해결 가능한 능력 병목 현상이 아니다.

2. 평가 작업에서의 정렬

• 높은 명시적 정렬: 속성 생성과 대조적으로, 모델들이 그라운딩 차원에 대해 단어를 명시적으로 평가하도록 요청받을 때 훨씬 더 잘 수행한다. 최상위 모델들은 인간 상한선인 $\approx 0.89$에 비해 평균 $r \approx 0.76$에 도달한다.
• 시사점: 이는 LLM 이 그라운딩 범주에 대한 지식을 보유하고 있음을 (질문 시 인식 가능) 나타내지만, 자유 생성 중에는 이러한 차원을 자발적으로 동원하지 못함을 의미한다.

3. 기계적 증거

• 내부 특징: SAE 분석은 Gemma 모델 내에서 그라운딩 차원 (예: "감각운동", "사회적", "내부 상태") 과 상관관계가 있는 특정 내부 특징을 식별하였다.
• 특징 조종: 이러한 특징을 조종하면 해당 목표 범주의 속성 생성이 증가하였다 (예: "내부" 특징을 조종하면 내부 상태 속성이 +9.4% 증가).
• 한계: 이러한 특징은 완벽하게 분리되지 않으며, 깨끗한 인간형 그라운딩 범주보다는 더 넓은 의미 패턴을 포착한다.

주요 기여

1. 간극의 정량화: 본 논문은 현재 LLM 이 모델 크기나 계열에 관계없이 인간과 유사한 방식으로 추상적 개념을 그라운딩하지 못하는 강력한 "그라운딩 간극"에 대한 실증적 증거를 제공한다.
2. 능력 구분: 평가 실험에서 보여진 바와 같이, 이 간극은 그라운딩 차원을 인식하지 못하는 능력 부재가 아니라, 생성 중 이러한 차원을 자발적으로 동원하지 못하는 실패임을 입증한다.
3. 기계적 발견: Gemma 모델 내에서 그라운딩 차원을 추적하는 내부 SAE 특징을 식별하여, 구조적 정보가 모델 내부에 존재하지만 인간과 유사한 방식으로 행동적으로 표현되지 않음을 시사한다.

중요성과 주장

본 논문은 관찰된 그라운딩 간극은 스케일링이나 개선된 텍스트 기반 훈련만으로는 해결되지 않을 것이라고 결론지으며, 언어적 맥락에 대한 자기회귀적 훈련의 자연스러운 결과로서 언어적 연관성에 의존하는 경향이 있음을 지적한다.

• 소극적 주장: 저자들은 현재 LLM 이 "인간과 거의—but not quite—유사하게 기본 그라운딩 범주를 이해하지만", "자유 생성 시 인간과 유사한 방식으로 이를 동원하지는 않는다"고 명시한다.
• 미래 방향: 이 발견들은 진정한 인지적 정렬을 달성하기 위해서는 현재 패러다임의 점진적 개선보다는 훈련 기법이나 아키텍처의 근본적 변화 (예: 구체화된 학습 또는 새로운 훈련 목표) 가 필요할 수 있음을 시사한다.
• 벤치마킹: 저자들은 그라운딩 정렬이 표준 테스트 벤치마크에서는 현재 보이지 않는 새로운 척도이며, 향후 주목을 받아야 한다고 제안한다.

본 논문은 LLM 이 의식이나 진정한 이해를 소유한다고 주장하지는 않지만, 추상적 개념이 인간 인지 대비 어떻게 표현되고 활용되는지에 대한 구체적이고 체계적인 편차를 강조한다.