Forgetting Our Way to Shared Meaning: Effects of Forgetting on Conceptual Alignment in a Non-Partnership Coordination Game

기술 요약: 망각을 통한 공유된 의미로의 여정

문제 제기

언어에서 공유된 의미의 출현과 진화는 에이전트들이 개념적 범주를 학습하고 합의하는 과정에 의존한다. 기존의 개념적 의미론 모델들은 대개 플레이어들이 동일한 보상을 공유하는 "파트너십(partnership)" 설정을 가정하며 협력 게임(coordination games)을 활용한다. 이러한 가정은 플레이어들이 비대칭적 정보를 보유하고 서로 다른 인지 구조를 가진 실제 언어 공동체의 미묘한 차이를 포착하지 못한다. 나아가, 현재의 거대 언어 모델(LLM)은 기호 접지 문제(symbol grounding problem)와 인간의 학습에 비해 정보 효율성이 떨어지는 학습 방식이라는 이론적 과제에 직면해 있다.

본 논문은 의미론적 기억의 구체적인 특성, 즉 망각률, 정착도(entrenchment), 그리고 가소성(plasticity)이 공유된 합의의 질, 안정성, 속도에 어떻게 영향을 미치는지에 대한 이해의 간극을 다룬다. 저자들은 기억의 적응성이 실제 개념 영역의 수렴과 (에이전트가 자신들이 정렬되었다고 믿는) 인지된 수렴 사이에서 어떻게 영향을 미치는지, 특히 보상이 엄격하게 공유되지 않는 비파트너십 설정에서 조사한다.

방법론

저자들은 개념적 정렬을 모델링하기 위해 새로운 **비파트너십 협력 게임(non-partnership coordination game)**을 제안한다. 이 프레임워크는 다음과 같은 핵심 구성 요소를 갖춘 에이전트 기반 모델링을 활용한다:

• 개념적 표현: Gärdenfors(2014)를 따라, 의미는 $R^n$ 내의 유클리드 공간에서의 "개념적 영역"으로 표현된다. 이 영역은 개념적 원형(prototypes, centroids) 주변의 보로노이 테셀레이션(Voronoi tessellations)에 의해 형성되는 볼록 부분 공간이다.
• 게임 메커니즘:
  • 두 에이전트($p_1, p_2$)는 원형들의 집합인 무작위로 생성된 기억을 가지고 시작한다.
  • 각 라운드마다 하나의 객체(vector in $R^n$)가 제시된다.
  • 에이전트들은 가장 가까운 원형에 해당하는 신호를 발표함으로써 객체를 분류한다.
  • 보상 구조: 파트너십 게임과 달리 보상은 공유되지 않는다. 신호가 일치하면 에이전트들은 높은 보상을 받는다. 신호가 불일치할 경우, 한 에이전트의 보상은 자신의 기억 공간 내에서 상대방이 신호한 개념과 객체 사이의 거리에 의해 결정된다.
• 기억 업데이트 전략:
  • 적응형 플레이어(Adaptive Players): 불일치가 발생할 때마다 객체를 향해 고정된 비율($a$)만큼 원형을 이동시켜 업데이트한다.
  • 비적응형 플레이어(Non-Adaptive Players): 쇠퇴 파라미터($d$)를 가진다. 이들의 적응성 수준은 시간이 지남에 따라 감소한다($a' = a \times (1-d)$). 이는 기억의 퇴화나 가소성의 감소를 시뮬레이션한다.
• 수렴 지표:
  • 실제 수렴(Actual Convergence): 두 에이전트의 대응하는 원형 사이의 평균 유클리드 거리가 허용 오차($\delta$) 미만으로 떨어지는 것으로 측정된다.
  • 인지된 수렴(Perceived Convergence): 에이전트들이 실제 원형 간의 거리와 무관하게 연속된 라운드 동안 일치하는 신호를 생성하는 것으로 측정된다($\alpha$).

시뮬레이션은 다양한 원형의 수(3, 5, 10), 적응성 수준(1%, 5%, 10%), 그리고 비적응형 에이전트의 쇠퇴율을 변화시키며 수행되었다.

주요 기여

1. 비파트너십 게임 모델: 에이전트들이 보상을 공유하지 않는 게임 이론적 프레임워크를 도입하여, 인식론적 접근의 차이와 실제 정렬과 인지된 정렬 사이의 괴리(divergence)를 더 현실적으로 표현한다.
2. 실제 수렴과 인지된 수렴의 구분: 연구는 객관적인 개념적 정렬 상태와 정렬에 대한 주관적 믿음을 명확히 분리하며, 기억 전략에 따라 이 두 지표가 크게 달라질 수 있음을 보여준다.
3. 기억 적응성 분석: 고도의 적응성(빠른 업데이트)과 비적응성(쇠퇴를 동반한 안정성) 사이의 트레이드오프를 모델링하여, 복잡한 메타 정보 공유 없이도 기억의 특징이 언어 진화에 어떻게 영향을 미치는지에 대한 이론적 근거를 제공한다.

결과

반사실적 시뮬레이션(Counterfactual simulations)을 통해 다음과 같은 결과가 도출되었다:

• 적응형 플레이어:
  • 비적응형 플레이어보다 실제 수렴을 더 빠르게 달성했다.
  • 더 가까운 최종 개념 영역(원형 간 평균 거리가 더 낮음)을 형성했다.
  • 자신들의 정렬을 과소평가했다. 즉, 자신의 업데이트 과정의 불안정성을 파트너와의 불일치로 오인하여 초기 수렴을 인지하지 못하는 경향이 있었다.
• 비적응형 플레이어:
  • 실제 수렴을 더 늦게 달성했으며, 적응형 에이전트에 비해 최종 원형 간 거리가 더 멀었다.
  • 자신들의 정렬을 과대평가했다. 즉, 실제 개념적 거리가 더 큼에도 불구하고 신호 일치를 성공적인 정렬로 해석하여 더 일찍 수렴을 인지하는 경 경향이 있었다.
• 적응성 수준의 영향: 높은 적응성(예: 10%)은 낮은 적응성(예: 1%)에 비해 더 조밀한 최종 개념 영역을 형성했다.
• 쇠퇴의 영향: 비적응형 에이전트에서 기억 쇠퇴율은 수렴의 시기에는 미미한 영향을 미쳤으나, 원형 간의 최종 거리에는 영향을 미쳤다. 낮은 쇠퇴율은 약간 더 나은 최종 정렬을 가능하게 했지만, 적응이 무의미해진 시점 이후에는 파트너의 위치에 효과적으로 조정될 수 없었다.

의의 및 주장

본 논문은 의미론적 기억의 적응성이 공유된 의미의 출현과 진화에 있어 결정적인 요소라고 주장한다. 저자들은 다음과 같이 논한다:

• 불일치의 인지적 뿌리: 언어 공동체 내에서의 의미 차이와 그 차이에 대한 인식은 단순히 사회적 또는 구조적 요인이 아니라, 인지적 특징(기억 적응성)에서 기인할 수 있다.
• LLM에 대한 시사점: 새로운 정보를 오래된 정보와 동일한 가중치로 처리하는(비적응적 집계) LLM의 훈련 전략은 점점 더 비적응적인 모델을 만들 수 있다는 점을 시사한다. 이는 새로운 정보를 선호하는 인간의 학습과 대조된다. 본 논문은 적응형과 비적응형 기억 업데이트 전략 사이의 선택이 인공 에이전트의 안정성과 정렬에 중요한 결과를 초래한다고 상정한다.
• 인식 vs 현실: 연구는 객관적으로 더 잘 정렬된(적응형) 에이전트가 공유된 의미에 대해 덜 확신하는 반면, 객관적으로 덜 정렬된(비적응형) 에이전트는 자신의 내부 전략의 안정성 덕분에 더 높은 확신을 가질 수 있다는 역설을 강조한다.

저자들은 의미를 학습하는 방식을 모델링하고, 기억의 적응성과 사회적 연결성의 상호작용이 공유된 이해의 속도와 질을 결정하는 양극화 및 가짜 뉴스(misinformation)와 같은 사회적 문제를 다루는 데 있어 기억 역학을 이해하는 것이 필수적이라고 결론짓는다.