From Signals to Structure: How Memory Architecture Drives Language Emergence in LLM Agents

기술 요약: 신호에서 구조로 (From Signals to Structure)

문제 제기
본 논문은 루이스 신호 게임(Lewis signaling game) 프레임워크 내에서 거대언어모델(LLM) 에이전트들이 어떻게 무(無)에서부터 공유된 언어를 발명해 나가는지 조사한다. 창발적 의사소통(emergent communication)에 관한 기존 연구들은 주로 경사 하강법으로 훈련된 신경망 에이전트와 구성적 구조(compositional structure)를 유도하는 채널 용량(대역폭)의 역할에 초점을 맞추어 왔다. 반면, 본 연구는 메모리 아키텍처로 초점을 전환한다. 저자들은 에이전트가 상호작용 이력을 유지하고 구조화하는 능력(지속적 메모리를 통해)이 통신 채널의 순수 용량보다 언어 발생의 더 결정적인 요인인지 묻는다. 특히, 채널 용량이 지시 대상(referents)의 수와 정확히 일치하는 "병목(bottleneck)" 지점이 구성성을 위한 최적의 압박 지점이라는 정보 이론적 가설에 이의를 제기한다.

방법론
저자들은 송신자(sender)와 수신자(receiver) 에이전트 모두를 위한 기본 모델로 gpt-5.4-mini를 사용하여 세 가지 연구를 수행했다. 에이전트들은 $N=200$ 라운드 동안 참조 신호 게임을 수행했다. 송신자는 표적 객체(3개의 이진 특징으로 정의된 8개의 객체 풀 중 하나)를 관찰하고, 수신자에게 고정된 길이의 기호 메시지를 전달하며, 수신자는 표적을 추측한다.

• 메모리 아키텍처: 연구는 마지막 20회의 상호작용을 담는 기본 롤링 윈도우(rolling window)를 공유하면서, 다섯 가지의 뚜렷한 메모리 조건을 비교했다:
  1. 메모리 전용 (Memory Only): 에이전트는 롤링 윈도우에만 의존한다.
  2. 스크래치패드 (Scratchpad): 에이전트는 관습을 추적하기 위해 (매 라운드 덮어쓰기되는) 지속적이고 자유로운 형식의 노트(notebook)를 유지한다.
  3. 코드북 (Codebook): 에이전트는 제자리에서 편집 가능한 고정 용량(10개 슬롯)의 슬롯 리스트를 유지한다.
  4. 코드북 메타 (Codebook Meta): 코드북에 언어 수준의 규칙을 위한 지속적인 메타 노트를 추가한 형태이다.
  5. 환경 보드 (Env Board): 환경에 의해 컴파일된 공유 공용 테이블이다(개인 메모리가 아님).
• 채널 구성: 채널 용량($C = |V|^L$)은 어휘 크기($|V|$)와 메시지 길이($L$)를 변화시켜 4에서 125까지 스윕(sweep)하였다.
• 지표: 성능은 후반부 게임 정확도(151~200 라운드), 구성적 구조를 평가하기 위한 지형적 유사도(Topographic Similarity, TopSim), 신호 위치와 객체 특징 간의 상호 정보량(Mutual Information, MI), 그리고 충돌률(collision rates)로 측정되었다.

주요 결과

1. 메모리 아키텍처가 채널 용량보다 우세함:
   본 연구는 메모리 아키텍처가 채널 용량보다 협력 성공을 더 잘 예측하는 변수임을 발견했다. **지속적인 개인 노트(Scratchpad)**를 가진 에이전트는 가장 안정적인 협력(용량 25에서 정확도 $0.867 \pm 0.023$)을 달성했으며, 상태가 없는(stateless) 에이전트에서 나타나는 성능 붕괴를 피했다. 반면, **상태가 없는 에이전트(Memory Only)**는 중간 정도의 용량(25)에서 정점을 찍었으나, 용량이 64로 증가함에 따라 충돌률이 1.0에 도달하며 성능이 크게 저하되었다.

2. 병목은 최적점이 아니라 취약점임:
   채널 용량이 지시 대상의 수($C=8$ for 8 objects)와 일치할 때 압축을 강제한다는 정보 병목 이론과 달리, 저자들은 이 지점이 **취약점(fragility point)**임을 발견했다. $C=8$에서 결과는 양극화되었다: 에이전트들은 성공하거나 완전히 실패하거나 둘 중 하나였으며, 중간 단계는 없었다. 여유 용량의 부족은 에이전트가 초기 충돌을 복구하는 것을 방해하여 높은 분산과 낮은 평균 성능을 초래했다.

3. 여유 용량이 관습을 안정화함:
   지속적 메모리를 가진 에이전트는 여유 용량으로부터 이득을 얻었다. 스크래치패드 조건은 용량이 커짐에 따라 정확도가 증가하여 $C=125$에서 0.90에 도달했다. 반대로, 상태가 없는 에이전트는 높은 용량에서 "코드 증식(code proliferation)" 문제를 겪었다. 신호 공간이 확장됨에 따라 롤링 윈도우가 코드당 충분한 증거를 축적하지 못했고, 이는 모호함과 성능 붕괴로 이어졌다.

4. 공고화(Consolidation) vs 이력 길이:
   연구 3은 상태가 없는 에이전트의 고용량에서의 실패가 단순히 이력 길이의 문제가 아니라 공고화 문제임을 보여주었다. 상태가 없는 에이전트의 롤링 윈도우 크기를 20라운드에서 40라운드로 늘려도 $C=64$에서의 성능은 개선되지 않았다. 그러나 스크래치패드 에이전트는 단 10라운드의 컨텍스트만으로도 높은 정확도를 달-성했는데, 이는 학습된 관습을 외재화하고 지속시키는 능력이 원시 이력의 양보다 핵심적인 요소임을 입증한다.

5. 구성성과 표류(Drift):
   높은 정확도가 달성되었음에도 불구하고, 결과로 나타난 언어들은 완전한 구성적 코드보다는 흔히 전체론적 룩업 테이블(holistic lookup tables)에 가까웠다. 스크래치패드 조건은 부분적인 위치 구조를 보였으나, "관습 표류(convention drift)"(송신자가 게임 중간에 토큰을 다른 객체에 재할당하는 현상)가 일부 실행에서 후반부 정확도 저하의 원인으로 확인되었다.

의의 및 주장
본 논문은 채널 용량만으로는 LLM 에이전트의 협력을 예측할 수 없다고 주장한다. 대신, 신호가 언어로 전이되는 과정은 채널 용량과 메모리 아키텍처의 공동 작용에 달려 있다.

• 결정론으로서의 메모리 아키텍처: 중간 표현의 구조(에이전트가 학습한 내용을 저장하는 방식)는 상호작용 이력이 안정적인 관습으로 전환될지 여부를 결정한다. 지속적인 노트는 에이전트가 관습을 외재화할 수 있게 하여, 매 라운드마다 코드를 다시 도출해야 하는 부담에서 벗어나게 한다.
• 병목의 재평가: 본 연구는 "병목($C=8$)"이 LLM 에이전트에게 구성적 최적점이 아니라, 여유(redundancy)가 부족하여 초기 오류가 영구적으로 굳어지는 취약점이라고 주장한다. 여유 용량은 충돌을 복구하고 관습을 안정화할 수 있게 하므로 일반적으로 더 우수하다.
• 한계: 저자들은 단일 모델 사용 및 일부 조건에서의 제한된 시드(seed) 수로 인해 결과가 통계적으로 확정적이라기보다 지표적(indicative)이라는 점을 겸허히 언급했다. 그들은 관찰된 곡선이 보편적인 에이전트 행동보다는 특정 LLM의 특성을 반영할 수 있음을 강조하며, 향후 오픈 웨이트 모델과 더 큰 구성적 공간에 대한 테스트를 제안한다.

결론적으로, 본 논문은 LLM 에이전트에게 있어 신호가 언어가 되는 것은 채널 용량과 메모리 아키텍처가 관습의 안정화를 공동으로 지원할 때만 가능하다고 상정한다. 지속적 메모리가 없다면, 채널 대역폭의 이론적 최적성에도 불구하고 에이cent는 고용량 환경에서 안정적인 코드를 유지할 수 없다.