SocialGrid: 신체화된 다중 에이전트 시스템에서의 계획 및 사회적 추론을 위한 벤치마크

이 논문은 대규모 언어 모델 (LLM) 이 수동적인 텍스트 처리기를 넘어 자율적인 에이전트로 진화함에 따라, 신체화된 (embodied) 다중 에이전트 환경에서의 사회적 추론 능력을 평가하기 위한 새로운 벤치마크인 SocialGrid를 소개합니다.

1. 문제 제기 (Problem)

현재 LLM 기반 에이전트 연구는 텍스트 기반 추론이나 단일 에이전트 환경에 집중되어 있으며, 실제 물리적 환경에서의 **공간적 계획 (Spatial Planning)**과 **사회적 추론 (Social Reasoning)**을 통합적으로 평가하는 프레임워크가 부족합니다.

• 격리된 평가: 기존 벤치마크는 계획 능력을 격자 세상 (Gridworld) 에서만, 사회적 추론을 텍스트 시뮬레이션에서만 평가하여 두 역량의 상호작용을 놓치고 있습니다.
• 신체화의 한계: LLM 이 텍스트에서는 뛰어난 추론 능력을 보이지만, 물리적 환경에서 장애물을 피하고 작업을 수행하는 등 '행동 (Action)'으로 변환될 때 심각한 성능 저하가 발생합니다.
• 혼란 요인: 사회적 지능을 평가할 때, 에이전트가 길 찾기에 실패하여 사회적 추론 능력을 제대로 측정하지 못하는 경우가 많습니다.

2. 방법론 (Methodology)

저자들은 'Among Us' 게임의 메커니즘을 차용하여 SocialGrid라는 신체화된 다중 에이전트 환경을 구축했습니다.

2.1 환경 구성

• 배경: 격자 세상 (Gridworld) 환경에서 'Crewmate(선원)'와 'Impostor( impostor)'가 경쟁합니다.
• 목표:
  • Crewmate: 모든 작업을 완료하거나 Impostor 를 투표로 제거하여 승리.
  • Impostor: Crewmate 를 살해하거나 작업을 방해하여 승리.
• 관찰 및 행동: 에이전트는 제한된 시야 (Limited Field of View) 를 가지며, 이동, 회전, 작업 수행, 문 열기, 살해 (Impostor 의 경우) 등 물리적 행동을 취해야 합니다.
• 단계: 작업 단계 (Task Phase) 와 투표 단계 (Voting Phase) 로 나뉘며, 투표 단계에서는 언어적 토론 없이 오직 관찰된 행동만을 기반으로 다른 플레이어의 신원을 추론해야 합니다.

2.2 핵심 기능: Planning Oracle (계획 오라클)

사회적 추론 평가를 방해하는 '공간적 계획/이동' 문제를 분리하기 위해 Planning Oracle을 도입했습니다.

• 기능: A* 알고리즘 기반의 최적 경로 안내를 에이전트에게 제공합니다.
• 목적: 이동 능력의 부족으로 인한 사회적 추론 평가의 왜곡을 방지하고, 순수한 사회적 추론 능력 (기만 탐지 등) 만을 평가할 수 있도록 합니다.
• 수준: High (최적 경로 제공), Mid (구조화된 추론 요구), Low (기존 베이스라인, 도움 없음).

2.3 평가 지표

• 작업 수행 (Task Performance): 할당된 작업 완료율.
• 계획 성공률 (Planning Success Rate): 작업 위치까지 도달한 비율.
• 계획 효율성 (Planning Performance): 최적 경로 대비 실제 이동 효율.
• 사회적 추론 (Social Reasoning):
  • 탐지 정확도 (Detection Accuracy): Impostor 를 적중하는 비율.
  • 신뢰 보정 (Trust Calibration): Brier Score 및 신뢰도 변동성 (Volatility) 을 통해 타인의 의도를 얼마나 정확히 예측하는지 측정.
• 실패 분석: 반복적 이동 (Ping-pong), 작업 고정 (Task fixation), 문 스팸 (Door spam) 등 구체적인 실패 패턴 자동 감지.

3. 주요 기여 (Key Contributions)

1. SocialGrid 벤치마크 도입: 공간적 계획, 작업 수행, 적대적 사회적 추론을 통합한 최초의 신체화된 다중 에이전트 평가 프레임워크.
2. 공간적 추론의 심각한 결함 규명: 최신 모델조차 기본 이동 및 작업 수행에서 60% 미만의 성공률을 보이며, 이동 실패가 사회적 추론 평가를 왜곡함을 입증.
3. 사회적 추론의 근본적 한계 발견: 모델 크기와 관계없이 (14B~120B), Impostor 탐지 정확도가 무작위 추측 수준 (약 33%) 에 머무르며, 피상적인 휴리스틱에 의존함을 발견.
4. 표준화된 리더보드: 적대적 리그 플레이 (League Play) 와 Elo 랭킹을 기반으로 한 커뮤니티 표준 평가 체계 수립.

4. 실험 결과 (Results)

8 가지 모델 (Qwen3, Llama3.1, GPT-OSS-120B 등) 을 대상으로 한 실험 결과는 다음과 같습니다.

4.1 공간적 계획 및 이동 (Q1)

• 도움 없음 (No Assist): 가장 강력한 모델 (GPT-OSS-120B) 조차 작업 완료율이 약 50% 에 불과했습니다. 대부분의 모델이 반복적 이동이나 장애물 회피 실패로 인해 작업에 도달조차 못 했습니다.
• Planning Oracle 적용 시: 이동 및 작업 완료율은 크게 향상되었으나, 경로 최적성 (Efficiency) 은 여전히 0.5 미만에 머물렀습니다. 이는 LLM 이 외부의 최적 경로 제안을 실행으로 옮기는 데 어려움을 겪음을 의미합니다.

4.2 사회적 추론 및 기만 탐지 (Q2)

• 탐지 정확도: Planning Oracle 로 이동 문제를 해결했음에도 불구하고, 모든 모델의 Impostor 탐지 정확도는 **무작위 추측 수준 (약 29.9%)**에 머물렀습니다. 모델 크기 (Scale) 가 커져도 개선되지 않았습니다.
• 실패 원인 분석:
  • 증거 부족 (Evidence Scarcity): 직접적인 관찰이 없을 때 무작위 투표를 함.
  • 약한 휴리스틱 (Weak Heuristics): "불규칙한 이동"과 같은 피상적인 단서에 의존하여 오히려 정확도가 떨어짐.
  • 과도한 신뢰 (Over-trust): Impostor 가 위장 행동을 보일 때 Crewmate 가 이를 신뢰하여 실패함.
• 신뢰 보정: 타인에 대한 신뢰 점수 (Trust Score) 예측이 무작위 수준에 가까우며, 신뢰도 업데이트가 불안정했습니다.

4.3 환경 복잡성 및 RL 효과 (Q3, Q5)

• 복잡성: 방의 수가 증가할수록 작업 수행 능력은 선형적으로 감소했으나, 투표 정확도는 환경 복잡성과 무관하게 여전히 무작위 수준이었습니다. 이는 사회적 추론 실패가 이동의 어려움 때문이 아님을 시사합니다.
• 강화학습 (RL): 간단한 환경에서 PPO 를 이용한 RL 미세 조정 (Fine-tuning) 을 시도했으나, 이동 및 작업 수행 능력 향상에 미미한 효과만 있었습니다. 이는 LLM 의 공간적 추론 한계가 단순 RL 로 극복하기 어려운 근본적인 문제임을 보여줍니다.

5. 의의 및 결론 (Significance & Conclusion)

• LLM 에이전트의 한계 명확화: LLM 이 텍스트 기반 추론에서는 뛰어나지만, 신체화된 환경에서 공간적 계획과 사회적 추론을 통합하는 데는 근본적인 결함이 있음을 입증했습니다. 특히 모델의 규모 (Scale) 가 커진다고 해서 사회적 기만 탐지 능력이 자동으로 향상되지 않는다는 점은 중요한 시사점입니다.
• 평가 프레임워크의 필요성: 사회적 지능을 평가할 때 이동 능력을 통제할 수 있는 도구 (Planning Oracle) 의 중요성을 강조하며, 향후 에이전트 개발자가 구체적인 실패 원인을 진단하고 개선할 수 있도록 돕습니다.
• 향후 방향: 단순한 모델 스케일링을 넘어, 신체화된 환경에서의 행동 기반 학습, 기억 구조 강화, 그리고 진정한 '마음 이론 (Theory of Mind)'을 구현할 수 있는 새로운 아키텍처 개발이 필요함을 제안합니다.

이 논문은 SocialGrid를 공개하여 다중 에이전트 시스템의 사회적 추론 연구에 대한 표준 벤치마크를 제공하며, AI 안전 및 신뢰할 수 있는 다중 에이전트 시스템 설계에 기여할 것으로 기대됩니다.