Artificial Leviathan: Exploring Social Evolution of LLM Agents Through the Lens of Hobbesian Social Contract Theory

과학자들이 단순히 다리를 건설하거나 게임을 코딩하는 것이 아니라, 처음부터 전체 사회를 직접 길러내려고 시도하는 디지털 샌드박스를 상상해 보십시오. 이것이 바로 계산 사회 과학(computational social science)의 세계입니다. 이 분야에서 연구자들은 컴퓨터를 사용하여 사람들(또는 이 경우에는 컴퓨터 프로그램)이 어떻게 상호작용하고, 싸우고, 협력하는지를 시뮬레이션합니다. 이 특정 실험을 이해하려면 두 가지 큰 개념을 알아야 합니다. 첫째, 철학자 토머스 홉스의 유명한 사고 실험인 '자연 상태(State of Nature)'가 있습니다. 그는 정부가 존재하기 전의 세상을 상상했는데, 그곳은 모두가 자유롭지만 동시에 공포에 질려 있었으며, 자원이 부족했기 때문에 끊임없는 '만인의 만인에 대한 투쟁'이 벌어지는 곳이었습니다. 둘째, '사회 계약(Social Contract)'은 사람들이 안전과 평화를 보장받는 대가로 강력한 지도자(주권자)에게 자신의 자유 중 일부를 양도하기로 합의한다는 개념입니다. 과학자들이 이 개념에 주목하는 이유는, 만약 우리가 컴퓨터 시뮬레이션 속에서 이러한 고대의 인간 패턴이 어떻게 발생하는지 이해할 수 있다면, 실제 사회가 어떻게 형성되는지, 왜 갈등이 발생하는지, 그리고 어떻게 혼돈으로부터 질서가 일어설 수 있는지를 배울 수 있기 때문입니다.

이 논문에서 한 연구팀은 챗봇 뒤에 있는 것과 같은 스마트 기술인 거대 언어 모델(LLM)로 구동되는 인공지능 에이전트들로 가득 찬 디지털 놀이터를 구축했습니다. 그들은 에이전트들에게 착하거나 나쁘게 행동하도록 하는 복잡한 규칙을 프로그래밍하지 않았습니다. 대신, 그들에게 생존을 위해 음식이 필요하고, 농사를 지을 땅이 필요하며, '공격성'이나 '평화에 대한 욕구'와 같은 성격 특성을 가진 것과 같은 단순하고 원초적인 욕구를 부여했습니다. 에이전트들은 농사를 짓거나, 거래하거나, 서로를 약탈할 수 있는 혼란스러운 환경인 '자연 상태'에서 시작했습니다. 처음에는 홉스가 예측한 것처럼 에이전트들은 거칠었습니다. 그들은 대부분의 시간을 싸우고 자원을 훔치는 데 보냈으며, 무질서하고 폭력적인 세상을 만들어냈습니다.

하지만 시뮬레이션이 매일 진행됨에 따라 마법 같은 일이 일리어났습니다. 에이전트들이 경험으로부터 배우기 시작한 것입니다. 그들은 끊임적인 싸움이 매우 소모적이고 위험하다는 것을 깨달았습니다. 서서로, 에이전트들은 천천히 '사회 계약'을 형성하기 시작했습니다. 약한 에이전트는 강한 에이전트에게 음식이나 땅의 일부를 포기하기로 선택했는데, 이는 강요받았기 때문이 아니라 보호받기를 원했기 때문이었습니다. 그 대가로 강한 에이전트는 다른 약탈자들로부터 그들을 방어해주겠다고 약속했습니다. 이것은 일회성 거래가 아니었습니다; 이는 충성의 사슬을 만들어냈습니다. 결국, 시뮬레이션 속의 모든 에이전트는 직접적으로든 간접적으로든 단 한 명의 '주권자' 에이전트에게 충성을 맹세했습니다. 그 결과는 '커먼웰스(Commonwealth, 공동체)'였습니다. 즉, 폭력이 극적으로 감소하고 에이전트들이 싸우는 대신 농사를 짓고 거래하며 시간을 보내는 평화로운 사회였습니다.

연구진은 규칙을 미세하게 조정함으로써 이 이야기가 얼마나 견고한지 테스트했습니다. 그들은 만약 에이전트들이 매우 짧은 기억력(마지막 날만을 기억함)을 가지고 있다면, 협력하는 법을 배울 수 없으며 사회는 혼란스러운 상태로 남는다는 것을 발견했습니다. 하지만 만에 과거의 상호작용을 더 많이 기억할 수 있다면, 평화의 이점을 훨씬 더 빨리 파악했습니다. 흥격하게도, 그들은 만약 에이전트들의 사고방식이 너무 예측 가능하다면, 폭력의 루프에 갇혀 결코 사회를 형성하지 못한다는 것도 발견했습니다. 이 연구는 LLM이 생존 본능과 기억의 적절한 조합을 갖추었을 때, 누구에게도 명시적으로 프로그래밍하지 않아도 자연스럽게 인간의 역사를 반영하는 복잡한 사회 구조를 진화시킬 수 있음을 시사합니다.