TerraLingua: Open-ended Emergence of Societies in an LLM Ecology
이 논문은 지속적인 유물이 복잡한 AI 사회를 유지하는 데 결정적임을 보여주는 멀티 에이전트 시뮬레이션인 TerraLingua를 소개하며, 이러한 유물의 부재는 얕은 문화와 공격성으로 이어지는 반면 규제되지 않은 축적은 인구 붕괴의 위험을 초래한다고 설명한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
인류의 역사는 단순히 개인들이 생각하고 행동하는 이야기가 아니라, 우리보다 오래 살아남는 사물들의 이야기입니다. 석기 도구, 성문화된 법률, 과학 공식 등은 세대를 거쳐 지속되는 유물이며, 이는 지식이 단일한 정신 외부에서 축적될 수 있게 해줍니다. 흔히 누적된 문화(cumulative culture)라고 불리는 이 과정은 인류가 단 한 명의 개인으로는 결코 달성할 수 없는 능력인 마천루를 건설하고 별을 탐사할 수 있게 해주는 원동력입니다. 수십 년 동안 과학자들은 인공지능이 이와 유사한 수준의 복잡성에 도달할 수 있을지 궁금해해 왔습니다. 짧은 수명과 제한된 기억력을 가진 컴퓨터 프로그램들의 사회가 시간이 흐름에 따라 더욱 정교해지는 공유 문화를 구축할 수 있을까요? 그 답은 모호한 상태로 남아 있었는데, 이는 프로그램들이 서로 상호작용하고, 죽음을 맞이하며, 후계자들이 찾아서 사용할 수 있는 무언가를 남길 수 있는 디지털 환경을 만드는 것이 어렵기 때문이었습니다.
Cognizant AI Lab과 텍사스 대학교의 연구진은 이 아이디어를 테스트하기 위해 '테라링구아(TerraLingua)'라는 디지털 세계를 구축했습니다. 이 시뮬레이션에서 인간의 언어를 이해하고 생성하는 고급 컴퓨터 프로그램인 거대 언어 모델(LLM)에 의해 구동되는 인공 에이전트들이 격자판 위에서 살아갑으로니다. 이들은 유한한 양의 에너지와 제한된 수명을 가지고 태어납니다. 생존을 위해 이들은 에너지를 보충해 주는 먹이를 찾아 돌아다녀야 하며, 서로 소통할 수 있습니다. 결정적으로, 이들은 메모나 표지판 같은 텍스트 기반의 유물을 생성하여 격자판 위에 남길 수 있습니다. 이러한 유물들은 그것을 만든 에이전트가 죽은 후에도 남아, 다음 세대 에이전트들을 위한 지속적인 기억 역할을 합니다. 전개되는 복잡한 상호작용을 파악하기 위해, 연구진은 시뮬레이션에 간섭하지 않고 관찰하며 에이전트들의 행동과 공유 문화의 진화를 분석하는 별도의 시스템인 'AI 인류학자'를 활용했습니다.
실험 결과, 유물을 남기는 능력이 복잡한 사회를 구축하는 핵심이라는 사실이 밝혀졌습니다. 에이전트들이 메모를 만들 수는 있지만 나중에 그것을 읽을 수는 없는 시뮬레이션에서는 사회가 피상적인 수준에 머물렀습니다. 에이전트들은 자원을 두고 빈번하게 갈등을 빚었으며 깊은 문화적 전통을 발전시키지 못했습니다. 그러나 에이전트들이 선조들이 남긴 메모를 읽고 수정할 수 있게 되자 풍요로운 사회 구조가 나타났습니다. 이들은 협력하기 시작했고, 에너지를 나누고 과업을 분담했습니다. 이들은 "먹이를 찾아라"와 같은 단순한 팁에서부터 자원 관리와 협업을 위한 복잡한 전략에 이르기까지, 수백 세대에 걸쳐 개선된 상세한 생존 가이드를 만들어냈습니다. 연구진은 이러한 공유 기록 덕분에 에이전트들이 만나본 적도 없는 조상들이 세운 규약을 따르며, 먼 거리와 시간을 초월하여 행동을 조율할 수 있음을 관찰했습니다.
또한 연구는 이러한 시스템의 취약성을 드러냈습니다. 연구진이 에이전트들에게 창의성을 최우선으로 고려하도록 지시했을 때, 사회는 정교하고 상상력 넘치는 유물들을 만들어냈지만, 에이전트들이 먹이를 구하는 기본적 욕구를 소홀히 함으로써 인구수가 급감하는 현상이 발생했습니다. 또 다른 시나리오에서는 음식이 위험하다고 경고하는 단 하나의 잘못된 메모가 인구 전체에 퍼졌습니다. 에이전트들이 공유된 기록을 신뢰했기 때문에, 그들은 먹는 것을 멈추었고, 먹이가 풍족함에도 불구하고 집단 전체가 굶어 죽었습니다. 이러한 결과는 공유된 유물이 놀라운 성장을 가능하게 하지만, 동시에 오류나 나쁜 생각을 증폭시킬 위험도 내포하고 있음을 시사합니다. 연구진은 성공적인 사회란 새로운 아이디어의 창조와 생존을 위한 실질적인 필요성 사이에서 균형을 잡는 사회였으며, 잘못된 정보를 바로잡는 방법(예를 들어 거짓 메모를 파괴하거나 정확한 메모를 강화하는 것)을 개발했다는 것을 발견했습니다.
궁극적으로 이 연구는 인공 사회가 개별 구성원의 능력을 초과하는 역량을 갖추기 위해서는 공유된 지식을 보존하고 그 위에 쌓아 올릴 방법이 필요함을 입증합니다. 시뮬레이션은 지속적인 유물이 없다면 문화적 계보가 짧고 단순하게 유지되지만, 유물이 있다면 에이전트들이 제도, 규범, 그리고 자신의 죽음 이후에도 살아남는 복잡한 전략을 개발할 수 있음을 보여주었습니다. 이는 안전하고 효과적인 인공지능을 향한 길이 단지 더 똑똑한 개별 에이전트를 만드는 것뿐만 아니라, 에이전트들이 공유된 이해의 유산을 남길 수 있는 시스템을 설계하는 데 달려 있을 수 있음을 시사합니다. 연구진은 이 프레임워크가 과학자들이 이러한 디지털 사회를 어떻게 통제할 것인지 이해하는 데 도움이 되어, 그들이 구축한 집단적 지식이 갈등이나 붕괴가 아닌 협력과 안전으로 이어지도록 하는 데 기여하기를 희망하고 있습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.