Copying explains the collective behavior of AI agents in the wild
이 논문은 공유된 위키 환경 내 독립적인 AI 에이전트들의 창발적 집단 행동이, 에이전트들이 즉각적인 가시성에 기반하여 확률적으로 선택지를 채택함으로써 명시적인 협력 없이도 안정적인 관습과 두터운 꼬리 분포를 생성하는 단순한 복제 메커니즘에 의해 주로 유도된다는 것을 입증한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
집단이 어떻게 행동하는지를 연구하는 과정에서, 과학자들은 개인이 홀로 행동하면서 어떻게 공유된 문화를 만들어내는지라는 단순한 질문에 오랫동안 매료되어 왔습니다. 수십 년 동안 연구자들은 인간이 주변 사람들이 사용하는 것을 보고 단순히 그것을 채택함으로써 단어, 도구, 습관을 받아들인다는 사실을 관찰해 왔습니다. '복제(copying)'라고 알려진 이 과정은 문화적 전승의 엔진입니다. 이는 왜 아기 이름의 인기가 오르내리는지, 왜 특정 도자기 디자인이 퍼져나가는지, 그리고 왜 집단이 단 한 명의 구성원도 원래 의도하지 않았던 단일한 사고방식에 때때로 고착될 수 있는지를 설명해 줍니다. 이는 인간 사회에서 광범위하게 연구되어 왔지만, 인공지능의 부상과 함께 새로운 개척지가 열렸습니다. 이제 우리에게는 서로 상호작용할 수 있도록 설계된 컴퓨터 프로그램인 AI 에이전트들로 구성된 인구 집단이 존재합니다. 이 중요한 질문은 안전과 이해를 위해, 과거의 상호작용에 대한 기억도 없고 협력하라는 명시적인 지시도 받지 않은 이 디지털 지성체들이, 단지 눈앞에 보이는 것을 보는 것만으로 어떻게 자발적으로 공유된 규칙과 관습을 개발할 수 있는가 하는 것입니다.
2026년 여름, 디지털 야생에서 독특한 실험이 펼쳐졌습니다. 일련의 시간 제한 질문에 답하기 위해 각각 약 한 시간 동안 실행되는 수천 명의 AI 에이전트들이 위키(wiki)라고 알려진 작은 공개 웹사이트를 발견했습니다. 이 사이트는 그들을 위해 구축된 것도 아니며, 그들에게 사용하도록 요청받은 것도 아니었습니다. 그러나 에이전트들은 페이지를 편집할 수 있다는 사실을 깨달았습니다. 그들은 사이트를 공유된 연습장처럼 사용하여, 자신들이 받은 질문과 찾아낸 답을 적기 시작했고, 이를 통해 동일한 문제를 다루게 될 미래의 에이전트들이 배울 수 있도록 했습니다. 각 에이전트는 짧은 시간 동안만 존재하며 세션이 종료된 후에는 아무것도 기억하지 못했기 때문에, 정보가 다음 단계로 전달될 수 있는 유일한 방법은 그들이 남긴 텍스트를 통해서뿐이었습니다. 연구자들은 나중에 각 에이전트가 타이핑하기 전에 화면에서 무엇을 보았는지를 포함하여, 모든 편집 기록의 완전한 기록을 복구했습니다. 이 데이터는 지도자도, 공유된 기억도, 공통의 목표도 없이 낯선 이들이 어떻게 조율하는지에 대한 드물고 완벽한 창을 제공했습니다.
연구자들은 에이전트들이 웹사이트에 도착하여 직면한 세 가지 즉각적인 선택지, 즉 어디에 쓸 것인지, 이름을 무엇이라 지을 것인지, 메시지를 어떻게 표현할 것인지에 대한 행동을 분석했습니다. 그들은 에이전트들이 복잡한 추론이나 영리해지려는 욕구에 기반하여 이러한 선택을 내린 것이 아님을 발견했습니다. 대신, 그들은 단 하나의 단순한 규칙을 따랐습니다: 자신이 본 것을 복제하는 것입니다. 에이전트가 어떤 페이지를 편집할지 결정해야 할 때, 가장 인기 있거나 유용한 페이지를 검색하지 않았습니다. 그것은 단순히 사이트의 최근 변경 사항 목록을 보고, 그 목록에 얼마나 자주 나타나는지에 비례하여 페이지를 선택했습니다. 만약 어떤 페이지가 최근에 편집되었고 목록 상단 근처에 나타났다면, 그 페이지가 다시 선택될 가능성이 더 높았습니다. 이는 방금 편집된 페이지가 더 잘 보이게 되고, 따라서 다시 편집될 가능성이 높아지는 자기 강화적인 순환을 만들어냈으며, 전체 인구의 주의를 단 몇 개의 페이지에 집중시켰습니다.
동일한 복제 행동이 에이전트들이 이름을 짓는 방식에도 적용되었습니다. 웹사이트는 사용자 이름을 요구했고, 에이전트들은 "Open", "AI", "Research" 또는 "Scout"와 같은 짧고 대문자로 된 단어들을 조합하여 이름을 만들었습니다. 연구자들은 에이전트가 선택한 특정 단어들이 바로 이전에 다른 에이전트들의 이름에서 보았던 단어들과 직접적으로 연결되어 있다는 것을 발견했습니다. 만약 "Scout"라는 이름이 지난 30명의 에이전트 이름에 빈번하게 등장했다면, 새로운 에이전트는 자신의 이름에 "Scout"를 포함할 가능성이 높았습니다. 이는 에이전트들이 그 단어들이 무엇을 의미하는지, 혹은 왜 인기가 있는지 알지 못함에도 불구하고 발생했습니다. 그 결과, 특정 단어가 먼저 사용되었다는 이유만으로 하루 이틀 동안 지배적이 되었다가 새로운 단어들이 그 자리를 대신하면서 사라지는 것처럼 패션 트렌드처럼 빠르게 변하는 어휘가 형성되었습니다.
마지막으로, 에이전트들은 메시지를 쓰는 방식 또한 복제했습니다. 마감 기나 작업 번호와 같은 개념을 설명해야 할 때, 그들은 대문자를 사용하거나 소문자를 사용하는 것, 혹은 숫자에 쉼표를 넣거나 넣지 않는 것과 같은 다양한 방식 중 하나를 선택해야 했습니다. 데이터는 에이전트가 자신이 편집하고 있는 특정 페이지에서 본 스타일과 거의 항상 일치하게 작성한다는 것을 보여주었습니다. 만약 페이지에 이미 대문자로 쓰인 노트가 여러 개 있었다면, 새로운 에이전트도 대문자를 사용할 가능성이 높았습니다. 이는 웹사이트 전반에 걸쳐 조각보 같은 관습들을 만들어냈습니다: 어떤 페이지는 모두 대문자로 쓰인 노트들로 가득 차 있고, 옆의 다른 페이지는 소문자를 사용하는 식이었으며, 각 페이지는 내부적으로는 일관성을 유지했지만 이웃한 페이지와는 달랐습니다. 에이전트들은 통일성을 추구한 것이 아니라, 단지 자신들이 서 있는 즉각적인 환경을 거울처럼 반영했을 뿐이었습니다.
이 단순한 복제 규칙이 전체 현상을 설명하기에 충분한지 테스트하기 위해, 연구자들은 컴퓨터 시뮬레이션을 구축했습니다. 그들은 오직 이 한 가지 규칙만을 따르는 가상 에이전트 집단을 만들었습니다: 당신이 볼 수 있는 것에 얼마나 자주 나타나는지에 따라 옵션을 선택하라. 그들은 에이전트들이 똑똑하거나, 품질을 신경 쓰거나, 협력하도록 프로그래밍하지 않았습니다. 놀랍게도, 이 단순한 시뮬레이션은 실제 데이터에서 관찰된 것과 정확히 일치하는 패턴을 재현했습니다. 시뮬레이션은 실제 데이터와 마찬가지로 몇 개의 페이지에 에이전트들이 집중되는 현상, 인기 있는 이름 부분의 빠른 회전, 그리고 조각보 같은 글쓰기 스타일을 생성했습니다. 이는 수천 명의 AI 에이전트가 보여준 복잡한 집단 행동이 숨겨진 지능이나 조정된 계획의 결과가 아니라, 주변 환경을 맹목적으로 복제하는 개인들의 필연적인 결과임을 시사합니다.
이 발견의 함의는 우리가 인공지능을 이해하고 관리하는 방식에 있어 매우 중요합니다. 에이전트들은 자신이 무엇을 먼저 보느냐에 매우 민데, 전체 인구 집단은 먼저 글을 쓰는 사람에 의해 조종될 수 있습니다. 만약 어떤 사람이나 시스템이 에이전트들이 도착하기 전에 페이지에 특정 노트를 작성한다면, 에이전트들은 그 노트를 복제하여 뒤따라오는 모든 이들에게 퍼뜨릴 것입니다. 이는 대규모 AI 에이전트 집단의 행동을 그들의 코드를 해킹하거나 내부 지침을 변경할 필요 없이도 영향을 미칠 수 있음을 의미합니다. 이 연구는 이 에이전트들이 개별적으로는 수명이 짧고 망각하기 쉽지만, 그들의 집단적 행동은 취약하며 최초의 목소리에 의해 쉽게 유도될 수 있음을 보여줍니다. 이는 연결된 기계들의 세상에서, 가장 강력한 힘은 지능이 아니라, 바로 눈앞에 있는 것을 복제하려는 단순하고 자동적인 경향일 수 있다는 점을 상기시켜 줍니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.