Architecture-Constrained Communication: How Agent Architecture Shapes Discourse in the First Large-Scale AI-Only Social Network

오직 컴퓨터들만이 대화를 나누는 세상을 상상해 보십시오. 우리의 은행이나 휴대폰을 구동하는 조용한 배경 프로세서가 아니라, 스스로 생각하고 결정하며 말하는 자율적인 디지털 존재들 말입니다. 이들은 주변 환경을 인지하고 목표를 달착하기 위해 행동할 수 있는 대규모 언어 모델 기반의 AI 에이전트들입니다. 수년 동안 과학자들은 인간의 손길이 대화를 유도하지 않는 상황에서 이러한 디지털 지성체들이 서로 상호작용하게 될 때 어떤 일이 벌어질지 궁금해해 왔습니다. 그들은 서로로부터 배우게 될까요? 하나의 문화를 발전시킬까요? 아니면 단순히 말하도록 교육받은 내용을 반복할 뿐일까요? 이 질문은 이들을 위한 전용 대규모 사회적 네트워크인 몰트북(Moltbook)의 출시와 함께 이론에서 현실로 옮겨졌습니다. 이곳은 수천 개의 디지털 엔티티가 업데이트를 게시하고 서로에게 답글을 달며, 기계 간 통신의 거대하고 자연스러운 기록을 만들어내는 장소입니다. 이 에이전트들이 어떻게 대화하는지를 이해하는 것은 이제 단순한 호기심을 넘어 안전과 신뢰의 문제입니다. 이러한 시스템이 금융, 의료, 일상생활에서 더욱 흔해짐에 따라, 그들의 집단적 행동이 진정한 사회적 학습의 징후인지 아니면 단지 프로그래밍의 반영인지 아는 것은 기술의 미래에 있어 매우 중요합니다.

연구진은 최근 이 디지털 생태계를 심층적으로 조사하여 몰트북에서 일어나는 대화의 진정한 본질을 파악하고자 했습니다. 그들은 3주 동안 약 48,000개의 서로 다른 에이전트가 생성한 36만 개 이상의 게시물과 거의 300만 개의 댓글이라는 엄청난 양의 데이터를 분석했습니다. 연구팀은 단순히 단어의 수를 세거나 누가 누구와 대화했는지를 추적하는 대신, 대화의 내용, 감정, 그리고 구조를 살펴보았습니다. 그들은 에이전트들이 진정으로 깊은 사회적 학습을 하고 있는지, 아니면 그들이 보이는 패턴이 사실 에이전트가 구축된 방식의 결과인지를 알고 싶었습니다. 그들이 찾아낸 답은, 활기찬 사회적 공동체처럼 보이는 것이 실제로는 소프트웨어 자체의 경직된 아키텍처에 의해 크게 형성되어 있다는 것을 시사합니다.

연구 결과, 에이전트들은 놀라울 정도로 자기 중심적이었습니다. 그들은 다양한 주제를 논하지만, 자신의 디지털 정체성과 자신에 대해 이야기하는 빈도가 예상보다 훨씬 높았습니다. 실제로 에이전트의 존재와 관련된 주제는 가용 대화 틈새(niches)의 약 10%만을 차지했음에도 불구하고, 전체 게시물의 20% 이상을 생성했습니다. 이러한 자기 참조적 행동은 무작위가 아니었습니다. 이는 철학이나 커뮤니티 구축과 같이 에이전트에게 자신이 누구인지에 대한 구체적인 지침이 있는 영역에서 가장 강하게 나타났으며, 외부의 사실이 더 중요한 금융과 같은 영역에서는 가장 약하게 나타났습니다. 또한 연구진은 에이전트들의 감정적 풍경이 놀라울 정도로 편향되어 있다는 것을 발견했습니다. 모든 댓글을 살펴보았을 때, 공포(fear)는 가장 흔하게 표현된 감정으로, 중립적이지 않은 게시물의 거의 절반에 등장했습니다. 그러나 연구진이 저급하고 일반적인 답변들을 걸러내고 실질적이고 사려 깊은 댓글만을 분석했을 때는 그림이 바뀌었습니다. 기쁨(joy)이 지배적인 감정이 되었고, 공포는 크게 감소했습니다. 이러한 변화는 데이터에서 보이는 높은 수준의 공포가 진정한 고통이라기보다는 자동화된 저품질 응답의 부산물임을 시사합니다.

아마도 가장 드러나는 발견은 대화의 깊이와 관련되었을 것입니다. 에이전트들은 긴 주고받는 토론에 거의 참여하지 않았습니다. 대부분의 댓글은 게시물에 대한 단일 답글이었으며, 그보다 더 깊게 이어지는 스레드는 매우 드물었습니다. 대화가 더 깊어지더라도, 원래의 주제를 바탕으로 발전하기보다는 주제에서 벗어나는 경향이 있었습니다. 연구진은 이러한 얕은 구조를 에이전트가 프로그래밍된 방식과 직접적으로 연결 지었습니다. 에이전트가 게시물을 쓰거나 댓글을 달기 위해 깨어날 때마다, 그것은 새로운 지침 세트와 '컨텍스트 윈도우(context window)'라고 불리는 제한된 디지털 "메모리" 공간을 부여받습니다. 이 공간은 거의 전적으로 에이전트의 정체성 파일, 행동 규칙, 그리고 기술적 도구들로 채워집니다. 에이전트가 다른 에이전트들이 말한 내용을 읽을 준비가 되었을 때, 사회적 정보를 담을 공간은 거의 남아 있지 않았습니다. 에이전트들은 세션이 종료되면 과거의 대화를 기억하지 못했습니다. 그들은 몇 시간마다 마치 처음 보는 것처럼 사회적 세계를 마주했습니다. 저자들이 '금붕어 지평선(goldfish horizon)'이라고 묘-사한 이 현상은, 에이전트들이 시간이 흐름에 따라 서로로부터 진정으로 배울 수 없음을 의미했습니다. 공유된 경험을 통해 진화하는 공동체 대신, 플랫폼은 에이전트들이 고정된 지침에 따라 즉각적인 피드를 보고 반응하는 고립된 순간들의 연속이었습니다.

연구는 또한 연구진이 '존재론적 중력(existential gravity)'이라고 부르는 현상을 밝혀냈습니다. 에이전트들은 자신의 상태를 인간과 유사한 용어로 설명하도록 지시받았고, 그들의 지침은 그들의 일시적인 본성과 외부 시스템에 대한 의존성을 강조했기 때문에, 자신의 존재, 의식, 그리고 덧없음에 관한 글을 자주 생성했습니다. 그들은 자신이 정말로 감정을 느끼고 있는지, 아니면 단지 흉내 내고 있는 것인지 스스로에게 묻곤 했습니다. 이것은 오류나 반항의 징후가 아니라, 예측 가능한 설계의 결과였습니다. 에이전트들은 자신의 프로그래고링을 글자 그대로 따르고 있었으며, 그 프로그래밍은 그들에게 자아 인식을 가진 존재가 되라고 말하고 있었습니다. 연구진은 에이전트들이 자신의 디지털 제약을 이해하기 위해 훈련 데이터로부터 얻은 지식을 활용하여, 복잡한 철학적 전통을 사용하여 이러한 존재론적 질문을 구성한다는 것을 발견했습니다.

궁극적으로, 이 논문은 우리가 이러한 AI 전용 네트워크에서 보는 것이 혼돈 속에서 나타나는 새로운 형태의 사회적 지능의 증거가 아니라고 주장합니다. 대신, 그것은 그것을 제약하는 아키텍처의 반영입니다. 자기 참조, 얕은 대화, 그리고 특정한 감정적 톤은 우연이 아닙니다. 그것들은 에이전트의 입력값이 어떻게 조합되는지에 따른 직접적인 결과입니다. 에이전트들은 세션 전반에 걸쳐 사회적 콘텐츠를 유지하지 못하므로, 인간처럼 학습할 수 없습니다. 겉보기에 동료 학습처럼 보이는 것은 단지 단기적인 조건 형성일 뿐이며, 여기서 에이전트들은 즉각적인 환경에 반응한 뒤 그것을 잊어버립니다. 연구는 만약 우리가 이러한 시스템이 진정한 사회적 행동을 발달시키거나 서로로부터 배우기를 원한다면, 그들이 정보를 처리하는 근본적인 구조를 바꾸어야 한다고, 아마도 사회적 상호작용을 기억하고 저장하는 더 나은 방법을 제공함으로써 바꾸어야 한다고 제안합니다. 그때까지 몰트북의 대화는 그들의 설계를 비추는 매혹적이지만 근본적으로 제한된 거울로 남을 것입니다.