Same physical state, different collective dynamics: state encodings select synchronization outcomes in language-model agents

수천 명의 작고 보이지 않는 무용수들이 완벽한 조화를 이루며 움직이려 노력하는 세상을 상상해 보십시오. 그들은 서로를 직접 볼 수 없으며, 대신 번역가에게 군중의 움직임을 설명해 달라고 요청합니다. 만약 번역가가 "모두가 약간 왼쪽으로 움직이고 있습니다"라고 말한다면, 무용수는 왼쪽으로 발을 내디딜 것입니다. 하지만 번역가가 "군중의 평균 위치는 북위 30도입니다"라고 말한다면 어떨까요? 혹은 "여기 24개의 서로 다른 움직임 바구니를 보여주는 차트가 있습니다"라고 말한다면요? 실제 무대 위 상황은 변하지 않았음에도 불구하고, 정보가 어떻게 묘사되느냐에 따라 무용수의 반응은 완전히 달라질 수 있습니다. 이것이 바로 AI 에이전트가 집단의 일부로 존재할 때 어떻게 행동하는지를 탐구하는 새로운 연구의 핵심입니다.

컴퓨터 과학의 세계에서 연구자들은 점점 더 "군집(swarms)"을 구축하고 있습니다. 즉, 문제를 해결하거나 결정을 내리거나 심지어 인간 사회를 시뮬레이션하기 위해 서로 대화하는 프로그램들입니다. 물리학과 수학의 핵심 개념 중 하나는 반딧불이가 함께 깜빡이거나 시계가 동시에 똑딱이는 것과 같은 "동기화(synchronization)"입니다. 보통 과학자들은 AI에게 동일한 사실을 제공하면 AI가 동일하게 행동할 것이라고 가정합니다. 하지만 이 새로운 연구는 까다로운 질문을 던집니다. "사실의 '형식'이 중요한가?" 만약 당신이 AI에게 "군중의 60%가 왼쪽에 있다"라고 말하는 것과 "여기에 합계가 60%인 24개의 숫자 목록이 있다"라고 말하는 것이 AI의 뇌에 다르게 처리될까요? 이 질문의 답은 교통 시스템부터 금융 시장에 이르기까지 우리가 만드는 모든 것을 바꾸는 방식이 될 수 있습니다. 왜냐로써, "번역"이 결과를 바꾼다면, 우리가 AI에게 말하는 방식은 우리가 무엇을 말하느냐만큼이나 중요하기 때문입니다.

위대한 AI 댄스 배틀

연구진은 17명의 AI 에이전트가 참여하는 거대한 디지털 무대를 설정했습니다. 각 에이전트는 "위상 오실레이터(phase oscillator)", 즉 원을 그리며 회전하는 무용수라는 화려한 용어로 불리는 존재였습니다. 그들의 목표는 상을 받는 것이 아니라, 단지 이웃을 살펴보고 더 빨리 돌지(전진), 느리게 돌지(후퇴), 아니면 그대로 있을지(유지)를 결정하는 것이었습니다. 이 무대를 실행하는 컴퓨터 엔진은 모두에게 완벽하게 공정하고 동일했습니다. 유일하게 변하는 것은 "관측 맵(observation map)", 즉 AI에게 이웃의 위치를 알리는 구체적인 방식이었습니다.

연구팀은 동일한 무대를 묘사하는 세 가지 방법을 테스트했습니다:

1. "모먼츠(Moments)" 맵: 이는 AI에게 고차원적인 요약을 제공하는 것으로, 전체 군중의 움직임을 전체적인 방향과 얼마나 밀집되어 있는지를 나타내는 단 세 개의 숫자로 압축한 "분위기 파악(vibe check)"과 같습니다.
2. "센터즈(Centers)" 맵: 이는 24개의 상세한 바구니 목록으로, 원의 각 조각을 대표하는 중심점을 기준으로 각 조각에 얼마나 많은 무용수가 있는지 AI에게 정확히 알려줍니다.
3. "인터벌스(Intervals)" 맵: 이는 중심점 대신 조각의 '가장자리'를 기준으로 라벨을 붙인, 앞서 언급한 것과 동일한 24개의 바구니 목록입니다.

여기 반전이 있습니다: "센터즈"와 "인터벌스" 맵은 라벨만 다를 뿐, 정확히 동일한 양의 정보(24개의 숫자)를 담고 있었습니다. "모먼츠" 맵은 원시 데이터는 적지만 다른 종류의 요약본이었습니다.

결과: 핵심은 프레젠테이션이다

연구진이 GPT(특정 AI 모델)를 사용하여 실험을 진행했을 때, 결과는 충격적이었습니다. AI가 "모먼츠" 요약을 보았을 때, 17명의 무용수 집단은 100%의 확률로(6번의 시도 중 6번 모두) 완벽한 동기화 상태에 도 reality로 진입했습니다. 그러나 "센터즈"나 "인터벌스" 목록을 보았을 때, 집단은 결코 동기화되지 못했습니다(6번의 시도 중 0번). AI 에이전트들은 물리적인 무대는 동일했음에도 불구하고, 마치 완전히 다른 세상에 있는 것처럼 행동했습니다.

이것이 단순한 우연이 아님을 확인하기 위해, 연구진은 다른 두 AI 모델인 Claude와 Gemini로도 동일한 테스트를 수행했습니다. 결과는 더욱 놀라웠습니다. Claude의 경우, "모 moments" 요약은 집단의 동기화 실패를 초래한 반면, 상세한 "센터즈" 및 "인터벌스" 목록은 오히려 그들을 완벽하게 결합시켰습니다. AI 모델들은 단순히 다르게 반응한 것이 아니라, 정반대로 반응했습니다.

이는 "관측 맵"이 단순히 현실을 비추는 중립적인 창이 아님을 증명합니다. 관측 맵은 AI의 뇌의 일부입니다. 세상을 묘사하는 방식을 바꾸면 AI의 행동이 바뀌며, 이 효과는 AI의 행동이 다음에 보게 될 세상을 바꾸는 피드백 루프 속에 있을 때도 유지됩니다.

미시적 미스터리

왜 이런 일이 일어나는지 이해하기 위해, 연구진은 AI가 무대의 특정 순간을 포착한 스냅샷을 보고 결정하는 "미시적 반응(microscopic response)"을 조사했습니다. 그들은 AI의 의사결정 "연산자(operator)"(전진, 유지, 후퇴를 선택하는 내부 규칙)가 인코딩 방식에 따라 급격하게 변화한다는 것을 발견했습니다.

예를 들어, 특정 패턴의 무용수들을 보았을 때 "모먼츠" AI는 거의 항상 "전진"을 선택하는 반면, "센터즈" AI는 주로 "유지"를 선택할 수 있습니다. 이는 연구진이 동일한 숫자를 사용하더라도 순서만 바꿨을 때도 발생했습니다. 연구진은 단순히 텍스트의 길이나 숫자의 위치가 문제인지 테스트했습니다. 그 결과, "작업과 무관한" 텍스트(숫자를 바꾸지 않는 군더더기 텍스트)를 추가하는 것이 데이터 형식 자체를 바꾸는 것만큼이나 AI의 행동을 크게 변화시킨다는 것을 발견했습니다.

"서로게이트(Surrogate)" 테스트: 흉내 낼 수 있는가?

마지막으로, 연구팀은 실용적인 질문을 던졌습니다. 매번 비싼 AI를 실행하는 대신, 간단하고 저렴한 컴퓨터 프로그램("서로게이트")을 훈련시켜 AI가 무엇을 할지 예측할 수 있을까요? 그들은 세 가지 맵에 대해 이러한 서로게이트를 구축하려고 시도했습니다.

"모먼츠" 서로게이트는 AI의 행동을 잘 예측하도록 훈련될 수 있었으나, AI가 "유지"해야 할 상황에서 "행동"할 것으로 예측하는 특정 버그를 수정해야만 가능했습니다. 그러나 "센터즈"와 "인터벌스" 맵을 위한 서로게이트는 완전히 실패했습니다. 훈련 데이터에 대해서는 AI의 행동을 예측할 수 있었지만, 실제로 집단 속에서 춤을 출 때 생성되는 새롭고 복잡한 패턴은 처리하지 못했습니다. 연구진은 이 맵들의 경우, AI의 행동이 단순한 모델로는 예측할 수 없을 정도로 일관성이 없음을 발견했습니다. 이는 정보가 직렬화(text로 기록)되는 방식이 단순한 수학으로는 포착할 수 없는 혼돈스러운 효과를 만들어냈음을 시사합니다.

시사점

주요 결론은, AI 에이전트에게 있어 세상을 어떻게 묘사하느냐가 곧 세상의 규칙 중 일부가 된다는 것입니다. "중립적인" 인터페이스란 존재하지 않습니다. 데이터 형식을 바꾸면 집단의 결과가 바뀌며, 이 변화는 사용하는 AI 모델에 따라 달라집니다. GPT에게 효과적인 방식이 Claude에게는 실패할 수 있고, 한 그룹의 동기화를 돕는 방식이 다른 그룹의 동기화를 깨뜨릴 수도 있습니다.

이것은 단순한 이론적 호기심이 아닙니다. 이는 여러 AI 에이전트가 포함된 시스템을 구축할 때, 단순히 "더 많은 데이터"나 "더 나은 데이터"가 해결책이라고 가정해서는 안 된다는 것을 의미합니다. 우리는 "관측 맵", 즉 현실을 AI를 위한 텍스트로 번역하는 구체적인 방식에 극도로 주의를 기울여야 합니다. 왜냐하면 이 연구가 보여주듯, 번역은 단순히 현실을 비추는 거울이 아니라, 현실을 보여주기로 되어 있는 현실을 왜곡하는 렌즈이기 때문입니다.