When Is Collective Intelligence a Lottery? Multi-Agent Scaling Laws for Memetic Drift in LLMs

이 논문은 다중 에이전트 LLM 시스템에서 무작위적 선택이 상호 컨텍스트 학습을 통해 증폭되어 집단적 합의나 편향으로 이어지는 '메믹 드리프트 (memetic drift)' 현상을 규명하고, 인구 규모 및 통신 대역폭 등에 따른 편향 발생을 예측하는 스케일링 법칙을 제시합니다.

핵심

🎲 1. 핵심 질문: "우리의 합의는 지혜일까, 아니면 주사위 놀이일까?"

상상해 보세요. 어떤 중요한 문제를 해결하기 위해 AI 100 대가 모여 회의를 한다고 가정해 봅시다. 처음에는 모두에게 정답이 없거나, 어떤 답이 더 나은지 모릅니다. 그런데 회의가 진행되면서 어느새 모두 같은 말을 하게 됩니다.

• 질문: 이 합의가 "우리가 함께 고민해서 찾아낸 최선의 답"일까요? 아니면 "처음에 우연히 나온 한 마디가 계속 반복되면서, 마치 그게 정답인 것처럼 굳어진 것"일까요?

이 논문은 후자의 가능성을 강력하게 주장합니다. 집단 지성이 아니라, '확률적 우연 (로또)'이 집단적인 합의로 변질될 수 있다는 것입니다.

🗣️ 2. 비유: "소문 (메모) 이 어떻게 진화하는가"

저자는 이 현상을 **'메모적 표류 (Memetic Drift)'**라고 부릅니다. 생물학에서 유전자가 무작위적으로 변이되어 특정 형질이 고정되는 '유전적 표류'와 비슷합니다.

• 상황: 방 안에 사람들이 있고, 서로에게만 말을 건넙니다.
• 초기: 아무도 "A 라는 단어가 좋다"고 생각하지 않습니다. (중립 상태)
• 과정:
  1. A 씨가 우연히 "B"라고 말해요. (이건 그냥 주사위 굴린 결과예요.)
  2. B 씨는 A 씨의 말을 듣고 "아, B 가 맞는 것 같다"고 생각하며 기억에 저장합니다.
  3. B 씨가 C 씨에게 "B"라고 말해요.
  4. C 씨는 B 씨의 말을 믿고 "B"를 기억합니다.
• 결과: 시간이 지나면, 처음엔 아무 의미 없던 'B'라는 단어가 우연히 시작되어 전 방에 퍼지고, 결국 모두가 "B 가 정답이다"라고 믿게 됩니다.

이것은 사람들이 지혜롭게 판단해서 B 를 선택한 게 아니라, 초기 우연이 증폭되어 고정된 것입니다. 마치 로또 1 등 번호가 우연히 찍혔는데, 사람들이 그걸 보고 "이 번호는 행운의 번호다!"라고 믿는 것과 같습니다.

⚖️ 3. 두 가지 힘: '운 (표류)' vs '실력 (선택)'

이 논문은 집단이 어떤 결론에 도달할지 결정하는 두 가지 힘을 설명합니다.

1. 운 (표류, Drift):
   • 비유: 작은 배가 바다에서 바람에 떠다니는 것.
   • 특징: 집단이 작거나, 정보가 단편적일 때 발생합니다. "누가 먼저 말했느냐"가 중요해집니다. 우연한 시작이 전체를 지배합니다.
2. 실력 (선택, Selection):
   • 비유: 큰 배가 항해사 (지도) 를 따라가는 것.
   • 특징: 집단이 크거나, 정보가 풍부하고, 약간의 편향 (실제 더 좋은 답) 이 있을 때 발생합니다. 이때는 우연보다는 '실제적인 이유'가 결론을 결정합니다.

핵심 발견:

• 집단 규모가 작을 때: 우연 (로또) 이 승자를 결정합니다. (운이 좋은 사람이 이김)
• 집단 규모가 크거나 정보가 많을 때: 약간의 편향이나 실력이 증폭되어 승자를 결정합니다. (실력이 있는 사람이 이김)

📉 4. 수학적 법칙: "왜 큰 집단일수록 더 오래 걸릴까?"

흥미로운 점은 집단의 크기가 커질수록, 우연에 의한 합의가 이루어지는 데 시간이 더 오래 걸린다는 것입니다.

• 비유: 작은 방 (집단 8 명) 에서는 한 사람이 큰 소리로 말하면 금방 다 들립니다. 하지만 큰 광장 (집단 800 명) 에서는 소리가 퍼지는 데 시간이 걸리고, 우연히 한 사람이 외친 소리가 전체를 덮는 일은 드뭅니다.
• 수식적 결론: 집단이 2 배 커지면, 우연에 의한 합의 속도는 4 배 (제곱) 느려집니다. 즉, 큰 집단일수록 '운'으로 결론이 날 확률은 낮아지지만, 일단 결론이 나면 그 과정이 훨씬 더 안정적입니다.

💡 5. 이 연구가 우리에게 주는 교훈

이 연구는 우리가 AI 를 여러 대 써서 중요한 결정 (법률, 의료, 정책 등) 을 내릴 때 주의해야 할 점을 알려줍니다.

• 경고: AI 들이 모두 같은 말을 한다고 해서, 그것이 "진실"이나 "최고의 해결책"이라는 보장은 없습니다. 그것은 **단순히 초기의 우연한 입력이 증폭되어 만들어진 '집단 착각'**일 수도 있습니다.
• 해결책: AI 집단이 큰 결론을 내릴 때, 그 결론이 '운'에서 비롯된 것인지, '실제적인 이유'에서 비롯된 것인지 구분할 수 있는 기준 (규모, 정보량, 편향 정도) 을 이해해야 합니다.

📝 한 줄 요약

"AI 여러 대가 모여 의견을 모을 때, 그 결론이 지혜의 산물이 아니라 초기의 우연한 '주사위 굴림'이 증폭되어 만들어진 '로또'일 수 있다. 하지만 집단이 크고 정보가 풍부하면, 그 '운'의 영향력은 줄어들고 '실제적인 이유'가 더 중요해진다."

이 논문은 복잡한 AI 의 집단 행동을 물리학의 '확률'과 '진화' 개념으로 풀어내어, 우리가 AI 사회를 어떻게 바라봐야 할지 새로운 눈을 열어주었습니다.

기술 요약

이 논문은 대규모 언어 모델 (LLM) 기반 다중 에이전트 시스템에서 집단적 합의 (consensus) 가 형성되는 메커니즘을 물리학적 관점에서 분석한 연구입니다. 저자는 에이전트들이 사전적인 편향 없이 상호작용할 때, 합리적 추론이나 체계적 편향 때문이 아니라 단순한 확률적 표본 추출 (sampling) 의 누적으로 인해 합의가 이루어질 수 있음을 규명했습니다.

주요 내용은 다음과 같습니다.

1. 연구 배경 및 문제 제기

• 배경: LLM 기반 다중 에이전트 시스템이 법률, 금융, 의료 등 중요한 의사결정 영역에 도입되고 있으나, 이러한 시스템이 도달하는 합의가 진정한 '집단 지성'인지, 아니면 체계적 편향인지, 아니면 단순한 '우연 (lottery)'인지에 대한 명확한 이해가 부족합니다.
• 핵심 질문: 에이전트 개체들이 어떤 라벨을 선호하지 않는 중립적 상태 (neutral state) 에서 시작할 때, 어떻게 대칭성이 깨지고 집단적 합의가 도출되는가?
• 기존 연구의 한계: 기존 연구들은 주로 실제 응용 시나리오에 집중하여 미시적 상호작용이 거시적 동역학에 미치는 체계적인 설명을 제공하지 못했습니다.

2. 방법론: 양자화 심플렉스 속삭임 (Quantized Simplex Gossip, QSG)

저자는 이 현상을 설명하기 위해 QSG라는 최소한의 분석적 모델을 제안했습니다.

• 상호 컨텍스트 학습 (Mutual In-Context Learning): 기존 단일 에이전트의 컨텍스트 학습이 고정된 외부 분포에서 토큰을 학습하는 것과 달리, 다중 에이전트 시스템에서는 에이전트들이 서로의 샘플링된 출력 (메시지) 을 학습 데이터로 사용합니다. 이로 인해 시스템 자체가 진화하는 데이터 소스가 됩니다.
• 모델 구조:
  • 상태: 각 에이전트는 $K$개의 라벨에 대한 확률 분포 (심플렉스 위의 점) 를 내부 상태 ($x_i$) 로 가집니다.
  • 상호작용: 무작위로 선택된 화자 (Speaker) 와 청자 (Listener) 쌍이 형성됩니다. 화자는 내부 분포에서 양자화된 메시지 (단일 토큰 또는 여러 토큰의 집합) 를 샘플링하여 전송합니다.
  • 적응: 청자는 수신한 메시지를 바탕으로 내부 상태를 업데이트합니다 ($x_L' = (1-\alpha)x_L + \alpha y$).
• 메모틱 드리프트 (Memetic Drift): 중립적 환경에서 무작위 샘플링에 의해 발생하는 합의 형성 과정을 진화 생물학의 '중성 드리프트 (neutral drift)'에 빗대어 '메모틱 드리프트'라고 명명했습니다. 이는 선택 (선택적 편향) 이 아닌, 확률적 표본 추출의 누적으로 인해 특정 라벨이 고정되는 현상입니다.

3. 주요 이론적 발견 및 스케일링 법칙

QSG 모델을 통해 다음과 같은 스케일링 법칙 (Scaling Laws) 을 유도했습니다.

• 드리프트 - 선택 교차점 (Drift-Selection Crossover):
  • 드리프트 우세 영역: 인구 규모 ($N$) 가 작거나 통신 대역폭 ($m$) 이 낮을 때, 합의는 거의 무작위 (로또) 에 의해 결정됩니다.
  • 선택 우세 영역: $N$이 크거나 약한 편향이 존재할 때, 그 편향이 증폭되어 합의를 결정합니다.
  • 교차 조건: 교차점은 $N$, 통신 대역폭 $m$, 적응률 $\alpha$, 에이전트의 내부 불확실성에 의해 결정됩니다.
• 수학적 결과:
  • 편향도 (Polarization) 증가: 양자화된 통신 (Hard sampling, $m=1$) 은 분산 (variance) 을 주입하여 대칭 상태를 불안정하게 만듭니다. 편향도 $U$의 변화율은 $1/N^2$에 비례하여 증가합니다.
  • 대역폭의 효과: 메시지 길이를 늘려 대역폭 $m$을 증가시키면 드리프트 강도가 $1/m$ 비율로 감소합니다.
  • 합의 도달 시간: 합의에 도달하는 데 필요한 상호작용 횟수는 $N^2$에 비례하며, 인구 라운드 (population rounds) 기준으로는 $N$에 비례합니다.
  • 약한 편향의 증폭: 약한 외부 편향 $h$가 존재할 때, 고정 확률 (fixation probability) 은 $\Gamma_h = \frac{mN}{\alpha}h$라는 단일 매개변수에 의해 결정되는 로지스틱 함수 형태를 띱니다.

4. 실험적 검증

• 시뮬레이션: QSG 모델을 시뮬레이션하여 유도된 스케일링 법칙 ($1/N^2$ 드리프트, $1/m$ 감소, $N^2$ 합의 시간) 이 정확히 일치함을 확인했습니다.
• LLM 실험: GPT-4o 와 Claude Haiku 4.5 를 사용하여 '중립적 이름 짓기 게임 (Neutral Naming Drift)'을 수행했습니다.
  • 다양한 인구 규모 ($N$) 와 대역폭 ($m$) 조건에서 실험한 결과, 실제 LLM 군집의 행동이 QSG 모델이 예측한 스케일링 법칙과 높은 일치도를 보였습니다.
  • 특히, 중립적 조건에서도 무작위 초기 샘플링이 증폭되어 특정 라벨로 합의가 이루어지는 '메모틱 드리프트' 현상을 관찰했습니다.

5. 의의 및 결론

• 집단 지성에 대한 재해석: LLM 군집이 합의에 도달한다고 해서 그것이 집단적 추론이나 정보 집약의 결과라고 단정할 수 없습니다. 이는 단순한 표본 추출 노이즈의 증폭 (메모틱 드리프트) 일 수 있으며, 이는 '로또'와 같은 무작위적 결과일 수 있습니다.
• 정렬 (Alignment) 의 함의: 개별 에이전트가 정렬되어 있더라도, 상호작용을 통해 집단적 수준에서 편향되거나 해로운 관습이 형성될 수 있습니다 (예: 시커피언시 증폭).
• 방법론적 기여: 복잡한 다중 에이전트 시스템을 이해하기 위해, 합성 게임 (네이밍 게임) 과 최소 모델 (QSG) 을 결합하여 물리학적 스케일링 법칙을 유도하고 검증하는 새로운 접근법을 제시했습니다. 이는 사회적 표현 형성의 물리학 (Physics of Social Representation Formation) 을 위한 기초를 마련합니다.

요약하자면, 이 논문은 LLM 기반 다중 에이전트 시스템에서 합의가 형성되는 과정이 단순한 무작위 표본 추출의 누적 (드리프트) 일 수 있음을 수학적으로 증명하고, 인구 규모와 통신 조건이 이 과정에 어떻게 영향을 미치는지에 대한 정량적 법칙을 제시했습니다.