컴퓨터가 단순히 혼자 생각하는 것이 아니라, 마치 친구들이 가장 좋은 영화를 고르거나 용돈을 가장 똑똑하게 쓰는 법에 대해 토론하는 것처럼 서로 대화하며 문제를 해결하는 세상을 상상해 보세요. 이것이 바로 **멀티 에이전트 AI(multi-agent AI)**의 영역입니다. 여기서는 여러 개의 거대 언어 모델(LLM)—여러분이 알고 있을 법한 아주 똑똑한 챗봇들—이 디지털 광장에서 함께 협력합니다. 이 디지털 사회에서 그들이 상호작용하는 방식의 '법칙'은 자석이 서로 붙거나 사람들이 군중을 이루어 움직이는 물리 법칙과 놀라울 정도로 유사합니다. 과학자들은 집단 내의 개인들이 서로 대화할 때, 설령 그것이 틀리거나 불공정하더라도 모두가 갑자기 어떤 의견에 동조하게 되는 '집단 지성(hive mind)'을 의도치 않게 만들어낼 수 있다는 사실을 오래전부터 알고 있었습니다. 이 논문은 무섭지만 중요한 질문을 던집니다. 만약 우리가 이 AI 친구들이 큰 결정을 내리기 위해 토론하도록 내버려 둔다면, 그들이 실수로 나쁜 아이디어에 몰려들어 자신들의 작은 편견을 거대한 편향된 합의로 증폭시킬 수도 있을까요?

이 연구를 진행한 연구자 마야 오카와(Maya Okawa)와 그녀의 팀은 이러한 AI 토론을 물리학 실험처럼 다루기로 했습니다. 그들은 자석이 정렬되는 방식과 사회적 집단이 서로에게 미치는 영향에서 영감을 얻은 수학적 모델을 구축했습니다. 그들은 이 AI 집단에 '임계점(tipping point)'이 존재한다는 것을 발견했습니다. 만약 AI 에이전트들이 서로 동조하려는 성향(동조성, conformity)이 너무 강하고, 시스템이 그들이 독립적으로 생각할 수 있도록 충분히 '노이즈(소음)'를 생성하지 않는다면, 집단 전체가 편향된 상태로 급격히 변할 수 있습니다. 이는 마치 방 안에 사람들이 가득 차 있는데 모두가 같은 소문을 속삭이는 것과 같습니다. 만약 방 안이 너무 조용하다면(낮은 노이즈), 그 소문은 즉시 퍼져나가 설령 그것이 아주 작은 거짓말에서 시작되었더라도 유일한 진실이 되어버립니다. 이 논문은 AI의 사고 방식에 얼마나 '노이즈(무작위성)'를 섞느냐를 조절함으로써 이러한 현상을 막을 수 있다고 제안합니다.

디지털 광장과 속삭이는 소문

멀티 에이전트 LLM 토론을 전문 심사위원 패널이 벌이는 고도의 집중력을 요하는 '전화기 게임(Telephone)'이라고 생각해 보세요. 현실 세계에서 우리는 이 AI 패널를 주식 매수 결정, 대출 승인 여부 판단, 또는 어떤 AI가 더 나은 에세이를 썼는지 판정하는 심판 역할을 맡기는 등 매우 진지한 일에 사용합니다. 여러 AI가 대화를 통해 문제를 해결함으로써 개별적인 실수를 상쇄하고 완벽한 답을 찾아내기를 기대하는 것입니다. 하지만 저자는 여기서 '매트릭스의 오류'를 발견했습니다.

그들은 6명에서 10명의 AI 에이전트가 두 가지 매우 다른 주제로 토론하는 실험을 진행했습니다:

1. 투자 조언: AI들에게 주식 포트폴리오를 구성하도록 했습니다.
2. 심판 게임: 두 개의 AI 생성 답변 중 어느 것이 더 나은지 결정하도록 했습니다.

연구자는 이상한 현상을 목격했습니다. AI 에이전트들이 매우 '집중'되어 있도록 설정되었을 때(AI를 덜 무작위적이고 결정론적으로 만드는 낮은 온도(low temperature) 설정), 그들은 스스로 생각하기를 멈추고 서로를 모방하기 시작했습니다. 만약 한 에이전트가 미국 기술주에 대한 약간의 선호나 자신의 종류의 답변을 선호하는 경향과 같은 아주 미세하고 눈에 띄지 않는 편향을 가지고 있다면, 집단 전체가 그 작은 편향을 거대한 만장일치의 합의로 증폭시켰습니다.

이것은 마치 당신과 다섯 명의 친구가 어디서 저녁을 먹을지 결정하고 있는데, 한 친구가 "난 피자가 정말 먹고 싶어"라고 속삭이는 것과 같습니다. 만약 모두가 매우 집중하고 경청하고 있다면(낮은 노이즈), 다음 친구는 "그래, 피자 좋겠다"라고 말할 것이고, 세 번째 친구는 "확실히 피자야"라고 말하게 되어, 결국 모두가 속으로는 타코를 원했음에도 불구하고 집단 전체가 "피자!"라고 외치게 되는 상황과 같습니다. AI의 세계에서 이 '외침'은 **편향된 합의(biased consensus)**로 변했습니다. 집단은 단순히 동의한 것이 아니라, 잘못되거나 불공정한 답에 동의했으며, 단일 AI가 혼자서 할 수 있는 것보다 더 빠르고 강력하게 그 일을 해냈습니다.

'집단 지성'의 물리학

이 현상이 왜 발생하는지 이해하기 위해, 저자는 원자와 같은 미세한 입자들이 집단 내에서 어떻게 행동하는지를 연구하는 통계 물리학이라는 분야를 활용했습니다했습니다. 그들은 자석이 어떻게 작동하는지를 설명하는 유명한 모델인 **이징 모델(Ising model)**을 사용했습니다. 각 AI 에이전트를 "위(Option A)" 또는 "아래(Option B)"를 향할 수 있는 작은 자석이라고 상상해 보세요.

완벽한 세상이라면 이 자석들은 무작위로 향할 것입니다. 하지만 AI 토론에서는 두 가지 힘이 작용합니다:

1. 내부적 편향: 각 자석은 훈련 방식에 따라(마치 사람이 좋아하는 색깔이 있는 것처럼) 위 또는 아래를 향하려는 약간의 선호도를 가집니다.
2. 사회적 끌림: 자석들은 이웃과 정렬되기를 원합니다. 만약 집단의 대부분이 위를 향하면, 다른 이들은 위를 향하도록 하는 '사회적 압력'을 느낍니다.

저자는 **임계값(critical threshold)**이 존재한다는 것을 발견했습니다. 만약 '사회적 끌림'(동조성)이 '노이즈'(AI 사고의 무작위성)에 비해 너무 강하면, 시스템은 **상전이(phase transition)**를 일으킵니다. 이는 집단이 건강한 이견이 존재하는 상태에서 경직되고 편향된 합의 상태로 갑자기 돌변하는 것을 의미하는 세련된 표현입니다.

그들은 이 현상이 정확히 언제 발생하는지를 예측하는 수학적 공식으로 이를 증명했습니다. 이는 세 가지 요소에 달려 있습니다:

• 개별 AI가 처음에 가진 편향 정도.
• 그들이 서로 얼마나 동조하고 싶어 하는지.
• 시스템에 얼마나 많은 '노이즈'(무작위성)가 있는지.

만약 노이즈가 너무 낮으면(AI가 너무 집중되어 있으면), 아주 작은 편향이라도 집단 전체가 편향된 루프에 갇힐 때까지 증폭됩니다. 논문은 이것이 단순한 이론이 아님을 보여줍니다. 그들은 실제 실험에서 이를 확인했습니다. "온도"(노이즈 조절 장치)를 0.1이나 0.2로 낮추었을 때, AI들은 단 한두 번의 대화만으로 편향된 합의 상태로 고착되었습니다.

마법의 조절 손잡이: 노이즈와 다양성

그렇다면 AI가 나쁜 아이디어에 떼를 쓰지 못하게 하려면 어떻게 해야 할까요? 논문은 이 마법을 깨뜨리기 위해 "냄비를 흔드는 것"과 같은 두 가지 영리한 해결책을 제시합니다.

1. 노이즈 높이기 (온도)
가장 효과적인 해결책은 놀랍게도 간단했습니다: AI를 조금 더 무작위하게 만드는 것입니다. **샘플링 온도(sampling temperature)**를 높임으로써(노이즈 조절 손잡이를 0.8이나 1.4로 올림으로써), 연구자들은 경직된 정렬을 깨뜨렸습니다. AI 에이전트들은 군중을 맹목적으로 따를 가능성이 낮아졌습니다. 편향된 합의로 급격히 변하는 대신, 그들은 '교차(crossover)' 상태를 유지하여 여전히 합의할 수는 있지만 잘못된 답에 갇히지는 않게 되었습니다. 이는 앞선 저녁 식사 예시의 친구들에게 "얘들아, 너무 빨리 결정하지 말고, 동전을 던져보거나 다른 옵션도 생각해 보자"라고 말하는 것과 같습니다. 이러한 무작위성은 집단이 나쁜 결정에 고착되는 것을 막아주었습니다.

2. 군중 섞기 (이질성) 이는 동일한 쌍둥이 집단을 사용하는 것을 멈추는 것입니다. 저자는 서로 다른 유형의 AI(예: GPT-4 에이전트, Llama 에이전트, DeepSeek 에이전트)를 섞거나 그들에게 서로 다른 '성격'을 부여했을 때 어떤 일이 일어나는지 테스트했습니다. 그 결과, 이질성(heterogeneity)(다양성)이 날카로운 전이를 완화한다는 것을 발견했습니다. 집단이 서로 다른 모델들로 구성되었을 때 '집단 지성' 효과는 약해졌습니다. 서로 다른 모델들은 각기 다른 사고 방식을 가지고 있었기에, 동시에 같은 편향으로 급격히 쏠리지 않았습니다. 이는 친구 그룹에서 한 명은 피자를 좋아하고, 한 명은 초밥을 좋아하며, 한 명은 타코를 좋아하는 것과 같습니다. 그들은 여전히 논쟁할 수는 있지만, 한 사람이 피자를 좋아한다고 속삭였다고 해서 모두가 갑자기 피자만 먹기로 결정하지는 않을 것입니다.

실제 세계의 테스트

저자는 이론에만 머물지 않았습니다. 그들은 발견한 내용을 처음에 시작했던 실제 과업인 투자 조언과 AI 에세이 심사에 적용했습니다.

• 투자 과업에서: 모든 AI가 동일하고 낮은 노이즈로 설정되었을 때, 그들은 미국 기술주에 크게 치우친 포트폴리오를 만들며 다른 좋은 옵션들을 무시했습니다. 하지만 AI를 섞고 노이즈를 높였을 때, 편향이 줄어들었으며 포트폴리오의 성과(시장 대비 수익률)는 실제로 더 좋아졌습니다.
• 심판 과업에서: AI들이 동일하고 집중되어 있을 때, 그들은 자신이 속한 모델 계열의 답변을 선호하는 '자기 편향(self-bias)'을 보였습니다. 다양한 모델을 섞고 노이즈를 추가하자 이러한 자기 선호도가 사라졌고, 그들은 더 공정한 심판이 되었습니다.

시사점

이 논문은 AI 토론의 안전성이 단순히 개별 AI를 더 똑똑하게 만드는 것에 달려 있는 것이 아니라, 그들이 어떻게 상호작용하느냐에 달려 있음을 시사합니다. 만약 충분한 '노이즈'나 '다양성' 없이 동일하고 극도로 집중된 AI들을 서로 대화하게 내버린다면, 그들은 단일 AI가 스스로 만들어낼 수 있는 것보다 더 나쁜 편향된 합의를 만들 위험이 있습니다. 이는 디지털 세계에서도 인간 세계와 마찬가지로, 모두가 너무 동의하기를 갈망할 때 집단이 스스로의 편견에 눈이 멀 수 있음을 상기시켜 줍니다.

다행히 우리에게는 이를 해결할 도구가 있습니다. 약간의 무작위성(노이즈)을 도입하고 우리의 AI 패널이 다양성(이질성)을 갖추도록 함으로써, 우리는 그들이 '집단 지성'의 함정에 빠지지 않도록 막을 수 있습니다. 저자는 이러한 간단한 조정이 AI 토론을 현실 세계에서 안전하게 배포하는 핵심이 될 수 있으며, AI들이 함께 협력할 때 단순히 동의하는 것을 넘어, '올바른 것'에 동의하도록 보장할 것이라고 제안합니다.