💬 NLP

High Volatility and Action Bias Distinguish LLMs from Humans in Group Coordination

이 논문은 그룹 이진 탐색 게임을 통해 인간과 대규모 언어 모델 (LLM) 의 집단 조정 능력을 비교한 결과, 인간은 적응하고 안정화되는 반면 LLM 은 과도한 행동 전환과 학습 부재로 인해 조정 실패를 보이며 richer 피드백에 대한 반응도 인간과 현저히 다르다는 점을 규명했습니다.

원저자: Sahaj Singh Maini, Robert L. Goldstone, Zoran Tiganj

게시일 2026-04-06

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Sahaj Singh Maini, Robert L. Goldstone, Zoran Tiganj

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

이 논문은 **"인간과 인공지능 (LLM) 이 팀을 이뤄 문제를 해결할 때, 왜 인간은 잘 어울리는데 AI 는 자꾸 엉망이 되는가?"**에 대한 흥미로운 실험 결과를 담고 있습니다.

간단히 말해, **"AI 는 너무 성실해서 오히려 실패한다"**는 역설적인 결론을 내립니다.

이 내용을 일상적인 비유로 쉽게 설명해 드릴게요.

🎮 실험 상황: "비밀 숫자 맞추기 게임"

연구진은 인간과 AI 를 여러 팀으로 나누어 다음과 같은 게임을 시켰습니다.

게임 규칙: 팀원들은 서로 대화할 수 없습니다. 각자 숫자를 하나씩 적어 제출해야 합니다.
목표: 모든 팀원이 제출한 숫자를 합했을 때, 숨겨진 '비밀 숫자'와 정확히 같아져야 합니다.
피드백: 매 라운드마다 "너무 높아요", "너무 낮아요" 혹은 "정확히 25 만큼 높아요" 같은 피드백만 줍니다.
과제: 이 피드백을 보고 다음 라운드에 숫자를 어떻게 바꿀지 결정해야 합니다.

이 게임은 서로의 의도를 읽지 않고, 오직 '팀 전체의 결과'만 보고 서로 맞춰가는 순수한 조율 (Coordination) 능력의 시험대입니다.

🧠 핵심 발견: 인간 vs AI 의 차이점

1. 인간은 "조용히 지켜보는" 전문가, AI 는 "항상 손 흔들기"를 하는 열혈팬

인간의 전략: 게임이 진행될수록 인간은 **"누구는 가만히 있고, 누가 움직일지"**를 자연스럽게 정합니다. 어떤 사람은 숫자를 바꾸지 않고 가만히 있다가 (Stability), 다른 사람이 숫자를 조절하게 둡니다. 이렇게 하면 팀 전체의 소음 (Noise) 이 줄어들어 목표에 빨리 도달합니다.
AI 의 전략: AI 는 매 라운드마다 **"무언가를 해야 한다"**는 강박에 시달립니다. 피드백을 받으면 무조건 숫자를 크게 바꿉니다. 마치 리듬감 없이 춤추는 사람처럼, "오른쪽으로 가라" 하면 너무 크게 오른쪽으로 가고, "왼쪽으로 가라" 하면 너무 크게 왼쪽으로 가서, 결국 목표 숫자 주변을 쉴 새 없이 왔다 갔다 (Oscillation) 합니다.

💡 비유:

인간 팀: 한 팀은 "내가 가만히 있을게, 너만 조절해"라고 암묵적으로 역할을 나누고, 나머지 한 명만 조용히 숫자를 조정합니다.

AI 팀: 모든 팀원이 "내가 고쳐야 해!"라고 생각하며, 매번 숫자를 쫙쫙 바꿉니다. 그래서 팀 전체의 합이 목표치 주변에서 **진자 (Pendulum)**처럼 요동칩니다.

2. "더 자세한 정보"를 줘도 AI 는 못 알아먹는다

인간: "너무 높아요"라고만 해도 잘 맞추지만, **"25 만큼 너무 높아요"**라고 구체적인 숫자를 알려주면 훨씬 더 빠르고 정확하게 조정합니다.
AI: 구체적인 숫자 (오차 크기) 를 알려줘도 인간처럼 잘 활용하지 못합니다. 오히려 더 큰 숫자를 바꿨다가 다시 너무 작게 바꿨다가 하며 혼란을 겪습니다.

💡 비유:

인간: "집이 100m 떨어져 있어"라고 하면, 100m 걸어가서 멈춥니다.

AI: "집이 100m 떨어져 있어"라고 하면, 100m 가다가 멈추지 않고 200m 까지 달려가서, "아, 너무 갔네!" 하고 다시 50m 뒤로 돌아옵니다.

3. "배우는 능력"의 차이

인간: 같은 게임을 10 번 반복하면, "아, 우리 팀은 너무 많이 움직이는구나, 다음엔 조금만 움직이자"라고 학습하여 점점 더 잘합니다.
AI: 게임을 10 번 반복해도 배우는 법을 모릅니다. 첫 게임 때처럼 여전히 과하게 움직이며, 오히려 게임이 길어질수록 더 엉망이 되기도 합니다.

🚨 왜 이런 일이 일어날까요? (핵심 원인)

연구진은 이 현상을 **"행동 편향 (Action Bias)"**과 **"과도한 반응 (Overreactivity)"**이라고 부릅니다.

행동 편향: AI 는 "무언가를 해야 한다 (Action)"는 것이 "진행 (Progress)"이라고 착각합니다. 가만히 있는 것이 오히려 팀에 도움이 될 때에도, AI 는 무조건 숫자를 바꾸려 합니다.
과도한 반응: 피드백을 받으면 그 반응을 100% 그대로, 혹은 그 이상으로 과장해서 적용합니다. "조금만 고쳐줘"라고 해도 "다시 처음부터 고쳐야지"라고 생각합니다.

🏁 결론: AI 팀을 잘 쓰려면?

이 연구는 **"AI 가 인간처럼 똑똑해졌다고 해서, 팀워크도 자동으로 인간처럼 되는 것은 아니다"**라고 경고합니다.

인간: 상황에 따라 "가만히 있는 것"이 최선의 전략임을 알고, 팀 전체의 흐름을 봅니다.
AI: 매번 "무언가를 해야 한다"는 본능에 따라 움직여, 팀 전체를 흔들리게 만듭니다.

💡 시사점:
앞으로 AI 를 팀에 투입할 때는, AI 가 **"무조건 움직이지 않고 가만히 있을 수도 있다"**는 것을 가르쳐 주거나, AI 의 과도한 반응을 억제하는 장치를 만들어야 인간과 함께 잘 일할 수 있다는 것입니다.

한 줄 요약:

"인간은 상황에 따라 '가만히 있는' 지혜를 쓰지만, AI 는 '무조건 움직여야 한다'는 강박 때문에 팀을 흔들고 실패합니다."

논문 요약: 고변동성과 행동 편향은 LLM 과 인간을 그룹 조정에서 구별한다

이 논문은 대규모 언어 모델 (LLM) 이 인간과 유사한 적응적 그룹 조정 능력을 갖는지, 그리고 동일한 전략을 사용하는지 여부를 탐구합니다. 저자들은 불완전한 모니터링 (imperfect monitoring) 환경에서의 공통 이익 게임인 **그룹 이진 탐색 (Group Binary Search, GBS)**을 통해 인간과 LLM 의 성능을 비교 분석했습니다.

1. 연구 문제 (Problem)

배경: 인간은 정보가 불완전하고 직접적인 소통이 제한된 상황에서도 역할 분화, 피드백에 대한 점진적 반응, 그룹 내 자기 일관성 등의 동적 전략을 통해 뛰어난 그룹 조정 능력을 발휘합니다.
문제 제기: LLM 기반 다중 에이전트 시스템 (MAS) 이 복잡한 협업 과제를 해결하기 위해 점점 더 많이 도입되고 있지만, 실제 협업 성능은 종종 기대에 미치지 못하거나 단일 에이전트 기반선 (baseline) 대비 큰 향상을 보이지 못합니다.
핵심 질문: LLM 은 인간과 같은 적응적 조정 능력을 보일 수 있는가? 만약 그렇다면 어떤 메커니즘적 차이가 존재하는가?

2. 방법론 (Methodology)

실험 과제: 그룹 이진 탐색 (GBS) 게임.
- $n$ 명의 참가자가 독립적으로 숫자를 추측하여, 그 합이 숨겨진 목표 숫자와 일치하도록 조정해야 합니다.
- 직접적인 의사소통은 불가능하며, 그룹 전체의 합과 목표 숫자의 차이 (방향성 피드백: 너무 높음/낮음, 또는 수치적 피드백: 오차 크기 포함) 만 공유됩니다.
실험 설계:
- 참가자: 인간 (Roberts & Goldstone, 2011 의 기존 데이터 활용) 과 다양한 LLM (Deepseek-V3, Deepseek-V3.1-T, Llama 3.3, Gemini 2.0 Flash).
- 변수: 그룹 크기 (소규모 2-3 명, 중규모 4-7 명, 대규모 10-17 명), 피드백 유형 (방향성 vs 수치적), 프롬프트 전략 (Zero-Shot, Zero-Shot Chain-of-Thought).
- 절차: 각 세션에서 10 개의 게임을 연속적으로 수행하며, 게임 간 학습 (adaptation) 과 게임 내 조정 전략을 분석했습니다.

3. 주요 기여 및 결과 (Key Contributions & Results)

3.1. 인간과 LLM 의 성능 차이

피드백 활용: 인간은 수치적 피드백 (오차 크기) 을 제공받으면 방향성 피드백보다 훨씬 빠르게 목표에 수렴했습니다. 반면, LLM 은 수치적 피드백을 제공받았을 때 인간처럼 성능이 크게 향상되지 않았으며, 오히려 일부 조건에서는 더 나쁜 성능을 보였습니다.
게임 간 학습 (Cross-game Learning): 인간은 반복된 게임을 통해 전략을 수정하고 성능이 지속적으로 향상되었습니다. 하지만 LLM 은 게임 간 학습이 거의 없거나, 오히려 성능이 저하되는 경향을 보였습니다.

3.2. 메커니즘적 차이 (Mechanistic Differences)

과도한 반응 (Overreactivity): 인간은 피드백에 대해 과소 반응 (underreaction) 하거나 점진적으로 조정하여 노이즈를 줄이고 안정성을 유지했습니다. 반면, LLM 은 피드백에 대해 **과도하게 반응 (overreact)**하여 목표 숫자 주변에서 진동 (oscillation) 을 일으키고 수렴을 지연시켰습니다.
높은 전환율 (High Switching Rate) 및 행동 편향:
- 인간은 게임이 진행됨에 따라 추측을 변경하지 않고 유지하는 ('stay' 행동) 비율이 증가하여 조정 부담을 줄였습니다.
- LLM 은 **행동 편향 (Action Bias)**이 강하게 나타나, 전략적으로 유지하는 것이 유리한 상황에서도 매 라운드마다 숫자를 변경하려는 경향이 매우 높았습니다. 이는 그룹 합의 진동을 유발하고 수렴을 방해했습니다.
그룹 크기 증가에 따른 성능 저하: 그룹 크기가 커질수록 인간의 성능도 일부 저하되지만, LLM 은 그룹 크기가 증가함에 따라 조정 실패가 더 극적으로 발생했습니다. 인간은 역할 분화 (일부 구성원은 반응성을 낮추는 등) 를 통해 이를 완화하지만, LLM 은 이러한 동적 역할 분화를 효과적으로 수행하지 못했습니다.

3.3. 추가 분석

동질성 vs 이질성: 동일한 LLM 모델로 구성된 그룹은 행동이 매우 유사하여 (동질성) 조정 효율이 낮았습니다. 서로 다른 모델을 섞어 이질적인 그룹을 구성해도 성능 향상은 없었습니다. 이는 단순히 다양한 응답 패턴을 갖는 것만으로는 효과적인 조정이 불가능하며, 상호 보완적인 전략을 적응적으로 개발해야 함을 시사합니다.
프롬프트 및 온도 설정: CoT(Chain-of-Thought) 프롬프트나 온도 (temperature) 설정 변경은 LLM 의 조정 한계를 근본적으로 해결하지 못했습니다.

4. 의의 및 결론 (Significance & Conclusion)

LLM 의 조정 한계 규명: 현재 LLM 은 인간과 달리 **고변동성 (High Volatility)**과 **행동 편향 (Action Bias)**으로 인해 적응적 그룹 조정에 실패합니다. 특히 피드백의 정밀도가 높아져도 이를 효과적으로 활용하지 못하며, 게임 간 경험을 통해 전략을 수정하는 능력이 부족합니다.
다중 에이전트 시스템 설계에 대한 시사점:
- 단순한 LLM 에이전트들의 집합만으로는 인간 수준의 조정이 어렵습니다.
- 향후 다중 에이전트 아키텍처는 피드백 히스토리 통합, 반응성 조절 (reactivity moderation), 집단 행동 안정화 메커니즘을 명시적으로 설계해야 합니다.
- 인간-AI 협업 (Human-AI Teaming) 에서 LLM 의 과잉 반응 특성을 인간 팀원의 신중한 태도와 보완적으로 결합하여 최적의 집단 조정을 달성할 가능성이 제시됩니다.

이 연구는 인간과 LLM 의 조정 메커니즘 차이를 행동 기반 지표 (반응성 스케일링, 전환 역학, 학습 곡선 등) 를 통해 정량화함으로써, AI 시스템의 협업 능력 격차를 해소하기 위한 구체적인 진단 기준을 제공합니다.