Artificial intelligence can persuade people to take political actions

본 연구는 대규모 실험을 통해 인공지능이 서명이나 기부 등 실제 행동 변화를 유도할 수 있음을 입증했으나, 태도 변화와 행동 변화 간의 상관관계는 없었으며 태도 중심의 기존 연구 결과가 실제 행동 영향력을 과대평가할 위험이 있음을 시사합니다.

핵심

이 논문은 **"인공지능 (AI) 이 사람의 마음을 바꾸는 것과, 실제로 행동을 하게 만드는 것은 완전히 다른 일"**이라는 놀라운 사실을 밝혀냈습니다.

기존의 연구들은 대부분 "AI 가 대화하면 사람의 생각이 바뀌는가?"만 확인했습니다. 하지만 이 연구는 **"그 생각이 바뀌면, 실제로 서명하거나 돈을 기부하는 행동도 할까?"**를 검증했습니다.

이 복잡한 내용을 일상적인 비유로 쉽게 설명해 드릴게요.

---

🍎 핵심 비유: "요리사 (AI) 와 손님 (사람)"의 관계

이 연구를 한 마디로 요약하면 이렇습니다.

"요리사가 손님의 입맛 (생각) 을 바꾸는 것과, 손님이 실제로 그 요리를 먹어치우는 (행동) 것은 별개의 문제다."

1. 실험 내용: AI 가 설득하는 17,950 명의 사람들

연구진은 영국 성인 17,950 명을 대상으로 실험을 했습니다.

• 상황: 참가자들은 AI 와 7 분 정도 대화를 나눴습니다.
• 목표: AI 는 참가자들에게 "핵무기 폐기", "동물 복지", "민주주의 개혁" 같은 실제 청원서에 서명하거나, 자선단체에 돈을 기부하라고 설득했습니다.
• 결과: 놀랍게도 AI 는 사람들의 행동을 크게 바꿨습니다.
  • 예를 들어, AI 와 대화한 사람들은 그렇지 않은 사람들에 비해 청원서 서명률이 19.7% 포인트나 더 높았습니다.
  • 이는 AI 가 단순히 말만 하는 게 아니라, 실제로 사람들이 움직이게 할 수 있다는 뜻입니다.

2. 놀라운 발견: "생각"과 "행동"은 연결되지 않았다

기존 연구들은 "AI 가 말을 잘하면 사람의 생각이 변한다"고 믿었습니다. 하지만 이 연구는 그 생각이 변한다고 해서 행동이 변하는 건 아니라고 밝혔습니다.

• 비유:
  • 생각 (Attitude): "이 요리는 정말 맛있고 건강에 좋다는 걸 알겠어." (AI 가 정보를 주면 이렇게 변함)
  • 행동 (Behavior): "그래서 지금 당장 그 요리를 시켜서 먹겠다." (이건 정보만으로는 안 됨)
  • 결론: AI 가 아무리 훌륭한 정보를 주거나 논리적으로 설득해서 "생각"을 바꾸더라도, 그것이 "서명"이나 "기부" 같은 행동으로 이어지는지와는 상관관계가 거의 없었습니다.

3. 무엇이 행동을 부추길까? "정보"가 아니라 "전략"

연구진은 "그럼 행동을 바꾸게 하려면 뭘 해야 할까?"를 알아보기 위해 8 가지 다른 설득 전략을 시험해 봤습니다.

• 전략 A (정보 제공): "이 문제는 정말 심각해. 여기 통계 자료가 있어." (기존에 생각 바꾸는 데 가장 효과적)
• 전략 B~H (감정, 약속, 정체성 등): "너는 정의로운 사람이야, 이걸 안 하면 후회할 거야, 구체적으로 언제 할 거야?" 등 다양한 심리 전략.

결과:

• 생각을 바꾸는 데는 '정보 제공'이 가장 잘 먹혔습니다.
• 하지만 행동을 바꾸는 데는 '정보 제공'이 오히려 가장 효과가 낮았습니다!
• 행동을 가장 잘 유도한 것은 모든 전략을 섞어서 상황에 맞게 유연하게 쓰는 "미라클 (Mega)" 전략이었습니다. 즉, 논리만 늘어놓는 게 아니라, 감정을 자극하고, "너는 이런 사람이지?"라고 정체성을 부여하고, 구체적인 행동 계획을 세우게 하는 복합적인 접근이 필요했습니다.

4. 왜 중요한가요? (현실 세계에서의 의미)

이 연구는 우리에게 두 가지 중요한 경고를 보냅니다.

1. 생각만 바꾸는 연구는 위험할 수 있다:
   지금까지 AI 가 얼마나 위험한지, 혹은 유용한지 판단할 때 "사람의 의견이 바뀌었나?"만 본다면 큰 오해일 수 있습니다. AI 는 사람을 설득해서 실제 정치 행동 (투표, 시위, 기부 등) 을 하게 만들 수 있는데, 그 능력은 생각 변화 연구로는 전혀 예측할 수 없기 때문입니다.

2. 누구를 대상으로 하느냐에 따라 전략이 달라져야 한다:

   • 생각을 바꾸고 싶다면: 논리적인 정보와 팩트를 줘야 합니다. (이미 반대하는 사람을 설득할 때)
   • 행동을 시키고 싶다면: 이미 동의하는 사람 (지지자) 들에게 감정을 자극하고, 구체적인 행동을 약속하게 만들어야 합니다. (이미 마음이 있는 사람을 움직일 때)

📝 한 줄 요약

"AI 는 사람의 '머리'를 바꾸는 데는 정보로 충분하지만, 사람의 '손'을 움직이게 하려면 감성과 구체적인 전략이 필요하다."

이 연구는 AI 의 정치적 영향력을 평가할 때, 단순히 "말이 바뀌었나?"가 아니라 "실제로 행동했나?"를 봐야 한다고 강조합니다. AI 가 사람을 움직이는 힘은 우리가 생각했던 것보다 훨씬 강력하고, 그 방식도 더 복잡하다는 것을 보여줍니다.

기술 요약

논문 개요

이 연구는 고도화된 인공지능 (AI), 특히 대화형 대규모 언어 모델 (LLM) 이 인간의 태도 (attitude) 를 넘어 실제 행동 (behavior) 을 변화시킬 수 있는지에 대한 실증적 증거를 제공합니다. 기존 연구가 주로 태도 변화에 집중했던 반면, 본 연구는 AI 설득이 실제 정치적 행동 (청원 서명, 기부 등) 에 미치는 영향을 대규모 실험을 통해 규명하고, 태도 변화와 행동 변화의 메커니즘이 서로 다르다는 것을 발견했습니다.

1. 연구 문제 (Problem)

• 배경: AI 가 인간의 행동에 영향을 미칠 수 있다는 우려가 커지고 있으며, 기존 연구들은 AI 가 인간의 태도 (신념, 의견) 에 큰 설득 효과를 보인다는 것을 확인했습니다.
• 불확실성: 그러나 태도 변화가 실제 행동 변화 (예: 투표, 청원 서명, 기부) 로 이어지는지는 명확하지 않았습니다. 다른 분야 연구에서도 태도와 행동 간의 상관관계가 항상 일치하지는 않는 것으로 나타났습니다.
• 핵심 질문:
  1. AI 설득이 행동 결과에 미치는 효과 크기는 얼마나 큰가?
  2. 태도 변화와 행동 변화 간에 상관관계가 있는가?
  3. 태도와 행동을 설득하는 메커니즘은 동일한가?

2. 방법론 (Methodology)

• 실험 설계: 영국 성인 14,779 명 (총 17,950 회 응답) 을 대상으로 한 두 개의 사전 등록 (preregistered) 대규모 실험 (Study 1, Study 2) 을 수행했습니다.
• 참여 조건:
  • 대조군: 중립적인 비정치적 주제 (불소, 재활용 등) 로 AI 와 대화.
  • 실험군: AI 와 상호작용하며 특정 정치적 이슈에 대해 설득받는 대화.
• 사용 모델: GPT-4.1, Claude Opus 4.6, Grok 4, Gemini 3.1 Pro 등 최첨단 (Frontier) LLM 사용.
• 측정 지표:
  • 행동 결과 (Behavioral Outcomes): 실제 청원 서명 (이름, 이메일 입력), 기부금 할당, 노력적 작업 (클릭 횟수) 등.
  • 태도 결과 (Attitudinal Outcomes): 청원 및 후원 조직에 대한 지지도를 7 점 리커트 척도로 측정 (사전/사후 변화).
• 실험 변인:
  • Study 1: 8 가지 다른 정치적 이슈 (핵무기 폐기, 민주주의 개혁 등) 와 5 가지 AI 모델, 3 가지 대화 유형 (중립, 정보 제공, 무작위 프롬프트) 을 교차 분석.
  • Study 2: 행동 변화를 유도하는 8 가지 이론 기반 설득 전략 (감정 활성화, 실행 의도, 정체성 라벨링, etc.) 과 통합 전략 ('Mega') 을 비교.

3. 주요 결과 (Key Results)

가. AI 는 실제 행동에 유의미한 영향을 미친다

• 청원 서명: AI 설득 대화는 청원 서명 확률을 **12.8% (Study 1) 에서 19.7% (Study 2)**까지 증가시켰습니다. 이는 기존 설문 실험이나 현장 연구 (대면 캠페인 등) 에서 관찰된 효과 크기와 비슷하거나 더 큰 수준입니다.
• 기부 및 참여: 참가자들은 AI 설득 후 후원 조직에 더 많은 돈을 기부하거나, 기부금을 다른 자선단체로 옮기지 않고 해당 조직에 유지할 확률이 높았습니다.

나. 태도 변화와 행동 변화는 상관관계가 없다

• 비상관성: 설득 효과가 태도 (지지도) 에 가장 큰 영향을 준 조건이 반드시 행동 (서명) 에도 가장 큰 영향을 준 것은 아니었습니다. 두 변수 간의 상관관계는 통계적으로 유의하지 않았습니다 ($r \approx 0.05 \sim 0.18$).
• 의미: 기존 연구들이 태도 변화만을 측정하여 AI 설득의 효과를 평가했다면, 실제 행동 영향력을 과소 또는 과대 평가할 수 있음을 시사합니다.

다. 설득 메커니즘의 이원성 (Dissociation)

• 정보 제공의 역할:
  • 태도: 사실적 정보 제공 (Information provision) 은 태도 변화의 주요 동인이었습니다. 참가자가 "새로운 정보를 얻었다"고 보고할수록 태도 변화가 컸습니다.
  • 행동: 정보 제공은 행동 변화에는 유의미한 영향을 미치지 않았습니다. 오히려 정보 제공 전략은 행동 변화 측면에서 가장 효과가 낮은 전략 중 하나였습니다.
• 행동 변화의 동인:
  • 통합 전략 (Mega Strategy): 8 가지 전략을 모두 통합하고 AI 가 대화 중 상황에 맞게 적응적으로 선택하는 'Mega' 전략이 행동 변화 (청원 서명 +23.7pp) 에 가장 효과적이었습니다.
  • 다양한 전략의 유사성: 단일 전략들 (감정, 실행 의도, 정체성 등) 간 행동 효과의 차이는 작았으며, 모두 유의미한 행동 변화를 유도했습니다. 이는 행동 설득이 특정 한 가지 수사적 기법에 의존하기보다 다양한 경로를 통해 이루어질 수 있음을 시사합니다.

4. 기여 및 의의 (Contributions & Significance)

1. 실제 행동 영향력 입증: AI 가 단순한 의견 변경을 넘어, 실제 정치적 행동 (청원, 기부) 을 유도할 수 있음을 대규모 데이터를 통해 최초로 입증했습니다. 이는 AI 의 정치적 영향력이 현실 세계에 실질적 위협이 될 수 있음을 보여줍니다.
2. 연구 방법론적 경고: 기존 AI 설득 연구가 태도 변화에만 의존하는 것은 위험할 수 있음을 지적합니다. 태도와 행동의 메커니즘이 다르기 때문에, 행동 결과를 측정하지 않은 연구는 AI 의 실제 영향력을 오해할 수 있습니다.
3. 메커니즘의 차별화:
   • 설득 (Persuasion): 믿지 않는 사람의 마음을 바꾸는 것은 '정보 제공'에 의해 주로 이루어집니다.
   • 동원 (Mobilization): 이미 동의하는 사람을 행동하게 만드는 것은 '정보'가 아닌 '감정, 실행 의도, 정체성' 등 다양한 심리적 메커니즘의 복합적 작용에 의해 이루어집니다.
4. 정책적 시사점: AI 규제 및 거버넌스 논의는 태도 변화뿐만 아니라 실제 행동 변화 (Mobilization) 에 초점을 맞춰야 합니다. 특히 기존 지지층을 동원하여 행동을 취하게 하는 AI 의 능력은 기존 연구에서 간과되었던 중요한 위험 요소입니다.

5. 제한점 및 향후 연구

• 실험 환경: 유료 설문 참여라는 맥락에서 주의 집중이 보장되었으므로, 자연스러운 환경에서의 AI 설득 효과를 일반화하기는 어려울 수 있습니다.
• 행동의 비용: 측정된 행동 (청원 서명, 소액 기부) 은 비용이 낮습니다. 백신 접종이나 식습관 변경 등 더 높은 비용이 수반되는 행동으로의 일반화 여부는 추가 연구가 필요합니다.

결론적으로, 본 연구는 AI 설득이 태도와 행동이라는 서로 다른 영역에서 작동하며, 특히 행동 변화를 유도하기 위해서는 단순한 정보 전달이 아닌 복합적이고 적응적인 설득 전략이 필요함을 보여줍니다.