Views on AI Existential Risk Before and After a Public Event at Harvard University
하버드 대학교에서 열린 AI 존재론적 위험 관련 공개 행사에 참여한 89 명의 참가자를 대상으로 한 전후 설문 조사 결과, 행사 참여가 특히 해당 주제에 익숙하지 않은 참가자들의 위험 인식과 대우 우선순위 인식을 유의미하게 높였으며, 이는 기존 전문가들의 인식 변화와 대비되는 결과를 보여줍니다.
이 연구는 마치 **"공포 영화를 보기 전과 후의 관객 심리"**를 조사한 것과 비슷합니다.
행사 내용:
내트 소아스 (Machine Intelligence Research Institute 소장) 가 "AI 가 너무 발전하면 인류가 다 죽을 수도 있다"는 책을 주제로 강연을 했습니다.
그 뒤로 진행자 그레그 케스팅이 "그렇지만 AI 는 인간 데이터를 학습해서 인간을 이해할 수도 있지 않나?" 같은 반대 의견과 질문을 던지며 양측의 논의를 균형 있게 진행했습니다.
마치 영화관에서 공포 영화를 보고 나서, 옆자리 사람들과 "저게 진짜 무서운가? 아니면 과장된 거 아닌가?"라고 토론하는 상황과 비슷합니다.
설문 조사 (영화 전/후):
참석자 89 명에게 강연 전과 후에 똑같은 질문을 던졌습니다.
질문 1: "AI 가 인류를 멸망시킬 확률은 얼마나 되나요?" (0%~100% 사이)
질문 2: "이 답변에 얼마나 확신하나요?"
질문 3: "AI 위험을 막는 것은 전 세계의 최우선 과제가 되어야 하나요?"
🔍 주요 발견: "초보자는 놀라고, 전문가들은 조금 더 신중해졌다"
연구 결과는 참 재미있는 패턴을 보여줍니다. 마치 새로 산 차를 운전하는 초보 운전자와 경험 많은 레이싱 드라이버의 반응 차이와 같습니다.
1. 전체적인 분위기: "위험도가 더 무서워졌다"
강연 전: 참석자들은 이미 AI 위험에 대해 어느 정도 알고 있었습니다. 평균적으로 "약 50% (동전 던지기로 맞출지 말지)" 정도로 생각했습니다.
강연 후: 평균 확률이 70% (훨씬 더 가능성 있음) 로 올랐습니다.
공통된 생각: "AI 위험을 막는 건 전 세계가 함께 해결해야 할 가장 중요한 문제"라는 데 **96%**가 동의했습니다. (이전에도 93% 였지만, 강연 후 더 확고해졌습니다.)
2. 초보자와 전문가의 반응 차이 (가장 중요한 포인트!)
이 연구의 하이라이트는 사람들이 AI 위험에 대해 얼마나 잘 알고 있었는지에 따라 반응이 달랐다는 점입니다.
🌱 초보자 (주변에 AI 위험 이야기를 거의 들어본 적 없는 사람):
반응: "와, 정말 무서운 이야기네!"
변화: **60%**가 위험 확률을 올렸습니다. 한 명도 내리지 않았습니다.
비유: 공포 영화를 처음 보는 사람이 스크린을 보고 "이거 진짜 무서운데?"라고 놀라는 것과 같습니다. 새로운 정보를 접하면 충격이 커서 생각이 확 바뀝니다.
🧠 전문가 (AI 연구자나 이 분야에 깊은 지식을 가진 사람):
반응: "음, 그 주장도 일리가 있지만, 다른 각도에서 보면..."
변화: 위험 확률을 올린 사람은 없었고, 20% 는 오히려 낮췄습니다.
비유: 공포 영화의 연출 기법과 스토리 흐름을 잘 아는 영화 평론가는 "이건 너무 과장된 설정이야"라고 생각하며 오히려 덜 무서워할 수 있습니다. 전문가들은 강연에서 제기된 반박 논리 (예: "AI 가 인간 데이터를 배웠으니 인간을 이해할 수도 있지 않나?") 를 더 깊이 있게 분석하여, 처음에 생각했던 것보다 위험이 덜할 수도 있다고 판단한 것입니다.
3. 확신도 (Confidence) 증가
강연 후 사람들은 자신의 답변에 더 확신을 갖게 되었습니다.
특히 초보자들에게서 확신 증가가 컸습니다. "아, 내가 몰랐던 게 있었구나, 이제 알겠다"라고 생각하며 마음이 단단해진 것입니다.
💡 이 연구가 우리에게 주는 메시지
이 논문은 단순히 "AI 가 위험하다"라고 말하려는 것이 아닙니다. **"사람들이 복잡한 과학적 위험을 어떻게 이해하고, 생각을 바꾸는지"**를 보여줍니다.
대화의 힘: 한 번의 강연과 토론만으로도 사람들의 인식 (특히 초보자의 인식) 을 크게 바꿀 수 있습니다.
초보자의 중요성: 전문가들은 이미 많은 것을 알고 있어 생각이 잘 바뀌지 않지만, 아직 모르는 초보자들이 새로운 정보를 접하면 가장 큰 변화를 겪습니다.
신뢰의 변화: 사람들이 위험을 더 크게 보게 될 때, 동시에 "내가 이걸 더 잘 이해했다"는 확신도 함께 생깁니다.
📝 한 줄 요약
"하버드에서 열린 AI 위험 토론회는, 초보자에게는 '경고등'이 되어 위험 인식을 높였지만, 전문가에게는 '검토 대상'이 되어 조금 더 신중한 시각을 갖게 만들었다."
이 연구는 AI 와 같은 복잡한 미래의 위험에 대해 대중이 어떻게 반응할지, 그리고 어떻게 소통해야 할지 중요한 힌트를 줍니다.
논문 개요
이 연구는 2026 년 3 월 하버드 대학에서 개최된 AI 존재론적 위험 (Existential Risk) 관련 공개 행사 (강연 및 양방향 대화) 에 참여한 청중을 대상으로, 행사 전후의 인식 변화를 정량적으로 분석한 것입니다. 특히, AI 의 통제되지 않은 발전이 인류의 멸종이나 심각한 권력 상실을 초래할 확률, 이에 대한 자신감, 그리고 위험 완화의 글로벌 우선순위 인식 변화를 측정했습니다.
1. 연구 문제 (Problem)
배경: AI 기술의 급속한 발전 (수학 올림피아드 우승, 이론 물리학 기여 등) 으로 인해 AI 시스템이 자율적으로 작동할 가능성이 높아지면서, 대중이 이러한 존재론적 위험을 어떻게 인식하고 정보를 접했을 때 신념을 어떻게 업데이트하는지 이해하는 것이 중요해졌습니다.
연구 격차: 기존 연구는 AI 전문가들의 의견 (Grace et al., 2024) 이나 일반 대중/학생들의 여론 (AI Policy Institute, 2023 등) 을 조사한 바 있으나, 사전 지식 수준이 다른 청중이 구조화된 논쟁과 토론을 접한 후 위험 인식과 신념을 어떻게 수정하는지에 대한 체계적인 연구는 부족했습니다.
2. 방법론 (Methodology)
행사 구성:
강연: Machine Intelligence Research Institute (MIRI) 의 Nate Soares 소장이 책 If Anyone Builds It, Everyone Dies의 핵심 논거 (초지능 AI 가 멸종 위협이 된다는 주장) 를 약 13 분간 발표.
토론: Greg Kestin (하버드 물리학과) 이 진행한 약 35 분의 양방향 대화. 강연자의 주장을 정리하면서도, 대규모 언어 모델 (LLM) 의 인간 데이터 학습을 통한 정렬 (Alignment) 이점 등 반론과 대안적 관점을 제시.
Q&A: 약 13 분간 청중 질문 시간.
설문 설계:
대상: 행사 참석자 중 행사 전후 설문을 모두 작성한 89 명 (매칭된 표본).
주요 질문:
위험 확률: "외부 개입 없이 AI 개발이 진행될 경우, 인류 멸종 또는 영구적 권력 상실 확률은 얼마인가?" (7 단계 구간별 응답).
자신감: 위 답변에 대한 자신감 (5 점 척도).
글로벌 우선순위: "AI 멸종 위험 완화가 팬데믹, 핵전쟁 등 다른 사회적 위험과 동등한 글로벌 우선순위를 가져야 한다"는 CAIS 성명서에 대한 동의 여부.
사전 노출도 (행事后): 해당 주제에 대한 사전 지식 수준 (전혀 모름 ~ 전문가 수준).
분석 기법:
Wilcoxon 부호 순위 검정 (전후 변화 유의성 검증).
Spearman 순위 상관관계 (사전 노출도와 변화 폭의 관계 분석).
가능도 비 (Likelihood Ratio, LR) 를 사용하여 귀무가설 대비 대립가설의 지지도를 정량화.
3. 주요 결과 (Key Results)
위험 인식의 전반적 상승:
행사 전 중앙값 확률: 50% (40~60% 구간).
행사 후 중앙값 확률: 70% (60~80% 구간).
평균 확률 상승: 50.5% → 56.9% (전체 표본 기준).
통계적 유의성: p<0.001, 가능도 비 (LR) 3,734:1.
사전 지식 수준에 따른 이질적 반응:
초보자 (Little familiarity, n=15): 60% 가 확률을 상향 조정, 하향 조정자는 0 명. (상향 조정 확률 p=0.002, LR 512:1).
중간 지식 (Moderate, n=31): 39% 상향, 10% 하향.
고도 지식 (Great deal, n=32): 22% 상향, 3% 하향.
전문가 (Expert, n=10):유일하게 상향 조정자가 없었으며, 20%(2 명) 가 하향 조정. (다만 표본이 작아 통계적 유의성은 낮음, p=0.25).
상관관계: 사전 노출도와 확률 변화 폭은 강한 음의 상관관계 (ρ=−0.38,p<0.001). 즉, 지식이 적을수록 위험 인식이 크게 상승함.
자신감 (Confidence) 증가:
전체 평균 자신감 점수: 2.72 → 3.02 로 상승.
"매우" 또는 "완전히" 자신 있다는 응답 비율: 17% → 28% 로 증가.
확률 변화와 자신감 변화는 정적 상관관계 (ρ=0.29) 를 보임. 이는 신념의 변화가 불확실성 증가가 아니라 **명확한 신념 업데이트 (Belief Updating)**임을 시사.
글로벌 우선순위 동의:
행사 전 93% 동의 (73% 강력 동의) → 행사 후 96% 동의 (85% 강력 동의).
이는 기존 국민 여론 조사 (70%) 나 하버드 학부생 조사 (약 40%) 보다 훨씬 높은 수치.
4. 주요 기여 (Key Contributions)
공공 참여의 효과 입증: 단일 공개 행사 (강연 + 양방향 토론) 만으로도 대중의 AI 위험 인식과 우선순위 인식을 통계적으로 유의미하게 변화시킬 수 있음을 실증함.
지식 격차에 따른 반응 차이 규명: 새로운 청중 (초보자) 은 위험 인식이 크게 상승하는 반면, 기존 전문가들은 오히려 보수화되거나 하향 조정하는 경향을 보임. 이는 정보 전달 방식이 수용자의 사전 지식 수준에 따라 다르게 작용함을 보여줌.
신념 업데이트 메커니즘 규명: 위험 확률 변화와 자신감 증가가 동시에 발생했다는 점은, 청중이 단순히 혼란을 느낀 것이 아니라 논증을 통해 자신의 신념을 명확히 업데이트했음을 시사.
기존 데이터와의 비교: 2023 년 AI 전문가 설문 (중앙값 5%) 과 비교할 때, 본 연구의 표본 (중앙값 50%) 이 훨씬 높은 위험 인식을 보였으며, 이는 표본의 자기 선택성 (self-selection), 질문의 '방해받지 않는 발전' 가정, 그리고 AI 기술의 급격한 발전 (2023~2026) 에 기인한 것으로 분석됨.
5. 의의 및 한계 (Significance & Limitations)
의의:
AI 안전 (AI Safety) 분야에서 대중의 인식 형성과 신념 업데이트 과정을 연구한 초기 사례 중 하나로, 구조화된 공개 토론이 정책적 우선순위 설정에 영향을 미칠 수 있음을 시사.
전문가와 대중의 인식 차이를 이해하고, 효과적인 리스크 커뮤니케이션 전략을 수립하는 데 기초 데이터를 제공.
한계:
표본 편향: 위험에 관심 있는 사람들이 자발적으로 참석한 행사이므로 (Self-selection bias), 일반 대중을 대표하지는 못함.
사회적 압력: 익명 설문이긴 하나, 강연 내용을 들은 후 설문에 답하는 과정에서 사회적 기대에 부합하는 답변을 할 가능성 존재.
전문가 표본 부족: '전문가' 그룹의 표본 수 (n=10) 가 작아 하향 조정 경향에 대한 통계적 결론은 신중하게 해석해야 함.
단일 행사: 특정 강연자와 특정 형식 (양방향 대화) 에 국한된 결과이므로 다른 형식이나 강연자로 일반화하기에는 제한적.
결론
이 연구는 AI 존재론적 위험에 대한 공개 토론이, 특히 해당 주제에 익숙하지 않은 청중에게 위험 인식을 높이고 신념을 명확히 하는 데 효과적임을 보여줍니다. 반면, 기존 전문가들은 논쟁의 미묘한 차이를 더 잘 파악하여 오히려 위험 인식을 낮추거나 유지하는 경향을 보였습니다. 이는 AI 위험 커뮤니케이션 전략을 수립할 때 대상 청중의 사전 지식 수준을 고려해야 함을 시사합니다.