What are AI researchers worried about?

이 논문은 4,000 명 이상의 AI 연구자를 대상으로 한 대규모 설문 조사를 통해, 미디어와 정책에서 강조되는 '존재적 위험'보다는 연구자들이 실제로는 이미 명확한 사회적·기술적 위험에 더 큰 우려를 가지고 있으며 대중의 인식과 위험 평가에서 놀라운 수렴을 보이고 있음을 밝혔습니다.

핵심

AI 연구자들이 진짜로 걱정하는 것: 대중의 상상과 다른 현실

이 논문은 2026 년 3 월, 런던 대학 (UCL) 연구팀이 4,000 명 이상의 AI 연구자를 대상으로 실시한 대규모 조사 결과를 담고 있습니다. 이 연구는 "대중이 AI 를 어떻게 생각하는가"와 "실제 AI 를 만드는 과학자들은 무엇을 걱정하는가"를 비교한 흥미로운 보고서입니다.

이 내용을 쉽게 이해할 수 있도록 세 가지 핵심 비유로 설명해 드리겠습니다.

---

1. "공포 영화" vs "일상적인 고장"

대중의 생각:
대중의 논의나 미디어는 AI 를 마치 공포 영화 속 악몽처럼 묘사합니다. "AI 가 인간을 지배해서 멸망시킨다 (존재적 위험)", "로봇이 반란을 일으킨다" 같은 거창하고 끔찍한 시나리오가 주를 이룹니다. 마치 화성에서 외계인이 침공해 올지 모른다고 걱정하는 것과 비슷합니다.

연구자들의 생각:
하지만 실제 AI 연구자들에게 물어보니, 그들 중 단 3% 만이 "AI 가 인류를 멸망시킬까 봐" 걱정했습니다. 대신 그들이 진짜로 걱정하는 것은 훨씬 지극히 일상적이고 현실적인 문제들이었습니다.

• 비유: 연구자들은 "화성 외계인"보다는 "내 차가 갑자기 고장 나거나, 운전자가 술에 취해서 사고를 낼까 봐" 걱정합니다.
• 실제 걱정: 가짜 뉴스 (허위 정보), 사기, 개인정보 유출, 일자리 감소, AI 가 만든 쓰레기 같은 콘텐츠가 인터넷을 뒤덮는 것 등입니다. 연구자들은 AI 를 초인공지능이 아니라, **잘못 쓰이면 큰 피해를 주는 '일반적인 기술'**로 보고 있습니다.

2. "유명 스타" vs "현장의 기술자"

현재의 상황:
현재 AI 논의는 몇몇 거대 기술 기업 CEO 나 유명 과학자들의 목소리가 너무 큽니다. 마치 무대 위의 스타가 "우리는 우주로 간다!"라고 외치면, 사람들은 그 말만 믿고 따라가는 상황입니다. 이들은 종종 미래의 거대한 위험이나 기회를 과장해서 이야기합니다.

연구자들의 목소리:
이 논문은 무대 뒤에서 실제로 기계를 수리하고 코드를 짜는 기술자들의 목소리를 들어봤습니다. 그들은 스타들의 화려한 말보다 현실적인 문제에 더 집중합니다.

• 비유: 스타들은 "우주선 엔진이 폭발할지도 모른다"고 말하지만, 기술자들은 "엔진 오일이 누출될 수 있으니 먼저 점검해야 한다"고 말합니다.
• 핵심: 연구자들은 AI 의 위험이 미래의 공상과학이 아니라, 지금 당장 우리 삶에 영향을 미치는 사회적 문제라고 봅니다. 예를 들어, "AI 가 특정 인종이나 성별을 차별하지 않을까?", "데이터를 허가 없이 가져다쓰는 게 맞을까?" 같은 질문을 합니다.

3. "불안한 시민"과 "책임감 있는 개발자"

대중과의 공통점:
재미있는 점은 대중과 연구자가 가장 큰 위험을 공유한다는 것입니다.

• 공통된 걱정: 둘 다 가짜 뉴스, 데이터 도용, 해킹을 가장 큰 위협으로 꼽았습니다. 이는 연구자들도 AI 가 '신비로운 존재'가 아니라, 사람들이 잘못 쓰면 큰일 나는 도구임을 잘 알고 있다는 뜻입니다.

연구자들의 특별한 태도:

• 책임감: 연구자들은 "우리가 만든 AI 가 세상에 나쁜 영향을 미치면, 우리가 책임을 져야 한다"고 강력하게 주장했습니다. (약 66% 동의)
• 규제 필요성: 기업들이 마음대로 인터넷의 모든 글과 그림을 가져다 AI 학습에 쓰는 것에 반대합니다. "허락 없이 내 그림을 가져가면 안 된다"는 것이죠.
• 지향점: 연구자들은 AI 가 군사나 전쟁에 쓰이는 것보다 의료나 교육에 쓰이길 원합니다. 또한, AI 의 작동 원리를 투명하게 공개하고 (오픈소스), 대기업이 독점하는 것을 경계합니다.

---

📝 결론: 우리가 무엇을 해야 할까?

이 논문은 우리에게 중요한 메시지를 줍니다.

1. 공포에 휩쓸리지 마세요: AI 가 인류를 멸망시킬지도 모른다는 공포 영화 같은 이야기에만 집중하지 마세요. 연구자들은 그런 것보다 지금 당장 해결해야 할 실생활 문제에 더 신경 쓰고 있습니다.
2. 다양한 목소리를 들어야 합니다: 몇몇 거대 기업의 CEO 목소리만 듣지 말고, 실제 연구자들의 다양한 의견 (특히 여성 연구자나 다양한 배경을 가진 연구자들의 의견) 을 들어야 합니다.
3. 함께 대화하자: AI 의 미래를 결정할 때, "미래의 위험"을 상상하는 것보다 **"지금의 사회적 문제 (차별, 일자리, 사생활)"**를 어떻게 해결할지 연구자와 일반 시민이 함께 대화해야 합니다.

한 줄 요약:

"AI 연구자들은 AI 가 인류를 멸망시킬 '괴물'을 걱정하기보다, AI 가 잘못 쓰여 우리 삶을 망가뜨릴까 봐 걱정하고 있습니다. 우리는 공포 영화 대신, 현실적인 문제 해결을 위해 함께 대화해야 합니다."

기술 요약

논문 개요

• 제목: What are AI researchers worried about? (AI 연구자들은 무엇을 걱정하는가?)
• 저자: Cian O'Donovan, Sarp Gurakan, Ananya Karanam, Xiaomeng Wu, Jack Stilgoe (University College London, Department of Science and Technology Studies)
• 발행일: 2026 년 3 월 (가상 날짜로 표기됨)
• 핵심 주제: AI 연구자들의 실제 우려 사항과 대중 및 정책 논의 사이의 괴리 분석, 특히 '실존적 위험 (Existential Risk)' 대 '사회기술적 위험 (Sociotechnical Risks)'의 우선순위 비교.

---

1. 문제 제기 (Problem Statement)

• 대중 담론의 왜곡: AI 에 대한 공론장은 소수의 강력한 목소리 (기술 리더, 유명 과학자) 에 의해 지배되고 있으며, 극단적인 약속과 위협 (예: 인류 멸종, 초지능의 출현) 을 강조하는 경향이 있음.
• 연구자 의견의 부재: 실제 AI 개발과 이해에 직접 관여하는 과학자들의 의견은 공론장에서 소외되어 있음. 기존 설문조사들은 주로 연구자들을 '예측 전문가'로 간주하여 미래의 기술적 임계점이나 재앙적 사건의 확률을 묻는 방식에 치중함.
• 연구 가설: AI 연구자들의 의견은 대중의 의견과 크게 다를 것이며, 특히 기술의 잠재적 이점에 대해서는 차이가 크겠지만, 위험 평가와 우선순위 설정에서는 놀라운 수렴 (convergence) 이 있을 것으로 예상됨.
• 현실적 우려: 현재의 담론은 대중의 소외를 심화시키고 있으며, AI 연구가 급격히 사유화 (privatization) 됨에 따라 연구자와 대중 간의 건설적 대화 공간이 축소될 위험이 있음.

2. 방법론 (Methodology)

• 표본 추출 (Sampling):
  • 대상: 2020 년 1 월 1 일부터 2024 년 2 월 23 일까지 ArXiv 에 게재된 AI 관련 논문 (cs.AI, cs.LG, cs.CV, cs.CL) 의 저자.
  • 규모: 총 165,226 명의 저자 중 무작위 추출된 99,516 명에게 설문지 발송.
  • 응답: 4,260 개의 완성된 응답 (응답률 7.6%). 이는 기존 연구 (Bao et al., 2025) 와 유사한 수준으로, 현재까지 진행된 AI 연구자 대상 최대 규모의 조사 중 하나임.
  • 표본 특성: 77% 대학/연구기관 소속, 23% 산업계/공공부문 소속. 71% 박사 학위 소지, 81% 남성, 18% 여성.
• 설문 설계:
  • 질문 유형: AI 의 위험과 이익에 대한 Likert 척도 질문, 기존 대중 설문 (ONS, Ada Lovelace Institute 등) 과의 비교 질문, 그리고 **"AI 에 대해 가장 걱정되는 한 가지는 무엇인가?"**라는 개방형 질문 포함.
  • 데이터 분석: 개방형 응답 (3,718 건) 을 수동 코딩하여 51 개의 범주로 분류. 정량적 분석을 위해 두 표본 비율의 Z-검정 (Two-sample proportional z-test) 을 사용하여 통계적 유의성 (p < 0.05) 확인.

3. 주요 기여 (Key Contributions)

• 최대 규모 데이터: 4,000 명 이상의 AI 연구자를 대상으로 한 가장 포괄적인 조사로, 연구자들의 실제 인식과 우려를 체계적으로 문서화.
• 담론의 재정의: 대중과 미디어가 강조하는 '실존적 위험 (인류 멸종 등)'이 연구자들의 실제 1 순위 우려가 아님을 실증적으로 증명.
• 사회기술적 위험의 부각: 연구자들이 '초지능'이나 '로봇 반란'보다는 데이터 오용, 허위 정보, 고용 영향, 편향 등 즉각적이고 현실적인 사회기술적 위험을 더 크게 우려함을 발견.
• 대중과의 수렴: 연구자와 대중은 AI 의 '이익'에 대해서는 인식 차이가 크지만, '위험 (부정적 영향)'에 대해서는 상당한 합의가 있음을 발견.

4. 주요 결과 (Key Results)

가. 위험 vs 이익 인식

• 이익: 연구자의 87% 는 이익이 위험을 상회하거나 균형을 이룬다고 봄 (대중은 57%). 연구자들은 교육과 업무 개선에 대해 매우 낙관적임.
• 위험: 연구자와 대중 모두 AI 의 부정적 영향으로 가짜 뉴스 (Disinformation), 동의 없는 데이터 사용, 사이버 범죄를 최상위 3 가지로 꼽음. 이는 '낙관적 격차 (Optimism Gap)'가 위험 인식에서는 좁혀짐을 의미.

나. 개방형 질문 분석 ("가장 걱정되는 점")

• 실존적 위험 (Existential Risk): 응답자의 **3.4%**만이 인류 멸종이나 통제 불가능한 AI 를 가장 큰 걱정으로 꼽음. 이는 미디어와 정책 논의에서의 과도한 강조와 대조적임.
• 주요 우려 사항 (Top Concerns):
  1. 악의적 사용 (Malicious Use): 10.6% (범죄자, 군사, 기업 등에 의한 의도적 악용)
  2. 오용 (Misuse): 9.9% (부적절한 사용)
  3. 허위 정보 (Misinformation): 8.8%
  4. 고용 영향 (Impact on Jobs): 7.1%
  5. 공중의 이해 부족: 5.4%
  6. 사회적 영향 (Polarization 등): 5.2%
• 통계적 상관관계:
  • 성별: 여성 연구자가 남성보다 편향 (Bias) 에 대해 더 크게 우려 (8% vs 4%).
  • AGI 신념: AGI 가 불가피하다고 믿는 연구자는 실존적 위험과 프라이버시 우려가 높고, 과장 (Hype) 우려는 낮음. 반대로 AGI 를 믿지 않는 연구자는 과장을 가장 큰 우려로 꼽음.
  • 섹터: 산업계 연구자는 대중이 AI 위험을 과장한다고 보는 경향이 더 강함.

다. 기타 주요 발견

• 책임 소재: 응답자의 2/3 는 AI 시스템을 만든 사람이 실제 세계의 영향에 대해 책임을 져야 한다고 동의함 (대중과 유사).
• 데이터 사용: 65% 이상의 연구자가 AI 회사가 공개된 텍스트/이미지를 무제한 학습하는 것에 반대하며, 명시적 동의나 옵트아웃 (Opt-out) 시스템 도입을 지지함.
• AGI 의 불가피성: 51% 가 AGI 가 불가피하다고 봄. AGI 불가피성을 믿는 집단은 AI 를 "가능한 한 빨리 개발"해야 한다는 데 더 동의함.
• 산업계 통제 우려: 연구자들은 현재 AI 연구 우선순위가 산업계에 의해 지나치게 통제되고 있다고 보며, 오픈소스 모델을 선호함.

5. 의의 및 결론 (Significance & Conclusion)

• 연구자의 '정상성' (Normalcy): AI 연구자들은 대중이 상상하는 것처럼 '초지능'이나 '공포'에 집착하는 것이 아니라, 데이터, 편향, 고용, 규제 등 일반 기술과 유사한 현실적 문제들을 고민하는 '정상적인' 연구자들임.
• 정책적 함의:
  • 미래의 추상적 실존적 위험에 대한 추측보다는, 현재 명확한 우려 사항인 사회기술적 위험 (데이터, 편향, 고용 등) 을 해결하기 위해 정책 입안자와 연구자가 협력해야 함.
  • 소수의 목소리에 의한 담론 지배는 대중의 소외를 초래하며, 다양한 연구자의 의견을 반영한 민주적 대화 형성이 필요함.
• 미래 전망: AI 연구가 점차 기업 중심으로 사유화됨에 따라 연구자들의 목소리를 듣기 어려워질 수 있으므로, 현재와 같은 조사를 통해 연구 커뮤니티의 자기 성찰과 연구 의제 설정 도구로 활용해야 함.

이 논문은 AI 안전 (AI Safety) 담론이 지나치게 장기적/실존적 위험에 편중되어 있음을 지적하며, 연구자들의 실제 우려가 훨씬 더 다층적이고 현실적임을 데이터로 증명함으로써 AI 거버넌스 논의의 방향을 전환할 필요성을 제기합니다.