High-Risk Memories? Comparative audit of the representation of Second World War atrocities in Ukraine by generative AI applications
이 논문은 우크라이나의 제2 차 세계대전 학살과 같은 '고위험 기억'에 대한 생성형 AI 의 표현을 실증적으로 분석하여 사실 왜곡, 할루시네이션, 도덕적 일관성 부재 등의 위험을 평가하고 미래 기억 실천에 대한 함의를 논의합니다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
1. 연구의 배경: 왜 이 사서가 위험할까?
우리는 이제 과거의 역사를 검색할 때 구글이나 챗GPT 같은 AI 에게 물어봅니다. 이 AI 는 엄청난 양의 책을 읽어서 답변을 만들어내지만, 진짜 역사를 '이해'하는 게 아니라, 통계적으로 가장 그럴듯한 단어를 이어 붙이는 방식으로 작동합니다.
이 연구팀은 **"만약 이 AI 가 매우 민감하고 감정적인 '고위험 기억' (예: 홀로코스트, 학살 등) 에 대해 질문받으면 어떻게 될까?"**라고 궁금해했습니다. 특히 우크라이나에서 일어난 비극은 정치적 목적으로 왜곡되기 쉬운 주제라, AI 가 엉뚱한 이야기를 지어내거나 (할루시네이션), 편향된 도덕적 판단을 내릴 수 있는지 확인했습니다.
2. 실험 방법: 세 명의 사서 테스트
연구팀은 세 가지 유명한 AI (Bing Chat, Google Bard, ChatGPT) 를 불러와서 우크라이나 전쟁 당시의 학살 사건에 대해 74 가지 질문을 던졌습니다. 질문은 영어, 우크라이나어, 러시아어 세 가지 언어로 했죠. 마치 세 명의 사서에게 같은 역사책을 보고 요약해달라고 시킨 것과 같습니다.
그리고 전문가들이 정한 '정답 (기준)'과 AI 의 답변을 비교했습니다.
3. 주요 발견: AI 사서들의 실수들
① 절반은 맞고, 절반은 틀렸다 (정확도 문제)
- 상황: AI 가 답변한 내용 중 정확한 것은 고작 50% 정도였습니다. 즉, 두 명 중 한 명은 엉뚱한 이야기를 하고 있는 셈입니다.
- 언어 차이: 영어로 물으면 꽤 잘 대답했지만, 우크라이나어나 러시아어로 물으면 정확도가 뚝 떨어졌습니다.
- 비유: 이 사서들은 영어라는 '주요 언어'의 책장은 잘 알고 있지만, 우크라이나어나 러시아어라는 '작은 언어'의 책장은 구석에 쌓여 있어 내용을 잘 모릅니다. 그래서 그 언어로 질문하면 엉뚱한 책을 가져와서 읽는 실수가 잦았습니다.
② 없는 사실을 지어냈다 (할루시네이션)
- 상황: AI 는 모르는 게 있으면 "모르겠습니다"라고 말하기보다, 없는 사실을 마치 있는 것처럼 꾸며서 말했습니다.
- 예시: "스텝반 반데라 (우크라이나 민족주의 지도자) 가 나치에 반대해서 체포됐다"거나 "우크라이나인이 유대인을 죽인 건 1941 년 리비우 폭동 때뿐이다" 같은 완전히 거짓된 이야기를 지어냈습니다.
- 비유: 사서가 책을 못 찾아서, 자기가 상상한 이야기를 진짜 사실인 척 이야기하는 것과 같습니다. 특히 'Bard'라는 AI 가 이런 거짓말을 가장 많이 했습니다.
③ 도덕적인 훈계를 들이밀었다 (도덕화 문제)
- 상황: AI 는 단순히 사실을 말하는 게 아니라, "이것은 끔찍한 비극입니다", "우리는 기억해야 합니다" 같은 도덕적인 훈계를 덧붙였습니다.
- 문제점: 이 훈계가 언어나 주제에 따라 들쑥날쑥했습니다. 어떤 사건에는 "이건 끔찍한 범죄야!"라고 강하게 말하고, 같은 사건을 다른 언어로 물어보면 "그냥 역사적 사건이야"라고 중립적으로 말하기도 했습니다.
- 비유: 사서가 **기분 좋은 날에는 "이 책은 교훈이 있어요!"**라고 열변을 토하고, **기분 나쁜 날에는 "그냥 책 한 권일 뿐이죠"**라고 퉁명스럽게 말합니다. 이렇게 일관성이 없으면 사용자가 혼란을 겪게 됩니다.
4. 결론: 왜 이것이 무서운가?
이 연구는 **"AI 가 과거의 비극을 기억하는 방식은 아직 믿을 수 없다"**는 결론을 내립니다.
- 진실과 거짓의 경계가 무너집니다: AI 가 지어낸 거짓말이 사실처럼 퍼지면, 사람들은 진짜 역사를 잊어버리게 됩니다.
- 언어에 따른 차별이 있습니다: 영어권 사람들은 비교적 정확한 정보를 얻지만, 우크라이나나 러시아처럼 전쟁의 중심에 있는 언어를 쓰는 사람들은 오히려 더 많은 왜곡된 정보를 접할 위험이 큽니다.
- 정치적 악용의 소지가 있습니다: 이미 정치적 목적으로 역사를 왜곡하려는 세력이 있는데, AI 가 그 일을 대신해 더 빠르고 광범위하게 왜곡된 이야기를 퍼뜨릴 수 있습니다.
5. 우리가 무엇을 해야 할까?
연구팀은 AI 개발자들에게 다음과 같은 조언을 합니다:
- 모르면 "모른다"고 말하게 하라: 정확한 정보가 없으면 엉뚱한 이야기를 지어내지 말고, "이 정보는 부족합니다"라고 정직하게 말해야 합니다.
- 일관된 도덕 기준을 세우라: 어떤 사건에 대해 도덕적 판단을 내릴 때, 언어나 상황에 따라 들쑥날쑥하지 않도록 규칙을 만들어야 합니다.
한 줄 요약:
"AI 는 과거의 비극을 기억하는 데 있어 매우 빠르지만, 때로는 망상증에 걸린 사서와 같습니다. 우리가 이 사서의 말을 무조건 믿고 따라가면, 진짜 역사가 사라지고 엉뚱한 가짜 역사가 우리 머릿속에 채워질 수 있습니다."
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.