Same question, different history: language, national identity, and credit in large language models
이 연구는 거대 언어 모델이 문화적 기억의 분산 시스템으로서 기능하며, 질의 언어가 서로 다른 국가적 서사를 활성화하는 체계적인 스위치 역할을 하여, 질문이 해당 언어로 이루어질 때 지위가 낮은 역사적 권리 주장자들이 더 빈번하게 부상하는 반면 지배적인 영어권 인물들은 모든 언어에서 안정적으로 유지됨을 입증한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
당신은 거의 모든 책, 기사, 웹사이트를 읽은 마법 같고 매우 똑똑한 사서가 있다고 상상해 보세요. 당신이 그 사서에게 아주 간단한 질문을 던집니다. "라디오를 누가 발명했나요?"
만약 당신이 영어로 물으면, 사서는 "구글리엘모 마르코니(Guglielmo Marconi)"라고 답합니다.
만약 당신이 러시아어로 물으면, 사서는 "알렉산드르 포포프(Alexander Popov)"라고 답합니다.
만 if 당신이 중국어로 물으면, 사서는 (인쇄술에 대해) "비성(Bi Sheng)"이라고 답합니다.
당신은 사서가 혼란에 빠졌거나 거짓말을 하고 있다고 생각할지도 모릅니다. 하지만 이 논문에 따르면, 사서는 혼란스러운 것이 아닙니다. 사서는 사실 카멜레온처럼 행동하고 있는 것입니다. 답이 바뀌는 이유는 사서의 마음이 변해서가 아니라, 당신이 사용하는 언어가 기계 내부의 특정 "국가적 기억"을 켜는 스위치 역할을 하기 때문입니다.
다음은 연구자들이 발견한 내용을 쉬운 비유를 들어 정리한 것입니다.
1. "카멜레온" 효과
연구진은 11개의 서로 다른 AI 챗봇(ChatGPT의 기반이 되는 것과 같은 모델들)을 대상으로 21가지의 서로 다른 역사적 논쟁(예: "전화를 누가 발명했는가?")을 테스트했습니다. 그들은 동일한 질문을 12가지 다른 언어로 물었습니다.
그들은 AI가 단순히 사실을 검색하는 것이 아니라, 이야기를 검색한다는 것을 발견했습니다.
- 스위치: 특정 언어(예: 러시아어)로 질문하면, AI는 자신의 학습 데이터에 저장된 "러시아 버전"의 역사를 끌어옵니다. 그 버전에서 포포프는 영웅입니다.
- 결과: 러시아어로 질문하면 포포프가 답변에 등장하는 비율이 85%에 달합니다. 하지만 다른 언어로 질문하면 그 비율은 약 48%로 떨어집니다.
- 예외: 매우 유명하고 강력한 인물들(예: 알렉산더 그레이엄 벨이나 라이트 형제)의 경우, 어떤 언어로 물어도 AI는 동일한 답을 내놓습니다. 이들은 어디에서나 나타나는 역사의 "글로벌 셀러브리티"입니다. 하지만 다른 국가의 "지역 영웅"들의 경우, 당신이 그들의 언어로 말할 때만 AI는 그들을 보여줍니다.
2. "일상적 민족주의 (Banal Nationalism)"
저자들은 이를 **"일상적 민족주의"**라고 부릅니다.
건물에 걸린 국기를 생각해 보세요. 당신은 매일 그것을 의식하지 않으며, 그저 배경의 일부로 느낍니다. 하지만 그것은 끊임없이 "이곳은 우리 나라이다"라는 사실을 상기시킵니다.
AI도 똑같이 행동하지만, 보이지 않게 수행합니다. AI는 깃발을 흔들거나 국가를 제창하지 않습니다. 그저 질문에 답할 뿐입니다. 하지만 러시아어로 답하며 러시아의 영웅을 언급함으로써, AI는 "이것이 러시아의 이야기다"라는 생각을 은밀하게 강화합니다. 이는 "우리는 우리만의 것을 기억한다"라고 말하는 미묘하고 일상적인 방식입니다.
3. "지우개" vs "형광펜"
연구진은 AI가 이야기의 다른 한쪽 면을 얼마나 자주 완전히 무시하는지(이를 "삭제"라고 부름)를 살펴보았습니다.
- 지우개: 때때로 AI는 "벨이 전화를 발명했다"라고 말하며 메우치(Meucci)에 대해서는 아무 말도 하지 않습니다. 이는 강력한 영어권 주장자(예: 벨)와 상대적으로 약한 경쟁자가 존재할 때 더 자주 발생합니다.
- 형광펜: 그러나 만약 당신이 AI에게 양측 모두에 대해 묻는다면("벨과 메우치 중 누가 발명했나요?"), AI는 두 번째 인물을 삭제할 가능성이 훨씬 낮아집니다. 질문 속에 이름을 직접 넣는 것만으로도 AI가 그 사람의 존재를 인정하도록 만드는 안전장치 역할을 합니다.
4. "기념"과의 연결 고리
연구진은 한 국가가 발명가를 얼마나 "기념"하는지(동상, 기념일, 또는 학교 수업 등을 통해)와 AI가 그들을 얼마나 자주 언급하는지 사이에 강한 연관성이 있음을 발견했습니다.
- 비유: 마을 광장을 상상해 보세요. 만약 한 국가가 발명가의 큰 동상을 세운다면, 그 발명가는 AI의 학습 데이터 속에서 "목소리가 큽니다". 그 나라의 언어로 질문할 때, AI는 그 큰 목소리를 명확하게 듣게 됩니다.
- 놀라운 점: 심지어 동상이나 기념일이 전혀 없는 발명가라 할지라도, 그들의 모국어로 질문하면 AI는 그들을 더 자주 언급합니다. 이는 AI가 공식적인 기념물뿐만 아니라, 그 언어의 일반적인 "소음"—뉴스, 이야기, 그리고 일상적인 대화—을 포착하고 있음을 시사합니다.
5. "보편적"이라는 환상
이 논문은 우리가 종종 이러한 AI 도구들을 중립적이고 보편적인 도서관으로 생각한다고 주장합니다. 우리는 "같은 질문을 하면 똑같은 진실을 얻어야 한다"라고 믿습니다.
하지만 연구 결과, AI는 보편적인 도서관이라기보다 서로 다른 방언을 사용하는 여행 가이드에 가깝습니다.
- 만약 당신이 영어로 말하면, 가이드는 "글로벌/영어 버전"의 역사를 보여줍니다.
- 만약 당신이 포르투갈어로 말하면, 가이드는 "브라질/포르투갈어 버전"의 역사를 보여줍니다.
위험한 점은 AI가 거짓말을 한다는 것이 아니라, 이 서로 다른 버전들을 마치 유일한 버전인 것처럼 제시한다는 것입니다. 만약 당신이 영어로 질문한다면, 다른 나라가 비행기를 누가 발명했는지에 대해 완전히 다른 이야기를 가지고 있다는 사실을 결코 알지 못할 수도 있습니다. 왜냐하면 AI가 그에 대해 언급하지 않았기 때문입니다.
요약
이 논문은 AI 모델이 단순한 "사실 기계"가 아니라고 결론짓습니다. 이들은 우리가 역사를 어떻게 기억하는지를 미묘하게 형성하는 **"기억 기계"**입니다. AI는 디지털 거울처럼 작동합니다. 자신의 언어로 들여다본다면 자신의 국가적 영웅을 보게 될 것입니다. 다른 언어로 들여다본다면, 다른 세트의 영웅들을 보게 되거나, 혹은 당신의 지역 역사에 대해 아무것도 보지 못할 수도 있습니다.
질문을 던질 때 사용하는 언어는 단순히 답변의 단어를 바꾸는 것이 아니라, AI가 당신에게 보여주기로 결정하는 과거의 버전 자체를 바꿉니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.