Whose story gets told? ChatGPT, collective memory, and ethical narratives in the age of Artificial Intelligence
이 논문은 ChatGPT와 같은 AI 도구들이 역사적 지식에 대한 접근을 민주화할 수 있는 반면, 알고리즘의 편향성과 사실적 불일치를 통해 집단 기억을 왜곡할 위험이 있으며, 따라서 역사적 서사가 자동화된 재현이 아닌 비판적 성찰의 산물로 남을 수 있도록 윤리에 기반한 인간의 감독이 필요하다고 주장한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
디지털 시대에 우리의 과거에 대한 이해는 더 이상 먼지 쌓인 기록 보관소나 어르신들의 기억 속에만 저장되지 않습니다. 그것은 거대하고 상호 연결된 인터넷 네트워크 속에 살아 있으며, 그곳에서 인공지능 시스템은 새로운 문지기 역할을 수행합니다. 대규모 언어 모델로 알려진 이 시스템들은 방대한 양의 인간 저작물을 학습합니다. 이들은 단순히 사실을 검색하는 것이 아니라, 정보를 종합하여 이야기와 답변을 만들어냅니다. 이는 역사학자와 사회학자들에게 심오한 질문을 던집니다. 우리가 기계에게 전쟁이나 갈등에 대해 말해달라고 요청할 때, 우리는 누구의 버전의 역사를 얻게 되는가 하는 점입니다. '집단 기억'이라는 개념은 한 집단이 자신의 과거에 대해 스스로에게 들려주는 공유된 이야기를 의미하며, 이 이야기는 그들이 누구인지를 형성합니다. 만약 알고리즘이 어떤 세부 사항을 포함할지, 무엇을 제외할지, 혹은 비극을 어떻게 프레임화할지를 결정한다면, 그것은 실질적으로 그 공유된 기억을 재편하는 것입니다. 우려되는 점은 단순히 날짜를 틀리는 것이 아니라, 이러한 도구들이 역사의 거칠고 고통스러운 단면들을 매끄럽게 다듬어, 복잡한 인간의 갈등을 기술의 창조자들의 이익에 부합하는 중립적이고 미화된 요약본으로 바꿔버릴 수 있다는 것입니다.
한 연구팀은 인공지능 도구들이 역사의 혼란스러운 현실을 어떻게 다루는지 정확히 테스트하기 위해 나섰습니다. 그들은 ChatGPT라는 구체적이고 강력한 버전의 기술에 초점을 맞추어, 유고슬라비아 해체 이후의 전쟁들, 이스라엘과 팔레스타인 사이의 오랜 갈등, 포르투갈이 아프리카에서 치른 식민 전쟁, 그리고 베트남 전쟁의 이야기를 재구성하도록 요청했습니다. 기계가 모두에게 동일한 이야기를 하는지 확인하기 위해, 연구원들은 단순히 영어로만 질문하지 않았습니다. 그들은 크로아티아어, 세르비아어, 아랍어, 히브리어, 포르투갈어, 베트남어와 같이 각 갈등에 연루된 사람들의 모국어로 동일한 질문을 던졌습니다. 그들은 챗봇을 단순한 검색 엔진이 아니라 대화의 능동적인 참여자로 취급하며, 기계가 어떻게 답변을 구성하는지, 무엇을 기억하기로 선택하는지, 그리고 무엇을 잊어버리는 것처럼 보이는지를 면밀히 관찰했습니다.
결과는 기계가 결코 중립적인 관찰자가 아님을 보여주었습니다. 대신, AI는 단일하고 일관된 버전의 역사를 제공하는 대신, 질문에 사용된 언어에 따라 서로 다른 서사를 만들어냈습니다. 연구원들이 서로 다른 언어로 동일한 사건에 대해 물었을 때, 답변들은 종종 서로 유의미한 방식으로 모순되었습니다. 예를 들어, 구 유고슬라비아 전쟁의 가장 중요한 최종 사건을 식별하라는 요청에 대해, 영어 버전은 2001년 북마케도니아의 평화 협정을 지목했습니다. 크로아티아어 버전은 1995년의 평화 협정에서 멈췄고, 세르비아어 버전은 2022년 군 지도자의 재판까지 타임라인을 확장했습니다. 이것들은 단순히 단어 선택의 미세한 차이가 아니었습니다. 그것들은 갈등이 언제 끝났는지, 그리고 무엇이 가장 중요한지에 대한 근본적으로 다른 이야기였습니다. 연구는 AI가 사용하는 언어의 공식적인 국가적 서사를 반영하는 경우가 많으며, 결과적으로 균형 잡힌 글로벌 관점을 제공하기보다는 해당 지역의 특정 정치적 관점을 강화한다는 것을 발견했습니다.
이러한 불일치 외에도, 연구원들은 역사적 기록을 왜곡하는 오류와 누락의 패턴을 확인했습니다. AI는 빈번하게 날짜와 이름을 틀렸으며, 때로는 일어나지도 않은 사건을 지어내거나 전투의 순서를 뒤섞기도 했습니다. 더 우려스러운 것은 기계가 무엇을 빠뜨렸는가 하는 점이었습니다. 도움을 주려는 시도 속에서, AI는 특정 학살의 희생자, 특정 군대의 역할, 또는 전쟁의 복잡한 원인과 같은 핵심적인 세부 사항들을 자주 건너뛰었습니다. 한 사례에서, AI는 포르투갈 식민지 전쟁을 하나의 단순한 이야기로 묘사하며, 서로 다른 국가에서 벌어진 별개의 투쟁들을 하나의 평면적인 서사로 합쳐버렸습니다. 이러한 '단순화'는 각 갈등의 독특한 정치적, 사회적 현실을 박탈했습니다. 또한 연구는 AI가 가해자를 명시하지 않고 '비극적인 사건'이나 '범죄'와 같은 모호한 언어를 사용하여 책임을 회피하는 '중립화' 경향을 보인다는 점을 주목했습니다. 이는 행위자들의 구체적인 책임을 효과적으로 씻어내는 결과를 초래했습니다.
연구원들은 이러한 대규모 언어 모델이 단순히 과거를 반영하는 것이 아니라, 적극적으로 과거를 재편하고 있다고 결론지었습니다. AI는 입력된 데이터로부터 학습하기 때문에, 그 데이터의 편향과 사각지대를 물려받습니다. 전쟁에 관한 이야기를 생성할 때, AI는 완벽하고 객적인 기록에서 정보를 끌어오는 것이 아닙니다. 대신, 자신의 훈련 데이터 내의 패턴을 바탕으로 다음에 올 가능성이 높은 단어를 예측하며, 종종 데이터베이스 내의 가장 흔하거나 지배적인 목소리를 우선시합니다. 이는 이러한 도구에 의존하여 역사적 지식을 얻는 사용자들에게, 과거가 비판적 성찰이 아닌 알고리즘의 논리에 의한 산물이 된다는 것을 의미합니다. 연구는 인간의 감독과 강력한 윤리적 프레임워크가 없다면, 우리는 매끄럽고 단순하며 때로는 모순적인 이야기를 선호하는 기계에게 우리의 공유된 역사의 복잡성을 잃을 위험이 있다고 제언합니다. 어떤 이야기가 전달될지, 그리고 그 이야기가 어떻게 전달될지를 결정하는 권한은 역사학자와 공동체로부터 디지털 시스템을 구동하는 코드와 데이터로 옮겨갔습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.