AI systems and the reproduction of (standard) language ideologies in World Englishes

영어라는 언어를 거대하고 북적이는 도시라고 상상해 보세요. 오랫동안 도시 설계자들(교사, 편집자, 사전 편찬자들)은 오직 특정한 구역인 '표준(Standard)' 지구만이 진짜, 올바른 도시라고 결정해 왔습니다. 그 외의 다른 동네들, 즉 그들만의 독특한 속어, 억양, 문법을 가진 곳들은 마치 지저분한 공사 현장이나 '고장 난' 버전의 진짜 도시처럼 취급받았습니다. 이 아이디어를 **언어 이데올로기(language ideology)**라고 부릅니다. 즉, 어떤 방식의 말하기가 '좋은' 것이고 어떤 것이 '나쁜' 것인지에 대한 일련의 믿음이며, 이는 종종 사람의 지능이나 가치를 판단하는 데 사용됩니다.

이제 새로운 도시 설계자들이 등장합니다. 바로 인공지능(AI)입니다. 이들은 인터넷에 있는 거의 모든 것을 읽으며 대화하는 법을 배운 거대한 컴퓨터 뇌, 즉 대규모 언어 모델(LLM)입니다. 여러분은 이렇게 생각할지도 모릅니다. "좋아! 그들이 모든 것을 읽는다면, 모든 동네의 스타일을 배우겠네!" 하지만 여기 반전이 있습니다. 이 AI 뇌들은 오래된 설계도를 바탕으로 만들어졌습니다. 이들은 '표준' 동네만이 중요하며, 그 외의 모든 방식은 실수라고 간주하는 경향이 있습니다. 또한, 이들은 다른 방식의 영어들을 '틀린 것'으로 취급하곤 합니다. 이 논문은 한 가지 큰 질문을 던집니다. 이 AI 도구들은 단지 옛날의 불공평한 규칙들을 복제하고 있는 것일까요, 아니면 우연히서라도 모든 서로 다른 동네의 목소리가 마침내 들릴 수 있는 공간을 만들고 있는 것일까요?

---

AI 도시 설계자들과 "delve" 탐정 이야기

킹슬리 우구아니(Kingsley Ugwuanyi)가 저술한 이 논문은 AI 시스템이 어떻게 영어의 엄격한 문지기 역할을 하고 있는지 조사합니다. 저자는 AI가 중립적인 도구가 아니라, 하나의 **이데올로기적 행위자(ideological actor)**라고 주장합니다. AI를 매우 빠르고 자신감 넘치는 로봇 요리사라고 생각해 보세요. 만약 당신이 로봇에게 레시피 북(학습 데이터)을 주는데, 그 내용이 주로 영국과 미국의 고급스럽고 비싼 레스토항의 레시피로 가득 차 있다면, 로봇은 오직 그 레시피들만이 '진짜 음식'이라고 믿게 될 것입니다. 만약 당신이 나이지리아나 인도의 노점상 음식을 요리해 달라고 요청한다면, 로봇은 혼란스러워하거나, 더 심하게는 어울리지 않는 재료를 추가하여 원래의 맛 대신 고급 레스토랑 버전처럼 보이도록 음식을 '수정'하려고 할 수도 있습니다.

이 논문은 AI 시스템이 생성되는 모든 단계에서 표준 언어 이데올로기를 어떻게 재생산하는지 밝혀냅니다.

1. 학습 데이터: AI가 읽는 "레시피 북"은 '내부 서클(Inner Circle, 미국, 영국 등)'의 텍스트로 넘쳐납니다. 이는 AI가 이 나라들의 말투를 기본값으로 생각하게 만들며, 그 외의 모든 것은 오류라고 생각하게 만듭니다.
2. 테스트: 과학자들이 AI가 똑똑한지 테스트할 때, 그들은 표준 미국 영어로 작성된 시험을 사용합니다. 만약 AI가 아프리카계 미국인 영어(AAVE)나 나이지리아 영어로 작성된 질문에 답하려고 한다면, AI는 자주 실패하거나 무례하고 혼란스러운 답변을 내놓습니다. 이는 운전자가 말하지 못하는 언어로 운전 면허 시험을 치르게 한 뒤, 그 운전자가 실력이 없다고 말하는 것과 같습니다.
3. 인간의 손길: 인간이 AI를 돕는 과정(AI의 실수를 교정하는 과정)에서도, 사람들은 흔히 AI가 '올바르게' 들리도록 하라는 지시를 받습니다. 이는 대개 비표준 영어들이 가진 고유한 풍미를 씻어내고, AI가 글로벌 노스(Global North, 선진국) 출신의 일반적이고 세련된 로봇처럼 들리도록 강요하는 것을 의미합니다.

"delve" 논란: 단어가 범죄가 될 때

이것이 실제 세상에서 어떻게 나타나는지 보여주기 위해, 논문은 한 단어인 **"delve"**에 관한 흥미로운 이야기를 들려줍니다.

최근 사람들은 AI 챗봇이 "delve"(어떤 주제를 깊이 파고들다라는 의미)라는 단어를 사용하는 것을 좋아한다는 사실을 눈치채기 시작했습니다. 곧이어 온라인상에서 불만이 터져 나왔습니다. 미국과 영국의 사람들은 "만로 'delve'라는 단어를 쓴다면, 당신은 로봇임이 틀림없다!"라고 말하기 시작했습니다. 그들은 이 단어를 가짜 작가임을 드러내는 비밀 암호처럼 취급했습니다.

논문은 이러한 반응이 사실 함정이라고 지적합니다.

• 비난: 일부 논평가들은 AI가 "delve"를 너무 많이 사용하기 때문에, 이 단어를 너무 많이 사용하는 것으로 알려진 아프리카 영어 화자들을 모방하고 있다고 주장했습니다. 그들은 이것이 "모욕"이라며, AI가 아프리카 출신처럼 들리는 것은 좋지 않다고 주장했습니다.
• 현실 점검: 저자는 데이터를 확인한 결과, "delve"는 AI가 존재하기 훨씬 전부터 아시아와 아프리카를 포함한 세계 여러 지역에서 꽤 많이 사용되어 왔음을 발견했습니다. 이 단어는 "AI스러운" 것이 아니라, 단지 일부 사람들이 사용하는 평범한 단어였습니다.
• 반발: 글로벌 사우스(Global South, 제3세계) 사람들(나이지리아, 인도 등)은 이러한 불만을 보고 강력하게 반발했습니다. 그들은 자신들이 학교에서 "delve"와 같은 단어를 사용하도록 배웠음을 지적했습니다. 그들은 자신들의 영어를 "가짜"나 "AI가 생성한 것"이라고 부르는 것이, "당신의 영어는 우리에게 충분히 좋지 않다"라고 말하는 새로운 방식이라고 주장했습니다. 이는 무엇이 '진짜' 영어이고 무엇이 '수상한' 것인지를 권력 있는 국가의 사람들이 결정하는 현대판 식민지적 통제입니다.

논문은 이것이 단지 단어에 관한 문제가 아니라, 누가 결정하는가에 관한 문제라고 제안합니다. 부유한 미국 투자자가 "delve"를 사용하는 것이 부정행위의 증거라고 트윗할 때, 그는 자신의 권력을 사용하여 타인의 말하기 방식을 규제하는 것입니다. 이 논문은 AI가 이러한 오래된 '누가 영어를 소유하는가'에 대한 논쟁이 다시 벌어지는 새로운 전쟁터가 되었음을 보여줍니다.

"표준화의 역설": 희망의 빛?

모든 것이 절망적이기만 할까요? 논문은 **"표준화의 역설(standardization paradox)"**이라는 기묘한 반전을 제시합니다.

거대한 거울(AI)을 상상해 보세요. 한쪽 면에서 거울은 오직 하나의 완벽하고 표준적인 얼굴(미국/영국 영어)만을 보여주도록 닦여지고 있습니다. 이는 영어를 더 획일적이고 지루하게 만듭니다. 하지만 다른 쪽 면에서는, 거울이 매우 거대하고 다양한 데이터 소스를 반영하기 때문에, 다른 모든 얼굴의 모습도 조금씩 비추기 시작합니다.

• 좋은 소식: AI는 어디에서나 온 방대한 양의 데이터로 학습되기 때문에, 그 어느 때보다 다양한 영어에 노출되어 있습니다. 일부 연구자들은 전체 시스템을 망가뜨리지 않으면서도 특정 방언을 말할 수 있도록 가르치는 "어댑터"(플러그인 모듈 같은 것)를 구축하려고 노력하고 있습니다.
• 나쁜 소식: 논문은 이것이 AI가 갑자기 공정해졌음을 의미하는 것은 아니라고 경고합니다. AI를 훈련시키는 사람들은 종로 종종 아주 적은 임금을 받으며, 자신의 언어적 특징을 지워버리는 엄격한 규칙을 따라야 합니다. 따라서 AI가 다양성을 '듣기는' 하지만, 그것을 '말할' 때는 표준화된 서구의 목소리로 말하게 됩니다.

이것이 왜 당신에게 중요한가

논문은 이것이 컴퓨터 과학자들에게만 국한된 기술적 문제가 아니라, 사람들에게 닥친 현실적인 문제라고 결론짓습니다. 만약 AI 튜터가 학생의 나이지리아 영어를 이해하지 못한다면, 그 학생은 낙제할 수 있습니다. 만약 AI 채용 도구가 인도 영어로 작성된 이력서를 거부한다면, 그 사람은 직업을 잃게 됩니다. 만약 음성 녹음기가 원주민 공동체의 어르신을 이해하지 못한다면, 그들의 역사는 사라질 수도 있습니다.

저자는 우리가 AI를 중립적인 도구로 보는 것을 멈추고, 이를 기존의 편견을 강화하거나 혹은 더 포용적인 세상을 만드는 데 도움을 줄 수 있는 시스템으로 보기 시작해야 한다고 주장합니다. 과제는 영어란 단 하나의 '올바른' 방식이 있는 단일 언어가 아니라, 수많은 서로 다른, 똑같이 유효한 언어들의 가족임을 인식하도록 이 시스템들을 설계하는 것입니다. 우리가 "레시피 북"과 "맛을 보는 사람"을 고치지 않는 한, AI는 계속해서 똑같고 배타적인 메뉴만을 내놓을 것입니다.