이 논문의 내용을 한 마디로 요약하면, **"AI 가 배우는 영어는 전 세계의 다양한 영어가 섞인 스프가 아니라, 미국식 레시피로만 만든 수프"**라는 것입니다.
1. 재료 준비 단계 (학습 데이터) 📚
AI 는 인터넷에 떠도는 엄청난 양의 글을 먹고 자라납니다. 연구진은 이 '식재료'들을 조사했습니다.
비유: AI 의 학습 데이터는 거대한 식료품 창고와 같습니다. 이 창고에 '영국식 소스 (colour, theatre)'도 있지만, '미국식 소스 (color, theater)'가 압도적으로 많이 쌓여 있었습니다.
현실: 연구 결과, 주요 학습 데이터 (책, 위키백과, 웹 페이지 등) 에서 미국식 철자와 단어가 70~80% 이상을 차지하고 있었습니다. 영국식 표현은 창고 구석에 처박혀 있는 셈입니다.
2. 재료를 자르는 단계 (토크나이저) 🔪
AI 는 글을 읽을 때 단어들을 잘게 쪼개서 (토큰화) 처리합니다. 이 과정을 '토크나이저'가 담당합니다.
비유: 이 과정은 요리사가 재료를 썰 때와 같습니다.
미국식 단어 (예: color) 는 한 번에 깔끔하게 썰어집니다. (효율적)
영국식 단어 (예: colour) 는 불필요하게 여러 조각으로 잘게 썰립니다. (비효율적)
현실: 영국식 단어는 미국식 단어보다 조각 수가 더 많아, AI 가 처리하는 데 더 많은 '에너지'와 '공간'을 쓰게 됩니다. 마치 영국식 영어를 쓰는 사람이 AI 에게 더 비싼 요금을 내거나 더 느리게 응답받는 것과 같습니다.
3. 요리를 완성하는 단계 (생성) 🍽️
마지막으로 AI 가 사용자의 질문에 답을 만들어낼 때입니다.
비유: 사용자가 "영국식 영어로 말해줘"라고 주문해도, 요리사 (AI) 는 습관적으로 미국식 레시피대로 요리를 해냅니다.
현실: 연구진은 AI 에게 "영국식 영어로 답해라"라고 명시적으로 지시했음에도, 대부분의 모델이 여전히 미국식 철자 (color) 와 표현 (elevator, fall) 을 사용했습니다. 영국식 표현을 쓰려면 모델이 아주 강하게 "영국식"이라고 명령해야만 겨우 바뀌었습니다.
🌍 왜 이것이 문제일까요? (포스트식민주의적 관점)
이 논문은 단순히 "철자가 다르다"는 문제를 넘어, 역사와 권력의 문제를 지적합니다.
역사적 배경: 과거 영국 제국이 식민지를 거치며 영국식 영어를 전파했습니다. 하지만 20 세기 이후 미국의 문화와 기술 (할리우드, 인터넷, 실리콘밸리) 이 세계를 장악하면서 미국식 영어가 '세계 표준'처럼 자리 잡았습니다.
AI 의 문제: AI 는 이 역사적 흐름을 그대로 답습합니다. AI 가 미국식 영어를 '정상 (Norm)'으로 여기고 영국식 영어를 '예외'로 취급하면, 영국식 영어를 사용하는 국가들 (인도, 나이지리아, 싱가포르 등) 의 사용자들은 AI 와 소통할 때 언어적 불이익을 겪게 됩니다.
결과: 이는 **'인지적 불의 (Epistemic Injustice)'**를 낳습니다. 즉, 특정 지역의 언어와 문화가 AI 에 의해 무시당하거나 하위 문화로 전락하게 되는 것입니다.
💡 연구진이 제안하는 해결책
이 문제를 해결하기 위해 연구진은 다음과 같은 방법을 제안합니다.
균형 잡힌 식재료 (데이터): AI 를 학습시킬 때 미국식 데이터만 쌓지 말고, 영국식 및 다른 영어권 (인도, 호주 등) 데이터를 균형 있게 섞어야 합니다.
공정한 칼질 (토크나이저): 영국식 단어가 불필요하게 잘게 썰리지 않도록, 토크나이저의 사전 (Vocabulary) 을 고쳐서 모든 영어 변형이 똑같이 효율적으로 처리되게 해야 합니다.
새로운 도구 (DIALIGN): 연구진은 DIALIGN이라는 새로운 도구를 개발했습니다. 이는 AI 가 쓴 글이 미국식인지 영국식인지, 그리고 얼마나 편향되어 있는지를 자동으로 측정하는 '언어 나침반' 역할을 합니다.
📝 한 줄 요약
"현재의 AI 는 미국식 영어를 '기본 설정'으로 삼고 있어, 영국식 영어를 사용하는 전 세계 수억 명의 사용자에게 언어적 불평등을 강요하고 있습니다. 우리는 AI 가 더 공정하고 다양한 영어를 배울 수 있도록 데이터와 설계 방식을 바꿔야 합니다."
이 연구는 기술이 단순히 중립적이지 않으며, 우리가 만든 AI 가 역사적 권력 관계를 어떻게 재생산하는지 보여줍니다.
1. 문제 제기 (Problem Statement)
대형 언어 모델 (LLM) 이 교육, 법률, 공공 행정 등 고위험 (high-stakes) 영역에 광범위하게 배포되고 있음에도 불구하고, 대부분의 플랫폼 (ChatGPT, Claude 등) 은 언어 설정으로 '영어 (미국)'(English US) 만을 명시적으로 제공하거나 암묵적으로 선호합니다. 이는 전 세계적으로 다양한 영어 변이형 (Varieties) 과 식민지 역사가 존재함에도 불구하고, 특정 방언이 표준으로 자리 잡는 구조적 편향 (Structural Bias) 을 시사합니다.
핵심 질문: LLM 은 개발 파이프라인의 전 단계 (사전 학습, 토크나이저, 생성) 에서 미국 영어 (AmE) 를 영국 영어 (BrE) 보다 우대하는가?
배경: 영어의 글로벌 지배력은 과거 영국 식민지 확장 (BrE 의 제도적 기반) 과 20 세기 미국의 헤게모니 (AmE 의 디지털/문화적 지배) 에 기인합니다. LLM 이 이러한 지리정치적 불균형을 재생산할 경우, 언어적 동질화와 인식적 불의 (Epistemic Injustice) 가 발생할 수 있습니다.
2. 방법론 (Methodology)
저자들은 LLM 개발 파이프라인의 세 가지 핵심 단계에서 편향을 삼각 측량 (Triangulation) 하였습니다. 이를 위해 두 가지 주요 도구를 개발/활용했습니다.
A. 커스텀 변이형 말뭉치 (Curated Variant Corpus)
구성: 미국 영어 (AmE) 와 영국 영어 (BrE) 간의 1,813 개의 병렬 어휘 변이형을 수동으로 수집하여 구성했습니다.
범위: 철자 (Orthography, 예: color/colour), 어휘 (Vocabulary, 예: elevator/lift), 문법/사용법 (Grammar/Usage, 예: on the weekend/at the weekend) 등을 포함합니다.
목적: 일관된 정밀 분석을 위한 기준 데이터셋으로 활용.
B. DIALIGN (Dialectal Alignment Score)
정의: 텍스트가 AmE 또는 BrE 에 얼마나 정렬되어 있는지를 추정하는 동적, 훈련 불필요 (training-free) 인 점수화 방법.
작동 원리:
n-gram 추출: 입력 텍스트에서 2~5 글자 n-gram 을 추출 (명사구, 불용어 제거).
빈도 조회: Google Books Ngram 코퍼스를 활용하여 각 n-gram 의 AmE 와 BrE 에 대한 역사적 정규화 빈도 (fAmE,fBrE) 를 조회.
부호화된 편차 계산: 로그 비율 (LR=log2(fAmE/fBrE)) 을 계산하고, 사전 기반 보정 (Lexicon-based boost) 을 적용하여 변이형의 중요도를 가중치화.
집계 및 정규화: 양의 편차 (AmE 선호) 와 음의 편차 (BrE 선호) 를 합산하여 각 방언에 대한 정렬 확률 (PAmE,PBrE) 을 산출.
C. 3 단계 검증 프로세스
사전 학습 코퍼스 감사 (RQ1): 6 개의 주요 오픈 소스 코퍼스 (BookCorpus, Wikipedia, Common Crawl, Falcon RefinedWeb, RedPajama, Dolma) 를 감사하여 AmE/BrE 변이형의 분포 편향을 분석.
토크나이저 표현 분석 (RQ2): 다양한 지역 (미국, 유럽, 중국, 중동 등) 의 토크나이저가 AmE/BrE 변이형을 어떻게 인코딩하는지 비옥도 (Fertility, 단어당 서브토큰 수) 와 세분화 (Granularity) 를 분석.
생성 선호도 평가 (RQ3): 다양한 LLM(GPT-4o, Llama, Gemma 등) 에게 공식 (Natural Questions) 및 비공식 (ELI5) 도메인에서 질문을 던지고, 생성된 답변의 DIALIGN 점수를 측정하여 AmE 선호도를 평가.
3. 주요 결과 (Key Results)
RQ1: 사전 학습 코퍼스의 편향
통계적 유의성: 6 개 코퍼스 모두에서 AmE 변이형이 BrE 보다 통계적으로 유의미하게 우세했습니다 (p < 0.01).
편향 정도: 철자 차이 (Orthographic, 예: color vs. colour) 에서 AmE 선호도가 가장 극심하여 70% 이상을 차지했습니다. 어휘 차이 (Vocabulary) 도 일관되게 AmE 를 우세하게 보였습니다.
DIALIGN 결과: 더 넓은 구조적, 문체적 차이를 포착하는 DIALIGN 점수 역시 모든 코퍼스에서 AmE 선호를 명확히 보여주었습니다.
RQ2: 토크나이저의 비효율성
비옥도 (Fertility) 차이: BrE 변이형은 AmE 변이형보다 더 많은 서브토큰으로 분할되는 경향이 있었습니다. 이는 BrE 표현이 토크나이저에 대해 더 비효율적으로 인코딩됨을 의미합니다.
영향: BrE 사용 시 토큰 예산 (Token Budget) 소모가 증가하고, 지연 시간 (Latency) 이 늘어나며, 문맥 처리 능력이 저하될 수 있습니다.
지역별 차이: 미국 기반 모델 (GPT-4, Llama) 에서 편향이 가장 컸으며, 유럽 (Mistral) 이나 중국 (DeepSeek) 기반 토크나이저는 상대적으로 BrE 를 더 잘 처리했으나 여전히 불균형이 존재했습니다.
RQ3: LLM 생성물의 선호도
암묵적 기본값 (Default): 명시적인 프롬프트 (예: "British English") 가 주어지지 않은 경우, 대부분의 모델이 65~80% 의 확률로 AmE 를 생성했습니다.
프롬프트 저항성: "British English (en-GB)"로 명시적으로 요청하더라도, AmE 생성 비율이 40% 미만으로 떨어지지 않는 경우가 많았습니다. 즉, 모델은 BrE 프롬프트를 받아도 내부적으로 AmE 규범을 유지하려는 경향이 강합니다.
도메인 차이: 비공식적 대화 (ELI5) 에서 BrE 수용도가 약간 높았으나, 공식적/백과사전적 도메인 (NQ) 에서는 AmE 편향이 더욱 고착화되었습니다.
4. 주요 기여 (Key Contributions)
최초의 체계적 감사: 사전 학습, 토크나이저, 생성 단계의 전 과정을 아우르는 영어 표준 변이형 (AmE vs. BrE) 에 대한 최초의 체계적이고 다면적인 편향 감사를 수행했습니다.
DIALIGN 도구 개발: 훈련 없이 텍스트의 방언 정렬을 정량화할 수 있는 새로운 메트릭 (DIALIGN) 을 제안하고 오픈소스화했습니다.
구조적 편향의 규명: 편향이 단순히 데이터 양의 문제 (RQ1) 를 넘어, 토크나이저 설계 (RQ2) 와 모델의 생성 행동 (RQ3) 까지 전이되어 구조적 불평등을 강화함을 입증했습니다.
포스트식민주의적 해석: 기술적 편향을 식민지 역사와 디지털 헤게모니의 관점에서 해석하여, AI 의 언어적 동질화가 가져올 수 있는 인식적 불의 (Epistemic Injustice) 를 경고했습니다.
5. 의의 및 시사점 (Significance)
기술적 개선 방향:
데이터: BrE 기반 도메인 (.uk, .in 등) 의 데이터를 의도적으로 증대시키고, DIALIGN 을 활용해 합성 데이터의 방언 정렬을 검증해야 함.
토크나이저: BrE 변이형에 대한 비옥도를 낮추기 위해 방언 민감성 (Dialect-sensitive) 을 고려한 어휘 확장 (Vocabulary Expansion) 이 필요함.
평가: 단순한 성능 지표가 아닌, 방언별 공정성과 포용성을 평가하는 새로운 벤치마크 필요.
사회적 영향: LLM 이 특정 방언 (AmE) 을 '표준'으로 강제함으로써 전 세계 (특히 영연방 국가 및 과거 식민지) 사용자의 언어적 정체성을 훼손하고, 교육 및 법률 등 제도적 맥락에서 불평등을 재생산할 수 있음을 경고합니다.
정책적 제언: '주권 AI (Sovereign AI)' 및 글로벌 AI 거버넌스 전략에 언어적 다양성과 방언 포용성을 핵심 요소로 포함해야 함을 강조합니다.
이 논문은 LLM 의 중립성이 환상일 수 있음을 보여주며, 기술 개발 과정에서 지리정치적, 역사적 맥락을 고려한 방언 민감형 (Dialect-sensitive) 설계의 필요성을 강력하게 주장합니다.