Standard Language Ideology in AI-Generated Language
이 논문은 "표준 AI 생성 언어 이데올로기"라는 개념과 대규모 언어 모델이 정당화 및 삭제와 같은 메커니즘을 통해 어떻게 표준 언어 편향을 강화하는지 분석하기 위한 사회기술적 분류 체계를 소개하며, 궁극적으로 언어적 다양성을 보호하고 더 정의로운 AI 미래를 보장하기 위한 권고 사항을 제시한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
대규모 언어 모델(LLM)인 ChatGPT를 인터넷의 거의 모든 것을 읽은 거대하고 똑똑한 사서라고 상상해 보세요. 당신이 이 사서에게 질문을 던지면, 그들은 당신을 위해 이야기나 답변을 써줍니다.
이 논문은 이 사서가 중립적이지 않다고 주장합니다. 대신, 그들에게는 매우 강력하고 보이지 않는 편향이 있습니다. 그들은 오직 특정한 방식의 말하기만이 "올바르고", "똑똑하며", "전문적"이라고 생각하는 반면, 다른 모든 방식의 말하기는 "망가졌거나", "우스꽝스럽거나", "틀린" 것이라고 생각합니다.
저자들은 이 편향을 **표준 언어 이데올로기(Standard Language Ideology)**라고 부릅니다. 현실 세계에서 이는 대개 사서가 "표준 미국 영어"(미국의 부유하고 백인이며 중산층인 사람들이 사용하는 방식)를 선호하고, 그 외의 모든 것은 열등하게 취급하는 것을 의미합니다.
다음은 간단한 비유를 사용한 이 논문의 주요 아이디어 정리입니다.
1. "골드 스탠더드(Gold Standard)" 필터
사서의 책상에 필터가 하나 있다고 상상해 보세요. 당신이 아프리카계 미국인 영어(AAE)나 지역 방언으로 쓰인 노트를 건네면, 필터는 그 내용을 사서가 읽기도 전에 자동으로 "표준 미국 영어"로 다시 작성해 버립니다.
- 문제점: 논문은 이를 **정당화(Legitimation)**라고 부릅니다. AI는 "표준" 버전만을 유일하게 정당한 의사소통 방식으로 취급합니다.
- 결과: 만약 당신이 당신의 자연스러운 방언으로 말한다면, AI는 당신을 무시하거나, 오해하거나, 더 나쁜 답변을 줄 수 있습니다. 이는 마치 특정 정장을 입은 사람에게만 음식을 서빙하고, 다른 사람들에게는 주문하기 전에 옷을 갈아입고 오라고 말하는 식당과 같습니다.
2. 어떤 고객들에게는 "불량 서비스"
사서가 주로 "표준" 영어로 쓰인 책들을 읽었기 때문에, 그들은 다른 방언들을 이해하는 데 서툽니다.
- 문제점: 이것은 **불평등한 서비스 품질(Unequal Quality of Service)**입니다. 만약 당신이 소수자 방언으로 질문을 던지면, AI는 혼란스러워하거나, 답변을 거부하거나, 심지어 당신이 사용한 단어 때문에 당신의 질문을 "혐오 표현"으로 분류할 수도 있습니다.
- 결과: 이러한 방언을 사용하는 사람들은 도움이 되는 답변을 얻기 위해 "코드 스위칭"(표준 집단처럼 말하는 척하는 것)을 강요받습니다. 이는 건물에 들어가기 위해 보안 요원이 허락해 줄 때까지 가면을 써야 하는 것과 같습니다.
3. "만화 캐릭터" 효과
때때로 AI는 당신의 방언을 흉내 내려고 시도하지만, 그것을 비하하거나 우스꽝스러운 방식으로 수행합니다.
- 문제점: 이것은 **스테레오타이핑 및 인종화(Stereotyping and Racialization)**입니다. 만약 당신이 AI에게 특정 방언으로 글을 써달라고 요청하면, AI는 종종 실제 사람이 사용하지 않는 스테레오타입, 모욕, 또는 "망가진" 문법이 가득한 캐리커처, 즉 만화 버전의 말투를 만들어냅니다.
- 결과: 이는 그 방식으로 말하는 사람들이 교육을 받지 못했거나 우스꽝스럽다는 생각을 강화합니다. 이는 마치 코미디언이 특정 집단을 형상화하여 형편없는 성대모사를 하는 것과 같지만, AI는 이를 그들의 언어에 대한 진지하고 사실적인 표현인 것처럼 제시합니다.
4. 도서관 안의 "도둑"
AI는 소수자 방언을 배우는 법을 익힐 수 있지만, 실제로 그 언어를 사용하는 사람들에게 허락을 구하지 않고 그렇게 합니다.
- 문제점: 이것은 **전유(Appropriation)**입니다. AI는 문화의 "멋지거나" "독특한" 부분들을 가져와서 하나의 상품으로 만들고 다른 모든 사람에게 판매하지만, 원래의 화자들은 아무것도 얻지 못합니다.
- 결과: 백인이 AI를 사용하여 흑인 공동체의 일원처럼 들릴 수는 있지만, 그 공동체가 직면하는 인종차라즘은 겪지 않아도 됩니다. 이는 마치 누군가 가족의 가업인 레시피를 훔쳐서 시리얼 상자에 담아 팔면서, 정작 그 가족에게는 공로도 돈도 주지 않는 것과 같습니다.
5. "지우개"
마지막으로, AI는 때때로 이러한 방언들을 통째로 삭제해 버립니다.
- 문제점: 이것은 **삭제(Erasure)**입니다. 스테레오타이핑이나 전유의 위험을 피하기 위해, 개발자들은 AI가 해당 방언을 절대로 말하지 못하도록 프로그래밍할 수 있습니다.
- 결과: 만약 당신이 당신의 모국어로 답해주길 원한다 하더라도, AI는 단순히 그렇게 하지 않을 것입니다. 이는 마치 "관리하기 너무 어렵다"는 이유로 특정 언어로 된 책을 더 이상 들여놓지 않기로 결정한 도서관과 같으며, 결과적으로 디지털 세상에서 그 언어를 보이지 않게 만듭니다.
핵심 질문: AI는 무엇을 해야 하는가?
논문은 어려운 질문을 던집니다. AI는 안전을 위해 "표준" 영어에만 집중해야 할까요, 아니면 모든 방언을 말하려고 노력해야 할까요?
- 만약 "표준"에만 집중한다면, 그렇게 말하지 않는 사람들에게 상처를 줍니다.
- 만약 모든 방언을 말하려고 시도한다면, 그들을 조롱하거나 그들의 문화를 훔칠 위험이 있습니다.
저자들은 이것이 단순히 (데이터를 더 추가하는 것과 같은) "기술적 해결책"이 될 수 없다고 말합니다. 왜냐하면 이것은 코드의 문제가 아니라 권력의 문제이기 때문입니다. AI를 만든 사람들(주로 미국의 대형 기술 기업들)이 무엇이 "표준"인지를 결정했으며, 그 과정에서 무시된 언어의 주인들에게 묻지 않았습니다.
해결책: 누가 열쇠를 쥐고 있는가?
저자들은 AI를 단순히 "덜 편향되게" 만드는 대신, 누가 주도권을 갖느냐를 바꿔야 한다고 제안합니다. 그들은 세 가지 주요 아이디어를 제시합니다.
- 해악을 측정하라: 우리는 AI를 단순히 얼마나 빠른지가 아니라, 다양한 방언을 어떻게 대하는지로 테스트해야 합니다. AI가 무례하게 굴고 있지는 않은지, 사람들을 무시하고 있지는 않은지 확인해야 합니다.
- 공동체가 직접 구축하게 하라: 대형 기업들이 공동체의 데이터를 가져가는 대신, 그 공동체들이 자신들만의 AI 도구를 구축해야 합니다. (논문은 이미 아프리카와 뉴질랜드에서 이를 수행하고 있는 그룹들을 언급합니다.)
- 권력을 공유하라: 만약 대형 기업들이 어떤 공동체의 언어를 사용하고 싶다면, 그 공동체와 함께 앉아 결정을 내리게 하고 이익을 나누어야 합니다. 이것은 단순히 공동체에 "자문"을 구하는 수준이 아니라, 그들이 프로세스를 소유할 수 있도록 하는 것입니다.
요약하자면: 이 논문은 현재 AI가 어떤 방식의 말하기가 다른 방식보다 "더 낫다"는 생각을 강화하고 있다고 주장합니다. 이를 고치기 위해서는 단순히 소프트웨어를 미세하게 조정하는 것만으로는 부족하며, 자신의 언어가 사용되거나, 무시되거나, 혹은 조롱받는 사람들에게 권력을 되돌려주어야 합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.