💻 computer science

Empire Amplifier: Uncovering and Contesting the Prioritization of Colonial Content on Platforms Through Community-Informed Algorithmic Auditing

유튜브에 대한 커뮤니티 기반 알고리즘 감사를 통해 본 이 연구는 해당 플랫폼의 추천 시스템이 아동 사용자에게 러시아어 콘텐츠를 키르기스어보다 불균형적으로 우선시함으로써 다양한 목소리를 증폭한다는 주장에도 불구하고 식민지적 언어 이데올로기를 강화하고 토착 언어 부흥을 위협하고 있음을 드러낸다.

원저자: Nel Escher, Bakyt Yrysov, Ashley McDermott, Daniel Chechelnitsky, Hermela Berehan Benyam, Nikola Banovic

게시일 2026-05-01

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Nel Escher, Bakyt Yrysov, Ashley McDermott, Daniel Chechelnitsky, Hermela Berehan Benyam, Nikola Banovic

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

유튜브라는 마법 같은 무한 도서관을 상상해 보세요. 이 도서관의 주인 (알고리즘) 은 당신이 다음에 무엇을 읽고 싶어 할지 추측하려는 매우 열성적이고 과보호적인 사서와 같습니다.

이 논문은 중앙아시아 국가인 키르기스스탄에 가서 이 사서가 실제로 현지 사람들을 돕고 있는지, 아니면 실수로 (혹은 고의로) 그들을 다른 문화 쪽으로 밀어내고 있는지 확인하러 간 연구자 그룹에 관한 것입니다.

그들이 발견한 내용을 간단한 용어로 풀어낸 이야기입니다:

큰 우려: "도서관이 우리의 언어를 훔쳐가고 있다"

오랫동안 키르기스스탄 사람들은 우려해 왔습니다. 그들은 모국어인 키르기스어를 사용하지만, 러시아 제국과 소련과의 역사적 관계로 인해 러시아어도 사용합니다.

키르기스스탄의 부모들은 무서운 사실을 발견했습니다. 자녀들이 키르기스어보다 러시아어를 더 많이 사용하기 시작한 것입니다. 그들은 이 "마법 도서관" (유튜브) 을 비난했습니다. 부모들은 자녀들에게 키르기스어 만화를 보여주려고 노력했지만, 도서관은 계속해서 러시아어 영상을 밀어 넣는다고 느꼈습니다. 그들은 도서관이 자녀들에게 러시아어는 "멋지고" 키르기스어는 "지루하다"고 가르쳐 문화를 사실상 지워버릴까 봐 두려워했습니다.

조사: "소금인형" 테스트

연구자들은 부모들에게 단순히 묻지 않았습니다. 그들은 증거를 원했습니다. 그래서 그들은 **디지털 "소금인형"**을 만들었습니다.

이 소금인형들을 로봇 더미라고 생각하세요.

그들은 수백 개의 이 로봇들을 만들었습니다.
일부 로봇은 수도의 새로운 사용자인 척했습니다.
일부는 거의 아무도 러시아어를 쓰지 않는 작고 외진 마을의 새로운 사용자인 척했습니다.
일부는 키르기스어 만화를 좋아하는 어린이인 척했습니다.
일부는 러시아어 만화를 좋아하는 어린이인 척했습니다.

이 로봇들은 도서관에 들어가 비디오를 클릭하고 사서가 다음에 무엇을 추천하는지 정확히 기록했습니다. 그들은 이 작업을 1 만 번 이상 반복했습니다.

충격적인 결과

로봇들은 사서가 현지 문화를 듣고 있지 않다는 사실을 발견했습니다. 다음과 같은 일이 발생했습니다:

"새로운 사용자" 문제: 아무도 러시아어를 쓰지 않는 외진 마을에서 로봇이 도서관에 처음 들어갔을 때조차, 사서는 즉시 러시아어 영상을 추천했습니다. 로봇이 어디에 있든 상관없었습니다. 사서는 모든 사람이 러시아어 콘텐츠를 원한다고 가정했습니다.
"아이" 문제: 로봇들이 아이들이 좋아하는 것 (예: "만화"나 "동화") 을 검색하는 어린이인 척했을 때, 사서는 로봇이 키르기스어로 검색어를 입력했음에도 불구하고 대부분 러시아어 결과를 제공했습니다.
"필터 버블" 함정: 이것이 가장 놀라운 부분입니다. 로봇들이 정말 키르기스어 콘텐츠를 좋아하는 어린이처럼 행동했을 때 (연속으로 10 개의 키르기스어 만화를 시청), 사서는 키르기스어 영상 추천을 중단했습니다! 실제로는 영어나 러시아어 영상을 추천하기 시작했습니다.
- 비유: 친구에게 "나는 사과만 먹고 싶어"라고 말한다고 상상해 보세요. 친구는 사과를 가져다주지만, 그다음에 "좋아, 사과를 하나 먹었으니 이제 사과에 질렸을 거라고 생각해서 오렌지와 바나나 한 바구니를 가져왔어"라고 말합니다. 도서관은 아이들이 자신의 문화를 좋아하는 것을 처벌한 것입니다.

왜 이런 일이 일어날까요?

연구자들은 단순히 키르기스어 영상이 부족했는지 확인했습니다. 그들은 정부와 유니세프 같은 큰 국제 단체에서 제작한 것을 포함하여 수천 시간 분량의 키르기스어 어린이 콘텐츠를 발견했습니다.

문제는 콘텐츠 부족이 아니었습니다. 문제는 알고리즘의 뇌였습니다. 그것은 현지 언어보다 제국의 언어 (러시아어) 를 우선시하도록 연결된 것처럼 보였으며, 식민 지배자의 문화가 우월하다는 식의 오래된 권력 구조를 강화했습니다.

좋은 소식: 어떻게 맞서 싸울 것인가

연구자들은 문제만 지적한 것이 아니라, 부모들에게 "우리가 무엇을 할 수 있을까?"라고 물으며 몇 가지 아이디어를 테스트했습니다. 그들은 사서를 속일 수 있는 몇 가지 "해킹" 방법을 발견했습니다:

**기기 공유:**如果孩子가 자신의 휴대폰을 사용하면, 도서관은 그들을 "러시아어 아이"로 생각하고 러시아어 영상을 보여줍니다. 하지만 아이가 키르기스어 콘텐츠를 시청하는 부모와 가족용 태블릿을 공유하면 도서관은 혼란에 빠집니다. 부모의 시청 기록을 보고 아이에게도 키르기스어 영상을 추천하기 시작합니다.
검색어 번역: 아이가 러시아어로 비디오를 요청하면, 부모는 입력하기 전에 그 요청을 키르기스어로 번역할 수 있습니다. 이렇게 하면 도서관이 강제로 키르기스어 결과를 보여줍니다.

주요 결론

이 논문은 기술 기업들이 종종 "우리는 모두의 문화를 공유하는 데 도움을 주기 위해 여기에 있다"고 말하지만, 이 경우 기술은 실제로 제국을 증폭시켰다고 결론 내립니다. 그것은 지역 문화가 생존하는 것을 더 어렵게 만들었습니다.

그러나 이야기가 절망적인 것은 아닙니다. 사서가 어떻게 작동하는지 이해함으로써, 가족들은 기기 공유와 같은 간단한 트릭을 사용하여 통제권을 되찾고 아이들이 알고리즘이 그들이 봐야 한다고 생각하는 것이 아니라 자신의 언어와 문화를 볼 수 있도록 할 수 있습니다.

다음은 "Empire Amplifier: 커뮤니티 기반 알고리즘 감사를 통해 플랫폼에서 식민지 콘텐츠의 우선순위를 폭로하고 도전하기"라는 제목의 논문에 대한 상세한 기술적 요약입니다.

1. 문제 제기

이 논문은 인간 - 컴퓨터 상호작용 (HCI) 과 탈식민 컴퓨팅 분야에서 중요한 긴장 관계를 다룹니다. 온라인 플랫폼이 원주민의 목소리를 증폭하고 문화 부흥을 지원한다고 주장하는 반면, 원주민 공동체는 이러한 시스템이 오히려 그들의 언어와 문화를 침식한다고 인식하기 때문입니다.

구체적 맥락: 이 연구는 키르기스스탄을 중심으로 진행되었으며,在那里 양육자들은 유튜브가 언어 전환을 가속화하여 아이들이 모국어인 키르기스어보다 식민지/제국 언어인 러시아어를 선호하게 만든다고 우려합니다.
격차: 기존 알고리즘 감사는 주로 서구 중심적이며, 미국의 정치적 양극화나 흑인 대 백인 같은 인종 범주와 같은 편향성에 초점을 맞추고 있습니다. 이러한 감사들은 과거 식민지에서 알고리즘이 어떻게 제국적 언어 위계를 강화하는지, 혹은 원주민 언어 보존에 어떤 영향을 미치는지 거의 조사하지 않습니다.
핵심 질문: 유튜브 추천 알고리즘은 원주민 문화 관행을 유지하는가, 아니면 식민지 콘텐츠를 증폭함으로써 이를 위협하는가?

2. 방법론: 커뮤니티 기반 알고리즘 감사

저자들은 특정 공동체의 불안을 연구가 해결하도록 보장하기 위해 민족지학적 통찰과 기술적 테스트를 통합한 커뮤니티 기반 알고리즘 감사를 활용했습니다.

A. 민족지학적 기반

기술적 테스트에 앞서, 팀은 비슈케크 (키르기스스탄) 에서 15 개 가족과 46 명의 어린이를 대상으로 민족지학적 연구를 수행했습니다.

결과: 양육자들은 아이들이 유튜브에서 들은 언어를 모방하며 러시아어를 increasingly 사용한다고 관찰했습니다. 부모들은 플랫폼의 영향력에 대항할 수 없으며 키르기스어 노출을 늘릴 전략이 부족하다고 느꼈습니다.
역할: 이러한 정성적 결과는 연구 질문과 감사할 구체적인 '위협'을 정의했습니다.

B. 기술적 감사 설계 (Sock-Puppet 접근법)

연구자들은 실제 어린이들의 민감한 데이터를 수집하지 않고 사용자 행동을 시뮬레이션하기 위해 Sock-Puppet(자동화된 브라우저 인스턴스) 을 사용했습니다.

인프라: 실험은 지리적 관련성을 보장하기 위해 키르기스스탄 (비슈케크와 시골 마을 코치코르) 에 물리적으로 위치한 머신에서 공개 네트워크를 사용하여 수행되었습니다.
데이터 수집: 봇은 유튜브 웹 인터페이스와 상호작용하여 홈 페이지, 검색 결과, 자동 재생, 사이드바 제안 등 네 가지 소스에서 추천을 크롤링했습니다.
데이터셋: 이 연구는 26,016 개의 비디오 관찰을 통해 10,741 개의 고유한 비디오를 분석했습니다.
레이블링: 키르기스어, 러시아어, 영어에 능통한 학부 연구 보조원들이 비디오 내 개인의 언어와 지각된 인종을 수동으로 레이블링했습니다 (간평가자 신뢰도 $\alpha = 0.86$ ). 저자원 키르기스어 오디오/텍스트용 모델이 부족하여 머신러닝은 부적절하다고 판단되었습니다.

C. 실험 설정

세 가지 주요 실험이 특정 연구 질문 (RQ) 을 다루었습니다:

RQ1 (신규 사용자): 비슈케크 (혼합 언어) 와 코치코르 (주로 키르기스어 화자) 의 신규 사용자를 위한 홈 페이지 추천을 비교했습니다.
RQ2 (검색 알고리즘): '아동 관심' 대 '성인 관심' 용어에 대한 검색 결과를 테스트했습니다. 용어는 원래 형태 (대부분 러시아어), 키르기스어로 번역된 형태, 그리고 두 언어에서 동일하게 쓰이는 '양가적' 용어 (예: "Minecraft") 로 테스트되었습니다.
RQ3 (브라우징 및 개인화): 봇이 10 개의 시드 비디오를 시청하여 '시청 기록'을 설정함으로써 키르기스 아동, 러시아 아동, 키르기스 성인, 러시아 성인의 네 가지 사용자 페르소나를 시뮬레이션했습니다. 그런 다음 봇은 무작위 보행을 수행하여 후속 추천을 확인했습니다.
- 변형: 이 실험은 키르기스 성인이 먼저 시청한 후 장치를 키르기스 아동에게 넘기는 등 장치 공유를 테스트하여 공유된 시청 기록이 추천을 변경할 수 있는지 확인했습니다.

3. 주요 결과

감사 결과는 양육자들의 우려를 입증하여 키르기스어에 대한 체계적인 편향을 드러냈습니다.

지리적 무감각성 (RQ1): 러시아어가 거의 사용되지 않는 시골 마을 (코치코르) 에 있음에도 불구하고, 신규 사용자는 키르기스어보다 약간 더 많은 러시아어 추천을 받았습니다. 알고리즘은 지역 언어 환경에 적응하지 못했습니다.
검색 편향 (RQ2):
- 아동 관심 편향: 아동 관련 주제에 대한 검색은 성인 관련 검색보다 훨씬 더 많은 러시아어 콘텐츠를 반환했으며, 검색어가 키르기스어로 번역되었음에도 마찬가지였습니다.
- 양가적 용어: 사용자가 두 언어에서 동일하게 쓰이는 용어 (예: "TikTok") 를 검색했을 때, 알고리즘은 러시아어 결과를 압도적으로 우선시했습니다 (오즈비 = 4.81), 쿼리를 러시아어인 것처럼 처리했습니다.
"필터 버블"의 실패 (RQ3):
- 성인: 키르기스어 콘텐츠에 대한 관심을 표시한 사용자는 성공적으로 '키르기스어 필터 버블'에 진입했습니다.
- 아동: 반면, 키르기스어 만화를 능동적으로 시청한 어린이들은 키르기스어 필터 버블에 진입하지 않았습니다. 대신 알고리즘은 결국 그들의 추천을 영어와 비언어적 콘텐츠로 전환시켜 키르기스어 노출을 줄였습니다.
- 장치 공유 전략: 연구는 성공적인 대응 전략을 발견했습니다: 장치 공유. 키르기스 성인이 장치를 아이에게 넘기기 전에 키르기스어 콘텐츠를 시청하면, 알고리즘은 아이에게도 키르기스어 필터 버블을 유지했습니다. 이는 공유된 장치 사용이 성인의 확립된 기록을 활용하여 아이의 피드를 보호할 수 있음을 시사합니다.
식민지 콘텐츠의 기원: 키르기스 어린이들에게 추천된 러시아어 콘텐츠에는 원주민 (키르기스) 제작자가 거의 등장하지 않았습니다. 대신 슬라브 제작자와 캐릭터 (예: "마샤와 곰") 가 등장하여 제국적 인종 위계를 강화하고 원주민의 가시성을 축소했습니다.

4. 주요 기여

식민지 증폭에 대한 경험적 증거: 이 연구는 구 소련 공화국에서 원주민 (키르기스) 콘텐츠보다 식민지 (러시아) 콘텐츠를 적극적으로 증폭하는 주요 글로벌 플랫폼 (유튜브) 에 대한 최초의 엄격한 경험적 증거를 제공하며, 플랫폼을 부흥을 위한 중립적 도구로 보는 서사를 반박합니다.
탈식민 감사 프레임워크: 알고리즘 감사가 서구 학계의 가정이 아닌 특정 공동체의 불안을 주도하도록 하는 방법론을 제시하며, '서구적 범주'가 탈식민 언어 위계의 뉘앙스를 포착하지 못함을 보여줍니다.
실행 가능한 저항 전략: 이 논문은 비판을 넘어 알고리즘에 대항하기 위한 실용적인 종단 사용자 전략을 제시하며, 특히 세대 간 장치 공유와 전략적 번역(아이가 러시아어를 말하더라도 키르기스어로 검색) 을 원주민 가치와 일치하는 추천을 얻기 위한 효과적인 방법으로 식별합니다.
온라인/오프라인 피해의 연결: 알고리즘 큐레이션과 오프라인 언어 전환 사이의 인과 관계를 확립하여, 플랫폼 추천이 어린이들을 러시아어를 엔터테인먼트의 기본 언어로, 키르기스어를 '재미없음'으로 사회화하는 방식을 보여줍니다.

5. 중요성과 함의

HCI 와 탈식민 컴퓨팅을 위해: 이 논문은 피해를 문서화하는 것을 넘어 디지털 주권을 적극적으로 지원하도록 해당 분야에 도전합니다. 원주민 공동체가 자신의 디지털 삶을 구조화하는 알고리즘에 대한 주권을 가져야 한다고 주장합니다.
플랫폼 설계를 위해: 현재의 '로컬라이제이션' 노력의 실패를 강조합니다. 플랫폼은 단순히 지리적 위치나 사용자 기록에 의존할 수 없으며, 저자원 언어의 소멸을 방지하기 위해 적극적으로 개입해야 합니다. 저자들은 언어 선호도 필터와 유산 콘텐츠의 지리적 우선순위 설정과 같은 설계 개입을 제안합니다.
정책과 활동을 위해: 이 연구 결과는 '중립적인' 알고리즘 행동이 종종 기존 권력 구조를 강화한다고 시사합니다. 연구자와 활동가들이 알고리즘 감사를 정치적 도전을 위한 도구로 보고, 글로벌 시스템을 배포하기 전에 원주민 공동체와 협의하도록 플랫폼에 촉구합니다.

결론적으로, "Empire Amplifier"는 의도적인 설계 변경 없이는 글로벌 플랫폼이 제국적 언어와 내러티브를 우선시함으로써 원주민 문화의 침식을 가속화하는 '제국 증폭기'로 작용함을 보여주지만, 동시에 공동체가 집단적 및 기술적 전략을 통해 이러한 힘에 저항할 수 있는 로드맵을 제공합니다.