Empire Amplifier: Uncovering and Contesting the Prioritization of Colonial Content on Platforms Through Community-Informed Algorithmic Auditing
YouTube に対するコミュニティに裏打ちされたアルゴリズム監査を通じて、本研究は、同プラットフォームの推薦システムが子供向けユーザーに対してキルギス語よりもロシア語コンテンツを不均衡に優先しており、多様な声を増幅するという主張にもかかわらず、植民地的言語イデオロギーを強化し先住民族の言語復興を脅かしていることを明らかにする。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたはYouTubeという魔法の無限図書館を持っていると想像してください。この図書館の所有者（アルゴリズム）は、あなたが次に何を読みたがるか推測しようとする、非常に熱心で過保護な司書のような存在です。
この論文は、中央アジアの国キルギスへ赴いた研究者グループが、この司書が実際に地元の人々を支援しているのか、それとも（意図的であれ偶発的であれ）彼らを異なる文化へと誘導しているのかを検証した内容について述べています。
以下に、彼らが発見したことを簡単な言葉で物語ります。
大きな懸念：「図書館が私たちの言語を奪っている」
長年にわたり、キルギスの人々は懸念を抱いてきました。彼らは母国語であるキルギス語を話しますが、ロシア帝国およびソビエト連邦との歴史的背景からロシア語も話します。
キルギスの親たちはある恐ろしいことに気づきました。子供たちがキルギス語よりもロシア語を話すようになったのです。彼らはこの「魔法の図書館」（YouTube）を非難しました。親たちは子供たちにキルギス語のアニメを見せようとしても、図書館がロシア語の動画を押し付けてくるように感じました。彼らは、図書館が子供たちにロシア語は「かっこよく」、キルギス語は「つまらない」と教え込み、結果として彼らの文化を消し去っていると恐れていました。
調査：「ソックパペット」テスト
研究者たちは親たちに聞くだけでなく、証拠を求めました。そこで、彼らはデジタル上の**「ソックパペット」**（偽装アカウント）を作成しました。
これらのソックパペットをロボットの人形だと考えてください。
- 彼らは数百ものこれらのロボットを作成しました。
- 一部のロボットは首都の新規ユーザーになりすました。
- 一部のロボットは、ほとんど誰もロシア語を話さない小さな遠隔地の村の新規ユーザーになりすました。
- 一部のロボットはキルギス語のアニメが大好きな子供になりすました。
- 一部のロボットはロシア語のアニメが大好きな子供になりすました。
これらのロボットは図書館に入り、動画をクリックし、司書が次に何を推薦するかを正確に記録しました。彼らはこれを 1 万回以上行いました。
衝撃的な結果
ロボットたちは、この司書が地元の文化に耳を傾けていないことを発見しました。以下が起きたことです。
- 「新規ユーザー」の問題: ロボットがロシア語を話す人が一人もいない遠隔地の村で初めて図書館に入ったときでも、司書は即座にロシア語の動画を推薦しました。ロボットがどこにいようとも、司書は誰もがロシア語のコンテンツを望んでいると仮定しました。
- 「子供」の問題: ロボットが子供たちが好きなもの（「アニメ」や「おとぎ話」など）を検索するように振る舞ったとき、司書はロボットがキルギス語で検索語を入力したとしても、ほとんどロシア語の結果を与えました。
- 「フィルターバブル」の罠: これが最も驚くべき部分でした。ロボットがキルギス語のコンテンツを本当に愛している子供のように振る舞い（連続して 10 本のキルギス語アニメを見た場合）、司書はキルギス語の動画の推薦を停止しました。実際には、英語やロシア語の動画を推薦し始めたのです。
- 比喩: あなたが友人に「私はリンゴしか食べたくない」と言ったと想像してください。友人はリンゴを持ってきましたが、その後、「さて、一つ食べたから、リンゴに飽きたと思うよ」と言って、オレンジやバナナをバスケット一杯持ってきました。図書館は、子供たちが自分たちの文化を好きであることに対して罰を与えたのです。
なぜこれが起こるのか
研究者たちは、単にキルギス語の動画が不足しているのではないかと確認しました。彼らは、政府やユニセフのような大規模な国際団体によって作られたものを含め、何千時間ものキルギス語の子供向けコンテンツが存在することを見つけました。
問題はコンテンツの不足ではありませんでした。問題はアルゴリズムの頭脳にありました。それは地元の言語よりも「帝国」の言語（ロシア語）を優先するように組み込まれているように見え、植民地支配者の文化が優れていると見なされる古い権力構造を強化していました。
朗報：どう対抗するか
研究者たちは問題点を指摘するだけでなく、親たちに「私たちに何ができるか？」と問いかけ、いくつかのアイデアをテストしました。彼らは、この司書をだますためのいくつかの「ハック」を見つけました。
- デバイスの共有: 子供が自分専用のスマートフォンを使うと、図書館は彼を「ロシア語を話す子供」と思い込み、ロシア語の動画を見せます。しかし、子供がキルギス語のコンテンツを見る親と家族用タブレットを共有すると、図書館は混乱します。親の閲覧履歴を見て、子供にもキルギス語の動画を推薦し始めるのです。
- 検索の翻訳: 子供がロシア語で動画をリクエストした場合、親はそれをタイプする前にキルギス語に翻訳することができます。これにより、図書館はキルギス語の結果を表示せざるを得なくなります。
主な結論
この論文は、技術企業はしばしば「私たちは皆が自らの文化を共有できるように支援する」と言っているが、このケースでは、その技術は実際には帝国を増幅させていたと結論付けています。それは地元の文化が存続することをより困難にさせていました。
しかし、この話に絶望はありません。この司書の仕組みを理解することで、家族は（デバイスを共有するなどという）簡単なトリックを使ってコントロールを取り戻し、アルゴリズムが子供たちに「見るべきだ」と考えるものではなく、自分たちの言語や文化を見せるようにすることができるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。