Beyond the Feed: How Generative AI is Reshaping Children's Social Media Ecologies in the Global South
本論文は、生成AIとプラットフォームのデータ・ロジックがいかにしてグローバル・サウスにおける子供たちのソーシャルメディア体験を共に再構築しているかを分析するために「二重の媒介」という枠組みを提案し、エジプトをケーススタディとして用いることで、現在の年齢制限政策がこれらのAIシステムに組み込まれた複雑な文化的および言語的バイアスに対処できていないと論じるものである。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
数十年にわたり、子供たちがオンラインでどのように成長するかという研究は、画面を「窓」として捉えることに焦点を当ててきた。研究者たちは、ソーシャルメディア・プラットフォームが中立的な背景ではなく、子供が何を見るか、何をすることを促されるか、そしてどのように追跡されるかを決定する、能動的なゲートキーパー（門番）であることを古くから理解してきた。このプロセスはしばしば「データ化（datafication）」と呼ばれ、あらゆるクリックやスクロールを、企業が注意力を売り込み、行動を形成するための記録へと変えてしまう。懸念されてきたのは、これらのデジタル環境が、しばしばプライバシーや幸福を犠牲にしてでも、子供たちに視聴を続けさせるように設計されていることである。しかし、私たちの足元の風景は変化した。子供たちが友人と話し、写真を共有するために使うツールは、もはや単にデータを収集しているだけではない。それらは今や、新しい現実を生成している。人工知能は、宿題を手伝うために子供が時折開く別個のツールから、日常的に使用するアプリの中に直接織り込まれた不可視のレイヤーへと移行した。これらのシステムは、キャプションを書き、会話をシミュレートし、さらには言葉を返してくるキャラクター全体さえも作り出すことができる。研究者にとっての問いは、もはやプラットフォームがいかにコンテンツを選択するかということではなく、その中の人工知能がいかに新しいコンテンツを創造し、それら二つの力が組み合わさったときに、発展途上にある子供の精神に対してどのような影響を与えるかということである。
ネルミーン・シンガー、ファティー・エル・シャルカウィ、そしてアミラ・イスマイルは、この複雑な状況を理解するための新しい方法として、「ダブル・メディエーション（二重の媒介）」と彼らが呼ぶ概念を提案している。彼らは、ソーシャルメディアと人工知能を別々の問題として見ることはもはやできないと主張している。代わりに、子供の経験は今や二重に形作られている。第一のレイヤーは、馴染みのあるもの、すなわちユーザーのエンゲージメントを維持することに基づいてコンテンツを分類・選択するプラットフォームのアルゴリズムである。第二のレイヤーは、新しいもの、すなわちその選択の上に位置し、独自の学習に基づいた新しいテキスト、画像、会話を生成する生成AIである。研究者たちは、これら二つのレイヤーは単に加算されるのではなく、相乗的に作用すると示唆している。人工知能システムは単に子供に反応するのではない。それは文化、言語、アイデンティティに関する独自の組み込みの前提を持って反応し、それがさらにプラットフォームのアルゴリズムへとフィードバックされ、子供が見るものや経験するものをさらに狭めていくのである。
この概念を検証するために、著者らはエジプトとアラブ地域全域に焦点を当てている。そこは、この二重のレイヤーの影響が顕著でありながら、大きく見過ごされている場所である。子供とテクノロジーに関する研究の多くは米国や欧州から発信されているが、著者らは、グローバルなアプリを動かしている人工知能システムは、主に英語のデータと西洋の文化的規範に基づいて訓練されていることを指摘している。インターネット利用率が人口の約82％に達し、ソーシャルメディアが何百万人もの若者にとってデフォルトの生活様式となっているエジプトにおいて、この不一致は特有の問題を生み出している。エジプトのティーンエイジャーがアプリを使用するとき、第一の媒介レイヤーは、彼らを世界的に人気があり、しばしば西洋的なコードを持つコンテンツへと押しやる。次に、第二のレイヤーである人工知能が、西洋の文化的参照、食べ物、社会規範をデフォルトとする応答や提案を生成し、現地のエジプト・アラビア語のダイアレクト（方言）や現地の宗教的慣習、家族構造のニュアンスを理解しない、あるいは尊重しないことが多い。
研究者たちは、これは単なる技術的な不具合ではなく、体系的なバイアスであると強調している。人工知能モデルに流暢で自然なアラビア語でのコンテンツ生成を求めると、ユーザーが現地の方言で話していても、しばしば西洋の主体や概念をデフォルトとして用いることが研究によって示されている。エジプトの子供にとって、これは、チャットボットのコンパニオンやキャプション生成器のような「自分自身を表現するのを助けるためのツール」が、自身のアイデンティティを、自分のものではない文化的レジスター（言語形式）へと微妙に誘導する可能性があることを意味する。これは特に重要である。なぜなら、エジプトにおける家族やコミュニティによる媒介は、集団的責任や宗教的枠組みに依存していることが多く、これらは多くのAIコンパニオンに組み込まれている個人主義的・セラピー的なモデルとは異なるからである。子供は、非審判的な聞き手（耳）を期待してAIにプライベートな会話を求めるかもしれないが、そこには自身の文化的文脈を誤解したり、家族ネットワークの重要性を認識できなかったりするシステムが待ち構えている可能性がある。
著者らはまた、現在の法律がどのように子供を守ろうとしているかを検証しており、それらの規制が問題の後半部分を見落としていることを指摘している。彼らは、16歳未満のソーシャルメディア利用を禁止したオーストラリアの最近の法律や、イギリスやフランスにおける同様の提案を検討している。これらの法律は年齢確認とアクセス制御に焦点を当てているが、研究者たちは、それらは第一の媒介レイヤーのみに対処していると主張している。たとえ法律が子供をプラットフォームから遠ざけることに成功したとしても、16歳になってアクセス権を得たティーンエイジャーが体験することになる人工知能システムの内容を変えることはできない。法律はログインを阻止することはできても、待ち構えているAIコンパニオンが文化的に応答可能であることや、生成されるコンテンツがその人のローカルなアイデンティティを尊重することを保証するものではない。著者らは、エジプト自身の新たな立法論議はより良い結果をもたらすチャンスを提供していると示唆しており、規制においては、単に英語や標準アラビア語に頼るのではなく、子供が人工知能と対話していることを開示することや、現地の言語における文化的バイアスについてシステムをテストすることをプラットフォームに義務付けるべきだと提案している。
最終的に、この論文は、ソーシャルメディアと人工知能を別々の分野として扱うことを止めるよう、研究者と政策立案者に呼びかけるものである。著者らは、グローバル・サウスの子供たちがこれら二重の媒介レイヤーをどのようにナビゲートしているかを直接見る新しい研究が必要であると示唆している。彼らは、人工知能の文化的バイアスがプラットフォームのデータ駆動型のロジックとどのように相互作用するかを理解しなければ、何百万人もの若者のデジタルな子供時代を完全に理解することはできないと主張している。目標は、人工知能が本質的に有害であると言うことではなく、現在の設計が、その言語や文化がテクノロジーの創造者の主要な焦点ではない子供たちに対して、特有の不均衡な体験を生み出していることを認識することである。これら二つの文献を統合することで、研究者たちは、子供たちが育っているデジタル世界のより鮮明な姿を描き出したいと考えている。そこでは、人工知能という不可視の手が、アイデンティティ、文化、そして繋がりを形作る強力な「第二の媒介レイヤー」として、私たちがようやく理解し始めた形で存在しているのである。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。