Lost in Translation: How Universal Ethical Values Fail to Translate Across Global Contexts

ある一つのルールセットが、ヨーロッパの賑やかな都市からアフリカの辺境の村に至るまで、あらゆる場所で機能するように書かれた、知的な機械の振る舞いを導くためのルールブックが存在する世界を想像してみてください。これは、人工知能の倫理における現在の野心です。長年、主要な組織やテクノロジー企業は、公平性、透明性、プライバシー、説明責任という、これらのシステムを統治すべきだと彼らが信じる中核的な価値観のリストに合意してきました。その考え方は、これらの概念を十分に明確に定義すれば、テクノロジーがどこで使用されるかにかかわらず、同じように機能するというものです。しかし、このアプローチは、ある文化の人々が「公平性」や「プライバシー」を、他の文化の人々と全く同じように理解していると仮定しています。それは、人間の価値観を、重力のような普遍的な定数としてではなく、特定の歴史、人間関係、そして日常生活から生まれるアイデアとして扱っています。

この仮定こそが、ある研究チームが検証しようとした中心的な問いでした。彼らは、これらのグローバルなルールがローカルな現実に直面したときに何が起こるのかを知りたかったのです。これらのシステムを実際に構築し、使用し、共に生活している人々は、標準的な定義に同意しているのでしょうか。それとも、彼らは全く異なるレンズを通してテクノロジーを見ているのでしょうか。研究者たちは、テクノロジーが技術的に機能するかどうかを問うたのではなく、それを導く道徳的なコンパスが、すべての人に対して同じ方向を指しているかどうかを問うたのです。彼らは、グローバルなルールブックとローカルな生活との間の溝は、誰もが気づいているよりも広い可能性があり、多くのコミュニティを置き去りにしたり、彼らのニーズに適合しない価値観を受け入れることを強いたりする可能性があると考えていました。

答えを見つけるために、研究者たちはアフリカ、アジア、ラテンアメリカ、ヨーロッパ、北米、カリブ海、オセアニアの10カ国を旅しました。彼らは機械のコード自体を研究したのではなく、これらの多様な地域で生活し働く14人の専門家と対話を重ねました。彼らは単なるコンピュータ科学者ではなく、テクノロジーと、自国の深い文化的潮流の両方を理解しているコミュニティのリーダー、ジャーナリスト、政策提言者たちでした。7ヶ月にわたり、チームは詳細な対話を行い、これらの専門家に、彼らの近隣地域において人工知能がどのように見えているか、そしてグローバルな政策文書で使用されている大きな倫理的言葉をどのように解釈しているかを説明してもらいました。

これらの対話から浮かび上がったのは、テクノロジーの経験が極めて不均衡である世界の明確な姿でした。専門家たちは、人工知能へのアクセスが、信頼できる電力の欠如、不安定なインターネット接続、あるいは手頃な価格のデバイスの不在といった、単純な物理的現実によって阻まれている状況を描き出しました。多くの場所において、テクノロジーは中立的なツールとしてではなく、コミュニティと共に築かれるのではなく、コミュニティから引き抜かれているかのように感じられるものとして到来しています。研究者たちは、これらの地域のの人々が、自分のデータが完全な理解や同意なしに取得され、自分たちの言語やアクセント、文化的なニュ一細部を認識できないシステムを訓練するために使用されていると感じていることが分かりました。これは、地元のコミュニティが機械の燃料を提供している一方で、その恩恵をほとんど受けることができず、その一方で、機械がどのように機能するかについての決定は、彼らの日々の苦労を共有しない遠く離れた場所で行われているという、一種の「搾取」の感覚を生み出しています。

しかし、最も衝撃的な発見は、これらのシステムを統治するために使われる言葉そのものが、いかに再定義されていたかということでした。研究者が「プライバシー」について尋ねたとき、標準的なグローバルな定義は、個人のデータを秘密に保つ権利に焦点を当てています。しかし、この研究で示された多くの文化においては、プライバシーは個人の盾ではなく、集団的な実践です。これらの専門家にとって、プライバシーとは家族やコミュニティに関するものです。どの情報を共有するかを決定することは、単一の個人の権利ではなく、グループ全体の幸福や評判を考慮に入れた、グループとしての対話なのです。データを純粋に個人の所有物として扱うシステムは、これらのコミュニティが実際にどのように機能しているかという本質を見失っています。

同様に、「透明性」という概念も異なる意味を持つようになりました。グローバルなテックの世界では、透明性とはしばしば、エンジニアが数学的な仕組みを確認できるようにコードを開示することを意味します。しかし、この研究の専門家たちにとって、透明性は信頼と説明責任に関するものでした。彼らはコードを見る必要はなく、人間に「なぜそのような決定を下したのですか？」と問い、自分たちの言語と文脈において納得のいく答えを得られることを必要としていました。もし農村部の農家が、なぜ機械が雨や干ばつを予測したのかを理解できないのであれば、どれほど複雑な技術文書が存在しようとも、そのシステムは透明であるとは言えません。信頼は、複雑なアルゴリズムへのアクセスを通じてではなく、関係性と明確なコミュニケーションを通じて築かれるのです。

「公平性」という考え方も変化しました。標準的な見方は、すべてのグループが全く同じ結果を得られるようにする数学的な平等を探求することが多いものです。しかし、専門家たちは、真の公平性とは公平性とアクセスの問題であると主張しました。もしシステムが技術的には公平であっても、高速インターネット接続やスマートフォンを必要とするならば、それはそれらのリソースを持たない人々にとって公平ではありません。彼らの見方によれば、公平性とは、システムがすべての人にとってアクセス可能であること、そして設計者が影響を受ける人々の声に耳を傾けていることを保証することです。それは単なる数字の計算ではなく、構造的な正義の問題なのです。

研究者たちは、これらの違いは単なる些細な誤解ではなく、彼らが「翻訳の溝（translation gaps）」と呼ぶものであることを見出しました。これは、普遍的なルールが特定の場所で正しく着地できない空白地帯です。グローバルな枠組みが「公平であれ」と言うとき、それはニューヨークの会議室での意味と、ケニアの村での意味とでは、全く異なるものになり得ます。これらの溝が無視されると、その結果として、人々にとって異質なもの、信頼できないもの、あるいは有害ですらあるシステムが生み出されることになります。専門家たちは、自分たちのための決定が、自分たちの価値観を理解しない遠く離れた権威によって下されているのを眺めながら、自分たちのテクノロジーの未来において「部外者」であると感じていると述べました。

これらの調査結果を受けて、専門家たちは新たな進むべき道を提示しました。彼らは、世界中に一つのルールセットを強制しようとするのではなく、多様な声を許容するガバナンスのシステムが必要であると示唆しました。彼らは、ローカルなコミュニティが、自らの地域におけるテクノロジーの設計と使用方法を形作る権限を持つべきだと提案しました。これは、少数の強力な機関がルールを決定するモデルから、知識と意思決定が共有されるモデルへと移行することを意味します。それは、ローカルな文化が、データの扱い方、信頼の築き方、そして正義を確保する方法について、独自の深い知恵を持っていることを認識することを含んでいます。

研究は、倫理的な人工知能への道は、あらゆる場所で機能する単一の完璧な定義を見つけることではないと結論付けています。むしろ、それらの価値観が一つの文脈から別の文脈へと移動する際に、交渉され、適応されるプロセスを作り上げることです。それは、テクノロジーと共に実際に生きている人々の声に耳を傾け、彼らがそれぞれの生活の中で公平性、プライバシー、そして信頼をどのように定義するかを認めることです。倫理的価値を、課されるべき固定された標準としてではなく、各コミュニティのために翻訳され、再構築されるべきものとして扱うことで、私たちはよりスマートであるだけでなく、より公正で、より人間的なシステムを構築できるのです。研究者たちは、人工知能が一部の人々のためだけでなく、全人類に資するものとなるためには、この転換が不可欠であると示唆しています。