Algorithmic neutrality

以下は、マイロ・フィリップス＝ブラウンの論文「アルゴリズムの中立性（Algorithmic Neutrality）」を、平易な言葉と日常的な例えを用いて解説したものです。

大きな全体像：「完璧に中立な」ロボットという神話

あなたはロボットのシェフを雇っていると想像してください。あなたはロボットに、「私の目標は、できる限り美味しい料理を作ることです」と伝えます。このロボットは中立であるべきです。つまり、味のことだけを気にし、それ以外のことは一切気にしないということです。

この論文は、このロボットシェフは実際には存在し得ないと主張しています。ロボットがいかに懸命に努力したとしても、必ず「味」を超えた選択を迫られるからです。そして著者は、ロボットが完璧に中立であるふりをするのは、私たちが本当に問うべき問いを隠すためのトリックであると言っています。

以下は、この論文が答えている3つの主要な問いの解説です。

---

1. 「アルゴリズムの中立性」とは何か？

定義：
中立性とは、アルゴリズム（コンピュータプログラム）が自身の主要な任務のみに注力し、それ以外のことは無視することを意味します。

例え：ツアーガイド
観光客に最も美しい地元の名所を紹介するのが仕事のツアーガイドを想像してください。

• 中立なガイド： その場所が美しいからという理由で、最高の景色を見せる。
• 中立ではないガイド： 店のオーナーから「キックバック（紹介料）」をもらっているからという理由で、特定のショップへ観光客を連れて行く。

この論文において、著者は検索エンジン（Googleなど）が中立であると言えるのは、検索に対して「いかに関連性があるか」という点のみに基づいて結果を表示する場合に限られるとしています。もし、会社が利益を得るため、あるいは政治的なスキャンダルを避けるために結果を表示しているなら、それは中立ではありません。

2. アルゴリズムの中立性は可能なのか？

答え：いいえ。不可能です。

例え：「最高の」バスケットボール選手
ジャックとナシドという2人のバスケットボール選手がいるとします。

• ジャックは世界最高のドリブル技術を持っています。
• ナシドは世界最高のシュート技術を持っています。

どちらが「より優れた」選手でしょうか？ 正解は一つではありません。決めるためには、ドリブルとシュートのどちらを重視するかを天秤にかける必要があります。しかし、どのくらい重視すべきでしょうか？

• もしドリブルを90%重要だと考えるなら、ジャックが勝ちます。
• もしシュートを90%重要だと考えるなら、ナシドが勝ちます。

スキルの重み付けについて「これが魔法の数字だ」と言える基準はありません。あなたは重み付けの方法を選ばなければなりませんが、その選択は数学的な事実ではなく、「価値判断」なのです。

これを検索エンジンに当てはめると：
検索エンジンに「ハリケーン」と入力したとき、「関連性がある」とはどういう意味でしょうか？

• 科学的な定義ですか？
• 最新の嵐に関するニュースですか？
• 有名なハリケーンの歴史ですか？
• あるいは、安全のためのヒントですか？

これらはすべて異なる意味で「関連性」があります。コンピュータは単に「関連性」を理解できるわけではなく、どの種類の関連性が最も重要かを決定しなければなりません。選択をしなければならない以上、それは中立ではありません。コンピュータは「重み付け」のシステムを選ばざるを得ないのです。

「ランダム」というトリックは通用しない：
「では、コンピュータに重み付けをランダムに選ばせればいいのではないか？」と思うかもしれません。
著者は、それも上手くいかないと言っています。例えば、新聞記者がインタビューする候補者をランダムに選ぶ場面を想像してください。もし、民主党支持者2人と共和党支持者4人がいるリストからランダムに選んだ場合、政党間の公平性は保たれません（共和党が2倍多く選ばれることになる）。もし政党間でランダムに選んだとしても、個人の間での中立性は保てません。あらゆる側面において同時に中立であることは不可能なのです。

3. なぜこれが重要なのか？（規範的な意義）

重大な事実：中立性は「レッド・ヘリング（注意をそらすための偽の論点）」である。

著者は、「中立であること」自体が悪なのではなく、「中立ではないこと」自体が良いわけでもない、と主張しています。真の問いは「それは中立か？」ではなく、**「どのような価値観が使われているのか、そしてそれは正しい価値観なのか？」**なのです。

例え：信号機
「到着した順に」車を通すことを目的とした信号機を想像してください。

• シナリオA： 都市を守るために、爆弾を積んだ車に対して赤信号を出した。これは「先着順」というルールには従っていない（非中立である）が、良いことです。
• シナリオB： 信号機の会社のオーナーが大型トラックのオーナーと友人であるという理由で、小型車に対して赤信号を出した。これは「非中立」であり、悪／不公平なことです。

まとめ：

• 悪い中立性： もし検索エンジンが、あらゆるものを見せるという「中立」を守るために、子供の安全に関する結果を隠しているとしたら、それは悪いことです。
• 良い非中立性： もし検索エンジンが、子供を守るためにそれらの結果を隠しているとしたら、それは中立ではありませんが、良いことです。

論文は、ビッグテック企業（GoogleやMetaなど）が自分たちを弁護するために「私たちは中立です！」と言うことを好むと指摘しています。彼らは「中立性」を盾にして、「私たちは間違ったことはしていません。ただ数学に従っただけです」と言い逃れをしようとします。

著者は、その盾は欠陥品であると言います。なぜなら：

1. 不可能だから： 彼らは選択をしなければならないため、中立であることはできないからです。
2. 注意をそらすものだから： たとえ中立になれたとしても、それが「うまく機能しているか」の証明にはなりません。私たちは、「あなたは選択を行うために、正しい価値観を使っていますか？」と問う必要があるのです。

要約

• それは何か？ 中立性とは、アルゴリズムが自身の主要な目的（関連性など）のみに注力し、外部の要因（金や政治など）を無視することを指します。
• それは可能なのか？ いいえ。関連性は複雑であるため、コンピュータは様々な要素の重み付けについて決断を下さなければなりません。それらの選択は決して純粋に中立ではありません。
• なぜ重要なのか？ 実は、中立性に固執する必要はありません。重要なのは、アルゴリズムがどのような価値観を用いているかを議論することです。それは子供を守るための価値観ですか？ それとも、裕福な企業がより多くの利益を得るための価値観ですか？ それこそが、真の議論なのです。