Frankenstein in the Pipeline: Computational Epistemicide in Facial Recognition

「フランケンシュタイン・イン・ザ・パイプライン」の解説：複雑な議論を解き明かすための、シンプルな言葉と独創的な比喩を用いた解説。

大きな理念：それはバグではなく、レシピである

多くの人々は、顔認識技術が危険なのは「間違い（例えば、黒人を別人と誤認するなど）を犯すからだ」と考えています。しかし、著者であるニーナ・ダ・ホーラは、問題はもっと深いところにあると主張しています。彼女によれば、この技術はたとえ完璧に機能したとしても危険なのです。

核心となる議論は、顔認識はあなたの顔を単に「読み取る」のではなく、あなたを解体するという点にあります。システムは、生きている、呼吸している人間をバラバラに切り刻み、それらの断片を縫い合わせて数学的なコードへと作り替え、そしてそのコードを「本当のあなた」として扱うのです。論文ではこれを**「計算論的エピステミサイド（計算論的知識殺戮）」**と呼んでいます。これは、システムがあなたの真のアイデンティティを破壊し、簡略化され、統治しやすいバージョンへと置き換えてしまうことを意味する、高度な表現です。

フランケンシュタインの比喩：メタファーではなく、手法

通常、人々はメアリー・シェリーの『フランケンシュタイン』を、「もし人間が神の真似事をすれば、取り返しのつかない事態を招くかもしれない」という警告として用います。

しかし、この論文における『フランケンシュタイン』の使い方は異なります。著者は、怪物は「事故」ではなく、その手法によって意図された結果であると述べています。

• 創造主： コンピュータ・システムと、それを構築した機関。
• 解体： システムはあなたの顔をバラバラにします（あなたの背景、気分、歴史を取り除く）。
• 縫合： それらの断片を、固定された硬直した形（ベクトル）へと縫い合わせます。
• 怪物： その結果として生まれた数学的コード。

悲劇は、怪物が逃げ出したことではありません。悲劇は、その創造の手法自体が、作り出した存在をケアすることができないという点にあります。もしコードが現実の人物と異なることを示した場合、システムにはその「本当の人間」の声を聞く術がないのです。

パイプラインの仕組み：「フェイス・ジュース」工場

新鮮で複雑なフルーツを、単一の標準化された「フルーツジュース」のパックへと変える工場を想像してみてください。

1. 生のフルーツ（本当のあなた）： あなたは複雑な存在です。顔を持っていますが、同時に体も持ち、群衆の中に立ち、微笑んだり眉をひそめたりしており、照明も変化しています。あなたは、生きて、関係性の中に存在する表面です。
2. 切断と皮むき（検出とランドマーク設置）： 機械はあなたの顔を掴み、写真から切り出します。あなたの体、服、周囲の人々を無視します。そして、顔にある5つの特定の点（目の端など）を見つけ出し、その点こそが重要な唯一の要素であるとして扱います。
3. 型への押し込み（アライメント）： 機械はあなたの顔を、完璧に正面を向いたポーズへと強制的に適合させます。もしあなたが上や下、あるいは横を向いていても、機械はデジタル的に顔を歪ませて、正面を向いているように見せかけます。これにより、あなたのユニークな角度は消し去られます。
4. パックへの混合（エンベディング）： これが最も重要なステップです。機械は、今や「完璧で正面を向いた」あなたの顔を取り、512個の数字のリスト（ベクトル）へと圧縮します。ここで情報の99.9%が捨てられます。肌の質感、微細な表情、そして魂は消え去ります。後に残るのは、他のパックと比較するために設計された「パック」だけです。
5. 味のテスト（比較）： システムは、あなたの「パック」をデータベース内の他のパックと比較します。そして、「これら二つのパックは十分に似ているか？」と問いかけます。もし数字が似ていれば、「はい、これはあなたです」と判定します。

暴力性： このプロセスにおいて、「パック（数字）」が、公認されたバージョンのあなたとなります。もしパックが「あなたは犯罪者である」と示し、現実のあなたが「私は無実だ」と訴えたとしても、システムは気にしません。システムが耳を傾けるのは、パックの声だけなのです。

「十分近い」という罠

論文は、システムが**「十分近い（Close Enough）」**というルールに基づいて作動していると論じています。

クラブのドアマンを想像してください。彼は「善良な顔」のリストを持っています。もしあなたの顔がリストにある顔と「だいたい」似ていれば、彼はあなたを通します。もし「悪い顔」に「だいたい」似ていれば、彼はあなたを追い出します。

• 問題は、「だいたい」という判断が推測に基づいていることです。
• システムが「十分近い」とはどういう状態かを決定します。
• もしあなたが黒人であり、システムが主に白人の顔に基づいて構築されていた場合、あなたの顔は「善良なリスト」に決して「十分近く」ならなかったり、逆に間違って「悪いリスト」に「十分近く」なってしまったりする可能性があります。

しかし、たとえドアマンが完璧であったとしても、システムは依然として暴力的です。なぜなら、システムは「パック」としてのバージョンのあなただけが重要であると決定したからです。システムは、あなたの生身の顔など無関係であると決めてしまったのです。

なぜ「修正」では通用しないのか

多くの人々は、「より多様な写真を使ってシステムを学習させるべきだ」とか「エラー率を下げるべきだ」といった「倫理的AI」の解決策を提案します。

著者は、これはフランケンシュタインの怪物に「より良い服を着せて直そうとする」ようなものだと述べています。

• 問題点： 問題は「服（データ）」ではなく、「手術（手法）」そのものにあります。
• 現実： システムが、あなたをバラバラにし、平坦にし、数字に変えることを要求し続ける限り、そのシステムは常に暴力的であり続けます。あなたをまず解体することを前提としたシステムに、「公平さ」は存在し得ないのです。

解決策：拒絶と廃止

論文は、顔認識を「より良く」しようとするのではなく、その使用を拒絶すべきであると結論づけています。

• 拒絶（Refusal）： これは、「私を数字に変えることは許さない」と言うことです。それは、機械によって完全に読み取られるのではなく、不透明（神秘的）である権利を求めることです。
• 廃止（Aborition）： これは、システムそのものをなくすことです。コンピュータを使って「あなたが誰であるか」を確認する代わりに、人間同士の関係性やコミュニティの信頼、あるいは、存在を証明するためにアイデンティティを破壊する必要のない方法を用いるべきなのです。

まとめ

この論文は、顔認識が現代のフランケンシュタイン実験であると論じています。それは人間を取り込み、データを切り出し、それらを数学的なコードとして縫い合わせます。そして、そのコードをその人物に関する「真実」として扱います。このプロセスは、自分自身を定義する人間の能力を破壊します。この暴力を止める唯一の方法は、機械をより賢くすることではなく、自分たちが何者であるかを定義するために機械を使うことを止めることなのです。