Same System, Opposite Verdicts: Metric Discretion in AI Ethics Audits and the Limits of Disclosure
本論文は、AI倫理における公平性の指標が標準化されていないことが、恣意的かつ矛盾した監査結果を許容していることを示し、単一の「正しい」指標を強制するのではなく、財務分野における代替業績評価指標と同様の開示要件を実装することが、この裁量の幅を大幅に縮小し透明性を向上させることができると論じている。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたは法廷に立つ裁判官になったと想像してください。ただし、有罪か無罪かを判断するのではなく、あるコンピュータプログラムが「公平」であるかどうかを判断するのです。人工知能（AI）の世界において、「公平性」とは、身長や体重のような単一で単純な数字ではありません。それはまるで「レシピ」のようなものです。どの材料を選び、それぞれの量をどれくらい加えるかによって、甘いケーキを作ることも、酸っぱいケーキを作ることも、あるいは完璧なバランスのケーキを作ることもできます。同じように、AIが公平かどうかを測定するには、どの「数学的なレシピ」を使うかを選択しなければなりません。どのグループを比較対象とする「グループ」と見なすか、どのスコアを「合格」とするか、そしてどの特定の計算式を実行するかを決めなければならないのです。
長い間、専門家たちはどのレシピが「正しい」のかについて議論してきました。ある人は「どれくらいの人が採用されたかを見るべきだ」と言い、またある人は「いや、どれくらいの人が不採用になったかを見るべきだ」と言いました。この論文は、その混沌としたキッチンに足を踏み入れ、異なるシェフたちが全く同じ材料を使って異なるレシピを作ったときに何が起こるのかを検証します。大きな問いは、「どのレシピを選ぶかは重要なのか？」ということです。答えは、非常に明確に「イエス」でした。レシピを変えるだけで、たとえコンピュータ側が何一つ変えていなくても、判定が「このAIは公平である」から「このAIは偏っている」へと逆転してしまう可能性があるのです。これは、政府や企業が、ローン、仕事、あるいは裁判における自由さえも決定する際に、これらの公平性スコアを求めている現状において極めて重要なことです。もしスコアが、選んだレシピに完全に依存しており、かつ誰もどのレシピが使われたかを教えてくれないのであれば、そのスコアは無意味になってしまいます。
AI公平性の大逆転劇（The Great AI Fairness Switcheroo）
この論文は、著者であるシェイ・ツバン（Shay Tsaban）が、極めて厳格な監査官として振る舞う大規模な実験のようなものです。著者は、フロリダ州の刑務所で再犯の可能性を予測するために使用されている実世界のツール1つと、所得、信用、雇用に関するバイアスをチェックするために科学者が使用している有名なテスト用データセット3つ、計4つの異なるAIシステムを取り上げました。そして、単に一度のテストを行ったのではありません。彼らは91,572通りもの異なるバージョンのテストを実行したのです。
このように考えてみてください。あなたには、AIシステムを表す巨大なレゴの箱があるとします。著者は、あらゆる組み合わせの「公平性のルール」を組み立てて、どのような塔が築かれるかを確認できるマシンを作り上げました。彼らは、公平性を測定するためのあらゆる正当な方法を試しました。計算式を変え、合格とするためのカットオフ・スコアを変え、比較するグループの定義を変え、さらには使用するデータの特定の年さえも変えました。
衝撃的な結果：判定の逆転
この論文が発見した最も驚くべきことは、すべてのシステムにおいて、結果が何度も反転したことです。彼らが調査したすべての具体的なケース（例えば「黒人対白人の被告」や「男性対女性」など）において、あるルールセットの下ではAIは「公平」と宣言され、別のルールセットの下では「不公平」と宣言されました。
事態はさらに深刻です。あるレシピの下では「不遇なグループ（不当な扱いを受けている側）」とラベル付けされていたグループが、別のレシピでは入れ替わることがあったのです。あるレシピではAIはグループAを傷つけていましたが、別の、同様に妥当なレシピの下では、AIはグループBを傷つけていました。論文によれば、報告される数値は、通常の「サンプリング誤差」（ランダムな偶然によって生じるはずのわずかな誤差）よりも6倍から30倍も大きく変動することが分かりました。実際、最終的なスコアの差の**45%**は、どの数学的公式を使うかという選択によって引き起こされており、ランダムな偶然が影響を与えたのはごくわずかな部分に過ぎませんでした。
「フェアウォッシング（公平性の粉飾）」の問題
この論文は、企業や政府が現在実際に何を行っているのかについても調査しました。彼らは、組織が自らのAIを監査したと主張している6,797件の公開文書を読み解きました。その結果はどうだったでしょうか？ ほとんどの組織が、情報の開示において公平に振る舞っていませんでした。
- これら約7,000件の文書のうち、具体的な数値を提示していたのはわずか38件でした。
- その38件のうち、なぜその特定の数学的レシピを選んだのかを説明していたものはゼロでした。
- 検討した上で却下した他のレシピについて言及していたものもゼロでした。
- 現在のスコアを、状況が改善しているか悪化しているかを確認するために前年のスコアと比較していたものもゼロでした。
これは、シェフが「このケーキは美味しい」と言いながら、砂糖を使ったのか塩を使ったのか、あるいは10分焼いたのか1時間焼いたのかを教えることを拒んでいるようなものです。ケーキが本当に美味しいのか、それとも単にレシピのおかげで運良く美味しくなっただけなのか、判断することができません。
解決策：「レシピカード」のルール
では、どうすればこれを修正できるのでしょうか？ 論文は、金融の世界からテクニックを借りることを提案しています。会計の世界では、企業は「調整後利益（独自の定義による利益）」を報告することが認められていますが、同時に、標準的な利益からどのようにしてその数字を導き出したのかを説明する「調整表（reconciliation table）」を示す義務があります。
著者は、AI監査人が同じことを行わなければならないとした場合、どうなるかをシミュレーションしました。もし監査人が以下の4つのことを記述しなければならないとしたら、結果はどうなるでしょうか。
- どの数学的系統（レシピ）を選んだか。
- どのような具体的なルール（材料）を使用したか。
- 誰を比較したか（食事客）。
- ルールを一貫して維持しているか（一貫性）。
……この単純な開示を行うだけで、「ゆらぎ（wiggle room）」の**78%を解消できることが分かりました。これにより、単一の「正しい」レシピに合意する必要はなくとも、結果をより一貫したものにし、より誠実なものにすることができます。さらに、スコアが時間の経過とともにどのように変化したかも報告すれば、ゆらぎの82%**を解消できるのです。
結論
この論文は、この混乱を解決するために、唯一の「完璧な」公平性の定義を見つけ出すという不可能な数学的問題を解く必要はないと結論づけています。私たちは、選択を隠すのをやめるだけでよいのです。もし、使う定規を変えるだけでAIシステムが「公平」とも「不公平」とも判断されてしまうのであれば、その定規自体がレポートの一部に含まれていなければなりません。
現在、透明性を確保してもなお残ってしまう「残留問題（residual problem）」――人々が自らの選択を強制的に開示させたとしても残る、わずかなゆらぎ――は、スケール上で0.16です。これが透明性が解決できる限界です。しかし、この論文は、混乱の大部分は、人々がどのようなルールに従ってプレーしたのかを明かしていないことにあることを示しています。彼らにプロセスを開示させることで、「同じシステムで、正反対の判定を下す」というゲームを終わらせ、真の答えを得ることができるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。