Counterfactual Explanations and the Scope of Contestability
本論文は、反事実的説明が、決定の撤回を要求する権利として異議申し立て可能性を定義し、そのような説明がいかにアルゴリズムの誤りの検出に役立つかを分析し、さらにその有効性を高めるためのマルチショット・クエリ手法を提案することによって、自動化された意思決定におけるエージェンシー（主体性）を回復できると論じるものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
現代社会において、コンピュータは私たちの生活を左右する重大な決定をますます多く下すようになっています。ローンを組めるかどうか、採用されるかどうか、そして誰が医療を受けることができるかといった決定です。これらのシステムはしばしば「ブラックボックス」として機能します。つまり、その内部ロジックがあまりに複雑であるため、それを作った人々でさえ、特定の選択がどのようになされたのかを容易に説明できないということです。この不透明さは、人間の主体性に問題を生じさせます。なぜその決定が下されたのかを理解できなければ、それが間違っていると信じたとしても、効果的に異議を唱えることができないからです。これを解決するために、多くの専門家が「説明を受ける権利」を提案しています。これは、アルゴリズムによって拒絶されたとき、その理由を提示すべきであるという考え方です。これらの説明を提供する一般的な手法の一つが「反事実的（カウンターファクチュアル）説明」です。これは、「もし年収が5,000ドル高ければ、ローンは承認されていたでしょう」というように、どのような小さな変化があれば異なる結果をもたらしたかを伝える、単純で仮定的な記述です。これは一見すると役立つように思えますが、哲学者であり計算機科学者でもあるアリス・C・W・ファンとトーマス・グローテによる新しい論文は、ある批判的な問いを投げかけています。果たして、このような種類の説明は、不公平な自動決定に対して人々が立ち向かう力を本当に与えてくれるのでしょうか。
著者らはまず、決定に対して異議を唱えるとは正確にはどういう意味かを整理することから始めます。彼らは、説明が果たす可能性のある3つの異なる目的を区別しています。第一は「正当化（justification）」であり、これはコンピュータシステム全体が信頼でき、すべての人にとって公平であることを証明することに関するものです。第二は「リカコース（recourse：回復手段）」であり、これは未来志向のものです。これは、履歴書を改善するためにさらなる実務経験を積むといった、より良い結果を得るために将来どのようなステップを踏めるかを人々に教えるものです。第三は、本論文の焦点である「コンテスタビリティ（contestability：異議申し立て可能性）」です。これは過去志向です。これは、すでに起こった決定を振り返り、間違いを見つけ出し、その決定の撤回を求める能力のことです。研究者たちは、コンテスタビリティを狭義に定義しています。それは、特定の決定がエラーであった可能性が高いことを証明するために十分な情報を提供し、レビューを要求するための確かな根拠を人々に与えることを指します。
著者らが、反事実的説明がこのような種類のコンテスタビリティを可能にするのに適しているかどうかをテストしたところ、結果は驚くほど悲観的なものでした。彼らは、自動決定が誤るいくつかの一般的なケースを検証しました。差別のケースでは、反事実的説明は「もし人種や性別が異なっていれば採用されていたであろう」ということを示すかもしれません。これは強力な証拠のように見えますが、研究者たちは「羅生門問題（Rashomon problem）」と呼ばれる大きな障壁を発見しました。これは、決定の理由は単一ではないことが多いという考えです。コンピュータは、低所得のためにローンを否決したと述べるかもしれませんが、同時に、もし申請者の職歴が異なっていれば承認されていた可能性もあるのです。入力を変えて異なる結果を得る方法は多数存在するため、コンピュータシステムは、機関にとって最もダメージが少ない説明を単に選ぶことができてしまいます。つまり、差別を証明する説明を無視してしまう可能性があるのです。すべての可能な理由を示すことを強制する方法がなければ、人は自分が不当に扱われたことを証明する特定の反事実的説明にたどり着けないかもしれません。
エラーの内容が公平性に関するものではなく、コンピュータが特定の個人の状況を誤解している場合、問題はさらに深刻になります。例えば、ある健康予測モデルが、「（ヴィーガンは鉄分が不足していると想定しているため）その人がヴィーガンであるために疲労のリスクがある」と予測している場面を想像してください。もしその人が、実際には鉄分過剰を引き起こす珍しい血液疾患を持っている場合、そのモデルのロジックはその人にとっては間違っていますが、大多数の人にとっては正しいものです。この場合、反事実的説明は単に「もしヴィーガンでなければ、リスクはないでしょう」と言うだけかもしれません。これでは、その人が例外であることを証明する助けにはなりません。ただモデルの誤った前提を繰り返しているだけなのです。これに異議を唱えるには、その人が自身の生物学的な特性について、なぜモデルの一般的なルールが適用されないのかを説明するための深い医学的知識を必要とします。同様に、銀行が個人の負債額を誤記しているといった単純な事務的ミスによって決定が間違っている場合、反実はしばしば役に立ちません。システムは「もし負債が少なければ、承認されたでしょう」と言うかもしれません。これは事実ではありますが、当たり前のことです。それは、銀行の記録が単に間違っているという、修正すべき実際の理由を教えてはくれないのです。
研究者らは、反事実的説明は人々が将来を計画するのを助けるには優れているものの、過去のエラーに対して戦うための力としてはあまりに弱いと結論付けています。間違いを証明するために必要な情報は、しばしばあまりに複雑で、個人に特化しすぎていたり、あるいはシステムがどの説明を表示するかを選択できる能力によって容易に隠されてしまったりするものです。これを解決するために、著者らは説明の概念を放棄することを提案しているのではなく、むしろその提供方法を変えることを提案しています。彼らは「マルチショット（多段階試行）」アプローチを提案しています。単一の、パッケージ化された回答を提示する代わりに、ユーザーがコンピュータに対して複数の質問を投げかけられるようにするのです。人は、「もし経験がもっと豊富だったら？」「もし別の地域に住んでいたら？」といった異なる仮説をテストすることができます。これにより、ユーザーは情報の受動的な受け手から、能動的な調査者へと変わります。
しかし、著者らはこれだけでは不十分であるとも警告しています。ほとんどの人は、特に専門知識が欠けている場合、どのような質問をすべきか、あるいは答えをどう解釈すべきかを知りません。これを解決するために、彼らは人々が「ケースワーカー」、つまりシステムの法的および技術的な詳細を理解している専門家によってサポートされるべきだと提案しています。これらのヘルパーは、どのような質問をすべきか、そしてその答えをどのように使って主張を組み立てるべきかを、個人に対して導くことができます。論文は、このような人間によるサポートと、複数の質問を投げかける能力がなければ、アルゴリズムによる決定に対して異議を唱えるという約束は空虚なものにとどまるだろうと主張しています。これらの説明を生成する技術は存在しますが、現在の活用方法は、自動決定によって影響を受ける人々に真の主体性を回復させるには不十分なのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。