Enhancing Interpretability in Credit Risk Modeling: A Synergistic Approach Integrating SHAP and Counterfactual Explanations

銀行が融資の是非を判断する際、その都度、個人の財務履歴とデフォルト（債務不履行）のリスクを天秤にかけるためのモデルに頼っています。数十年の間、これらのモデルは人間がその論理を追跡できるほど単純なものでした。例えば、支払いを逃せばスコアが下がる、といった具合です。しかし、銀行が膨大なデータの中から微妙なパターンを見つけ出すために、より強力なコンピュータシステムを使用し始めると、その論理は「ブラックボックス」の中に隠されてしまいました。これらの高度なシステムは、高い精度でリスクを予測できましたが、「なぜ」特定の決定を下したのかを説明することはできませんでした。これは深刻な問題を引き起こしました。多くの場所の法律では、貸し手が申請者に対して決定理由を説明することを義務付けていますが、明確な理由がなければ、信用の拒絶は恣意的で不公平に感じられます。科学者たちの課題は、これらの複雑なシステムの高い精度を維持しながら、ブラックボックスを開いてその内部の推論を明らかにする方法を見つけることでした。

このパズルを解くために、2つの新しいツールが登場しました。1つ目の手法は、まるで「虫眼鏡」のように機能し、当座預金の残高やローンの期間といった、どの情報が特定の結論へとモデルを押し上げたのかを正確に示します。2つ目のツールは、より「もしも」をシミュレーションするものです。それは、ある人の財務プロファイルに最小限の変化を加えることで、拒絶を承認へと覆すことができる方法をコンピュータに想像させます。それぞれのツールは単独でも有用ですが、アリゾナ州立大学の研究者たちは、これらを組み合わせることでより鮮明な全体像を描けるのではないかと考えました。彼らは、これら2つの手法を併用することで、なぜその決定がなされたのかを説明できるだけでなく、拒絶された人に対して実用的で公平な道筋を提供できるかどうかを検証することに乗り出しました。

このアイデアをテストするため、研究者たちはドイツの1,000件の実在する信用申請を含む有名なデータセットを使用しました。彼らは、どのように振る舞うかを見るために、2種類の異なる予測モデルを構築しました。一方のモデルは、単純で直線的なアプローチを用い、もう一方は、パターンの発見のために多くの決定木を構築する、より複雑なシステムを用いました。次に、彼らは両方のモデルに対して、結合された説明手法を適用しました。その結果、複雑なモデルは、全体的な精度においては単純なモデルと比べて実際にはそれほど優れたパフォーマンスを示しませんでしたが、両者は異なる種類のミスを犯していました。単純なモデルは、デフォルトする可能性が高い人々を見つけることに長けていましたが、複雑なモデルは、誤検知（偽陽性）を避けることに長けていました。さらに重要なことに、結合された説明手法は驚くほどうまく機能しました。「虫眼鏡」のツールを使って最も重要な要因を特定することで、研究者は「もしも」のシミュレーターを導き、より迅速に最適な解決策を見つけることができました。

この研究により、この結合されたアプローチが説明の効率を大幅に向上させることが分かりました。研究者が、拒絶を承認に変えるために必要な最小限の変化をコンピュータに求めると、従来の手法では、申請者は同時に約3つの事柄を変更することを想像する必要がありました。しかし、この新しい誘導型のメソッドを用いると、申請者は約2つの事柄を変更することを想像するだけで済みました。この複雑さの軽減は、アドバイスを人間にとって理解しやすく、実行しやすいものにします。このシステムは、100%の割合で有効な提案を生成することに成功し、モデルのルールを破ることなく、異なる結果への道筋を確実に特定できることを証明しました。

プロセスをより明確にするだけでなく、研究者たちはこのフレームワークを使用して「不公平さ」についても調査しました。彼らは、申請者の財務状況が似通っている場合でも、モデルが異なるグループの人々を異なる形で扱っていることを発見しました。例えば、独身男性は、既婚または寡婦の男性と比較して、より頻繁に高リスクとしてフラグを立てられていました。財務状況が同等であっても、モデルは独身男性に対してより厳格であり、承認を得るためにはより大きな財務上の改善を要求していました。分析の結果、このバイアスがどこで発生しているのかを特定することができました。当座預金口座の有無が、既婚男性よりも独身男性のスコアに悪影響を与えており、モデルが学習に使用した過去のデータから隠れたバイアスを学習したことを示唆していました。

また、研究者たちは、これらの決定における最も強力な要因は、年齢や性別といったデモグラフィックな詳細ではなく、具体的な財務の実態であることも発見しました。当座預金のステータスと、信用返済の履歴が、決定を左右する支配的な要因でした。これは、モデルが個人の属性ではなく、実際の返済能力に焦点を当てていることを示唆しており、安心できる発見です。しかし、本研究は、主要な要因が公平であったとしても、モデルによるそれらの重み付けの仕方が、異なるグループに対して不平等な結果を生み出す可能性があることも浮き彫りにしました。結合された説明メソッドは、この微妙な不平等を暴き出し、あるグループが同じ結果を得るために、別のグループと比較してどれほどの追加の努力を払わなければならないのかを正確に示しました。

結局のところ、この研究は、私たちが「賢いモデル」と「公平で理解しやすいモデル」のどちらか一方を選ばなければならないわけではないことを示唆しています。過去を説明する能力と、より良い未来を提案する能力を織り交ぜることで、金融機関は正確かつ透明性の高いシステムを構築できます。この研究は、最も重要な要因を用いて解決策の探索を導くことで、申請者の特定の状況を尊重した、明確で実行可能なアドバイスを提供できることを証明しています。このアプローチは、単に拒絶されたことを伝えるだけでなく、どのようにすれば状況を改善できるかという具体的なロードマップを提示することで、私たちの金融生活を支えるテクノロジーが、影響を受ける人々に対して責任を持ち続けられるようにするものです。