技術要約：再犯リスク評価におけるモデルの多重性と予測の恣意性

問題提起

本論文は、高リスクな刑事再犯リスク評価における予測的多重性（しばしばラショモン効果として知られる）の課題に取り組んでいる。ノイズの多い予測タスクにおいては、同等の精度を持つ複数のモデルがしばしば存在し、それらは同一の個人に対して異なる予測を出すことがある。これは予測の恣意性を生み出し、司法判断における公平性と一貫性に対する懸意を引き起こす。

具体的には、著者らは2009年からカタルーニャで使用されている意思決定支援ツールであるRisCanviシステムを調査している。現在のシステムには、以下のいくつかの重大な問題が存在する：

1. データの質: 古い学習データへの依存、および再犯（新しい犯罪による再収監か、技術的な違反や既存の判決によるものかの区別）の複雑でエラーが発生しやすい手動ラベル付け。
2. パフォーマンスの格差: 現行のロジスティック回帰モデルは、高い偽陰性率を示し、デモグラフィック・グループ間（例：国民と外国人の間）で顕著なエラー率の格差が生じている。
3. 単調性の欠如: 現行のシステムは、更生に向けた進展（動的特徴量）がリスクスコアの低下につながることを保証しておらず、これは公正な更生インセンティブのための要件である。
4. 恣意性: たとえ「より差別的でない」モデルが見つかったとしても、「ラショモン集合」（同等の性能を持つモデルの集合）が存在することは、異なる有効なモデルが同一の受刑者に対して異なるリスクスコアを算出する可能性があることを意味し、評価の信頼性を損なう。

方法論

1. データセットの構築

著者らは、厳格なラベル付けアルゴリズムを開発し、カタルーニャの刑務所からの17,542件の受刑者釈放に基づく高品質なデータセットを構築した。

• ラベル付けプロセス: 「刑罰的再犯」（新しい犯罪による禁固刑）を定義する複雑な法的規則を、反復的なアルゴリズムへと変換した。このアルゴリズムは、専門家の注釈と一致するまで、刑執行の専門家との協力により洗練された。
• 特徴量: データセットには、釈放ごとの43個の特徴量（20個の静的特徴量、例：発症時の年齢；23個の動的特徴量、例：教育レベル）が含まれている。
• 分割: 時系列的な訓練・テスト分割を用いた（訓練：2010–2018年、テスト：2019年）、これにより時間的な妥当性を確保した。

2. 最適化フレームワーク (FairSLIM)

著者らは、2段階の混合整数線形計画法（MILP）フレームワークを提案している：

• ステップ1：単調性を伴うSLIM: SLIM（Supersparse Linear Integer Model）定式化を利用して、線形整数スコアリングシステムを学習する。極めて重要な点として、特徴量の係数を非負の整数に制限することで単調性制約を課している。これにより、不利な静的特徴量はリスクを増加させ、肯定的な動的特徴量（更生の進展）はリスクを減少させることが保証される。
• ステップ2：ラショモン集合の探索: Langladeら（2025）の研究に基づき、$\epsilon$-ラショモン集合（最適リスクの$\epsilon$以内に経験的リスクがあるモデルの集合）の中から、**低差別モデル（LDM）**を探索する。
  • $m > 2$ のデモグラフィック・グループに対する探索を一般化している。
  • グループ間の等価オッズ違反（$\Delta EO$）を最小化する。これは、グループ間における偽陽性率（FPR）および偽陰性率（FNR）の最大ペア間格差として定義される。
  • これを、FPR/FNRの最小値と最大値を追跡することで最適化し、制約を $O(m^2)$ から $O(m)$ へと削減する。

3. 予測的多重性の分析

予測的多重性を定量化するために、著者らは自己一貫性（Cooperら、2024）の概念をラショモン集合へと拡張している：

• 定義: 有限のモデル集合 $P$ に対して、自己一貫性 $SCP(x)$とは、$P$から一様に抽出された2つのモデルが、インスタンス$x$ に対する予測において一致する確率である。
• 理論的境界: モデルプールの平均0-1損失に基づく、期待自己一貫性のタイトな下限（命題1）を導出している。この境界は、合意に関するワーストケースのシナリオを表している。
• ポリシー評価: 多重性を解決するために、以下の3つのポリシーを評価する：
  1. アンサンブル: 予測の平均化。
  2. ランダム選択: 各インスタンスに対してランダムにモデルを選択する。
  3. 最低リスク・ポリシー (LRP): プール内のどのモデルによっても予測されるリスクスコアのうち、最も低いものを割り当てる（favor rei 原則に合致する）。

主な結果

1. 予測性能と公平性

• ベースラインに対する優位性: 提案されたモデル（SLIMおよびFairSLIM）は、運用中のRisCanviモデルを大幅に上回っている。Riscanviは多数派クラスを予測することで高い精度を達成しているが、高い偽陰性率（84.7%）と低い均衡精度（56.2%）という問題を抱えている。
• 解釈可能なモデル: 新しい線形整数モデルは、約70–73%の均衡精度を達成し、偽陰性率を65%以上減少させている。
• 公平性: 最適リスクの1%以内でLDMを探索する場合（$\epsilon \le 0.01$）、サブグループ間の最大エラー率格差（$\Delta EO$）は、テストセットにおいて**5%**まで減少する。この性能は、複雑なCatBoostベースラインと同等またはそれ以上であり、かつ解釈可能性を維持している。

2. 予測的多重性と自己一貫性

• 高い合意: 構造的に多様なモデル（静的および動的特徴量の係数が異なるモデル）が存在するにもかかわらず、**観測された自己一貫性は91%**である。これは、理論的なワーストケースの下限である0.53よりも大幅に高い。
• 不一致の所在: 予測の不一致は、ほぼ例外なく決定境界付近のインスタンス（低マージン・インスタンス）に集中している。高マージンのインスタンスでは、モデルは完全に一致している。
• 構造的多様性と予測的一致: 本研究は、高い構造的多様性（異なる係数）が、必ずしも深刻な予測的多重性に直結しないことを示している。

3. 最低リスク・ポリシーの有効性

• 最低リスク・ポリシー (FairSLIM-LRP) は、有効なモデルの集合の中から、各受刑者に対して最も低いリスクスコアを割り当てる。
• パフォーマンス: このポリシーは、テストされたすべての解決メカニズム（アンサンブルやランダム選択を含む）の中で、最高の均衡精度（71.2%）を達成しつつ、同等のエラー率パリティを維持している。
• 示唆: 有効なモデルの中から最も好ましい結果を選択することで、予測の有用性や公平性を損なうことなく、恣意性を軽減できる。

意義と主張

本論文は、アルゴリズムの公平性とリスク評価の分野に対し、以下の貢献を主張している：

1. 公平性制約の一般化: ラショモン集合における低差別モデルの探索を、$O(m)$ の追加制約のみで $m > 2$ のサブグループへと一般化しており、複雑なデモグラフィック分割においても計算可能性を実現している。
2. 恣意性の理論的境界: 二値分類器の有限集合に対する期待自己一貫性のタイトな下限を提供し、経験的な合意を比較するための理論的ベンチマークを提示している。
3. 実世界でのケーススタディ: 理論的なシミュレーションを超え、展開済みのシステム（Riscanvi）を用いた、再犯リスク評価における予測的多重性の初の現実世界での研究を提示している。
4. ポリシーの推奨: 予測の恣意性を解決するための効果的なメカニズムとして、最低リスク・ポリシーを提案し検証している。このアプローチは、favor rei（疑わしきは被告人に有利に）の法的原則および反従属原則に合致しており、最も罰則の少ない有効な予測を能動的に選択することで、システム的なバイアスに対処している。
5. データ品質の影響: 法的規則を用いて釈放後の結果のラベル付けを自動化することで、現在の学習セットよりも17倍大きいデータセットが得られ、モデルの性能と公平性が実質的に向上することを明らかにしている。

著者らは、モデルの多重性は理論的な懸念ではあるものの、実際には決定境界付近の少数のケースに限定されることが多いと結論付けている。したがって、最低リスク・ポリシーのような単純かつ原理に基づいたポリシーを用いることで、多様な公平なモデルの探索という利点を維持しながら、恣意性を効果的に軽減できる。