How Simple Can It Get? From Interpretable Equations to Readable Rules for Financial Decision Making

あなたは、たった一つの手がかりとして、これまで集めたすべての証拠が詰まった巨大で絡まり合った毛糸玉を持っている、ある探偵になったと想像してください。人工知能の世界では、この「毛糸玉」は、ローンの返済ができるかどうかや、取引が不正なものであるかどうかといったことを予測する複雑なコンピュータモデルです。これらのモデルは、正解を当てる能力が非常に高いことが多いのですが、通常、どのようにしてその結論に至ったのかを人間が理解することは不可能です。金融の世界において、これは大きな問題です。法律では、銀行がローン申請に対して「ノー」と言う場合、なぜそうなったのかを一般の人でも理解できる形で説明できなければならないと定められていることが多いからです。もしその説明が、エイリアンのコードのような数式の羅列であったなら、それは役に立ちません。

ここで、「解釈可能な（interpretable）」モデルという概念が登場します。これらは、最初から透明であるように設計されたモデルであり、黒い箱ではなく、透明なガラス箱のようなものです。しかし、ここにはひねりがあります。たとえ透明なガラス箱であっても、中が歯車やレバーでぎっしり詰まっていれば、やはり読み解くことは困難です。あなたがこれから読む論文は、非常に具体的な問いに取り組んでいます。もし、すでに（一つの大きな数式であるために）技術的には「理解可能」なモデルがあるとしたら、予測能力を損なうことなく、どれだけシンプルにすることができるでしょうか？ 複雑な部分を切り落として、レシピのような単純な「もし〜ならば」というルールにできるのでしょうか？ 研究者たちは、ルールが人間にとって読めるほど単純でありながら、かつ、未来を予測するのに十分なほど賢明であるという、その「スイートスポット（最適解）」を見つけ出したいと考えました。

---

方程式の縮小劇

ローン申込者がデフォルト（債務不履行）するかどうかを予測するための、魔法のレシピがあると想像してください。コンピュータによって学習された元のレシピは、単一の巨大な方程式です。それは、「受取利息総額」「最終支払いからの経過時間」「年収」といった42種類の異なる材料を、それぞれ特定の奇妙な累乗で掛け合わせるものです。それは、コンピュータが各フルーツをどれくらいブレンドするかを正確に決めた、42種類のフルーツで作られたスムージーのようなものです。

問題は何でしょうか？ もしこの42種類の材料が入ったスムージーのレシピを銀行のマネージャーに見せたとしても、彼らは困惑して黙り込んでしまうでしょう。それは単なる数学なので技術的には「読める」のですが、あまりに長すぎて実際に使うことができません。この論文の著者たちはこう問いかけました。「もし、この複雑なレシピから、段階的に、かつ体系的に要素を削ぎ落としていったとしたら、どれくらいの『味』を失うのだろうか？」

彼らはただ推測したわけではありません。元の数式を取り、まるで玉ねぎの皮をむくように、4つの異なる方法で体系的に削ぎ落としていきました。

1. プルーンド・モノミアル（刈り込まれた単項式）: レシピから、あまり重要ではない材料を捨ててしまいました。もしある材料が味の変化にほとんど影響を与えないのであれば、それを完全に削除しました。
2. ディレクショナル・ルール（方向性ルール）: 材料は残しましたが、それらを「どれくらい」使うかについては気にしないことにしました。代わりに、単に「方向」だけを記録しました。例えば、「もし利息が高ければ、リスクは上がる」といった具合です。正確な数値は捨て、単に「上向き」または「下向き」の矢印だけを残しました。
3. スコアカード: 材料を単純な「Yes/No」の質問に変えました。「支払総額は450ドルである」とする代わりに、「支払総額は低いか？」と問いました。もし「はい」であれば5ポイント、「いいえ」であれば0ポイントを与えます。重要度に基づいて整数値（1、2、5など）を割り当てました。
4. タリー（集計）: これは最も単純なバージョンです。単なるチェックリストでした。「条件Aを満たしたか？ はい。条件Bを満たしたか？ はい。」。単にチェックを入れた数を数えるだけです。ポイントも重み付けもなく、単なるカウントです。

驚きの結果：何が失われるのか？

チームは、ローン不履行やクレジットカード詐欺を含む、4つの実世界の金融データセットに対して、これらの簡略化されたルールをテストしました。そこで彼らが発見したことは、あなたを驚かせるかもしれません。

1. 余分な脂肪を削るのは、ほぼ無料である。
弱い材料（効果が極めて小さいもの）を取り除いて「プルーンド・モノミアル」を作成したとき、モデルの精度はほとんど低下しませんでした。実際、あるデータセットでは、特徴量を42個からわずか7個に減らしましたが、デフォルトを予測する能力は、ごくわずかな、目に見えない程度しか低下しませんでした（0.886から0.885へ）。これは、40番目のフルーツを捨てても、スムージーの味は全く変わらないことに気づくようなものです。味を損なうことなく、レシピを大幅に短くすることができます。

2. 「上／下」のルールはスマートなショートカットである。
材料は残したまま、単に「上がるか下がるか」だけを記録する「ディレクショナル・ルール」に切り替えたとき、結果は非常に興味深いものでした。あるデータセットでは、モデルの精度は驚くほど維持されました。別のデータセットでは、リスクのある人物の「ランキング」は多少変化しましたが、それでも「イエス」か「ノー」かを判断するという本来の仕事においては素晴らしい成果を上げました。これは、正確な数学的背景を知らなくても、リスクの「方向」を知ることさえあれば十分な場合があることを示唆していますっています。

3. 数値を「Yes/No」に変えるのはリスクが高い。
ここからが難題でした。連続的な数値（正確なドル金額など）を、スコアカードやタリーのための単純な「Yes/No」の条件に変えたところ、モデルはしばしば崩壊しました。ローン・データセットでは、精度が強い0.885から弱い0s.329へと急落しました。それは、複雑な絵画を白黒のステッカーだけで表現しようとするようなもので、詳細を失いすぎてしまうのです。この論文は、ある種のデータにおいては、単に「高い」か「低い」かを知ることよりも、正確な数値の方が重要である可能性を示唆しています。

4. クラッシュが起こる前に予測する。
この論文の最も素晴らしい部分の一つは、著者たちが「ディレクショナル・ルール」がどれほどうまく機能するかを、それを構築する「前」に予測する方法を見つけたことです。元の数学の方程式と、各材料が互いにどのように関連しているかを見ることで、「おい、数値を捨てて方向性だけを残した場合、このモデルは元のモデルに対して約75%の忠実さを維持できるだろう」と教えてくれるスコアを算出することができました。これは、ケーキを焼く前に、材料のリストを見るだけでその味がどうなるかを予想できるようなものです。

人間は実際にどう考えるか

研究者たちは単に数学を見ただけではありません。金融の専門家やAI研究者に、これらの簡略化されたルールを読んでもらい、どれを好むかを尋ねました。

結果は、二つの異なる世界の物語でした。

• 金融およびリスクの専門家は、ディレクショナル・ルールを好みました。彼らは57%の割合でこちらを選びました。彼らは、「利息が高く、支払いが低いときにデフォルトを予測する」といった明確な文章というアイデアを好みました。それは彼らにとって自然な感覚でした。
• AIおよび機械学習の研究者は、スコアカードやタリー（ポイント制のシステム）を好みました。彼らは72%の割合でこちらを選びました。彼らは、ポイントを加算していく構造を好み、それが従来のスコアリング・システムを彷 _思い起こさせたからです。

興味深いことに、元の42種類の材料が入った完全な方程式を好む人は、ほとんどいませんでした。それは誰にとっても複雑すぎたのです。この研究は、モデルを単純化することは、人間にとって読みやすくすることではありますが、専門職によって好まれる「単純さの種類」が異なることを示唆しています。

結論

この論文は、モデルを「単純にする」ということは、単に短くすることではないということを教えてくれます。それはトレードオフです。

• モデルの弱い部分を削るのは、多くの場合、コストなしで行えます。
• 正確な数値を捨てて「上／下」の方向性だけを残しても、精度をほとんど損なわずに済むことがあります。
• しかし、すべてを単純な「Yes/No」のボックスに変えてしまうと、特にデータが複雑な場合、予測能力を失ってしまう可能性があります。

最も重要なことは、作者たちが、単純なルールは、元の複雑なモデルの完璧なコピーである必要はない、ということを発見したことです。ルールは元の数学に対して多少「不誠実」であっても、依然として非常に効果的な分類器になり得ます。それは地図のようなものです。目的地にたどり着くために、地図上のすべての木や岩が描かれている必要はありません。主要な道路さえあればよいのです。

研究は、規制の厳しい金融の世界において、モデルが「解釈可能」だからといって、単にそれが優れていると決めつけてはならないと結論づけています。私たちは、モデルを読みやすくするために、何を失うのかを正確に測定しなければなりません。その損失は、ごくわずかなこともあれば、甚大なこともあるのです。そして、最適な説明方法は、誰が聞き手であるかによって決まるのです。