Measuring Algorithmic Monoculture in Credit Intermediation: Supply-Chain Concentration, Decision Convergence, and the Case for Reference-Portfolio Supervision
本論文は、信用仲介におけるアルゴリズムのモノカルチャー（単一栽培）に対する測定フレームワークの欠如に対処するため、サプライチェーンの集中と意思決定の収束を区別し、共有モデルが誤差の相関が分散の減少よりも速く上昇する場合に信用供給を不安定化させることを示すモデルを構築し、誤差の相関を推定するためのリファレンス・ポートフォリオによる監督手法を提案するとともに、拙速な資本加算に対して、堅牢な測定能力の構築を優先すべきであると論じている。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
銀行の世界において、貸し手は常に単純かつ危険な真実に直面してきました。それは、もしすべての銀行が同じ情報に基づいて意思決定を行えば、彼らは皆、同時に同じ間違いを犯すことになるという事実です。これは新しい恐怖ではありません。それは、農家が大陸全土に単一の作物を植えることに等しい金融版の懸念です。もしその特定の作物に病気が発生すれば、収穫全体が失敗し、農家にはバックアップがありません。何十年もの間、規制当局は、銀行がすべて同じ企業や個人に貸し付けを行わないよう監視してきました。なぜなら、それらの借り手が破綻すれば、銀行も共に破綻するからです。しかし、より見えにくい新しい種類のリスクが出現しました。銀行は今、誰に融資するかを決定するために、同じコンピュータプログラムを使用し始めています。これらのプログラムは、多くの場合、大規模で共有された人工知能システムに基づいています。これらは、秒単位で数百万件の申請を処理することができます。懸念されるのは、もしこれらのシステムがすべて同じ基礎となるコードやデータに依存している場合、それらが同時に同じ良質な借り手を拒絶したり、同じ不良な借り手を承認したりして、単独の銀行では予期できない突発的なシステム全体の信用凍結を引き起こす可能性があることです。
ある研究チームは、「アルゴリズミック・モノカルチャー（アルゴリズムによる単一栽培）」と呼ぶこの目に見えない危険を測定しようとしています。彼らの研究は、規制当局が見ることができるものと、実際に知る必要があるものとの間のギャップに焦点を当てています。現在、監督官は、特定のクラウドプロバイダーや特定のソフトウェアベンダーを何社が使用しているかを容易に数えることができます。彼らはサプライチェーンを見ることができます。しかし、彼らはその結果を見ることはできません。2つの銀行が全く同じソフトウェアを使用していても、それを異なる方法で微調整したり、異なるデータを入力したりすれば、その決定は依然として独自のままかもしれません。逆に、2つの銀行が全く異なるソフトウェアを使用していても、似たようなデータを用いて同じ問題を解決していれば、彼らは同一の誤りを犯す可能性があります。研究者たちは、ソフトウェアベンダーを数えることは、真のリスクを測定する方法としては不十分であると主張しています。真のリスクとは、誰がそのツールを作ったかではなく、ツールが同時に同じ間違いを犯しているかどうかにあるからです。
リスクの大きさを理解するために、著者らは経済にどのように信用が流れるかの数学的モデルを構築しました。彼らは、銀行が共有された、非常に精度の高い人工知能システムを使用している世界を想定しました。このシステムは、従来の独立したシステムよりも優れており、全体的な間違いは少なくなります。しかし、それが共有されているため、一度間違いを犯せば、すべての銀行が同時にその同じ間違いを犯すことになります。研究者たちは、ある決定的な転換点を発見しました。もし共有システムが従来のシステムよりもわずかに優れているだけであれば、エラーが少ないという利点は、すべてのエラーが一度に発生するという危険によって打ち消されてしまいます。彼らのシミュレーションでは、共有システムが従来の方法よりも50パーセント正確であったとしても、銀行の誤りが高度に相関してしまうことで、銀行システム全体をより不安定にする可能性があることが示されました。精度の向上は、共有された失敗のコストを支払うには不十分なのです。誰もが同じレンズを通して世界を見ているために、システムは貸しすぎと貸し控えの間で激しく揺れ動き、より不安定になります。
論文は次に、この問題を危機が起こる前にどのように捉えるかという問題に移ります。著者らは、規制当局がすでに収集しているデータを、新しい方法で用いてリスクを測定することを提案しています。単に銀行がどのようなモデルを使用しているかを尋ねるのではなく、監督官は、答えがすでに書かれているテストのような形で、既知の結果を持つ一連の仮定のローン申請を銀行グループに与えます。各銀行のモデルがこれらの申請をどのようにスコアリングするかを比較することで、規制当局は銀行の誤りがどれほど連動しているかを算出できます。もし銀行がすべて同じ申請者に対して同じ誤った予測を行っているならば、システムは危険な状態にあります。研究者たちは、この測定を正確に行うことは驚くほど難しいことを発見しました。統計的に有用であるためには、データの中に大量のローン債務不履行（デフォルト）が可視化されている必要があります。中小企業向けのローンや大規模な法人向けローンでは、デフォルトが稀であるため、データが薄すぎて明確な答えを出せません。しかし、クレジットカードのような日常的な消費者ローンについては、精密な読み取りを行うのに十分なデータが存在します。
手法はあるものの、著者らは最も明白な解決策には反対しています。彼らは、規制当局が単に銀行に対して異なるモデルを使用することを強制したり、モデルの類似性に基づいて追加の資本賦課を行ったりすべきではないと示唆しています。多様性を強制することは、銀行が異なって見えるために、より精度が悪く、精度の低いモデルを使用するように駆り立てるという逆効果を招く可能性があり、それは公正な信用を求める借り手に不利益を与えます。代わりに、論文はより実用的なアプローチを提案しています。規制当局は、すべての銀行が「フォールバック（代替策）」プランを持っていることを確認することに注力すべきです。もしある銀行が、共有された外部の人工知能システムに大きく依存している場合、その共有システムが失敗したり、相関したエラーを起こし始めたりした場合に、ビジネスの大部分に対して別の独立した手法に切り替えられることを証明しなければなりません。これにより、システムには主要なリスクとは切り離されたバックアップが確保されます。
研究者たちは、この危機はまだ起きていないという点に注意を払っています。最近の調査によれば、多くの銀行が人工知能を使用している一方で、最も高度な共有基盤モデルを中核となる貸付決定に使用している銀行は極めて少数です。リスクは「プロスペクティブ（先行的）」なものであり、つまり、テクノロジーが一般的になるにつれて起こりうるものです。彼らの提案の緊急性は、危険が今日そこにあるということではなく、銀行がこれらの共有システムを完全に採用したときには、以前の「正常な」リスクレベルが何であったかを知ることは不可能になる、という点にあります。もし規制当局が、問題が目に見えるようになるまで測定を待つならば、事態がいかに悪化したかを理解するために必要な基準値を失ってしまうことになります。論文は、システムが変化している最中、つまり今こそ測定ツールを構築すべきであると結論付けています。そうすることで、監督官は事後的にダメージを発見するのではなく、リアルタイムで変化を捉えることができるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。