AI Governance Under Political Constraints: The Case for Ex Post Liability
本稿は、事後的な厳格責任が、事前規制を悩ませているキャプチャー（規制の虜）やコンセンサス形成の失敗を回避しつつ、補完的なツールの分類や民事責任を弱める試みの評価のための枠組みを提供できることから、政治的制約下における最も強固なAIガバナンス手段であると論じるものである。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
人工知能は、それを導くための規則よりも速いスピードで進化しています。これらのシステムがより強力になるにつれ、医学や科学における困難な問題を解決することが期待される一方で、広範な詐欺から、重要な機械に対する人間の制御の喪失に至るまで、深刻な危害をもたらす可能性も孕んでいます。世界中の政府は、この力が損害を引き起こす前に、どのように管理すべきかを決定しようとしています。中心となる問いは、単にどのような規則を書くかではなく、実際に機能するような方法でいかにそれらを書くかということです。課題は、これらのシステムが正確にどの程度危険であるのかについて、誰も一致した見解を持っていないこと、そして、これらを構築している人々が、一般市民よりも政治家に対してはるかに大きな影響力を持っていることです。この不均衡により、企業が技術をリリースする前に安全であることを証明することを義務付ける厳格な法律を可決することが困難になっています。なぜなら、政治家たちは「安全」が何を意味するのか、あるいはどの程度のリスクが許容されるのかについて合意できないからです。
ヒューストン大学の研究者であるガブリエル・ウェイルによる新しい論文は、この不確実性に対処する最善の方法は、未来を予測しようとすることをやめ、過去に対して支払うことであると主張しています。企業に新しい人工知能を構築またはリリースする前に政府の承認を得るよう強制する代わりに、この論文は、企業が実際に自社の技術が引き起こしたあらゆる害に対して財務的な責任を負うシステムを提案しています。「事後責任（ex post liability）」として知られるこのアプローチは、安全性の負担を開発者自身に移転させるものです。もし技術がうまく機能し、問題が発生しなければ、企業は何も支払う必要はありません。もしそれが災厄を引き起こせば、彼らはその損害に対して支払わなければなりません。ウェイルの分析によれば、この手法は政治的圧力に対してより強靭であり、事前に厳格な規則を定めるよりも、未知の性質を持つテクノロジーに適しているといいます。
論文はまず、人工知念の世界において、通常の規制手法が失敗する可能性が高い理由を説明することから始まります。通常、政府は規則を設定したり、ライセンスを要求したり、あるいは企業が作り出すリスクに対して税を課したりすることで、リスクを管理しようとします。例えば、政府は、ある企業がシステムを使用する前に安全であることを証明しなければならないと定めたり、あるいはシステムが使用するコンピューティング・パワーの量に基づいて税を課したりすることがあります。しかし、これらの手法は、テクノロジーがいかに危険であるかについての明確な合意を必要とします。税率や安全規則を設定するためには、政治家はまず、どの程度の被害を予想するかを決定しなければなりません。ウェイルは、専門家たちがこれに一致できていないことを指摘しています。ある者は破滅的なリスクはほぼ確実であると信じ、別の者はそれは無視できる程度だと考えています。テクノロジーがあまりに新しく複雑であるため、この論争を解決するための確かなデータが存在しないのです。リスクに関する共通の理解がなければ、政治家が設定する規則や税は、災厄を防ぐには弱すぎるか、あるいは進歩をすべて止めてしまうほど厳しすぎるかのどちらかになるでしょう。
さらに、論文は政治プロセス自体が効果的な規制に対して不利に働いていると論じています。人工知能システムによる過ちによって苦しむことになるのは一般市民ですが、彼らは分散しており、組織化されていません。これらのシステムを構築している企業は少数であり、裕福で、自らの利益を守るために高度に動機付けられています。政治システムにおいて、組織化されたグループは、資金を持っているため、分散した大衆よりも通常、強い影響力を持ちます。もし政府が厳格な規則を設けようとすれば、これらの企業は規則を弱めたり、回避しやすくしたりするためにロビー活動を行うことができます。また、彼らは自らの技術的専門知識を利用して、規制当局を混乱させることもできます。規制当局はしばしば、テクノロジーがどのように機能するかを説明するために、企業自身に依存しているからです。これにより、規則が公衆ではなく企業を保護する結果となる状況が生み出されます。
ウェイルは、企業に引き起こした実際の害に対して責任を負わせることが、こうした政治的な罠を回避すると提案しています。厳格責任（strict liability）の下では、企業はシステムを構築するための許可を得る必要もなく、政府と特定のレベルのリスクについて合意する必要もありません。その代わりに、企業は単に、もし自らのシステムが誰かを傷つけた場合には、支払わなければならないということを知ることになります。これは、テクノロジーが正確にどの程度危険であるのかが誰にも分からない場合でも、うまく機能します。もしテクノロジーが安全であると判明すれば、企業は何も支払いません。もしそれが危険であると判明すれば、企業はその損害を支払います。これは、企業に対し、自らシステムを安全にする方法を見つけ出す強力なインセンティブを与えます。なぜなら、もし失敗した場合、その代償を払うのは彼ら自身だからです。
論文はまた、よくある懸念事項にも言及しています。すなわち、もし災害があまりに巨大で、企業が支払いきれない場合はどうなるのか、という点です。単一の企業がカバーできないほど大規模な被害が発生する場合、著者は「懲罰的損害賠償」を用いることを示唆しています。これは、たとえカタストロフィ（大惨事）がまだ発生していなくても、企業が破滅につながる可能性のあるリスクを取った場合、彼らが危機に近づいた時点で多額の罰金を科すことができるという意味です。この罰金は、実際に引き起こされた損害だけでなく、彼らが作り出した潜在的な危険性に基づいて算出されます。これにより、たとえ捕まることがないと考えていても、企業が最大の懸念事項に対して慎重であるべき理由を確保できます。また、小さな事故に対して企業が十分な資金を持っていないという問題に対処するため、論文は企業に保険への加入を義務付けることを提案しています。これにより、保険会社が民間規制当局として機能し、システムの安全性をチェックし、よりリスクの高いものに対して高い保険料を課すことになります。
著者は、現在議論されている他のアイデア、例えば、企業に一定の政府規則に従うことを条件とした「セーフハーバー（免責措置）」や訴訟からの免除を与えることなどと比較しています。論文は、これは悪い取引であると論じています。もし企業が、単にチェックリストに従ったという理由だけで、損害に対する支払いを免除されるならば、彼らにはシステムを真に安全にするために最低限の要件を超える動機がなくなってしまうからです。論文はまた、米国や欧州における最近の立法案についても検討しており、それらが責任と規制を交換しようとする試みであると述べています。ウェイルは、これらの提案のどれもが、良い価値を提供していないと指摘しています。それらは、人々を安全に保つための強力な代替手段を提供することなく、企業に責任を負わせる仕組みを弱める傾向があるのです。
論文は結論として、透明性の要件や安全性の研究といった他のツールは有用であるが、それらは責任制度を補完するものであり、それに取って代わるものではないと述べています。人工知能を統治する最も効果的な方法は、市場と裁判所にリスクを分類させることです。開発者に自らが引き起こした害に対して支払わせることで、システムは彼らにミスによるコストを内部化させます。このアプローチは、政治家が未来について合意することを必要としませんし、彼らが進歩を恣意的に止める権限を与えることもありません。それは単に、テクノロジーを構築した者が、それが失敗した際のコストを負担するように保証するものなのです。リスクが未知であり、政治が困難な世界において、この手法は安全性への最も信頼できる道を提供します。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。