Governance-Bound Artificial Intelligence for Evidence-Linked Medicines Reliance Review: A Design Science Research Study

毎年、国の保健機関は膨大な量の書類作成という課題に直面しています。企業が新しい薬を販売しようとする際、その薬がどのように製造され、体内でどのように作用し、安全であるかどうかに関する数千ページにおよぶ膨大なデータを含む文書（ドシエ）を提出しなければなりません。多くの国、特にスタッフが限られている国では、これらの文書の審査に長い時間がかかり、それが救命治療へのアクセスを遅らせる原因となっています。効率を下げずにこのプロセスを迅速化するために、規制当局は「リライアンス（信頼に基づく活用）」と呼ばれる戦略を採用してきました。ゼロから調査を開始する代わりに、現地の機関は他の国の信頼できる当局によって既になされた作業を参照することができます。もしその信頼できる当局がすでにその薬を承認しているならば、現地のチームはその評価を基礎として利用できるのです。しかし、このプロセスは依然として非常に困難です。現地のチームは、元の文書を読み通し、製品が全く同一であることを確認し、小さな相違点を見つけ出し、自らの決定を説明する新しい報告書を作成しなければなりません。これには、複雑な構造をナビゲートし、テキストの中に隠された微細なエラーを見つけ出し、あらゆる結論が特定の証拠に基づいていることを保証することが求められます。もし間違いが起きたり、根拠となるソース文書まで論理を遡ることができなかったりすれば、決定全体が異議を唱えられる可能性があり、公衆衛生を危険にさらすことになります。

南アフリカのウェスタンケープ大学の研究者たちは、人間である専門家に取って代わるためではなく、高度に組織化された助手として機能する新しい種類のコンピュータツールを設計することで、この問題に取り組んできました。彼らはこのツールをRAiAと呼んでいます。研究チームは、単にテキストを要約するプログラムを作ったわけではありません。なぜなら、要約では医学において重要な微細な詳細を見落とす可能性があるからです。代わりに、彼らはデザインサイエンス・リサーチ（設計科学研究）という手法を用いました。これは、実世界の課題に対して具体的な解決策を構築し、実際のデータでテストされる前に、それがどのように機能すべきかを正確に定義することに焦点を当てた手法です。彼らの目標は、人間の専門家が最終決定の主導権をしっかりと握りつつ、文書の読み込みや整理といった重労働を処理できるシステムを構築することでした。その結果、混沌とした書類の山と、規制当局が作成する必要のある明確で防御可能な報告書との間の架け橋として機能するプロトタイプ・システムが誕生しました。

この設計の核心は、コンピュータの挙動を規定する一連の厳格なルールです。研究者たちは、医学のような極めて重要な環境で使用されるツールであるためには、「ガバナンスに縛られた（governance-bound）」ものである必要があることに気づきました。これは、システムが独自の判断を下したり、自身の作業を隠したりすることを防ぐための安全柵が組み込まれていることを意味します。例えば、このシステムは、薬を承認または拒否することはできず、潜在的な問題点を指摘したり、書類の異なる部分間のつながりを提案したりすることしかできないように設計されています。コンピュータが事実を指摘するたびに、その事実がどこから来たのかを必ず示し、その発見を元の文書の特定の文章へとリンクさせなければなりません。これにより、もし人間の審査員がコンピュータの作業に疑問を持ったとしても、即座にソースを確認し、検証することができます。また、システムはあらゆるステップの詳細なログを保持し、作業が正しく、かつ安全に行われたことを証明する証跡を作成します。

これを構築するために、チームは医薬品ドシエの審査という膨大なタスクを、より小さく管理可能な断片へと分解しました。彼らは、異なる種類の情報を個別に扱うようにシステムを設計しました。ある部分は化学的および製造に関する詳細のみを監視し、別の部分は臨床試験の結果に焦点を当て、第三の部分はラベル表示や使用説明を確認します。これは、一人が車のエンジンをチェックし、別の人がブレーキをチェックするように、一人がすべてをやろうとするのではなく、専門家のチームが分業して作業するのと似ています。システムはこれらの異なる領域から情報を収集し、それらを統合しながら、矛盾や欠落している箇所を探します。もし製造報告書では薬が特定の工場で作られたとされているのに、臨床試験の報告書では別の工場で作られたことが示唆されている場合、システムはその不一致を調査のために人間にフラグ立て（警告）します。決定的なのは、システムは保守的にプログラムされているということです。実害のない潜在的な問題を指摘してしまう方が、本当の危険を見逃してしまうよりも良いとされるのです。

研究者たちはまた、人間の専門家が機械とどのように相互作用するかについても細心の注意を払いました。インターフェースは、人間がコンピュータの提案を容易に受け入れ、編集、または拒否できるように設計されています。もしコンピュータが間違いを犯した場合、人間はそれを修正でき、システムはその修正が行われた理由を記録します。このフィードバックは、予測不可能な挙動を招く可能性があるため、コンピュータの「脳」を即座に書き換えるために使われるのではなく、後で行われるチームによる慎重なレビューのために保存されます。この分離により、ツールの安定性と信頼性が確保されます。また、システムは暗号化によって、トレードシークレットやプライベートなデータなどの機密情報を保護し、許可された人物のみが閲覧できるようにしています。コンピュータは、これらのプライベートなデータを学習に使用することが禁止されており、これにより、後にその情報が漏洩するリスクを防いでいます。

チームは、プロセスが最初から最後までどのように流れるかを示すために、このシステムの動作版であるプロトタイプを構築しました。彼らは、本物の製薬会社からの機密データは使用せず、実際の医薬品申請に似せた架空の文書を用いてテストを行いました。デモンストレーションでは、システムが大きなファイルを読み込み、正しいセクションに分類し、関連する証拠を見つけ出し、人間の専門家がレビューして承認できる報告書のドラフトを作成できることが示されました。人間の専門家はあらゆるステップにおいて最終的な権威であり続け、証拠が何を意味するのか、そしてその薬が安全であるかどうかを決定しました。プロトタイプは、この設計が可能であること、および作業の流れが理にかなっていることを証明しましたが、研究者たちは、これがまだ実世界で使用できる完成品ではないことに注意を促しています。彼らは、これがプロセスをどれほど高速化するか、あるいは実際の文書においてどれほど正確にエラーを見つけるかについては、まだ測定していません。

この研究の主な貢献は、新しい種類のコンピュータ・アルゴリズムではなく、医学規制のための信頼できるツールを構築するための「設計図（ブループリント）」であることです。研究者たちは、ガバナンスのルールを尊重し、プライベートなデータを保護し、人間がコントロールを維持できる人工知能システムを設計することが可能であることを示しました。彼らは、他の開発者が同様のツールを構築したい場合に、従うことができる10のガイドラインを提示しました。これらの原則は、ツールは常にその発見を証拠に結びつけなければならないこと、自ら判断を下してはならないこと、そしてその作業が監査およびチェック可能であるように設計されなければならないことを強調しています。設計の初期段階からこれらのルールに焦点を当てることで、チームは、アフリカや世界中の規制当局が、安全性を損なうことなく、増大する医薬品承認の複雑さを管理するのを助けることができるモデルを作り上げました。

この研究は、テクノロジーがいかにして重要な分野における人間の専門家をサポートできるかという思考における、大きな前進を意味しています。これは、人工知能が人間の判断に取って代わるという考えから離れ、いかにして人間の判断をより情報に基づいた、効率的なものにできるかに焦点を当てています。研究者たちは、適切な設計があれば、コンピュータが文書の分類やチェックといった退屈な作業を担い、人間の専門家が公衆衛生を守るための複雑な推論や最終決定に集中できるようにできることを実証しました。ツールはまだプロトタイプの段階であり、さらなるテストが必要ですが、その設計自体は、将来の医薬品規制のための、安全で信頼でき、かつ説明責任を果たせるシステムを構築するための明確な道筋を示しています。