From Ethical Principles to Lifecycle Oversight: A Library-Based Analysis of AI-Enabled Health Research in Canada

現代の健康研究の世界において、科学者たちは、膨大な情報からパターンを見つけ出し、病気を予測したり治療法を提案したりするために、学習するコンピュータプログラムに依存することがよくあります。人工知能として知られるこれらのプログラムは強力なツールですが、研究者が数十年にわたって用いてきた伝統的な実験とは異なる仕組みで動作します。標準的な研究では、科学者が特定の質問のためにグループの人々に医療記録の使用許可を求め、分析を実行し、結果を公表します。一度研究が終われば、その作業は通常、終了したとみなされます。しかし、人工知能はこのタイムラインを変えてしまいます。これらのシステムは、データを用いて訓練された後、初期の研究が承認されたずっと後でも、全く新しいタスクのために更新、改善、再配備されることができます。また、古い記録から新しい情報を生成したり、研究チーム以外の企業によって利用されたりすることもあり、何かがうまくいかなかった場合に誰が責任を負うのかという疑問を生じさせます。カナダには、研究者が人間を対象とした参加者をどのように扱うかを導く、非常に尊敬されている一連の規則、すなわち「トライカウンシル・ポリシー・ステートメント（三審議会政策声明）」があります。これらの規則は、人々を尊重すること、彼らの幸福を配慮すること、そして公平性を確保することという、3つの確固たる理念に基づいています。これらの原則は強力ですが、人工知能が健康研究の一部として一般的になる前に書かれたものです。カナダの研究コミュニティが直面している大きな問いは、これらの古い規則が、これらスマートなコンピュータシステムの新しい、変化し続ける性質に対処するのに十分であるかどうかです。

研究者のアブドルレザ・ババマムード（Abdolreza Babamahmoodi）氏は、カナダの現在の規則が健康における人工知能にどのように適用されるかを詳細に検討することで、この問いに答えるべく取り組みました。これは新しい薬をテストしたり患者に調査を行ったりする研究ではなく、既存の政策、法律、およびガイドラインを注意深く検証したものです。研究者は、カナダの主要な研究倫理政策、世界保健機関（WHO）からの国際的なガイダンス、そしてオーストラリアや欧州連合（EU）の規則を含む28の異なる文書を集めました。目的は、現在のカナダの規則が、人工知能が関与する場合に研究者や倫理委員会が何をすべきかについて、明確な指示を提供しているかどうかを確認することでした。分析は、研究とみなされるものの定義、データの出所、コンピュータモデルが公平に機能するかどうか、人間がいかに制御を維持するか、システムの変更をどのように扱うか、そして先住民コミュニティの権利をどのように尊重するかという、6つの主要な領域に焦点を当てました。

研究の結果、カナダの既存の規則は道徳的なトーンを設定することには長けているものの、研究者や倫理委員会が日常的な意思決定を行うための詳細なガイドとしては不十分であることが判明しました。現在の政策は、研究者が人々を尊重し公平性を確保しなければならないと述べていますが、コンピュータモデルが公平であることを証明するために研究者が示すべき証拠が何であるかは特定していません。モデルが承認から6ヶ月後に更新された場合に何が起こるのか、あるいは第三者の企業が研究者の予期しない方法でデータを使用した場合に誰が責任を負うのかについても述べていません。研究者は、これらの具体的な指示がなければ、倫理委員会は推測せざざるを得なくなると指摘しました。ある委員会は情報を求めすぎて重要な作業を遅らせるかもしれませんし、別の委員会は、何を注視すべきかを知らないために重大なリスクを見逃してしまうかもしれません。論文では、原則は善悪を判断するには十分であるが、人々が具体的に何をすべきかを伝えるための運用上の妥当性は欠いていると論じています。

これを解決するために、研究者は「ライフサイクル・レビュー」と呼ばれる、プロセスを捉える新しい方法を提案しました。研究を、出版された時点で終了する単一のイベントとして扱うのではなく、6つの明確なチェックポイントを持つ継続的な旅として捉えるアプローチです。最初のチェックポイントは「目的」であり、人工知能が何を、誰のために行うのかを正確に定義することです。第二は「データ」であり、情報の出所と誰に使用権があるかをマッピングすることです。第三は「開発」であり、コンピュータモデルがどのように構築され、テストされたかを確認することです。第四は「検証」であり、モデルが平均的なグループだけでなく、さまざまなグループに対してうまく機能することを確認することです。第五は「展開」であり、人間がコンピュータの提案を理解し、間違いが生じた場合にそれを停止できることを確認することです。最後のチェックポイントは「変更と退役」であり、モデルが更新されたり、新しい場所に移動したり、あるいは停止されたりする場合の計画を立てることです。

この新しいフレームワークは、研究者がこれら6つの段階のそれぞれにおいて、特定のセットの情報を提出すべきであることを示唆しています。例えば、モデルが最初に提案されるとき、研究者はその意図された用途を説明しなければなりません。その後、もしモデルが更新されたり、データソースが変更されたりした場合、研究者はその変更が再審査を必要とするほど重大なものであるかどうかを倫理委員会に報告しなければなりません。論文は、これが書類の山を作ることが目的ではなく、適切なタイミングで適切な人々が適切な決定を下せるようにするためのものであることを強調しています。低リスクの研究であればわずかな詳細だけで済むかもしれませんが、患者のケアに影響を与える高リスクの研究には、より徹底した計画が必要となるでしょう。

論文の極めて重要な部分は、カナダの先住民の権利に対処しています。現在の規則は、先住民コミュニティが個人の権利だけでなく、データに対する集団的な権利を持っていることをすでに認めています。研究者は、既存の政策はこのことを認めているものの、これらの権利が人工知能にどのように適用されるかを説明していないことを見出しました。例えば、コンピュータモデルが先住民コミュニティのデータを用いて訓練された場合、そのモデルが後に企業に売却されたり、異なる目的で使用されたりする場合、コミュニティは意見を述べることができるのでしょうか。論文は、これらの問いは外部の人間によって書かれた一般的な政策によって答えられるものではないと論じています。むしろ、研究者は、これらの具体的なガバナンスに関する問いは、先住民コミュニティ自身によって主導されなければならないと明示しています。提案されたフレームワークは、これらのコミュニティが自分たちのデータやその結果としてのコンピュータモデルがどのように扱われるかについての独自のルールを定義できるスペースを残しており、画一的な解決策によって彼らの権威が覆されることなく、その権威が尊重されるようにしています。

研究者はまた、他国がこれらの問題にどのように対処しているかについても調査しました。世界保健機関やオーストラリアは、人工知能に関する特定のガイドを作成し始めており、欧州連合は高リスクのシステムに対して厳格な監視を義務付ける法律を持っています。論文は、カナダがこれらの法律をそのままコピーする必要はなく、その構造から学ぶことができると示唆しています。技術の変化に合わせて更新できる「生きた」ガイドを採用することで、カナダは核となる倫理原則を安定させつつ、新しい課題に対処するために必要な詳細を追加することができます。研究は、現在のシステムは壊れているのではなく、不完全であると結論づけています。それは、強力な道徳的原則とその実践的な現実との間の架け橋を必要としています。

提案されている解決策は、テストおよび改善が可能なワーキングモデルです。研究者は、このフレームワークが完璧であるとか、すべての問題を即座に解決するものであると主張しているわけではありません。むしろ、これは議論と将来の検証のためのツールとして提示されています。論文は、このモデルが標準的な規則となる前に、それが実際に研究者や倫理委員会の意思決定を助けるのか、あるいは不必要な遅延を生じさせないのかを確認するために、実際の研究者や倫理委員会を用いてテストされるべきであると示唆しています。究極の目標は、人工知能が健康を向上させるために使用される一方で、関係者が保護され、データが責任を持って使用され、影響を受けるコミュニティがテクノロジーの統治方法について真の声を持てるシステムを構築することです。プロセスを明確で管理可能なステップに分解することで、このフレームワークは、人工知能研究の複雑な世界を、関わるすべての人にとってより透明で説明責任のあるものにすることを目指しています。