Sector-Specific Ethics in Artificial Intelligence: Clinical Applications, Military Automation, AutonomousVehicles, and Educational Technology

コンピューターが単なる計算機やゲーム機ではなく、意思決定者となる世界を想像してみてください。これが人工知能（AI）の領域です。AIを、何百万冊もの本を読み、数え切れないほどの動画を視聴して学ぶ、非常に賢い「見習い」のようなものだと考えてみてください。しかし、ここに落とし穴があります。見習いが速くて知識が豊富だからといって、それが常に「正しい」とは限らないのです。時には、読んだ本から悪い習慣を学んでしまったり、ある人を救う代わりに別の人を傷つけるような選択をしたりすることもあります。ここで「倫理」が登場します。倫理とは、簡単に言えば「正しいことをするためのルールブック」のことです。こうした非常に賢い見習いを生、病人を治療したり、車を運転したり、あるいは戦争に従事したりといった重大な仕事に任せる際、単一の一般的なルールブックを使うわけにはいきません。ビデオゲームに通用するルールは、病院では災厄を招く可能性があるからです。だからこそ、科学者や思想家たちはこう問いかけています。「私たちのAIという名の見習いたちが、訪れるそれぞれの特定の地域において、どのようにして行儀よく振る舞えるようにすればよいのか？」と。

コナー・ニチャルズ（Connor Nitchals）によって書かれたこの論文は、AIがすでに働いている4つの非常に異なる「地域（セクター）」、すなわち病院、戦場、道路、そして学校について掘り下げています。著者は、すべてのAIを同じように扱うことはできないと示唆しています。代わりに、それぞれの仕事に合わせてカスタマイズされた「鎧（よろい）」が必要であると述べています。この論文は、あらゆる問題を解決したとか、すべてを修正する魔法のボタンを見つけたと主張するものではありません。むしろ、各セクターにおける独特な罠や危険を指し示しつつ、あらゆる場所に適用されるいくつかの共通の安全ルールを強調する「地図」のような役割を果たしています。物事を安全かつ公平に保つためには、これらのシステムを設計する際に非常に注意深くあり、透明性（どのように考えているかを知ること）、安全性（故障したり人を傷つけたりしないこと）、そして悪用からの保護（悪用されないこと）を確保する必要があると示唆しています。

まずは、病院、すなわち臨床AIから始めましょう。あらゆる医学雑誌を読んできた医師の助手だと想像してください。それは病気を特定したり、治療計画を立てたりすることを驚異的な速さでこなすことができます。しかし、論文は警告しています。もしこの助手が、特定のグループに対して不公平な古い医療記録から学習していたとしたら、その不公平さを継続させてしまうかもしれません。それは、1950年代に書かれた教科書からしか勉強していない学生のようなものです。たとえ世界が変わっていたとしても、彼らは世界が変わっていないと思い込むかもしれません。AIが病院で機能するためには、偏り（バイアス）がないことを確認するために、その「宿題」を常にチェックする必要があると論文は示唆しています。また、AIがどのように結論に至ったのかを知る必要があります。もしAIが理由を説明せずに答えだけを出す「ブラックボックス」であるならば、医師は患者の命を預けて信頼することはできません。著者は、人間である医師がAIの仕事をダブルチェックし、患者のプライバシーが決して侵害されないようにするために、人間をプロセスの中に留めておく（ヒューマン・イン・ザ・ループ）必要があると強調しています。

次に、戦場、すなわち軍事オートメーションへと視点を移します。ここは最も深刻な地域です。ここでは、AIが戦車を操縦したり、敵を偵察したり、あるいは武器を発射するかどうかを決定したりするために使用される可能性があります。論文は、大きな倫理的懸念を浮き彫りにしています。それは、「機械が生死に関する最終決定を下すことが許されるべきか？」という問いです。著者は、これらの決定に対して「意味のある人間による制御」を維持しなければならないと示唆しています。それは、ロボットが戦車を運転することはできても、ボタンを押すのは人間でなければならない、と言うようなものです。論文は、もしロボットがミスをして被害をもたらした場合、プログラマー、兵士、それとも機械自体なのか、誰に責任があるのかを判断することが非常に困難であると論じています。このため、これらのシステムがハッキングされたり、国際法に抵触するような方法で使用されたりすることを防ぐための厳格なルールが必要であると示唆しています。国家安全保障のために秘密保持は必要ですが、著者は、過度な秘密主義は公衆の信頼を失わせる可能性があるため、バランスが必要であると述べています。

それから、運転席、つまり自動運転車（AV）へと飛び込みます。これらはカメラやセンサーを使用して世界をナビゲートする自動運転車です。事故の減少や移動の容易化という約束があります。しかし、論文は、衝突が避けられない状況（例えば、歩行者を救うために乗員を傷つけるべきか、など）に直面した際の難しさについても指摘しています。論文は、あらゆる「もしも」のシナリオを完璧に解決することはできないものの、エンジニアはこれらの車が「人間の命を優先し、被害を最小限に抑える」ように設計しなければならないと示唆しています。また、自動運転車が事故を起こした場合の責任を誰が負うのかを決める新しい法律も必要であると述べています。それは車の所有者でしょうか、ソフトウェアの製作者でしょうか、それとも車を製造した会社でしょうか。著者は、人々がこれらの車を信頼するためには、企業が車の仕組みや限界についてオープンである必要があると強調しています。

最後に、教室、すなわち教育テクノロジーへと歩を進めます。ここでは、AIが教師に代わって採点を行ったり、レッスンを個別化したり、生徒の学習状況を追跡したりします。論文は、これが「諸刃の剣」であることを警告しています。一方で、すべての生徒が自分のペースで学習するのを助けることができます。しかし他方では、生徒の習慣や脳に関する膨大なプライベートデータを収集することになります。著者は、このデータを使って子供たちを監視したり、不当に罰したりしないよう、細心の注意を払わなければならないと示唆しています。もしAIが裕福な生徒に有利なデータで訓練されていた場合、貧しい生徒に対して不適切なアドバイスを与え、格差をさらに広げてしまうかもしれません。論文は、学校がどのようにデータを使用しているかを透明にし、AIが単に厳しい監視員のように生徒を見張るのではなく、学習をサポートするようにしなければならないと主張しています。

さて、ここから得られる大きな教訓は何でしょうか？論文は、病院、戦場、道路、学校は大きく異なりますが、これらはいくつかの共通の安全ルールを共有していると結論づけています。ロボットの医師であれ、自動運転バスであれ、私たちには透明性（どのように機能するかを知ること）、安全性（故障しないようにすること）、悪用防止（悪い奴らにハッキングされないようにすること）、そしてプライバシー（個人のデータを守ること）が必要です。著者は、すべてのAIに対して一つの巨大なルールブックを持つことはできないと示唆しています。代わりに、各セクターの独自のルールを尊重しながら、これらの核心的な価値観に固執する、柔軟な枠組みが必要なのです。この論文は最終的な答えを出したとは主張していませんが、政府や科学者が将来に向けて、より良く、より安全で、より公平なAIシステムを構築するための強固な出発点を提供しています。