ApplE: A Modular Ontology of Applied Ethics and Event Context for Ethical Decision Modeling

トースターがパンを焦がすかどうかを道徳的なルールに基づいて判断したり、自動運転車が歩行者を跳ねるか壁に衝突するかを選択しなければならないとしたら、どうなるでしょうか。これは単なるサイエンス・フィクションではありません。人工知能（AI）の最前線なのです。何十年もの間、私たちは機械に賢く、速く、強くすることを教えてきましたが、「善であること」を教えることには苦戦してきました。大きな問いはこうです。「コンピュータに、物事には正しいものと間違っているものがあるということを、特にルールが複雑な場合に、どのように理解させるのか？」ということです。

これに答えるためには、2つの主要な要素を理解する必要があります。第一に、何が「善」で何が「悪」かを研究する**倫理学（Ethics）**です。これは、生きるためのルールブックのようなものですが、単一のルールブックではなく、多くの異なるルールが存在します。「常に真実を語れ」と言うもの（義務論）もあれば、「最も多くの人に利益をもたらすことをせよ」と言うもの（功利主義）もあり、また「徳のある人間であれ」と言うもの（徳倫理学）もあります。第二に、**コンテキスト（文脈/状況）**です。これは、意思決定が行われる特定の状況のことです。それは、空腹の子供にパンを盗むことと、ただ退屈しのぎにパンを盗むことの違いのようなものです。同じ行為であっても、「誰が、何を、どこで、なぜ」によって、全く異なるものになり得ます。

課題は、コンピュータはこうした人間特有の曖лоう（曖昧）で複雑なニュアンスを理解するのが非常に苦手だという点です。彼らは通常、非常に明確で硬直した指示を必要とします。もし私たちが、病院、ビジネス、あるいは道路の上などで、AIに倫理的な判断をさせたいのであれば、こうした曖昧な人間の概念を、コンピュータが実際に読み取り、推論できる言語へと翻訳する方法が必要です。そこで、この論文が登場します。

---

「ApplE」のレシピ：ロボットに人間のように考えさせる方法

ApplE（Applied Ethics and Event Context：応用倫理およびイベント・コンテキスト）をご紹介しましょう。これはロボットの脳ではなく、コンピュータのために特別に設計された、極めて整理された「倫理的な構成要素」の巨大なライブラリだと考えてください。インドの研究者チームである著者たちは、倫理に関する多くの理論は存在するものの、機械が使用できる形でそれらを記述するための標準的な方法がないことに気づきました。そこで、彼らは**モジュラー・オントロジー（Modular Ontology）**を構築しました。

「オントロジー」という難しい言葉に怯えないでください。簡単に言えば、オントロジとは、異なる物事がどのように関連しているかを定義する詳細な地図や辞書のようなものです。レゴの城を作っているところを想像してみてください。手元にはレンガの箱（概念）がありますが、説明書がなければ、どのレンガをどこに配置すべきか分かりません。ApplEはその説明書なのです。彼らは複雑な倫理の世界を、完璧に組み合わさる2つの主要なセクションに分解しました。

1. 「理論（Theory）」モジュール： これはルールのライブラリです。ここには、「害を与えない」というルールや「最大の善」というルールなど、さまざまな倫理哲学が格納されています。
2. 「コンテキスト（Context）」モジュール： これはストーリーブックです。ここには、特定の出来事の詳細が含まれています。誰がやったのか？（エージェント）、何をしたのか？（アクション）、いつ、どこで行われたのか？（時間と場所）、そして結果はどうだったのか？（結果）といった内容です。

ApplEの魔法は、これら2つを接続することにあります。これにより、コンピュータは特定のストーリー（例：医師が薬を処方する）を見て、それがルールに適合しているかどうかをルールブックと照らし合わせて確認できるようになります。

「道徳計算機」とオピオイドの物語

彼らのマップが機能することを証明するために、研究者たちは単にコードを書いただけでなく、現実世界の、非常に複雑な医療現場のシナリオを用いてテストを行いました。彼らは、2000年代初頭の、ある医師がティーンエイジャーの患者に強力な鎮痛剤（オキシコンチン）を処方したという物語を検証しました。医師の意図は善意によるものでした。つまり、子供の痛みを止め、何度もクリニックに通わせる手間を省きたいと考えたのです。

しかし、長期的な結果は悲惨なものでした。そのティーンエイジャーは薬物依存症になってしまったのです。

ここでApplEが真価を発揮します。単純なコンピュータであれば、単に「善意」を見て「素晴らしい！」と言ったり、あるいは「悪い結果」を見て「ダメだ！」と言ったりするだけでしょう。しかし、ApplEはより賢明です。これはSWRLルールと呼ばれる特別な一連の指示（いわば、道徳的な数学のための複雑なレシピ）を使用します。それは、短期的な痛みの緩和という「善」と、深刻な長期的な依存症という「悪」を天秤にかけます。そして、薬のリスクを知るべきという医師の義務についてもチェックします。

結果はどうなったでしょうか？ ApplEのマップを用いたコンピュータは、その医師の行為を**「道徳的に誤り（Morally Wrong）」**であると正しく特定しました。コンピュータは単に推測したのではなく、たとえ意図が善であったとしても、その行為が「非危害原則（Nonmaleficence：害を与えないこと）」と医師の責任の義務に違反していると推論したのです。システムは、使用した特定のルールと事実を指し示すことで、なぜその結論に至ったのかを説明することができました。

なぜこれが重要なのか（そして、何ではないのか）

著者たちは、ApplEができることとできないことについて非常に明確に述べています。彼らは、突然罪悪感を感じたり、自律的に完璧な道徳的選択を行ったりできるロボットを作り上げたと言っているわけではありません。むしろ、人間と機械が協力して作業するためのツールを構築したのです。

彼らは、何百万もの物語をコンピュータに読み込ませて答えを推測させる（これは機械学習と呼ばれる手法です）ことで、コンピュータに倫理を「教える」ことができるという考え方に異を唱えています。データを単に流し込むだけでは、データの中に隠れている悪い習慣やバイアスをコンピュータが学習してしまう可能性があり、また、なぜその選択をしたのかを説明できないという点を指摘しています。それは、答えは暗記しているが、数学の本質を理解していない学生のようなものです。対してApplEは、ゲームのルールを理解し、自分の解法を示すことができる学生のようなものです。

チームは、専門家が何度も繰り返しチェックを行うSAMODと呼ばれる厳格なプロセスを用いて、彼らのマップをテストしました。彼らは、マップが正確であることを確認するために、「コンピテンシー質問（能力確認のためのクイズのようなもの）」を実行しました。その結果、ApplEは医療ケースからビジネス上の決定（例：企業による自閉症の従業員の雇用）、さらには環境問題（例：開発のための樹木の伐採）に至るまで、さまざまな種類の倫理的ジレンマを扱うことができることが分かりました。

結局のところ、ApplEは基礎的な一歩です。AIに対して、倫理のルールと現実世界の詳細の両方を理解するための、構造化された明確でモジュール式の方法を与えることで、単に行動するだけでなく、「倫理的に」行動する機械を構築し始めることができる、ということを示唆しています。これはあらゆる道徳的問題を解決する魔法の杖ではありませんが、非常に暗い部屋の中で、進むべき道を照らす非常に強力な懐中電灯であり、倫理的なAIへの道のりを照らしてくれるものです。