Possibility Ethics: Measuring Moral Value as the Expansion of Safe Future Options in Sociotechnical Systems
本論文は、新たな指標である「オプション・エントロピー」を通じて、倫理的に許容可能な将来の機会への影響を定量化することにより、社会技術システムを評価する概念的・計算的な枠組みである「ポッシビリティ・エシックス（可能性の倫理）」を導入し、それをOmega-PEツールキットに実装することで、集計的な指標では見落とされがちな分配的な機会の損失を明らかにするものである。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
現代の世界において、テクノロジーは単に結果をもたらすだけでなく、私たちが次にできることの可能性そのものの風景を形作っています。デジタルプラットフォームがエクスポートボタンを削除したり、病院のスケジュールが患者の交通手段の欠如を無視したりする場合、当面の問題は単なる悪い結果ではなく、未来の縮小です。これは、ソフトウェアと人間の制度が絡み合い、人々が利用できる選択肢の範囲を決定する「社会技術システム」の領域です。長年、倫理学者は人間の自由を保護し公平性を確保すべきだと主張してきましたが、これらの考えは多くの場合、抽象的な原則にとどまり、エンジニアが異なるシステム設計を比較するために使えるツールにはなり得ませんでした。課題は、新しい設計が、ある人の真に安全な機会を実際に拡大しているのか、それとも静かに狭めているのかを、どのように測定するかという点にありました。
研究者モハマド・アミール・クスル・アクターによって開発された「ポッシビリティ・エシックス（可能性の倫理）」と呼ばれる新しい枠組みは、この問いに答えるための具体的な方法を提供します。この枠組みは、ある人の幸福度や道徳的価値の総計を計算しようとするのではなく、特定の、測定可能な問いに焦点を当てます。それは、「あるシステムの設計が、ある集団の人々に対して、どれほど多くの明確で、安全で、かつ実行可能な未来への経路を残しているか？」という問いです。核心となるアイデアは、より道徳的に優れた設計とは、特に脆弱なグループに対して、これら明確な未来の選択肢の数を維持、あるいは増加させるものであるという点にあります。これを行うために、研究者たちは、単に理論的なものやリスクが高すぎる選択肢を除外しながら、人が現実的に達成できる異なる種類の成果をカウントする手法を作り上げました。
研究者たちは、未来を一本の線ではなく、分岐する木の枝として扱うことで、このアイデアをテストするための計算システムを構築しました。まず、システムは一定の期間内に人が取り得るあらゆる潜在的な経路を調べます。次に、一連の厳格なフィルターを適用します。まず、その人がお金、時間、スキル、あるいは許可を持っていないために、実際に辿ることができない「実現不可能な経路」を除外します。また、本人や他者、あるいはコミュニティに危害を加える経路も除外します。これらの危険な、あるいは不可能な経路が破棄された後、システムは残った経路を、最終的な結果に基づいてカテゴリー別にグループ化します。もし二つの経路が同じ種類の成果につながるならば、それらは一つの選択肢としてカウントされます。システムは、利用可能なこれら明確で安全なカテゴリーの数に基づいてスコアを算出します。このスコアは、新しく、異なり、かつ安全な選択肢が現れると上昇しますが、選択肢の数が非常に大きくなると、最初の数少ない新しい選択肢こそが最も重要であるという考えを反映して、成長の度合いは緩やかになります。
この手法が実世界で機能するかどうかを確認するため、チームは二種類のテストを実施しました。制御されたシミュレーションでは、様々な支援レベルを持つ学生グループに対して、三つの異なるシステム設計を比較しました。一つの設計は、システムを離れてオフラインになる方法を提供し、もう一つはパーソナライズされたアシスタントを提供し、三つ目は標準的なベースラインでした。結果は、人々が離脱してオフラインになることを許容する設計が、最も少ないリソースからスタートした学生たちに対して、最も多くの明確で安全な未来の選択肢を生み出したことを示しました。パーソナライズされたアシスタントは、一部の人々には役立つものの、最も脆弱なグループにとっては、ベースラインと比較して安全な選択肢の総数を実際には減少させていました。このシミュレーションは、単純な平均スコアでは見逃してしまうようなニュアンス、すなわち、ある設計が一部の人々を助ける一方で、密かに他の人々を傷つけている状況を、この枠組みが検知できることを証明しました。
研究者たちは、同じ手法を、数千人の学生の学習過程を数年間にわたって追跡しているオープン大学の膨大な実世界のデータセットに適用しました。彼らは、障害を持つ学生、低所得層の学生、そして科目を再履修している学生が、どのように学習を進めているかを調査しました。分析の結果、ある年度のプログラムは全体としては利用可能な経路の数のわずかな改善を示した一方で、障害を持つ学生の選択肢を同時に減少させていることが明らかになりました。集計スコアは良好に見えましたが、詳細な内訳を見ると、特定のグループが足場を失っていることが示されました。この発見により、「オプション・リペア（選択肢の修復）」という手続き上のステップが必要となりました。これは、システム設計者が何がそれらの学生を阻んでいたのかを特定し、失われた選択肢を回復する方法を見つけなければならないというプロセスです。この研究は、平均値を見ることが、特定のコミュニティにおける自由の浸食を隠してしまう可能性があることを実証しました。
この枠組みは、あらゆる倫理的問題を解決したり、人間の判断に取って代わったりすることを主張するものではありません。それは、尊厳や徳、あるいは広義の生活の質を測定するものではありません。そうではなく、監査人や設計者が、システムが未来の可能性のメニューをどのように変えているのかを正確に把握するための、透明性が高く再現可能なツールを提供するものです。それは、どの選択肢が現実的で、どの選択肢が錯覚であるのかを明確に会計処理することを強制し、たとえ善意によるものであっても、ある設計上の選択が、最も脆弱な人々にとっての地平をいかに狭めてしまうのかを浮き彫りにします。未来の選択肢の構造を可視化し、比較可能にすることで、ポッシビリティ・エシックスは、私たちの社会技術システムが人間のエージェンシー（主体性）を拡大するのではなく、静かに制約してしまうことがないようにするための道筋を提示しています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。