Whose Voice? Algorithmic Smoothing and the Hybrid Authorship of BCI-Mediated End-of-Life Requests: a normative conceptual analysis

あなたの精神が輝かしく賑やかな都市であるものの、そこから外へと続く道が完全に封鎖されている世界を想像してみてください。あなたは考え、感じ、計画することはできますが、手を振ることも、話すことも、タイピングすることもできません。これは、ALS（筋萎縮性側索硬化症）などの疾患によって引き起こされる「完全閉じ込め症候群（completely locked-in state）」の人々が直面している現実です。彼らは目覚め、意識していますが、身体がその命令を聞かなくなってしまったのです。ここで、脳コンピュータインターフェース（BCI）が登場します。これは、脳の電気信号を読み取り、それを画面上の言葉へと変換しようとするハイテクな架け橋です。それは、あなたの思考に耳を傾け、あなたの代わりに話してくれる翻訳者のようです。

しかし、ここにひねりがあります。この翻訳者は、単なる受動的なマイクではありません。それはAI搭載のエディター（編集者）なのです。動くことができない脳から送られてくる、乱雑でノイズの多い信号を理解するために、コンピュータは「スムージング（ノイズの除去）」や「予測テキスト（スマートフォンの入力時のように次の単語を推測すること）」を使用します。これが、壮大で、頭を悩ませる問いを投げかけます。もしコンピュータが文章を完成させるのを手伝ったとしたとすれば、その思考は依然として「その人自身のもの」と言えるのでしょうか？ これは、苦痛を終わらせるための医療的援助を求めるような、生死に関わる決定的な場面において特に重要になります。もし機械がその要請を書き上げるのを手伝ったとしたら、本当に求めているのは誰なのでしょうか？

本論文はこのまさにそのジレンマを掘り下げています。問いはこうです。閉じ込められた患者が、AI強化型BCIを使用して死への医療的援助を求めたとき、その要請が本当にその人自身の声であると信頼できるのか、それともアルゴリズムがメッセージを変えてしまったのか？ 著者であるリーとンガンは、単に「イエス」か「ノー」で答えるべきではないと主張しています。代わりに、彼らはその要請を「ハイブリッド」な産物、つまり患者の意図と機械の助けによる共同作業であると提案しています。彼らは、これらの要請を確認するための新しい方法を提案しています。それは、コンピュータが書いた単一の文章を見るのではなく、患者の人生の物語全体、過去の価値観、そして事前指示書と比較することです。彼らは、機械の「推測」が患者が常に信じてきたことと一致している限り、その要請は有効であると結論付けています。しかし、もし機械の推測が患者の経歴と矛盾する場合、その要請は無視されるべきです。これは、グリッチ（不具合）のあるアルゴリズムによって、患者の真の自己が上書きされないようにするためのフレームワークです。

エレナと「話す機械」の物語

これを理解するために、エレナに出会いましょう。彼女は54歳の哲学教授です。ALSによって身体が支配される前、彼女は明確な手紙を書いていました。「もし私が、言葉を発する手段のない状態で精神の中に閉じ込められることがあれば、苦しみを取り除く選択ができるようにしたい」と。彼女はこの点について非常に具体的でした。

現在、エレナは完全閉じ込め状態にあります。彼女は考えることはできますが、筋肉一つ動かすことができません。彼女の脳にはBCIが埋め込まれています。ある日、医師たちが彼女に懸念事項があるか尋ねました。機械は彼女の脳信号を読み取り、次のように打ち出しました。「私はこの苦痛を止めたい」。

医師たちは困惑しています。彼らはエレナが苦しみを取り除きたいと考えていたことは知っていますが、同時に、機械は完璧ではないことも知っています。機械のマニュアルには、「信号スムージング（静電気の除去）」と「文脈予測（単語の推測）」を使用すると書かれています。医師たちが生データを確認したところ、エレナの脳信号は実際には**「私は止めたい」**という断片に過ぎませんでした。機械は、彼女が緩和ケア病棟にいてストレスを感じている状況を見て、単語「この苦痛（this pain）」を「推測」し、文章に付け加えたのです。

そこで、大きな疑問が生じます。エレナは「私はこの苦痛を止めたい」と言ったのでしょうか、それとも機械が彼女の代わりに言ったのでしょうか？

機械は中立なパイプではない

論文は、これらのBCIが、相手が言うことをそのまま聞くだけの電話線のようなものではないことを説明しています。それらはむしろ、賢いエディターに近いものです。コンピュータは多くの重労働を行わなければなりません：

1. 脳からの乱雑な電気信号を捉える。
2. 「ノイズ（静電気）」を取り除く。
3. どの脳のスパイクがどの文字を意味するかを判別する。
4. 巨大な人間の会話データベースを使用して、残りの部分を推測する。

著者らは、この「推測」が必要であることを指摘しています。これなしでは、出力は意味不明なものになってしまうからです。しかし、これは最終的な文章が共同作業であることを意味します。機械は単なる道具ではなく、共同執筆者なのです。

ミスの問題

また、論文はこれらの機械が間違いを犯すことも思い出させてくれます。

• 単語エラー率： 実世界のテストにおいて、これらの機械は、語彙の大きさに依存しますが、**8%から24%**の割合で単語を間違えます。
• 偽陽性（誤検知）： 時として、機械は患者が意図していなかったフレーズを口にすることがあります。単純なフレーズの場合、これは**2%から5%**の割合で発生します。死を求めるような大きな感情的な要請の場合、そのリスクはさらに高くなる可能性があります。

このため、著者らは、たった一つの文章から機械の言葉を受け取り、「よし、これが最終決定だ」と言うことはできないと述べています。それは危険なことです。

「ハイブリッド」な解決策

では、「誰の声か？」という謎をどう解くのでしょうか。著者らは、純粋な人間の声を見つけようとするのをやめ、その声はハイブリッドであることを受け入れるべきだと提案しています。彼らは3つの概念を用いてこれを説明しています。

1. 拡張された精神（The Extended Mind）： あなたの脳がコンピュータであり、BCIが長年使い続けているキーボードであると想像してください。やがて、そのキーボードはあなたの精神の一部となります。タイピングするとき、あなたは単に道具を使っているのではなく、その道具を「通して」考えているのです。したがって、機械の助けはエレナの思考プロセスの一部なのです。
2. 共次的エージェンシー（Co-Agency）： ダンスのようなものだと考えてください。エレナがリードし、機械が彼女のステップに従い、彼女のバランスを助けます。彼らは共に踊っています。その要請は、両者に属するものなのです。
3. モザイク（The Mosaic）： タイルで作られた絵を想像してください。エレナの人生と価値観がその絵です。BCIの出力は、単なる新しいタイルの一つに過ぎません。一つのタイルだけで絵が正しいかどうかを判断することはできません。全体としてのモザイクを見なければならないのです。

二種類の「助け」

論文は、機械がどのように助けるかについて、非常に重要な区別を行っています。

• 確証的精緻化（Confirmatory Elaboration - 良い種類の助け）： これは、機械がすでに患者について知っていることに完璧に合致する単語を推測する場合です。エレナの場合、彼女は「私は止めたい」と言い、機械は「この苦痛」を付け加えました。エレナは常に苦痛を嫌っており、かつ彼女が痛みクリニックにいたため、この推測は理にかなっていました。それは彼女が意図したであろうことを「確証」したのです。これは安全です。
• 生成的置換（Generative Substitution - 悪い種類の助け）： これは、機械が患者について知っていることと相反するものを推測する場合です。例えば、エレナが常に宗教的であり、死という考えを嫌っていたのに、機械が「私は死にたい」と推測したとします。これは、機械が彼女の意志を自らの推測によって「置き換えて」しまったことを意味します。これは危険であり、無視されるべきです。

新しいルールブック：軌跡に基づく検証プロトコル

著者らは、医師がこれらの要請を扱うための新しい方法を提案しています。彼らはこれを**「軌跡に基づく検証プロトコル（Trajectory-Based Validation Protocol）」**と呼んでいます。医師は、機械が書いた単一の文章を見るのではなく、患者の「軌跡（人生の歩み）」を見るべきです。

仕組みは以下の通りです：

1. 履歴の確認： 患者に、閉じ込められる前に明確な書面による計画（事前指示書など）があるか？ 以前に医師とこのことについて話し合っていたか？
2. モザイク・チェック： 機械のメッセージは、患者の人生の物語の他の部分と一致しているか？ もし機械が「私は死にたい」と言い、一方で患者が人生をどれほど愛しているかを長年書いてきたのであれば、機械が間違っている可能性が高いです。
3. 反復と検証： 一つのメッセージを信頼しないこと。同じ質問を何度も繰り返してください。もし機械が毎回同じことを言い、それが患者の経歴と一致しているのであれば、それはおそらく本物です。
4. 矛盾条項： もし機械のメッセージが患者の過去と矛盾する場合、停止してください。その要請に基づいて行動してはいけません。機械が不具合を起こしているか、あるいは患者が混乱している可能性があります。さらなる証拠が必要です。

結論

論文は、私たちは「機械が嘘をついている」か「機械は完璧である」かの二択を迫られているのではない、と結論付けています。真実はその中間にあるのです。その要請は共同構築された産物です。それは患者とアルゴリズムの両方に属しています。

もしアルゴリズムの推測が、患者が長年抱いてきた価値観や経歴と一致するのであれば、たとえ機械が文章を書くのを手伝ったとしても、その要請は有効です。しかし、もしアルゴリズムが新しい、あるいは矛盾するものを推測したのであれば、私たちはそれを極めて疑わしく扱わなければなりません。

著者らは、これはあくまで概念的な枠組みであり、完成された医学的なルールブックではないことに注意を払っています。彼らは、この論文の中で実際の数値や法的規範を用いて検証を行ったわけではなく、単に地図を描いているに過ぎません。彼らは、今後の研究において、正確な数値（例えば、メッセージを何回繰り返すべきかなど）を決定し、それを法律に適合させる方法を見出す必要があると示唆しています。しかし、核心となる考え方は明確です。患者の真の声を聞くためには、機械と、患者の人生の物語全体の両方に耳を傾けなければならないのです。