From Generation to Collaboration: Using LLMs to Edit for Empathy in Healthcare

ある医師が手術後の患者に対して、手短なメモを書いている場面を想像してみてください。そのメモは医学的に完璧で正確ですが、少し無味乾燥でロボット的です。まるでロボットがマニュアルを読み上げているかのようです。次に、AIがゼロから新しいメモを書こうとする場面を想像してください。そのAIは、信じられないほど温かく、親切で、理解に満ちたトーンになるかもしれませんが、物語をより感情的にするために、事実ではないことを勝手に作り上げてしまう（捏造する）可能性があります。まるで、物語を面白くするために詳細をでっち上げるストーリーテラーのようです。

この論文は、「第三の道」を探求しています。もしAIが物語を執筆するのではなく、医師の物語に対する「優しい編集者」として振る舞ったらどうなるでしょうか？

以下に、シンプルな比喩を用いた研究内容の解説をまとめます。

1. 問題点：「冷徹な医師」対「嘘つきのストーリーテラー」

• 医師： 医師は多忙で疲れています。彼らのメモは、しばしば短く、事実に基づいたものになります。彼らは精密な建築家のようなものです。設計図は完璧ですが、家の中には少し空虚さが漂っています。
• 生成AI： もしAIにレスポンスをゼロから書かせると、それは熱意の空回りした小説家のように振る舞います。適切な感情や温かい言葉を付け加えますが、物語の流れを良くするために、時として事実を捏造（ハルシネーション）してしまいます。医療において、事実を捏造することは非常に危険です。
• 目標： 研究者たちは、医師の完璧な設計図を維持したまま、その構造を変えることなく、家を温かく迎え入れるような空間にするために、AIに「壁にペンキを塗らせる」ことを望みました。

2. 解決策：「共感の編集者」

AIにメッセージ全体を書かせるのではなく、研究者たちはAIに医師の既存のメッセージを**編集（エディット）**させました。

• プロセス： 医師が医学的なアドバイスを書きます。AIはそれを読み、例えば「これは不安なこととお察しします」や「回復されているのは素晴らしいことです」といったフレーズを付け加えますが、医学的なアドバイス自体は医師が書いた通りに厳格に維持します。
• 比喩： 医師のメモを白黒のスケッチだと考えてください。AIは、その線を決して描き直すことなく、美しく見えるように色や陰影を加えるアーティストです。

3. 新しいツール：2つの「スコアカード」

これが機能するかどうかを確認するために、研究者たちは従来のテストでは不十分であると考え、AIを採点するための2つの新しい方法を考案しました。

• 「温かさスコア」（共感ランキング）：

  • 従来の方法： 単に「これは親切か？」と問う。
  • 新しい方法： 研究者たちは「三者択一の投票」を作成しました。AI判定器に「親切」か「親切でない」かの二択を強いるのではなく、「これら2つは等しく親切である」と言わせることも可能です。これは、人間が実際に感じる感覚により近いです。つまり、2つのメッセージがどちらも同じくらい親切であることはあり得るのです。彼らは、この新しい手法が従来のAIテストよりも人間の感情をはるかに正確に反映することを発見しました。

• 「真実スコア」（MedFactChecking）：

  • これは2段階の安全チェックです。
  • パートA（失われたものはないか？）： エディター（編集者）が重要な医学的事実を誤って削除してしまわなかったか？（本の校閲者がページを削除してしまうようなもの）。
  • パートB（偽造されたものはないか？）： エディターが、元の内容にはなかった新しい事実を付け加えてしまわなかったか？（伝記の校閲者が架空の登場人物を追加してしまうようなもの）。
  • システムは両方向からチェックを行い、医師の元の事実が安全であり、かつ新しい嘘が捏造されていないことを保証します。

4. 研究結果

研究者たちはこれをさまざまな異なるAIモデルでテストし、明確なパターンを発見しました。

• 生成よりも編集の方が優れている： AIがゼロからメッセージを書いた場合、非常に温かみはあるものの、医師の具体的な事実のほとんどを失ってしまいました（詩的に聞こえるように物語全体を変えてしまう翻訳者のようです）。一方で、AIが医師のメモを「編集」した場合、ほとんどすべての事実（90%以上）を保持しながら、より温かい響きにすることができました。
• 「厳格なエディター」が最適： 彼らは2種類の編集指示を試しました。
  • 緩い指示： AIは多くの温かさを加えましたが、小さな事実を捏造し始めました。
  • 厳格な指示： AIに対し「温かさだけを加え、事実は変更しないこと」と指示しました。このバージョンが最も優れた結果となりました。事実は安全に保たれつつ、十分に気づかれるレベルの共感が加えられました。
• 短いメモは難しい： 医師が非常に短いメモを書いた場合、一部のAIは、より長く、より親切に見せるために、捏造した詳細で「空白を埋めよう」としました。しかし、最も優れたAIモデル（Gemini）は、事実を捏造することなく、簡潔で心地よい状態を維持することができました。
• 過剰な共感 ＝ 真実の減少： 「極めて共感的であれ」とAIに命じると、ハルシネーション（捏造）が増えることが分かりました。それは、音楽に没入しすぎて、間違った音符を弾いてしまうミュージシャンのようです。適度な共感が、最も理想的なバランス（スイートスポット）です。

5. 結論

本論文は、ヘルスケアにおいて、AIは自律的な執筆者ではなく、協力的な編集者であるべきだと結論付けています。

AIに医学的なアドバイスをゼロから書かせれば、響きは良くても事実が間違っている可能性があります。しかし、AIに医師のメモを「編集」させれば、冷たく事実のみのメッセージを、医学的な真実を失うことなく、温かく人間味のある繋がりへと変えることができます。それは、ロボットにラブレターを書かせる（リスクがある）のと、自分のラブレターを磨き上げるのをロボットに手伝ってもらう（安全で効果的である）の違いなのです。