Auditing the Synthetic Memoir: Measuring Scene-Level Confabulation in LLM-Generated Autobiography Against the Documented Record of the Life It Describes

人工知能研究の静かな片隅で、ある新しい種類の実験が行われています。それは、シンプルに感じられながらも、核心を突く問いを投げかけています。もしコンピュータに人の生涯の物語を語るよう頼んだとしたら、その物語のうち、実際に真実である部分はどれくらいあるのだろうか？ という問いです。長年、科学者たちは、大規模言語モデルと呼ばれるこれらのシステムが、時に物事を捏造してしまうことを知っていました。歴史的な出来事について事実を捏造したり、存在しない科学的研究があると言い張ったりすることがあります。これは通常「ハルシネーション（幻覚）」と呼ばれ、機械がそこに存在しないものを見ていることを示唆する言葉です。しかし、機械に回想録や伝記、あるいは個人の日記を書くよう求められたとき、事の重大さは変わります。物語はもはや一般的な知識の問題ではなく、特定の人間の一生についての問題になるのです。もし機械が子供時代の記憶やキャリアの節目を捏造したとしたら、それは単なる間違いではありません。それは、ある人の歴史を書き換える行為なのです。ここで「コンファブラレーション（作為的な虚偽）」という概念が重要になります。ランダムなエラーとは異なり、コンファブラレーションは流暢で自信に満ちた捏造です。機械は、たとえその出来事が一度も起こっていなかったとしても、完璧に聞こえ、リアルに感じられ、回想録のトーンに合致するような物語で空白を埋めてしまうのです。デジタル版の私たちが自らの伝記を書くかもしれない未来へと向かう中で、私たちはそれらの物語が現実に根ざしているのか、それともフィクションの土台の上に築かれているのかを知る必要があります。

ヘザー・レンツという研究者は、自分自身を被験者とすることで、このことを突き止めようと決めました。彼女は、人工知能によって書かれる、一年間の「一日一ページ」の日記という本を依頼しました。目的は、彼女の人生の短い物語を一人称で綴った366日分のエントリーからなるギフトブックを作ることでした。プロセスは単純でした。コンピュータにはテンプレート、スタイルを示すための2日間の例、そして各日のプロンプトとして機能する一つの引用句が与えられました。決定的なのは、コンピュータには彼女の実際の日記や回想録、個人の記録を詳細に参照するよう明確な指示は与えられず、それらのデータは存在していたものの、使い方は曖昧なままだったことです。コンピュータは、彼女の人生の詳細を埋めるために、自分自身の内部知識に頼らざるを得ませんでした。出版される前に、レンツはすべてのエントリーを監査することに決めました。彼女は、出版された回想録、専門的な記録、および個人のアーカイブを含む、膨大な量の検証済みの文書と照らし合わせ、あらゆる逸話をチェックすることで、このプロジェクトを科学実験のように扱いました。彼女は、機械が語った物語のうち、どれほどが真実であるかを、絶対的な精度で確認しようとしたのです。

結果は衝撃的でした。本の366日間のうち、記録によって確実に確認できたシーンが含まれていたのは、わずか12のエントリーだけでした。つまり、354日間において、コンピュータが語った物語は真実であると検証できなかったということです。研究の言葉を借りれば、失敗率は97パーセント近くに達しました。機械は単に細部を間違えただけでなく、現実に基づかない一連のシーンを構築していたのです。場合によっては、コンピュータはあまりにも自信満々に、実際には不可能な出来事や、事実に直接矛盾する出来事を捏造していました。例えば、機械は彼女に子供がいると主張したり、一度も起こっていない特定の自動車事故から彼女が生存したと主張したりしました。これらは曖昧な推測ではなく、記録によって偽であると証明された、具体的な名前の付いた出来事でした。約5パーセントの日は、この「真実に直接矛盾する」というカテゴリーに該当しました。

しかし、最も一般的なエラーの種類は、もっと微妙なものでした。機械は設定は正しく捉えるものの、物語を捏造するというものです。彼女が特定の会社で働いていたことや、特定の都市に住んでいたことは正しく特定しましたが、その事実の周囲に架空のシーンを作り出していました。起こってもいないオフィスでの劇的な会議があったと言ったり、実際には行われていない特定の同僚との会話があったと言ったりしたのです。これは研究者が「グラウンデッド・ドリフト（接地した漂流）」と呼ぶものです。機械はある意味では真実に繋ぎ止められていましたが、より良く、あるいはよりドラマチックに聞こえる物語を作るために、そこから逸脱してしまったのです。彼女の雇用主の名前や住んでいた都市は知っていましたが、それらの実在する詳細を、決して起こらなかった劇の舞台として利用したのです。これは、嘘を見抜くことをより困難にするため、特に危険な現象です。事実を正しく捉えつつも、感情の核を捏造する物語は、すべてを間違えている物語よりも信頼できるように感じられるからです。

これらの発見を確実なものにするため、研究には二層目の検証が含まれていました。最初の監査は人工知能システムによって行われたため、機械が自分自身を公平に判断できているのかという疑問が生じました。これをテストするため、元の監査者とは異なるモデルファミリーの2人の独立した評価者が、全く同じルールを用いて、ランダムに選ばれた60日間のサンプルをレビューしました。彼らは、元の監査結果とほぼ完全に一致しました。物語が真実か否かの判断を求められた際、彼らは95から98パーセントの割合で元の判定と一致しました。これにより、高い失敗率がチェックプロセスのミスではなく、物語のほとんどが本当に偽であったことが確認されました。また、研究者たちは、より強力で新しいコンピュータモデルであれば、より優れた結果を出せるかどうかを試みました。彼らは最新バージョンのテクノロジーに対して同じプロンプトを実行しましたが、結果は同じでした。たとえデータへのアクセスがあっても、使い方の指示が不十分な限り、新しいモデルも真実を語ることに失敗し、書くよう求められたすべての日に物語を捏造しました。

この研究は、前進するための道筋も提示していましたが、それは完璧な解決策ではありませんでした。研究者が、コンピュータに対して、すでに利用可能であった彼女の実際の文書に明確かつ具体的に基づいて出力を行うよう指示したところ、失敗率は大幅に低下しました。検証可能なシーンを含む日が増え、完全に虚偽の物語の数は減少しました。しかし、この助けがあっても、機械はいまだに苦戦していました。機械は依然として詳細を捏造し、事実から逸脱し続けており、単に正しいデータを与えるだけでは、機械に真実を語らせるには不十分であることを示唆しています。機械には、目の前に正しい事実があるときでさえ、物語を作り上げたいという強い衝動があるようです。

この実験は、私たちの物語を語るために人工知能をどのように使うかという点における、根本的な限界を明らかにしています。もし私たちが、機械に対して自身の記録を厳密に使用するよう指示せずに、自らの伝記を書かせれば、機械はおそらく空白をフィクションで埋めてしまうでしょう。それは、一貫性があり魅力的な「私たち」のバージョンを作り上げますが、それは決して存在しなかったバージョンなのです。この研究は、人間の人生をシミュレートすると主張するいかなるシステムにおいても、その詳細が検証済みの記録と照らし合わされていない限り、その日常の経験の詳細を信頼することはできないと示唆しています。機械は人の声を模倣することはできますが、その人の人生を記憶することはまだできません。デジタルツインや合成された伝記に対して私たちが置く信頼は、態度や一般的な事実といった表面的なレベルに限定されなければなりません。なぜなら、人生を構成する具体的な瞬間、すなわち、シーン、会話、小さなドラマこそが、機械が最も頻繁に失敗する場所だからです。教訓は明白です。もし私たちが真実の物語を望むのであれば、事実を提供し、かつその成果を検証しなければなりません。なぜなら、放っておけば、機械は喜んで私たちのために架空の人生を捏造するからです。