High-Risk Memories? Comparative audit of the representation of Second World War atrocities in Ukraine by generative AI applications
この論文は、生成 AI が第二次世界大戦中のウクライナにおける大量虐殺などの「高リスクな記憶」を扱う際、事実の歪曲や道徳的選択など、歴史の誤表現という重大なリスクを伴う可能性を、3 つの一般的な生成 AI アプリケーションの実証的監査を通じて検討し、将来の記憶実践への示唆を論じています。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
この論文は、**「生成 AI（チャットボットなど）が、戦争や虐殺といった『重い歴史』をどう扱っているか」**を調査したものです。
特に、第二次世界大戦中のウクライナで起きた悲劇（ホロコーストやポーランド人・ウクライナ人への虐殺など）について、AI が事実を正しく伝えているか、あるいは間違った情報を広めていないかをチェックしました。
この難しい研究を、**「AI という『超能力を持ったが、歴史の教科書を読んだことのない、非常に口が上手い語り部』」**というキャラクターに例えて、わかりやすく説明します。
📖 物語：歴史の語り部「AI」の危険な嘘
1. 調査の目的：なぜ「重い歴史」が危険なのか？
歴史には、人々の感情を揺さぶり、政治的に利用されやすい「高リスクな記憶（虐殺や戦争の悲劇）」があります。
AI は、これらの話題について質問されると、**「事実を捏造する（ハルシネーション）」か、「勝手に道徳的な教訓を付け加える」**という、2 つの大きな問題を起こすことがわかりました。
🌰 アナロジー：
Imagine you ask a storyteller, "What happened at this tragic battle?"
- 正しい語り部： 「1941 年、3 万 3000 人が殺されました。記録に基づきます。」
- AI という語り部： 「ええと、たしか 1941 年か 1942 年だったかな？3 万人から 6 万人くらい？あ、でも実はその日、見知らぬ老人が『私はこう見た！』と証言していましたよ（実はその老人は存在しません）。」
AI は「事実を覚える」のではなく、「次に来る言葉の確率」で話を繋げるため、**「もっともらしい嘘」**を平気で作り出してしまいます。
2. 発見その 1：半分は嘘、半分は「わからない」
研究者は、Bing Chat、Google Bard、ChatGPT の 3 つの AI に、ウクライナでの虐殺について 74 種類の質問をしました。
- 結果： 答えが「人間の専門家の基準」と完全に一致したのは、たったの半分（50%）程度でした。
- 言語による差： 英語ではそこそこ正解しましたが、ウクライナ語やロシア語では正解率が激減しました。
- 特に、ウクライナ語で「バンデラ派（ウクライナ民族主義者）」について聞くと、AI は混乱して間違った情報を言ったり、答えられなくなったりしました。
- なぜ？ 英語のデータは多いですが、ウクライナ語やロシア語の歴史データは AI の「脳（学習データ）」に足りていないからです。
🌰 アナロジー：
AI は「英語の図書館」には本が山ほどありますが、「ウクライナ語の図書館」は本がボロボロで、ページが抜けています。
英語で聞けば「それっぽい答え」が出ますが、ウクライナ語で聞くと、本がないので**「適当にページを繋げて、嘘の物語を作ってしまう」**のです。
3. 発見その 2：AI は「道徳の先生」になりたがる
AI は単に事実を間違えるだけでなく、**「道徳的なお説教」**を勝手に付け加えることもありました。
- ChatGPT： 「全体を責めるのは不公平だ」「複雑な歴史を単純化してはいけない」といった、慎重な警告をよく出しました。
- Bard： 「これは暗い歴史の章だ」「憎しみを許さないよう学びましょう」といった、感情を込めた教訓を文末に付け加えることが多かったです。
- 問題点： この「お説教」は、質問する言語や話題によってバラバラでした。
- ある言語では「悲劇だ」と嘆き、別の言語では「ただの事実」と淡々と話す。
- AI 自身が「道徳的な権威」を持っているかのように見せてしまうため、ユーザーは「AI が正しい判断を下している」と誤解しやすいのです。
🌰 アナロジー：
AI は、物語の最後に**「この話から何を学ぶべきか？」というメッセージを添えるのが好きです。
しかし、そのメッセージは「その時の気分（言語や設定）」によってコロコロ変わります**。
英語では「平和を愛しましょう」と言いますが、ウクライナ語では「過去の過ちを繰り返すな」と言ったり、ロシア語では何も言わなかったり。
AI は「道徳の先生」を演じていますが、実はその教科書もバラバラで、信頼できる先生ではありません。
4. 結論：AI は「過去」を勝手に作り変えている
この研究が示しているのは、**「AI は歴史を正しく伝えるツールにはまだならない」**ということです。
- 嘘をつく： 存在しない証言や、間違った数字を平気で言います。
- 二重基準： 言語や話題によって、事実の伝え方や道徳的な評価が一定ではありません。
- 危険性： 特に、ウクライナのような「政治的に争いがある歴史」や、データが少ない言語では、AI が**「存在しない過去（嘘の歴史）」**を大量に作り出し、それを SNS などで広めてしまうリスクが高いです。
🌰 最終的なメッセージ：
生成 AI は、歴史という「重たい箱」を扱うには、まだ**「子供」です。
子供に「戦争の話を教えて」と頼むと、面白い嘘をついたり、自分の感想を混ぜて話したりします。
私たちは AI を使うとき、「これはあくまで『可能性のある話』であり、教科書ではない」**と常に意識し、特に「重い歴史」については、必ず専門家の記録（人間が書いた本や資料）で確認する必要があるのです。
要約すると：
AI は歴史の専門家ではなく、**「確率で言葉を繋げる、口が上手い嘘つき」です。特に戦争や虐殺のようなデリケートな話題では、「半分は嘘」を言ったり、「言語によって道徳観が変わる」**という危険な側面があります。AI の話を鵜呑みにせず、人間の専門家の知見を頼りにしましょう。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。