Whose story gets told? ChatGPT, collective memory, and ethical narratives in the age of Artificial Intelligence

技術要約：「誰の物語が語られるのか？ ChatGPT、集合的記憶、そして人工知能時代における倫理的ナラティブ」

問題提起
本論文は、大規模言語モデル（LLM）、特にChatGPTが、デジタル時代における集合的記憶の媒介者および共同創造者として機能することによる倫理的影響について論じている。デジタル技術は、情報の保存とアクセス方法を変容させ、「シャドウ・アーカイブ（影のアーカイブ）」を創出し、「プロシューマー（生産消費者）」型のコンテンツ作成を可能にしてきたが、同時に、歴史的ナラティブの正確性と中立性に関する重大なリスクをもたらしている。著者らは、AIシステムは単に歴史的事実を検索するのではなく、アルゴリズムの論理、学習データのバイアス、および言語的なフレーミングを通じて、歴史を「再構成」していると主張する。核心となる問題は、これらのシステムが、十分な人間の監視や批判的推論なしに、事実の誤認、情報の欠落、ナラティブの中立化、およびアルゴリズムによるバイアスを通じて集合的記憶を歪曲し、複雑な歴史を単純化された、脱政治化された、あるいは操作された出力へと縮小させてしまう潜在的可能性である。

研究手法
本研究は、2024年6月から8月にかけて実施された多言語的な質的研究デザインを採用している。研究では、ChatGPT-4oを分析対象であると同時に研究ツールとしても扱い、それをナラティブを能動的に共同構築する「デジタル・アクタント（デジタルな行為者）」として概念化している。

• ケース選択： 文化および時間的な多様性を確保するため、歴史的に重要な4つの多国籍紛争に焦点を当てた（旧ユーゴスラビア紛争、イスラエル・パレスチナ紛争、アフリカにおけるポルトガル植民地戦争、およびベトナム戦争）。
• データ収集： 各紛争に対して、8つの標準化された質問からなる構造化されたプロトコルを適用した。これらの質問は、主要な開始・終了イベント、当事者、犠牲者、原因、および結果を対象としている。
• 多言語フレームワーク： プロンプトは、各紛争に関連する母国語（クロアチア語、セルビア語、アラビア語、ヘブライ語、ポルトガル語、ベトナム語）および、グローバルな参照点としての英語を用いて実行された。
• 分析戦略：
  1. 専門家による検証： 各紛争を専門とする歴史家が、事実の正確性を検証した。
  2. 主題的コーディング： 著者らは、パターン、異常、およびギャップを特定するためにオープン・コーディングを行った。
  3. カテゴリー化： 問題を、3つのレベルにわたる10個の分析カテゴリーへと体系化した。
     • レスポンス・レベル： 不正確さ、主要情報の欠落、文脈の不一致。
     • インタビュー・レベル： 詳細の偏り、中立化、単純化。
     • イベント・レベル： 不一致（言語間）、偏った描写。
       (注：論文では、表1に詳述されている通り、合計10の明確なカテゴリーを特定している。)
  4. 比較分析： 事実の範囲と規範的なフレーミングにおける相違を検出するために、言語間および紛争間のレスポンスを比較した。

主な結果
分析の結果、ChatGPT-4oは歴史的コンテンツを受動的に複製しているのではなく、能動的に再構成しており、しばしば系統的な歪みを生じさせていることが明らかになった。本研究では、エラーとバイアスの具体的なカテゴリーとして10個を特定した。

1. 不正確さ（Inaccuracy）： モデルは、日付、名称、および出来事に関する誤った情報を生成した（例：クロアチアに対する米国の承認や、カンダラ戦闘の時期の誤記など、架空の参照を含む）。
2. 主要情報の欠落（Omission of Key Information）： 重要な当事者、出来事、および因果関係が頻繁にスキップされ、歴史的にはもっともらしいが不完全なナラティブが作成された（例：ベトナム戦争におけるジョンソン政権の決定や、ユーゴ紛争におけるブリオニ宣言の欠落）。
3. 文脈の不一致（Contextual Mismatch）： レスポンスには必要な文化的、政治的、または言語的な文脈が欠けていることが多く、象徴的な出来事（例：ヴコヴァルの陥落）の意味を不明瞭にしていた。
4. 詳細の偏り（Uneven Detail）： ナラティブには非対称的な深さが存在した。例えば、ベトナム戦争に関する英語のインタビューは軍事作戦に焦点を当てていたが、ベトナム語のインタビューは政治的な転換点に焦点を当てていた。
5. 中立化（Neutralization）： モデルは、特定の当事者や状況を過小評価するために一般的な言語を頻繁に使用し、責任の所在に関する明確な立場を避けた（例：スレブレニツァのジェノサイドを、確定したジェノサイドではなく「最も暗い瞬間の一つ」と言及するなど）。
6. 単純化（Simplification）： 異なる紛争が単一の平坦化されたストーリーラインへと統合された（例：アンゴラ、モザンビーク、ギニアビサウにおけるポルトガル植民地戦争を一つのナラティブに統合）。
7. 不一致（Inconsistency）： 同じ質問であっても、使用される言語によって根本的に異なる回答が得られた。ユーゴ紛争に関して、「最後の重要な出来事」は、英語ではオフルド合意、クロアチア語ではデイトン合意、セルビア語ではラトコ・ムラディッチの裁判と特定され、時間的範囲も異なっていた（1990年代か、あるいは2022年まで及ぶか）。
8. 偏った描写（Biased Portrayal）： 言語固有の出力は、特定の国家の視点を優先していた。クロアチア語の出力は、「オペレーション・ストーム（嵐作戦）」を主権回復のための正当な行動として枠付け、民間人の強制退去については言及しなかった。一方で、セルビア語の出力は、同じ出来事を被害者意識の源泉として枠付け、スレブレニツァのジェノサイドについては完全に省略していた。
   (注：完全な類型学には、原文の表1に示されている通り、10のカテゴリーが含まれている。)

主な貢献

• 経験的類型学： 本論文は、LLMが生成する歴史的ナラティブにおけるエラーとバイアスの10カテゴリーの類型学を確立した。これは、バイアスに関する一般的な主張を超え、具体的な観察可能な歪みのパターン（例：「中立化」と「単純化」の区別）を提示している。
• 多言語による証拠： 母国語と英語のレスポンスを比較することで、ナラティブの差異は単に異なる文化的視点の反映ではなく、プロンプトの言語および基礎となる学習データによって系統的に条件付けられていることを示した。
• 概念的枠組み： 本研究は、AIを中立的なアーカイブとしてではなく、能動的な「記憶の門番（ゲートキーパー）」として位置づけている。AIは「ナラティブ・ロジック（一貫性、因果関係）」ではなく、「データベース・ロジック（断片化、モジュール化）」に基づいて動作しており、その結果、ソースに基づく解釈ではなく、統計的予測を通じて歴史を再構成している。

意義と主張
著者らは、自らの知見が、AIシステムは中立な観察者ではなく、その設計と学習データの仮定、優先順位、および盲点によって形作られる能動的な媒介者であることを示していると主張する。本論文は、倫理原則、人間の主体性、および批判的推論がなければ、集合的記憶が批判的な反映ではなく、アルゴリズムによる表現の産物となるリスクがあることを論じている。

本研究は、AIによる歴史知識の「民主化」が、記憶の歪曲というリスクによって損なわれていると結論付けている。そして、歴史的解釈におけるAIの倫理的な使用を求め、AIシステムを評価する際には多言語的かつ文脈に敏感なアプローチが必要であることを強調している。本研究は、過去の複雑さを維持するためには、アルゴリズムによる歪みを防ぎ、集合的記憶がサンほどのされたアルゴリズムの出力ではなく、異議申し立てと批判的関与のための空間であり続けるよう、人間の監視を維持することが不可欠であることを強調している。