Whose story gets told? ChatGPT, collective memory, and ethical narratives in the age of Artificial Intelligence

技术摘要：“谁的故事被讲述？ChatGPT、集体记忆与人工智能时代的伦理叙事”

问题陈述
本文探讨了大型语言模型（LLMs），特别是 ChatGPT，在数字时代作为集体记忆的媒介和共同创造者所带来的伦理影响。虽然数字技术改变了记忆存储和获取的方式，创造了“影子档案”并实现了内容的“生产者-消费者”（prosumer）模式，但它们也带来了关于历史叙事准确性和中立性的重大风险。作者认为，AI 系统不仅仅是在检索历史事实，而是通过算法逻辑、训练数据偏差和语言框架在积极地重构事实。核心问题在于，这些系统可能通过事实错误、遗漏、叙事中性化以及算法偏差来扭曲集体记忆，从而在缺乏充分的人类监督或批判性推理的情况下，将复杂的历史简化为简化的、去政治化的或被操纵的输出。

研究方法
本研究采用了一种在 2024 年 6 月至 8 月期间进行的多元语言定性研究设计。研究将 ChatGPT-4o 既视为分析对象，也视为研究工具，将其概念化为一个积极参与共同构建叙事的“数字行动者”（digital actant）。

• 案例选择： 研究聚焦于四个具有历史意义的多国冲突，以确保文化和时间上的多样性：前南斯拉夫战争、巴以冲突、葡萄牙在非洲的殖民战争以及越南战争。
• 数据收集： 对每个冲突应用了一套由八个标准化问题组成的结构化方案。这些问题针对主要的开端/结束事件、参与者、受害者、起因和后果。
• 多元语言框架： 提示词以与各冲突相关的国家语言（克罗地亚语、塞尔维亚语、阿拉伯语、希伯来语、葡萄牙语、越南语）以及作为全球参考点的英语进行输入。
• 分析策略：
  1. 专家验证： 由专门研究各冲突的历史学家审查响应的事实准确性。
  2. 主题编码： 作者进行开放式编码，以识别模式、异常和空白。
  3. 分类： 将问题系统化为跨越三个层级的 十个 分析类别：
     • 响应层面（Response-level）： 不准确性、关键信息遗漏、语境错位。
     • 访谈层面（Interview-level）： 细节不均、中性化、简化。
     • 事件层面（Event-level）： 不一致性（跨语言）、偏见化呈现。
       (注：论文共确定了十个不同的类别，详见表 1。)
  4. 比较分析： 比较不同语言和冲突之间的响应，以检测事实范围和规范性框架的差异。

主要结果
分析表明，ChatGPT-4o 并非被动地复制历史内容，而是积极地重构它，且经常引入系统性的扭曲。研究确定了 十个 特定的错误和偏差类别：

1. 不准确性（Inaccuracy）： 模型生成了错误的日期、名称和事件，包括虚构的引用（例如，误报美国承认克罗地亚或坎达拉战役的日期）。
2. 关键信息遗漏（Omission of Key Information）： 关键的参与者、事件和因果动态经常被跳过，从而创造出在历史上看似合理但并不完整的叙事（例如，遗漏了越南战争中约翰逊政府的决策或南斯拉夫战争中的布里奥尼停战协议）。
3. 语境错位（Contextual Mismatch）： 响应往往缺乏必要的文化、政治或语言背景，使得象征性事件（如武科瓦尔的陷落）变得模糊不清。
4. 细节不均（Uneven Detail）： 叙事表现出不对称的深度；例如，关于越南战争的英语访谈侧重于军事行动，而越南语访谈则侧重于政治转折点。
5. 中性化（Neutralization）： 模型经常使用笼统的语言来淡化特定的行为者或情况，避免对责任承担明确立场（例如，将斯雷布雷尼察大屠杀称为“最黑暗时刻之一”，而非确认的大屠杀）。
6. 简化（Simplification）： 不同的冲突被合并为单一的、扁平化的故事线（例如，将安哥拉、莫桑比克和几内亚比索的葡萄牙殖民战争合并为一个叙事）。
7. 不一致性（Inconsistency）： 同样的问题根据语言的不同会产生根本不同的答案。对于南斯拉夫战争，“最后一个重要事件”在英语中被确定为奥赫里德协议，在克罗地亚语中是代顿协议，在塞尔维亚语中是拉特科·姆拉迪奇的审判，且时间范围各异（1990 年代 vs. 延伸至 2022 年）。
8. 偏见化呈现（Biased Portrayal）： 特定语言的输出倾向于特定的国家视角。克罗地亚语输出将“风暴行动”框架为合法的主权恢复，同时遗漏了平民流离失所的情况；塞尔维亚语输出则将同一事件框架为受害者身份的来源，同时完全遗漏了斯雷布雷尼察大屠杀。
   (注：完整的类型学包括表 1 中呈现的十个类别。)

主要贡献

• 经验类型学： 本文建立了一个关于 LLM 生成的历史叙事中错误与偏差的 十类别 类型学，超越了对偏差的一般性描述，转向具体的、可观察的扭曲模式（例如，区分“中性化”与“简化”）。
• 多元语言证据： 通过比较母语和英语的响应，研究证明了叙事的变化不仅是由于不同的文化视角，而且是受到提示词语言和底层训练数据的系统性制约。
• 概念框架： 研究将 AI 框架化为不仅是一个中立的档案库，更是一个积极的“记忆守门人”，它基于“数据库逻辑”（碎片化、模块化）而非“叙事逻辑”（连贯、因果）进行运作，导致通过统计预测而非基于来源的解释来重构历史。

意义与主张
作者主张，他们的发现证明了 AI 系统并非中立的观察者，而是受其设计和训练数据的假设、优先级和盲点所影响的积极中介。论文认为，如果没有伦理原则、人类能动性和批判性推理，集体记忆面临着成为算法呈现产物而非批判性反思产物的风险。

研究得出结论，通过 AI 实现的历史知识“民主化”正受到记忆扭曲风险的威胁。研究呼吁在历史解释中使用具备伦理基础的 AI，并强调在评估 AI 系统时采用多元语言、具备语境敏感性的方法。该研究强调，保护过去的复杂性需要防范算法扭曲，并保持人类监督，以确保集体记忆仍然是一个进行争论和批判性参与的空间，而不是一个经过净化的、算法化的输出。