💬 NLP

AI Application Gives Users Real-Time Feedback on the Level of Peace in the Social Media Videos They Watch

本文介绍了一种利用大语言模型实时分析 YouTube 视频转录文本的 AI 应用，该应用成功测量了与和平相关的五个社会维度并向用户提供其媒体饮食方面的反馈，其表现优于传统的感性分析，并展示了基于书面文本训练的模型在应用于口语时的局限性。

原作者： P. Gilda (Columbia University), P. Dungarwal (Columbia University), A. Thongkham (Columbia University), E. T. Ajayi (St John's University), S. Choudhary (Columbia University), T. M. Terol (Columbia Un

发布于 2026-06-10

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： P. Gilda (Columbia University), P. Dungarwal (Columbia University), A. Thongkham (Columbia University), E. T. Ajayi (St John's University), S. Choudhary (Columbia University), T. M. Terol (Columbia University), C. Lam (Columbia University), J. P. Araujo (Columbia University), M. McFadyen-Mungalln (Columbia University), L. S. Liebovitch (Columbia University), P. T. Coleman (Columbia University), H. West (Columbia University), K. Sieck (Toyota Research Institute), S. Carter (Toyota Research Institute)

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你每天摄入的新闻就像是一顿饭。几十年来，我们一直被告知要检查食物的成分以确保其健康。但如今，我们大多数人通过社交媒体视频（如 YouTube）而非经过编辑的报纸来获取新闻。这篇论文的作者提出了一个问题：我们听到的这些视频词汇中，其“营养价值”是多少？ 它们是在喂养我们的和平，还是在喂养冲突？

他们开发了一个名为 BAIT 的数字工具（一个 Chrome 浏览器扩展程序），它充当了视频的“和平营养标签”。当你观看视频时，BAIT 会实时分析所说的词汇，并根据内容的“和平程度”或“冲突驱动程度”给出评分。

以下是他们如何构建它的，用简单的语言解释如下：

1. 失败的配方：尝试使用“书面”食谱

首先，团队尝试教计算机通过大量的书面新闻文章来识别和平。

类比： 想象一下，试图通过仅仅阅读书面的食谱卡片，来教一位厨师识别汤的味道。计算机很好地学会了某些书面词汇（如“外交”或“停战”）通常出现在关于和平国家的文章中。
结果： 当他们在书面新闻上进行测试时，计算机表现得非常出色，准确率达到了约 97%。
问题： 当他们尝试使用这种相同的“书面食谱”来分析口语化的视频转录文本时，它失败得很惨。它会将几乎所有的视频都标记为“和平的”，即使事实并非如此。
原因： 作者意识到，口语与书面文本是完全不同的物种。 在镜头前说话的新闻主播会使用填充词、停顿、情感语调和对话中的奇思妙想，这些在印刷文章中是不存在的。计算机就像是一个试图仅凭菜单来评判一场现场烹饪表演的厨师；它错过了真正的风味。

2. 新方法：“情境味觉测试员”

既然“书面食谱”行不通，团队便改变了策略。他们不再寻找特定的关键词，而是要求计算机理解对话的氛围和语调。

他们专注于由数十年社会科学研究确定的五种特定的“风味”：

同理心 vs. 轻蔑： 说话者是友善的还是嘲讽的？
新闻 vs. 观点： 他们是在报道事实，还是仅仅在宣泄情绪？
促进 vs. 预防： 他们是在谈论建设性的事物，还是仅仅在试图阻止坏事发生？
创造力 vs. 秩序： 对话是对新想法持开放态度，还是僵化且具有控制欲的？
细微差别 vs. 简化： 他们看到了灰色地带，还是仅仅呈现黑白分明的极端情况？

为了衡量这些指标，他们测试了两类 AI：

“词频计数器”（情感分析）： 这个工具只是统计快乐或悲伤的词汇。它就像一个只能测量温度却不知道现在是晴天还是暴风雨的温度计。它的表现非常糟糕（几乎是在随机猜测）。
“情境阅读器”（大语言模型）： 这些是先进的 AI，它们可以阅读整个段落并理解词汇背后的“故事”。它们充当了一位成熟的美食评论家，能够理解说出“这项政策是一场灾难”时，带有讽刺意味与带有真实愤怒之间的区别。

3. 结果：“情境阅读器”胜出

团队让一组人类专家（和平研究人员）观看 52 个视频并根据那五种“风味”进行评分。然后，他们将人类评分与 AI 评分进行了对比。

“词频计数器” AI 几乎不比抛硬币好多少。
“情境阅读器” AI（特别是最新的模型） 约有 60% 的时间判断正确。
类比： 这是一个巨大的胜利。这意味着 AI 现在几乎能像人类专家一样理解视频的“语调”，而不仅仅是单词。它能分辨出一段激烈的辩论虽然依然保持尊重（和平），但与一段听起来很平静却充满了隐藏轻蔑（不和平）的演讲之间的区别。

4. BAIT 现在的功能

最终产品 BAIT 是一个位于你 YouTube 视频旁边的浏览器扩展程序。

对于观众： 它为你提供关于“媒体饮食”的实时反馈。它帮助你意识到：“噢，过去一小时里我一直在看充满轻蔑和简化的视频。”其目标是提高你的自我意识，让你可能会选择观看更有建设性的内容。
对于创作者： 它为视频制作者提供关于其内容语调的反馈，帮助他们了解他们的言辞在受众心中留下的印象。

核心结论

论文声称，虽然我们还无法完美地衡量和平，但我们终于建立了一个能够倾听口语视频并理解其情感语调的工具，其表现远优于以往的工具。通过使用能够理解情境（而非仅仅是关键词）的先进 AI，我们现在可以开始衡量所看视频的“和平程度”，并希望通过了解我们正在消费的内容，能帮助我们在现实生活中表现得更加和平。

技术摘要：社交媒体视频中“和平言论”的实时测量

问题陈述
本文探讨了全球人口对社交媒体视频（如 YouTube、Facebook）作为主要新闻来源的日益依赖，并指出这种语言的语调和内容在引发或解决冲突中起着至关重要的作用。虽然现有的工具可以分析“仇恨言论”或政治偏见，但缺乏衡量“和平言论”（即强化和平社会进程的语言）的机制。作者提出，“我们所见即我们所成”（We become what we behold），暗示接触特定的语言语调会影响现实世界的行为。核心技术挑战在于开发一个能够实时量化非结构化口语视频转录文本中这些和平相关维度的系统，而在这一领域，传统的基于文本的模型历来表现不佳。

方法论
作者开发了 BAIT，这是一个 Chrome 扩展程序应用，利用双管齐下的方法构建其后端分析引擎：

基于新闻文本的有监督机器学习（基准）：
- 数据： 一个包含来自 18 个国家约 70 万篇新闻文章的数据集（News on the Web 语料库），这些文章根据外部指数（如全球和平指数）进行了和平等级标记。
- 模型： 训练了三种神经架构：全连接前馈网络、卷积神经网络（CNN）以及带有最大池化的改进型 CNN。
- 过程： 使用 OpenAI 的 text-embedding-3-small 对文本进行嵌入，并将其分类为“高和平”或“低和平”。
- 结果： 这些模型在留出集新闻文本上达到了约 97% 的准确率，在不同的新闻数据集上达到了约 70% 的准确率。然而，它们无法泛化到 YouTube 转录文本，将 95–100% 的视频内容分类为“高和平”，这表明书面新闻语法与转录口语之间存在根本性的脱节。
通过 LLM 实现的社会科学维度（主要方法）：
- 框架： 意识到缺乏针对视频转录文本的外部和平指数，作者根据 59 项社会科学研究定义了五个社会维度：同理心-蔑视（compassion-contempt）、新闻-观点（news-opinion）、促进-预防（promotion-prevention）、创造力-秩序（creativity-order）以及细微差别-简化（nuance-simplification）。
- 模型：
  - 情感分析 (SA)： 测试了 Google 的 GoEmotions（基于 RoBERTa），但发现其由于上下文窗口限制、高中性基准以及情感波动被“平均化”的问题，表现不足。
  - 大语言模型 (LLMs)： 作者转向了上下文感知型 LLM（Gemini 2.5/3 Pro, GPT-4o/5.1）。他们采用了迭代提示工程过程，从复杂的基于新闻的提示转向优化的、适用于对话式转录文本的简化且具有泛化能力的提示。
- 地面真值（Gold Standard）： 通过让三位专家（和平研究员和冲突专家）独立对 52 个多样化的 YouTube 视频按 1–5 分制在五个维度上进行评分，创建了一个“金标准”数据集。人类评分者之间的信度很高（三个维度的 $r^2 > 0.86$ ）。

关键结果

纯文本模型的失败： 在书面新闻文本上训练的神经网络无法准确预测口语视频转录文本中的和平水平，这证实了书面媒体与口语媒体的语言属性存在显著差异。
LLM 的优越性： LLM 显著优于词级情感分析。SA 模型与人类编码员的相关性较弱（ $r^2 \approx 0.03$ ），而 LLM 在五个社会维度上的相关性达到了 $r^2 \approx 0.60$ 。
模型表现： Gemini 3 Pro Preview 在所有维度上均表现出与人类编码员最高的关联性，尤其是在极具挑战性的“细微差别-简化”类别中。
上下文推理： 结果表明，和平评估需要上下文推理（语调、框架、修辞结构），而非单纯的词汇情感或关键词检测。

核心贡献

BAIT 应用： 部署了一个功能性的 Chrome 扩展程序，为用户和内容创作者提供关于其媒体摄入“和平程度”的实时反馈。
LLM 的实证验证： 证明了现代 LLM 可以有效地规模化地实现对视频转录文本中复杂社会维度的类人分析，并达到与人类评分者间信度相当的统计一致性。
维度框架： 将五个具体的社会科学维度（同理心、新闻、促进、创造力、细微差别）操作化为可衡量的“和平言论”指标。
开放文档： 作者公开记录了其分析引擎和人类测试结果，使其工作区别于其他专有或不透明的内容审核工具。

意义与主张
本文声称 BAIT 是一个能够大规模测量“和平言论”的基础分析引擎。作者认为，通过让用户意识到其媒体消费的情感和社会语调，该工具有可能影响现实世界中向更积极的社会互动发展的行为。

作者对其未来的影响保持了审慎的态度。他们并未声称该工具已证明能改变行为，而是指出，能够测量这些维度是测试“自我意识是否导致行为改善”这一假设的必要第一步。他们设想了一个潜在的“良性循环”：用户意识驱动对高和平内容的的需求，从而激励创作者和平台生产此类内容，但他们将其界定为有待通过行为测试来研究的未来可能性，而非当前的现实。这项工作被呈现为将 AI 应用于和平研究方面的范式突破，弥合了社会科学理论与实时数字媒体分析之间的鸿沟。