Shaping the Future of Generative AI for Black Communities: A Frame Analysis of Public Discourse and Empirical Scholarly Research
本文通过对91项实证研究和28个公共话语资源进行框架分析，揭示了一种关键性的错位，即关于生成式人工智能的学术研究将“黑人性”简化为技术变量，而公共话语则在探讨系统性成因，并据此指出这两个语域在结构上都受到反黑人主义的影响，从而抹杀了黑人的认识论主体性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个计算机可以像人类交谈一样轻松地撰写故事、生成图像并回答问题的世界。这项被称为生成式人工智能的技术，正迅速从科幻小说走向学校、医院和职场。但随着这些工具成为日常生活的一部分，一个关键的问题随之而来：它们在为谁服务，又让谁掉队了？几十年来，研究人员一直知道计算机系统会习得其创造者的偏见，往往对有色人种不公平。这项新研究提出了一个更深层的问题，即我们如何讨论这些问题。它观察了两类试图解决这些问题的群体：在新闻中写作的记者与社区领袖，以及在学术期刊上发表论文的科学家。研究人员想要了解这两组人看待同一个问题的方式是否一致，还是说他们完全在使用不同的语言。
这项由学者和行业研究人员共同开展的研究，旨在比较公众如何理解人工智能对黑人社区的危害，以及科学家如何研究这些相同的危害。他们收集了两组大型文本进行分析。第一组包含28份公共资源，如新闻文章、评论文章和智库报告，代表了公众和媒体讨论这些议题的方式。第二组是对2010年至2025年间发表在主要计算机科学会议上的91篇科学论文进行的系统性回顾。团队使用了一种称为“框架分析”的方法来阅读这些文本。这种方法不仅仅是统计词频，而是观察一个故事是如何构建的。它提出了四个具体问题：问题是如何定义的？原因被识别为什么？情况的道德判断是什么？以及提出了什么样的解决方案？通过将这一视角应用于新闻和科学领域，研究人员得以精确绘制出这两个世界在哪里汇合，又在哪里分道扬镳。
研究结果揭示了公众看待该问题的方式与研究人员试图解决问题的方式之间存在显著脱节。在公共话语中，叙事是清晰且具有结构性的。当记者和社区领袖讨论人工智能造成的伤害时，他们几乎总是指向深刻的历史根源。他们将问题描述为数世纪以来系统性种族主义和不公平政策塑造社会的结果。他们提出的解决方案同样宏大，呼吁政府监管、改变招聘实践以及制定新的法律来保护社区。他们将技术视为一面反映破碎社会的镜子，并认为修复这面镜子需要修复社会本身。
相比之下，科学文献讲述了一个截然不同、也狭隘得多的故事。研究人员发现，绝大多数的91篇学术论文几乎完全聚焦于技术性的修复。当科学家识别出一个问题时，他们很少将历史或社会视为诱因。相反，他们将问题归因于用于训练计算机模型的训练数据。他们认为偏见之所以存在，是因为训练数据存在缺陷。因此，他们的解决方案几乎完全是技术性的：他们提议创建更好的数据集、编写新的代码来检测错误，或者调整算法。当公共话语呼吁法律和社会的变革时，科学论文则是在呼吁更好的工程技术。这项研究表明，这并非偶然或简单的观点差异，而是表明科学界在很大程度上止步于解决导致偏见存在的深层结构性条件。
或许最令人震惊的发现是两组人群达成的共识，以及他们共同忽略的东西。新闻文章和科学论文都一致认为，最显见的伤害是“表征性伤害”（representational harm）。这指的是这些系统扭曲或抹除黑人身份的方式，例如生成肤色较浅的黑人图像，或在文本中使用刻板印象。由于两组人都如此高度关注这种特定类型的伤害，他们都提出了旨在使图像和文字更加准确的解决方案。然而，在这样做的时候，两组人都很大程度上忽略了一个至关重要的视角：即黑人社区应当是这些技术的设计与决策的领导者。研究发现，在新闻中，黑人常被描绘成需要保护的受害者；而在科学论文中，他们则被视为被研究的对象或被测量的统计数据。无论是记者还是科学家，都没有一致地将黑人社区界定为决定这些强大工具如何构建及治理的专家或架构师。
研究人员认为，这种对“表征”的共同关注虽然重要，但也是一个陷阱。通过仅仅专注于让技术看起来更公平或更准确，两组人都错失了大局。他们试图在不质疑制造机器的规则的情况下，去修复机器的输出。这项研究表明，真正的进步不仅需要更好的数据或新的法律，更需要权力的根本转移。它呼吁一个这样的未来：在这个未来里，黑人社区不仅是被咨询的对象，更被承认是决定这些技术应做什么以及如何使用的主要权威。除非科学界超越技术微调去参与社会的结构性现实，且公众话语超越将黑人视为技术的被动接受者，否则人工智能的承诺与其现实影响之间的差距将始终难以弥合。研究结论指出，弥合这一差距需要一种新的思维方式，即不再将黑人的知识与经验视为一个待修正的变量，而是将其视为构建更美好未来的基石。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。