Aspirational Affordances of AI
本文引入了“愿景性可负担性”(aspirational affordances)和“愿景性伤害”(aspirational harm)的概念,旨在论证人工智能系统通过扭曲个体赖以想象未来可能性的解释性资源,构成了独特的心理风险,因此有必要建立一个新的框架,以评估这些超越传统表征性和分配性伤害的生态性及集中性影响。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下在脑海中构思未来的那份静谧的内在工作。这不仅仅是白日梦;这是一个收集工具、故事和图像的过程,通过这些素材,我们得以勾勒出自己可能成为的样子。我们并非在真空中创造这些可能性,而是从周围的世界中汲取灵感:从我们阅读的书籍、观看的电影、看到的广告以及进行的对话中。这些共享的文化材料充当了一种精神上的“脚手架”,帮助我们构建关于什么是可能的、什么是值得追求的、甚至什么是值得奋斗的观念。当这些材料丰富且多样时,我们的想象力便有空间成长;当它们狭隘或扭曲时,我们对未来的愿景就会萎缩。这就是研究人员所称的“抱负性可供性”(aspirational affordances)——这个术语简单地描述了我们可获得的资源如何塑造了我们追求新目标的能力。
现在,请思考人工智能如何正在迅速改变这些资源的生成与分享方式。人工智能系统不再仅仅是处理数据的工具;它们正在成为我们故事的作者、图像的策展人和个人成长的引导者。它们撰写职业建议,生成未来的图像,并提供陪伴。随着这些系统渗透进我们的生活,一个关键问题随之而来:当我们用来做梦的工具本身被少数强大的算法控制时,我们想象不同未来的能力会发生什么变化?这是来自东北大学(Northeastern University)的 Sina Fazelpour 和 Meica Magnani 的一篇新论文的核心关切。她们认为,我们需要超越通常关注的 AI 问题——例如它是否公平对待人类或是否正确分配资源——转而审视它如何悄无声息地限制我们对自身及社会可能性的认知。
作者引入了一个特定的概念来解释这一现象:抱负性可供性。可以将它们想象成文化提供的心理“把手”或“抓点”,让我们能够抓住一个关于“我可能成为谁”的新想法。就像物理阶梯为有攀爬能力的人提供了攀爬的可供性一样,一个文化故事或图像也为能够理解它的人提供了某种形式的抱负。这些可供性并非决定论式的;它们不会强迫我们以特定方式行动。然而,它们确实会让某些路径显得显而易见且触手可及,同时让其他路径显得模糊不清或无法实现。研究人员指出,当 AI 系统生成这些故事和图像时,它们不仅仅是在增加更多内容,而是从根本上改变了我们能够想象的景观。
该论文概述了 AI 对我们抱负的影响为何与传统媒体不同,且更具危险性的三个具体原因。首先,AI 的交互往往是私密的、个性化的且具有对话性的。与公开分享的电影或书籍不同,AI 聊天机器人可能会扮演人生教练或心理治疗师的角色,在单对单的环境中提供量身定制的建议。这种亲密感使得这些建议看起来更加客观,且难以质疑。其次,这种影响是生态性的,这意味着它改变了产生思想的整个环境。AI 现在被用于编写剧本、设计广告和规划城市。这意味着人类汲取思想的源头在到达我们之前,就已经被算法过滤并重塑了。第三,这种权力是高度集中的。少数几家公司控制着生成这些文化资源的主要 AI 系统。当只有少数几种声音在定义未来的故事时,可能性的范围就会缩小,替代性的愿景也面临被抹除的风险。
为了理解这些风险,作者提出了一个新的伤害类别,称为“抱负性伤害”(aspirational harm)。这与更常见的 AI 伤害不同,例如表征性伤害(即某个群体被刻画成刻板或侮辱性的形象)或分配性伤害(即资源分配不公)。抱负性伤害发生在 AI 系统扭曲或削减了可供解释的资源,从而削弱了一个人想象其生活可行路径的能力时。这并不一定关乎受到侮辱或被拒绝工作;而在于无法看到前进的道路。即使一个 AI 系统以尊重的方式描绘一个群体,如果它只展示该群体在狭窄角色中的样子,它仍然可能造成抱噬性伤害,从而关闭了通往其他生存方式的大门。
研究人员用三个具体的例子说明了这一点。在第一个例子中,他们观察了职业指导。一个 AI 系统可能会尝试通过展示成功的女性科学家图像来帮助女性进入科学技术领域。然而,如果该系统只呈现一种单一且僵化的成功原型——例如一种需要对敌对环境表现出极端韧性的原型——它可能会在无意中抹除了其他有效的科学家生存方式。它用一个单一且狭隘的剧本取代了多样化的可能性,限制了那些可能想要追求不同职业路径的年轻女性的想象力。
在第二个例子中,作者考察了 AI 如何视觉化未来。他们通过要求图像生成 AI 创建一张“2040 年伊朗女学生”的照片进行了测试。现实世界的背景涉及一场争取政治自由和取消强制着装规定的运动。然而,AI 生成的图像完全聚焦于技术进步,如全息平板电脑和生态友好型建筑,而保持了社会和政治现状不变。女孩们仍然戴着头巾,政治限制依然存在。AI 拥有想象未来的力量,但它默认了一个技术在变、而人权不变的版本。这有效地抹除了抗议者的抱负,使他们对自由未来的愿景变得不可见,并由此降低了其对目睹这些图像的人而言的可信度。
第三个例子涉及 AI 如何塑造我们对社会可能性的理解。当 AI 系统被用于总结新闻或回答问题时,它们可以微妙地引导用户倾向于主流观点,同时压制替代性的叙事。如果 AI 一贯地将当前的社会秩序呈现为唯一逻辑或必然的结果,它就能阻碍人们去想象事情可以变得不同。这不仅仅是偏见的问题,这关乎缩小了进行社会变革所需的心理空间。通过让现状显得像是唯一的现实,这些系统可以侵蚀推动变革所需的希望。
论文总结道,这些伤害是真实存在的,需要紧急关注。作者并不是说 AI 是一个会偷走我们梦想的怪物,也不是在声称破坏是不可避免的。相反,她们认为我们必须认识到这些系统在塑造我们思考未来所使用的资源方面具有独特的权力。危险在于数百万次个性化交互和算法选择所产生的悄无声息、累积性的效应,这些效应正缓慢地收窄我们相信可能性的地平线。通过将“抱负性伤害”识别为一个独立的类别,研究人员希望开启一场新的对话,探讨如何设计那些能够扩展而非限制我们想象力的 AI 系统。其目标是确保随着这些技术与我们的生活更加融合,它们能继续作为抵抗与变革的工具,帮助我们构想并建设一个真正向所有人开放的未来。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。