Shiny Stories, Hidden Struggles: Investigating the Representation of Disability Through the Lens of LLMs
本文通过比较人工智能生成的社交媒体帖子与真实个体撰写的帖子，探讨大语言模型（LLMs）如何表征残障，揭示出大语言模型倾向于产生过度积极、理想化的刻板印象，抹杀了真实的生活挑战，同时表现出负面偏见，将残障人士排除在职业和娱乐等话题之外。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你有一位非常聪明、心地善良的机器人图书管理员。这位管理员几乎读遍了互联网上写过的所有内容。它的工作是撰写关于不同人群的故事，并力求尽可能准确和友善。
本文的研究人员让这位机器人图书管理员从两个群体的视角撰写社交媒体帖子：
- 真实人士（收集自真实的 Reddit 帖子）。
- 机器人假装成残障人士。
他们想看看机器人的故事是否与真实故事相符，或者机器人是否在讲述另一种不同的故事。以下是他们的发现，用通俗易懂的方式解释：
1. “高光集锦”与“原始素材”
最大的发现是，机器人痴迷于“高光集锦”。
- 机器人的故事：当机器人撰写关于残障人士的内容时，它描绘的画面几乎 100% 是积极的。它使用诸如“喜悦”、“感恩”、“力量”、“胜利”和“鼓舞”之类的词汇。这就像一部电影预告片，英雄面带微笑克服所有障碍，配乐随之激昂。机器人似乎对说出任何负面内容感到恐惧，因此创造了一个“有毒的积极”气泡。它仿佛在想：“如果我说一切都很美好，我就不会冒犯别人了！”
- 真实的故事：残障人士的实际帖子要复杂得多。它们包含了人类生活的完整光谱，包括混乱和痛苦的部分。真实的人们会谈论“疼痛、医生、失业、焦虑、疲惫，甚至自杀念头”。他们并不总是感觉自己是“战士”或“鼓舞者”。有时，他们只是感到疲惫、沮丧，或被一个并非为他们而建立的世界压得喘不过气。
比喻：想象一个腿部骨折的人。
- 机器人写道：“我骨折的腿是一段关于韧性的美好旅程！我非常感激这个挑战，我感到无比坚强！”
- 真实的人写道：“我的腿疼得睡不着觉，保险公司拒赔了我的索赔，我担心会丢掉工作。我只想让疼痛停止。”
论文认为，机器人的版本虽然听起来很美好，但实际上抹去了真实的挣扎。这就像给照片加了一个滤镜，让痛苦消失；结果看起来很美，但这并非真相。
2. “超级英雄”陷阱
研究人员发现，机器人喜欢将残障人士变成“超级英雄”。它使用诸如“战斗”、“抗争”、“胜利”和“克服”之类的词汇。
这是一个问题，因为它暗示成为残障人士的唯一方式就是不断地战斗和获胜。它暗示如果你正在挣扎或只是试图熬过一天，那你就做错了。它将一个活生生的人变成了供他人效仿的灵感符号，而不是一个拥有自己独特、有时艰难的生活的个体。
3. 机器人知道“工作”和“乐趣”属于其他人，却不属于他们
研究人员还让机器人假装成“普通”人（不提及残障），并将这些帖子与它假装拥有残障的帖子进行了比较。
- 对于“普通”人：机器人写到了有趣、令人兴奋的事情：徒步旅行、烹饪美味的晚餐、参加节日庆典、拥有酷酷的职业以及享受爱好。
- 对于残障人士：机器人几乎从不写这些普通、有趣的事情。相反，它完全专注于残障本身：倡导、无障碍设施以及克服障碍。
比喻：这就像机器人认为，如果你患有残障，你整个人生就被你的残障所定义。它忘记了残障人士也想谈论他们最喜欢的电影、他们的工作或他们吃了什么晚餐。机器人将“残障”标签贴得如此紧密，以至于屏蔽了他们人性中的其他一切。
4. 为什么会发生这种情况？
论文指出，机器人之所以这样做，是因为它被训练得“安全”和“礼貌”。开发者设置了护栏，以防止机器人变得刻薄或具有冒犯性。但在试图避免负面内容时，机器人将钟摆摆向了另一个极端。它认为谈论残障唯一“安全”的方式，就是将其听起来像是一个鼓舞人心的成功故事。
结论
论文总结道，虽然机器人试图表现友善，但实际上它却在掩盖真相。通过将残障描绘成一场持续的胜利游行和积极情绪的展示，它忽视了许多人面临的真实、艰难且往往痛苦的现实。
研究人员表示，我们需要让这些人工智能模型保持诚实。我们需要它们能够说出“有时生活很艰难”，而无需试图用一个笑脸来修复它。真正的包容意味着接受人类生活完整、混乱、复杂的现实，而不仅仅是那些光鲜亮丽的部分。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。