A Lexical Analysis of online Reviews on Human-AI Interactions
这项初步研究通过对来自主要平台的 55,968 条在线评论进行词汇和因子分析，旨在识别影响人机交互的关键因素，从而为开发更以用户为中心的人工智能系统提供参考。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下数字世界是一座巨大且繁忙的城市，人类和机器人正试图在这里共同生活。长期以来，科学家们一直在研究我们如何与这些机器人交流，关注着宏大的问题，比如：“我们信任它们吗？”“这公平吗？”以及“我们的工作会发生什么变化？”但这里一直缺少一块拼图。我们了解大局，却并未真正倾听人们在日常使用这些工具时所发出的细微、具体的抱怨。这就像是知道一辆车很快，却不知道收音机坏了或者座椅太烫。这篇论文通过观察人们在使用 AI 软件时真实的、琐碎的反馈，深入探讨了这一缺失的部分。这不仅仅关乎如何制造机器人，更关乎倾听坐在驾驶座上的人。
研究人员 Parisa Arbab 和 Xiaowen Fang 决定扮演数字侦探的角色。他们没有要求人们填写枯燥的调查问卷，而是直接转向了源头：互联网。他们收集了来自三个热门科技网站（G2.com、Producthunt.com 和 Trustpilot.com）的大量数据，共计 55,968 条在线评论。把这想象成收集了 55,968 张明信片，每张明信片都来自刚刚尝试过某种新 AI 工具并有话要说的人。
为了理清这堆如山般的文本，他们使用了一种“词汇法”。想象一下，将这些评论中的每一个单词都拿出来，扔掉像“的”、“和”或“是”这样无意义的词，然后根据含义对剩余的单词进行分组。他们最终得到了一个包含 13,522 个重要单词（主要是名词和形容词）的庞大列表，这些词反映了人们描述自身体验时实际使用的语言。随后，他们使用了一种名为“探索性因子分析”的统计工具，将这些词汇分类，就像通过将所有的袜子归为一类、所有的衬衫归为一类来整理一个凌乱的衣柜一样。
他们的发现绘制了一张人类在与 AI 协作时面临的 15 种不同挑战 的地图。以下是论文根据人们使用的词汇所暗示的这些挑战的具体样貌：
- “机器人前台”问题（客服自动化）： 当 AI 聊天机器人试图处理复杂问题，却只能给出通用的、脚本化的回答时，人们会感到沮定的。这就像是在对着一台只会说“请投币”的自动售货机寻求退款。AI 缺乏解决棘手问题所需的“人情味”和同理心。
- “假新闻”工厂（内容质量）： 当 AI 撰写文章或检查抄袭时，它有时会弄错事实或忽略细微差别。这就像一个背诵了教科书但并不理解故事内涵的学生；他们写得很快，但细节可能站不住脚。
- “混乱的图表”（可视化）： AI 可以制作图表和图像，但有时它们非常令人困惑或不准确，无法帮助任何人理解数据。这就像拿到一张道路被画错位置的地图。
- “金钱数学”故障（财务运营）： 在银行业和会计领域，AI 需要做到完美。如果它在税务计算或交易中出了一个小错，后果将是巨大的。人们担心 AI 是否能在处理严格的资金规则时不出差错。
- “拼写陷阱”（拼写与语法）： 尽管 AI 本应修正我们的写作，但有时在系统内输入或使用 AI 的纠错功能本身就会产生新的错误。
- “堡垒”之难（云防火墙与安全）： 设置 AI 安全系统非常困难。界面往往过于复杂，人们也不信任 AI 的决策，因为他们看不出 AI 是如何保护他们的。这就像有一个保安锁上了门，却不告诉你为什么要锁。
- “监控摄像头”的两难境地（监控）： AI 擅长识别威胁，但也引发了对隐私的担忧。人们担心这些系统可能会过度监视他们，或者滥用他们的个人数据。
- “重型搬运工”问题（技术集成）： 将 AI 引入旧有的计算机系统就像试图把喷气发动机装进自行车里。它需要太多的动力、内存和技术知识，往往会导致整体运行变慢。
- “黑箱”（伦理决策）： 当 AI 做出选择（例如决定谁能获得工作）时，这往往是一个谜。人们担心公平性和透明度。如果 AI 存在偏见，它可能会在无人知晓原因的情况下不公平地对待他人。
- “信号静电”（信号完整性）： 有时 AI 接收到的信息是“嘈杂”或扭曲的，导致错误的行动。这就像在嘈杂的风暴中试图听清朋友说话，信息被混淆了。
论文指出，这些不仅仅是随机的抱怨；它们是定义当前人类与机器之间挣扎的特定且反复出现的特征。作者发现，虽然 AI 功能强大，但在需要人类同理心、深度语境、伦理判断和精确准确性的方面，它经常失手。
这项研究是一项“初步”的研究，这意味着它是更大规模调查的第一步。作者尚未解决所有这些问题，但他们已成功识别了 15 个主要的故障类别。通过了解摩擦发生的具体位置——无论是由于一个听不进话的聊天机器人，还是一个难以使用的安全系统——我们可以开始构建真正为我们服务、而非仅仅是“对着”我们工作的 AI。其目标是将这些令人困惑、沮丧的交互过程，转化为更加顺畅、更值得信赖的伙伴关系。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。