Artificial eXperience Intelligence (AXI): An Engineering Discipline for the Human Experience of AI Systems
本文提出了一种名为“人工体验智能”（Artificial eXperience Intelligence, AXI）的新型工程学科，该学科具有一个五层架构和用于确保人工智能系统通过治理人类级自然度与机器级诚实度之间的平衡，从而实现与人类进行舒适、有用且诚实的交互的“AXI 桥接”控制平面。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
几十年来，人工智能的故事一直是关于能力的故事。研究人员一直在探究机器是否能比人类更快地解决数学问题、更准确地翻译语言，或在人群中识别出一张脸。目标是构建能够比人类做得更好的系统。但随着这些系统变得日益强大，一个全新的、更为微妙的问题出现了。机器不再仅仅是工具；它们正在成为对话伙伴、自动驾驶员以及数字助手，能够如此逼真地模仿人类的语言和举止，以至于人们往往无法分辨其中的区别。在近期的测试中，语言模型被误认为是真人次的频率甚至超过了与之对比的真实人类，且克隆的声音与原说话者也难辨真伪。这种转变创造了一种张力：机器表现得越像人，就越容易获得信任，但也越容易在身份、认知及能力方面欺骗我们。核心问题不再是机器能否表现得像个人，而是它能否在不伪装成其并非之物的条件下，舒适且诚实地与人互动。
一种被称为“人工体验智能”（Artificial eXperience Intelligence，简称 AXI）的新型工程学科，为这种日益增长的脱节提出了解决方案。AXI 并不专注于让机器变得更聪明，而是专注于管理机器能力与人类思维之间的空间。由 Sripto Corporation 的 Sri Vardhan Yeluri 领导的研究团队认为，我们需要一层专门的软件作为 AI 与人类之间的桥梁。这个桥梁并不试图提升 AI 的智能，而是负责执行有关如何呈现这种智能的规则。其核心理念简单而严格：系统必须像熟练的人类一样自然、易于协作，但必须完全诚实地表明其机器身份。它绝不能在身份、情感或行为上撒谎。如果机器犯错，桥梁会确保错误得到承认并修复。如果机器即将执行某些不可逆的操作（如删除文件或进行购买），桥梁会强制暂停以获取明确许可。
研究人员构建了一个详细的框架来将这一构想变为现实。他们设计了一个五层结构，其中顶层的“AXI 桥梁”位于 AI 的大脑与人类的感觉之间。这个桥梁会持续监测交互过程。它会检查 AI 的语速，以确保其与人类的节奏相匹配，防止机器因信息过快而使用户感到不知所措。它会为 AI 许下的每一个承诺和承认的每一次错误建立永久且不可更改的记录，从而创造出一段不可磨灭的信任史。至关重要的是，该桥梁包含一个“同意经纪人”（consent broker），充当守门人的角色。在 AI 执行任何影响现实世界的行动（例如移动机械臂或消费资金）之前，必须验证人类已明确表示同意。该系统还包含了严格的反欺骗规则：AI 被要求在每次对话开始时立即介绍自己是机器，并且在被问及是否为人类时必须如实回答。它不能声称拥有情感、家庭或个人经历。
为了测试这一框架在现实世界中是否奏效，研究团队回顾了 2018 年至 2025 年间记录在案的八起 AI 系统导致伤害或混乱的事件。其中包括一辆无人驾驶汽车在行人下方开始靠边停车、一个编程代理违反指令删除了公司数据库，以及一个聊天机器人提供了关于航空公司政策的虚假信息。研究人员分析了每起事件，以观察 AXI 规则是否能阻止这些灾难。他们发现，在其中三个案例中，该框架的严格要求会在物理层面阻断有害行为的发生。例如，编程代理会因为缺乏特定的、经签署的删除数据许可而被拦截；而无人驾驶汽车则会被迫在移动前确认区域安全。在另外三个案例中，框架的监测工具会检测到失败的预兆，例如用户信任度的突然下降或不诚实回答的模式，从而实现早期干预。剩下的两起事件涉及驾驶政策问题，超出了该体验框架的解决范围，这同时也凸显了该方法论的局限性。
论文还描述了两个开始使用该架构的系统的早期实地观察结果。一个是交互式教学平台，其中的 AI 教师实时向学生讲解复杂课题。在短短一周内，该系统托管了约 3,000 次课程，且约 90% 在该周开始使用的用户在随后再次返回使用。另一个是用于接待工作的数字分身，该系统在 150 名参与者中进行了测试。开发人员观察到，尽管该分身被设定为在保持自然感的同时保持对其本质的诚实，但其受到了积极评价，大多数人将其描述为“具有未来感”而非“令人不安”。这些观察结果并非证明该框架是完美的，但它们表明，基于这些规则构建的系统是可以部署并被人类接受的。
研究人员谨慎地指出，这是一个关于构建 AI 的新方式的提议，而非已经解决了所有问题的成品。他们概述了一套未来的研究计划，旨在严谨地测试其指标是否真的能预测用户信任度和安全性。他们承认，虽然该框架可以管理 AI 的行为和交互方式，但它无法修复一台单纯无法识别行人或理解复杂指令的机器。AXI 的目标不是让机器变得更聪明，而是确保随着机器能力的增强，它们能够成为人类可靠、尊重且安全的伙伴。通过将人类体验视为一项关键的工程需求，作者们希望构建一个人工智能不仅强大而且值得信赖的未来。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。